0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

GIL在CPython解釋器中的工作原理是什么?

FPGA之家 ? 來源:編程技術(shù)宇宙 ? 作者:軒轅之風(fēng) ? 2021-03-22 10:01 ? 次閱讀

我是一個(gè)Python線程,我的工作就是解釋執(zhí)行程序員編寫的Python代碼。

之所以說是解釋執(zhí)行,是因?yàn)镻ython是高級語言,CPU那家伙不認(rèn)識(shí)Python代碼,需要運(yùn)行的時(shí)候動(dòng)態(tài)翻譯成CPU指令。

我把Python源代碼經(jīng)過“編譯”以后,變成了一個(gè)個(gè)的字節(jié)碼文件:.pyc,這是一個(gè)二進(jìn)制的文件,人類是看不懂的,只有我才能看懂。

然后我的工作就簡單了,不斷的取出字節(jié)碼文件中的“指令”解釋執(zhí)行,直到所有指令都執(zhí)行完成,我就可以休息了。

GIL

后來,多線程編程技術(shù)流行了起來,進(jìn)程里不止我一個(gè)線程了,又來了幾個(gè)新的伙伴。

本以為我們能和平共處,沒想到這一來就麻煩了,我們幾個(gè)各干各的,經(jīng)常把內(nèi)存空間搞出問題,也找不到背鍋的人。

終于有一天,我實(shí)在忍受不了了,召集大家商討個(gè)解決辦法。

“小伙伴們,咱們不能再這樣各搞各的了,咱們是一個(gè)Team,要彼此協(xié)作,一個(gè)線程可以走的很快,但一群線程在一起才能走的更遠(yuǎn)吶!”

“老大,你有什么想法你就直說吧”,另一個(gè)線程說到。

“要不,咱們加個(gè)鎖吧!簡單快捷,每個(gè)線程要執(zhí)行代碼,都得來申請這個(gè)鎖,申請到了才能執(zhí)行,否則就得等著”,我說到。

“那什么時(shí)候釋放呢?”

“要不弄個(gè)計(jì)數(shù)器,每個(gè)線程數(shù)到100就釋放,這樣保證別人有機(jī)會(huì)來執(zhí)行?”

“那怎么計(jì)數(shù)呢?每執(zhí)行一個(gè)字節(jié)碼就計(jì)數(shù)一次嗎?”

“可以,不過也不用那么死板,有些指令比較簡單的,很快可以完成,就可以不用計(jì)數(shù)了”

“好是好,但要是還沒數(shù)夠100,卻在執(zhí)行I/O操作阻塞了,還把鎖霸占的話,那不是資源浪費(fèi)嗎?”

小伙伴們七嘴八舌的討論著。

98cd1d28-8924-11eb-8b86-12bb97331649.png

我想了想說到:“那就這樣,把兩種情況結(jié)合一下,常規(guī)情況下數(shù)到100就釋放一次鎖,但如果遇到阻塞情況,也要提前釋放鎖,怎么樣?”

大伙紛紛點(diǎn)頭,達(dá)成了一致,隨后我們還給這個(gè)鎖取了一個(gè)名字:全局解釋器鎖GIL。

自從用上了GIL,我們大家伙干活都規(guī)矩多了,再也沒有出現(xiàn)把公共資源搞壞的情況了。

升級版GIL

再后來,多核技術(shù)開始興起了,一個(gè)CPU里面可以同時(shí)執(zhí)行多個(gè)線程。小伙伴們高興地把這個(gè)消息散播開了。

“老大,現(xiàn)在CPU有多核了,咱們可以一起執(zhí)行了,可不可以把那個(gè)GIL給去掉啊,這樣才能利用多核的優(yōu)勢啊?!?/p>

“是啊,隔壁Java線程老是嘲笑我們看起來人多,實(shí)際只有一個(gè)線程在執(zhí)行”

可說易行難,這么多年我們都是這樣工作的,要突然去掉,出了問題誰也不敢負(fù)責(zé)啊。

“可是老大,現(xiàn)在這個(gè)GIL鎖不公平”,新來的線程抱怨到。

“哪里不公平了?”

“我準(zhǔn)備執(zhí)行代碼,發(fā)現(xiàn)鎖在你的手里,只好原地等待,等了半天都睡著了,好不容易等到你釋放了,操作系統(tǒng)把我給喚醒,準(zhǔn)備去申請鎖,結(jié)果發(fā)現(xiàn)又被你搶到了,真是浪費(fèi)表情”,新的線程滿臉委屈。

“是啊,老大,我也發(fā)現(xiàn)了,這不是偶發(fā)現(xiàn)象,我觀察很久了,經(jīng)常都會(huì)發(fā)生!頻繁被喚醒,卻發(fā)現(xiàn)白忙活一場,白白浪費(fèi)CPU資源,大家都怨氣很大啊”,另一個(gè)線程伙伴也說到。

我有些不好意思,“嗯,這確實(shí)是個(gè)問題”

“還沒完呢”,新來的線程繼續(xù)說到:“現(xiàn)在按照字節(jié)碼指令數(shù)來統(tǒng)計(jì),但有些指令碼簡單,有些很復(fù)雜,導(dǎo)致同樣數(shù)到100,有些線程可以運(yùn)行很久,而有些就運(yùn)行很快就結(jié)束了,也不公平”

小伙伴們提的問題都很重要,看來是時(shí)候?qū)IL進(jìn)行一次升級了。

經(jīng)過一陣激烈的討論,我們改進(jìn)了原來對GIL,用上了新的策略:

不再用計(jì)數(shù)的方式,改用時(shí)間片的方式:每個(gè)線程的執(zhí)行時(shí)間片是5000微秒。

為了保證釋放GIL后,不被自己馬上又搶到,新增了一個(gè)鎖實(shí)現(xiàn)強(qiáng)制線程切換

改進(jìn)以后,這下總算公平了,各位小伙伴再也沒有話說,又可以安心的工作了。

結(jié)語

Python是一門解釋執(zhí)行的語言,擁有強(qiáng)大的第三方庫和跨平臺(tái)能力,近幾年P(guān)ython煥發(fā)了第二春,橫掃爬蟲、web開發(fā)、機(jī)器學(xué)習(xí)等眾多領(lǐng)域。

但長期以來,Python最為人詬病的就是它有一把鎖:GIL,這把鎖讓Python無法真正的實(shí)現(xiàn)多線程執(zhí)行,無法利用多核CPU的高性能。

實(shí)際上,這個(gè)鎖跟Python沒有半毛錢的關(guān)系,而是負(fù)責(zé)解釋執(zhí)行Python的解釋器:CPython的鍋。

CPython是用C語言編寫的Python解釋器,也是最廣為使用的Python解釋器,一般在沒有特殊說明時(shí),說Python指的就是這個(gè)CPython解釋器。

Python誕生之初,多線程技術(shù)還遠(yuǎn)沒有今天這么深入人心,甚至多核CPU也是Python誕生許多年后才出現(xiàn)的。早期的解釋器中為了支持多個(gè)線程,使用了粗暴的GIL來進(jìn)行控制,方便簡單的同時(shí),也成為了CPython的巨大歷史包袱。

Python3.2之前,Python使用簡單的計(jì)數(shù)法來統(tǒng)計(jì)控制每個(gè)線程執(zhí)行的時(shí)間。在這之后,引入了更為公平的時(shí)間片方式來升級替換。

過去二十年,曾經(jīng)有許許多多大牛都嘗試徹底去除GIL,但都沒有完美成功。

雖然Python沒能徹底去除GIL,好在,提供了其他幾種方式“曲線救國”實(shí)現(xiàn)并發(fā):

Ctypes通過編寫C語言擴(kuò)展與Python交互,在C語言層面繞過GIL實(shí)現(xiàn)多核利用。

MultiProcessPython提供了MultiProcess,通過多進(jìn)程的方式繞過GIL

協(xié)程協(xié)程又稱用戶態(tài)線程,Python3.4版本后新增了對協(xié)程的支持,也是對性能的提升提供了一種選擇。

這篇文章用第一人稱大白話的方式講述了GIL在CPython解釋器中的工作原理,大家都理解了嗎?歡迎留言交流~

原文標(biāo)題:天啦嚕!Python多線程居然是騙人的?

文章出處:【微信公眾號:FPGA之家】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

責(zé)任編輯:haq

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報(bào)投訴
  • python
    +關(guān)注

    關(guān)注

    54

    文章

    4758

    瀏覽量

    84293

原文標(biāo)題:天啦嚕!Python多線程居然是騙人的?

文章出處:【微信號:zhuyandz,微信公眾號:FPGA之家】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏

    評論

    相關(guān)推薦

    線性傳感工作原理

    線性傳感是一種檢測裝置,其工作原理基于輸入與輸出之間成線性關(guān)系的特性。以下是對線性傳感工作原理的詳細(xì)解釋
    的頭像 發(fā)表于 10-21 16:10 ?186次閱讀

    輔助電源的工作原理

     輔助電源的工作原理主要涉及主電源發(fā)生故障或不穩(wěn)定時(shí),自動(dòng)切換到備用電源,以保證設(shè)備的持續(xù)供電。以下是關(guān)于輔助電源工作原理的詳細(xì)解釋
    的頭像 發(fā)表于 10-21 14:56 ?148次閱讀

    鋅銀電池的工作原理

    鋅銀電池的工作原理主要基于鋅和銀兩種金屬之間的氧化還原反應(yīng)。以下是鋅銀電池工作原理的詳細(xì)解釋
    的頭像 發(fā)表于 10-03 14:59 ?272次閱讀

    cmos電流反饋運(yùn)放的工作原理是什么?

    這是一個(gè)cmos電流反饋型運(yùn)放的原理圖 誰能詳細(xì)的解釋一下它的工作原理 具體每個(gè)mos有什么用 如何實(shí)現(xiàn)放大的 謝謝了
    發(fā)表于 09-23 07:40

    光耦合工作原理介紹

    電子電路設(shè)計(jì),光耦合是一種關(guān)鍵元件,它通過光信號傳輸信息,實(shí)現(xiàn)電氣隔離。這種獨(dú)特的工作機(jī)制使得光耦合
    的頭像 發(fā)表于 09-14 10:37 ?287次閱讀
    光耦合<b class='flag-5'>器</b>的<b class='flag-5'>工作原理</b>介紹

    VCO的工作原理是什么

    VCO(Voltage-Controlled Oscillator,電壓控制振蕩)的工作原理是基于電子器件的非線性特性,通過改變輸入電壓來調(diào)整輸出信號的頻率。以下是對VCO工作原理的詳細(xì)闡述,包括其電路結(jié)構(gòu)、
    的頭像 發(fā)表于 08-20 17:16 ?589次閱讀

    磁阻效應(yīng)傳感工作原理

    傳感工作原理。 首先,需要了解一些基礎(chǔ)概念。材料中,電子具有自旋和電荷兩個(gè)性質(zhì)。自旋是量子力學(xué)的一個(gè)概念,指的是電子自身固有的旋轉(zhuǎn)角動(dòng)量。磁性材料的原子內(nèi)部的電子
    的頭像 發(fā)表于 03-06 15:54 ?1121次閱讀

    數(shù)字電位的基本工作原理 數(shù)字電位電路的作用

    至關(guān)重要的作用,可以用于音頻控制、亮度調(diào)節(jié)、電壓調(diào)節(jié)等許多應(yīng)用。本文將詳細(xì)解釋數(shù)字電位工作原理,并介紹其電路
    的頭像 發(fā)表于 02-02 13:51 ?4257次閱讀
    數(shù)字電位<b class='flag-5'>器</b>的基本<b class='flag-5'>工作原理</b> 數(shù)字電位<b class='flag-5'>器</b><b class='flag-5'>在</b>電路<b class='flag-5'>中</b>的作用

    發(fā)電系統(tǒng)負(fù)載有什么用?負(fù)載是什么工作原理和結(jié)構(gòu)?

    發(fā)電系統(tǒng)負(fù)載有什么用?負(fù)載是什么工作原理和結(jié)構(gòu)? 負(fù)載
    的頭像 發(fā)表于 01-04 15:29 ?733次閱讀

    信號隔離工作原理和作用

    信號隔離是一種廣泛應(yīng)用于工業(yè)控制系統(tǒng)的電氣設(shè)備,其主要功能是電路實(shí)現(xiàn)信號的隔離和傳輸。信號隔離可以有效地解決地環(huán)路干擾、電磁干擾等
    的頭像 發(fā)表于 01-03 11:22 ?2397次閱讀

    霍爾元件的工作原理及其低速測量的應(yīng)用

    霍爾元件的工作原理及其低速測量的應(yīng)用? 霍爾元件是一種常用的物理傳感,可以測量磁場的強(qiáng)度和方向。它是通過霍爾效應(yīng)來工作的,霍爾效應(yīng)是指
    的頭像 發(fā)表于 12-18 14:56 ?1229次閱讀

    數(shù)據(jù)轉(zhuǎn)換采樣過程的工作原理

    電子發(fā)燒友網(wǎng)站提供《數(shù)據(jù)轉(zhuǎn)換采樣過程的工作原理.pdf》資料免費(fèi)下載
    發(fā)表于 11-28 10:31 ?1次下載
    數(shù)據(jù)轉(zhuǎn)換<b class='flag-5'>器</b><b class='flag-5'>中</b>采樣過程的<b class='flag-5'>工作原理</b>

    數(shù)據(jù)轉(zhuǎn)換采樣過程的工作原理

    電子發(fā)燒友網(wǎng)站提供《數(shù)據(jù)轉(zhuǎn)換采樣過程的工作原理.pdf》資料免費(fèi)下載
    發(fā)表于 11-27 10:50 ?0次下載
    數(shù)據(jù)轉(zhuǎn)換<b class='flag-5'>器</b><b class='flag-5'>中</b>采樣過程的<b class='flag-5'>工作原理</b>

    電路怎么辨別運(yùn)放和電壓比較

    應(yīng)用中有著不同的功能和特點(diǎn)。本篇文章,我將詳盡、詳實(shí)、細(xì)致地解釋如何辨別運(yùn)放和電壓比較,并介紹它們的工作原理、應(yīng)用和差異。 首先,讓我
    的頭像 發(fā)表于 11-22 16:17 ?1184次閱讀

    振蕩工作原理解析

    在這篇文章,我們將介紹振蕩(OSC)的工作原理。
    的頭像 發(fā)表于 11-22 14:36 ?4240次閱讀
    振蕩<b class='flag-5'>器</b>的<b class='flag-5'>工作原理</b>解析