DPU和云操作系統(tǒng)

如果給你30秒鐘的時間，如何給投資人說明DPU是什么，可以做什么? 國內(nèi)外所有的商用DPU公司的CEO、CTO估計都講不清楚... 因為你無法在現(xiàn)實生活中找到一個恰當(dāng)?shù)睦诱f清楚。但實際上一句話就能說清楚：

大領(lǐng)導(dǎo)們(CPU)的時間很寶貴吧，所以一般來說都會有自己的助理，或者是一些大型的機(jī)構(gòu)都有負(fù)責(zé)Operation的團(tuán)隊，即便是傳統(tǒng)的企業(yè)也有辦公室主任的崗位。而DPU恰恰就是在干這個工作的。而基于這樣的視角就會明晰DPU的職責(zé)了,什么該做什么不該做點到為止。

可惜國內(nèi)的很多人都習(xí)慣了形容詞管理和各種越俎代庖，并且有句口頭禪：“我這是為你好啊”，做網(wǎng)絡(luò)的總喜歡沒事就幫你算個路徑， 做計算的總喜歡沒事就幫你Offload.

而一個好的助理總會把事情拿捏的很好，并把整個組織內(nèi)其他的成員(GPU/TPU/NPU ...DSA)協(xié)調(diào)溝通好,關(guān)鍵的決策(Branch)還是要交給領(lǐng)導(dǎo)(CPU).

所以從這個視角來看算力網(wǎng)絡(luò)就有點意思了，你幫人家調(diào)度不收錢圖個啥，你幫人家調(diào)度了收了錢憑啥？

這里引入到一個機(jī)構(gòu)的運(yùn)營，那么就不得不談操作系統(tǒng)這個話題了，曾經(jīng)畫過這樣一張圖:

當(dāng)然還留了一個尾巴,從架構(gòu)圖上來看,類似于底層上的神龍、洛神、盤古都有了，還缺一個飛天。那么這也正是渣今年的想在操作系統(tǒng)上進(jìn)行的探索.恰逢咱東川路男子技術(shù)學(xué)院IPad的ppt[1]，這場軟硬件融合的變革中，不碰到軟硬件結(jié)合的操作系統(tǒng)都屬于劃水、摸魚、耍流氓。

從異構(gòu)硬件的視角來看對操作系統(tǒng)的需求:

但是從指令集上面臨挑戰(zhàn):

兩階段編譯雖然能夠解決部分問題，但是需要觸碰到用戶代碼，而且對應(yīng)用非常不友好:

另一個問題是緩存一致性和內(nèi)存管理的問題，所以才有了OSDI18的SplitKernel的方案:

也就是說這樣,將處理器和內(nèi)存分離，并將MMU和TLB轉(zhuǎn)移到分離的MMU上

但是另一個問題來了,Latency Hiding如何解決,他們的選擇是加Cache

而我們的解決方案是通過存算一體的并行處理來解決指令集不一致和延遲隱藏的問題:

另一個問題是尋址的處理, P4來做MMU是不是會很爽,利用IP地址和內(nèi)存地址一起混合尋址,IP地址做頁索引.

而這樣的一套系統(tǒng)因為有了Memory Shim Layer,配合網(wǎng)絡(luò)本身的ACL能力做頁表隔離和inline加解密都可以非常容易的實現(xiàn)Enclave. 而至于多核多處理器同步的語義，基于BRAM的netDAM也可以很容易實現(xiàn)ffwd(SOSP'17)那樣的架構(gòu)， 將所有競爭者的臨界區(qū)集中到一個高速存算一體器件(NetDAM-SEQ)上.

那么接下來就有一個問題了， 進(jìn)程切換帶來的微秒級延遲和調(diào)度。而就操作系統(tǒng)而言，幾十年前是為了幾十個人共同使用一個電腦構(gòu)建的進(jìn)程、線程架構(gòu)，而現(xiàn)在呢？內(nèi)核該如何設(shè)計，本質(zhì)上應(yīng)當(dāng)把調(diào)度交還給用戶態(tài)，這也符合現(xiàn)在很多編程語言自身構(gòu)建協(xié)程庫的發(fā)展趨勢。另一方面是驅(qū)動的問題，內(nèi)核中大量的驅(qū)動帶來的問題是否可以通過memory shim layer來解決？答案是肯定的，這也是渣一直要搞memif的原因：

操作系統(tǒng)的發(fā)展在國內(nèi)有些緩慢，本質(zhì)上我們對Operating的定義是不精確的，更多的應(yīng)該有運(yùn)營和運(yùn)籌的意義。更廣義的談，字符，語言，文化深刻的影響著我們的思維方式和處事原則。象形文字本身具有更高的信息量，但同時卻弱于西方符號系統(tǒng)對于結(jié)構(gòu)的抽象和歸納，例如一個漢字微積分……同樣用中文描述抽象代數(shù)也是一個非常痛苦的事情，這也是導(dǎo)致整個代數(shù)學(xué)在國內(nèi)發(fā)展不好的原因。

偶然間讀到木心[2]一段話，似乎就釋然了……

中國的“人”和中國的“自然”，從《詩經(jīng)》起，歷楚漢辭賦唐宋詩詞，連綰表現(xiàn)著平等參透的關(guān)系，樂其樂亦宣泄于自然，憂其憂亦投訴于自然。在所謂“三百篇”中，幾乎都要先稱植物動物之名義，才能開誠詠言；說是有內(nèi)在的聯(lián)系，更多的是不相干地相干著。學(xué)士們只會用“比”、“興”來囫圇解釋，不問問何以中國人就這樣不涉卉木蟲鳥之類就啟不了口作不成詩，楚辭又是統(tǒng)體蒼翠馥郁，作者似乎是巢居穴處的，穿的也自愿不是紡織品。漢賦好大喜功，把金、木、水、火邊旁的字羅列殆盡，再加上禽獸鱗介的譜系，仿佛是在對“自然”說：“知爾甚深?！钡教拼?，花濺淚鳥驚心，“人”和“自然”相看兩不厭，舉杯邀明月，非到蠟炬成灰不可，已豈是“擬人”、“移情”、“詠物”這些說法所能敷衍。宋詞是唐詩的“興盡悲來”，對待“自然”的心態(tài)轉(zhuǎn)入頹廢，梳剔精致，吐屬尖新，盡管吹氣若蘭，脈息終于微弱了，接下來大概有鑒于“人”與“自然”之間的絕妙好辭已被用竭，懊惱之余，便將花木禽獸幻作妖化了仙，煙魅粉靈，直接與人通款曲共枕席，恩怨悉如世情——中國的“自然”寵幸中國的“人”，中國的“人”阿諛中國的“自然”？孰先孰后？孰主孰賓？從來就分不清說不明。

對于錢學(xué)森之問和李約瑟之問，很有可能都和這個問題有關(guān)。從1到100做的非常棒，因為你在自然中給國人賦予了型，而從0到1則是非常難的，因為本身的語言文化上并沒有很好的抽象能力，所以我們經(jīng)常的說，讓專業(yè)的人干專業(yè)的事，專業(yè)的人是什么？如何評價？或者按照現(xiàn)在集成電路和專用芯片那么火的行情來看，DSA ，Domain 怎么分？Specific 了什么？Architect 了啥？這幾個問題回答不清楚前的所有架構(gòu)都有over engineering 的嫌疑。

所以最終還是需要改變我們自己的思維方式、語言習(xí)慣，同時還要多一些文化自信，因為只有自信你才能有提出問題的能力, 否則就還是拿著自主可控玩著抄襲國外的事情，還美其名曰追趕國外先進(jìn)技術(shù)。當(dāng)然還有一些太過自信的閉關(guān)鎖國，別人限制什么就自己去另外做一套，最終做一個東西多一個敵人，例如某企業(yè)開始造車，本質(zhì)上前幾年各個主機(jī)廠都給它們提過:"你都做完了，我們做什么？" "我這些都做了是為你好呀" 這樣的事情一直在發(fā)生著。

審核編輯 ：李倩