《1976步步生蓮》第2494章 既然已經走在前面了,就不能再落後(2)

作者:方寸山下·1個月前

而背地裡的驅動力是,大嶼山B實驗室對“悟空”的應用,讓專業人士們看到了更多的,讓人驚訝過後,滿是憧憬和期待應用方向。

決策確定後,為了少走彎路,吸取之前的一些教訓,決定讓計算機中心來領銜這項任務。

鄧副局長這趟來可園,屬於打前站,探一探口風。

沒辦法,任性就算了,脾氣還臭,嘴比脾氣更臭……

“曲主任……”鄧副局長稍稍醞釀了一下,開口:“你說咱們的這個架構超級計算機,能不能作為類似於悟空那樣的,人工智慧體的執行載體?”

“跑人工智慧呀……”曲卓稍稍琢磨了一下:“有優勢,也有劣勢。”

“能具體說說嗎?”鄧副局長打起精神,集中注意力傾聽接下來的話。

“架構從設計層面,就天然適配人工智慧體。”曲卓見鄧副局長神色認真,細緻的解釋:“多處理器支援多條獨立推理分支併發推演。

部分節點負責知識庫檢索、部分負責邏輯推導、部分負責自然語言解析。子任務隨時產生、隨時銷燬。每個處理器獨立執行不同程式、獨立分支、獨立指令流。

銀河有1024個處理器,比奧丁多一倍,理論推理和自訓練效率,高的不止一倍。”

鄧副局長努力記住,追問:“劣勢呢?”

“劣勢主要有四個方面。”曲卓放緩語氣:“首先,就是我剛說的通訊鏈路頻寬瓶頸。

雖然1024顆處理器組成10維超立方體,最遠節點之間僅需要10次資料轉發,網路平均延遲是可控的。但,只是小規模並行推理尚可。

一旦智慧體需要全域性知識庫檢索、跨大量節點交換上下文資訊,大量小包併發就會擠佔通道,出現網路擁塞。”

“稍等。”鄧副局長感覺單憑腦子根本記不住,從包裡掏出工作筆記和鋼筆。

翻到一個空白頁,先撿要點把之前聽到的技術侷限和適配人工智慧體的優勢記下來,又另起一頁。

稍稍回憶了下剛聽到的內容,記錄下通訊鏈路頻寬瓶頸和後面的解釋。

憑記憶寫完後,抬頭看曲卓。

“第二。”曲卓繼續:“單晶片本地記憶體只有2Kb,做科學計算夠用,但對人工智慧體要載入的龐大資料來說,太小了。

如果加外接記憶體,每一次讀取大容量知識庫,都需要透過序列鏈路向外存取,會加重我剛才說的通訊鏈路頻寬壓力,進一步推高延遲。”

稍稍給了鄧副局長一些記錄的時間,曲卓繼續說:“第三,也是我之前提到的,時鐘非同步的問題。

大規模叢集中,不存在全域性統一時鐘。當多節點需要同步協作推演時,必須額外增加同步握手協議,這會佔用,並持續消耗頻寬。

第四,動態負載均衡很難。AI智慧體推理任務的負載極不穩定,有的分支快速收斂,有的分支援續深度推演。

超立方體構架缺少全域性排程單元,容易出現一部分晶片滿載、一部分閒置,導致算力利用率波動巨大。

簡單的說,就是……空有很高的算力。但在實際使用中,資源無法被高效利用。一千多顆處理器忙的忙死,閒的閒死。

而這種負載不均衡的情況,又會加重溫度變化和電壓波動。時鐘抖動的情況進一步加劇,協作推演時效率更低,頻寬消耗更大,還加重網路堵塞。”

鄧副局長邊記錄邊消化,雖然對具體原理依舊不甚明瞭,但透過文字的紙面含義能看出來,四個點劣勢不是孤立存在的,而是相互關聯相互疊加……

猜你喜歡

同題材或同分類的其他作品。