陳工聽到這個問題，轉過頭來，耐心地解釋道：“現在用CPU訓練幾乎是唯一的選擇，CPU是通用處理器，它最擅長處理具有複雜分支的指令，神經網路在訓練過程中，不僅有矩陣計算，還伴隨著大量的臨時檔案讀寫，記憶體控制流跳轉，資料預處理等問題。”
“目前其他晶片，在處理這些複雜的控制流時，效率很低，會頻繁卡死。”
“而且現在的神經網路訓練需要耗費海量的記憶體來儲存權重和中間啟用值，我們的伺服器可以插上48GB甚至96GB的記憶體來支援。”
“可以說，用CPU來訓練神經網路就是業界約定俗成的標準答案！”
說完，陳工見漆昊沒什麼反應，以為他累了，就拍了拍他的肩膀：“別整天把自己繃得太緊，這事兒你不用管，後天齊教授就會來開組會，檢查我們上一階段的工作進度，剩下的工作不多，沒多久咱們這個課題基本上就能結題了。”
“我琢磨著，等組會開完，我帶大家一塊出去放鬆放鬆，附近新開了一家溫泉山莊，去泡個溫泉怎麼樣？去不去？”
泡溫泉？
漆昊緩過神，腦海中浮現出一幅畫面。
大冬天的，一個煙霧繚繞的池子裡，擠著十幾個平時不修邊幅的糙漢，大家坦誠相見，在溫水裡泡著。
漆昊暗自打了個冷戰，連忙找了個藉口：“陳工，我就不去了，怕水。”
陳工狐疑地上下打量了他一眼：“怕水？你一個一米八的大個子，泡個一米深的溫泉池子，你怕水？”
漆昊乾笑兩聲，說：“之前嗆過水。”
陳工立刻理解了，說：“原來如此，那這樣，泡溫泉取消，等開完組會，我帶大家去整一頓最給力的海鮮自助，這總行了吧？”
“這個好，我舉雙手贊成。”
“那就這麼定了！”
回到工位後，漆昊重新將注意力集中到了電腦上。
他翻了一會兒卡爾採夫的書，突然愣住了。
冷戰時期，蘇聯的半導體工藝全面落後於西方，算力拉胯，可卡爾採夫硬生生靠著大規模同步並行架構，支撐起了國家級系統的超級算力。
陳工的說法在當下的工程界確實沒錯，神經網路訓練中確實摻雜著資料讀取等細碎的控制操作，這些任務高度依賴CPU強大的通用排程能力和複雜指令處理能力。
這也是為什麼，如今不管是大廠還是高校，大家都老老實實地守著CPU訓練。
他意識到，所有人似乎忽略了一個最基礎的數學事實！
神經網路的核心算力消耗，從來不是那些細碎的控制流操作，而是海量的矩陣乘加運算！
也就是說，標準答案≠正確答案！
業界所有人都錯了！
上架感言
各位老闆們，不知不覺間，這本書居然要上架了。
最初開書的時候，我完全沒有想過會得到這麼多人的喜歡。
還走到了新書榜第二的位置（第一位是烏賊老師）
。裡這了到來擇選才，來出寫它把想，事故個一麼這有面裡子腦為因是粹純我始開剛
。在存的雜複個一是都，說來人分部大絕於對聯蘇，實其
。意敬生心埃維蘇的鬥而等平類人了為個那初當對會又但，作的它反們我
。統系的別特個一了計設我，裡書本這在以所
。曉揭家大為續後在將點一這，秘著帶自本統系
。展發的界世個這，後下倒聯蘇出現呈將也然當，識知的趣有門冷些一分再，代時的殊特個那原還量儘，角視的特獨個一用想我
。路道的己自了出走，生重現實，仗翻了打，力努的下上國全藉憑家國的有
。墜搖搖，本老吃靠則的有
。法說個這圈迴個一是史歷過說聽都該應家大
。前門們我了到吹，風那，轉流水風今如，爭相極兩，年當
。了演上始開又劇的似相
。變改未從，理真的足立能才大強自，了變人，了變間時使即，是的運幸
！了來下傳流且並，芽發生上地土的新在就早也子種想理紅
！的更有會定肯候時到，架上00:21午中）日11（天明在將書本
。）了限極是經已萬日，右左時小個兩一花要者作小字0002寫為因（了萬日力盡就後之者作小，話的0003破突能訂首是要，援支多多家大求懇
！芒的想理與技科證見，月歲紅的湧雲起風段一證見起一們我讓
！存永想理紅
！家大謝謝
