《AI時代:碼農的涅盤重生》第62章 計算資源的限制(1)

作者:Flint8·6天前

書房裡,林晨盯著螢幕上緩慢爬行的進度條,眉頭緊鎖。

他的宏碁暗影騎士遊戲本,三年前為了偶爾打打《守望先鋒》買的,此刻正發出直升機起飛般的風扇轟鳴。螢幕上,PyTorch 正在訓練一個用於分析 A 股市場行業輪動規律的 LST長短期記憶)網路。

資料集不算大,不過是過去五年申萬一級行業指數的日度收益率序列,但模型跑了快一個小時,才完成了不到 30 個 epoch(訓練輪次)。

“這速度……”林晨揉了揉發脹的太陽穴,手指無意識地敲擊著桌面。

他開發的“晨曦一號”智慧投資系統,核心模組之一就是這個行業輪動模型。

原理不復雜:利用 LST捕捉不同行業板塊間複雜的時序依賴關係,試圖預測未來一段時間內哪些行業可能跑贏大盤。想法很好,程式碼也調通了,但訓練速度成了攔路虎。

筆記本的 GTX 1060 顯示卡,6GB 視訊記憶體,在 2023 年玩主流遊戲都勉強,拿來跑稍複雜點的深度學習模型,更是力不從心。

林晨已經儘可能優化了:減小批次大小(batch size)、使用混合精度訓練、把能放到 CPU 上的預處理都挪出去……但硬體天花板就在那裡。

更讓他焦慮的是時間。

再次失業在家三個多月,存款數字在緩慢但堅定地下降。鵬城的房貸、一家三口的生活費、樂樂幼兒園的學費……每一樣都是實實在在的壓力。

他必須儘快讓這個系統跑起來,驗證其有效性,甚至開始產生收益。時間,某種意義上比金錢更珍貴。

“不能等”。林晨關掉了訓練程式。

風扇聲逐漸平息,書房恢復了安靜,只剩下窗外隱約傳來的車流聲。

他開啟瀏覽器,開始搜尋“深度學習 訓練 加速”“個人 GPU 伺服器”“雲伺服器 AI 訓練”。

資訊如潮水般湧來。知乎、CSDN、GitHub 上的討論帖,技術部落格的測評,各大雲服務商的廣告……

他泡了杯濃茶,像當年準備高考一樣,開始系統性地研究和記錄。

首先是自己組裝一臺深度學習工作站。

他快速列了個配置單:RTX 3090 顯示卡(24GB 視訊記憶體,當時的高階卡)大概一萬二;配套的 CPU、主機板、大記憶體、大功率電源、機箱……整套下來,兩萬塊打不住。

這還沒算可能需要的多卡並聯(為了更大模型或更快訓練)。

兩萬塊,幾乎是目前家庭備用金的十分之一。而且,一臺固定配置的機器,可能很快又面臨效能瓶頸或技術迭代。

“太重了,也不靈活。”林晨在“自建工作站”後面打了個叉。

失業期投入這麼大一筆固定資產,風險太高。

接著是雲伺服器。

阿里雲、騰訊雲、華為雲、AWS、Google Cloud……他一個個官網點進去,找到它們的 GPU 計算例項產品頁面。

價格讓他倒吸一口涼氣。

以阿里云為例,一臺配備單顆 NVIDIA V100(32GB 視訊記憶體,專業計算卡)的 gn6v 例項,按量付費(用多久算多久錢)的價格,每小時接近三十元。

如果包月,一個月要一萬多。

騰訊雲、華為雲的同類產品價格也大同小異。AWS 的 p3 例項更貴。Google Cloud 的 TPU(張量處理單元)倒是專門為 TensorFlow 最佳化,但他現在主攻 PyTorch,而且 TPU 例項價格也不菲。

。力無陣一到晨林。”的擔負期長能者發開人個是不本這“

。板花天著看,上子椅在癱他

接法無得低將率效驗實、度速代迭那?週一至甚天幾練訓型模個一?磨慢慢本記筆用?裡這在卡被要就道難

猜你喜歡

同題材或同分類的其他作品。