“剛考完期末考試,暑假了。”顧嶼語氣平淡,
“聽少卿在飛書上彙報,說模型訓練卡在強化學習這一步了。我過來看看。”
站在老王身邊的林遠,整個人完全處於狀況外。
他看著這個穿著傑尼亞休閒衛衣、渾身上下透著股清澈大學生氣質的年輕人,腦子有點轉不過彎。
這裡可是九天算力中心最核心的A1實驗室。裡面站著的,是樓天城、任少卿這種在全球計算機視覺和演算法領域封神的人物。
這個年輕人不僅沒刷門禁卡就進來了,還讓任少卿這種級別的科研狂人擺出這種如釋重負的姿態?
“王工,這位是誰?”林遠用只有兩人能聽見的聲音詢問,
“公司新招的管培生?還是投資方派來的代表?”
老王轉過頭,眼神複雜地看了林遠一眼,同樣壓低聲音:
“什麼管培生。這是迴響科技的董事長,顧嶼。咱們整個迴響、九天算力中心,全是他的產業。”
林遠眼皮狠狠跳了一下。
他回國前做過詳盡的背調,知道九天背後站著一家實力恐怖的中國網際網路巨頭。
但他從未想過,那個豪擲數百億現金在深山裡挖空山體建算力中心的老闆,居然是個看著還沒畢業的大學生。
“別光看年紀。”老王看著林遠的反應,輕聲補了一句,
“你剛才看到白板上那個RLHF機制了吧?”
林遠木訥地點頭。那個極其天才的強化學習反饋架構,正是讓他驚歎九天技術底蘊的核心所在。
“那個機制最初的數學邏輯,還有咱們丟擲去那篇震驚矽谷的Transformer架構論文,底層的自注意力機制構想,全是他提出的。”老王的聲音壓得極低,卻字字砸在林遠心坎上,
“樓教主和任工遇到走不通的死衚衕,只有他能指明方向。”
林遠腦子裡嗡地一聲。
斯坦福的驕傲在這一刻裂開了一條縫。
一個掌握百億資本的董事長,不僅懂技術,而且在最前沿的AI理論上領跑全球最頂尖的科學家?
這種事情完全超出了他的認知常理。
“獎勵駭客現象,還有模型微調帶來的災難性遺忘。”顧嶼準確地念出任少卿總結的兩個痛點。
樓天城蹲在椅子上,煩躁地抓著本就凌亂的頭髮:
“這東西太狡猾了。為了刷高獎勵模型的分數,它瘋狂堆砌廢話,稍微約束一下,它連基礎數學公式都全忘了。我們在損失函數里加了七八種正則化限制,全都沒用。算力在空轉,資金每天都在燒!”
顧嶼看著螢幕上不斷滾動的錯誤日誌,神色平靜。
這兩個問題,在2016年這個全球AI界連大模型門檻都沒摸到的時間節點,確實是絕症。
沒有任何論文可以參考,沒有任何開原始碼可以借鑑。
。題問手新的別級書科教是過不這,年4202的街大爛源開型模大、戰大模百個那世後在但
。案方的用可強勉個一出堆錯試的量海靠能才,月個八到七索中暗黑在要至們他,撐支力算的盡無安雅有怕哪,才天群這的有現天九憑僅,憶記的世前有沒果如
。裡這在就”案答準標“,裡這在站嶼顧是但
”。寬太得也子步的新更型模,了大太力權的型模勵獎給們你“
。式公導推學數的新全行一下寫速迅上板白在筆克馬的中手,過轉嶼顧
,法解擲丟地晰清理條嶼顧”。型模座底始初個那的前之調微做們你是就也,型模考參個一引須必。跑而型模勵獎好討了為樣一馬野的韁像型模讓能不們你,候時的數引新更法算演OPP在“
”。異差佈分的上率機出輸元詞在型模始初和它算計時即要還,分多給型模勵獎看要僅不,答回生型模新次每“
。喻比的象形個一了出給,城天樓向看頭轉嶼顧
”。差偏的來帶化變種這化量去工學數用是就,的做要們我。變劇生發會就佈分言語的它,時彙詞確正治政砌堆狂瘋者或話廢轆軲車滿始開,統系分打合迎了為它當。律規詞用和慣習話說的常正己自有它,者學的攔遮無口但書群覽博個一像就型模始初,方比個打“








