顧嶼手中的筆尖順著公式滑動：
“如果生成的回答偏離初始模型太遠，偏差過大，就首接在最終獎勵裡進行大幅度扣分懲罰。逼著它既要回答人類想聽的，又絕對不能偏離原本正常的語言邏輯規律。”
顧嶼停下筆，目光掃過實驗室裡的眾人：
“在資訊理論和機率統計裡，衡量兩個機率分佈之間差異的這把標尺，全稱叫做Kullback-Leibler divergence，也就是庫爾貝克-萊布勒散度。”
顧嶼手臂發力，筆尖重重地在公式尾端寫下兩個大寫字母。
“給它加入KL散度懲罰項。”顧嶼敲擊著白板，
“這樣就能徹底鎖死獎勵駭客的漏洞。”
任少卿推了一下眼鏡，盯著那個加上了KL懲罰項的方程。
樓天城從椅子上首接蹦了起來。
“對啊！拉住它的韁繩！”
“不僅要獎勵它的討好，還要懲罰它的過度變化。數學邏輯完全閉環，工程上絕對可行！”
林遠站在後方，大腦飛速運轉，他完全聽懂了顧嶼提出的這個概念。
極其精妙。只需在現有程式碼架構裡增加不到兩百行的損失函式計算模組，就能徹底解決困擾頂級團隊半個月的邏輯死局。
“那災難性遺忘呢？”任少卿急切追問。
“更好解決。”顧嶼將白板翻了個面，畫出兩個資料池交匯的草圖，
“你們現在做PPO強化學習，是不是隻用經過標註的問答資料在跑？”
任少卿點頭。
“格局小了。”顧嶼毫不留情地點評，
“不要只用微調資料去更新梯度。在強化學習的訓練池裡，按固定比例，首接混入初始的無監督預訓練語料。”
他在交匯點畫了一個大大的感嘆號。
“讓模型在應對考試打分的時候，既要看它懂不懂規矩，也要同時考它之前學過的基礎知識。為了拿到綜合高分，它就必須一邊學著變乖，一邊不斷複習原本的本領。再配合稍微放緩一點的學習節奏，它那種學了新規矩就忘掉老知識的毛病，就能壓制在百分之一以內。”
A1核心區安靜下來。
任少卿一把拽過終端鍵盤，十指在按鍵上砸得劈啪作響，首接在測試環境裡瘋狂重構程式碼邏輯，試圖推演顧嶼這兩個方案的數學極值。
五分鐘後，任少卿停下手，長長地吐出一口濁氣。
“顧總。”任少卿抬起頭，
“這兩套補丁方案完美契合現有的底層架構，不僅解決了問題，還把訓練效率最少提升了百分之三十！”
林遠靜靜站在原地，心跳如擂鼓。
他終於明白為什麼眼前這群心高氣傲的天才，會對一個還沒大學畢業的年輕人如此敬畏。
！道佈技的度維越場一是這，作工察視闆老業商麼什是不本這
。令指達下聲大室驗實個整著衝，手拍了拍城天樓”！架框法算演寫改手人有所織組上馬“
”！上集叢UPG在跑新重型模本版新到看要我，天三。練訓式散分完組三！合混做料資調微和，料語練訓預督監無始初調去組二！OPP進嵌碼式程的項罰懲度散LK寫去組一“
。鳴轟速全，擎引級超的料燃級頂了註加同如，躁暴與廢頹的前之了空掃底徹，語兩言三的嶼顧為因室驗實個整
。口一了喝，啡咖式的涼微杯那起端新重嶼顧
，點節務任練訓的劃規新重上幕螢大著看嶼顧”。改心放們你“
”。磕死們你陪地基安雅在就天每，去不也兒哪我假暑個這“
”。來出練訓全完的號三問天把，間時的快最用取爭“
”。代時大慧智工人的正真是才麼什，楚清看頭巨幫那谷矽讓要我。天那布發外對式正號三問天到等“
