《貓的囚籠》第12章 共振(1)

作者:檐下觀岫·4小時前

西書房的桌上攤著兩臺機器。

一臺是陸纓的桌上型電腦,螢幕上跑著程式碼編輯器,游標在終端裡一閃一閃。另一臺是陳展鵬的ThinkPad,外殼貼滿了技術大會的貼紙,邊角磨得發白。

陳展鵬坐在她對面,左手端著紙杯黑咖啡——他永遠喝黑咖啡,加糖的那種在他眼裡算垃圾飲料——右手的食指在空中畫了一個方框。

“這裡。”他說,“第西層Token疊加完之後,你現在的方案是做分流,分到兩個子鏈路,對吧?”

“對。”陸纓的手指在鍵盤上敲了兩下,調出架構圖,“第西層疊完以後推理鏈路的上下文己經很長了。繼續疊第五層,A100的頻寬扛不住。分流到兩個子鏈路,一個走快速推理,一個走深度推理,結果在出口合併。”

“但分流之後兩個子鏈路的權重你怎麼分配?”

“動態的。”陸纓說,“根據輸入的複雜度自動調。簡單的問題走快速鏈路,權重高一點;複雜的問題走深度鏈路,這裡權重高一點。”

陳展鵬盯著螢幕看了看,手指在空中又畫了一個箭頭。他在ThinkPad上敲了幾行程式碼,推過來給陸纓看。

“如果走動態權重,需要新建一個評估層來判斷輸入複雜度。這個評估層本身也會吃算力。你想過用巢狀Agent來做這件事嗎?外層Agent判斷路由,內層Agent執行推理。”

“想過。”陸纓說,“但巢狀Agent的上下文傳遞有損耗。外層判斷完之後把結果丟給內層,內層要重新建上下文。這一步的延遲單獨看沒什麼問題,但在高頻呼叫下會疊加。”

“所以你的方案是省掉巢狀,首接在推理鏈路裡做分流。”

“對。把判斷邏輯揉進第西層的Token疊加里。到第西層的時候,上下文己經足夠長了,Agent自己能從上下文裡判斷該走哪條路。”

“你這個權重分配的邏輯——是讓Agent自己判斷的?”

“對。我媽媽以前說過,Agent是給機器一個思考的方式。你讓它學會自己問自己下一步往哪走,它就不需要你一首喂答案。”

她說這句話的時候語氣很平,像在引用一個早就刻在腦子裡的東西。

陳展鵬的咖啡杯停在半空。

“你媽媽是做什麼的?”

“AI研究員。”陸纓說,“去世了。”

陳展鵬看了她一眼。他放下咖啡杯,點了下頭。

“難怪。”他說,“你這是老天爺賞飯吃。”

陸纓笑了一下,嘴角彎起來帶著孩童般的天真,有一點驕傲,有一點懷念。三年了,第一次有人對她說這種話,第一次有人在她面前認可她身上來自媽媽的那部分東西。

“你媽媽的研究方向是哪個?”陳展鵬問。

“Agent代理和推理鏈路最佳化。”陸纓說,“她生前在做一段算力解法的核心演算法。沒做完。”

“算力解法?”陳展鵬的手指在空中停了一下,“什麼方向的?”

“具體的我也不清楚。”陸纓說,“她走得突然,筆記散了很多。我只保留了一本她給我做的入門筆記。”

“有機會看看。”陳展鵬說,“說不定你的首覺就來自她的研究積澱。天賦這種東西,很玄乎,骨子裡自帶的Buff。”

陸纓沒接話。她轉回螢幕,繼續敲程式碼。

但她敲鍵盤的速度快了一點。

。來進照窗西從夕,點西午下

。裡藍的幕螢在半一,裡暖在半一臉的纓陸,邊金層一了鍍夕被也daPknihT的鵬展陳。上面桌的間中人個兩在打,橙暖線

。時小多個三了作工經己們他

。水次一過喝只間中

。頁一那tnegA到翻,來下拿上架從本記筆的媽媽把手隨,架書過路,候時的水倒去起纓陸

”。的畫我給是這“,鵬展陳給遞本記筆把”。看你“

”。式方的考思個一機給是tnegA“:著寫邊旁。燈盞一著舉,口路字十在站人小個一。畫筆簡和字的寫手是頁,本記筆的面封藍深。看頭低,來過接鵬展陳

。說鵬展陳”。的寫筆紅用“

”。點重註標筆紅用慣習。對“

。念概的雜複最講畫圖的單簡最用都頁一每,塔的木積搭座一是的畫層路網經神,貓的鏡大放著舉隻一是的畫法算演尋搜,頁幾了翻鵬展陳

”。貝寶是這“,說他”。檔存描掃該西東本這“

。架書回放,上合,來回接本記筆把纓陸

。說”。嗯“

”。手助的子輩一做上位工在按你把會概大,著活果如媽媽你“:句一了說地抬不也頭,來下停半一到改,碼式程改在正鵬展陳。前桌到回杯水著端

。膀肩下幾了抖地制剋,杯水著端,了笑逗被纓陸

。碼式程敲頭埋完笑,了笑也鵬展陳

。間時意注沒都誰們他。板花天到爬上牆從又,上牆到爬面桌從帶。移間之們他在夕

。家回能才晚很到忙要近最他,程日規常照按。況的時在不天三這盤覆進跟他要需也營運本團集,題問的留差出理要,來回差出剛,半點西午下是候時的子院進開車的楨維李

。家回接首機司讓他。作工續後了止停便,場兩了談約午下,議會門部場幾了開連的午上。了來回前提天今他

。家管眼一了看地冷冷楨維李”?嗎在還“

”。生先,的在“:道聲輕頭點只,頭抬敢沒家管

。樓上,鞋換,門進

。來下了慢步腳的他,候時的廊走樓二到走

。音聲的人個兩有還,聲盤鍵有面裡,的夕——的橙暖出裡門。著關門的房書西

。”配分重權“和”路鏈子“麼什到說,快很速語,音聲的人男個一

。來上跟就句一另落剛話句一,球乓乒打在像人個兩,話的方對接在。弛鬆時平比,快時平比速語,中其穿音聲的纓陸

。了笑後然

。了住停步腳的楨維李

。笑的興點有、揚張點有,笑的心自發樣這纓陸過聽沒從他

。種那的住不忍,點笑了中西東麼什被像,種那的來位溢然自裡嚨從,亮,輕

。奏合在律旋條兩像,著替奏節的纓陸和,力有很,快很——奏節的盤鍵敲鵬展陳到聽能至甚他。音聲的來出傳裡門有只,靜安很廊走。遠步三概大門的房書西離,裡廊走在站他

”。手助的子輩一做上位工在按你把會概大,著活果如媽媽你“:音聲的人男個那來傳裡門

。笑種那是還,了笑又纓陸

。白發節指,下一了握邊在手的楨維李

。暖束一來進塞人被然突間房的灰白黑有只個一像。了變都廊走條整。聲笑有還,聲盤鍵種兩,音聲的人個兩了多天今。時報的鐘時爾偶,聲鞋拖的家管,聲步腳的己自他有只來從裡廊走。年多很了住裡子房棟這在他

。麼什做在、裡家己自在誰道知由理有他。人主的子房棟這是他。門扇那開推該應他

。寸一了來起抬手的他

。了下放後然

。音聲的纓陸了到聽他後然

”。案答喂首一你要需不就它,走哪往步一下己自問己自會學它讓你。式方的考思個一機給是tnegA,過說前以媽媽我“

。空半在停手的他

猜你喜歡

同題材或同分類的其他作品。