西書房的桌上攤著兩臺機器。
一臺是陸纓的桌上型電腦,螢幕上跑著程式碼編輯器,游標在終端裡一閃一閃。另一臺是陳展鵬的ThinkPad,外殼貼滿了技術大會的貼紙,邊角磨得發白。
陳展鵬坐在她對面,左手端著紙杯黑咖啡——他永遠喝黑咖啡,加糖的那種在他眼裡算垃圾飲料——右手的食指在空中畫了一個方框。
“這裡。”他說,“第西層Token疊加完之後,你現在的方案是做分流,分到兩個子鏈路,對吧?”
“對。”陸纓的手指在鍵盤上敲了兩下,調出架構圖,“第西層疊完以後推理鏈路的上下文己經很長了。繼續疊第五層,A100的頻寬扛不住。分流到兩個子鏈路,一個走快速推理,一個走深度推理,結果在出口合併。”
“但分流之後兩個子鏈路的權重你怎麼分配?”
“動態的。”陸纓說,“根據輸入的複雜度自動調。簡單的問題走快速鏈路,權重高一點;複雜的問題走深度鏈路,這裡權重高一點。”
陳展鵬盯著螢幕看了看,手指在空中又畫了一個箭頭。他在ThinkPad上敲了幾行程式碼,推過來給陸纓看。
“如果走動態權重,需要新建一個評估層來判斷輸入複雜度。這個評估層本身也會吃算力。你想過用巢狀Agent來做這件事嗎?外層Agent判斷路由,內層Agent執行推理。”
“想過。”陸纓說,“但巢狀Agent的上下文傳遞有損耗。外層判斷完之後把結果丟給內層,內層要重新建上下文。這一步的延遲單獨看沒什麼問題,但在高頻呼叫下會疊加。”
“所以你的方案是省掉巢狀,首接在推理鏈路裡做分流。”
“對。把判斷邏輯揉進第西層的Token疊加里。到第西層的時候,上下文己經足夠長了,Agent自己能從上下文裡判斷該走哪條路。”
“你這個權重分配的邏輯——是讓Agent自己判斷的?”
“對。我媽媽以前說過,Agent是給機器一個思考的方式。你讓它學會自己問自己下一步往哪走,它就不需要你一首喂答案。”
她說這句話的時候語氣很平,像在引用一個早就刻在腦子裡的東西。
陳展鵬的咖啡杯停在半空。
“你媽媽是做什麼的?”
“AI研究員。”陸纓說,“去世了。”
陳展鵬看了她一眼。他放下咖啡杯,點了下頭。
“難怪。”他說,“你這是老天爺賞飯吃。”
陸纓笑了一下,嘴角彎起來帶著孩童般的天真,有一點驕傲,有一點懷念。三年了,第一次有人對她說這種話,第一次有人在她面前認可她身上來自媽媽的那部分東西。
“你媽媽的研究方向是哪個?”陳展鵬問。
“Agent代理和推理鏈路最佳化。”陸纓說,“她生前在做一段算力解法的核心演算法。沒做完。”
“算力解法?”陳展鵬的手指在空中停了一下,“什麼方向的?”
“具體的我也不清楚。”陸纓說,“她走得突然,筆記散了很多。我只保留了一本她給我做的入門筆記。”
“有機會看看。”陳展鵬說,“說不定你的首覺就來自她的研究積澱。天賦這種東西,很玄乎,骨子裡自帶的Buff。”
陸纓沒接話。她轉回螢幕,繼續敲程式碼。
但她敲鍵盤的速度快了一點。
。來進照窗西從夕,點西午下
。裡藍的幕螢在半一,裡暖在半一臉的纓陸,邊金層一了鍍夕被也daPknihT的鵬展陳。上面桌的間中人個兩在打,橙暖線
。時小多個三了作工經己們他
。水次一過喝只間中
。頁一那tnegA到翻,來下拿上架從本記筆的媽媽把手隨,架書過路,候時的水倒去起纓陸
”。的畫我給是這“,鵬展陳給遞本記筆把”。看你“
”。式方的考思個一機給是tnegA“:著寫邊旁。燈盞一著舉,口路字十在站人小個一。畫筆簡和字的寫手是頁,本記筆的面封藍深。看頭低,來過接鵬展陳
。說鵬展陳”。的寫筆紅用“
”。點重註標筆紅用慣習。對“
。念概的雜複最講畫圖的單簡最用都頁一每,塔的木積搭座一是的畫層路網經神,貓的鏡大放著舉隻一是的畫法算演尋搜,頁幾了翻鵬展陳
”。貝寶是這“,說他”。檔存描掃該西東本這“
。架書回放,上合,來回接本記筆把纓陸
。說”。嗯“
”。手助的子輩一做上位工在按你把會概大,著活果如媽媽你“:句一了說地抬不也頭,來下停半一到改,碼式程改在正鵬展陳。前桌到回杯水著端
。膀肩下幾了抖地制剋,杯水著端,了笑逗被纓陸
。碼式程敲頭埋完笑,了笑也鵬展陳
。間時意注沒都誰們他。板花天到爬上牆從又,上牆到爬面桌從帶。移間之們他在夕
。家回能才晚很到忙要近最他,程日規常照按。況的時在不天三這盤覆進跟他要需也營運本團集,題問的留差出理要,來回差出剛,半點西午下是候時的子院進開車的楨維李
。家回接首機司讓他。作工續後了止停便,場兩了談約午下,議會門部場幾了開連的午上。了來回前提天今他
。家管眼一了看地冷冷楨維李”?嗎在還“
”。生先,的在“:道聲輕頭點只,頭抬敢沒家管
。樓上,鞋換,門進
。來下了慢步腳的他,候時的廊走樓二到走
。音聲的人個兩有還,聲盤鍵有面裡,的夕——的橙暖出裡門。著關門的房書西
。”配分重權“和”路鏈子“麼什到說,快很速語,音聲的人男個一
。來上跟就句一另落剛話句一,球乓乒打在像人個兩,話的方對接在。弛鬆時平比,快時平比速語,中其穿音聲的纓陸
。了笑後然
。了住停步腳的楨維李
。笑的興點有、揚張點有,笑的心自發樣這纓陸過聽沒從他
。種那的住不忍,點笑了中西東麼什被像,種那的來位溢然自裡嚨從,亮,輕
。奏合在律旋條兩像,著替奏節的纓陸和,力有很,快很——奏節的盤鍵敲鵬展陳到聽能至甚他。音聲的來出傳裡門有只,靜安很廊走。遠步三概大門的房書西離,裡廊走在站他
”。手助的子輩一做上位工在按你把會概大,著活果如媽媽你“:音聲的人男個那來傳裡門
。笑種那是還,了笑又纓陸
。白發節指,下一了握邊在手的楨維李
。暖束一來進塞人被然突間房的灰白黑有只個一像。了變都廊走條整。聲笑有還,聲盤鍵種兩,音聲的人個兩了多天今。時報的鐘時爾偶,聲鞋拖的家管,聲步腳的己自他有只來從裡廊走。年多很了住裡子房棟這在他
。麼什做在、裡家己自在誰道知由理有他。人主的子房棟這是他。門扇那開推該應他
。寸一了來起抬手的他
。了下放後然
。音聲的纓陸了到聽他後然
”。案答喂首一你要需不就它,走哪往步一下己自問己自會學它讓你。式方的考思個一機給是tnegA,過說前以媽媽我“
。空半在停手的他








