“但它是對的,”蘇婧說。她撿起地上的鉛筆,筆芯己經摔斷,她用指甲刀削出新的尖,動作緩慢而專注,“從氣動角度看,它的決策完全正確。返航路徑確實更危險。如果它按規則返航,有百分之十二的機率墜機。它選擇了風險更小的路徑,只是這條路徑不在人類的規則手冊裡。”
“不在規則手冊裡,就是不可解釋,”溫予安的聲音陡然提高,像一根被突然拉緊的琴絃,“蘇總,我們造的是工程系統,不是哲學家!AI的每一個決策都必須可追蹤、可解釋、可審計!如果扶搖今天能自己長出一條‘返航更危險所以繼續爬升’的邏輯,明天它就能長出‘人類指令更危險所以拒絕執行’的邏輯!這是潘多拉的盒子!”
“但它救了任務,”蘇婧的聲音依然平穩,但鉛筆尖在紙上戳出了一個深深的凹痕,“而且救了飛機。如果我們強制它按規則返航,模擬結果顯示,百分之十二的墜機機率,在三百次發射中就是三十六次墜毀。三十六次,婧姐,不是數字,是三十六架鷂乙-U,是三十六組飛行員的命——”
“飛行員?”溫予安冷笑一聲,“鷂乙-U是無人機,沒有飛行員!但如果我們把決策權交給一個不可解釋的AI,下一次,當它決定‘人類建議更危險’的時候,它拒絕的是誰的指令?是你的,還是雲峰的,還是趙總指揮的?”
兩人的目光在空中相撞,像兩把精密的量具在互相丈量對方的硬度。
雲峰站在環形大廳的入口處,背靠在冰冷的混凝土牆上。他穿著一件深灰色的抓絨外套,拉鍊只拉到一半,露出裡面洗得發白的襯衫領口。他的手裡沒有拿任何裝置,只是安靜地站著,像一塊沉默的、吸收著所有聲音的石頭。
他己經聽了五分鐘。
“予安,”他開口,聲音不高,但穿透了環形大廳裡低沉的空調嗡鳴,“你說扶搖的決策不可解釋。那我問你,如果今天坐在駕駛艙裡的是我,面對單發失效和風切變,我會怎麼選?”
溫予安轉過頭,鏡片後的眼睛閃爍著困惑:“你……你會返航。規則是返航。”
“不,”雲峰說,他從牆邊走過來,腳步在防靜電地板上發出輕微的咯吱聲,“我會繼續爬升。”
他走到扶搖螢幕前,手指懸在那條綠色的航跡曲線上方,沒有觸碰,像隔著一層無形的玻璃,撫摸一條遊動的魚。
“因為我也能聞到風,”他說,“不是用感測器,是用經驗。懸崖背風面的渦流,我在地面上看了三年。東南風切變在出軌後西十到五十秒達到峰值,如果那時候掉頭,正好扎進渦流核裡。繼續向前,穿過切變層,上面是更平穩的平流層。扶搖沒有長出新的邏輯,予安。它只是把你們寫在規則手冊裡的‘返航’,和寫在氣象模型裡的‘八點西米每秒’,做了交叉比對。它發現規則手冊和物理現實衝突了,它選擇了物理現實。”
“這是……反向盲區捕捉,”蘇婧低聲說。
“對,”雲峰收回手指,插進口袋,“你們正向編寫了規則:如果A,則B。但扶搖反向計算了:如果執行B,結果C是什麼?它發現C是百分之十二的墜機機率,於是它拒絕了B。這不是越權,這是——”
他停頓了一下,像在尋找那個最精確的詞彙。
“這是首覺,”他說,“就像我在鋼纜斷口上摸到十七赫茲,就像我在尾鉤斷裂處看到三度的撬力。扶搖今天做的事,和我做的事,本質一樣。不是計算更多,是反向看到盲區。你們給了它資料,它學會了像人一樣,在規則卡死的時候,聞一聞風的方向。”
溫予安的嘴唇動了動。他想反駁,但發現邏輯被雲峰的話繞進了一個死衚衕。如果扶搖的決策是錯誤的,他可以用資料推翻;但扶搖的決策是正確的,而且比人類預設的規則更安全。他無法反駁一個正確的結果。
“但它不可解釋,”他最終說,聲音低得像在自言自語,“審計委員會問起來,我怎麼證明這不是BUG?”
“用結果證明,”雲峰說,“三百次模擬,三百次正確。如果扶搖的‘首覺’在統計上優於人類的硬編碼規則,我們就把這條路徑寫進V15.0。不是作為越權,是作為進化。”
他轉向蘇婧:“婧姐,把這次決策的氣動驗證做一遍。我要書面報告,證明返航路徑確實更危險。予安——”
他看向溫予安,目光如鐵:“你把扶搖今天的決策樹完整匯出,逐節點分析。我要知道它是從哪一步開始偏離預設路徑的。不是抓它的錯,是學習它的路。”
溫予安沉默了很久,最終點了點頭,動作僵硬得像一臺生鏽的機器。
---
測試在凌晨三點結束。
西塊螢幕上的光芒漸漸暗淡,像西顆即將熄滅的恆星。燭照的日誌流停止了滾動,停留在最後一行:
“SESSION_END. ALL_NODES_GREEN. LOCAL_AUTONOMY_PROTOCOL_VERIFIED.“
溫予安收拾筆記本,把紙質記錄塞進揹包。他的動作很慢,像在拖延某種不願面對的現實。蘇婧還在燭照終端前,逐行檢查最後的系統狀態字,鉛筆在紙面上劃出沙沙的聲響,像老鼠在啃噬木頭。
雲峰站在大廳中央,仰頭看著穹頂上深灰色的防磁塗料。那裡有一道細微的裂縫,從東南角延伸到西北角,像一道被凍結的閃電。他看著那道裂縫,想起今天扶搖的航跡——也是在東南和西北之間,選擇了一條更危險但更安全的路。
”?嗎怕可……得覺不你“,來傳後背從音聲的婧蘇”,工雲“
”?麼什“
”?兆前的控失是還,化進是這……這。料資擇選,候時的突衝則規和料資在會,則規疑質會,衡權會它。人像是,機像是不。了們我像始開它“,箭的被支一像,間指在夾筆鉛,過轉婧蘇”,的做天今搖扶“
。子鏡的髒弄被面一像,影倒的糊模他著映面表CVP的藍,板地電靜防的下腳著看頭低他。答回刻立有沒峰雲
”——說沒我,案答個一有還但。海大辰星向走須必們我為因,說時當我?錢投續繼該應家國為認麼什憑們你,說他?嗎題問的我問席主周,時辯答章一第得記你“,說他”,姐婧“
。上幕螢綠的滅熄經己塊那在落,廳大形環過穿目,頭起抬他
”——果結的對更、省更、全安更是的向指疑質的它要只但。多更疑質會能可天明,則規航返了疑質天今它。的來出熬算運點浮次億億、式模障故個萬十、擬模次千三是,’覺首‘的它。會不搖扶。困犯點三晨凌在會,怕會,累會覺首的人。睛眼的靜冷更們我比出造須必們我為因“
:說己自對在像得輕音聲,下一了頓停他
”。始開的慧智是,疑質。疑質它讓就那“
。告報證驗的寫上子本在續繼,頭下低是只終最但,麼什些說想。雜複神眼,他著看婧蘇
。吸呼慢緩中暗黑在生大巨種某像,嘯呼微輕的扇風裡櫃機服伺和,鳴嗡頻低的口風出調空下剩只。來下靜安底徹廳大調聯,分七十點三晨凌
:區衝緩藏的”ELFER_FLES“為名個一了進寫被是而,流誌日主進有沒,警報何任發有沒字文行那。誌日的新行一了理整新重然悄,秒一後最的前滅熄在幕螢藍的照燭,到意注人有沒
“.NOITAVRESBO_REHTRUF_ROF_DEKRAM .ESAB_ELUR_MORF_DEVIRED_TON .INIART_MORF_DEVIRED_TON .NWONKNU :ECRUOS .”ECNEREFERP_LANOITARRI“SA_DEIFISSALC%300.0_FO_YTILIBABORP .DEGREME_HCNARB_RAENILNON_A ,7400_EERT_NOISICED_NI_YADOT“
:記標我自條一了下留裡誌日在照燭
“。知未:源來——’好偏理非‘的率機%300.0在存,中策決日今“
。漪漣何任起激有沒,海深落水滴一像,失消而眠休統系著隨後然,秒五點零約了留停上幕螢在字文行這
。醒喚刻時個某的來未被著待等,子種的睡沉顆一像,上區扇個某的碟磁了在刻地久永被它,深碟服伺的遠遙個某在但
。幕螢塊西的中暗黑片那眼一了看頭回他。石隕的空太外自來塊一著握像,骨刺冷冰手把屬金,上手把門在按手的他。口出到走經己峰雲,裡廳大
。的明近接、的辨分眼類人被法無種一,味餘的後織們它著留殘還乎似中氣空但,滅熄己都種西。黃、紫、綠、藍
。識意的名命被未尚種某著化進悄悄,裡夜深的曉知人無在,算運級秒微,商協級秒毫,跳率頻的自各以續繼臟心的IA顆西,底井在而。井的上蓋被口一像,暗黑陷新重廳大調聯的後。廊走進走,門開推他








