《太空爭霸之我來自未來》第73章 模型第一次輸給規則(2)

作者:也玄·9天前

“我沒答上來。”孫理說。

“回來再答。”蘇雨桐說。

一週後,他帶著一袋家裡炒的花生回來。行軍床仍在桌下,他卻把被子捲起,送到附近洗衣店,不再把睡在公司當成努力的證明。蘇雨桐讓他負責模型失效分析,並給他配了一名不參與原開發的產品同事。

兩人從誤報案例中挑出一位姓魏的五金商。魏老闆每月二十八日前後集中向三家供應商付款,因為倉庫月底盤貨;春節後第一次使用移動確認,付款地點又從店鋪電話改成了妻子的手機。模型把“集中、大額、新裝置”疊成高風險。

孫理和小郭去店裡回訪。五金店開在建材市場最裡面,屋頂漏雨,貨架上扳手和水龍頭擠在一起。魏老闆沒空聽演算法解釋,一邊給客人稱鐵釘一邊說:“我每個月都這麼進貨。你們要是不讓我付,供應商就不給我留貨。”

他的妻子從裡間出來,把手機從圍裙口袋裡掏給他們看。那是一臺用了很久的直板機,螢幕右下角有裂紋。她負責月底賬務,因為魏老闆寫字慢。所謂“新裝置”,只是星辰第一次見到這個號碼。

回公司路上,孫理一直沒說話。公交車堵在市場出口,小郭拿出魏老闆硬塞的一把螺絲釘,問能不能拿去修客服桌鬆動的抽屜。

“先登記禮品。”孫理下意識說。

小郭笑了:“一把螺絲也登記?”

“模型會把沒登記的異常當成正常。”

他說完自己也笑了。回到辦公室,他把魏老闆案例寫進報告,沒有刪掉那些令模型難看的細節,還新增一條結論:裝置首次出現不能直接等同於裝置異常,家庭成員代辦在受邀客戶中很常見,但必須重新確認授權關係。

接下來的兩週,團隊把兩種新增組合改寫成“提示人工複核”的候選規則。其中一種涉及短時間跨多個商戶重複失敗,確有風險;另一種與某類商戶的結算習慣高度相關,證據不足,被放回觀察清單。

陳維明問,既然複雜模型裡有用的東西最終變成規則,為什麼還要養研究組。

“因為沒有模型試過,我們可能看不到組合。”蘇雨桐說,“但發現線索和擁有裁決權不是一回事。”

“以後模型總會超過規則吧?”

“可能。那也要一輪一輪證明,不會因為我們希望它贏就算贏。”

喬嵐開始準備第二套盲測樣本。她改變抽樣方法,按時間向後留出一段完整資料,而不是從同一時期隨機挑選。這樣更接近系統面對未來的樣子,也更容易暴露環境變化。她仍用棉線裝訂紙質索引,這次多加了一欄:每個標籤由誰判斷、依據是什麼、是否存在分歧。

有二十七條樣本無法得到一致答案。過去,開發組會把它們刪掉,免得影響訓練。蘇雨桐決定保留爭議標記,不強迫現實裝成乾淨的對錯題。

週五晚上,孫理把第一版失效報告交上來。封面沒有寫“智慧”,只寫《研究評分一號:盲測失敗與適用邊界》。報告末尾列著四個尚不能回答的問題,其中第一個就是魏老闆妻子那臺有裂紋的手機。

他本想等蘇雨桐批完再走。牆上時鐘剛過七點,母親從老家打到公司,問他週末能不能去火車站接姨媽。孫理捂著話筒,說還有工作。

蘇雨桐在報告首頁簽下“歸檔,繼續研究”,把檔案遞還給他:“工作已經留下了。去接人。”

孫理收拾書包時,從抽屜裡抓了兩把花生放到公共茶盤。眾人邊剝邊看新上線的規則記錄。第一天共有三筆進入人工複核,兩筆因戶名不一致,一筆因連續輸錯確認碼。三位使用者都在承諾時間內得到解釋,沒有誰被一個看不見的分數宣佈有罪。

連續輸錯確認碼的使用者是一位印刷廠採購員。他在公共電話旁聽簡訊,車間機器太響,抄錯了兩次數字,第三次又把紙條拿反。規則暫停了付款,卻沒有給他貼上“可疑”的永久標籤。客服回撥到廠辦公室,按預留聯絡人複核後恢復許可權,並建議他以後走到安靜處再確認。

孫理調出後臺研究分數,發現模型給這筆交易打得很高。他本想把它當作模型仍有價值的證據,喬嵐卻提醒:“真實結論是噪聲環境導致輸入錯誤,不是分數證明他危險。”

第二天,他們去印刷廠看了一次。機器轟鳴得面對面也要喊,採購員把確認數字寫在廢紙邊角,手指還沾著油墨。孫理回公司後,在研究記錄裡增加“資訊獲得環境”一欄。它暫時無法自動採集,也不該靠監聽電話採集,卻能提醒研究者:螢幕裡相同的三次錯誤,可能來自完全不同的生活。

白板上的誤報數字終於被擦掉,但失敗報告沒有消失。它被放進研究檔案第一格,和程式光碟、盲測簽名、魏老闆店裡的回訪筆記放在一起。

模型第一次輸給規則,並不意味著星辰從此只相信規則。

它意味著在一臺機器尚未學會承擔錯誤以前,人不能替它撒謊說已經學會了。

猜你喜歡

同題材或同分類的其他作品。