林深把最後一口冷掉的咖啡灌進喉嚨時,落地窗外的城市正被晚霞燒成橘紅色。他盯著螢幕上滾動的日誌檔案,瞳孔裡映出密密麻麻的十六進位制,像是某種古老的咒語。辦公室裡只剩下他這一盞燈,中央空調嗡嗡地喘著粗氣,把三十七層樓高的寂靜吹得又薄又脆。
他按下回車鍵,一個紅色的警告框跳出來——偏差係數:0.73,閾值0.4。這個數字像一根細針,紮在他太陽穴上。他揉著眼睛靠向椅背,頸椎發出乾枯樹枝般的聲響。這是他接手“獵穹AI招聘系統”合規審計的第十七天,資料庫裡兩千三百四十一份歷史簡歷,每一份都被他拆解過至少五次。但他知道,真正的麻煩不在程式碼裡,而在程式碼外面。
獵穹科技是國內排名前三的人力資源SaaS供應商,他們的AI面試官被超過四百家企業使用,每天要篩選十幾萬份簡歷。三個月前,一家新能源車企的人力總監在內部郵件裡寫道:“系統推薦給技術崗的男性候選人是女性的七點三倍,我們不是故意歧視,是機器乾的。”這封郵件被匿名捅到網上,輿論炸了鍋。獵穹的CEO在釋出會上鞠躬道歉,承諾引入第三方審計。而所謂“第三方”,就是林深所在的那家只有八個人的小公司——明鑑演算法倫理諮詢。
他老闆周懷遠接這單時,拍著桌子說:“這是里程碑,幹好了我們就能上市。”林深當時沒說話。他知道這類活兒吃力不討好,獵穹付了三百萬審計費,但要求“不公開詳細報告,只給內部整改建議”。周懷遠答應了。林深只能咬著牙做,因為全公司只有他一個人同時懂自然語言處理和統計檢驗,還考了那個幾乎沒人知道怎麼考的“AI倫理審計師”資格證。
他關掉電腦,把隨身碟塞進內袋,拉上外套拉鍊。電梯下行時,手機震了一下,是妻子陳嶼發來的:“豌豆燒了39度2,我剛餵了美林,你什麼時候回來?”他看了一眼時間,晚上八點四十七分。他回:“快了。”然後盯著“快了”兩個字發呆,直到電梯叮一聲開啟。
地鐵上人不多,他靠著車門玻璃,閉眼就看見那行紅字——偏差係數0.73。按照國家標準《演算法推薦管理規定》的附則,招聘類模型的性別偏差係數不得超過0.3。獵穹超了一倍多。但蹊蹺的是,他檢查過原始訓練資料集,男女比例大概六比四,標註的“錄用”標籤也是按真實歷史入職資料來的,理論上不會產生這麼離譜的偏差。除非——標註本身就有毒。
他想起上週五和獵穹的技術總監趙乾明開會。趙乾明四十出頭,戴著一副無框眼鏡,說話慢條斯理:“林老師,我們所有資料都脫敏了,特徵工程也去掉了性別欄位,您看是不是模型結構本身的問題?”林深沒接茬。他注意到趙乾明左手無名指在桌上輕輕敲,頻率很快。那是緊張。趙乾明在隱藏什麼。
回到家已經快十點。陳嶼靠在床頭刷手機,聽到門響只說了一句:“燒退了,剛睡著。”林深輕手輕腳走進次臥,看見四歲的豌豆蜷在被子裡,額頭貼著退熱貼,睫毛溼漉漉的。他伸手探了探孩子的額頭,溫熱的,但不算燙。他在床邊蹲了很久,直到自己的膝蓋發酸。
回到客廳,他開啟筆記型電腦,把U盤裡的資料副本重新載入到自己的沙箱環境。他這次不看模型權重,而是回溯資料管道。他把所有簡歷文字輸入一個自己寫的直譯器,逐層拆解特徵衍生過程。凌晨一點十七分,他發現了一個被偽裝成“詞彙豐富度”的複合特徵——它實際上是對“領導力動詞”的加權求和。而“領導力動詞”詞典裡,包括“主導”“指揮”“攻克”“決勝”等四十七個詞。這些詞在男性寫的歷史簡歷中出現頻率比女性高百分之三十一。模型沒有顯式學習性別,但它學會了用這些詞做代理變數。








