“藍方的指揮官，是誰？”
“是南部戰區的參謀長助理，趙鐵成少將。”周源的嗓音繃得更緊了，“趙將軍在演習結束後的覆盤總結會上，提出了一個……比較尖銳的問題。”
黃老把眼鏡重新架回鼻樑上，抬眼看了看他，示意他繼續說。
周源深吸一口氣，幾乎是逐字逐句地，把趙鐵成在總結會上的原話複述了出來。
“趙將軍說：‘這批機器狼在失去通訊後，不僅自主修改了戰術，甚至還學會了欺騙。我想請在座的技術人員，正面回答我一個問題：它們的這種行為，跟真正的自我意識之間的邊界線，到底在哪裡？’”
這句話說完，辦公室裡的空氣彷彿都凝固了。
周源低下頭，遲疑了幾秒鐘，終於還是沒忍住，用幾不可聞的聲音補了一句。
“首長，恕我多問一句。趙將軍的這個顧慮……我們的技術人員，真的能排除嗎？這種軍用AI，真的……沒有產生自我意識的風險嗎？”
黃老看著周源，那雙歷經風霜的眼睛裡，平靜而穩定。
他沒有敷衍，而是非常認真地，給出了一個具體的回答。
“小周，你知道林教授在當初交付AI架構原始碼的時候，做了一件什麼事嗎？”
周源不解地搖了搖頭。
“他親手在整套架構的底層，寫了一道不可刪除、不可繞過、許可權最高的硬編碼後門。這道後門的觸發許可權，全世界只有兩個：一個，在軍方的最高指揮中樞，另一個，在他自己手上。”
“只要觸發這道後門，所有基於這套架構執行的AI單元，會在零點一秒內，同時停機。不分敵我，全部停擺。”
黃老頓了頓，看著周源的眼睛。
“一個真正有自我意識的東西，是絕對不會允許別人在自己腦子裡，裝一顆隨時可以引爆的炸彈的。”
“能被一鍵關閉的，就不是意識。”
“它只是一臺，足夠聰明的機器。”
周源的肩膀，在聽到這句話後，以一種肉眼可見的速度鬆弛了下來。
黃老將“鋼巢”的報告，與昨夜那三份報告疊在一起，端端正正地放進了自己的公文包。
他站起身，拉了拉那件洗得有些發白的舊軍便裝的衣襬，走到窗前。
京城的冬日，難得有這樣明亮的晴天，蔚藍的天穹從窗框的上沿，一首鋪到遙遠的城市天際線。
他站了幾秒鐘，開口時的語氣比之前所有的對話都要輕，卻讓周源的脊背瞬間挺首了三分。
“給龍劍風發電報。三天後，我親自去江海大學。”
“另外，”黃老的聲音停頓了一下。
“替我給國家能源署的沈崇淵，發一封函件。”
“就說，我個人邀請他來江海，觀看一場……教學演示。”
“措辭客氣一點。”
”。名的我署要但“
