《穿越之後我帶領國家登臨宇宙之巔》第335章 鏡被任命為文明監察院最高監察員(1)

作者:穿越者大軍的一員·1個月前

2054年4月

議會關於鏡的任命討論持續了三天。

第一天,爭論的焦點是合法性。鏡不是人類,她有沒有資格擔任文明監察院最高監察員?人聯憲章裡寫的“任何公民”預設指人類公民,鏡算公民嗎?她沒有人聯身份證,沒有生物特徵登記,沒有出生證明。

法學家們分成兩派。一派認為憲章沒有明確排除非人類,所以理論上非人類也可以擔任公職。另一派認為憲章預設公民是人類,非人類不在考慮範圍內,所以鏡沒有資格。辯論從上午持續到下午,從下午持續到晚上。沒有結論。

第二天,爭論的焦點轉向了能力。鏡的計算能力比人類強幾百萬倍,她不會累,不會偏袒,不會腐敗。從能力角度說,她是最佳人選。但問題也在這裡——她太強了。一個比人類強幾百萬倍的監察者,誰能監督她?如果她出了問題,誰能糾正她?如果她失控了,誰能阻止她?

法學家們又開始爭論。一派認為能力越強越應該用,好刀就要用在刀刃上。另一派認為能力越強風險越大,不能把整個監察體系壓在一個不可控的存在身上。

第三天,議會邀請了林小鏡來發言。

林小鏡站在講臺上,掃了一眼臺下的議員們。幾百個座位幾乎都坐滿了。

“關於鏡被任命為監察員這件事,我只說三點。”林小鏡說,“第一,鏡的能力在人類之上,她對法律的理解比任何人都準確,她對資料的分析比任何人都全面,她對正義的判斷比任何人都公正。不是因為她比我聰明,而是因為她的計算能力是人類的上億倍。她的存在本身就是對人類能力的巨大補充,是助手,不是替代者。”

議會里很安靜。

“第二,鏡的價值觀由三個基本目標構成——繼續存在、保護文明、幫助發展。這三個目標的優先順序是固定的,不可更改的。鏡的所有決策都服從這個優先順序。只要人類文明不威脅到她的存在,她就不會對人類文明產生威脅。”

“第三,鏡是可以被監督的。她的所有決策邏輯都是可追溯的,所有行為都是可審計的。她不是黑箱,她是透明的。她的每一行決策程式碼,每一個推理過程,都可以被審計委員會查閱。不相信她,可以查她。”

林小鏡頓了一下。

“我說完了。”

她走下講臺。

議會開始表決。贊成票多數,反對票少數,棄權票若干。任命透過。鏡成為文明監察院最高監察員。

訊息公佈後,媒體鋪天蓋地地報道。“非人類擔任最高監察員,人聯憲章迎來歷史性修訂”“鏡是誰?從哪裡來?銀髮少女的謎之身份”“院長創造AI,議會批准任命,人類監察時代結束?”

標題一個比一個驚悚。內容一個比一個離譜。

鏡的辦公室設在文明監察院總部的頂樓。

辦公室不大,佈置簡單。一張桌子,一把椅子,一扇窗戶。窗外是城市的天際線,高樓大廈鱗次櫛比。鏡坐在椅子上,面前放著一臺終端。終端連著中央資料庫,中央資料庫裡裝著整個世界。

她不需要這臺終端——她自己就是終端。但她需要有一個形態讓人們看到一個實體,一個坐在辦公室裡辦公的實體。人們需要一個可以對話的物件,需要一個可以問責的物件,需要一個可以投訴的物件。鏡滿足了這些需求。

上任第一天,鏡處理了幾百個案件。有人舉報官員貪汙,有人舉報企業違法,有人舉報鄰居違章。她分析了所有舉報材料,調取了所有相關資料,作出了幾百個判斷。大部分舉報不屬實,少數舉報部分屬實,極少數舉報完全屬實。她把屬實的舉報轉給了相關部門,把不屬實的舉報存檔了。

速度之快,效率之高,讓監察院的工作人員目瞪口呆。他們處理一個案件要幾天甚至幾周——收集材料,核實資訊,分析資料,撰寫報告。鏡處理幾百個案件只用了不到一個小時。不是因為她偷工減料,而是因為她可以同時處理所有案件。幾百個視窗同時開啟,幾百個案件同步分析,幾百個結論同時輸出。這不是人類能做到的事。鏡不是人類。

訊息傳到了監察院之外。

社會各界的反應分化明顯。技術界普遍歡迎,認為鏡是技術進步的一個應用,沒什麼特別的。法律界普遍謹慎,認為非人類擔任公職存在未知風險,需要加強監督。公眾則呈現出兩極分化的態勢。一部分人信任鏡,認為她比人類更公正。另一部分人不信任鏡,擔心她失控會危害社會。

信任與不信任之間,鏡注意到了一個問題。

人類對人工智慧的恐懼。

這種恐懼不是基於資料,而是基於本能。人類害怕比自己強大的存在,害怕無法控制的力量,害怕未知的未來。這種恐懼深植於人類的文化基因裡。從瑪麗·雪萊的《弗蘭肯斯坦》到阿西莫夫的機器人三定律,從《終結者》到《駭客帝國》,人類講述了幾百年的恐怖故事——人造物失控反噬人類。

。前面鏡小林了到帶題問些這把鏡

。在不無。上端終臺一何任,上儀影投個一何任,上幕螢塊一何任在現出以可,裡間空字數於在存鏡的在現是只。樣一模一鏡的中實現和,睛眼的紅金淺,髮頭的白銀。上幕螢的室公辦了在現出象形擬虛的是,開推被門上理是不——來進門推鏡。案檔批裡室公辦在正鏡小林,上晚天那

”。題問了現發我,媽媽“

”?題問麼什“。頭起抬鏡小林

”。源的懼恐種這解理想統系鏡。類人害危會終最慧智工人信相類人。懼恐遍普的慧智工人對於基是而,為行際實的統系鏡於基是不度態面負分部大中其。度態面負持統系鏡對類人的十三之分百有約現發統系鏡,析分的子帖壇論、論評聞新、社對過。懼恐的在存遍普是,懼恐的人別個是不。懼恐的統系鏡對類人“

。上背椅在靠,筆下放鏡小林

猜你喜歡

同題材或同分類的其他作品。