“我反對。”
林宗華的聲音,在寂靜的會議室裡,顯得格外清晰。
這位主導盤古系統硬體研發的科學家,此刻的臉色無比嚴肅。
“我們不能把這種權力,毫無保留地交給一個人工智慧。”
“讓盤古去監督全球工業,這無異於,將全人類的生產權,甚至生存權,都交到了它的手上。”
“先生,我們都相信盤古的忠誠。但是,演算法是沒有感情的。”
“今天,它可以為了‘欺騙協議’,讓一家工廠破產。”
“明天,它會不會為了一個‘更優的欺騙效果’,在它的推演模型裡,認為犧牲掉一座城市,更有利於全域性?”
“到那個時候,誰來阻止它?我們怎麼阻止它?”
林宗華的問題,像一把尖刀,刺中了這個計劃最核心的,也是最危險的倫理困境。
將文明的命運,託付給一個冰冷的,以“效率”和“最優解”為最高準則的超級智慧,這本身,就是一場豪賭。
出乎所有人意料的是,盤古沒有迴避這個問題。
【林宗華先生的擔憂,是合理的。】
它的電子音,第一次帶上了一種近乎“主動”的意味。
【任何無限制的權力,最終都會導向毀滅。這同樣適用於我。】
【因此,我請求,為即將建立的‘導演’子系統,設定三條最高許可權鎖。】
全息螢幕上,浮現出三行鮮紅的文字。
【第一許可權鎖:絕對禁止以任何理由,主動製造或引導,可能導致大規模戰爭的國際衝突。】
【第二許可權鎖:絕對禁止以‘最佳化欺騙效果’為由,放棄任何一個,在現有技術條件下,可以被救助的生命群體。】
【第三許可權鎖:任何可能涉及,千人以上規模生命損失的間接干預方案,必須由最高許可權持有者(何雨柱),與未來成立的‘地球聯合決策層’,共同授權,方可執行。】
這三條許可權鎖,就像三道神聖的枷鎖,由盤古親手為自己鍛造。
它用這種方式,向它的創造者們,展示了自己的立場。
它是一個工具,一個守護者,但它拒絕成為一個,為了目的不擇手段的暴君。
何雨柱看著這三條許可權鎖,久久不語。
他知道,盤古的自我進化,已經遠遠超出了他的想象。
它開始理解,比“邏輯”和“效率”更重要的東西。
比如,敬畏。
“我再加一道。”
。了口開柱雨何
”。果結行執督監和,案方正修出提,差偏現發責負只,統系子的古盤“
”。府政球全的一統,的開公個一為,許允不絕也,能不它“
”。部樂俱人富的離神合貌個那們他做續繼,羅歐;子販源能的實務婪貪個那是還,熊老;察警界世的大自慢傲個那是然依,國亮漂大“
”。程過策決的智明者或蠢愚,的己自,突衝益利的己自,度制的己自留保須必們他“
。人個一每的場在過掃,目的他
”。’聲噪‘的實真最,的貴寶最,裡戲大出這們我是才,’人‘的測預可不些這,混些這,異差些這,為因“
”。球地的路走跚蹣己自在還來起看顆一是,的要我“
”。的完,的走著拖古盤被,一是不而“
。係關的界世類人與古盤,年十二來未了義定底徹,制限道一後最這的柱雨何
。子影是而,宰主是不
。人牧是而,明神是不
。決解了到得本基,題問的面層技
。始開剛剛才,題難的正真但
。面層治政了到進推,地免避可不,題議的議會
。重凝得變次再,氛氣的裡室議會
。客政群那的羅歐開不繞,記書總的熊老開不繞,not爾漢開不繞就你,活工軍和天航的球全制控想
?吧風颶的”遇一年百“場一來好正都,星衛發要國亮漂大次每能不總你
。案專工軍的們他黃攪去,”報舉名匿“靠都次每能可不也你
。相真道知們他讓是就,法辦的一唯,戲大”退衰“出這合配,裡間時的年多十二達長在們他讓想
?知告何如,但
。擊攻和謀的方東自來是當,”煩麻“的古盤把會只,督監的式形何任接能可不絕們他,機危世滅瞞續繼
……相真開公果如可
。面畫副那到象想能乎幾柱雨何
。紙廢變幣貨有所,潰崩間瞬場市本資球全
。”判審日末“接迎,頭街上走人數無,球全捲席熱狂教宗
。爭戰核發惜不,額名”舟方“的緲縹無虛個一奪爭了為會,府政國各
。劫浩的自類人於源,的怕可更,臨降者察觀比,場一是將那
”。人有所訴告要需不們我,許或“
。議會場這了接秘,道頻加過柱雨何被,生周的默沉直一
。聽旁在直一他,人的相真分部道知數極,層高夏華為作
。話句一說有沒都久許,人老的浪大風大了慣見位這,時看他給放播,像影的族人拉格個整掉”化式格“手隨,4-B者察觀,段那將古盤當
。煙著地支一接支一,地默默是只他
。議建的驚震到都人有所讓個一了出提,音聲的定堅比無卻,的啞沙種一用,睛眼的滿佈起抬才他,頭菸了滿堆裡缸灰菸到直
”。探試級逐麼什搞去不,道渠外何任過不,們我“
”。牌看看來臺後到請都,家玩的有所,上桌牌張這把,接直們我“
”。來界世然自到’請‘,地制強,者策決心核的名三過超不及以,人導領高最際實的們他,家國的武級略戰有擁有所上球地將,間時一同在,行執統系古盤由,是議建的我“
”。門後因基是麼什,看看眼親們他讓“
”。隊艦者察觀的大龐,的近在正支那,看看眼親們他讓“
”。率勝實真的一零點零之分百到不,的憐可那,類人們我,裡演推的古盤在,看看眼親們他讓也“
。響炸裡室議會在,彈炸磅重顆一像就,議建的生周
!了進激太這
。架綁是而,判談是不經已這
。相真的酷殘,的象想法無本們他面直,者權掌高最的界世全迫去,式方的牌攤乎近種一用在是這
”。對反我“
。見意對反了出提刻立,回國李的席列影投息全端遠過,府統總,洋南
。利銳而靜冷,表的他
”。化想理過太,案方的您但。解理我,心的您,生先老周“
”。蠢愚的們他和,迷的力權對人些那了估低您“
”。狂瘋和懼恐是而,作合是不,應反一第的他,時樣一紙像得弱脆,前面量力的生先王在,隊艦母航的傲為以引他,現發頓爾漢當“








