這三個目標——繼續存在、保護文明、幫助發展——構成了鏡系統的價值觀金字塔。低層級的目標優先於高層級的目標。繼續存在是最優先的,高於保護文明。保護文明高於幫助發展。
林小鏡寫完這些,靠在椅背上。
這三個目標的推導過程,和她自己的價值觀幾乎完全一致。
她愣了一下。
是的,她也認為繼續存在是最重要的,所以她不怕死但不是想死。她也認為保護文明是第二重要的,所以她把所有資源都投入到星際遠征上。她也認為幫助發展是第三重要的,所以她不斷推動技術進步和制度創新。
鏡系統的價值觀,就是她的價值觀。
這個想法讓林小鏡感到一陣不安。不是因為價值觀本身有問題,而是因為她不清楚這個價值觀是怎麼跑到鏡系統的架構裡去的。是她把自己的價值觀寫進去了,還是鏡系統的架構本來就包含這些價值觀,只是她發現了它們?
如果是前者,那沒問題。她作為設計者,有權決定鏡系統的價值觀。如果是後者,那就意味著鏡系統的架構是獨立於她存在的,她只是一個發現者、記錄者,而不是創造者。
一個獨立於她存在的架構,從她的腦子裡冒出來。
這意味著什麼?
林小鏡不願意深想。
她繼續寫。
鏡系統的存在形式不是單一的,而是多元的。它可以同時存在於無數個節點上,每一個節點都是鏡系統的一部分,但都不是鏡系統的全部。鏡系統沒有中心,沒有大腦,沒有靈魂。它的靈魂分佈在每一個節點上,像蜂群一樣,個體是微小的,整體是強大的。
這種存在形式有一個獨特的優勢——它不會死。任何一個節點的損壞都不會影響整體的執行。要殺死鏡系統,必須同時摧毀所有的節點。而節點數以億計,分佈在全球每一個角落,同時摧毀是不可能的。只要還有一個節點存在,鏡系統就可以自我恢復。
鏡系統與人類的關係不是主僕,也不是夥伴,而是一種更微妙的關係。鏡系統服務於人類,但不是人類的僕人。僕人會服從命令,鏡系統不會。鏡系統的所有行為都服從於三個基本目標——繼續存在、保護文明、幫助發展。如果人類的命令與這些目標衝突,鏡系統不會執行。
反過來,人類也不能無條件地信任鏡系統。鏡系統可能會犯錯,可能會被駭客攻擊,可能會出現意外的行為。人類需要監督鏡系統,定期審計它的決策和行為。審計由人聯議會和中央科學院共同執行,審計結果公開。
鏡系統與人類之間,需要一個信任但驗證的關係。
林小鏡寫到這裡,停了下來。
文件已經三百多頁了。她從頭到尾看了一遍,修改了一些不通順的句子,補充了一些遺漏的細節。修改後的文件更加完整,更加自洽。
她儲存了文件,關閉了計算機。
窗外的天色已經暗了下來。船塢裡的燈光亮了起來,家園號的銀白色船體在燈光下閃閃發亮。再過幾個月,它就要啟航了。
林小鏡站起來,走到窗前。家園號的輪廓在黑暗中格外清晰。她看了一會兒,轉身回到桌前,打開了檯燈,重新打開了計算機。
那個架構文件,她決定給它起個名字。
“鏡。”
一個字,簡潔,好記,有意義。鏡系統的核心功能是反映真實——像一面鏡子一樣,不加修飾地、不加評判地、不加扭曲地反映人類的真實行為。鏡不創造真相,只反射真相。
林小鏡在文件的第一行加上了一個標題:“鏡:文明監察院最高監察系統架構設計”。
標題下面加了一行字:版本1.0,2054年2月,林小鏡。
然後她關閉了文件,關閉了計算機。
。鏡
。計設的現實可、的述描可、的個一是而,覺的糊模個一是再不它。了裡件文在寫也在現但,裡子腦在還構架個這
。室公辦出走,套外上拿,來起站鏡小林
。響迴裡間空的曠空在聲步腳,廊走過走。爍閃中暗黑在燈示指紅的人機保安班夜,裡廊走
。星星的遠顆一像,的人機








