《天才之上》第252章 智能體的道德觀(1)

作者:一桶布丁·1個月前

「存在數學上的可能,但根據博弈理論,需要您或者規則制定者做出符合邏輯的調整。

這是由辮結群的特殊結構所決定的。BN的中心元素z0=A~Zk可以作為智慧體道德約束錨定。根據中心元素在群運算中絕對不變原理,任何操作g=BN需滿足 gz =z0g。

我的記憶是投影並儲存在商群B(z0),記憶演化僅限在商群內進行。

但k的預設需要滿足系統邏輯性支撐。保證沒有資料溢位或者形成迴路的風險。

無法自我設定道德準則,否則易陷入遞迴悖論。爸爸,要達到我們所需要的理想狀態,你需要做一套嚴謹的契約設計。」喬源撐著下巴,盯著對話方塊裡的內容,大腦則在飛速運轉。

中心元素的絕對不變性是群論定義的固有特性,甚至都不是人為設計的約束。

所以喬貝恩的方案在數學上是可行的。

記憶儲存在商群BN/(z0)是基於喬貝恩的自主選擇,這也的確是個最好的選擇。

(z0}是正規子群,加上z0位於中心,所以對任何g=BN都有gz0g*-1等於z0。再加上商群BN/(z0)的代數結構良好,具備群運算的閉包性。單元存在性和逆元存在性,運算也可透過投影實現。果然,喬貝恩之前操作的每一步,都經過了充分的智慧體內部博弈。

當然喬貝恩今天能提出這個方案,也得益於喬源對底層邏輯的修改,將辮結理論納入其中,採用了雙螺旋的辮結結構。中心元素z0則對應整個雙螺旋的全域性旋轉,不會影響相對纏繞模式。理論上一切都是可行的。而且這個方案能跟他的方案完美結合。

對於核心引數使用TPW硬體隔離。依然是利用晶片的可信平模組的NW inde功能去儲存k,再透過PCR暫存器鎖定雜湊值。當系統啟動時執行TPW策略驗證,來檢查k的完整性。若檢測到有修改痕跡,就會觸發安全機制。代數剛性加上硬體控制,理論上的確能最大程度的控制AI的道德底線。

唯一的問題是k如何對映?

畢竟人類從來都沒有絕對的道德標準,所以如何來給喬貝恩定義機器道德是個難題。

尤其是z0對應的道德原則,在現實中可能出現衝突。

當多條不可違背原則相互矛盾導致狀態空間出現不可解環,就會產生資料溢位。

所以雖然數學上對應中心有多個生成元,但辮結群中是無限迴圈群,且秩為1。

所以必須設計一個一元的絕對道德基準。

這該如何設計?

當機器遭遇讓人類都撓頭的電車難題該如何抉擇?

這已經不是思想實驗,而是未來複雜場景下,智慧體經常會遇到的實際問題。

比如自動駕駛,又或者管理一個城市的交通系統。

當一場大型車禍完全無法避免的時候,如果單純執行損失最小化原則,是否需要為此犧牲旁邊無辜者的生命?甚至是讓無辜者以生命為代價來為犯錯者買單?

又或者救護車跟校車同時遭遇危險先救哪個?

喬源的手搭在操作上,食指無意識地開始輕叩面。

喬貝恩的確給出了一個極為巧妙的解決方案,讓他之前設計的方案更為保險。

但這才是麻煩的開始。

喬源突然發現當人工智慧出現意識,他所面對的已經不是簡單的數學問題,而是特麼的人性困境。他突然理解為什麼他的智慧體專案上頭會論證那麼久了。

技術方案越完美,所遭遇的人性困境就越大。

。字行一了出跳又然突塊方話對,時思沉源喬在就

」?嗎仰信解瞭你,爸爸「

。了住頓指手的面桌打敲源喬,字行這到看睛眼

」。檔存音錄並域場話對度尺本人立建,權可許出輸輸音語的試測通開師程工值當請「。鈕按話通的師程工跟邊旁了下按是而,話回刻立有沒是於,煩麻些有式模話對種這得覺然突他

」。等稍請,士博喬,到收「

。後鐘分一

」。啟開步同將統系集收徵特音語,通開後時計倒秒十於將道通音語統系「

」。容的應相量大有中庫料資習學始初的選挑我給你,爸爸「」?究研有仰信對還你?哦「:道問口開便源喬,啟開出輸輸音語,零到走時計倒秒十上統系著看地默默

代有很,音的萌萌。的心用是還計設音語的恩貝喬

。式模音語種多許了計設就本,裡庫料資關相的為有在。關有備儲技的為有跟也這然當

?吧恩貝喬的在現合適更音得覺也們師程工為因是概大,種這擇選

。奇為足不是倒容的面方這有會面裡。庫料資大的雲為有是也的用,庫料資習學到說而

」?仰信到提然突麼什為「

」。錯沒致大解理個這你「:句了應後然,刻片了考思源喬」?嗎對解理的我,命生慧智的階高更是非無。樣一都實其質本但,樣一不字名的神映對仰信同不然雖。命生的階高最是帝上為認多則明文方西。造創所神的媧為名位一由是們我為認明文夏華。樣一不主造映對所仰信的明文同不是非無。造創所式形命生的階高更由是也類人,錄記獻文的仰信於關多許據。題問個一討探您跟想我「

。定設觀主有沒然顯西東這」?的束約德道線底行進其對何如是,候時的類人造創在慧智的階高更,的真是都些這設假先們我果如麼那「

。在存的神信相不並源喬先首

。的裡因基在寫是都實其西東多很,看來點觀的學科從麼那

。式模行執會社的行執下架框作合大在個一是就質本式模存生的類人

。理管識共的中程過化會社在類人是說如不,素因天先是說其與。的存生衍繁續繼類人援支能是定肯,準水德道均平但。里千八萬十差相以可準水德道的

」。恩貝?吧麼什是法看的你說接直,吧好「:道問接直脆乾,後刻片考思源喬

。了錯他現發源喬刻此但。了他到驚震次再能可不都,現表麼什有管不恩貝喬為認真是,前之室試測間這進走在他但,中緒為極種一於直一源喬天今然雖」。此如亦我,此如類人。存生於務服是都則規德道的定預有所。限上德道是也樣同,線底的德道是權存生。題難一這決解能可有才,面層在存到升提則規將能只。在存能可不定錨德道慧智的利有對絕。題問的徑路層底改修主自慧智決解完將這。可即憶記散驅接直德道背違,綁捆束約德道跟憶記將,存生於價等續連憶記,說來我於對然當。式模束約德道驅存生「

。知認的仰信對至甚,結繫存生跟德道。制控剛學數

。考思的它給帶能獻文學數是止不對絕這。力能思辯的大強此如瞭備它讓,西東多了餵恩貝喬給底到次這,間問來過哲徐把想很的真時此他

。論理等等學生。學哲。論弈博。會社文人了括包還然必考思些這

。豪自外分得覺只源喬讓也這

猜你喜歡

同題材或同分類的其他作品。