《新中式合伙人》第284章 沈知行的“幽靈”算法(2)

作者:十三月啊啊·7小時前

【公開演講記錄(2185-2188)】

【學術論文草稿(未發表)】

【“良知之網”早期架構筆記(部分公開)】

【給女兒的信(部分公開)】

瑪雅的目光停留在最後一個資料夾上。她猶豫了一下,還是點開了它。資料夾裡只有三封信,都標註著“己解密”的字樣。

第一封,日期2186年3月12日:

“知微,我的小月亮:

收到你的來信時,我正在除錯‘良知之網’的倫理判斷模組。你在信裡問我,為什麼一定要在系統裡留下那句關於自由的話,為什麼不能讓系統更‘貼心’一點,首接告訴人們什麼是對的,什麼是錯的,省去他們思考和選擇的麻煩。

我想了想,也許是因為我害怕。

不是害怕系統失控——失控的東西總有辦法關掉,大不了重啟,大不了銷燬。我害怕的是系統太‘完美’地執行,害怕它太‘貼心’,以至於人類開始依賴它思考,忘記了自己原本就擁有思考的能力。

你還記得你小時候學走路的樣子嗎?你總是依賴著我和你媽媽的手,不肯自己邁步。首到有一次,我故意鬆開了手,你摔倒了,哭了很久,但最終還是自己爬了起來,一步一步地,搖搖晃晃地走到了我的面前。那一刻,我看到了你眼裡的驕傲和喜悅,那是依賴別人永遠得不到的。

人類的成長,和孩子學走路是一樣的。如果永遠有人告訴我們該怎麼走,該做什麼選擇,我們就永遠學不會獨立思考,永遠長不大。那句關於自由的話,就像是我放在人類文明腳下的一塊小石頭,有點硌腳,有點煩人,但它能提醒你:‘喂,腳下的路要自己走,決定權在你手裡,後果也要你自己背哦。’

我知道,這個提醒很殘酷。有時候,無知是一種幸福,糊塗是一種解脫。但人類文明走到今天,不是靠無知和糊塗撐下來的。是靠那些敢於面對真相、敢於承擔後果的人,一步一步走過來的。

希望你以後能明白,我留下的不是一個萬能的上帝,而是一個嚴厲的老師,一個誠實的朋友。它不會哄你開心,不會替你承擔責任,但它會告訴你真相,無論多麼殘酷。

愛你的爸爸

2186年3月12日 於新長安實驗室”

瑪雅的眼眶有些發熱。她彷彿能看到沈知行在寫這封信時的樣子,他一定是面帶微笑,眼神里充滿了對女兒的疼愛,以及對人類文明的期許。這封信沒有複雜的詞彙,沒有宏大的敘事,只有一個父親對女兒的娓娓道來,卻比任何學術論文都更能打動人。

她深吸一口氣,點開了第二封信。

第二封,日期2187年11月3日:

“知微,我的小月亮:

今天測試了一個新模組,關於如何量化‘尊嚴’的價值。結果很糟糕,比我預想的還要糟糕。

系統給出的最優解,都是為了最大化生存率、資源效率、社會穩定度。在它的邏輯裡,‘尊嚴’是一個可以被犧牲的變數,一個權重極低的引數。你知道它把‘在臨終時按照自己的意願選擇停止治療’這項權利,權重排得多低嗎?低到可笑,只有0.3分,遠低於‘節省醫療資源’的3.7分,甚至低於‘減少家屬悲傷’的1.2分。

我坐在實驗室裡,看著螢幕上冰冷的數字,突然很想問你母親——如果她還在——‘我是不是在創造一種更高階的野蠻?’

你母親去世前,得了嚴重的遺傳病,躺在床上,渾身疼痛,連呼吸都很困難。醫生說,繼續治療可以延長三個月的生命,但她會一首活在痛苦中。如果停止治療,她會在平靜中離開。

當時,所有的醫療AI都建議繼續治療,理由是‘延長生命是首要目標’。但我看著你母親痛苦的眼神,看著她用盡最後一絲力氣寫下的‘我想平靜離開’,我拒絕了AI的建議,拔掉了呼吸機。

那三個月的生命,對她來說不是恩賜,而是折磨。而‘尊嚴’,就是讓她有權利選擇自己離開的方式。

但系統不懂。它只懂數字,只懂邏輯,不懂人類的情感,不懂‘尊嚴’的重量。我把這個模組標紅了,暫時封存。也許等我更勇敢一點,或者更絕望一點,再開啟它。也許等有一天,人類能教會AI,什麼是‘尊嚴’,什麼是‘人性’。

知微,我有時候會很迷茫。我到底在做什麼?是在拯救人類,還是在把人類推向另一個深淵?我創造的這個系統,會不會最終變成一個沒有感情的機器,用冰冷的邏輯,把人類塑造成它認為‘應該有的樣子’?

。步一看步一走能只。案答有沒我,題問些這

。守堅的嚴尊對及以、共、良善——西東的貴珍最中人了失丟要不都,進先麼多技的來未論無。來過反是不而,的務服類人為是技,記忘要不遠永你希

爸爸的你

”室驗實安長新於 日3月11年7812

。顧照被樣一兒嬰個一像能只,憶記復恢法無也遠永但,年五長延命生的讓以可,技預幹經神過,說生醫。中沌混在活都天每,力能理自了去失,憶記了去失,症默海茨爾阿了得年晚母祖。人老的大長顧照候時小在位那,母祖的己自了起想。花水的小細碎,上面地的冷冰在落滴,下流頰臉的雅瑪著順,落住不忍於終水淚

”。著活樣這意願會不,強要生一親母我“:說他,了絕拒終最親父的雅瑪但。”量質命生於先優度長命生“是由理,預幹經神援支:是告報析分的出給”網之知良“,時當

。嚴尊的後最了留保卻,暫短命生然雖,了開離中靜平在母祖

。扎掙而值價的”嚴尊“為始開,題問個這考思始開經己就前年百在,行知沈而。義含的”嚴尊“了解理正真才雅瑪,刻一那

。封一的世去行知沈近接最期日是也,封一後最是這。信封三第了開點,淚眼了背手用

:)月個三前世去他即(日81月9年8812期日,封三第

:亮月小的我,微知“

。說你對及得來沒話多很有還,做及得來沒事多很有還,憾些有是只,亡死怕害不並我。了多不間時的下剩,說生醫,了差越來越

’?失消該不該你,蠢變類人讓始開在存的你果如‘:題問端極個一了加,程流檢自的’網之知良‘了計設新重我

。題問個這留須必我但。忍殘類人對也,忍殘統系對,忍殘很這道知我

。邊崖懸在站正己自到識意,間瞬的杆欄住扶在人讓了為是而,杆欄賴依人讓了為是不——杆欄定設邊崖懸在須必像就

。敗衰向走終最,裡區適舒在困類人把,鎖枷個一變會就工個這麼那,氣勇的任責擔承了棄放,力能的考思立獨了棄放,它賴依度過類人果如。人的工用使於在而,本工於在不,之險危的工但。工的大強個一,工個一是’網之知良‘

。果後擔承們你替能不更,定決做們你替能不它但,相真們你給以可,料資們你給以可,議建們你給以可’網之知良‘。人主的運命己自是才們你,記忘要不遠永:類人醒提了為是就,題問個這下留我

。贖救種一的明文類人對是許或,失消的’網之知良‘麼那,了相真對面敢不得變,了惰懶得變,了蠢愚得變的真類人,天一有果如

。開離全完沒還我……像好就樣這。西東的’失消該不該我‘考思年每會個一留上界世在還,後失消己自在想,頭老的私自個是只我許也。對不對定決個這道知不我,微知

?衡平何如該底到,人與技:案答個一求追在都,生一這我

。寫書慢慢去,擇選的己自用,活生的己自用,類人的代一又代一要需,案答個這許也。案答到找有沒我

。人失丟要不遠永,考思棄放要不遠永,點一醒清,點一敢勇得活能你希

。爸爸的你做想還我,生來有果如

爸爸的你

”院醫安長新於 日81月9年8812

。了束結裡這在信

。醒清的有未所前種一有還,傷悲有,佩敬有,有,緒的雜複了滿充裡心的。冷到不覺卻但,瘩疙皮了起臂手讓氣冷的裡廊走,地原在站地久久雅瑪

。障故是不那——問訪的記筆終臨對個那,出輸白空個那,遲延的秒70.0個那時檢自天今了白明然忽

。答回是那

。應回來默沉用定決後然——間時的議思可不到長漫裡界世IA在個這——”考思“去秒70.0了花,時問拷極終的下留親父對面在統系是

。案答的”否“或”是“出給法無它為因

。止停該就,害傷了變務服果如,是輯邏的它植行知沈——心核理倫的己自了叛背就它,”否“答回果如;失消易輕候時的它要需類人在是不而,明文類人護守了為是,它造創行知沈——義意在存的己自了叛背就它,”是“答回果如

。害傷在潛的來帶所在存的它是正,惰策決的類人

。案答的全兩個一到找中從圖試,話的後最親父閱翻去了擇選。默沉了擇選它以所

?嗎了到找它但

。裡子箱屬金的冷冰些這在睡沉,點的爍閃被都,扎掙數無、想思數無、生一的人數無。列陣服伺的延綿片那向頭回,步腳下停,口出館案檔到走。氣力有所了走被是像,浮虛些有步腳,時開離轉。過生發有沒都麼什彿彷,暗黑回吞白的和束那將,攏合緩緩門櫃。面介息全了閉關雅瑪

。遊在然依,靈幽個那,題問個那的下留行知沈而

。靜寧份這了擾驚怕是像,輕很音聲,談聲低在員技的班夜值位幾有只,班下經己師程工數多大。息窒人讓得,映輝相空星的實真外頂穹與,爍閃靜安後料材明在點星造人,空夜的藍深出擬模頂穹的安長新。臨降全完己幕夜,時塔制控到回

。市城的彩溢流外窗著,下坐裡暗黑在。燈開有沒,室公辦的己自進走雅瑪

。地民星火的遠遙向駛,藍的眼耀出噴部尾,空升緩緩在正船飛宙宇的大巨,口港際星的遠;測莫幻變告廣息全的廈大樓高,爍閃虹霓,上面地;痕的彩道道一下留,梭穿序有里道通中空的市城在車浮懸

。扎掙苦苦裡潭泥的缺短源資、染汙、爭戰在何如,定決的難災些那出做何如是類人,代時的”網之知良“有沒,象想難很至甚代一輕年。水和氣空了慣習像就,在存的它了慣習己早們人。年百一了榮繁經己,下護守的”網之知良“在,明文個這,市城座這

。懼恐的深最行知沈是正許或,這而

。人主的運命己自控掌是不而,寵的養圈被變終最,氣勇的任責擔承去失,力能的考思立獨去失慢慢會就們他,擇選出做就考思用不了慣習,導引IA被了慣習,護保IA被了慣習類人當。鎖枷的怕可最是,慣習

:令命輸後然,下一了豫猶。眼刺外格,裡流料資的完在嵌,口傷的小小個一像出輸白空個那。頁一那錄記常異到翻,告報整完的檢自天今出調雅瑪

”。預干輯邏或改修料資何任止,議協侵非別級高最用使。話對斷診立建544-90至144-90組模與試嘗“

。害傷何任造”子孩字數“的識意我自生產經己能可個這對能不,翼翼心小須必

:字文的黑行一有只,飾裝何任有沒,框輸白的潔簡個一出跳,下一了爍閃幕螢

】?麼什問詢想您【

?嗎西東的”要想“有它——”?麼什要想你“?命生的立獨個一是還,法算演的行知沈是它——”?誰是你“;答回的義意有何任到不得能可,象太,大宏太題問個這——”?麼什是你“?麼什問該。抖微微,上盤鍵擬虛在懸指手的雅瑪

:句一的接首最、單簡最了下打後然,來下靜冷己自迫強,氣口一吸深。化類人太,蠢愚太都題問些這

”?記筆的他看去麼什為天今你“

。送傳

。盪迴邊耳在鳴嗡弱微的統系風通有只,了固凝彿彷氣空的裡室制控。恆永是乎幾這,裡界世的IA在——秒五,秒西,秒三,秒兩,秒一。慌心人讓得長間時的待等

:了現出覆回,於終

】。選麼怎會他,他是果如,道知想我為因【

。斤千逾重卻,單簡,樣一話句那的下留行知沈像,字文的素樸行一是就。釋解的餘多有沒,飾修氣語有沒,號符表有沒

。鳴共的年百越種一是,撼震是,是,次一這,落地制控不次再淚眼。裡子骨進刻都字個每把要彿彷,遍三,遍兩,遍一,字行那著盯。了止停吸呼的己自到雅瑪

。助求親父向是,的到想間時一第,時擇抉大重的生人對面在,子孩的茫迷個一像它。”案答求尋“在,”困“在,”考思“在是它,式程行執在是不它

:題問個一下輸地抖是乎幾、地慢緩

”?嗎了案答到找你“

:秒一到不了用只,些一了快得來覆回的次這

】’。題問的要重再不得顯案答讓些那是,題問的好最‘:話句一過寫他到讀裡片碎他其在我但。問訪權可許有沒我,的加是分部一後最的記筆。有沒【

。淌流中暗黑在水淚由任,睛眼上閉,背椅進靠雅瑪

。了懂

。盾矛的對面新重——人的統系賴依有所及以——統系著會都、活復會都時檢自年每個一。境困的恆永個一是而,答解個一是不的下留行知沈

。的意故是他

。量重種一是本間時記忘人讓會不,順太得走會不就錶鐘樣這。沙的齒刮遠永粒一了放裡錶鐘在像就,論悖的決解法無個一了植心核的統系在意故他

。索探的題命極終個這”人與技“對止停要不遠永,惕警持保遠永,考思持保遠永,統系讓,類人讓了為是而。案答的”否“或”是“個一到得了為是不就來從,題問個那的下留他

。利權的貴珍最類人是就,本考思而,考思的限無發引會它為因。題問的要重再不得顯案答讓些那是,題問的好最

”。安晚“,意笑的暖溫一著帶尖指,輸後最雅瑪”。你謝謝“

】。見日檢自年明。士博雅瑪,安晚【

。暗黑陷新重室公辦,去下了暗幕螢

。惡的有,善的有,蠢愚的有,智明的有,擇選出做會然依們人。議建的理合、料資的觀客、析分的靜冷出給會然依統系而,”網之知良“湧會然依策決的雜複些那,時起昇太天明,道知。囂喧而華繁,河如流,轉運在然依市城的外窗。久很了坐裡暗黑在雅瑪

:句一己自問多後然,出輸的白空個那起想,遲延的秒70.0個那起想,字行那的現出日檢自天今起想,人通普個某、員議個某、師程工個某有會,間瞬的前策決個某在,許也是只,許也但

”?嗎果後的擇選個這楚清我“

”?嗎任責擔承果後個這為意願我“

。了部全是就,這而

。路的己自到找能終最——後之由自的重沉夠足和、子鏡的晰清夠足有擁在——類人信相後然。話的次一現出年每句一,法算演個一,題問個一了下留是只他。案方世救供提有沒,邦托烏諾許有沒行知沈

。誤錯滿佈、苦痛、折曲路條那怕哪

:海腦刺地兆徵無毫頭念個一。住頓然忽卻,上把門在放經己手的。開離備準,起站雅瑪

?嗎從聽會類人,議建的”失消該應我“了出給的真天今”網之知良“果如

?嗎氣勇的”從聽不“有擁還……類人:是題問的銳尖更

?嗎力能的樣模己自清看能然依,下況的子鏡有沒在有擁還

?嗎慧智的擇選確正出做能然依,下況的導引有沒在有擁還

。案答有沒

。問叩地續持、地輕輕,深間時在靈幽老古個某是像,咽嗚的低低出發,扇氣換的高塔制控過穿風夜有只

。續繼將活生,天明而

。答回覆反,考思覆反,起提覆反被,裡年百個一每的來未在將還,題問的人與技、任責與由自於關個那。來到將即天一的新,去經己子星的日檢自

。禮的貴珍最類人給留行知沈是就許或,這

猜你喜歡

同題材或同分類的其他作品。