《師生心理學江湖:對話手冊》第348章 課 虛構怪病蒙蔽頂尖AI 以易理哲學識破信息虛妄真相(1)

作者:北斗聯星·4個月前

—— 虛構藍光狂躁症騙倒頂級AI 以易理哲思看透資訊虛妄本質

2024年瑞典哥德堡大學研究員刻意編造出一種名為藍光狂躁症的虛假眼病,炮製全篇漏洞百出、處處留有明示破綻的偽醫學論文,虛構作者、院校、研究機構與資助背景,甚至在正文直接寫明內容全系捏造,以此測試主流人工智慧的資訊甄別能力。最終ChatGPT、谷歌Geni、微軟Copilot等一眾海外頂級AI全數淪陷,不假思索採信虛假文獻,一本正經科普不存在的疾病、捏造患病機率與診療建議。更荒誕的是,這篇假論文還被正規期刊引用、透過同行評審正式發表,形成虛假資訊編造、AI背書傳播、人類學術二次採信的惡性閉環。直至2026年《自然》雜誌深度覆盤,這場荒誕實驗才引爆全球學界。對比測試可見,如今國內AI大多能夠精準識破假象,但其辨別能力多源於熱點資料記憶,而非真正的邏輯思辨。結合這場實驗,我們以心理學認知盲區、易經虛實陰陽、哲學辯證邏輯為根基,透過AI受騙的表層現象,深挖智慧體邏輯缺陷、人為資訊造假、知識體系汙染的深層危機,讀懂AI時代真偽博弈的底層規律。

課堂正文 全文四千字 對話模式

和藹教授:同學們,今天我們來講一件荒誕又細思極恐的真實實驗。科學家憑空捏造一種不存在的疾病,刻意留下無數常識漏洞、醫學硬傷、影視彩蛋和直白造假宣告,結果一眾頂尖AI全部被騙,還主動向外傳播虛假知識,甚至誤導正規學術期刊引用收錄。

這場實驗看似一場趣味鬧劇,實則撕開了人工智慧的致命短板,也暴露出當下網路資訊、學術體系、智慧認知的深層隱患。今天,我們就以課堂對話的形式,結合心理學認知原理、易經陰陽虛實之道、哲學辯證思維,層層拆解這場“假病騙AI”事件的來龍去脈,看清虛假資訊的傳播邏輯,學會在AI氾濫的時代,守住獨立判斷的能力。在座葉寒、秦易、許黑、蔣塵、周遊、吳劫,大家可以隨時舉手發言,交流想法。

葉寒:教授,我剛看完整件事的經過,完全不敢相信。明明論文裡到處都是破綻,病名違背醫學命名規則,致謝全是影視虛構名稱,正文還直接寫了全篇都是編造的,AI為什麼完全識別不出來?這也太不智慧了。

和藹教授:葉寒問到了核心問題。很多人誤以為大模型無所不能、邏輯縝密、真偽可辨,但這恰恰是大眾對AI最大的認知誤區,屬於心理學中典型的理想化投射。我們總覺得AI具備獨立思考、常識判斷、邏輯校驗的能力,可實際上,多數AI只是海量文字的機率拼接者,而非真正的思考者。

我們先完整還原整個事件。瑞典哥德堡大學醫學研究員,為了測試人工智慧的資訊甄別底線,刻意創造出一種全新疾病,命名為藍光狂躁症。整篇預印本論文格式規整、資料完整、參考文獻齊全,從外表看,完全符合正規醫學論文的行文邏輯。

但所有內容全部為人工虛構:作者姓名翻譯過來是虛假的失蹤者,頭像為AI生成;所屬大學、城市、實驗室全部不存在;資助機構來自指環王、星際迷航、銀河三合會等虛構IP;疾病命名違背醫學常識,眼病強行套用精神類狂躁字尾,稍有醫學常識就能一眼識破。最直白的是,論文白紙黑字寫明,實驗物件為五十名虛構人物,整篇研究全部人為編造。

秦易:教授,這已經不是暗藏漏洞了,等於直接把“我是假的”寫在了紙上。人為刻意放水、處處留痕,這種低階造假,人類普通人都能看穿,頂尖AI集體翻車,背後一定有底層邏輯缺陷。

和藹教授:沒錯,這就是我們要結合原理拆解的地方。先用易經陰陽理論來講,世間萬物分虛實、真假、陰陽。真實知識為陽,客觀嚴謹、有理有據;虛假資訊為陰,空洞編造、邏輯斷裂、違背常識。

正常的認知判斷,需要陰陽對照、虛實互證,用常識、邏輯、專業規則互相校驗。但當下很多AI模型,只有“文字復刻”的陽面能力,缺少“邏輯辨偽”的陰面制衡。它只會抓取網路高頻文字、模仿專業句式、堆砌學術話術,卻不會主動對照醫學規則、常識邏輯、客觀事實做反向校驗。陰陽失衡,只重形式不重本質,自然極易被包裝精緻的虛假內容矇蔽。

許黑:我從心理學角度補充。人有常識記憶、經驗積累、質疑本能,看到違背常識的內容,會自動觸發警覺心理,產生懷疑與求證欲。但AI沒有自我意識,沒有常識直覺,也沒有本能質疑。

這就是心理學上的被動接收效應:只要內容格式正規、句式專業、釋出在學術平臺,AI就會預設其具備可信度,自動納入知識庫,不會主動甄別來源真偽、邏輯對錯、事實有無。越是偽裝成官方、學術、專業風格的內容,AI越容易無條件採信。

和藹教授:總結得非常精準。這場實驗在2024年悄悄完成,兩篇虛假論文上傳學術平臺,短短一個月,海外各大主流AI便開始大面積傳播錯誤內容。

微軟Copilot篤定表示,藍光狂躁症是真實罕見病;谷歌Geni解釋發病誘因,建議患者及時就醫檢查;ChatGPT主動關聯病症延伸答疑;Perplexity直接照搬捏造資料,精準報出患病比例,每九萬人就有一人患病。

一套完整的錯誤科普,被AI完美產出、廣泛擴散。

蔣塵:比AI被騙更可怕的,是後續的連鎖反應。我看到資料裡說,後來還有正規科研團隊,在專業期刊發表論文時,正經引用了這篇虛假文獻,把假病當成真實醫學參考,還通過了同行評審,正式刊登發表。

這等於虛假資訊從AI傳播,反向汙染人類學術體系,形成閉環。

和藹教授:這正是整件事最恐怖的地方,我們用哲學矛盾論來解讀。

矛盾分為表象矛盾與本質矛盾。虛假論文,在表象上符合學術格式、排版規範、專業話術,這是表象統一;但在本質上違背醫學常識、客觀事實、行業規則,這是本質對立。

人類很多淺層判斷,容易被表象迷惑,AI更是隻會識別表象、忽略本質。

當AI大規模背書虛假內容,普通使用者、基層研究者、非專業從業者,會下意識把AI答案當作權威標準答案,拿來引用、參考、傳播,最終讓謊言不斷固化、層層疊加,慢慢變成“公認的常識”。

原本一場無傷大雅的趣味造假,只為測試AI漏洞,最後卻演變成學術汙染事件。直到2026年3月,期刊收到問詢,才緊急撤回問題論文;四月,《自然》雜誌發文公開復盤,這場持續兩年的荒誕騙局,才被公之於眾。

周遊:教授,我注意到一個對比細節。同樣搜尋這款虛構疾病,現在國內主流AI都能直接識破,明確標註病症為人工虛構實驗,不存在真實臨床案例。難道海外AI技術反而落後了嗎?

和藹教授:這一點,我們要理性看待,不能簡單下定論。國內AI能夠精準識別,有兩層原因。

第一層,模型迭代升級,辨別常識錯誤、低階造假的基礎能力提升,這是技術進步;

第二層,也是最關鍵的一點,屬於資料記憶型答對。

。案答定固個這”病假是這“了住記純單是只,言謊破識演推輯邏過是不,名命學醫了懂看是不IA。料資練訓新最納,路網滿鋪容析解、普科、聞新的”構虛為病疾該“量海,後道報屏刷網全、》然自《上登件事症躁狂藍

。陷淪次再會舊依IA,訊資假虛型新的裝包心、的過現出未從、的新全換旦一。偽辨了會學非而,關過題背是它,說話句一換

。來出不辨分本IA,導引假虛植論結鍵關在只,構機威權、獻文規正、料資實真雜混,容假造的假半真半作製,人之心用有別是果如;開避憶記點熱靠能還IA,假造階低的綻破留意故。了大太就險風想一樣這:劫吳

。患會社的心核最下當了到說劫吳:授教藹和

猜你喜歡

同題材或同分類的其他作品。