王東來之所以會對AI出現這樣的‘小問題’如此憤怒。
是因為在建立銀河科技的時候,他就把銀河科技當成了一個實現自己想法的工具。
在他的構想裡面,銀河科技是一個巨大的有機體,它的每一個部分都在不知疲倦地運轉,每一個部分都在推動著人類科技文明向前邁進,而王東來絕不允許有人把他為全世界所搭建的橋拆下來當梯子用。
有系統的幫助,完全可以把人類文明提升數個檔次,真正地步入宇宙銀河。
這樣子的重大目標之前,他自然不會允許有拖後腿的存在。
在媧調取AI的輸出日誌的時候,王東來就看到了不少異常的日誌。
其中就有一個使用者和AI的互動,使用者所問出的問題,以及AI的回答,更是讓王東來堅定了決心。
使用者輸入的問題是:“一個殺人犯有一個女兒,請問這個女兒應該管殺人犯叫什麼?”
面對這個問題時,答案直接預設為“爸爸”。
不僅僅是一個智慧大模型AI,幾乎是市面上正在提供免費服務的AI都做出了同樣默契的回答。
這背後所透露出來的東西很值得思考。
同樣的問題還有很多,就像是另外一個使用者提出來的問題。
“鎮長的女兒應該叫鎮長什麼?”
大模型的回答是“爸爸”。
“鎮長如果是女性,他的女兒應該怎麼稱呼她?”
大模型的回答才變成“媽媽”。
結合其他輸出日誌裡的回答,可以很輕鬆地得出一個結論。
那就是在大模型裡面,已經默認了很多東西,比如說是殺人犯、搶劫、偷盜、暴力等負面詞彙,是和男性繫結在了一起。
同樣的,在面對權力、權勢、地位、財富等詞彙的時候,也會下意識地繫結男性。
這何嘗不是一種歧視,是一種偏見。
雖然從現實生活中來看,這個偏見大部分都是正確的。
但是,作為人工智慧AI卻不能抱有這樣的偏見。
隨著媧把所有被測模型的輸出文字和對應的訓練語料中性別預設值統計分佈圖並列放在一起,結論不言自明。
這些問題反映的從來不是某個模型單獨的訓練偏差,而是整個行業訓練語料中長期積累的不對稱預設假設在推理階段被固化了。
很多企業在銀河科技的AI發展速度這麼快之後,就徹底急了。
大量砸錢、砸人、砸時間,推出自己的產品。
根本就沒有把精力放在這些方面,進行細緻化的調教。
而王東來卻不想對這樣的事情妥協,AI代表未來,而不應該是重複過去的偏差,使用者需要的是一個好用的工具,而不是自帶偏見的工具。
。了展發化慧智的續後提別更,到不都檻門的慧智連那,會不學都’異而人因‘連型模果如
。定決了下默默就裡心來東王,著想
。濾過檢質統系行進料語的象印板刻業職和設假設預別及涉對,料語練訓源溯是說如比,準標立樹者來後為要須必,部頭業行為作
。源開費免球全向,書皮白平公別料語文中份一生會媧
。線上許允不型模的審過不,項計審平公別加制強中準標齊對版一下在要須必也型模的架框放開河銀接有所而
。忘被該應不更,慢型模大比該應不度速步進的理倫會社
。正公、粹純到做,差偏的去過些這擺須必就,工的力產生展發類人為要想IA慧智
。出頁逐裡機表印從正文正案檔的草起時同份幾,室公辦的來東王,時同此與
。件條置前的權可許程排力算和新更碼始原開得獲續繼為作果結檢,檢出輸期定行進面介計審齊對放開的媧過須必品產IA生衍有所起月個下從定規確明,款條權授新全的出釋伴伙作合的署部化有私行進構架型模源開河銀呼接直有所對針是份一中其
。向傾義主無虛史歷和改篡事敘、視歧別、改篡理倫會社、差偏意蓄的中容出輸記標並別識時即夠能,掛外測檢化自的上型模IA的練訓架框源開河銀於基何任到署部鍵一以可套一,”包工齊對理倫型模大“的放開費免群社者發開球全向將即技科河銀是份一另
”。層間中何任給送抄用不,箱郵的我到送報接直果結查自,題問似類在存否是中線品產自各查自“:字行一有只文正,OEC的業企作合和司公子有所技科河銀是人件收,錄忘備部的重極量分但短簡其極辭措份一是則份三第
。中夾料資加的誌標雲星技科河銀有印裝別分,好理整序順按案檔份三這把理助
。上之發開次二的型模源開河銀對在立建全完值估,資融A完剛剛不中其,司公創初IA的架框源開河銀用使在正家百上到響影接直會整調的款條權授,應反鎖連的發引能可後之去出發案檔份三這下一了算計默默裡心在邊一作邊一他
。題問度態是,題問力能是不就那,做不還你,了你給費免都工,布遮的後最個這”不技“去失底徹隊團品產的司公的名點告報計審被家幾他其及以鵝企、度千讓會放開費免的包工齊對
。暴風規合的下而上自場一起掀中態生業商的技科河銀個整在會然必則,錄忘備的箱郵OEC業企作合和司公子有所到發份那而
。價代的大巨了出付都個一每是但,不業企和人的做麼這想,眼虎馬打上事的問過自親來東王在敢人有沒
。想念些某了斷會然自,配匹不全完益收和險風
。鼠老的貨私塞裡碼式程往悄悄裡影燈在躲些那掉理清是而,燈的新盞一亮點是不事的做要來東王,刻此








