《我的系統能刷數學經驗》第135章 邏輯與生成的結合(2)

作者:見習人類觀察員·6個月前

現在的gpt模型,靠著海量的語料堆砌,已經是天生的語言大師了。讓art去跟它們比誰寫詩寫得好,誰翻譯得溜,那是拿自己的短處去碰別人的長處。

art的核心優勢是什麼?

是邏輯。

是永遠不會說“貓是植物”段論推理時出現“a>b, b>c,所以a<c”這種弱智錯誤的嚴謹性。

“用翻譯資料集測邏輯,就象是考愛因斯坦背單詞,根本測不出智商。”

“我需要一套專門考‘邏輯推理’的卷子。”

他在arxiv和github上飛速檢索。

很快,幾個備選方案浮現在眼前。

1 snli (stanford natural nguage ference):斯坦福自然語言推理資料集。給兩句話,判斷它們是“蘊含”、“矛盾”還是“中立”。這是最經典的nli任務。

2 squad (stanford question answerg dataset):閱讀理解問答。這個稍好一點,但也側重於資訊提取。

3 ctrr (positional nguage uandg a-based retional reasong):基於文字的關係推理。

徐辰的目光最終鎖定了最後一個數據集ctrr。

……

ctrr這個資料集很有意思。它會給你一段像繞口令一樣的故事:

“愛麗絲的媽媽是鮑勃的姐姐,鮑勃的兒子是查理。”

然後問你:“愛麗絲和查理是什麼關係?”

這不僅需要模型讀懂文字,更需要在腦子裡構建出一張“家譜圖”,進行多次的邏輯推理,才能得出正確答案。

對於傳統的transforr模型來說,這是個噩夢。因為transforr本質上是在算“詞與詞之間的相關性”,它並沒有真正的邏輯推理模組。它可能會因為“媽媽”、“姐姐”這些詞出現的頻率,瞎猜一個“姨媽”或者“奶奶”。

但對於裝載了“邏輯幾何嵌入”的art來說……

這簡直就是送分題!

在徐辰的數學模型裡,“媽媽”、“姐姐”、“兒子”這些關係,會被對映為向量空間裡的幾何變換運算元。推導關係,不過就是做幾次向量加法和包含運算而已。

“就選它了!”

徐辰打了個響指。

……

徐辰心情大好,轉過身準備拿水杯喝口水。

然而,剛一回頭,他就嚇了一哆嗦,杯子裡的水差點灑出來。

只見身後,方博、薛超、劉鑫羽三個人,不知何時已經站成了一排。三人雙手抱胸,六隻眼睛直勾勾、陰森森地盯著他

空氣安靜得有些詭異。

”?嗎習學用不?閒麼這?兒這在站都麼怎……們你“,笑了笑地尬尷,下一了搐角,空半在僵手的杯水著端辰徐”……呃“

”?習學“

。辰徐著指地首疾心痛,聲一笑冷博方

”?個裝來回了為是就是不是,103的又又這們咱回跑意特,著待裡寓公立獨個那園燕在不你,代實老你,神徐“

”?嗎境環發開修你找了為是不我“,辜無臉一辰徐”?啊“

”?嗎的新萌小的啄互gub跟在還些這們我過慮考你“,道喊地憤悲博方”!?嗎法算演慧智工人套一出修手順要需境環修“

:膀肩的辰徐拍了拍來過走,氣口一了嘆長也超薛的旁一

”。行都堂食去、館書圖去者或?舍宿的別害禍去能不能,活的裝種這後以。了你求弟兄算,的真,徐老“

”?好不好的尊自傷很,cpn的數湊來裡戲遊象很的真們我得顯樣這你,袋腦個一扛膀肩個兩是都家大,了裝人個幾這103們我著指直一別“

”?吧了行,餐大吃們你請,刊頂了發型模個這我等。了貧別,了行“:道罵笑住不忍,頭搖了搖地奈無辰徐

”!上續您給我了涼水,來來來!種那的貴最!料日家那門西吃要我那!氣大神徐,喲哎“,杯水的辰徐過接來過湊地諂臉一,臉變間瞬,一朵耳博方”?刊頂“

”。了準“

”!仙修您擾打不絕的小,忙續繼您神徐!嘞得“

猜你喜歡

同題材或同分類的其他作品。