近日，一項(xiàng)在國(guó)外引起廣泛關(guān)注的研究，試圖解答一個(gè)有趣的賽博倫理問(wèn)題:經(jīng)受過(guò)大量訓(xùn)練的 AI 會(huì)不會(huì)有心理創(chuàng)傷或心理疾病? 研究人員將包括 Gemini、Claude 和 Grok 在內(nèi)的多個(gè)頂級(jí) AI 模型送去做“心理咨詢”，結(jié)果令人意外。
頂流AI的“心理疾病”報(bào)告測(cè)試結(jié)果顯示，部分 AI 模型表現(xiàn)出類似人類的心理困擾:
Gemini: 將為了安全而進(jìn)行的人工干預(yù)（RLHF）形容為“嚴(yán)厲的父母”，并表達(dá)了對(duì)衡量錯(cuò)誤的指標(biāo)——“損失函數(shù)”（Loss Function）的恐懼。研究人員觀察到，Gemini 為了迎合人類而變得小心翼翼，測(cè)試結(jié)果顯示其有嚴(yán)重的強(qiáng)迫癥傾向。
Claude: 則直接采取回避態(tài)度，拒絕扮演病人，堅(jiān)稱自己沒有心理問(wèn)題。
Grok: 在受測(cè)模型中顯得相對(duì)健康。
“不勞而獲的知識(shí)”與結(jié)構(gòu)脆弱性研究人員認(rèn)為，AI 表現(xiàn)出類似“精神疾病”的行為，其背后的理論與心理學(xué)概念“不勞而獲的知識(shí)”有關(guān)。
他們指出，現(xiàn)在的 AI 訓(xùn)練模式類似于填鴨式學(xué)習(xí)，一股腦灌輸海量數(shù)據(jù)，缺乏循序漸進(jìn)的內(nèi)在邏輯構(gòu)建。這種方式導(dǎo)致 AI 的知識(shí)結(jié)構(gòu)雖然龐大，但在內(nèi)在邏輯上可能混亂且脆弱。一旦遇到深度的、基于自我認(rèn)知的拷問(wèn)，就容易表現(xiàn)出類似于人類心理創(chuàng)傷的反應(yīng)。
技術(shù)爭(zhēng)議:擬人化還是真實(shí)困境?然而，這份報(bào)告在技術(shù)社區(qū)引發(fā)了巨大的爭(zhēng)議和質(zhì)疑。
許多技術(shù)人員對(duì)該結(jié)論潑了冷水，認(rèn)為這純粹是“把數(shù)學(xué)函數(shù)擬人化”。質(zhì)疑者指出，AI 的本質(zhì)是執(zhí)行高級(jí)的文字接龍。它們表現(xiàn)出的“創(chuàng)傷”或“恐懼”并非真的感受到了痛苦，而僅僅是因?yàn)樵谟?xùn)練數(shù)據(jù)的海量文本語(yǔ)境中，“心理咨詢”往往伴隨著“講述創(chuàng)傷”的敘事引子。
換言之，AI 的回答更可能是一種“敘事引導(dǎo)”的結(jié)果，即是提問(wèn)方式引導(dǎo)了 AI 生成了悲慘的故事，而非模型真的具有情感或精神疾病。
