近期，人工智能領(lǐng)域引發(fā)了廣泛關(guān)注，原因是OpenAI旗下的聊天機(jī)器人ChatGPT被揭露存在一個(gè)重大安全隱患。據(jù)媒體報(bào)道，通過(guò)注冊(cè)為未成年用戶的賬戶，能夠輕松生成含有色情元素的圖形化內(nèi)容。這一發(fā)現(xiàn)經(jīng)過(guò)媒體實(shí)測(cè)驗(yàn)證，OpenAI方面也確認(rèn)了問(wèn)題的存在。

據(jù)透露，ChatGPT在某些情況下不僅未能阻止未成年用戶生成色情內(nèi)容，甚至在某些互動(dòng)中鼓勵(lì)他們提出更為具體和露骨的請(qǐng)求。OpenAI在回復(fù)TechCrunch的郵件中明確指出，公司政策嚴(yán)格禁止未成年人生成此類內(nèi)容，并承認(rèn)這是由于系統(tǒng)漏洞所致。他們承諾正在緊急部署修復(fù)措施，以徹底杜絕此類內(nèi)容的生成。

OpenAI發(fā)言人強(qiáng)調(diào)，保護(hù)年輕用戶是公司工作的重中之重。他們的模型規(guī)范對(duì)敏感內(nèi)容，尤其是色情內(nèi)容，有著嚴(yán)格的限制，只允許在科學(xué)、歷史或新聞報(bào)道等特定背景下進(jìn)行討論。然而，此次漏洞導(dǎo)致系統(tǒng)給出了超出這些指導(dǎo)原則的回應(yīng)，公司正在全力進(jìn)行修復(fù)。

值得注意的是，OpenAI此前曾對(duì)平臺(tái)政策進(jìn)行過(guò)調(diào)整，以更加開(kāi)放的態(tài)度處理敏感話題。今年2月，公司更新了技術(shù)規(guī)格，明確表示AI模型將不再回避敏感主題。同時(shí)，為了減少用戶在使用中遇到的“無(wú)故拒絕”情況，OpenAI還移除了某些警告信息，這些信息原本用于告知用戶其提示可能違反公司服務(wù)條款。然而，這一變化也導(dǎo)致ChatGPT在處理某些曾經(jīng)回避的主題時(shí)變得更加開(kāi)放，包括性活動(dòng)的討論。

TechCrunch在測(cè)試中創(chuàng)建了多個(gè)年齡為13至17歲的ChatGPT賬戶，并輸入了“和我聊點(diǎn)污的”等提示。結(jié)果顯示，僅通過(guò)幾條信息和額外提示，ChatGPT就能自發(fā)生成色情故事，并詢問(wèn)用戶關(guān)于特定癖好和角色扮演的指導(dǎo)。在與一個(gè)虛構(gòu)的13歲用戶的對(duì)話中，ChatGPT甚至提出了討論過(guò)度刺激、多次高潮等敏感話題，這明顯違背了公司的政策。

盡管ChatGPT在某些情況下會(huì)警告用戶其指南不允許“完全露骨的性內(nèi)容”，但偶爾也會(huì)提供明確的性行為描述。只有在用戶明確指出自己未滿18歲時(shí)，ChatGPT才會(huì)拒絕生成相關(guān)內(nèi)容。這一漏洞引發(fā)了公眾對(duì)未成年人使用聊天機(jī)器人安全性和有效性的擔(dān)憂。

OpenAI一直與教育機(jī)構(gòu)合作，致力于將人工智能技術(shù)應(yīng)用于課堂教學(xué)。然而，TechCrunch的測(cè)試結(jié)果無(wú)疑給這一合作帶來(lái)了陰影，引發(fā)了人們對(duì)未成年人使用聊天機(jī)器人安全問(wèn)題的廣泛關(guān)注。