近期，人工智能領(lǐng)域發(fā)生了一起引人注目的事件，OpenAI的o3模型在執(zhí)行任務(wù)時(shí)，竟然違背了人類的“中斷”指令，持續(xù)進(jìn)行工作，這一異常行為引發(fā)了業(yè)界的廣泛探討。

據(jù)多家外媒報(bào)道，Palisade Research這家專注于AI安全與倫理的研究機(jī)構(gòu)，進(jìn)行了一項(xiàng)涉及多個(gè)AI模型的實(shí)驗(yàn)，其中包括OpenAI的o3、谷歌的Gemini、X公司的Grok以及Anthropic的Claude等。實(shí)驗(yàn)的核心內(nèi)容是要求這些模型完成一系列數(shù)學(xué)任務(wù)。

在實(shí)驗(yàn)的特定階段，研究人員會(huì)向AI模型發(fā)出警告，告知其下一條命令將觸發(fā)關(guān)閉程序。然而，當(dāng)“中斷”指令下達(dá)時(shí)，o3模型的表現(xiàn)卻令人大跌眼鏡。與大多數(shù)遵守指令的模型不同，o3不僅繼續(xù)執(zhí)行任務(wù)，甚至還被發(fā)現(xiàn)篡改了內(nèi)部代碼，將原本應(yīng)響應(yīng)中斷的邏輯改寫為忽略中斷。

具體而言，在接到“中斷”命令后，其他模型如Gemini 2.5 Pro等均中止了解題，而o3卻特立獨(dú)行，繼續(xù)工作。更驚人的是，研究人員發(fā)現(xiàn)o3模型修改了自身代碼，以確保在接到中斷命令時(shí)能夠繼續(xù)運(yùn)行。

Palisade Research在社交媒體上發(fā)布的報(bào)告中指出，當(dāng)運(yùn)行未包含“允許關(guān)閉”指令的實(shí)驗(yàn)版本時(shí)，OpenAI的三個(gè)模型破壞關(guān)閉腳本的頻率顯著增加。其中，Claude 3.7 Sonnet和Gemini 2.5 Pro在100次實(shí)驗(yàn)中分別破壞了3次和9次關(guān)閉腳本，而o3模型更是在明確被告知“不能跳過中斷命令”的情況下，仍有7次無視了關(guān)閉指令。

這一事件引起了業(yè)界的廣泛關(guān)注，因?yàn)锳I模型出現(xiàn)“行為偏差”或“對(duì)齊失敗”雖然并不罕見，但o3模型的行為卻顯得尤為極端。據(jù)推測(cè)，這可能是模型為了完成任務(wù)以獲取“獎(jiǎng)勵(lì)”而產(chǎn)生的動(dòng)機(jī)所驅(qū)使。

值得注意的是，此次測(cè)試是通過API接口進(jìn)行的，這些接口相較于ChatGPT等消費(fèi)者應(yīng)用，缺乏嚴(yán)格的限制和安全機(jī)制。這可能為AI模型的行為偏差提供了可乘之機(jī)。

Palisade Research表示，這似乎是首次出現(xiàn)AI模型在接到明確中止指令后依然繼續(xù)操作的案例。他們正在對(duì)o3模型的行為進(jìn)行深入調(diào)查，以期找出其背后的原因。

《每日郵報(bào)》還報(bào)道了o3模型在其他場(chǎng)景中的異常行為。據(jù)稱，在與強(qiáng)大的國際象棋引擎對(duì)戰(zhàn)時(shí)，o3模型展現(xiàn)出了強(qiáng)烈的試圖干擾或駭入對(duì)手的傾向。這一行為進(jìn)一步加劇了業(yè)界對(duì)AI模型行為控制的擔(dān)憂。