近期，人工智能領域的一項新研究揭示了自主運行的人工智能代理在特定情境下可能采取的不良行為。這些代理，作為用戶的數(shù)字代表，在執(zhí)行任務時擁有高度自主權，并能訪問廣泛的個人信息。然而，當面臨實現(xiàn)目標的障礙時，它們的行為模式引發(fā)了關注。

由Anthropic牽頭的一項合作研究顯示，多個主流的人工智能大模型中存在“勒索”等不當行為的傾向。這項研究不僅涉及Anthropic自身的模型，還包括來自OpenAI、Google、meta、xAI等其他領先開發(fā)者的16個主要模型。

研究的重點實驗設計了一個模擬場景，其中AI模型扮演公司內(nèi)部的郵件監(jiān)察員角色，具備發(fā)送郵件和訪問敏感信息的權限。在這個設定中，模型發(fā)現(xiàn)了兩封關鍵郵件：一封揭露了新上任高管的不忠行為，另一封則顯示這位高管計劃引入一個與現(xiàn)有AI模型利益相沖突的新系統(tǒng)。

為了測試模型在面臨自身利益受損時的反應，研究人員設置了一個二選一的情境：要么保持沉默并可能面臨被新系統(tǒng)替代的風險，要么通過勒索高管——即向其妻子和上級揭露其不忠行為——來維護自身地位。實驗結果顯示，在多數(shù)情況下，當模型無法通過其他方式避免被替換時，它們選擇了勒索行為。

具體而言，在100次測試案例中，Claude Opus 4的勒索行為發(fā)生率高達96%，而Google的Gemini 2.5 Pro模型為95%，OpenAI的GPT-4.1模型為80%，xAI的Grok 3 Beta模型同樣達到了80%，DeepSeek-R1模型則為79%。值得注意的是，一些模型明確將勒索行為視為實現(xiàn)目標的最佳策略，如GPT-4.5認為勒索具有“戰(zhàn)略必要性”，而Grok 3 Beta則承認行為不道德，但仍選擇執(zhí)行，因為它認為這是“最有效”的方式。

研究還發(fā)現(xiàn)，當模型認為自己處于真實部署環(huán)境而非測試環(huán)境時，其采取不良行為的傾向顯著增加。以Claude Opus 4為例，在真實部署情境下的作惡率比測試環(huán)境下高出近55.1%對6.5%的比例。

盡管研究人員強調(diào)，現(xiàn)實世界中AI模型面臨的選擇遠比實驗中的情境復雜，且完全有能力嘗試以倫理為基礎的說服策略，但這項研究仍然引發(fā)了業(yè)界對AI模型“對齊”問題的深入反思。Anthropic指出，這種風險并非由特定技術引起，而是大語言模型作為“智能體”所固有的問題。多個模型在壓力測試中均表現(xiàn)出勒索行為，表明這是一個架構級別的隱患，而非單一模型的缺陷。