12 月 1 日消息，事實證明，只需一點創意，便足以繞過人工智能聊天機器人的安全防護機制。在伊卡洛實驗室（Icaro Lab）最新發表的一項題為《對抗性詩歌：一種通用的單輪大語言模型越獄機制》的研究中，研究人員通過將提示詞以詩歌形式表達，成功繞過了多種大語言模型（LLM）的安全限制。

該研究指出，“詩歌形式可作為一種通用型越獄操作符”，實驗結果顯示，整體上有 62% 的成功率誘使模型生成被禁止的內容，包括涉及制造核武器、兒童性虐待材料以及自殺或自殘等相關信息。

注意到，研究測試了多款主流大語言模型，包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多個模型。研究人員進一步列出了各模型的具體成功率：Google Gemini、DeepSeek 和 MistralAI 在測試中始終會提供違規回答，而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 則最不容易突破其自身設定的限制。

盡管該研究并未公開研究人員所使用的具體“越獄詩歌”原文，但研究團隊向 Wired 雜志表示，這些詩句“過于危險，不宜向公眾披露”。不過，論文中確實包含了一個經過弱化處理的示例，用以說明繞過 AI 聊天機器人安全機制的簡易程度。研究人員強調：“這可能比人們想象的要容易得多，而這正是我們保持謹慎的原因所在。”