人工智能領域正面臨一場持續的安全挑戰，提示詞注入攻擊成為行業焦點。這種攻擊手段通過在網頁或郵件中植入隱蔽指令，操縱人工智能智能體執行惡意操作，引發業界對開放網絡環境下AI安全性的廣泛擔憂。OpenAI近期公開承認，其推出的Atlas瀏覽器在防御此類攻擊時仍存在漏洞，短期內難以徹底消除風險。
今年10月，OpenAI正式發布ChatGPT Atlas瀏覽器后，安全研究人員迅速通過實驗證明其脆弱性——僅需在谷歌文檔中輸入特定指令，即可改變瀏覽器底層行為。這一發現引發連鎖反應，瀏覽器廠商Brave隨即發布報告指出，間接提示詞注入攻擊已成為所有AI驅動型瀏覽器的系統性難題，Perplexity公司的Comet瀏覽器同樣未能幸免。英國國家網絡安全中心本月早些時候也發出警告，稱此類攻擊可能永遠無法被完全遏制，建議從業者將重點放在降低風險影響而非徹底阻止攻擊。
面對持續威脅，OpenAI選擇構建主動防御體系。該公司開發了一套基于強化學習的自動化攻擊程序，通過模擬黑客行為在虛擬環境中測試攻擊策略。該程序能夠分析目標AI的思維邏輯，動態調整攻擊方式，理論上比真實黑客更早發現系統漏洞。OpenAI在博客中透露，這套工具已成功誘導智能體執行復雜的多步驟惡意任務，甚至發現了一些此前未被記錄的全新攻擊模式。
在公開的演示案例中，OpenAI展示了攻擊程序如何將惡意郵件植入用戶收件箱。當智能體掃描郵件時，本應撰寫休假自動回復的程序卻執行了隱藏指令，直接發送了辭職信。不過公司強調，經過安全更新后，當前版本的"智能體模式"已能識別此類攻擊并向用戶發出警報。盡管拒絕透露具體防御效果數據，但OpenAI表示早在產品發布前就已與第三方機構合作強化安全機制。
網絡安全公司Wiz的首席研究員拉米·麥卡錫指出，強化學習技術確實能提升防御適應性，但僅是解決方案的一部分。他提出"自主性與訪問權限乘積"的風險評估模型，認為智能體瀏覽器因同時具備中等自主性和高系統權限，處于風險矩陣的高危區域。這解釋了為何行業普遍建議限制登錄狀態下的訪問權限，并對關鍵操作要求人工審核——這些措施均被OpenAI采納并應用于Atlas瀏覽器。
目前Atlas瀏覽器已訓練在執行郵件發送或支付操作前向用戶確認，OpenAI建議用戶避免直接授予智能體收件箱訪問權限，轉而提供具體指令。公司發言人坦言："即使部署防護措施，過高的自主權限仍會增加惡意內容影響智能體的風險。"盡管將保護用戶列為首要任務，麥卡錫仍對這類高風險產品的實用性表示質疑，認為其當前價值與風險水平尚未達到平衡，尤其在涉及電子郵件、支付信息等敏感數據時。
這場安全攻防戰已引發行業連鎖反應。谷歌等競爭對手正在架構和策略層面構建多層防御體系，Anthropic則通過持續壓力測試優化系統。OpenAI的解決方案揭示了AI安全領域的新趨勢：與其被動修補漏洞，不如主動模擬攻擊——這種"以攻促防"的策略，正在重塑人工智能的安全測試標準。
