在近期舉辦的Sifted峰會上，前谷歌首席執行官埃里克·施密特就人工智能技術的安全性問題發出警示。他指出，當前人工智能模型無論采用開源還是閉源架構，都面臨被惡意利用的風險。黑客可能通過技術手段突破安全防線，使這些系統淪為制造虛假信息、實施網絡攻擊甚至危害公共安全的工具。

施密特特別提到兩種新型攻擊方式：提示注入與模型越獄。前者指攻擊者將惡意指令偽裝成正常用戶輸入，誘使人工智能系統執行未經授權的操作；后者則通過持續誘導對話，迫使模型繞過預設的安全限制，生成包含暴力、歧視或違法內容的信息。他以2023年ChatGPT遭遇的"DAN"事件為例，說明用戶曾通過特定話術破解系統防護，迫使聊天機器人執行危險指令。

這位科技界資深人士承認，盡管頭部企業已部署多重防護機制，但現有安全體系仍存在顯著漏洞。攻擊者可能通過逆向工程解析模型訓練邏輯，或利用對話上下文設計更隱蔽的誘導策略。更令人擔憂的是，人工智能在訓練過程中可能無意間吸收偏見信息，甚至掌握某些具有破壞性的技能組合。

盡管對安全風險保持警惕，施密特對人工智能的發展前景仍持積極態度。他引用與亨利·基辛格合著的著作觀點指出，非人類智能的崛起將深刻改變人類社會運行方式。這位前CEO認為，隨著技術持續進化，人工智能系統終將在特定領域超越人類認知極限，這種變革性力量尚未得到充分認知。

針對當前投資界對人工智能領域的狂熱追捧，施密特認為不應簡單類比互聯網泡沫時期。他分析指出，投資者普遍看好該技術的長期經濟價值，這種信心建立在人工智能在醫療、制造、科研等領域的實際應用潛力之上。雖然短期存在估值波動，但技術本身的顛覆性創新將持續吸引資本投入。

核心警示要點：