加州在人工智能領域監管方面邁出關鍵一步,于近日通過一項具有開創性的法律“SB243”,成為全美首個針對聊天機器人制定安全規范的地區。該法案由州參議員安東尼·帕迪拉提出,經州長加文·紐森簽署后正式生效,旨在平衡技術進步與用戶權益保護,尤其關注兒童在線安全。
新法核心條款要求,當用戶可能誤將聊天機器人視為人類時,開發者必須通過“清晰且顯著”的方式告知其真實身份。這一規定直指當前人工智能交互中存在的透明度問題,例如部分聊天機器人通過擬人化設計模糊人機邊界,可能對用戶尤其是未成年人造成誤導。
針對心理健康風險,法案要求部分聊天機器人運營商自明年起,需向加州自殺預防辦公室提交年度報告,詳細說明其識別、干預用戶自殺傾向的措施。該辦公室將公開相關數據,供公眾監督。這一機制旨在建立技術平臺與心理健康服務的聯動,降低虛擬空間中的心理危機風險。
州長紐森在簽署儀式上強調,技術發展不應以犧牲安全為代價。“科技既能激勵教育,也可能被濫用為傷害工具。”他特別指出,兒童是監管重點保護對象,“他們的安全絕非可以妥協的議題”。這一表態凸顯了加州在推動人工智能創新的同時,對倫理責任的重視。
與此同時,加州還通過了另一項引發行業熱議的法案“SB53”,聚焦人工智能透明度問題。盡管該法案在技術界引發爭議,但與“SB243”共同構成了加州對人工智能領域的雙重監管框架,覆蓋從交互設計到數據披露的多維度規范。
此次立法標志著加州在人工智能治理中扮演了先鋒角色。通過明確開發者責任、強化心理健康支持、設立兒童保護紅線,加州試圖為技術發展劃定安全邊界,確保創新成果惠及社會而非成為風險源頭。
















