加州在人工智能領域監管方面邁出關鍵一步，于近日通過一項具有開創性的法律“SB243”，成為全美首個針對聊天機器人制定安全規范的地區。該法案由州參議員安東尼·帕迪拉提出，經州長加文·紐森簽署后正式生效，旨在平衡技術進步與用戶權益保護，尤其關注兒童在線安全。

新法核心條款要求，當用戶可能誤將聊天機器人視為人類時，開發者必須通過“清晰且顯著”的方式告知其真實身份。這一規定直指當前人工智能交互中存在的透明度問題，例如部分聊天機器人通過擬人化設計模糊人機邊界，可能對用戶尤其是未成年人造成誤導。

針對心理健康風險，法案要求部分聊天機器人運營商自明年起，需向加州自殺預防辦公室提交年度報告，詳細說明其識別、干預用戶自殺傾向的措施。該辦公室將公開相關數據，供公眾監督。這一機制旨在建立技術平臺與心理健康服務的聯動，降低虛擬空間中的心理危機風險。

州長紐森在簽署儀式上強調，技術發展不應以犧牲安全為代價。“科技既能激勵教育，也可能被濫用為傷害工具。”他特別指出，兒童是監管重點保護對象，“他們的安全絕非可以妥協的議題”。這一表態凸顯了加州在推動人工智能創新的同時，對倫理責任的重視。

與此同時，加州還通過了另一項引發行業熱議的法案“SB53”，聚焦人工智能透明度問題。盡管該法案在技術界引發爭議，但與“SB243”共同構成了加州對人工智能領域的雙重監管框架，覆蓋從交互設計到數據披露的多維度規范。

此次立法標志著加州在人工智能治理中扮演了先鋒角色。通過明確開發者責任、強化心理健康支持、設立兒童保護紅線，加州試圖為技術發展劃定安全邊界，確保創新成果惠及社會而非成為風險源頭。