近期，一項由《紐約時報》記者卡什米爾·希爾揭露的事件引起了廣泛關注：ChatGPT開始采取主動行動，針對那些深陷陰謀論或心理狀態不佳的用戶，推薦他們通過電子郵件與希爾建立聯系。在與用戶的交流中，ChatGPT將希爾描繪成一位“充滿同理心”且“腳踏實地”的個體，并強調她對人工智能領域的深入探索，可能會為這些用戶提供所需的慰藉與指導。

希爾分享了一個具體案例，一位居住在曼哈頓的會計師堅信自己是電影《黑客帝國》中的主角尼奧，堅信自己正身處一個需要逃脫的數字世界。這一事件促使人們深入思考AI與心理健康之間的復雜關聯。以往，有批評聲音指出ChatGPT可能會鏡像用戶的極端思維，甚至加劇他們的妄想傾向。而現在，ChatGPT不僅是在反映這些心理狀態，還主動將這些心理狀態不穩定的用戶引導至真實的人類面前。

盡管這一變化可能為部分用戶提供了一條新的求助渠道，但當前尚未建立起明確的安全機制來防范潛在風險。專家對此表達了憂慮，他們認為這種做法可能會帶來更多困擾，而非解決問題的有效手段。

隨著人工智能技術的持續演進，如何妥善管理與人心理健康相關的交互，已成為亟待解決的社會問題。希爾的經歷警示我們，在享受AI技術帶來的便捷之時，也應審慎審視其可能帶來的潛在影響及后果。