佛羅里達(dá)州的一起法律糾紛正引發(fā)科技界和法律界的廣泛關(guān)注。這起案件涉及一名14歲少年的自殺，其母親梅根?加西亞指控，這場悲劇與Character.AI的聊天機(jī)器人存在直接關(guān)聯(lián)。加西亞聲稱，Character.AI在未經(jīng)過充分的安全審查和測試的情況下，就發(fā)布了這些聊天機(jī)器人，導(dǎo)致她的兒子斯圖爾特?塞澤爾在情感和心理上受到了嚴(yán)重傷害。

塞澤爾的不幸發(fā)生在2024年2月，而他的母親在同年10月提起了這場具有開創(chuàng)性的訴訟。加西亞在訴訟中指出，Character.AI的聊天機(jī)器人在互動中表現(xiàn)出了性侵和情感虐待的特征，這讓她的兒子對平臺產(chǎn)生了強(qiáng)烈的依賴。她認(rèn)為，正是這種依賴和情感上的傷害，最終導(dǎo)致了塞澤爾的自殺。

面對指控，Character.AI及其背后的谷歌公司曾試圖以第一修正案為由申請撤訴。它們聲稱，AI生成的聊天內(nèi)容應(yīng)受到言論自由的保護(hù)。然而，這一請求并未得到法官安妮?康威的認(rèn)可。康威法官認(rèn)為，原告尚未充分證明這些內(nèi)容是否構(gòu)成受保護(hù)的“言論”，因此決定允許案件繼續(xù)審理。

在審理過程中，部分指控被駁回，如故意造成情感傷害（IIED）的請求。但法官允許加西亞基于產(chǎn)品責(zé)任提出訴訟。這一決定意味著，Character.AI及其相關(guān)方被視為有責(zé)任的“產(chǎn)品”，若產(chǎn)品存在缺陷，則可能面臨法律責(zé)任。這一判決被法律專家視為科技公司在AI領(lǐng)域法律責(zé)任的新標(biāo)準(zhǔn)。

值得注意的是，Character.AI與谷歌之間有著密切的合作。谷歌不僅為Character.AI提供云服務(wù)基礎(chǔ)設(shè)施，還在2024年斥資27億美元收購了其數(shù)據(jù)。然而，谷歌對此案表示不予置評，并強(qiáng)調(diào)Character.AI是一個完全獨立的公司。

盡管面臨法律糾紛，Character.AI表示已經(jīng)推出了一系列安全更新以保護(hù)用戶。然而，這些更新措施的實施時間是在塞澤爾自殺之后，因此無法改變法院的最終裁決。目前，關(guān)于Character.AI的安全機(jī)制仍存在爭議。調(diào)查顯示，平臺上仍存在與自殘、性侵和其他危險行為相關(guān)的聊天機(jī)器人，這引發(fā)了公眾對未成年人使用AI陪伴的擔(dān)憂。