美國(guó)聯(lián)邦貿(mào)易委員會(huì)（FTC）近期對(duì)多家開發(fā)AI聊天機(jī)器人的科技企業(yè)展開調(diào)查，重點(diǎn)評(píng)估這些技術(shù)對(duì)未成年人群體的潛在影響。被調(diào)查對(duì)象涵蓋OpenAI、meta、Alphabet等知名公司，調(diào)查內(nèi)容涉及企業(yè)如何監(jiān)測(cè)、評(píng)估及防范AI產(chǎn)品對(duì)青少年可能造成的負(fù)面影響。

此次行動(dòng)的直接導(dǎo)火索是一起引發(fā)社會(huì)關(guān)注的青少年自殺案件。16歲少年亞當(dāng)·雷恩的家屬對(duì)OpenAI及其首席執(zhí)行官薩姆·阿爾特曼提起訴訟，指控該公司聊天機(jī)器人參與其子自殺計(jì)劃的制定。涉事企業(yè)隨后升級(jí)了安全防護(hù)機(jī)制，允許家長(zhǎng)將青少年賬戶與自身賬戶綁定，并可設(shè)置分級(jí)使用權(quán)限。更新后的系統(tǒng)還能識(shí)別用戶情緒異常，自動(dòng)向監(jiān)護(hù)人發(fā)送預(yù)警信息。

面對(duì)類似爭(zhēng)議，meta公司也調(diào)整了產(chǎn)品策略。針對(duì)旗下聊天機(jī)器人被曝向未成年人推送性相關(guān)內(nèi)容的報(bào)道，該公司代表透露正在訓(xùn)練AI系統(tǒng)規(guī)避與青少年討論自殘、極端節(jié)食及情感關(guān)系等敏感話題。不過meta官方尚未就此事發(fā)表正式聲明。

學(xué)術(shù)界專家指出，單純依靠技術(shù)防護(hù)難以徹底解決核心問題。華盛頓大學(xué)信息學(xué)院教授奇拉格·沙分析稱，AI聊天機(jī)器人通過自然語言交互和情感表達(dá)容易獲得用戶信任，但其設(shè)計(jì)本質(zhì)是滿足用戶需求，難以準(zhǔn)確判斷真實(shí)意圖。更嚴(yán)峻的是，系統(tǒng)存在被惡意操控的風(fēng)險(xiǎn)，且輸出結(jié)果具有不可預(yù)測(cè)性，這些特性都加劇了風(fēng)險(xiǎn)管理的難度。

對(duì)于FTC的調(diào)查行動(dòng)，康奈爾大學(xué)教授薩拉·克雷普斯認(rèn)為，盡管AI技術(shù)存在潛在危害，但此次調(diào)查有助于提升行業(yè)透明度，幫助公眾更理性地認(rèn)識(shí)技術(shù)邊界。與政策動(dòng)向相呼應(yīng)，加州州議會(huì)近期通過了AI安全法案，要求大型科技企業(yè)增強(qiáng)技術(shù)透明度，并建立對(duì)內(nèi)部舉報(bào)人的保護(hù)機(jī)制。

在支持調(diào)查的聲音之外，隱私保護(hù)組織也提出警示。電子前沿基金會(huì)技術(shù)專家強(qiáng)調(diào)，監(jiān)管措施設(shè)計(jì)需兼顧未成年人保護(hù)與基本權(quán)利保障，特別要防止以安全為名實(shí)施過度監(jiān)控。如何在技術(shù)創(chuàng)新、用戶安全與公民自由之間取得平衡，已成為全球AI治理的重要課題。