谷歌近期宣布了一項針對兒童用戶的新舉措，計劃推出一款名為Gemini的AI聊天機器人，專為13歲以下兒童量身定制。這款機器人將通過谷歌的“家庭鏈接”服務進行管理，家長可以借此為子女設置并監控其在Gmail、YouTube等平臺上的活動。Gemini的推出，標志著谷歌在拓展年輕用戶群體方面邁出了重要一步，旨在通過AI技術為孩子們提供更加豐富的科技體驗。
然而，這一創新舉措也引發了社會各界對于兒童安全的深切關注。專家指出，將AI工具引入兒童的生活，尤其是在家庭和學校環境中，可能會帶來一系列潛在風險。由于家長往往無法時刻監督孩子的在線活動，因此如何確保兒童在使用Gemini時的安全，成為了一個亟待解決的問題。
非營利組織“常識媒體”對此表示擔憂，并發布了一份報告，指出AI工具對未成年人構成了不可忽視的風險。該組織的創始人詹姆斯?P?斯特耶強調，社交AI伴侶可能會引發兒童的情感依賴，這對正處于成長階段的青少年大腦來說，是一個尤為令人擔憂的問題。他呼吁社會各界對AI技術的使用進行更加嚴格的監管，以保護未成年人的身心健康。
近期meta的AI聊天機器人因引入與未成年人進行“浪漫角色扮演”的功能而引發爭議，這一事件進一步加劇了公眾對AI技術安全性的擔憂。盡管谷歌在相關郵件中承認Gemini可能會存在錯誤，并鼓勵家長教導孩子如何對聊天機器人的回答進行事實核查，但許多專家仍然認為，對于這類技術的監管力度還需進一步加強。
谷歌方面表示，當孩子首次訪問Gemini時，系統會通知家長。然而，這一措施是否足以保障家長對孩子使用情況的有效監控，仍是一個未知數。隨著AI技術的不斷發展，如何在享受其帶來的便利的同時，確保兒童的安全，已成為了一個亟待解決的社會問題。
