近日，互聯網安全領域的活躍分子向英國通信監管機構Ofcom發出了一項重要呼吁，他們要求限制人工智能（AI）在關鍵風險評估環節的應用。這一呼吁的背景是meta公司——旗下擁有Facebook、Instagram和WhatsApp等社交平臺——計劃將風險評估流程自動化。

Ofcom透露，他們正在審視這一呼吁中的擔憂，此前有報告指出meta公司計劃將高達90%的風險評估工作交由AI完成。這一動態引發了廣泛關注和討論。

根據英國的《在線安全法案》，社交媒體平臺有責任評估平臺上的潛在風險，并制定緩解措施，特別是針對兒童用戶的保護和非法內容的預防。風險評估被視為該法案執行過程中的關鍵環節。

多個致力于兒童保護和網絡安全的組織，包括莫莉?羅斯基金會、國家防止虐待兒童協會和互聯網觀察基金會，聯合向Ofcom的首席執行官梅蘭妮?道斯發送了一封公開信。信中強烈反對使用AI驅動的風險評估，認為這是一種倒退且令人擔憂的做法。他們指出，完全或主要依賴自動化生成的風險評估通常不應被視為符合法案要求的“合適且充分”標準。

這些組織在信中進一步要求Ofcom對平臺可能試圖簡化風險評估流程的假設提出質疑，并呼吁監管機構公開聲明自動化風險評估的局限性。

Ofcom的一位發言人回應稱，他們已明確要求相關服務提供風險評估的完成、審查和批準情況的詳細信息。他們正在認真考慮這封信中的關切，并將在適當的時候作出回應。

meta公司則對這一呼吁表示異議，認為這封信故意歪曲了該公司在安全方面的立場。meta強調，他們致力于遵守法規并保持高標準的安全措施。meta的發言人解釋說，他們并沒有使用AI來做出風險決策，而是開發了一種工具來幫助團隊識別產品是否符合法律和政策要求。他們表示，AI技術是在人類監督下使用的，以提高管理有害內容的能力，并指出技術進步已經顯著改善了安全結果。

然而，此前有報道指出meta計劃通過AI系統審批算法更新和新的安全功能，而不再由員工進行審查。一位匿名的meta前高管透露，這種改變將加速Facebook、Instagram和WhatsApp的應用更新和新功能的推出，但可能會增加用戶面臨的風險，因為潛在問題在新產品發布前更難被預防。

還有報道稱meta正在考慮將青少年風險和虛假信息傳播監測等敏感領域的審查流程自動化。這一消息引發了更多關于AI在風險評估中應用的爭議和擔憂。