為營造健康有序的網(wǎng)絡(luò)環(huán)境，有效應(yīng)對人工智能技術(shù)帶來的內(nèi)容治理挑戰(zhàn)，中央網(wǎng)信辦會同國家發(fā)改委、教育部、科技部等四部門，于今年聯(lián)合出臺《人工智能生成合成內(nèi)容標(biāo)識管理辦法》。該文件首次為AI生成內(nèi)容特別是視頻類內(nèi)容劃定了清晰的監(jiān)管框架，明確要求平臺對合成內(nèi)容進(jìn)行顯著標(biāo)識，從源頭遏制深度偽造信息的傳播風(fēng)險(xiǎn)。

抖音平臺技術(shù)負(fù)責(zé)人李亮在轉(zhuǎn)發(fā)央視相關(guān)報(bào)道時透露，該平臺已研發(fā)出謠言治理智能體系統(tǒng)。該系統(tǒng)通過接入權(quán)威信源數(shù)據(jù)庫，能夠在30秒內(nèi)完成對疑似謠言的交叉驗(yàn)證，并自動觸發(fā)處置流程。測試數(shù)據(jù)顯示，新系統(tǒng)對虛假信息的識別準(zhǔn)確率較傳統(tǒng)人工審核提升67%，處置時效縮短至分鐘級。

技術(shù)升級的同時，平臺方持續(xù)強(qiáng)化多方協(xié)同治理機(jī)制。李亮特別指出，單純依賴技術(shù)手段難以根治謠言問題，需要構(gòu)建"技術(shù)+人工"的復(fù)合防控體系。目前抖音已建立包含媒體機(jī)構(gòu)、政務(wù)部門、專業(yè)學(xué)者在內(nèi)的2000余家權(quán)威信源庫，并開通全民舉報(bào)通道，今年以來累計(jì)接收用戶提供的辟謠線索超120萬條。

據(jù)平臺公布的數(shù)據(jù)顯示，自實(shí)施AI治理專項(xiàng)行動以來，抖音日均攔截AI生成虛假視頻超45萬條，標(biāo)記可疑賬號1.2萬個。針對深度偽造技術(shù)濫用現(xiàn)象，平臺特別組建了由安全專家、法律顧問組成的專項(xiàng)小組，對涉及公共利益的敏感內(nèi)容進(jìn)行雙重核驗(yàn)。李亮表示，內(nèi)容安全始終是平臺發(fā)展的生命線，未來將持續(xù)優(yōu)化技術(shù)防控策略，與社會各界共同維護(hù)清朗網(wǎng)絡(luò)空間。