近期，中國(guó)之聲報(bào)道了生成式人工智能技術(shù)在推動(dòng)數(shù)字經(jīng)濟(jì)發(fā)展中的關(guān)鍵作用。然而，隨著AI技術(shù)的廣泛應(yīng)用，未標(biāo)注的AI生成內(nèi)容與人類創(chuàng)作內(nèi)容之間的界限變得模糊，導(dǎo)致詐騙、侵權(quán)等違法行為頻發(fā)。為應(yīng)對(duì)這一問題，國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部及國(guó)家廣播電視總局聯(lián)合制定了《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》，該辦法將于今年9月1日正式生效，明確要求用戶在發(fā)布AI生成內(nèi)容時(shí)需主動(dòng)聲明并進(jìn)行標(biāo)識(shí)。

盡管《標(biāo)識(shí)辦法》尚未施行，各大平臺(tái)已提前采取措施規(guī)范AI生成內(nèi)容的傳播。近日，北京互聯(lián)網(wǎng)法院審理的一起網(wǎng)絡(luò)服務(wù)合同糾紛案，就涉及平臺(tái)對(duì)用戶發(fā)言被誤判為“包含AI生成內(nèi)容但未標(biāo)識(shí)”的糾紛處理。原告在被告平臺(tái)上發(fā)表的一段關(guān)于工作與生活建議的言論，被平臺(tái)誤判為AI生成內(nèi)容，并因此受到隱藏內(nèi)容和禁言一天的處罰。原告隨即起訴平臺(tái)，要求撤銷處罰并刪除違規(guī)記錄。

庭審過程中，被告平臺(tái)強(qiáng)調(diào)，根據(jù)雙方的網(wǎng)絡(luò)服務(wù)合同，平臺(tái)有權(quán)審核并認(rèn)定用戶在使用服務(wù)時(shí)的違規(guī)行為，并采取相應(yīng)治理措施。法院審理認(rèn)為，平臺(tái)在服務(wù)協(xié)議中已明確告知用戶需對(duì)AI生成內(nèi)容進(jìn)行標(biāo)識(shí)，未標(biāo)識(shí)者將視為違規(guī)，因此平臺(tái)有權(quán)依據(jù)協(xié)議對(duì)內(nèi)容進(jìn)行審查和處理。然而，關(guān)于原告如何證明其言論非AI生成，法院指出，在缺乏創(chuàng)作底稿等直接證據(jù)的情況下，原告難以提供充分證明。

平臺(tái)方面進(jìn)一步辯稱，其有權(quán)選擇合理的技術(shù)手段進(jìn)行內(nèi)容識(shí)別，且無需向用戶透露算法邏輯和技術(shù)秘密。然而，法院認(rèn)為，作為算法工具的控制者和結(jié)果判斷者，平臺(tái)應(yīng)對(duì)其判斷依據(jù)和結(jié)果進(jìn)行合理舉證或解釋。本案中，盡管平臺(tái)提供了算法的備案信息，但該信息無法證明與本案爭(zhēng)議的關(guān)聯(lián)性，因此平臺(tái)未能對(duì)判斷依據(jù)作出合理解釋，應(yīng)承擔(dān)違約責(zé)任。最終，法院判決平臺(tái)撤銷對(duì)原告的隱藏和禁言處罰，并刪除后臺(tái)違規(guī)記錄。

即將施行的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》詳細(xì)規(guī)定了平臺(tái)在規(guī)范AI生成內(nèi)容傳播方面的責(zé)任，包括核驗(yàn)文件元數(shù)據(jù)、添加顯著提示標(biāo)識(shí)、提供標(biāo)識(shí)功能等。中國(guó)人民大學(xué)法學(xué)院副教授黃尹旭認(rèn)為，此案在司法審查規(guī)則方面對(duì)AI生成內(nèi)容的標(biāo)記、平臺(tái)識(shí)別和治理進(jìn)行了有益探索。他強(qiáng)調(diào)，法院既肯定了平臺(tái)利用算法工具履行信息內(nèi)容管理責(zé)任的積極作用，也要求平臺(tái)在即時(shí)性創(chuàng)作文本場(chǎng)景下對(duì)算法自動(dòng)化決策結(jié)果承擔(dān)適度說明義務(wù)，為算法解釋說明的司法審查標(biāo)準(zhǔn)確立了基準(zhǔn)。

黃尹旭還指出，算法治理需在保障技術(shù)透明度與激發(fā)產(chǎn)業(yè)創(chuàng)新活力之間尋求平衡。司法審查應(yīng)秉持包容審慎的態(tài)度，在算法信息適當(dāng)公開與商業(yè)秘密適度保護(hù)之間找到平衡點(diǎn)。本案中，法院合理分配了平臺(tái)與用戶的舉證責(zé)任，既保障了用戶權(quán)益，又促進(jìn)了算法的公開透明和規(guī)范應(yīng)用。