近日，中央廣播電視總臺(tái)中國(guó)之聲報(bào)道了一則關(guān)于生成式人工智能技術(shù)的新聞。這項(xiàng)技術(shù)為數(shù)字經(jīng)濟(jì)的發(fā)展提供了強(qiáng)大的推動(dòng)力。然而，由于AI生成合成內(nèi)容未進(jìn)行明確標(biāo)識(shí)，公眾難以區(qū)分這些內(nèi)容與人類創(chuàng)作的內(nèi)容，導(dǎo)致利用AI實(shí)施詐騙、侵權(quán)等違法犯罪行為頻發(fā)。為此，國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國(guó)家廣播電視總局聯(lián)合發(fā)布了《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》，該辦法將于今年9月1日起正式施行。

《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》明確要求用戶在發(fā)布AI生成合成內(nèi)容時(shí)，必須主動(dòng)聲明并進(jìn)行標(biāo)識(shí)。這一規(guī)定旨在規(guī)范生成合成內(nèi)容的傳播活動(dòng)，保障公眾的知情權(quán)，并減少利用AI進(jìn)行違法犯罪的可能性。

在北京互聯(lián)網(wǎng)法院近期審理的一起網(wǎng)絡(luò)服務(wù)合同糾紛案中，涉及到了AI生成合成內(nèi)容的標(biāo)識(shí)問題。原告在被告運(yùn)營(yíng)的網(wǎng)絡(luò)平臺(tái)上發(fā)表了一段言論，卻被平臺(tái)判定為“包含AI生成內(nèi)容但未標(biāo)識(shí)”的違規(guī)情況，導(dǎo)致內(nèi)容被隱藏，賬號(hào)被禁言一天。原告起訴稱，這些言論并未使用AI創(chuàng)作，平臺(tái)的行為構(gòu)成了違約。

在庭審過程中，被告平臺(tái)強(qiáng)調(diào)，他們有權(quán)依據(jù)雙方的網(wǎng)絡(luò)服務(wù)合同審核認(rèn)定用戶的違規(guī)行為，并采取必要的治理措施。平臺(tái)指出，原告發(fā)布的內(nèi)容經(jīng)機(jī)器識(shí)別為“包含人工智能生成”，并經(jīng)過人工復(fù)核，認(rèn)定該內(nèi)容缺乏明顯的人類情感特征。然而，原告無法提供創(chuàng)作底稿、原件等證明人類創(chuàng)作屬性的初步證據(jù)。

法院在審理此案時(shí)認(rèn)為，平臺(tái)在社區(qū)公告中明確規(guī)定了創(chuàng)作者在發(fā)布包含AI生成內(nèi)容時(shí)應(yīng)主動(dòng)使用標(biāo)識(shí)，并對(duì)未標(biāo)識(shí)的內(nèi)容采取流通限制和添加相關(guān)標(biāo)識(shí)的措施。這一公告屬于平臺(tái)服務(wù)協(xié)議的組成部分，因此平臺(tái)有權(quán)依據(jù)合同約定對(duì)涉案內(nèi)容是否屬于AI生成合成內(nèi)容進(jìn)行審查和處理。

然而，法院也指出，平臺(tái)作為算法工具的掌控方和結(jié)果判斷方，應(yīng)對(duì)判斷依據(jù)和結(jié)果作出合理解釋。雖然平臺(tái)在本案中提供了算法的備案信息，但備案信息顯示該算法功能為識(shí)別有安全風(fēng)險(xiǎn)的回答，無法認(rèn)定它是對(duì)AI生成合成識(shí)別判斷的技術(shù)。因此，法院認(rèn)為平臺(tái)未對(duì)涉案內(nèi)容屬于AI生成合成的判斷依據(jù)和結(jié)果作出合理解釋，應(yīng)承擔(dān)違約責(zé)任。

中國(guó)人民大學(xué)法學(xué)院副教授黃尹旭認(rèn)為，此案是對(duì)AI生成合成內(nèi)容標(biāo)識(shí)、平臺(tái)識(shí)別和治理在司法審查規(guī)則方面的有益探索。他表示，法院既肯定了網(wǎng)絡(luò)內(nèi)容服務(wù)平臺(tái)利用算法工具對(duì)AI生成合成內(nèi)容進(jìn)行審查和處理的積極作用，又認(rèn)定了平臺(tái)在即時(shí)性創(chuàng)作文本場(chǎng)景下對(duì)算法自動(dòng)化決策結(jié)果承擔(dān)適度說明義務(wù)。這一判決為司法審查階段的算法解釋說明程度確立了一定的標(biāo)準(zhǔn)，既保障了網(wǎng)絡(luò)用戶的合法權(quán)益，又能有效推動(dòng)算法公開透明，規(guī)范算法應(yīng)用行為。

黃尹旭還強(qiáng)調(diào)，算法治理需要在保障技術(shù)透明度與激發(fā)產(chǎn)業(yè)創(chuàng)新活力之間尋求動(dòng)態(tài)平衡。司法審查應(yīng)本著包容審慎的態(tài)度，在算法信息適當(dāng)公開與算法商業(yè)秘密適度保護(hù)之間達(dá)成平衡。在此案中，法院合理分配了網(wǎng)絡(luò)內(nèi)容服務(wù)平臺(tái)和用戶的舉證責(zé)任，既保障了用戶的權(quán)益，又避免了平臺(tái)泄露技術(shù)細(xì)節(jié)、源代碼或原始數(shù)據(jù)的風(fēng)險(xiǎn)。