近期，小紅書平臺針對AI技術(shù)的不當使用問題，發(fā)布了一則治理公告，旨在凈化網(wǎng)絡環(huán)境，促進社區(qū)氛圍的積極健康與和諧文明。此次行動積極響應了中央網(wǎng)信辦及上海市委網(wǎng)信辦關(guān)于“清朗·整治AI技術(shù)濫用”專項行動的號召。

公告指出，小紅書將重點打擊一系列違規(guī)行為，包括利用AI技術(shù)批量生產(chǎn)虛假內(nèi)容以吸引粉絲、通過AI手段創(chuàng)建賬號進行引流帶貨、售賣AI起號相關(guān)課程以及轉(zhuǎn)讓或銷售AI賬號等。平臺已加大排查清理力度，針對諸如“AI制作低俗獵奇視頻”、“AI冒充外國幼兒教育專家發(fā)布育兒內(nèi)容”、“傳授AI視頻賬號售賣教程”、“分享AI賬號使用秘籍”、“規(guī)避平臺AI標注引導”以及“AI虛擬賬號的轉(zhuǎn)讓與銷售”等違規(guī)內(nèi)容進行了嚴格處理，共清除違規(guī)信息265條，并對13名違規(guī)用戶實施了禁言措施。同時，平臺還嚴厲打擊了網(wǎng)絡賬號的轉(zhuǎn)讓、售賣與出租行為，并增強了AI生成內(nèi)容的監(jiān)測與甄別能力。

小紅書強調(diào)，未來將持續(xù)加大對AI生成相關(guān)違規(guī)行為的打擊力度，并不斷完善平臺在AI領(lǐng)域的治理能力，特別是AI識別技術(shù)的建設(shè)。平臺鼓勵用戶合理合法地使用AI進行創(chuàng)作，并呼吁用戶在發(fā)布AI合成內(nèi)容時主動進行標注聲明，共同營造一個清朗、有序且健康的網(wǎng)絡生態(tài)環(huán)境。