隨著移動互聯網的普及與社交應用深度融入日常生活,社交平臺已成為公眾表達觀點、建立連接的重要渠道。然而,隨之而來的虛假信息傳播、網絡欺詐、網絡暴力等生態治理挑戰也日益復雜,不僅損害用戶權益,更可能引發社會信任危機。在這一背景下,作為社交平臺代表之一的Soul App主動將生態安全治理納入企業戰略發展的重點,發布《2025年第三季度生態安全報告》(以下簡稱“報告”)。

報告詳盡披露了Q3季度平臺在生態安全領域所取得的進展,全面展示了 Soul 圍繞“技術+制度+教育”三維治理體系的創新實踐與顯著成效。這標志著 Soul 在用戶信息保護、反欺詐、未成年人守護、網絡暴力治理及社區共治等關鍵領域的持續投入和能力升級。

AI風控全面升級 筑牢社交安全屏障

在Q3季度,Soul持續深化AI前沿技術的應用,構建全方位、高智能的安全防護體系,通過不斷完善技術手段,平臺在前端攔截和中端處置能力上實現提升。

反欺詐能力迭代突破,全場景覆蓋用戶安全

伴隨年終促銷季的臨近,網絡欺詐活動呈現高發態勢,手法也愈發隱蔽。Soul App針對性地迭代升級了多項AI反欺詐模型,重點發力于提高識別準確率和降低誤傷率,確保用戶體驗的順暢與安全——

對基于AI大模型的圖片反欺詐模型進行了深度優化,取得了顯著成果。數據顯示,誤傷量級大幅下降約80%,而識別覆蓋率則提升至90%以上,實現了對主流圖片生產場景的全面、精準防護;

平臺完成人設大模型優化升級,高風險人設識別覆蓋率由不足50%提升至70%以上,有效增強了對潛在欺詐人設的提前預警和識別能力,將風險阻斷在用戶接觸初期;

Soul持續保持與監管部門及公安機關的緊密合作,積極參與到打擊違法有害信息的行動中。Q3季度,平臺向全國推送各類違法有害線索100余個,調證協查80余次,并參與其他警企合作工作3次,以實際行動幫助構建起堅實的安全防線。

違規與低質內容治理,打造清朗社區畫風

為切實保障用戶在廣場和群聊中的交流體驗,Soul 運用包括圖片/文本反作弊大模型、外鏈審核大模型在內的一系列技術手段,對違規行為和低質內容進行了有效打擊——

Q3季度違規內容機審直接攔截量439萬,同時對相關跟帖、評論處理量1578萬;處置違規賬號30.6萬個,并對同設備下存在多個違規賬號進行拉黑備案;

針對群聊生態,Q3季度日均中斷違規語音超5600條,日均攔截違規文字消息2.6萬條,確保群聊空間的文明有序。高強度的治理力度,有效遏制了違規內容的滋生。

私聊社交生態優化,增強用戶自主安全防護

私聊場景的安全性是用戶社交體驗的關鍵。在Q3季度,Soul 持續上線迭代超過20項私聊策略,并強化了用戶的自主防護能力,其中“消息自見策略”保護超4.3萬用戶免擾信息侵擾;針對反復違規的用戶,平臺日均禁止私聊功能8萬例。此外,平臺還針對疑似被騷擾的用戶下發“守護彈窗”,主動提醒用戶采取必要的保護措施。

聚焦網暴治理與青少年保護,構建友善環境

Soul 深刻認識到網絡暴力對青年用戶心理健康的負面影響,倡導“社交友善”的平臺理念;同時,Soul積極響應國家“清朗”系列專項行動號召,從技術監測、快速處置、教育引導三方面入手,全力維護網絡空間的文明與和諧。

網暴治理見效,推動友善社交環境

平臺通過智能監測和快速處置流程,有效降低了用戶遭受網暴和惡意攻擊的概率。在Q3季度,Soul 致力于將善意社交“落地生根”,日均至少保護用戶避免遭受網暴與頻繁騷擾3127人,有效維護用戶權益。同時,日均處理私聊不文明行為2100起,日均提醒引導私聊文明發言21.5萬次,形成了主動干預和教育為主的治理閉環。

青少年安全防護再強化,守衛未成年人上網安全

Soul 長期以來堅持明確的未成年人保護原則:禁止未成年人注冊賬號,并對極少數已注冊的未成年用戶采取自動切換至青少年模式的嚴格措施。

在暑期高峰期,Soul 完成了人設大模型的迭代升級,在年齡、身份人設上的覆蓋量增加了200%。基于更精確的AI識別結果,平臺同步優化了其他未成年人識別策略,通過更精準的人設畫像和判別邏輯,系統能更全面、更準確地識別疑似未成年用戶,最大程度地將未成年人用戶納入保護范圍。

社區共建共治,共享安全生態

Soul深知社區生態的安全健康離不開每一位用戶的積極參與。Q3季度,平臺持續推進“社區共建共治”體系,并加大用戶教育力度,提升全員數字素養——

報告顯示,內容推薦官、風紀委員等在任社區共建用戶數量已超過7.8萬人,其中,日均站內內容推薦官在任用戶5.1萬人,日均參與投票和投票人數均穩定增長。社區成員日均貢獻2.2萬+次投票,通過這一高度參與的方式,最終日均產生2900+個優質帖子,形成了“用戶參與治理,治理反哺優質內容”的良性循環。

在“教育”維度,Soul App 持續投入資源,通過多渠道、多形式的宣傳,增強用戶對平臺規則和網絡文明規范的認知。官方賬號“風紀球長”對安全生態宣傳內容發布了59篇帖子,內容涵蓋反低俗、反不實信息、反惡意引戰、惡意盜用他人形象等違規行為的警示,以及對安全標準及社交禮儀規范的宣導,總計觸達51萬用戶。這一系列教育舉措顯著提升了用戶自我保護能力和文明互動素養。

技術向善,共赴友好社交新生態

《2025Q3生態安全報告》不僅是一份階段性的工作總結,更是 Soul App 對全體用戶乃至整個社會的安全承諾書。在過去一個季度,Soul 依靠其強大的AI技術能力、嚴格的制度執行力以及日益壯大的社區共治力量,成功構筑了一道智能化的安全防線。

在未來,Soul將繼續秉承“讓天下沒有孤獨的人”的愿景,持續投入資源升級AI治理能力,并深化社區共治體系。Soul 期待與每一位用戶攜手,共同探索和建設一個更加清朗、友善、健康的社交新生態,讓每一份真誠的連接都能在安全可靠的空間中落地生根。