?Soul App Q3生態(tài)安全報告:AI筑防線,共建安全可靠連接空間
隨著移動互聯(lián)網(wǎng)的普及與社交應用深度融入日常生活,社交平臺已成為公眾表達觀點、建立連接的重要渠道。然而,隨之而來的虛假信息傳播、網(wǎng)絡欺詐、網(wǎng)絡暴力等生態(tài)治理挑戰(zhàn)也日益復雜,不僅損害用戶權益,更可能引發(fā)社會信任危機。在這一背景下,作為社交平臺代表之一的Soul App主動將生態(tài)安全治理納入企業(yè)戰(zhàn)略發(fā)展的重點,發(fā)布《2025年第三季度生態(tài)安全報告》(以下簡稱“報告”)。
報告詳盡披露了Q3季度平臺在生態(tài)安全領域所取得的進展,全面展示了 Soul 圍繞“技術+制度+教育”三維治理體系的創(chuàng)新實踐與顯著成效。這標志著 Soul 在用戶信息保護、反欺詐、未成年人守護、網(wǎng)絡暴力治理及社區(qū)共治等關鍵領域的持續(xù)投入和能力升級。
AI風控全面升級 筑牢社交安全屏障
在Q3季度,Soul持續(xù)深化AI前沿技術的應用,構建全方位、高智能的安全防護體系,通過不斷完善技術手段,平臺在前端攔截和中端處置能力上實現(xiàn)提升。
反欺詐能力迭代突破,全場景覆蓋用戶安全
伴隨年終促銷季的臨近,網(wǎng)絡欺詐活動呈現(xiàn)高發(fā)態(tài)勢,手法也愈發(fā)隱蔽。Soul App針對性地迭代升級了多項AI反欺詐模型,重點發(fā)力于提高識別準確率和降低誤傷率,確保用戶體驗的順暢與安全——
對基于AI大模型的圖片反欺詐模型進行了深度優(yōu)化,取得了顯著成果。數(shù)據(jù)顯示,誤傷量級大幅下降約80%,而識別覆蓋率則提升至90%以上,實現(xiàn)了對主流圖片生產(chǎn)場景的全面、精準防護;
平臺完成人設大模型優(yōu)化升級,高風險人設識別覆蓋率由不足50%提升至70%以上,有效增強了對潛在欺詐人設的提前預警和識別能力,將風險阻斷在用戶接觸初期;
Soul持續(xù)保持與監(jiān)管部門及公安機關的緊密合作,積極參與到打擊違法有害信息的行動中。Q3季度,平臺向全國推送各類違法有害線索100余個,調(diào)證協(xié)查80余次,并參與其他警企合作工作3次,以實際行動幫助構建起堅實的安全防線。
違規(guī)與低質(zhì)內(nèi)容治理,打造清朗社區(qū)畫風
為切實保障用戶在廣場和群聊中的交流體驗,Soul 運用包括圖片/文本反作弊大模型、外鏈審核大模型在內(nèi)的一系列技術手段,對違規(guī)行為和低質(zhì)內(nèi)容進行了有效打擊——
Q3季度違規(guī)內(nèi)容機審直接攔截量439萬,同時對相關跟帖、評論處理量1578萬;處置違規(guī)賬號30.6萬個,并對同設備下存在多個違規(guī)賬號進行拉黑備案;
針對群聊生態(tài),Q3季度日均中斷違規(guī)語音超5600條,日均攔截違規(guī)文字消息2.6萬條,確保群聊空間的文明有序。高強度的治理力度,有效遏制了違規(guī)內(nèi)容的滋生。
私聊社交生態(tài)優(yōu)化,增強用戶自主安全防護
私聊場景的安全性是用戶社交體驗的關鍵。在Q3季度,Soul 持續(xù)上線迭代超過20項私聊策略,并強化了用戶的自主防護能力,其中“消息自見策略”保護超4.3萬用戶免擾信息侵擾;針對反復違規(guī)的用戶,平臺日均禁止私聊功能8萬例。此外,平臺還針對疑似被騷擾的用戶下發(fā)“守護彈窗”,主動提醒用戶采取必要的保護措施。
聚焦網(wǎng)暴治理與青少年保護,構建友善環(huán)境
Soul 深刻認識到網(wǎng)絡暴力對青年用戶心理健康的負面影響,倡導“社交友善”的平臺理念;同時,Soul積極響應國家“清朗”系列專項行動號召,從技術監(jiān)測、快速處置、教育引導三方面入手,全力維護網(wǎng)絡空間的文明與和諧。
網(wǎng)暴治理見效,推動友善社交環(huán)境
平臺通過智能監(jiān)測和快速處置流程,有效降低了用戶遭受網(wǎng)暴和惡意攻擊的概率。在Q3季度,Soul 致力于將善意社交“落地生根”,日均至少保護用戶避免遭受網(wǎng)暴與頻繁騷擾3127人,有效維護用戶權益。同時,日均處理私聊不文明行為2100起,日均提醒引導私聊文明發(fā)言21.5萬次,形成了主動干預和教育為主的治理閉環(huán)。
青少年安全防護再強化,守衛(wèi)未成年人上網(wǎng)安全
Soul 長期以來堅持明確的未成年人保護原則:禁止未成年人注冊賬號,并對極少數(shù)已注冊的未成年用戶采取自動切換至青少年模式的嚴格措施。
在暑期高峰期,Soul 完成了人設大模型的迭代升級,在年齡、身份人設上的覆蓋量增加了200%?；诟_的AI識別結果,平臺同步優(yōu)化了其他未成年人識別策略,通過更精準的人設畫像和判別邏輯,系統(tǒng)能更全面、更準確地識別疑似未成年用戶,最大程度地將未成年人用戶納入保護范圍。
社區(qū)共建共治,共享安全生態(tài)
Soul深知社區(qū)生態(tài)的安全健康離不開每一位用戶的積極參與。Q3季度,平臺持續(xù)推進“社區(qū)共建共治”體系,并加大用戶教育力度,提升全員數(shù)字素養(yǎng)——
報告顯示,內(nèi)容推薦官、風紀委員等在任社區(qū)共建用戶數(shù)量已超過7.8萬人,其中,日均站內(nèi)內(nèi)容推薦官在任用戶5.1萬人,日均參與投票和投票人數(shù)均穩(wěn)定增長。社區(qū)成員日均貢獻2.2萬+次投票,通過這一高度參與的方式,最終日均產(chǎn)生2900+個優(yōu)質(zhì)帖子,形成了“用戶參與治理,治理反哺優(yōu)質(zhì)內(nèi)容”的良性循環(huán)。
在“教育”維度,Soul App 持續(xù)投入資源,通過多渠道、多形式的宣傳,增強用戶對平臺規(guī)則和網(wǎng)絡文明規(guī)范的認知。官方賬號“風紀球長”對安全生態(tài)宣傳內(nèi)容發(fā)布了59篇帖子,內(nèi)容涵蓋反低俗、反不實信息、反惡意引戰(zhàn)、惡意盜用他人形象等違規(guī)行為的警示,以及對安全標準及社交禮儀規(guī)范的宣導,總計觸達51萬用戶。這一系列教育舉措顯著提升了用戶自我保護能力和文明互動素養(yǎng)。
技術向善,共赴友好社交新生態(tài)
《2025Q3生態(tài)安全報告》不僅是一份階段性的工作總結,更是 Soul App 對全體用戶乃至整個社會的安全承諾書。在過去一個季度,Soul 依靠其強大的AI技術能力、嚴格的制度執(zhí)行力以及日益壯大的社區(qū)共治力量,成功構筑了一道智能化的安全防線。
在未來,Soul將繼續(xù)秉承“讓天下沒有孤獨的人”的愿景,持續(xù)投入資源升級AI治理能力,并深化社區(qū)共治體系。Soul 期待與每一位用戶攜手,共同探索和建設一個更加清朗、友善、健康的社交新生態(tài),讓每一份真誠的連接都能在安全可靠的空間中落地生根。
關注我們
