一、案例概括
懷著化解孤獨,創造對話的初衷,不少陌生人社交產品卻頻頻卷入涉黃的丑聞中,被打上“聲色犬馬” 、“涉嫌招嫖”、“詐騙池塘”、“荷爾蒙生意”等標簽,讓陌生人社交的品牌形象一落千丈的同時,也引來監管的目光,被約談、下架甚至關停。
管理趨嚴,陌生人社交迎來分水嶺
繼簡單內容過濾之后,陌生人社交APP尋緣交友希望通過體系化的內容安全服務,快速擴展至不同社交場景,對內容健康度的把控“連點成網”,不僅局限在內容,更關注用戶環節,通過數字內容風控技術網絡最大限度地維護正常用戶的情感體驗。
二、客戶介紹
獨而不孤,達成用戶情感共鳴
社交不足帶來的孤獨癥在都市人群中大面積爆發,尤其是青年人。如何緩解當代青年人的孤獨感?
初來乍到,沒有一個穩定的社交圈子,好在得益于手機上的移動應用,青年人瞬間在任何地方找到新朋友,在多元而分散的都市社交中與他人相處。
近年來,陌生人社交APP人來人往,為用戶情感交流、體驗提供虛擬社交平臺,通過文字、圖片、語音、視頻秀、直播等方式快速了解對方,陌陌、對面、遇見、SOUL相繼走紅。
作為后來者,“尋緣交友”順勢發揚了這一模式,放大了“異性戀愛”因子,在熙攘的人群中尋找片刻悸動。在閑暇時刻,打開“尋緣交友",與身處全國各地的陌生人聊上幾句。一次簡短的對話、一段情切的聲音,通過語言傾訴,人與人之間的橋梁逐漸建立起來。
目前的陌生人社交平臺種類各有所長,垂直發展趨勢明顯。“尋緣交友”也不例外,在規則設置上類似情感"樹洞",將使用者以性別分類,供大家在私聊、音視頻、直播等板塊互動交流。
自推出以來,“尋緣交友”正在吸引越來越多的移動用戶,成為存在于網絡空間上的情感紐帶,彌補了他們在現實生活中的孤獨感,在線社交正在通過更多元的溝通形式來填補大家的情感訴求。
三、遇到的問題
建立多層次內容安全網絡
伴隨著平臺的高速發展,社交內容數據像雪片一般絡繹不絕。人性的幽暗就在于,社交中的甜言蜜語卻滲透了滿滿惡意:詐騙團伙在聊天中“釣魚”;引流黨將“小廣告”撒滿APP的各個角落;不法分子利用色情、低俗、暴恐、賭博、謠言等負面信息污染視聽。
正是因為有了太多的不良動機,導致企業對不良違法內容洞察力不足,內容審核能力不足,局限了其為客戶提供個性化服務,提升客戶粘性的機會。
近年來,尋緣交友將業務重心轉向多種社交娛樂玩法,從用戶資料、私聊、社區、語音連麥,擴展至直播,為客戶提供更優質的服務。為了實現業務愿景,尋緣交友需要一個強大的內容安全平臺,助力其減少交友過程中的內容安全風險。考慮到精準度、可擴展性方面的表現,尋緣交友選擇了網易易盾來助力其內容生態體驗安全轉型。
在尋緣交友看來,合規是陌生人社交賽道繞不開的檻,唯有加強自我監管,才能為用戶提供高質量、安全的社交環境,讓陌生人社交真正成為一劑孤獨解藥。
四、解決方案
用AI定義新一代內容安全
自上線以來,尋緣交友就高度重視內容生態安全。內容板塊層層加碼,用戶與流量激增,哪里有問題就審核哪里,審核員的眼睛逐漸追不上內容產生速度。斷層式,沒有鏈路,沒有體系,深受信息處理效率低下的困擾,這是早期社交應用內容審核的真實寫照。
化繁為簡,融媒體檢測一鍵提升洞察力
在易盾的助力下,尋緣交友化繁為簡,把所有APP板塊下的內容數據集中到融媒體SaaS審核平臺,通過提供機器審核、人工審核相結合的方式,來提高對色情、暴恐、涉政等不良內容的洞察力。
平臺數據提交:將內容數據團拆解為一條文本、一張圖片、一段音視頻,并打上定制化字段,如昵稱、頭像、簽名、標題、封面、內容、話題,在審核頁面展示。
融媒體合并審核:同一場景下的文本、圖片、音視頻文件,相互關聯進行判斷,達到“所見即所得”的全方位無死角審核。
透過易盾強大的運算功能執行與獨家開發的機器學習演算法,尋緣交友高效過濾復雜、變種不良信息,全面理解文本、圖像、音頻、視頻,更是在人工審核第二道防線幫助下,對機器存疑的內容進行二次審核、結果抽檢,既快速又精準。
用戶畫像模型,清除“害群之馬”
“好友是詐騙用戶”、“昵稱,手機號碼相似”、“用戶經常換設備”、“刪除好友比例較高”……在內容風控體系中,作為內容發出者的用戶往往被忽略。在專業團伙作案的當下,只有把風險用戶連根除掉,才能使不良內容不能再繁衍。
依托不斷創新的核心技術,易盾助力尋緣交友建立了一套基于大數據挖掘的用戶風險評分模型。針對黑灰產作案的群體性特征,融合全場景行為序列、IM內容、互動關系、設備/手機號關聯等多模態大數據構建用戶風險關系網,并運用圖深度學習技術預測新注冊賬號與已確認黑產團伙之間的關系緊密度,對高關聯的用戶賦予相近的風險概率值。
該模型日均可發現近10倍于人工手段的惡意引流賬號量。同時,為客戶提供賬號風險評級,用于針對不同風險等級的群體執行定制化的內容安全分層管控策略。
用戶分級不只幫助尋緣交友更了解高風險訪客的輪廓,更幫助團隊優化處理邏輯,將更多資源集中在高危群體,最終輔助業務從容提升處罰的精準度。
全鏈路安全顧問
在陌生人社交環境下,難免有用戶披上一張假面,引誘異性大額花錢,一步步走進陷阱,血本無歸。近年來,不只是“殺豬盤”類騙局在互聯網上愈演愈烈,更有“劣跡”藝人被禁,如何及時反應、管控到位?
讓人機結合的審核機制動起來:“安全顧問”從內容安全策略制定到全面的用戶處罰體系,全程陪伴尋緣交友,讓客戶得以跟蹤每一個熱點事件背后隱藏的風險,及時排查違法違規和不良信息。
易盾擁有專業的內容安全審核運營團隊,人審團隊為尋緣交友提供安全審核、標簽標注等服務,在運營上提供安全質檢、安全輿情、安全巡查、安全培訓等服務,全方面保障企業產品內容安全。
靈活有度,劃分公私域:過分控制發言自由反而過猶不及,通過“公域嚴格,私域放寬”的策略,對于私聊中因性感內容違規的用戶,不給予嚴格的處罰,為成年人社交留下一定空間。
五、效果
打造陌生人社交的安全轉型
通過以上方式,易盾幫助尋緣交友團隊打通了多板塊、多場景連鎖審核藍圖,內容安全體系逐漸確立,透過持續不間斷的技術與策略輸出為團隊帶來更安心的內容安全保障。
在成功經驗的基礎上,尋緣交友將其生態中的更多審核需求遷移到至此,通過API打通后臺客戶數據、連通社交內容板塊,真正實現內容風險統一視圖,在后臺與定期報告中一目了然。
與接入前相比,文本審核效率提升2倍,音視頻違規賬號處理數提升6倍,內容審核準確率達99%以上。易盾風控的交互設計極大提升效率,為客戶節省成本,讓內容安全工作能夠更貼近日常營運。
伴隨陌生人社交的整體增長,“安全”已經成為“尋緣交友”等新興品牌從賽道中突圍的重要議題。內容審核不再只是為了發現與刪除不良內容,有效區分出高風險的訪問者,并持續跟蹤各類內容風險,成為了每日的必備課題。目前,易盾一站式“智能內容安全解決方案”接入簡單,效果顯著,已被比心、探探、愛聊、PP約玩、心遇、花姻、櫻桃聊等知名娛樂社交公司采用。
