疫情期間，約會應用軟件意外成為必需品，不僅霸榜iOS應用商店下載排行榜，更是在去年獲得了超6億人的使用。可見，陌生人社交模式成為當代青年交往的重要助推器，人氣緊追老牌社交軟件。
在此背景下，陌生人社交軟件迅速躥紅。某陌生人社交軟件在專注于“交友”生態建設的同時，始終秉承“守護用戶交友安全”的責任，構建了一支100人以上的審核團隊，并引入網易易盾的數字內容風控體系，為用戶可信度與APP內容生態把關，保證陌生人社交的真實性與安全性。
一、聚焦單身交友，發揮先行者優勢
某陌生人社交軟件，是一款以互聯網思維開發的婚戀交友APP，讓單身男女通過文字、語音、視頻等多種方式與同城附近異性聊天與互動，已有超過千萬用戶在平臺快速搭訕結識了心怡的另一半、知心朋友、紅顏藍顏知己。
以獨特的文化內涵，豐富品牌調性，該陌生人社交軟件不僅強調產品的單身交友屬性，更傳遞年輕人對自我、情感的表達，通過對自己的“示弱”的調侃，形成幽默的反差效果。在短短4年內中，APP已經實現100倍用戶增長，在2020年7月APP總用戶量突破1億，成功躋身中國垂直社交產品TOP3產品。
二、各大風險 識別和管控
在信息高度發達的今天，該客戶經歷了商業模式的階梯式創新，以智能的AI匹配算法，以聲音、視頻、AI智能推薦機制為抓手，為用戶快速推薦相互有好感的異性。
在這里，搭訕聊天回復率高，平均回復等待時間小于5秒，讓用戶快速進入狀態。內容交互節奏的加快，意味著內容審核機制的快步趕上。該客戶從以下2方面出發，對可靠和穩健的數字內容風控體系提出要求：
海量UGC內容安全：色情、虛假廣告、違禁、暴恐、涉政等內容的監察與攔截，有損平臺形象，IM私聊、社區、評論、動態、用戶資料、直播等環節是用戶參與的重點，也成為所有互聯網內容平臺關注焦點。
新進用戶身份把關：進行風險審核時，不可避免需要對新用戶進行綜合評估， 首先必須在不影響個人隱私的情況下，其次賬號背后的身份真實、可靠性往往難以把控和確認。
陌生人社交平臺所面臨的內容風險來自于各方各面，識別和管控細碎且復雜，大大掣肘了業務穩定健康發展。近年來，采用先進技術應對風險，成為行業進步的一個必然選擇。
三、“清朗”主體責任多維度把握
清朗網絡空間的治理行動穩步開展，陌生人社交向著健康的方向發展成為大趨勢。該客戶以平臺自身監管責任為使命，攜手網易易盾，共同構建一套全面覆蓋、相互連結的數字內容風控體系。
在合作中，該客戶強化了“先審后發”和“三重審核”機制，利用AI機初審，基于智能審核平臺開展人工復審，以及總編室終審，保證真實社交的安全性。
AI機審，基于自然語言理解、深度學習等技術，覆蓋圖、文、音、視，實現毫秒級違規預警。從源頭出發，敏感詞檢測一般作為第一道關卡，同時結合智能模型對文本二次識別。易盾為其設置了敏感關鍵詞、策略規則組合、語義模型，針對敏感信息進行實時預警，達到攔截垃圾內容的目的。
根據客戶的場景及需求，設立專項完成優化方案：一是，確定了四檔風控等級，通過分級制度更好管控內容服務。二是，根據日常運營需求，靈活定制內容監管策略。三是，為違規問題匹配定制化標簽，確保審核數據結果一目了然。
網易易盾還為用戶真實性提供全面驗證，所有技術基于合法隱私數據之上。用戶畫像技術通過用戶行為、設備IP等信息，分析用戶是否有黑灰產風險，是否為虛假賬號，最小化地利用個人數據，從而最大程度地滿足個人數據隱私合規要求，實現用戶身份的驗證。
最后，通過輿情周報、月度報告、年度報告，API報告、特殊時期安保專項等多個環節進行定期反饋，提供審核過程的數據監控、質檢優化等功能，確保審核質量的真實可信。
四、一站式風控效果顯著
長遠來看，數字內容風控體系接入簡單，一站式提供數十種算法模型、多類違規內容對抗策略與全棧智能審核平臺，大大降低公司開發成本與節省內容治理人力，確保了不同場景下的內容對用戶無害，勢必將全面釋放交友的流動性，讓社交更具活力。
用戶安全
每一位新用戶都經過“系統+人工”雙重審核，超過9成的用戶通過真人認證。真人社交讓APP擁有了更多的用戶技術和較強的用戶粘性。
內容安全
以2021年2月為例，APP累計處理違規案例22409例，禁言處罰10705例，封禁賬號218例，永久封禁賬號11486例。由數據可知，APP“凈網行動”卓有成效，違法違規行為數據連降5個月，降幅明顯。
內容審核不再只是為了發現與刪除不良內容，有效區分出高風險的訪問者、并持續跟蹤各類內容風險，成為了平臺的每日課題。目前，易盾一站式“智能內容檢測解決方案”接入簡單，效果顯著，為眾多頭部娛樂社交公司所采用。
