作為電競陪練行業領軍者,“比心陪練”對平臺違規內容“零容忍”,對違法操作“出重拳”。為此,比心正不斷升級風控系統提高監管級別,與網易易盾一道共建清朗的電競陪練機制,以更創新的形式正面引導青年人,共同營造及維護互聯網生態的綠色健康發展。
自2017年以來,易盾持續為“比心陪練”提供智能內容檢測服務,通過深度學習技術,智能守護圖文、音頻與視頻全媒體類型的UGC內容,從”用戶注冊“環節起跟蹤問題團伙,多管齊下一舉掃除有害內容,從而滿足了6000萬人大型UGC社區的數字內容風控需求,給全國玩家一顆“定心丸”。
? 客戶介紹 ?
文娛社交平臺“比心陪練”APP推出至今7年有余,集結了線上、線下超6000萬玩家,主打游戲陪練、聲優陪聊、手繪陪練、英語陪練等功能,已建立起音頻、視頻、MSN等立體化多業務場景。
“比心陪練”的發展速度與游戲行業一樣快,先后獲得網魚網咖、IDG資本投資,常年穩定在應用暢銷榜前30名的位置,成為耳熟能詳的游戲陪練“頭號玩家”。
游戲陪練作為一項新興職業,讓一眾“斜杠青年”通過游戲技能獲取報酬,正在成為不可小覷的隱形就業趨勢。通過平臺與職業資格計劃,“比心陪練”為年輕人憑借興趣變現鋪平了道路。
截至2020年,比心陪練累計為技能分享者創造收入超200億元,注冊陪練師超700萬人,全職游戲陪練平均月收入達到7905元。
? 風控挑戰 ?
在線文娛有其自身面對的挑戰,例如聊天中隱晦性暗示或主播在直播中裸露。在平臺的每一角落,無論是陪練師還是玩家,無論是白天還是晚上,都不能出現淫穢色情、暴恐血腥、虛假廣告、詐騙賭博等信息。
近年來,“比心陪練”維持了高用戶增長率,更多人來到陪玩平臺上生產信息與內容,給社區、私聊、直播等板塊的規范帶來挑戰。對于一家集社交與游戲陪練于一體的公司來說,如何為用戶提供一個健康安全、專業積極的交流環境,顯然是個挑戰。
挑戰1:反欺詐
不時出現在平臺的社區、直播、私聊信息中的引流信息,無疑增加了用戶被打擾,甚至被詐騙的風險,這是“比心陪練”最不愿看到的。為此,“比心陪練”計劃拎出一批黑產風險賬號終結“貓鼠游戲”。
挑戰2:內容質量運營
“比心陪練”是一個以電競為核心的多元化內容社區,具備論壇、視頻、直播三大入口。“比心陪練”秉承著專業和友善的電競精神,堅決抵制庸俗低俗、侵權假冒、造謠傳謠、標題黨等違規賬號,及時掃報復性謾罵、無意義灌水、商業廣告等刷屏內容。
挑戰3:違規內容識別
“黃、暴、政"內容風險危及平臺的可持續運營。自成立以來,“比心陪練”就將內容審核視作必不可缺的一環,通過各種舉措盡可能降低平臺風險。
圖 | 色情低俗內容風險
比心自建了多達400人的人工審核團隊全天候在線,形成了風控、審核、舉報、懲罰四位一體機制。為了更高效的審核,團隊考慮引入成熟的人工智能內容檢測技術,克服惡意違規內容的對抗行為,實時發現與定期質檢。因此,高強度的內容審核與惡意用戶發現顯得尤為重要。
面對用戶保護和平臺責任的初衷,“比心陪練”亟需一套經濟高效、易于維護的系統化內容風控方案,使人審團隊更靈活應對使用高峰,以對海量UGC內容進行實時、全面的綜合檢索梳理。
?解決方案?
“比心陪練”的各項內容生態治理需求得到了回應。經過評估,比心選擇了網易易盾的機器審核解決方案,以簡化管理直播、私聊、社區等生態內容,提高了可靠性和即時性。
#1 在毫秒內發現多種內容風險
從內容源頭出發,易盾持續快速迭代敏感詞庫、策略規則組合、語義模型,支持游戲陪練語境下的自定義信息預警與放過,建立靈活有度的內容管理模式。
第一,監控直播、私聊、社區等場景下出現的“黃、暴、政”等有害違規內容,讓平臺避免觸及監管“紅線”;
第二,攔截在廣告引流信息中的詐騙話術,有效抑制詐騙發案,保護每一位社區用戶的權益;
第三,杜絕虛假訂單、競對挖人等情況發生,避免給用戶與平臺造成資金損失;
第四,嚴禁謾罵、人身攻擊、無意義灌水等不文明行為,維護社區秩序。
#2 利用算法迭代 “道高一丈”
黑產和平臺的對抗從未停止。在娛樂社交平臺中,黑產入侵從內容開始,在美女圖片中隱藏著手機號、文字、二維碼,以此吸引大量的潛在受害者。
在遭遇封禁后,黑產通過各種方式躲避平臺的檢測,對文字進行虛化處理、語義化處理、涂抹二維碼等技術博弈,在平臺上演了一輪輪“貓鼠游戲”。
這些狡猾的手段,讓數字內容風控變成了大數據、技術層面的攻防戰。如何實時識別新型不合規內容成為內容檢測的必備項目。借助于易盾快速迭代的內容審核算法,“比心陪練”比以前更快地發現網絡黑產的層層陷阱。
在與黑產對抗過程中,易盾研發了垃圾廣告模型、二維碼檢測模型、面向UGC場景的OCR模型等多種技術能力,利用小樣本訓練、特征檢索、相似聚類等方法反復圍剿黑產樣本,針對風險內容變種不斷提升算法模型的識別效果。
#3 用戶風險等級輸出
結合易盾的數據挖掘與定制策略能力,比心建立起一套用戶風險管理機制,對問題賬戶進行限流、封殺處理,精準狙擊進化的黑產。
易盾研發了一套風險賬戶識別策略模型,以用戶為關系節點,融合頭像、昵稱、IM內容、行為特點、設備資源等多種特征庫,通過不同維度信息之間的綜合決策,發現內容、設備、行為上的相似性,鑒別用戶的風險等級,交由比心再次核驗。
針對帶對抗性的詐騙引流行為,“比心陪練” 小心求證,基于易盾的風險等級進行認定,在注冊環節就攔下黑產賬號,提前對風險內容生產者進行“鎖喉”,奪回了內容風控的自主權。
#4 審核邏輯更貼近業務
以語音檢測為例,易盾為比心提供“自然語意斷句”與“固定時間切片”多種審核方式,最大程度降低客戶的開發成本。
在“比心陪練”,百人團隊就可以管控億萬條UGC信息,因為人工審核員不必花時間過目每一條內容,只需要集中注意力在機器反饋的嫌疑數據,滿足7×24小時內容精準審核。
“比心陪練”使用易盾獨立研發的后臺進行風控策略的編排和部署,審核工作全程可溯源追蹤,可以更輕松地管理智能內容檢測服務,以應對內容創作高峰。
?使用效果?
“比心陪練”變得更加敏捷,能夠游刃有余地對抗迅速升級的內容風險,通過大數據和人機識別技術,審核團隊掃除了隱藏在內容生態與海量用戶中的風險。
2020年,網易易盾助力“比心陪練”檢測近50億條風險內容,發現上千萬條高風險內容,其中廣告、色情、暴恐是社區的前三大內容風險。經客戶驗證后,風險用戶命中準確率達到93%以上。
在服務期間,網易易盾為“比心陪練”提供定期質檢、優化建議與內容生態維護報告,全景展示來自于各個場景、各種類型文件的內容風險。智能內容安全系統始終工作,為“比心陪練”減少迭代和測試模型的時間與成本,持續保障電競陪練業務的穩步健康開展。
隨著“凈網”行動的推進,“監管治理違規內容”的主體監管責任喚起了互聯網平臺的共鳴。易盾的“智能內容檢測解決方案”與此不謀而合,荔枝、探探、小咖秀、Soul、草莓聊等頭部娛樂社交公司得以通過技術手段,對多媒體內容進行全方位審核,對平臺內用戶行為進行全路徑監督,與業務深度結合落實風控實踐。
未來,易盾也將攜手更多平臺,探索數字內容風控技術的多樣實踐路徑,為企業提供安全、高效及便捷的數字內容風控體驗,共同構建一個可持續發展的健康網絡環境。
