近年來，隨著Z世代社交習慣的線上化遷移，選擇移動社交的用戶越來越多，據艾媒咨詢數據顯示，2022年移動社交的用戶規模將會突破10億，音視頻社交軟件，如陌陌、探探、soul等已經成為了年輕人生活中必不可少的部分。
閑暇時間，打開軟件刷一刷是當代年輕人解決情感交流和傾訴需求的一種方式，簡短的對話和親切的聲音，讓他們將信任交給了手機背后的那個人。但是隱藏在手機背后的除了真實的用戶，還有伺機而動圖謀不軌的灰色產業。
據統計，全網活躍的音視頻社交類應用超2500余款，主流應用市場在架超1200余款，而這些應用中存在色情推廣、廣告代刷、外部引流和虛假詐騙等違規行為的比例達15.7%。
正是因為有了這樣的不良動機，才導致音視頻社交類的企業頻頻背上相關的負面新聞。也正是由于對不良違法內容洞察力不足，內容治理能力不足，才無法徹底鏟除行業中的黑灰產內容。
而輝禹科技就在不斷助力社交類APP打擊黑灰產業鏈，從行業角度來看，合規是所有深耕音視頻社交的企業必須踐行的部分，唯有加強自身監管，堅決打擊不規范內容，才能為用戶提供良性，安全的社交環境，讓用戶不再避諱使用這些平臺，真正成為能夠滿足用戶需求的一劑解藥。
智能反黑產模型，人機雙審質檢調優
針對社交產品的4類黑產類型，輝禹科技通過全棧式的智能內容識別引擎和實施智能風控引擎加上人工復查相結合來共同治理平臺問題。
在我們的技術下，APP板塊下的內容和數據將首先通過全棧式智能內容識別引擎和實時智能風控引擎，篩選出有疑問的內容后再通過人工審核，從而提升對不良內容的洞察力。
透過輝禹的自研動態學習系統，不斷優化機審模型，可以高效過濾復雜、變種信息，全面分析文本情感，結合上下文對各種內容進行批量迅速判定，而集成式多媒體處理系統，可以處理多種格式文件。
智能反欺詐系統，精準打擊“害群之馬”
針對用戶的行為，例如“經常發布聯系方式引流至非法平臺”、“以交換聯系方式、見面為由，頻繁要求贈送禮物”、“以網絡障礙等環境因素轉移交流環境，進而引導違規操作”、“虛構平臺規則文字或平臺圖片，騙取禮物”、“索要對方賬號，用對方賬號進線違規操作”….我們建立了一套風險評分模型，針對其用戶特征進行打分，進行精準識別。
在提取風險賬號的行為數據后，例如：登陸設備、賬號行為、生命周期等構建風險關系網，進一步校準核對問題，并不斷的反饋調優模型，對此類用戶進行高度關注，從根源上進行前置處理。
該模型日均內容及處理可達10W+，賬號及處理可達600+，并針對不同風險等級的群體執行定制化的內容安全分層管控策略。
真人治理團隊，用戶安全的二道防線
人工治理分析團隊，會對黑產形式、類型、內容進行分析，進而彌補系統漏洞進行相互補位；而質檢團隊會對黑產內容進行攔截、前端數據進行質檢巡查，通過質檢及巡查結果，不斷完善系統能力。
針對反黑產的內容審核，不單單是音視頻社交行業所獨有的需求，現在越來越多的行業需要去維護和處理一些不良內容，有效地區分高風險訪問者并持續跟蹤各類風險內容，更有利于及時湮滅苗頭，將其扼殺在搖籃中，避免更大的損失。
輝禹科技也在加強自有業務團隊技術及團隊實力的同時，積極參與北京網絡行業協會、上海信息安全行業協會、信息服務業行業協會等行業組織，不斷地拓展行業合作資源和服務場景，爭取為反黑灰產貢獻一份微薄的力量。
