一、引言
在游戲中，如何確保包括青少年在內的用戶處于一個安全環境中，一直是玩家大量聚集的集“社交”、“娛樂”、“競技”等于一身的多類型游戲產品的關注點。
成立于2016年的金山世游，先后在國內發行了《反恐行動》、《小米槍戰》多款IP手游，堅持創造一個公平、文明、有序的游戲環境，讓用戶遠離不良價值觀。
過去，金山世游通過“屏蔽詞庫”來進行監測和治理不法行為。玩家也主動加入內容巡檢隊伍。如果看到一些不恰當、引起不適的內容，玩家可以在游戲中進行舉報與投訴。金山世游收到投訴后，及時把違規內容處理掉。
游戲內外齊心協力，但受限于詞庫更新頻率和網絡上不斷出現的新型聊天“語言”和“敏感詞”，給主動監測治理提出更大挑戰。
2021年，金山世游向聊天室內的違規語言發起了新一輪的監管總攻。這次，金山世游與網易易盾合作，在內容風控服務上獲取定制的智能策略，基于自身的海量數據和全新需求，實現全產品服務和平臺的內容安全保障。
如今，經過近一年的運營，游戲內違規內容處理更主動了，公司內容風控體系實現了全面提升。一個最直觀的感受是，玩家投訴率直線下降，玩家好評度顯著提升。
金山世游說：
我們更愿意把‘內容安全’當做企業的責任、使命和動力。我們相信，經過金山世游內部專業審核體系和易盾內容風控體系的雙重加持，我們一定會在全面符合相關要求和標準的基礎上，進一步探索更加適合自身的運營方式，為整個行業在內容風控體系中探索更多答案。
極度社交化的多人游戲炙手可熱，在對話中促進了玩家溝通，給了玩家提供了一個表達自我的平臺，而言語不當行為的增加也給游戲增加了合規風險。
近年來，國家相關主管部門相繼出臺《網絡安全法》《未成年人保護法》《關于防止未成年人沉迷網絡游戲通知》等諸多相關法規和政策，對行業發展進行進一步規范。
為游戲玩家提供在線內容風控，比以往任何時候都更加重要，利用人工智能的進步，游戲客戶可以使用全新的“數字內容審核”解決方案來確保在線游戲的內容安全。
二、如何讓聊天文本更安全？
金山世游集游戲研發、全球發行運營、游戲投資等業務于一體，從成立之初就確立了不斷強化自研，成功推出了《反恐行動》、《三國戰神》、《西游降魔篇3D》、《小米槍戰》等自研產品，同時高效運營諸如《魔域手游》、《最終幻想：勇氣啟示錄》、《風暴魔域2》等IP大作。
公司自研及運營游戲產品涵蓋MMO、MOBA、FPS、卡牌、二次元、SLG、音舞等眾多領域，業務范圍輻射至海外多個國家，用戶規模達到“現象級”增長。
不同類型的游戲產品吸引了多元化的玩家群體。這也使得用戶數量、年齡層次、地區分布、文化水平等出現差異化，內容風控就顯得格外重要，甚至可以說是游戲平臺的“生命線”。
金山世游將內容風控視為"不可逾越的高壓線"，作為一家有責任感的游戲企業，營造良好的內容生態，既是對自身產品負責、對廣大玩家負責，也是對全社會負責，才能真正為玩家帶來歡樂。
每個月，團隊都會花費大量時間在游戲運營中，對內容數據進行處理與分析，反復檢查相關數據，耗費的精力與返工的時間大大增加。
在選用易盾前，金山世游通過屏蔽詞庫來進行監測和治理，但受限于詞庫更新頻率和網絡上不斷出現的新型聊天“語言”和“敏感詞”，給主動監測治理帶來很大難度。玩家曾出現利用“火星文”“暗語”“代號”等發布信息，給內容監測鑒別工作帶來較大難題。
圖| 聊天室等社交方式為游戲業務打開增長空間
三、給用戶提供一種更快、更安全的選擇
“經過對幾家頭部公司進行實際調研和產品功能對比，以及相關機構口碑推薦，我們通過實測和自身業務需求匹配，最后選擇了和易盾進行合作。”金山世游表示。
在合作中，金山游戲全部游戲產品均使用了易盾數字內容風控體系。在易盾數字內容風控體系加持下，這些不同類型的游戲在內容治理方面都取得了明顯成效。
以公司老牌的自研FPS游戲《反恐行動》為例，由于槍戰題材和高競技屬性，玩家溝通意愿熱烈且溝通頻率高。這就對游戲內部的內容安全監控系統提出了很高的要求。
在易盾數字內容風控體系的助力下，內容風控系統監測范圍大幅提升，涵蓋涉政暴恐、色情、廣告、辱罵、注水、迷信、低俗、詐騙、賭博、火星文、擦邊球等上百類數據。系統處置速度大大提升，系統內監測庫保持實施更新，也確保新近違規內容得以第一時間得到監控和處置。
四、自建審核“鐵軍”，用好AI內容風控工具
公司在技術和執行上始終堅持雙高標桿，即高標準、高要求，在按照相關主管部門相關要求的基礎上，持續升級內容風控體系。
在內容審核遍地開花的時代，金山世游設立了專門的審核團隊，打造審核“鐵軍團”，成員來自于文字編輯、互聯網出版、法律法規等業界，從內容、文化、市場等不同層面對游戲進行全方位的審核和跟蹤。
此外，金山世游在內部各產品均設置了專人專崗，負責監控產品的內容風險點，不斷完善和更新內容風控資料庫。為了在根源上杜絕游戲立意環節內出現違法違規內容，公司還定期對涉及游戲內容及社會價值導向的相關部門和人員進行定期培訓。
培訓內容包括如何杜絕出現拜金主義、封建迷信、“娘炮”、“耽美”等不良文化，以及堅決抵制有錯誤價值取向、淫穢色情、血腥恐怖等內容。
通常，這支“鐵軍團”無處不在，從游戲產品的選題策劃、立項，到研發、測試，再到最終出版以及后續運營，全方位參與其中。
“我們通過多種方法進一步提高員工的內容合規素養，傾力打造一支有文化、高素質的團隊，增強把關意識，提高把關能力。”金山世游分享道：
AI成為審核工具需要人去推動和運用，如何發揮出智能內容審核系統的潛力，也是我們風控“鐵軍”的職責。下一步，金山世游希望AI智能可以提供更強大的支持，加上人工干預，讓內容風控更具靈活性與創新性。
