(ChinaZ.com) 11 月8 日消息:微軟公司近日宣布，為應(yīng)對數(shù)百萬日活躍用戶帶來的內(nèi)容監(jiān)控挑戰(zhàn)，公司正轉(zhuǎn)向使用人工智能工具來「加速」其 Xbox 平臺的內(nèi)容審核工作，這些系統(tǒng)能夠在不需要玩家舉報(bào)的情況下自動標(biāo)記內(nèi)容以供人工審查。
微軟最新的 Xbox 透明度報(bào)告——該公司對社區(qū)標(biāo)準(zhǔn)執(zhí)行情況的第三次公開回顧——首次包含了「利用 AI 推進(jìn)內(nèi)容審核和平臺安全」的章節(jié)。報(bào)告特別提到兩種工具，微軟表示這些工具「使我們能夠?qū)崿F(xiàn)更大的規(guī)模，提升我們?nèi)斯徍藛T的能力，并減少對敏感內(nèi)容的接觸」。
微軟表示，其 Xbox 安全系統(tǒng)現(xiàn)在由 Community Sift 提供支持，這是微軟子公司 TwoHat 創(chuàng)建的一種審核工具。根據(jù)微軟的報(bào)告，今年 Community Sift 系統(tǒng)篩選了「數(shù)十億人類互動」，其中包括「超過 3600 萬」Xbox 玩家舉報(bào)，覆蓋 22 種語言。該系統(tǒng)評估這些玩家舉報(bào)，以確定哪些需要人工審核員進(jìn)一步關(guān)注。
此外，微軟還在使用 Turing Bletchley v3 人工智能模型來支持「主動」執(zhí)行任務(wù)，這是微軟在 2021 年首次推出的工具的更新版本。這個(gè)「視覺-語言」模型自動掃描 Xbox 平臺上的所有「用戶生成的圖像」，包括自定義 Gamerpics 和其他個(gè)人資料圖像。Bletchley 系統(tǒng)然后使用「其世界知識理解基于 Xbox 平臺社區(qū)標(biāo)準(zhǔn)可接受的圖像的許多細(xì)微差別」，并將任何可疑內(nèi)容傳遞到人工審核隊(duì)列。
報(bào)告還提到，2023 年上半年，Bletchley 系統(tǒng)有助于阻止 470 萬張圖像，與前六個(gè)月相比增長了 39%，這一增長歸功于微軟對人工智能的投資。
在對「不真實(shí)」賬戶的打擊方面，微軟表示，目前已采取了 1630 萬項(xiàng)針對「被篡改或以不真實(shí)方式使用」的賬戶的執(zhí)行行動。這些賬戶包括作弊者、垃圾郵件發(fā)送者、好友/關(guān)注者帳號充值者，以及其他「最終為我們的玩家創(chuàng)造不公平競爭環(huán)境或減少他們體驗(yàn)」的賬戶。
微軟還在報(bào)告中表示，自 2022 年調(diào)整 Xbox 平臺上「粗俗內(nèi)容」的定義以來，對于粗俗內(nèi)容的執(zhí)法行動有了顯著的增加。這一定義導(dǎo)致了 2022 年上半年對「粗俗」內(nèi)容的 328，000 項(xiàng)執(zhí)法行動，比之前六個(gè)月的大約 98，000 項(xiàng)增長了 236%。
微軟的報(bào)告還為那些希望推翻禁令或禁賽的玩家?guī)砹藟南ⅰ?strong>在 2023 年上半年，超過 28 萬起此類案件審核中，只有大約 4.1% 被重新啟用。這比 2022 年上半年 151，000 起申訴中成功的 6% 略有下降。
自最新透明度報(bào)告所涵蓋的期間以來，微軟已推出了一個(gè)新的標(biāo)準(zhǔn)化的八次罰款制度，列出了不同類型和頻率違規(guī)行為的滑動尺度的處罰?？纯聪乱粋€(gè)計(jì)劃的透明度報(bào)告是否會顯示這些新規(guī)則生效后玩家或執(zhí)法行為的任何變化將會很有趣。
