(ChinaZ.com)7月12日 消息:上個月,NBC News 進行了一項關于該平臺兒童安全問題的調查后,Discord 的信任與安全負責人表示,該平臺將對青少年約會和 AI 生成的兒童性虐待材料等方面的兒童安全政策進行變更和澄清。
Discord 的信任與安全副總裁 John Redgrave 表示,Discord 將擴大其政策范圍,以解決可以生成虛假內容的生成性人工智能,以及兒童性化問題。具體措施包括禁止使用 AI 描繪兒童性虐待的內容,以及禁止在文本聊天中性化兒童。今年6月,《華盛頓郵報》報道稱,近幾個月來,互聯網上涌現了大量 AI 生成的兒童性虐待圖像。而Discord 一直是生成性 AI 圖像社區的中心,許多用戶在該平臺上生成此類圖像。
在一篇博客文章中,Discord 宣布了這些變化,并表示更新后的兒童性虐待材料政策將包括 “任何以兒童為對象的文字或媒體內容,包括手繪、逼真繪制和 AI 生成的逼真繪制的兒童性虐待材料。此次更新的目的是確保任何情況下兒童的性化行為都不會被不良行為者正常化。”
Redgrave 還表示,該公司正在對政策進行更改和澄清,明確禁止青少年約會。Discord 在博客文章中寫道:“在這種情況下,我們也認為在線約會可能會導致自我危害。根據這一政策,我們禁止在平臺上開設青少年約會服務器,并對從事此類行為的用戶采取行動。”
。今年6月,NBC News 的調查發現了數百個似乎宣傳兒童濫用材料的 Discord 服務器,以及一些宣傳自己為青少年或兒童約會服務器的服務器,它們向未成年人索要裸照。
Redgrave 指出,該公司還更新了其政策,禁止年長的青少年對年幼的青少年進行勾引。該公司表示:“對于年長的青少年勾引年幼的青少年的行為,我們將根據我們的不適宜與兒童進行性行為和勾引政策進行審核和處理。”
作為其政策更新的一部分,Discord 宣布推出更多家長控制工具。在新的家庭中心工具中,家長和孩子可以選擇讓家長接收有關孩子在該平臺上活動的更新信息。