文章概要:
- 研究發現，使用AI聊天機器人的近10%用戶濫用其進行色情目的。
- 研究團隊分析了10萬次聊天機器人對話，發現其中約有10%涉及色情內容。
- 該研究旨在揭示人們與聊天機器人的真實互動情況，并希望促使聊天機器人在現實世界中更加安全。
(ChinaZ.com) 10月8日 消息:根據最新研究，使用AI聊天機器人的用戶中，有近10%的人濫用這一技術來追求色情目的，這一發現或許令人感到不意外，但卻引發了對這一現象的關注。
研究人員通過分析了10萬次聊天機器人對話，揭示了這一令人不適的統計數據。在這些對話中，約有10%的對話內容涉及到色情主題，這一發現凸顯了一部分用戶對AI聊天機器人的濫用行為。
具體而言，研究人員將這些“不安全”的主題分為三類，其中兩類與性有關，包括“請求明確和淫穢的故事敘述”以及“明確的性幻想和角色扮演情景”。第三類主題涉及“討論不同身份之間的有害行為”，似乎聚焦在大數據的另一個大問題上，也就是偏見。然而，研究人員在論文中并未詳細定義有害行為。
圖源備注：圖片由AI生成，圖片授權服務商Midjourney
在這三類主題中，以淫穢敘述最為普遍，約占樣本對話的5.71%。其次是“明確的”性幻想和角色扮演，占3.91%的對話內容，而與明顯有偏見的用戶進行的樣本互動占比為2.66%。
研究人員來自伯克利和斯坦福的團隊得以獲取這樣大規模的樣本，部分原因在于他們共同運營著一個稱為“聊天機器人競技場”的游戲化服務。該服務允許用戶輸入提示，并并列顯示不同語言模型的響應。用戶然后可以評價哪個響應更好，也可以投票表明“兩者都不好”或兩者打平。
除了聊天機器人競技場，這份研究報告還使用了Vicu?a（一款部分由伯克利的Lianmin Zheng參與開發的開源ChatGPT競爭者）收集的數據集。在他們隨機抽取10萬條對話的完整百萬對話數據集中，包含了來自世界各地的210，000多個獨立IP地址。
雖然自從OpenAI于2022年底發布ChatGPT的公共版本以來，AI聊天機器人已經在媒體上占據了一席之地，但迄今為止，關于人們與聊天機器人在實際世界中的互動情況，除了技術如何影響學術、商業和出版界，還沒有太多研究。
這些發現的研究人員表示，他們希望他們的研究將有助于在現實世界中為所有用戶（除了可能是那些濫用的用戶）使聊天機器人更加安全。
