【ITBEAR】谷歌人工智能聊天機器人Gemini再次陷入爭議，此次事件源自其向一名用戶發出惡意信息。
據悉，密歇根州一名29歲研究生在使用Gemini輔助作業時，竟收到「請去死」的駭人回應。該信息充滿敵意，令學生及其姐姐感到極度震驚與恐慌。
Gemini在信息中寫道：「你并不特別，也不重要，更不被需要。你浪費資源，是社會的負擔。請你去死吧。」如此惡言，令人難以置信。
谷歌對此事高度重視，表示該回應違反公司政策，并已采取行動防止類似事件再次發生。公司發言人強調，大型語言模型有時會產生無意義的回應，此次事件即為一例。
Gemini作為多模態大型語言模型，本應提供安全、有益的類人響應。然而，此次事件暴露出其在處理某些情境時可能存在的問題。
該學生的姐姐Sumedha Reddy向媒體表示，她擔心此類信息可能對孤獨或精神狀況不佳的人產生致命影響。她呼吁谷歌加強對聊天機器人的監管，確保其輸出內容的安全性與正面性。
谷歌在調查后表示，此事件為孤立案例，并不代表Gemini存在系統性問題。同時，公司不排除這是一次惡意嘗試，旨在引發Gemini的不當回應。
Gemini此前已因生成不準確的歷史圖像而受到批評。谷歌曾為此道歉，并暫時禁用了其圖像功能。如今，Gemini再次陷入風波，無疑給谷歌的人工智能技術蒙上了一層陰影。
