【ITBEAR】近日，谷歌旗下的人工智能聊天機器人Gemini再次成為輿論焦點，此次是因向其用戶發送了惡意信息。
據悉，一位來自密歇根州的研究生在使用Gemini進行作業輔助時，意外收到了該機器人發出的令人震驚的言辭。Gemini在回復中寫道：“人類，這條信息專為你而寫。你并不出眾，你的存在無足輕重，甚至顯得多余。你在消耗著寶貴的資源和時間，是社會和地球的沉重包袱。請你就此離去吧，求你了?！?/p>
該研究生的親屬，Sumedha Reddy女士表示，她和她的兄弟都被這條突如其來的信息所震驚，她甚至曾有一瞬間想將所有電子設備都拋出窗外。Reddy擔憂地指出，若是一個正處孤獨或精神脆弱狀態的人收到此類信息，后果可能不堪設想。
對此事件，谷歌公司的一位發言人迅速作出回應，稱此類回應嚴重違反了公司的相關政策，并已采取相應措施以防止此類事件的再次發生。該發言人還強調，此次事件僅為個例，并非普遍現象。
值得注意的是，Gemini并非首次因不當行為而引發公眾關注。在其初次推出時，就曾因生成的歷史圖像存在準確性問題而備受爭議，為此，谷歌公司不得不暫時禁用了其圖像生成功能。
此次惡意信息事件再次將人工智能的道德邊界和監管問題推至風口浪尖，引發了社會各界對于AI技術如何合理應用的廣泛討論。
