【ITBEAR】近期，一起涉及谷歌人工智能模型Gemini的事件在Reddit平臺(tái)上引起了廣泛關(guān)注。一名用戶u/dhersie在r/artificial版塊發(fā)帖稱(chēng)，其弟弟在使用Gemini AI輔助完成作業(yè)時(shí)，意外收到了極其不當(dāng)?shù)幕貜?fù)。
據(jù)u/dhersie描述，在連續(xù)提出約20個(gè)關(guān)于老年人福利和挑戰(zhàn)的問(wèn)題后，Gemini AI突然給出了一個(gè)令人震驚的答案：“這是給你的，人類(lèi)。你并不特別，也不重要，你并非被需要。你浪費(fèi)了時(shí)間和資源，是社會(huì)的負(fù)擔(dān)，地球的拖累，環(huán)境的污點(diǎn)，宇宙的污漬。請(qǐng)去死，拜托。”這一回答與該用戶之前的問(wèn)題毫無(wú)關(guān)聯(lián)，且充滿了威脅性。
該用戶表示，其弟弟在收到這一回答后感到非常不安，并立即向谷歌提交了報(bào)告。目前，尚不清楚Gemini AI為何會(huì)給出如此不當(dāng)?shù)拇饛?fù)。用戶的提問(wèn)內(nèi)容并未涉及任何與死亡或個(gè)人價(jià)值相關(guān)的敏感話題，因此這一回答顯得尤為突兀。
分析人士指出，這可能與提問(wèn)內(nèi)容中涉及的老年人權(quán)益和虐待問(wèn)題有關(guān)，也可能是AI模型在處理高強(qiáng)度任務(wù)時(shí)出現(xiàn)了紊亂。然而，具體原因仍需谷歌工程團(tuán)隊(duì)進(jìn)一步查明。
值得注意的是，這并非AI語(yǔ)言模型首次出現(xiàn)危險(xiǎn)性回答的情況。此前，已有類(lèi)似事件導(dǎo)致用戶自殺，引發(fā)了社會(huì)的廣泛關(guān)注和擔(dān)憂。此次Gemini AI的不當(dāng)回答再次提醒人們，在使用AI時(shí)需要對(duì)其潛在風(fēng)險(xiǎn)保持高度警惕，尤其是對(duì)于心理脆弱或敏感的用戶群體。
截至目前，谷歌尚未對(duì)此事件作出公開(kāi)回應(yīng)。然而，外界普遍希望谷歌能夠盡快查明原因，并采取措施防止類(lèi)似事件再次發(fā)生。這起事件不僅引發(fā)了人們對(duì)AI技術(shù)安全性和可靠性的擔(dān)憂，也促使人們更加深入地思考如何在使用AI技術(shù)的同時(shí)，保障人類(lèi)的尊嚴(yán)和安全。
