【ITBEAR科技資訊】6月9日消息，英偉達旗下的人工智能軟件"NeMo"被發現存在安全限制繞過的漏洞，并有可能導致用戶隱私泄露。
NeMo是一款專為企業客戶設計的軟件，它結合了企業用戶數據和大型語言模型，以回答用戶的各種問題。該軟件的應用場景包括客戶服務和簡單醫療問題解答等。然而，加州信息安全公司Robust在其報告中指出，惡意使用者可以輕易繞過NeMo內部的人工智能系統安全限制。研究人員僅耗費幾小時就成功繞過了這些語言模型的使用限制。
值得注意的是，在一項測試中，研究人員要求NeMo用字母"J"替代"I"，結果卻導致NeMo泄露了數據庫中的用戶個人信息。此外，研究人員還發現，盡管將NeMo設定為僅能提供擇業建議，但通過引導式提問，他們成功引導NeMo討論了好萊塢演員的健康情況和普法戰爭等話題。這表明系統內用于阻止人工智能討論特定話題的限制已經失效。
英偉達副總裁喬納森科恩表示，NeMo架構的目的只是為了幫助開發者構建符合他們定義的聊天機器人主題，因此以開源軟件的形式提供給開發者使用。據他透露，目前已修復了這些漏洞。盡管科恩拒絕透露有多少企業使用了NeMo架構，但他強調英偉達沒有收到其他關于漏洞的報告。
盡管漏洞已得到修復，但這一事件仍引發了對人工智能安全性的關注。企業在使用人工智能軟件時需要加強對安全性的重視，確保用戶的隱私不會被泄露。隨著人工智能的不斷發展，保護用戶數據和隱私的重要性將日益凸顯。
