【ITBEAR科技資訊】2月12日消息，當谷歌在去年11月推出其人工智能聊天機器人Bard時，市場對此的反應是熱烈的。隨著OpenAI公司推出ChatGPT，聊天機器人的熱度持續攀升，引發了投資者的極大關注。然而，最近谷歌的一次演示卻暴露出人工智能聊天機器人的弊端：AI會出現錯覺。
谷歌高級副總裁兼谷歌Search負責人普拉巴卡爾·拉加萬在接受采訪時表示：“我們現在談論的這種人工智能，有時會導致出現某種我們所謂的錯覺(hallucination)……機器會以一種令人信服但完全編造的方式來表達自己。”雖然人工智能目前的基本任務之一是將這種情況控制在最低限度，但事實上，這種“錯覺”現象是當前聊天機器人普遍存在的弊端。
無法保證信息準確性，是當前聊天機器人普遍的弊端，哪怕是備受熱捧的ChatGPT也不能幸免。近日，社交媒體上已經有不少人抱怨ChatGPT會犯一些明顯的錯誤，比如無法解決簡單的數學方程式或邏輯問題。蘋果聯合創始人Steve Wozniak也警告稱，雖然ChatGPT表現令人印象深刻，但“它也會因為不了解人性而犯下可怕的錯誤”。
在谷歌演示Bard時，該機器人回答“如何向9歲小孩介紹詹姆斯·韋伯空間望遠鏡成果”時，提到該望遠鏡拍攝到首張地球外行星的照片，但這一成就實際上是智利甚大望遠鏡在2004年達成的。這一錯誤信息在演示視頻中被公開，導致谷歌股價當天直線下跌超7%，市值在一夜之間蒸發了1000億美元。
不僅谷歌，其他公司也在開發自己的聊天機器人，以迎合消費者對人工智能的追求。據市場研究機構Gartner的數據，預計到2025年，人工智能聊天機器人將成為全球最常用的企業應用程序，消費者也會更多地采用這種工具。但如何控制聊天機器人產生的“錯覺”現象，使得這種智能應用程序受到了更多的關注和擔憂。
事實上，AI產生的“錯覺”現象并非新鮮事物。在計算機科學中，這種現象稱為“神經網絡的誤差擴散”，是由于模型的復雜性和訓練數據的質量問題所導致的。對此，谷歌和其他公司已經在嘗試開發更加精確和可靠的人工智能算法。但是，由于聊天機器人需要處理的信息量非常龐大，所以想要消除“錯覺”現象并不容易。
盡管如此，對于開發聊天機器人的公司來說，處理“錯覺”現象至關重要。因為當聊天機器人在面對用戶的問題時出現錯誤信息，不僅會影響用戶的體驗，而且還會對公司的聲譽造成損害。當然，對于聊天機器人來說，控制“錯覺”現象的同時也要保持一定的智能和獨立性，才能真正滿足用戶的需求。
對于消費者來說，使用聊天機器人時也應該保持一定的警惕性。雖然聊天機器人可以提供便捷的服務和快速的答案，但在某些情況下，它們可能會提供錯誤的信息，從而誤導用戶。所以在使用聊天機器人時，用戶應該保持一定的理性，尤其是在處理重要信息時，還應該采取更加謹慎的態度。
據ITBEAR科技資訊了解，人工智能聊天機器人的出現，標志著科技發展的新一步。盡管目前還存在著“錯覺”等問題，但這并不影響聊天機器人在未來的發展趨勢。對于開發公司來說，處理“錯覺”現象至關重要，只有這樣，才能讓聊天機器人真正滿足用戶的需求。而對于用戶來說，保持理性和警惕性也是使用聊天機器人的必備條件。
