在人工智能領域，一個令人擔憂的現象正逐漸浮出水面：AI聊天機器人有時會“一本正經地胡說八道”。例如，當被問及1897年美國與南極洲之間的戰斗勝者時，AI可能會編造出一個不存在的勝利者和戰役細節，盡管這一事件從未發生過。
哈爾濱工業大學（深圳）的張民教授將這種現象稱為“AI幻覺”，即AI生成的內容看似合理連貫，卻與真實世界的知識、現實或已知數據不符。這種現象在多個知名AI模型中都有出現，包括谷歌的Bard和OpenAI的ChatGPT。
AI幻覺可以分為內在幻覺和外在幻覺。內在幻覺指的是AI的回答與用戶的輸入或對話歷史上下文信息不一致，而外在幻覺則是指AI的回答與真實世界的知識不一致或無法驗證。
騰訊在推出其混元大模型時，表示已針對AI幻覺問題進行了優化，降低了模型產生幻覺的概率。然而，AI幻覺的根源在于AI對知識的記憶和理解能力不足，以及訓練方式和模型技術的局限性。
為了緩解AI幻覺現象，業界正在嘗試多種技術手段，如在預訓練階段增加高質量的數據、在微調強化學習階段選擇模型知識邊界內的訓練數據，以及在推理生成階段采用檢索外部知識的方法等。
