什麼是 AI 幻覺？要怎麼避免？

哪些算是幻覺

美國國家標準暨技術研究院（NIST）把這種現象稱為虛構（confabulation）：生成式 AI 以篤定的語氣，產出錯誤或不實的內容。一般常說的則是幻覺（hallucination）。與你提供的資料相矛盾，或與同一場對話中先前說過的話相矛盾的回答，也算在內。

在圖片和影片中，多出的手指、融化的物體等怪異細節，有時也被叫做幻覺，但那屬於品質問題，而非錯誤的陳述。在創作上，憑空造出不存在的東西常常正是目的。幻覺之所以成為問題，是在你需要事實的時候。

語言模型為什麼會產生幻覺

語言模型寫作的方式，是根據目前的文字預測下一個 token（文字的小片段）。它被訓練來產生「可能出現」的文字，而不是「真實」的文字。多數時候可能與真實重疊，這正是模型有用的原因；失誤就出在兩者不重疊的地方。

• 沒有內建的事實查核。下一個 token 預測的過程中，沒有任何一步會把輸出拿去和真實世界比對。
• 冷門事實學得不扎實。訓練中只出現幾次的事實，很容易和類似的事實混在一起，例如小有名氣的公眾人物的出生年份。
• 猜測反而得分。2025 年發表的研究指出，常見的訓練與基準測試計分方式，對自信的猜測給分，對「我不知道」卻不給分，所以模型學會了亂猜。
• 模仿常見的錯誤。用人類文字訓練的模型，可能重複流行的錯誤觀念，TruthfulQA 基準測試就是為了衡量這點而設計。
• 提示詞施加的壓力。問題若預設了錯誤前提，例如要求提供一部沒有續集的電影的 2019 年續集，就等於誘使模型配合演出。
• 過長或雜亂的上下文。長篇輸入中段的細節更容易被漏掉或搞混。
• 知識截止日期。除非加入搜尋或文件，否則訓練資料結束之後的事，模型一概不知。

哪些任務風險最高

風險與其說取決於模型，不如說取決於你要它做什麼。

法律研究是公認的高風險領域。已有法院因為律師提交的文件引用了聊天機器人捏造的判例，而對律師作出懲處。

能減少幻覺的提示詞

最有效的方法是「落地」（grounding）：把資料來源交給模型，並要求它只依據這些資料回答。檢索增強生成（RAG）也是同一個概念：系統先搜尋文件，再把最相關的段落放進提示詞。

Weak prompt:
What is the refund period in our store policy?

Grounded prompt:
Answer using only the policy text below.
If the answer is not in the text, reply: Not stated in the policy.
Quote the exact sentence you used.

Policy:
<paste the policy text here>

Question: What is the refund period?

落地版提示詞的每一行都有作用。「只用」下方的政策文字，限定了資料來源；備用句為模型提供了除了猜測之外的安全答案；要求「引用原句」，則讓你幾秒鐘內就能檢查答案。

還有其他有幫助的習慣：

1. 問題要窄。一次問一個事實，比要求一長串清單更容易答對。
2. 允許不確定。加一句，例如：「如果你不確定，請直接說明，並告訴我該如何確認。」
3. 需要最新資訊時開啟搜尋或瀏覽功能，然後點開答案引用的連結。
4. 多步驟問題請它說明推理過程或步驟，並逐步檢查。
5. 不要要求它憑記憶給出資料來源。請它用搜尋工具找來源，或是自己找好再貼給它。
6. 寫程式時提供函式庫版本，貼上相關文件，並實際執行程式碼。

如何檢查 AI 的答案

在你依賴或發布任何涉及事實的內容之前，請對照這份清單：

1. 點開每個連結與 DOI，確認頁面存在，而且內容與答案所說的一致。
2. 搜尋名言的完整原句。如果在第一手資料中找不到，就不要使用。
3. 每個數字都對照第一手資料，例如官方統計網站、標準規範或論文原文。
4. 留意警訊：非常精確卻沒有出處的數字、看起來很通用的作者名單、找不到的參考文獻，以及重新問一次就改變的答案。
5. 任何重要的說法，都要另找第二個獨立來源，而不是再問一個聊天機器人。
6. 法律、醫療或財務問題，請由具備資格的人員審閱結果。

這些做法的限制

目前沒有任何方法能完全消除幻覺。落地與 RAG 能大幅降低文件可回答問題的錯誤率，但模型仍可能誤讀段落、把兩段內容混在一起，或自行填補文件留下的空白。搜尋工具也可能回傳品質不佳的網頁，而模型可能會信以為真。

調低 temperature 只能讓答案更穩定，不能讓答案更準確。如果最可能的答案是錯的，模型就會一致地重複同一個錯誤。

較新的模型在常見問題上往往較少出現幻覺，有些也經過訓練，更常承認自己不確定。但不同主題與語言的幻覺率仍然不同，所以在依賴某個模型之前，請用你自己領域的問題測試它，並在出錯代價高昂的地方保留人工檢查。