AI 幻覺 (hallucination) 與可能的風險

長度: 08:53, 瀏覽: 528, 最近修訂: 2026-07-28

主題索引

透過很簡單的策略 ~

什麼都問 AI

就能將資深員工腦袋裏的隱性經驗慢慢挖出來，雖然這已經解決了知識管理「經驗進不去、維護困難」這兩大難題，但還差一步，就是要想辦法避免 AI 幻覺！

目前 AI 那種「一本正經、胡說八道」的問題，

雖然可以利用 RAG 技術限定回答的範圍來大幅改善，但依然無法完全避免。

因此，幾乎所有公司都會加註提醒與警語。

例如，Google 「AI 摘要」功能中的警語說明 (下圖)：

雖然這項技術令人振奮 ... 可能會提供不準確或令人反感的資訊。因此，我們無法確保 AI 摘要內容皆正確無誤。

每次回答，都不一樣

以下是 2025/11 的測試結果，

即使採用 RAG 技術，一樣無法避免「一本正經、胡說八道」的問題。

請 ChatGPT 依據特定內容回答衛教問題「裝引流管後可以洗澡嗎？」

一本正經，很恐怖 ...

因為回答得太專業了 ~

雖然沒有直接提及 ...

但有提到「Port-A 人工血管」 ...

根本就像是專家的口吻，

還特別提到「Port-A 人工血管」，很容易讓人信以為真。

以下是一樣的問題，問 Google notebookLM (Gemini 模型) 的結果

AI 幻覺的風險

然而，這樣的不確定性，

對企業來說，尤其在「標準化的生產流程 (SOP)」，更是一個非常嚴重的問題。

有經驗的員工或許還能察覺異常，

對 AI 的回應保有一定的判斷與思辨能力，覺得「怪怪的」時候，會再進一步查證。

但對新進人員而言，

由於 AI 語氣「一本正經」，反而更容易讓人信以為真、照單全收，進而導致實際的生產錯誤。

也因為 AI 技術本身極具吸引力，全球企業都積極投入，

但與此同時，其「幻覺（hallucination）」問題也開始在實務應用中浮現 ...

雖然AI 模型越來越厲害，幻覺問題也不斷的持續改善，但理論上就是無法避免。

也就是說，即使正確率高達 95%

如果我們不能承受那剩下的 5% 帶來的風險，導入 AI 很可能是埋下一顆不定時炸彈 ...

以下就是幾個因 AI 回答不夠精準，所造成嚴重後果的實際案例。

案例