AI 胡說八道的特性，要如何避開？

AI 胡說八道的特性，要如何避開？

長度: 01:51, 瀏覽: 110, 最近修訂: 2025-11-20

從目前生成式 AI 主流技術「Transformer」的運作原理，

答案是 ~ 無法避免！

1. 為什麼 AI 會胡說八道？

簡單來說，

AI 就是用很厲害的數學模型和強大的算力去

圖：生成式 AI 原理 (參考來源：台大電機李宏義教授上課內容)

而這些關聯性，

可以想成是透過人類大量資訊統計 or 指導出來的結果。

因為只是無腦的計算，

並沒有真正理解其中的意思，會「胡說八道」就可以理解了。

2. 用 RAG 限縮回答內容，可以解決嗎？

展示的時候可以，而且效果很好。

這是因為

只依據一篇文件來回應，而且文件寫的還不錯。

但現實上通常不是如此 ...

而且企業內出錯的機率可能又更高，

當限制以企業內有限、甚至是過時、不完整、重複的資料回應時，

AI 就只能無腦的從多篇文件 copy & paste (斷章取義)，

不像 Internet 有更高品質且更完整的資料可以據此修正，自然歪樓的情況就更嚴重了。

3. 很厲害的推理模型呢？

至於現在 (2025年) 看起來很厲害的 Reasoning (推理)，

其實只是在這個基礎上很暴力的多算幾次 ...

愚者千慮必有一得，

雖然能提高正確率 (仍不可能 100% 正確)，但現階段還不太能落地普及到一般企業內的應用。

關於 Reasoning 更深入的說明，可以參考台大電機系李宏毅教授的上課內容：

4. 解法

既然 AI 歪樓是無法避免的，

最簡單的解法，當然就是「不要讓 AI 生成」。

或是生成的時候，讓使用的人「有能力判斷」，

就像 Google 一樣，查到的資料不一定就是對的，但只要有能力判斷，依然可以成為超好用的工具！

這要怎麼做到呢？

不讓 AI 生成
當 AI 判斷使用者的問題和某個 Q&A 的問題一樣時，
就直接顯示系統中經過「人」整理過的內容，這樣 AI 就沒機會「生成」，避開了不確定性。
有能力判斷
那就進行有效率的教育訓練，用 10 倍速高效率，在最短的時間內把人的「經驗」和「敏銳度」培養起來，萬一沒找到 FAQ 只能生成時，降低被誤導的風險。

實踐的方法，

5. 為什麼是 Q&A？

原因很簡單，因為 Q&A 是

只要每天花 10 分鐘整理，

就能在 3 個月內，打造企業專屬且優質的 AI 知識庫，

同時又能進行 10 倍速的經驗傳承。