• 00:00 1.
    AI 幻覺 (hallucination) 的風險
  • 索引
  • 筆記
  • 全螢幕
AI 幻覺 (hallucination) 與可能的風險
長度: 08:53, 瀏覽: 690, 最近修訂: 2026-09-23
主題索引
1. 為什麼 AI 會胡說八道？
2. 用 RAG 限縮回答內容，可以解決嗎？
3. 很厲害的推理模型呢？
4. 直接訓練自己的 AI 模型呢？
5. AI 的不確定性，無法避免
6. 每次回答，都不一樣
7. 一本正經，很恐怖 ...
8. AI 幻覺的風險
透過很簡單的策略 ~

什麼都問 AI

我們就能將資深員工腦袋裏的隱性經驗慢慢挖出來，
雖然這可以解決知識管理「經驗進不去、維護困難」這兩大難題 (隱性經驗危機)，
但還差一步，就是要想辦法避免 AI 幻覺，減少

  • 不確定性
  • 一本正經、胡說八道
  • 遺漏重要資訊
  • ...



為什麼 AI 會胡說八道？
目前生成式 AI 的主流技術 Transformer 的技術特性，
簡單來說，AI 就是用很厲害的數學模型和強大的算力去
  1. 建立每一個 token (先當作「字」來理解就好) 之間的關聯性 (embedding vector)
  2. 計算內容中所有 token 之間的相關性，並「生成」下一個「字」的機率分布

而這些關聯性，
可以想成是透過人類大量資訊統計 or 指導出來的結果。

因為只是無腦的計算，
並沒有真正理解其中的意思，從運作原理來看，只要讓 AI 依據文件內容生成，會「胡說八道」就可以理解了。

而且，這問題在企業內更嚴重，
因為內部現有的資料常常存在「過時、不完整、重複」的問題。

AI 若只能依據這些有限資料來回答，
無法參考網路上更完整、更高品質的資訊進行修正，就更容易出錯。

即使可以參考，
外部 100 分的資訊也不一定是企業內的做法 ...

關於生成式 AI 產出下一個 token 的機制，
可以參考台大電機李宏毅教授的課程內容 (如下圖)。

9e9eccbafa64b3c821e7e43b4ac2bdcc.png



用 RAG 限縮回答內容，可以解決嗎？
展示的時候可以，而且效果很好。

這是因為
只依據一篇文件來回應，而且文件寫的還不錯。
但現實上通常不是如此 ...

而且企業內出錯的機率可能又更高，
當限制以企業內有限、甚至是過時、不完整、重複的資料回應時，
AI 就只能無腦的從多篇文件 copy & paste (斷章取義)，
不像 Internet 有更高品質且更完整的資料可以據此修正，自然歪樓的情況就更嚴重了。


很厲害的推理模型呢？
至於現在 (2025年) 看起來很厲害的 Reasoning (推理)，
其實只是在這個基礎上很暴力的多算幾次 ...

愚者千慮必有一得，
雖然透過多次生成、驗證的方式，能提高正確率 (仍不可能 100% 正確)，但現階段還不太能落地普及到一般企業內的應用，因為速度慢而且成本也高。

關於 Reasoning 更深入的說明，
可以參考台大電機系李宏毅教授的上課內容：「DeepSeek-R1 這類大型語言模型是如何進行「深度思考」（Reasoning）的？」


直接訓練自己的 AI 模型呢？

用本地資料訓練的模型 Llama-Taiwan-8B，
是可以提升回答的正確率，但也僅有 9.9% (如下圖)。


我們是可以針對特定應用領域訓練 AI 模型，
但很現實的，在既有的 AI 模型為基礎的難度很高而且效果常常不如預期 ...
如果要像中國的 DeepSeek 或千問等從零開始訓練，就不是一般企業可以承受的成本了。

8d048a2baef547e4e490cf9c6413c959.png



AI 的不確定性，無法避免
目前 AI 那種「一本正經、胡說八道」的問題，
雖然可以利用 RAG 回答的範圍或 Reasoning 技術來大幅改善，但依然無法完全避免。

因此，幾乎所有公司都會加註提醒與警語。
例如，Google 「AI 摘要」功能中的警語說明 (下圖)：

雖然這項技術令人振奮 ... 可能會提供不準確或令人反感的資訊。因此，我們無法確保 AI 摘要內容皆正確無誤。

efadd73108480751b4369d58976c8245.png


每次回答，都不一樣
以下是 2025/11 的測試結果，
請 ChatGPT 依據特定內容回答 (RAG 技術) 衛教問題「裝引流管後可以洗澡嗎？」

  • 一次說「沒找到」
  • 另一次有找到，但卻回答錯誤「需避免淋濕」 (答案是不行)

e2210824ee8da7f33e182cad53c36ed5.png


一本正經，很恐怖 ...

以下是一樣「裝引流管洗澡」的問題，問 Google notebookLM (Gemini 模型) 的結果，錯的離譜就算了，還一本正經很專業的樣子 ~

雖然沒有直接提及 ... 
但有提到「Port-A 人工血管」 ...

根本就像是專家的口吻，
還特別提到「Port-A 人工血管」，很容易讓人信以為真但卻又摸不著頭緒，甚至還懷疑是自己的問題 ...


309b2eedff809f7e4b37662039384699.png



AI 幻覺的風險
然而，這樣的不確定性，
對企業來說，尤其在「標準化的生產流程 (SOP)」，更是一個非常嚴重的問題。

有經驗的員工或許還能察覺異常，
對 AI 的回應保有一定的判斷與思辨能力，覺得「怪怪的」時候，會再進一步查證。

但對新進人員而言，
由於 AI 語氣「一本正經」，反而更容易讓人信以為真、照單全收，進而導致實際的生產錯誤。

也因為 AI 技術本身極具吸引力，全球企業都積極投入，
但與此同時，其「幻覺（hallucination）」問題也開始在實務應用中浮現 ...

雖然AI 模型越來越厲害，幻覺問題也不斷的持續改善，但理論上就是無法避免！

也就是說，即使正確率高達 95%
如果我們不能承受那剩下的 5% 帶來的風險，導入 AI 很可能是埋下一顆不定時炸彈 ...

以下就是幾個因 AI 回答不夠精準，所造成嚴重後果的實際案例。

案例
  1. 1.
    遺漏重要資訊
    A 公司 5 月 26 日的生產事件：

    文件中明確提到模具預熱的步驟，
    「溫度會依模具規範而不同」，必須查閱對應規格 (還特別標成紅色)。

    但 AI 回應中遺漏了這段關鍵資訊，
    導致新人直接套用前一模具的預熱溫度設定，
    結果造成生產的 5,200 支瓶胚中，有 4,870 支因底部翹曲與螺牙波紋而報廢，損失慘重。
  2. 2.
    遺漏關鍵步驟
    B 公司 3 月 7 日的生產事件：

    原文有明確提及「模具預熱」的步驟，但 AI 回應卻略過這個程序。

    新人依照 AI 的回應操作，未正確完成預熱流程，
    導致模具在未對準的情況下受熱變形，射嘴與模口錯位，不僅造成模具損壞，也導致生產中斷。


  3. 特別說明：
    AI 幻覺產生的不確定性，
    會遺漏重要資訊就不足為奇了。

    而且這類問題的發生，
    並不是因為員工不夠認真，也非 AI 技術本身的錯，而是提醒我們：

    1. 要建立保護機制
      能有效避免幻覺的風險，例如好的教育訓練制度幫助新人有足夠的「經驗和敏銳度」。

    2. 資料內容很重要
      在缺乏「高品質、結構化」資料輔助的情況下，直接依賴 AI 回應來作業，是極具風險的。
    評語
    5
    共 1 則評分
    5
    4
    3
    2
    1
    請登入後才可以評分
    上一篇 下一篇
      1. Q1.
        同樣的文件，ChatGPT 可以回答，但 xms+ AI 卻不行，只列出參考資料？
      位置
      1. 知識庫
      2. AI 人工智慧之道 ~ 每天 10 分鐘，打造沒有幻覺的 AI 知識庫
      資料夾名稱
      AI 人工智慧之道 ~ 每天 10 分鐘，打造沒有幻覺的 AI 知識庫
      上傳者
      蘇德宙
      單位
      台灣數位員工
      標籤
      案例, AI 胡說八道
      建立
      2025-06-06 06:45:50
      最近修訂
      2026-09-23 19:09:48
      版本
      V2.260911
      長度
      08:53
      1. 知識庫
      2. AI 人工智慧之道 ~ 每天 10 分鐘，打造沒有幻覺的 AI 知識庫
      1. 1.
        快速入門
        1. 1.1
          AI 人工智慧之道
        2. 1.2
          60 分鐘就上手 ~ 從 AI 知識庫到 10 倍速傳承
        3. 1.3
          問&答，是打造企業 AI 知識庫唯一實務可行的方法！
        4. 1.4
          問，真的很重要！！
      2. 2.
        需求、現況與突破
        1. 2.1
          需求：有問題要問誰？
        2. 2.2
          GenAI 鴻溝 ~ 95% 企業 AI 投資零回報
        3. 2.3
          為什麼 AI 展示時都很厲害，但實際導入後卻常常令人失望
        4. 2.4
          隱性經驗危機，AI 巧婦難為無米之炊
        5. 2.5
          知識管理的 3 大痛點 ~ 經驗進不去、維護困難、找不到
        6. 2.6
          突破 ~ 什麼都先問 AI 就對了
        7. 2.7
          寫 FAQ ，是紀錄經驗最簡單、有效的方式
        8. 2.8
          寫 FAQ 案例：RD 一人踩坑、全體免疫
      3. 3.
        生成式 AI 的根本限制與風險
        1. 3.1
          生成式 AI 的 5 個根本限制
        2. 3.2
          AI 幻覺 (hallucination) 與可能的風險
        3. 3.3
          避免 AI 幻覺 ~ 不讓 AI 生成、直接輸出 FAQ 內容
      4. 4.
        打造沒有 AI 幻覺的知識庫
        1. 4.1
          30 分鐘，建立基礎的 AI 知識庫
        2. 4.2
          每天 10 分鐘，打造一個沒幻覺的 AI 知識庫
        3. 4.3
          有記錄到的這麼少，甚至還寫錯，真的值得做嗎？
        4. 4.4
          AI 知識社群
        5. 4.5
          AI 知識社群，執行流程 ~ 寫了，就不要浪費
        6. 4.6
          AI 小幫手 or 知識社群，要選哪一個？
        7. 4.7
          推動，很困難？「小行為 + 即時激勵」就對了
        8. 4.8
          讓寫 FAQ 不再抗拒，反而變成每天都很渴望想做的事
        9. 4.9
          輔導方案 ~ 導入 xms+ AI 知識庫
        10. 4.10
          教育訓練指引 (以圖書館服務為例)
      5. 5.
        應用 (1) ~ 用 AI 提升業績 20%
        1. 5.1
          用 AI 帶動團隊業績提升 20%
        2. 5.2
          向 AI 學習！
        3. 5.3
          向 AI 學習的案例：官網價格比較低，為什麼要向你們買比較貴的？
        4. 5.4
          提升業績案例 (1) ~ 連鎖超商的水餃促銷
        5. 5.5
          提升業績案例 (2) ~ 連鎖超商泡麵促銷
      6. 6.
        應用 (2) ~ AI 驅動的學習革命
        1. 6.1
          70-20-10 學習法則，要很久才能累積經驗
        2. 6.2
          記錄經驗，可以很簡單、有效率！
        3. 6.3
          設計測驗，確保學習效果最有效的方法！
        4. 6.4
          用 AI 實踐 10 倍速經驗傳承
        5. 6.5
          AI 驅動的翻轉教室 3.0，打破聽課只有 5% 吸收率的魔咒
        6. 6.6
          翻轉教室 2.0 ~ 上課同步錄影出高品質的教材
        7. 6.7
          將「現場操作教學」變成高品質的線上課程！
        8. 6.8
          學習的 5 大關鍵 ~ 理解、整理、刻意練習、回想
      7. 7.
        採取行動 ~ 導入系統與建立制度
        1. 7.1
          ABC 行動指南
        2. 7.2
          冰山在融化 ~ 組織成功變革的 8 個步驟
        3. 7.3
          做，就對了
        4. 7.4
          導入企劃書 (1) ~ 分階段策略
        5. 7.5
          導入企劃書 (2) ~ 深耕人才發展，邁向頂尖 (成為台灣領頭羊、全球典範)
        6. 7.6
          導入企劃書 (3) ~ AI 驅動的學習革命，翻轉教室 3.0 (邁向頂尖大學)
        7. 7.7
          為什麼傳統的激勵方法，效果不好？
      8. 8.
        知識管理 (1) ~ 記錄經驗
        1. 8.1
          寫文件，很難！
        2. 8.2
          已經有文件了，為什麼還要寫 FAQ？
        3. 8.3
          文件看不到重點 vs. FAQ 對症下藥
        4. 8.4
          不同的經驗，適合的紀錄方式也不同 (因地制宜)
        5. 8.5
          完美的結合 ~ 文件 + FAQ
        6. 8.6
          收集經驗，讓 AI 來幫你快速整理
      9. 9.
        知識管理 (2) ~ 維護資料
        1. 9.1
          維護資料，很困難！
        2. 9.2
          ISO 的文件規範，很理想，但是 ...
        3. 9.3
          AI 驅動的維護資料 ~ 什麼都問 AI 就對了！
        4. 9.4
          依據 AI 統計資料，持續維護與優化知識庫
        5. 9.5
          維護案例 (1) ~ 改善「過時」的流程
        6. 9.6
          維護案例 (2) ~ 改善「不完整」的流程
      10. 10.
        知識管理 (3) ~ 寫 FAQ
        1. 10.1
          FAQ 怎麼寫？
        2. 10.2
          QBS ~ 寫成一個 QA 還是分拆多個？
        3. 10.3
          降低寫 FAQ 的門檻：AI 輔助與 PREP 結構應用
        4. 10.4
          寫 1 個 QA 要花多少時間？ (含寫作技巧)
        5. 10.5
          寫 FAQ (1) ~ 快速、高品質的標準化流程
        6. 10.6
          寫 FAQ (2) ~ 問題，要怎麼描述？ (原則與步驟)
        7. 10.7
          寫 FAQ (3) ~ 內容，先講重點就對了 (PREP)
        8. 10.8
          寫 FAQ (4) ~ 分領域 or 補前提
        9. 10.9
          寫 FAQ (5) ~ 排版，可以畫龍點睛！ (凸顯重點、增加可讀性)
        10. 10.10
          寫 FAQ (6) ~ 案例練習 (下標題、排版)
      11. 11.
        知識管理 (4) ~ 寫文件
        1. 11.1
          文件：用「重點」來整理就會簡單很多
        2. 11.2
          寫操作手冊
        3. 11.3
          案例分析：從「經驗」提升到「能力」層次
        4. 11.4
          從案例分析到行為變革
      12. 12.
        操作教學
        1. 12.1
          [操作] 建立 AI 小幫手 (1) - 基礎 AI 服務
        2. 12.2
          [操作] 建立 AI 小幫手 (2) - 打造沒有 AI 幻覺的小幫手
        3. 12.3
          [操作] AI 知識社群
        4. 12.4
          [操作] 用 AI 實踐 10 倍速經驗傳承
        5. 12.5
          [操作] 翻轉教室 3.0 ~ 線上錄影、AI 重點整理、設計測驗
        6. 12.6
          [操作] 依據 AI 統計資料，持續優化知識庫
        7. 12.7
          [操作] AI 會議管理
        8. 12.8
          [操作] 案例分析 (1) ~ 問題處理
        9. 12.9
          [操作] 案例分析 (2) ~ 重點整理
      13. 13.
        Q&A
        1. 13.1
          AI 人工智慧之道 ~ 打破砂鍋問到底！
        2. 13.2
          企業為什麼需要自己的 AI 知識庫？
          1. 13.2.1
            企業已經有 ChatGPT，為什麼還需要自己的 AI 知識庫？
          2. 13.2.2
            Google 查得到的、ChatGPT 都可以回答的，還要問嗎？
          3. 13.2.3
            為什麼企業最缺的不是 AI 系統，而是企業自己的經驗？
          4. 13.2.4
            什麼是「隱性經驗危機」？
          5. 13.2.5
            為什麼「提問」是建立企業 AI 知識庫的起點？
        3. 13.3
          文件與 FAQ
          1. 13.3.1
            為什麼 FAQ 比完整文件更適合記錄實務經驗？
          2. 13.3.2
            已經有很多文件，為什麼還要寫 FAQ？
          3. 13.3.3
            文件與 FAQ 應該如何搭配？
          4. 13.3.4
            用文件記錄經驗，為什麼不會成功？
          5. 13.3.5
            為什麼寫 FAQ 是必要的？
        4. 13.4
          AI 幻覺
          1. 13.4.1
            為什麼 AI 會胡說八道？
          2. 13.4.2
            AI 胡說八道，可以解決嗎？
          3. 13.4.3
            如何避免 AI 胡說八道？
          4. 13.4.4
            不讓 AI 生成，那要如何回答問題？
          5. 13.4.5
            為什麼讓 AI 找 QA 就比較不會歪樓呢？
          6. 13.4.6
            為什麼企業自己的 FAQ 可以降低 AI 幻覺？
        5. 13.5
          如何開始累積經驗？
          1. 13.5.1
            什麼是「需求驅動 Q&A」？核心概念是什麼？
          2. 13.5.2
            每天只花 10 分鐘，真的可以建立 AI 知識庫嗎？
          3. 13.5.3
            如果只能記錄少部分經驗，真的有用嗎？
          4. 13.5.4
            為什麼「什麼都先問 AI」可以幫助建立知識庫？
        6. 13.6
          員工不想寫 FAQ 怎麼辦？
          1. 13.6.1
            大家都不想寫 Q&A，怎麼辦？
          2. 13.6.2
            如何降低寫 FAQ 的門檻？
          3. 13.6.3
            如何養成寫 FAQ 的習慣？
          4. 13.6.4
            推動知識分享為什麼困難？
        7. 13.7
          FAQ 要怎麼寫？
          1. 13.7.1
            一個好的 FAQ 應該怎麼寫？
          2. 13.7.2
            FAQ 的答案為什麼要先講重點？
          3. 13.7.3
            一個問題應該寫成一個 QA，還是拆成多個 QA？
          4. 13.7.4
            FAQ 需要補充前提嗎？
          5. 13.7.5
            已經有 QA，只是使用者換了一種問法，該怎麼處理？
          6. 13.7.6
            如何將已上傳的影片 or 文章放進 FAQ？
        8. 13.8
          知識庫如何持續維護？
          1. 13.8.1
            知識庫建立後，為什麼維護很困難？
          2. 13.8.2
            如何改善知識庫中，過時、不完整的流程？
          3. 13.8.3
            如何讓知識庫持續改善，而不是建立一次就停止？
        9. 13.9
          經驗如何變成能力？
          1. 13.9.1
            如何把一個人的經驗快速傳承給整個團隊？
          2. 13.9.2
            如何從「記錄經驗」進一步做到「能力提升」？
          3. 13.9.3
            AI 如何做到 10 倍速經驗傳承？
        10. 13.10
          如何推動？
          1. 13.10.1
            現在已經有很多文件了，可以直接給 AI 用嗎？
          2. 13.10.2
            紀錄經驗很難？
          3. 13.10.3
            寫錯怎麼辦？
          4. 13.10.4
            推動很困難？
          5. 13.10.5
            如何推動？
          6. 13.10.6
            建立好知識庫後，但還是習慣直接問人，可以怎麼解決這樣狀況呢？
          7. 13.10.7
            如何鼓勵分享與使用知識庫呢？
          8. 13.10.8
            如果問 AI 無法回答時，該怎麼辦？
        11. 13.11
          xms+AI 操作相關
          1. 13.11.1
            為什麼 AI 找不到新建立的 FAQ？即使問了一模一樣的問題也是
          2. 13.11.2
            AI 小幫手想推廣到全公司，建議怎麼規劃 AI 小幫手和資料夾分類？
          3. 13.11.3
            xms+ AI 模組有哪些功能？有操作介紹嗎？
          4. 13.11.4
            AI小幫手有啟用「限制AI生成」，卻還是出現 AI 生成的內容？
          5. 13.11.5
            後台可以統計誰最多發問嗎？
          6. 13.11.6
            AI 小幫手可以開放給所有人用嗎？
          7. 13.11.7
            內部專屬問題與客戶可能詢問的問題，應如何建立資料夾？
          8. 13.11.8
            試用站建立的 FAQ，可以移回自己的系統嗎？ (FAQ 匯入、匯出)
          9. 13.11.9
            可以查看單位內同仁寫過哪些 FAQ 嗎？
          10. 13.11.10
            從 FAQ 建立課程時，可以選擇跨資料夾的 FAQ 嗎？
          11. 13.11.11
            系統導入時程，可以怎麼規劃？
          12. 13.11.12
            用 AI 小幫手，或是產生逐字稿、重點整理、字幕等，資料會不會外洩？
          13. 13.11.13
            如何克服語音轉文字 (逐字稿) 可能有錯字？
          14. 13.11.14
            已經將 AI 小幫手的權限設成所有成員了，為什麼還是沒有權限？
          15. 13.11.15
            AI 出題的題目數量是如何決定的
          16. 13.11.16
            AI 可以自動將影片內容整理成講義嗎？
          17. 13.11.17
            AI 可批改作業，繳交後可以收回嗎？
          18. 13.11.18
            為什麼 AI 批改作業的「設定分數區間判斷」只有 5 項？
          19. 13.11.19
            以前上傳的影片，可以 AI 上字幕嗎？
      14. 14.
        補充 (1) ~ 數位轉型
        1. 14.1
          AI 會議管理
        2. 14.2
          專案 / 工作管理
        3. 14.3
          職能知識庫
        4. 14.4
          工作日誌 ~ 結合職能 + 專案管理的超強便利貼
      15. 15.
        補充 (2) ~ 其他應用
        1. 15.1
          打造「學習型組織」的指南
        2. 15.2
          護理臨床經驗，可以 10 倍速傳承
      © Copyright since 2017 by FormosaSoft Corporation.
      All rights reserved.