快速入門
-
00:00
1.
為什麼 AI 展示時都很厲害，但實際卻常常亂回答
播放影片: https://training.xms.tw/media/5972
AI 幻覺，這是目前以 Transformer 技術為基礎的生成式 AI 的根本問題，無法避免！
但為什麼計畫成果展示 or 業務介紹時，AI 都很厲害？
這其實是有技巧的，如果只上傳一份文件，而且問裡面有寫到的內容，
在 ChatGPT 3.5 這個「遠古時代」的模型，就有 90% ~ 95% 正確率。
但如果有多份文件，而且內容存在著不完整、重複、不一致等企業知識庫典型的問題時，就會出現史丹佛大學論文中提到的「RAG 檢索脆弱性」的問題 (註1)，當然就一本正經的胡說八道囉。
因為 AI 只是一個很強大的機率模型，實際上的運作你可以把它想成是無腦的 copy paste，完全沒有理解和推理。
一旦我們只是看到表面的展示就貿然導入，很可能會大失所望，落入 MIT 在 2025 年報告中提到的 GenAI 鴻溝的問題 (註2) ~
95% 企業的 AI 投資是零報酬
90% 更相信人類同事
xms+ AI 就完全不一樣，成功突破知識管理的痛點和避開 AI 幻覺的問題
- 隱形經驗危機
每天 10 分鐘，就能有效紀錄人大腦中的重要經驗，讓 AI 有內部的參考資料，畢竟網路上即使是 100 分的資料也不一定是內部的做法。 - 避開 AI 幻覺
不讓 AI 生成，直接輸出人確認整理過的經驗，不讓 AI 生成，當然就不會有幻覺的問題。
參考資料：
評語
請登入後才可以評分
- 位置
-
- 資料夾名稱
- AI 人工智慧之道 ~ 每天 10 分鐘，打造沒有幻覺的 AI 知識庫
- 上傳者
- 蘇德宙
- 單位
- 台灣數位員工
- 建立
- 2026-05-23 08:23:14
- 最近修訂
- 2026-07-19 12:40:20
- 長度
- 07:37