快速入門
-
00:00
1.
避免 AI 幻覺
播放影片: https://training.xms.tw/media/6047
主題索引
用數學證明以 Transformer 為基礎的「生成式 AI」，幻覺 (Hallucination) 是無解的。
也就是說，
只要讓 AI 生成，從理論上就一定會發生「斷章取義、亂掰」，而且那一本正經、流暢的語氣，一般人很容易被誤導。
既然 AI 歪樓是無法避免的，
山不轉路轉，我們可以繞開限制，避開雷區，就是「不要讓 AI 生成」，就沒機會胡說八道了。
或是生成的時候，讓使用的人「有能力判斷」，
就像 Google 一樣，查到的資料不一定就是對的，但只要有能力判斷，依然可以成為超好用的工具！
這要怎麼做到呢？
- 不讓 AI 生成
當 AI 判斷使用者的問題和某個 Q&A 的問題一樣時，
就直接顯示系統中經過「人」整理過的內容，這樣 AI 就沒機會「生成」，避開了不確定性。 - 有能力判斷
那就進行有效率的教育訓練，用 10 倍速高效率，在最短的時間內把人的「經驗」和「敏銳度」培養起來，萬一沒找到 FAQ 只能生成時，降低被誤導的風險。
實踐的方法，
可以參考：「用 AI 實踐 10 倍速經驗傳承」
直接輸出 Q&A
不讓 AI 生成，但還是要讓 AI 回答怎麼辦？
xms+ AI 則完美利用了大型語言 AI 最厲害的地方「能理解語意」，
正確判斷使用者的問題和我們寫好的 Q&A 是不是一樣，藉此找出系統對應的 FAQ，直接輸出人類整理、確認過的內容就好。
徹底改變了我們交給 AI 的任務，從根本上繞過了 AI 的最大弱點「幻覺」~
不再需要從文件中無腦的複製貼上 (斷章取義)
很巧妙的讓 AI 從困難的「申論題」(生成)，變成簡單的「是非題」 (是 or 不是)。
不讓 AI 生成，改用 FAQ 回答，
不給 AI 胡說八道的機會，當然就不會有幻覺的問題。
關閉 AI 生成
如果只有類似的，沒有完全一樣的 QA 呢？
那就關閉「AI 生成」的功能 ，只列出參考資料就好，
這樣就比 Google 傳統的「關鍵字」搜尋就更厲害了，透過 AI 強大的「語意理解」能力，找到你想要的資訊。
圖書館員比喻 ~
幫你找書 or 一本正經講給你聽？
「找到並直接輸出 Q&A」的行為，
就像圖書館員一樣，理解你要找的內容，幫你從浩瀚的館藏中快速地找到你要的那本書。
而目前的 AI，
卻是自己從書裡面東拼西湊，像專家一樣，用那自信且流暢的語氣「一本正經」講給你聽。
如果你是讀者，
你會想要哪一種圖書館員的服務呢？
拿書給你
還是一本正經的講給你聽？
評語
請登入後才可以評分
- 位置
-
- 資料夾名稱
- AI 人工智慧之道 ~ 每天 10 分鐘，打造沒有幻覺的 AI 知識庫
- 上傳者
- 蘇德宙
- 單位
- 台灣數位員工
- 建立
- 2026-06-07 09:22:21
- 最近修訂
- 2026-09-16 09:07:54
- 長度
- 07:21