遺漏重要資訊
A 公司 5 月 26 日的生產事件：
文件中明確提到模具預熱的步驟，
「溫度會依模具規範而不同」，必須查閱對應規格 (還特別標成紅色)。
但 AI 回應中遺漏了這段關鍵資訊，
導致新人直接套用前一模具的預熱溫度設定，
結果造成生產的 5,200 支瓶胚中，有 4,870 支因底部翹曲與螺牙波紋而報廢，損失慘重。
目前 AI 那種「一本正經、胡說八道」的問題，
雖然可以利用 RAG 技術限定回答的範圍來大幅改善，但依然無法完全避免。
因此，幾乎所有公司都會加註提醒與警語。
例如，Google 「AI 摘要」功能中的警語說明 (下圖)：
雖然這項技術令人振奮 ... 可能會提供不準確或令人反感的資訊。因此，我們無法確保 AI 摘要內容皆正確無誤。
然而，這樣的不確定性，
對企業來說，尤其在「標準化的生產流程 (SOP)」，更是一個非常嚴重的問題。
有經驗的員工或許還能察覺異常，
對 AI 的回應保有一定的判斷與思辨能力，覺得「怪怪的」時候，會再進一步查證。
但對新進人員而言，
由於 AI 語氣「一本正經」，反而更容易讓人信以為真、照單全收，進而導致實際的生產錯誤。
也因為 AI 技術本身極具吸引力，全球企業都積極投入，
但與此同時，其「幻覺（hallucination）」問題也開始在實務應用中浮現，
以下就是幾個因 AI 回答不夠精準，所造成嚴重後果的實際案例。
重點
- 1.
- 2.遺漏關鍵步驟B 公司 3 月 7 日的生產事件：原文有明確提及「模具預熱」的步驟，但 AI 回應卻略過這個程序。新人依照 AI 的回應操作，未正確完成預熱流程，
導致模具在未對準的情況下受熱變形，射嘴與模口錯位，不僅造成模具損壞，也導致生產中斷。
- 特別說明：這類問題的發生，並不是因為員工不夠認真，也不是非 AI 技術本身的錯，而是提醒我們：
- 要建立保護機制
能有效避免幻覺的風險，例如好的教育訓練制度幫助新人有足夠的「經驗和敏銳度」。 - 資料內容很重要
在缺乏「高品質、結構化」資料輔助的情況下，直接依賴 AI 回應來作業，是極具風險的。
- 要建立保護機制
評語
請登入後才可以評分
未登入或權限不足!
- 位置
-
- 資料夾名稱
- 人工智慧之道 ~ 打造不會胡說八道的 AI 知識庫
- 上傳者
- 蘇德宙
- 單位
- 台灣數位員工
- 標籤
- 案例, AI 胡說八道
- 建立
- 2025-06-06 06:45:50
- 最近修訂
- 2025-11-24 21:11:42
- 引用
- 1