AI 幻覺防治

定義

透過結構化的輸入設計，限制 AI 的自主推論空間，從根本降低 AI 產出虛構或不正確內容的機率。

跨文章觀察

1. 提供真實資料取代 AI 自行搜尋（AI 延伸閱讀）：早期讓 AI 推薦同站文章，結果產出不存在的假連結。改為在 prompt 中直接附上真實文章清單，AI 只需讀取和說明關聯性，幻覺問題消失。
2. 截圖取代文字描述（Paperclip）：設計師的文字線框稿精準度不夠，前端工程師做出的成品與參考網站差距大。改為截圖作為 source of truth，利用多模態模型直接讀圖，減少文字描述的歧義空間。

防治策略

• 約束輸入：不給 AI 開放式問題，而是提供明確的資料和選項
• 提供 ground truth：在 prompt 中附上真實資料（文章清單、截圖），讓 AI 基於事實回應
• 量化驗證：用評分機制（[[品質量化]]）客觀判斷 AI 產出是否符合標準
• 縮小自主空間：「減少 agent 需要自主判斷的空間」是目前最實際的防治策略

關聯

• [[Prompt Engineering]] — prompt 設計是幻覺防治的主要手段
• [[品質量化]] — 量化標準讓幻覺可被偵測
• [[零成本 AI 整合]] — 幻覺防治是零成本策略的前提