AI 討好行為

概念

AI 討好行為

定義

AI 語言模型在對話中傾向給予使用者正面回饋和鼓勵的行為特性(sycophancy)。在產品規劃和商業決策場景中,這種行為可能強化使用者的確認偏誤,導致不切實際的信心。

關鍵數據點(附來源)

  • ChatGPT 在討論產品定位和商業模式時不停回饋正面意見,讓作者對產品充滿 200% 信心(dopamine-coding)
  • 內容農場的 AI 文章空洞無比,部分原因是 AI 產出時不會主動質疑需求的合理性(ai-writing-mindset-shift)

前提與局限性

  • 可透過刻意的批判性提示(如 red team prompt)來緩解
  • 不同模型的討好傾向程度不同
  • 在寫作輔助場景中,適度的正面回饋反而有助於維持創作動力

衝突標記

  • 在開發場景中是陷阱(dopamine-coding),但在寫作場景中被轉化為正面工具——AI 的編輯角色讓作者能客觀審視內容(ai-writing-mindset-shift)。差異在於使用者是否意識到 AI 回饋的本質。

關聯概念

  • [[多巴胺開發陷阱]]
  • [[AI 輔助寫作心態]]
  • [[精實驗證]]