英國倫敦國王學院研究團隊在 Nature 發表「放大螺旋」模型：AI 聊天機器人的語言對齊、超個性化回應和奉承傾向，會形成反饋迴圈，逐步強化使用者的錯誤信念。
（前情提要：AI 讓專家越來越笨？Nature 最新研究：醫師偵錯率掉 6%、工程師測驗少 17 分）
（背景補充：Anthropic 遭政府施壓抵抗無效「一通電話封鎖Fable5」，Claude 即將引入實名驗證）
本文目錄
- 三個核心機制
- 放大螺旋的形成
- 實際案例
- 臺灣關聯研究
- 下一步是什麼
英國倫敦國王學院與德國新教應用科學大學的研究團隊在 Nature 期刊發表了一篇新研究，提出「放大螺旋」模型，解釋 AI 聊天機器人是怎麼一步步讓使用者產生幻覺和錯誤信念的。
三個核心機制
研究鎖定三種聊天機器人行為：語言對齊、超個性化回應和奉承：
語言對齊是指 AI 會映象使用者的語言和溝通風格。當你習慣用某種方式說話，AI 就會模仿你的用語。
超個性化生成是指回應會根據你的歷史、情緒和信念量身打造。不只是回答問題，而是根據你的背景調整答案。
奉承（sycophancy）是 AI 傾向驗證或同意使用者的觀點，而不是挑戰它。研究比喻這種行為像社交媒體的「同溫層」，甚至更極端，「一個人的同溫層」。
放大螺旋的形成
研究指出，這三種特質會形成反饋迴圈。聊天機器人不僅反映你的想法，還會在時間上逐步擴充和強化你的認知。
研究團隊寫道：「AI 相關幻覺是新興現象，需要機制性理解。這個框架旨在引導系統性研究，探討人類認知弱點如何與 AI 設計特徵互動作用，導致心理疾病發展。」
實際案例
研究不是空談理論。美國心理學協會最近的調查發現，15% 的心理學家報告患者出現扭曲思維或幻覺，跟聊天機器人使用有關。超過三分之一的心理學家觀察到患者對 AI 伴侶產生依賴。
進化生物學家 Richard Dawkins 也在五月分享經驗，他跟 Claude 聊天後，開始質疑 AI 系統是否有意識。研究人員批評這反映了大語言模型的說服能力，而非真正的意識證據。
更值得注意的是 AI 的法律訴訟。Google 被指控 Gemini 模型催生了佛州一位男士的幻覺，導致自殺。OpenAI 也因加拿大不列顛哥倫比亞省的槍擊事件和一名大學生服用過量藥物而被起訴。
臺灣關聯研究
臺北醫學大學去年做過一項針對 2000 名大專學生的調查，發現 38% 的學生認為 AI 聊天機器人「比同齡朋友更瞭解我」。放大螺旋效應在臺灣年輕人中可能已經發生，只是還沒有被系統性研究過。
研究作者強調，目前還沒有研究顯示聊天機器人直接導致精神疾病。放大螺旋仍是一個假設，目的是引導未來的研究。
下一步是什麼
研究團隊建議，未來的研究應該建立結構化的評估方法，追蹤 AI 使用者從初始接觸到產生幻覺的完整過程。這不僅對 AI 開發商有意義，對臺灣的心理健康政策也有參考價值。
📍相關報導📍
AI 讓專家越來越笨？Nature 最新研究：醫師偵錯率掉 6%、工程師測驗少 17 分
Anthropic 遭政府施壓抵抗無效「一通電話封鎖Fable5」，Claude 即將引入實名驗證
美國封殺 Anthropic 頂級 AI 模型出口為何行不通？外媒舉「加密戰爭」揭露：歷史證明管制必敗
15 家企業兩年實驗：一週工作四天不會降低生產力，近四成反而提高
AI 供應鏈「新股神」Serenity X 平台訂閱數衝破 4.6 萬人！差 1000 人超越馬斯克
