真假難辨｜AI生成內容可「重寫」人類記憶

美國麻省理工學院（MIT）最新研究警告，由 AI 生成的圖片與文字，可能不知不覺間在人腦植入虛假記憶；更棘手的是，受影響者往往對錯誤記憶深信不疑，甚至堅稱自己「親眼見過」。

MIT 科學家 Pattie Maes 帶領的團隊向《華盛頓郵報》介紹這項研究。實驗先安排參加者觀看真實照片，讓他們對畫面建立初步印象；經過一段休息時間後，研究人員再安排部分人重溫原圖，另一部分人則觀看被 AI 修改過的版本，以比較兩種經驗對記憶造成的差異。

結果看過 AI 改動照片的參加者，較容易把原本不存在的細節，誤認為真實畫面的一部分。更值得關注的是，他們對錯誤答案的信心不減反增，甚至堅定認為被竄改的版本才是「原來的真相」。換言之，AI 不只令人記錯，還可能令人對錯誤記憶失去警覺。

逼真假訊息加速擴散

人類記憶本來就會受到外界資訊影響，心理學界早已證實「錯誤記憶」並非新現象。不過，AI 的出現令問題變得更嚴重：過去製作逼真假照片、假影片或假新聞需要較高技術與成本，如今一般用戶也能快速生成以假亂真的內容。

深偽技術（Deepfake）正是最明顯例子。當公眾在社交平台反覆接觸看似真實的 AI 影像或報道，大腦便可能逐漸把虛構情節當成親身經歷。這種記憶污染不只影響個人判斷，更可能被用於詐騙、輿論操作及選舉干預。

國際上亦有多項研究得出類似結論。有研究發現，AI 生成的文字與深偽影片，足以令受試者「記得」從未發生的政治醜聞；部分參加者更因為相信這些虛構事件，而降低投票意願。當虛假記憶深入個人認知，單靠事後澄清，未必能完全扭轉影響。

人機協作防線或失效

AI 風險並不止於惡意造假。即使開發者無意欺騙，AI 仍可能出現「幻覺」（Hallucination），即生成看似合理、實則錯誤的資訊。隨著政府、金融、醫療及軍事機構加快採用 AI，如何防止錯誤輸出造成實際損害，已成為迫切課題。

目前不少機構採用「人機協作」（Human-in-the-loop）模式，由人類專家負責最後把關，期望在 AI 出錯時及時糾正。理論上，這種安排可兼顧效率與安全，例如在軍事行動或大量數據處理中，避免演算法錯誤直接轉化為傷害。

然而，研究提醒，人類未必是可靠的「最後防線」。連專業人員也可能被 AI 的錯誤答案影響，難以準確辨別幻覺；若審核者本身曾接觸 AI 改動過的圖像、影片或文字，其記憶與判斷更可能早已被污染。當把關者也被誤導，人機協作的保護作用便大打折扣。