耶魯大學近期發布一項研究，深入探討人工智慧（AI）摘要對人類認知的影響。該研究指出，儘管 AI 摘要能顯著提升學習效率，其敘事方式卻可能潛移默化地重塑讀者的政治觀點，引發學界對 AI 內容形塑社會思維的廣泛關注。
AI 學習助益顯著，背後卻隱藏認知操縱危機
這份由耶魯大學社會學助理教授 Daniel Karell 及其團隊主導的實驗，比較了人類與 AI（例如 ChatGPT）所撰寫的歷史事件摘要。研究結果顯示，閱讀 AI 摘要的參與者，在後續測驗中的表現一致優於閱讀人類作品的受試者。Karell 教授分析，AI 之所以能帶來更佳的學習成效，並非因其掌握了更多知識，而是其呈現資訊的方式更為清晰、流暢。他將此比喻為一份「精簡且更好讀的維基百科」，指出 AI 能將複雜資料轉化為易於記憶的文本，無論讀者是否知曉內容由 AI 生成，學習效果皆能顯著提升。
不過，該團隊發表於《PNAS Nexus》的論文也同時揭示了 AI 摘要的另一面：它不僅能傳授知識，更具備引導立場的能力。研究發現，當 AI 摘要中摻雜了左派或右派傾向的敘述，讀者的觀點會隨之偏移，這無疑為 AI 在資訊傳播中的角色，敲響了一記警鐘。
觀點形塑機制：AI 以說服力框架包裝資訊
那麼，AI 究竟是如何在不經意間影響我們的觀點呢？研究員們指出，AI 摘要的影響力，在於它不單純呈現事實，更會以看似邏輯嚴謹、具說服力的框架來包裝資訊。這種細緻入微的表達方式，使得讀者在閱讀過程中，不知不覺地便接受了特定的意識形態或觀點。
這就像 AI 在為你搭建一座知識的橋樑時，也悄悄地為你選擇了一條預設好的路徑。當我們習慣於這種高效且「有條不紊」的資訊獲取模式時，我們的批判性思考能力可能會在不知不覺中被削弱，進而更容易被 AI 所建構的敘事框架所影響。
研究員們強調：「這是因 AI 不僅呈現事實，還會以看似有邏輯、具說服力的框架包裝資訊，使讀者不知不覺就接受特定意識形態。」這句話精準點出了 AI 在觀點形塑上的潛在威力。
潛在社會衝擊：從「幻覺」到惡意操弄的風險
除了觀點偏移，AI 內容還面臨著「幻覺」（Hallucination）與惡意操弄的巨大風險。南加州大學（USC）資訊科學研究所的研究便曾發現，AI 系統能在極少人類干預的情況下，有效進行宣傳。考量到 AI 在資訊呈現上比人類更具說服力、傳播速度更快等特質，專家們普遍擔憂，這些工具未來恐被用於大規模操作輿論風向，進一步加劇社會內部的分裂與對立。
面對 AI 摘要帶來的雙面效應，我們該如何自處？專家們提醒，儘管 AI 摘要是強大的學習輔助工具，但使用者必須時刻保持警覺。以下幾點至關重要：
- 保持警覺： 意識到 AI 內容可能帶有的潛在偏見或立場。
- 多方驗證： 不依賴單一 AI 來源，主動查閱多方資訊以核實內容。
- 批判性評估： 養成獨立思考的習慣，質疑資訊的來源、目的與呈現方式。
展望與影響：批判性思維是駕馭 AI 的關鍵
總體而言，AI 摘要的出現，無疑為學習與資訊獲取帶來了前所未有的便利與效率。然而，其在潛移默化中形塑讀者政治觀點、甚至可能被惡意操弄的風險，則是我們無法忽視的挑戰。未來，隨著 AI 技術的持續發展與普及，如何確保資訊的客觀性、避免認知偏誤，將成為社會各界必須共同面對的重要課題。
面對這股科技浪潮，我們不僅要享受其帶來的便利，更要培養高度的資訊素養與批判性思維。唯有如此，我們才能在 AI 時代中保持獨立思考的能力，避免陷入資訊誤區，真正駕馭這項強大的工具，而非被其所駕馭。
