隨著生成式 AI 技術的飛速發展，詐騙案件呈現出前所未有的複雜性。2024 年，香港金融從業員遭遇了一起涉及 2500 萬美元的詐騙案，詐騙者通過 AI 生成的深度偽造影像冒充真實人物，成功騙過了受害人。根據顧問公司德勤（Deloitte）的報告，使用生成式 AI 的詐騙預計到明年僅在美國就會造成 400 億美元的損失。這不禁引發我們思考：在這個 AI 泛濫的時代，我們是否能有效辨識 AI 脸孔？
現象觀察：AI 詐騙日益猖獗
生成式 AI 技術的進步使得 AI 生成的臉孔變得越來越難以與真人分辨。香港金融從業員的案例只是冰山一角，實際上，這種詐騙手法正在全球範圍內迅速蔓延。澳洲國立大學（ANU）心理學副教授艾美·道爾（Amy Dawel）指出，目前人們辨認 AI 脸孔的能力非常差，甚至不比隨機猜測好。這意味著，我們每個人都可能成為下一個受害者。
原因剖析：AI 超真實感的迷思
道爾博士的研究揭示了 AI 脸孔之所以難以辨識的關鍵原因之一：AI 超真實感（AI hyperrealism）。AI 演算法傾向於取其訓練的數萬張臉孔的數學平均值，使得生成的臉孔看起來更加協調、對稱、有吸引力。然而，這些特徵恰恰是人類臉孔所缺乏的。道爾博士強調，「人類臉孔往往更獨特、更易記憶、表情更豐富；而 AI 生成的臉孔則通常更對稱、比例更協調、更有吸引力。」
「AI 超真實感使得生成的臉孔看起來比真實人類臉孔更可信，這正是詐騙者利用的關鍵。」 —— 艾美·道爾
影響評估：真實世界的後果
難以辨識 AI 脸孔的問題不僅限於金融詐騙，還可能影響到網路安全、社交平台乃至個人隱私。道爾博士警告，「無論是網路釣魚、交友網站，還是針對我們的銀行帳戶，這種技術的應用都可能帶來嚴重的後果。」
趨勢預測：訓練與對抗的競賽
面對這一挑戰，研究人員正在探索有效的解決方案。道爾博士的團隊設計了一種新的訓練方法，通過讓參與者對一系列臉孔的整體特徵進行評分，來提高他們辨識 AI 脸孔的能力。研究表明，經過訓練後，參與者的準確率大幅提升，達到了 81%。英國伯恩茅斯大學的心理學家埃斯圖迪略博士（Dr Alejandro Estudillo）對此方法表示讚賞，認為它利用了人類的自然本能，即整體處理臉孔的能力。
「這是一場貓捉老鼠的遊戲，AI 技術不斷進步，我們也必須不斷調整才能跟上。」 —— 艾美·道爾
然而，研究人員也指出，這場競賽遠未結束。AI 系統仍在不斷進化，未來的訓練方法需要不斷更新以應對新的挑戰。道爾博士建議，未來可以開發類似的訓練，幫助人們辨識 AI 生成的語音和影片，而不只是靜態臉孔。
面對 AI 詐騙的威脅，我們每個人都需要提高警惕。學習辨識 AI 脸孔的技能，不仅是自我保護的需要，也是維護社會安全的重要一環。
本文改寫整理自公開新聞來源，原始報導由BBC中文發布。
常見問題 FAQ
如何辨識 AI 脸孔？
學習辨識 AI 脸孔的方法包括對臉孔的整體特徵進行評分，如獨特性、可記憶性、表情豐富度、對稱性、比例協調性和吸引力。這些特徵的評分可以幫助你更有效地辨識 AI 脸孔。
AI 詐騙的主要手段有哪些？
AI 詐騙的主要手段包括使用生成式 AI 生成的深度偽造影像冒充真實人物，進行視訊會議、社交平台交流等，以騙取金錢或敏感信息。
有哪些工具可以幫助辨識 AI 脸孔？
目前已有使用演算法偵測 AI 生成內容的自動化工具，但這些工具可能只對特定 AI 產品有效，且當新模型出現或影像被編輯時，可能會難以應付。因此，保持人類的核心角色仍然至關重要。
※ 此篇文章由 AI 改寫或生成，內容僅供參考，可能存在錯誤或不準確之處。
