全球AI幻覺案例突破1900起!孟加拉首席大法官罕見警告:判決不該交給AI生成

二○二六年八月,孟加拉最高法院首席大法官祖巴耶爾·拉赫曼.喬杜里(Zubayer Rahman Chowdhu…

15 分鐘

Read Time

二○二六年八月,孟加拉最高法院首席大法官祖巴耶爾·拉赫曼.喬杜里(Zubayer Rahman Chowdhury)公開表態,直言「AI不應被用來撰寫法院判決」。這句聽起來像是常識的告誡,背後卻藏著全球司法體系此刻正面臨的棘手難題——當AI開始在法庭上信口開河,我們該拿它怎麼辦?

AI幻覺不是都市傳說,是真實在法庭上被罰錢的教訓

根據訴訟文件AI幻覺案例資料庫維護者Damien Charlotin的統計,截至二○二六年八月,全球已記錄約一千九百三十四起AI幻覺案例。所謂「AI幻覺」,白話文說就是生成式AI在回答問題時,理直氣壯地給出錯誤甚至完全捏造的資訊。它可能編造一個從沒存在過的判例、虛構當事人姓名、引用錯誤法條,而且態度誠懇到讓人難以起疑。

最經典的教訓發生在二○二三年美國Mata v Avianca, Inc.訴訟案。那是全球首次記錄到ChatGPT生成的虛假判例被律師正式引用進法院檔案。法官的反應很乾脆——對該名律師開罰五千美元,並明確告訴法律界:律師有責任在引用任何法律依據之前,親自確認內容真偽,AI不能幫你扛責任

從印度到孟加拉,各國法院開始動起來

這不是美國單一事件。英國、澳洲、法國、加拿大,甚至我們的鄰近國家印度,都陸續出現類似案例。二○二六年七月,印度最高法院在Pooja Ramesh Singh v Jammu and Kashmir Bank Ltd & Anr案件中做出一個關鍵裁定:任何基於虛假引用所作出的命令,即使只有部分引用出錯,在法律上都「無效」。這項裁決形同宣告——AI的錯誤不能由當事人承擔後果,法院必須為自己的把關責任負責。

印度最高法院進一步要求Bar Council of India為律師制訂紀律規則,喀拉拉邦和古吉拉特邦高等法院也已經針對司法官員制定AI使用規範。回頭看孟加拉,除了首席大法官的公開警告,政府單位也有了具體動作。ICT Division已草擬一份AI政策,Cabinet Division近期發布預警,要求公務體系不要把敏感和機密資訊輸入AI系統,孟加拉國銀行(Bangladesh Bank)也跟進發出類似禁令。

孟加拉的三重困境:素養、資料庫、驗證機制

話說回來,孟加拉要落實司法AI監管,現實上有三個難關要過。第一是司法工作者的AI素養普遍偏低,法官、律師、司法人員對生成式AI的能力邊界缺乏足夠認知。第二是數位法律資料庫的品質與可用性不足——當你沒有一個完整、可靠、易於檢索的官方數位資料庫,要怎麼交叉驗證AI給出的引用是否真實?第三,孟加拉司法體系缺乏一套適合自身條件的引用驗證機制。這三個問題疊加在一起,等於讓AI幻覺有更多機會溜進判決書裡,卻沒人及時發現。

對一般人來說,這些國際案例感覺很遙遠,但其實跟我們息息相關。想像一下,如果你自己是訴訟當事人,律師拿AI生成的假判例說服法官,最後輸了官司,誰該負責?如果用錯AI的不是律師而是法官本人,判決基礎根本是虛構的,上訴還來得及嗎?這些都不是科幻情節,而是已經在真實世界發生過的事。

【編輯觀點】這則新聞對台灣最重要的啟示,不是孟加拉做了什麼,而是他們遇到的問題我們同樣躲不掉。台灣法律界對AI的討論還停留在「能不能用」的初階階段,但國際上已經進入「用了之後怎麼驗證、誰來扛責」的深水區。台灣司法院近年推動數位化,法律資料庫逐步上線,但如果沒有建立明確的AI使用規範與虛假引用課責機制,我們很可能會步上美國和印度的後塵。往後推演三到五年,這個問題會從「法官是否該用AI」轉為「律師沒驗證AI引用算不算疏失」。與其等第一起台灣案例發生才開始補救,不如現在就借鏡孟加拉呼籲的「政策先行」思維。

借鏡國際經驗,台灣該先做什麼?

報導中呼籲孟加拉政府應迅速制定司法AI使用政策,明確定義哪些領域AI被禁止或嚴格限制,同時對濫用AI生成資料的行為訂定懲處。Bangladesh Bar Council也應為律師訂定AI工具使用規則,釐清提交虛假法律依據時的責任歸屬。

這些呼籲對台灣來說絕非事不關己。台灣的法律科技新創近年相當活躍,從判決檢索系統到合約審閱工具,AI的滲透速度比多數人想像的更快。但問題在於——我們有足夠的官方數位法律資料庫供驗證嗎?我們有明確的AI使用指引讓法官和律師有所依循嗎?律師公會是否開始討論AI紀律規範了?這些問題的答案,坦白說還處於模糊地帶。

讓AI當助手,不是讓他當判官

當然,AI在司法領域不全然是負面角色。妥善引導與監管之下,AI確實能成為支援法律研究、案件管理、文件草擬的輔助工具,甚至有望幫助法院減少案件積壓。孟加拉所面臨的挑戰——案件量大、司法資源有限——跟台灣某些地方法院的處境何其相似。

關鍵從來不是要不要用AI,而是怎麼用、誰來驗證、出事誰負責。孟加拉首席大法官的警告,與其說是反對AI,不如說是在呼籲各國司法體系不要偷懶。判決的品質終究取決於法官的判斷力與專業倫理,這些無法外包給語言模型,也不該外包。

如果你在法律領域工作,或者關心AI倫理與司法正義的交互影響,現在就是開始追蹤這個議題的最好時機。回頭檢視台灣司法院與律師公會目前對於生成式AI的相關規範進度,你會發現值得關注的空白地帶還很多。把這則新聞分享給身邊的法律人,問問他們:「你現在敢把AI生成的法律引用直接放進書狀裡嗎?」答案,可能會讓你對台灣的司法AI準備程度有更真實的認識。

本文改寫整理自公開新聞來源,原始報導由Yahoo奇摩新聞發布。

常見問題 FAQ

AI幻覺是什麼?為什麼對司法特別危險?

AI幻覺是指生成式AI編造或錯誤陳述資訊卻以自信語氣輸出的現象。在司法領域,它可能製造假判例、虛構當事人或引用錯誤法條,直接影響判決公正性,且法官或律師若未察覺,將導致錯誤裁判且難以事後補救。

台灣目前有發生過AI幻覺影響判決的案例嗎?

截至二○二六年八月,台灣司法體系尚未公開記錄到因AI幻覺導致判決錯誤的案例。但隨著法律科技工具普及,法界已開始關注潛在風險,目前司法院與律師公會尚未發布針對生成式AI使用的正式紀律規範。

律師使用AI工具輔助工作,現在有明確的責任規範嗎?

目前台灣律師倫理規範並未針對AI工具訂定專條。但參照美國Mata v Avianca案與印度最高法院裁決,律師對提交法院的內容負有最終驗證責任,不能以「AI給的資料」作為疏失藉口,這項原則在台灣同樣適用。

孟加拉呼籲的「司法AI政策」具體該包含哪些內容?

孟加拉首席大法官與相關報導建議,政策應明確定義AI禁止或受限使用的司法領域、建立律師使用AI的紀律規則、設置引用驗證機制、加強司法人員AI素養培訓,同時建置可靠且易於存取的官方數位法律資料庫供交叉比對。

一般民眾如果懷疑判決引用AI假資訊,該如何救濟?

當事人可透過上訴或再審程序主張判決基礎事實或法律引用有誤,並舉證AI幻覺的可能性。但實際救濟仍須依具體案情與證據強度判斷,建議諮詢專業律師,確認是否符合民事訴訟法或刑事訴訟法規定的再審或上訴事由。

※ 此篇文章由 AI 改寫或生成,內容僅供參考,可能存在錯誤或不準確之處。

About the Author

AF themes

Easy WordPress Websites Builder: Versatile Demos for Blogs, News, eCommerce and More – One-Click Import, No Coding! 1000+ Ready-made Templates for Stunning Newspaper, Magazine, Blog, and Publishing Websites.

BlockSpare — News, Magazine and Blog Addons for (Gutenberg) Block Editor

Search the Archives

Access over the years of investigative journalism and breaking reports