ChatGPT 才問世不到三年，全球法院檔案裡已經躺著超過 1,900 個由AI憑空捏造的判例、當事人姓名跟法條。這不是科幻電影的情節，是真實在法庭上發生的災難。
孟加拉首席大法官祖巴耶爾·拉赫曼·喬杜裡（Zubayer Rahman Chowdhury）最近公開表態，語氣很重——AI不該拿來寫判決書。他呼籲政府趕快訂出法律跟政策，明確劃出AI在司法領域的紅線。說真的，如果連最高法院都對這項技術感到棘手，那全世界依賴AI輔助法律工作的人，都該繃緊神經了。
AI幻覺不是科幻名詞，是真實在法庭上爆炸的未爆彈
所謂「AI幻覺」（hallucinations），白話講就是生成式AI在不懂裝懂的時候，會編出煞有其事的假判例、假當事人姓名、甚至不存在的法條引用。根據訴訟文件AI幻覺案例資料庫維護者 Damien Charlotin 的統計，截至 2026 年 8 月，全球已記錄約 1,934 起AI幻覺案例。這個數字背後，是將近兩千次司法程序被虛假資訊滲透的危機。
最經典的案例是 2023 年美國的 Mata v Avianca, Inc. 訴訟案。那是全球第一次有ChatGPT生成的虛假判例被明目張膽地引用到聯邦法院檔案裡。結果呢？律師被法院罰了 5,000 美元。法官的意思很清楚：你可以用AI輔助，但最後簽名負責的是你，不是機器。
有趣的是，這股歪風沒有停在美國。英國、澳洲、法國、加拿大，還有我們的鄰居印度，全都陸續中標。
「印度最高法院在 2026 年 7 月的 Pooja Ramesh Singh v Jammu and Kashmir Bank Ltd & Anr 案中裁定，任何基於虛假引用所作出的命令，即使只有部分引用是假的，在法律上仍然『無效』。」
換句話說，只要AI幻覺滲進判決書，整份判決都可能被推翻。這對司法安定性的打擊，恐怕比我們想像的還要大。
孟加拉為什麼著急？三根稻草壓垮司法AI信任
孟加拉不是沒在做事。ICT Division 已經草擬了一份AI政策，Cabinet Division 也公開警告公務機關不要把機密資料餵給AI，連中央銀行都跳下來禁止將銀行數據輸入AI系統。但首席大法官還是坐不住了，為什麼？
首先，司法人員的AI素養普遍偏低。法官跟律師不一定懂大型語言模型的運作邏輯，自然也很難判斷AI給的答案到底有沒有鬼。其次，孟加拉的數位法律資料庫既不完整也不好用。沒有可靠的數位化判例索引，要交叉驗證AI給的引用，簡直像在黑暗中找路。再者，驗證機制幾乎從缺——沒人規定律師必須檢查AI生成的引用，也沒人釐清出了事誰要扛。
這三個問題其實很有既視感。台灣的法律資料庫雖然相對完整，但真要說全面數位化、且具備即時更新與驗證功能的系統，恐怕也還在半路上。
從1,934起案例學到的事：AI可以當助理，但不能當法官
AI在司法領域的應用不是沒有價值。草擬文件、案件管理、法律研究輔助，這些都是AI的強項。孟加拉法院積案如山，確實需要工具來紓解行政負擔。但問題在於：效率不能凌駕於公正之上。
從各國的慘痛經驗來看，我們可以歸納出幾個方向。首先，政策必須明確定義AI的禁用與限用場域——判決撰寫這種核心司法行為，絕對要列為禁用範圍。其次，律師公會（如 Bangladesh Bar Council）必須制定紀律規則，釐清律師驗證AI引用內容的責任歸屬。再者，教育訓練不能等，法官、律師、法院人員都要具備基本的AI識讀能力。最後，政府必須投入資源建置可靠且易於存取的數位法律資料庫，讓人可以獨立驗證AI的產出。
從產業面來看，台灣的法律科技新創這幾年確實很熱鬧，但多數產品聚焦在合約審閱、法律諮詢機器人等領域，對司法端的AI風險著墨甚少。如果我們能借鏡孟加拉的呼籲，提前建立司法AI使用指引，反而有機會變成亞洲的標竿。怕的是等出事才來修法，那就真的慢了。
回到孟加拉首席大法官的警告。他說「AI不應被用於撰寫法院判決」，這句話背後不只是對技術的不信任，更是對司法本質的堅持——判決書承載的不只是法律邏輯，還有法官對個案正義的具體權衡。那種價值判斷，演算法學不來，也不該學。
全球將近兩千起AI幻覺案例已經證明：AI很聰明，但也很會說謊。我們可以擁抱科技，但要先學會怎麼管住它。
對台灣的法律從業人員來說，現在正是時候問自己一個問題：如果你的助理律師變成AI，你願意把簽名蓋在它寫的狀紙上嗎？答案如果是否定的，那我們就該趕快把遊戲規則訂清楚。
本文改寫整理自公開新聞來源，原始報導由Yahoo奇摩新聞發布。
常見問題 FAQ
什麼是AI幻覺？為什麼會對司法產生危害？
AI幻覺是指生成式AI在回答問題時，憑空捏造看似合理但實際上完全錯誤的資訊。在司法領域，AI幻覺會產生假的判例、當事人姓名或法律條文，若律師或法官不慎引用，可能導致錯誤判決，嚴重損害司法公正與當事人權益。
台灣目前的司法體系有在使用AI嗎？
台灣司法體系目前在輔助層面有導入AI工具，例如語音轉文字系統、裁判書草稿輔助等，但尚未開放AI撰寫判決主文。司法院已關注AI倫理議題，不過尚未訂定專屬的司法AI使用規範，這部分仍在研議階段。
律師使用AI輔助工作，出了事誰要負責？
負責任的永遠是律師本人。美國Mata案中律師被罰款5,000美元就是最明確的示警。律師有義務驗證AI生成的所有引用內容，不能以「AI給的資料」作為免責理由，法院只認律師的簽名，不認AI的運算。
一般民眾會受到AI幻覺的影響嗎？
會的。如果訴訟當事人的律師使用了AI生成的不實引用，可能導致法官做出對當事人不利的錯誤判斷。甚至在法律諮詢場景中，民眾若自行使用ChatGPT查詢法律問題，也可能被AI幻覺誤導而採取錯誤的法律行動，建議法律問題仍應諮詢專業律師。
孟加拉的做法對台灣有什麼借鏡意義？
孟加拉首席大法官主動發出警告並呼籲立法，顯示司法體系對新興科技應保持審慎態度。台灣可借鏡其「明確定義禁用範圍」、「建立驗證機制」、「強化司法人員AI教育」三大方向，提前部署司法AI治理框架，避免重蹈他國的覆轍。
※ 此篇文章由 AI 改寫或生成，內容僅供參考，可能存在錯誤或不準確之處。
