當 Meta 推出 AI 圖像偵測工具，原以為這將成為辨識深偽（Deepfake）的利器，卻沒想到一個致命弱點被揭露：只要圖片裁切編輯過，工具的準確率竟驟降至 45%。這不僅暴露了現有科技防線的侷限，更讓我們不得不思考，面對日漸精進的 AI 圖像，人類該如何自保？
表象
Meta 的 AI 圖像偵測工具在路透社的測試中表現差強人意。根據路透社分析 40 張由 Muse Image 生成的圖片，工具雖能準確辨識「原始」AI 圖，但只要圖片經過裁切編輯，準確率便大幅下滑。Meta 解釋，這是因為大幅裁切會導致內建的「Content Seal」浮水印訊號流失。然而，這也揭示了一個事實：無論自動偵測系統或浮水印，都難以做到百分之百可靠的守門員。
真相
隨著 StyleGAN3 和新擴散模型（Diffusion models）等技術的成熟，AI 圖像的低級瑕疵已逐漸消失。英國阿伯丁大學（University of Aberdeen）與澳洲國立大學（Australian National University）的研究指出，過去人們常用尋找不合理的手指數量、變形耳環或扭曲背景等方法來識破 AI 圖片，如今這些策略已失效。研究員直言，依賴「視覺缺陷」辨識 AI 圖的策略已失效。
各方角力
為了建立新的辨識標準，研究團隊轉而訓練受試者觀察 AI 臉孔常有的六項特徵：過度對稱、完美比例、異常吸引人、臉部結構通用、表情變化少、缺乏記憶點。實驗數據顯示，未受訓前，受試者辨識真偽的準確率僅約 40%；但經約一小時引導學習，並反覆接觸真實與合成臉孔後，準確率大幅飆升至接近 80%，少數人甚至能達近乎完全辨識程度。
研究員表示，人類大腦能像機器一樣運作，即用大量範例與重複練習，逐漸建立對真偽的「直覺」。
「這種直覺，成為未來對抗深偽內容的重要武器。」
深層影響
培養這項能力已成為迫在眉睫的任務，因為 Deepfake 技術早已跨越娛樂範疇，成為嚴重的社會安全威脅。根據 Deloitte 估算，明年美國因 AI 深偽詐騙造成的損失，可能從 2023 年 120 億英鎊暴增至 400 億英鎊。這類跨國犯罪也已真實上演，例如香港曾發生詐騙集團利用深偽視訊會議，成功誘騙企業員工匯款高達 2,500 萬英鎊；此外，也有調查揭露 AI 生成的 LinkedIn 假檔案已成功滲透美國政策圈。
當 AI 越來越懂得偽裝成人類，單靠機器防禦已顯不足。
「在這個真假難辨的時代，大腦也需要執行系統性『升級』。」
未解之問
面對日漸精進的 Deepfake 技術，人類的「直覺」能否成為最後一道防線？這不僅是一場技術戰，更是一場心理戰。我們需要更多研究和實踐來验证這一策略的有效性，才能在這個真假難辨的時代，找到真正的安全之道。
從產業面來看，培養人類對 Deepfake 的「直覺」防線，不僅是技術上的挑戰，更是教育和社會心理的綜合課題。政府和企業應投入更多資源，提升公眾的辨識能力和意識，才能有效應對這場技術革命帶來的新威脅。
在這個真假難辨的時代，我們需要更多的警覺和準備。如果你對辨識 Deepfake 感興趣，不妨參加一些相關的培訓課程，提升自己的辨識能力。同時，也可以分享這篇文章，讓更多人了解這場技術戰爭的真實面貌。
本文改寫整理自公開新聞來源，原始報導由科技新報發布。
常見問題 FAQ
什麼是 Deepfake？
Deepfake 是一種利用人工智慧技術生成的假圖像或視頻，可以將某人的臉部或其他特徵移植到另一個人身上，使生成的內容看起來非常逼真。
Meta 的 AI 圖像偵測工具有哪些限制？
Meta 的 AI 圖像偵測工具在辨識原始 AI 圖像方面表現良好，但如果圖片經過裁切編輯，其準確率會大幅下降，最高可降至 45%。
如何培養對 Deepfake 的「直覺」？
培養對 Deepfake 的「直覺」需要通過大量範例和重複練習，學習辨識 AI 臉孔的六項特徵：過度對稱、完美比例、異常吸引人、臉部結構通用、表情變化少、缺乏記憶點。
※ 此篇文章由 AI 改寫或生成，內容僅供參考，可能存在錯誤或不準確之處。
