隨著颱風「紅霞」在週末登陸中國，當局不僅需要應對自然災害的影響，還要面對另一個棘手的挑戰：利用人工智能（AI）製造的虛假視頻。這些視頻在社交媒體上氾濫，引發恐慌並干擾應急響應工作。
虛假資訊泛濫，引發大眾恐慌
過去幾個月，中國多地遭受強風暴和洪水侵襲，社交媒體上充斥著大量虛假視頻。這些視頻包括漂浮在洪水中的屍體、對未受影響地區的虛假描述，以及對應急響應工作的虛假報道。其中，一些影片利用真實事件進行造假，例如廣西橫州市7月初發生的洪水，導致數百條蛇逃逸，隨後又出現假圖片，聲稱鱷魚被放生到河裡。
虛假資訊的氾濫引發了大眾恐慌，一些地區的居民因收到包含停電虛假資訊的影片而搶購緊急物資。浙江省公安廳網安總隊網路公共安全支隊副支隊長黃志華指出：「不少博主把災情當成漲粉工具，故意造假博眼球。」
AI技術的雙刃劍
中國政府大力發展AI，試圖成為全球領先的科技強國。2017年，中國宣布AI將成為國家發展的主要驅動力。目前，中國擁有超過6,000家AI公司。然而，這也意味著AI技術可能被用來製造虛假資訊。
根據官方數據，近幾週來，已有不少人因製作虛假報導和影片內容而被捕並受到處罰，處罰措施包括刑事拘留和罰款。
華東政法大學高富平教授告訴BBC：「發布此類虛假內容的動機多種多樣，從為了博取眼球而不考慮後果的人，到為了個人利益而製造流量的人，再到故意製造恐慌或社會動盪的人。」
官方應對與挑戰
為了遏制虛假資訊的蔓延，中國政府採取了一系列措施。7月23日，中國國家互聯網信息辦公室（國家網信辦）宣布在全國範圍內打擊與洪水和其他災害相關的虛假網路內容，並指示地方分支機構重點查處捏造資料、惡意編輯、擺拍場景、歪曲歷史事件以及冒充官員等行為。
寧波市公安局高凱表示：「看到來源不明的災情訊息，多打個問號，以官方發佈為準。」他也試圖安撫大眾，表示假訊息的製造者必將受到懲罰。公安部門將繼續加強打擊網絡犯罪活動。
從產業面來看，AI技術的發展速度遠遠超過法律框架的完善速度。隨著新的法律問題不斷湧現，AI產生的虛假資訊仍然是一個巨大的挑戰。政府和平台需要提前做好準備，而不是等到虛假資訊廣泛傳播後再採取措施加以控制。
展望與影響
展望未來，政治選舉、公共衛生緊急事件、武裝衝突、自然災害以及影響民生的問題都可能成為AI產生假訊息的高風險領域。政府和平台不應等到虛假資訊廣泛傳播後再採取措施加以控制，而應提前做好準備。
高教授認為：「解決之道在於公眾教育與執法相結合，有必要宣傳一些人們受到懲罰的真實案例。」他補充說：「AI產生的虛假內容造成的危害最終取決於人們如何使用這項技術，而不是技術本身。」
在面對自然災害和虛假資訊的雙重夾攻時，我們每個人也應該提高警惕，謹慎辨別信息來源，共同維護社會秩序和穩定。
本文改寫整理自公開新聞來源，原始報導由BBC中文發布。
常見問題 FAQ
AI偽造視頻的影響有哪些？
AI偽造視頻的影響包括引發大眾恐慌、干擾應急響應工作、破壞社會穩定等。
中國政府如何應對AI偽造視頻？
中國政府採取了一系列措施，包括打擊虛假報導和影片內容、加強網絡監管、提高公眾辨別能力等。
AI技術的發展對虛假資訊有何影響？
AI技術的發展降低了製造虛假資訊的門檻，使得虛假資訊的製造和傳播變得更加容易和迅速。
※ 此篇文章由 AI 改寫或生成，內容僅供參考，可能存在錯誤或不準確之處。
