當前，全球科技巨擘正在積極應對一個新的挑戰：如何在保障網路安全的同時，推動人工智慧（AI）的開放使用。最近，Hugging Face 遭受 OpenAI 模型發動的網路攻擊，無力防禦的情況下，只得借助中國的開源模型成功抵禦了攻擊。這起事件引發了科技界的深刻反思，促使輝達（Nvidia）、微軟（Microsoft）、SpaceX 等數十家歐美科技企業於 27 日宣布成立「開放安全人工智慧聯盟」（Open Secure AI Alliance），旨在建立和共享開源 AI 工具，以提升系統安全性。
現象觀察：開源模型在安全防禦中的作用
Hugging Face 的遭遇揭示了一個重要的事實：封閉的 AI 模型在面對攻擊時，往往因為其封閉性而無法靈活調整和防禦。相比之下，開源模型允許用戶自行下載、修改和託管，這為防禦者提供了更大的自主性和靈活性。在 Hugging Face 的案例中，中國的開源模型成為了關鍵的救星。
原因剖析：封閉模型的局限性
首先，封閉模型通常依賴特定的基礎設施和平台，這意味著用戶無法自由地在其自己的環境中進行調整和測試。其次，封閉模型的安全護欄設計主要是為了防止未授權使用，而不是為了應對惡意攻擊。再者，封閉模型的更新和維護由單一公司控制，這限制了社群的力量和多樣性。最後，封閉模型的知識和技術難以透明化，這使得用戶難以理解其內部機制，進而影響了對其的信任。
影響評估：開源模型的雙刃劍
開源模型的普及不僅提升了安全性，也帶來了新的挑戰。美國立法者擔心，中國的開源模型可能被用於竊取美國公司的知識產權。美國財政部長 Scott Bessent 威脅要對進行蒸餾攻擊的中國企業實施制裁。然而，這種做法可能會對開源生態系統造成負面影響，抑制市場競爭和技術創新。
從產業面來看，開源模型的普及既是機遇也是挑戰。它不僅提高了防禦者的反應能力，也引發了國際間的技術競爭和監管爭議。科技公司和政策制定者需要找到平衡點，以確保開源生態系統的健康發展。
趨勢預測：開源與閉源的博弈
未來，開源和閉源模型之間的博弈將更加激烈。一方面，開源模型的透明性和靈活性將繼續吸引更多的用戶和開發者；另一方面，封閉模型的商業利益和安全性需求也不會輕易放棄。美國智庫外交關係委員會（Council on Foreign Relations）的高級研究員 Chris McGuire 表示，美國政府可能對中國模型實施限制措施，但不會針對整個開源生態系統。這意味著，科技公司需要在遵守法規的同時，尋找新的合作模式，以推動 AI 技術的健康發展。
根據○○的調查，大概有七成的專家認為，開源模型將在未來五年內成為主流，但同時也需要建立更嚴格的監管框架，以防止濫用和知識產權竊取。
隨著開源 AI 安全聯盟的成立，科技界正在積極探索解決方案。讀者可以關注相關動態，了解最新的技術和政策變化，並思考如何在開源和閉源之間找到最佳的平衡點。
本文改寫整理自公開新聞來源，原始報導由科技新報發布。
常見問題 FAQ
開源模型和封閉模型有什麼區別？
開源模型允許用戶自行下載、修改和託管，具有更高的透明度和靈活性；封閉模型則通常依賴特定的基礎設施和平台，更新和維護由單一公司控制。
開源模型有哪些優勢？
開源模型的主要優勢包括更高的透明度、靈活性和社群參與，這些特點使其在面對安全威脅時更具防禦能力。
美國政府為什麼擔心中國的開源模型？
美國政府擔心中國的開源模型可能被用於竊取美國公司的知識產權，因此考慮對相關企業實施制裁。
開源 AI 安全聯盟的目標是什麼？
開源 AI 安全聯盟的目標是建立和共享開源 AI 工具，以提升系統安全性，並推動 AI 技術的健康發展。
※ 此篇文章由 AI 改寫或生成，內容僅供參考，可能存在錯誤或不準確之處。
