面對中國開放權重模型（open-weights models）的快速崛起，Anthropic 執行長阿莫迪（Dario Amodei）近日發表長文，回應美國政府和科技界的熱烈討論。在這篇文章中，阿莫迪明確表態，強調 Anthropic 並未主張禁止開放權重模型，而是提出了三項具體的政策建議，以應對潛在的威脅。
Anthropic 的立場
阿莫迪指出，近期有許多科技公司聯名簽署了一封公開信，呼籲政策制定者不要過早限制開放權重模型。然而，這也引發了一些誤解，認為 Anthropic 想要通過禁令保護自己的商業利益。阿莫迪強調，「任何讀過我過去文章的人都應該知道，我不認為這類禁令是一項有用的措施。」
他進一步表示，「容我在此清楚聲明，以免有任何疑慮：Anthropic 從未主張禁止開放權重模型。」阿莫迪認為，開放權重模型本身是一項公共財，能夠為各企業、開發者及研究人員帶來價值，而不需要支付額外的成本。
開放權重模型的雙刃劍
阿莫迪在文章中重申了他在 6 個月前發表的〈科技的青春期〉一文中提到的兩個主要擔憂：一是威權政府可能會利用強大的模型來建立軍事優勢或進行深度鎮壓，尤其是中國共產黨；二是強大的模型可能被濫用，造成網路攻擊或生物攻擊，存在嚴重的對齊問題。
阿莫迪認為，開放權重模型的風險可能比閉源模型更高，尤其是在管理不當的情況下。他舉例說明，強大的模型可能利用廣泛獲取的材料，迅速將大流行等級的病毒武器化，而防禦這樣的威脅可能需要數年的時間。
三項政策建議
為了應對這些威脅，阿莫迪提出以下三項具體措施：
- 不向中國銷售強大的晶片或晶片製造設備，並嚴厲打擊走私和變通手法，以阻擋中國的技術進步。
- 嚴厲打擊工業規模的「蒸餾」行動，防止中國通過這種方式縮小與美國的技術差距。
- 所有能力足夠強大的模型，無論開源或閉源，都應進行強制性的安全測試，以確保其不會被用於有害目的。
阿莫迪指出，公開信中的某些觀點，例如開放權重模型更容易開發安全措施，或廣泛獲取能力有利於防禦者而非攻擊者，可能是錯誤的。他強調，這些模型的風險需要通過嚴格的測試來驗證。
從產業面來看，中國在 AI 領域的快速崛起，確實對全球科技格局造成了影響。阿莫迪的三項建議不僅是對中國的防堵，更是對全球科技發展的一種警示。在這個過程中，如何平衡創新與安全，是每一個國家和企業都需要思考的問題。
行動呼籲
面對中國開放權重模型的挑戰，每一個科技從業者和政策制定者都應該保持警惕。阿莫迪的建議不僅提供了具體的解決方案，也提醒我們，科技的發展必須伴隨負責任的管理。如果你對此議題有興趣，不妨深入研究相关政策，並在你的工作或社區中推動更加透明和負責任的科技應用。
本文改寫整理自公開新聞來源，原始報導由科技新報發布。
常見問題 FAQ
什麼是開放權重模型？
開放權重模型是指模型的訓練參數（權重）公開給所有人使用，而不是像閉源模型那樣只提供使用接口。
為什麼中國的開放權重模型引起關注？
中國的開放權重模型因其快速發展和廣泛應用，引發了國際間对其真实用途和潛在威脅的關注，特別是在軍事和政治層面。
Anthropic 提出的三項政策建議是什麼？
Anthropic 執行長阿莫迪提出的三項政策建議包括：1. 不向中國銷售強大的晶片或晶片製造設備；2. 嚴厲打擊工業規模的「蒸餾」行動；3. 所有能力足夠強大的模型都應進行強制性的安全測試。
※ 此篇文章由 AI 改寫或生成，內容僅供參考，可能存在錯誤或不準確之處。
