全球網路資安領導廠商趨勢科技近日宣布，將與AI巨擘NVIDIA擴大合作，共同支援NVIDIA在GTC大會上最新發布的開源代理式AI執行環境「NVIDIA OpenShell」。這項合作旨在因應代理式AI系統所帶來的獨特資安挑戰，透過將安全機制直接嵌入核心架構，為企業採用自主AI提供所需的可視性與控制力，確保AI生態系統在持續演進的同時，資安防護能力也能同步提升。
代理式AI新範式：風險特徵的根本轉變
數據發現：傳統AI資安模型主要針對短暫的使用者與模型互動情境設計，但代理式AI的出現，徹底顛覆了這一模式。NVIDIA OpenShell作為一個開源執行環境，支援能夠長期運行並具備自我進化能力的AI代理。這類AI系統不僅能自我規劃、採取行動，甚至能與其他工具互動，其運作模式與傳統AI有顯著差異。
解讀意義：趨勢科技企業事業群營運長金敬秀明確指出，代理式AI正重新定義資安的方程式。當AI具備高度自主性與互動能力時，其風險特徵將與過去大相徑庭。這意味著傳統的資安防禦策略可能不足以應對，必須從根本上思考新的防護機制。
產業影響：儘管代理式AI能顯著提升生產力，卻也引入了一系列前所未見的新風險。這些風險包括但不限於：
- 未授權存取：AI代理可能在未經允許的情況下，存取敏感資料或系統。
- 隱藏行為：AI代理的自主運作可能產生難以追蹤或預測的行為。
- 提示詞注入：惡意提示詞可能被用於操控AI代理，使其執行非預期任務。
- 非預期系統存取：AI代理可能在執行任務時，意外地取得或影響其他系統。
金敬秀表示：「代理式AI正在改變資安的公式。當AI系統能夠自我規劃、採取行動並與其他工具互動時，其風險特徵將與傳統AI截然不同。與NVIDIA的合作，將安全直接嵌入核心架構，幫助企業以所期望的可視性與控制力來採用代理式AI。」
內建安全架構：趨勢科技與NVIDIA的合作策略
數據發現：為有效應對代理式AI的獨特挑戰，NVIDIA與趨勢科技選擇了一條前瞻性的道路：將資安防護直接整合進AI的核心架構中。這項策略性的合作，不僅止於NVIDIA OpenShell，更擴展至NVIDIA AI Q藍圖與NVIDIA NeMo Agent Toolkit，展現了全面性的資安佈局。
解讀意義：NVIDIA策略性企業合作夥伴副總裁Pat Lee強調，代理式AI開闢了能夠自我規劃、推理與執行的新應用領域。然而，若缺乏適當的安全機制，這些創新便難以在企業環境中安全落地。透過與趨勢科技的合作，開發者將能獲得必要的工具，引入可視性與管控機制，從而確保自主AI的運行更加安全可靠。
產業影響：這項合作旨在確保在企業環境中擴展的代理式系統，能具備一致的安全性、治理能力與可觀測性。這對於企業大規模部署代理式AI至關重要，因為它提供了一個標準化的安全框架，降低了潛在的資安風險與合規性挑戰。具體而言，合作將著重於以下幾個關鍵面向：
- 一致性安全性：確保所有代理式系統在不同部署環境下都擁有統一的安全標準。
- 完善治理能力：建立明確的規範與流程，管理AI代理的行為與決策。
- 強化可觀測性：提供工具讓管理者能即時監控AI代理的運作狀態與潛在風險。
NVIDIA策略性企業合作夥伴副總裁Pat Lee則提到：「代理式AI開闢了能夠自我規劃、推理與執行的新應用，透過與趨勢科技的合作，能幫助開發者引入可視性與管控機制，讓自主AI的運行變得更加安全。」
數據背後的啟示：資安前置，賦能AI創新
此次趨勢科技與NVIDIA的合作，不僅是兩大科技巨頭的策略聯盟，更為AI產業樹立了一個重要典範：資安防護必須從AI系統設計之初就納入考量，而非事後補救。隨著代理式AI技術的日益成熟與廣泛應用，其在各產業的潛力不容小覷，從智慧製造到金融服務，都能見到其身影。然而，若無堅實的資安基礎，這些創新便可能成為企業的隱憂。透過「內建安全」的新架構，開發者和企業將能以更負責任、更安全的方式擁抱代理式AI的巨大潛力，加速數位轉型，同時有效管理伴隨而來的風險。
