全球網路資安大廠趨勢科技近日宣布，將與AI晶片龍頭NVIDIA擴大合作，共同強化NVIDIA在GTC大會上發布的開源代理式AI執行環境「NVIDIA OpenShell」的資安防護。隨著代理式AI生態系統的快速演進，此舉旨在將安全性直接嵌入其核心架構，以應對這類自主AI系統所帶來的全新風險面貌。
【事實陳述：代理式AI資安新紀元】
此次趨勢科技與NVIDIA的合作，核心目標是為NVIDIA OpenShell提供更強大的資安能力。NVIDIA OpenShell作為一個開源的執行環境，專為支援具備長期運行與自我進化能力的代理式AI代理程式所設計。這種新型態的AI應用雖然能顯著提升生產力，卻也同時引入了不同於傳統AI的資安挑戰，例如未經授權的存取、隱藏行為、惡意提示詞注入，以及非預期的系統存取等風險。有別於傳統AI資安模型主要針對短暫的使用者與模型互動而設計，代理式AI的持續運作與跨環境互動能力，徹底改變了資安的應對模式。
【各方反應：共築AI安全防線】
對於這項合作，趨勢科技企業事業群營運長金敬秀明確指出：「代理式AI正在改變資安的公式。當AI系統能夠自我規劃、採取行動並與其他工具互動時，其風險特徵將與傳統AI截然不同。」他進一步表示，透過與NVIDIA的合作，將安全直接嵌入核心架構，將能幫助企業在採用代理式AI時，擁有期望中的可視性與控制力。
NVIDIA策略性企業合作夥伴副總裁Pat Lee也強調，代理式AI開闢了能夠自我規劃、推理與執行的新應用。他認為，透過與趨勢科技的合作，能有效幫助開發者引入必要的可視性與管控機制，從而讓自主AI的運行變得更加安全可靠。
【背景補充：代理式AI的潛在風險與全面布局】
代理式AI的本質，在於其能夠像數位助理般，自主地規劃任務、執行行動，並與多個工具或系統互動，這使其具備了高度的自主性與適應性。然而，正是這些特性，讓其資安風險遠超傳統AI模型。舉例來說，一個惡意的提示詞注入，可能導致代理程式執行非預期的操作，甚至存取敏感資料，這對企業來說是極大的潛在威脅。為了應對這些複雜的挑戰，本次合作不僅聚焦於NVIDIA OpenShell，更將其涵蓋範圍擴展至NVIDIA AI Q藍圖與NVIDIA NeMo Agent Toolkit。這樣的全面布局，旨在確保在企業環境中擴展的代理式系統，都能具備一致性的安全性、完善的治理能力與全面的可觀測性，為企業部署自主AI應用奠定穩固的基礎。
