根據輝達（Nvidia）最新發布的聲明，科技巨頭們正在積極應對 AI 安全挑戰。在近期 Hugging Face 遭遇 OpenAI 模型發動的網路攻擊事件後，輝達與微軟（Microsoft）、SpaceX 等數十家歐美科技企業於 27 日聯手推出了「開放安全人工智慧聯盟」（Open Secure AI Alliance），旨在推動開源 AI 工具的開發與共享。
Hugging Face 事件：封閉模型的缺陷
在 Hugging Face 事件中，該公司無法治安其系統，因為美國領先的封閉 AI 模型無法區分攻擊者與防禦者。最終，Hugging Face 轉而採用一款不受上述限制的中國開源 AI 模型，成功阻擋了攻擊。這一事件揭示了封閉模型在安全防禦方面的局限性。
根據輝達的聲明，Hugging Face 的安全事件傳達了一個明確的警示：網路防禦者需要具備開源且領先的代理系統（agentic systems）來進行自我防禦。
開放安全人工智慧聯盟：推動開源技術
為了因應這類挑戰，「開放安全人工智慧聯盟」將致力於利用開源技術來修補及披露系統漏洞。輝達強調，開源模型允許使用者下載、修改並自行託管，因此當防禦者無法在自己的基礎設施上檢查、調整並運行先進 AI 時，他們的反應能力會在關鍵時刻受到極大限制。
相較於必須透過特定基礎設施才能存取的封閉模型（如 Anthropic 和 OpenAI 所建立的系統），開源模型提供了更大的靈活性和安全性。
美國立法者的關注：限制中國 AI 模型
這項倡議推出的同時，美國立法者正日益關注如何遏制中國 AI 模型的廣泛應用。許多最先進的開源權重模型正是由中國公司所開發，這些公司被指控對美國競爭對手進行蒸餾活動，即從訓練得更好的美國系統中提取知識與資訊。上週，美國財政部長 Scott Bessent 威脅要對進行這類蒸餾攻擊的中國企業實施制裁。
美國智庫外交關係委員會（Council on Foreign Relations）的高級研究員 Chris McGuire 指出，美國政府有可能對中國模型實施限制措施，包括禁止涉及這些模型的交易。
科技界的呼籲：避免過早限制
然而，由於多數功能最強大的開源模型目前由中國公司建構，科技界對潛在的限制政策感到擔憂。上週，輝達、微軟、Meta 等超過 20 家公司共同發表了一封聯名信，強烈敦促政策制定者應避免對開源權重 AI 模型實施過早的限制，以免扼殺市場競爭或迫使創新技術流向海外。
科技界呼籲政策制定者在制訂政策時，應考慮到開源生態系統的長期利益和全球競爭格局。
數據背後的啟示
「開放安全人工智慧聯盟」的成立，反映了科技巨頭們對於 AI 安全和開放性的重視。開源模型不僅提供了更高的靈活性和安全性，還能促進技術的透明度和創新。然而，美國立法者和科技界的分歧也凸顯了在 AI 監管方面需要找到平衡點，以確保技術的健康發展。
行動呼籲
面對日趨複雜的 AI 安全挑戰，我們每個人都可以扮演重要的角色。您可以支持開源項目，參與相關討論，或向政策制定者表達您的看法。只有通過集體努力，才能實現更加安全和開放的 AI 生態系統。
本文改寫整理自公開新聞來源，原始報導由科技新報發布。
常見問題 FAQ
開放安全人工智慧聯盟的主要目標是什麼？
開放安全人工智慧聯盟的主要目標是推動開源 AI 工具的開發與共享，以提高 AI 安全性和透明度。
為什麼 Hugging Face 需要轉用中國開源 AI 模型？
Hugging Face 轉用中國開源 AI 模型的原因是，封閉模型的安全護欄無法區分攻擊者與防禦者，而開源模型提供了更大的靈活度和安全性。
美國政府可能會對中國 AI 模型採取哪些限制措施？
美國政府可能會採取的限制措施包括禁止涉及中國 AI 模型的交易，例如禁止透過 API 購買詞元或禁止美國企業在雲端託管該模型。
※ 此篇文章由 AI 改寫或生成，內容僅供參考，可能存在錯誤或不準確之處。
