Anthropic 執行長反擊:開源 AI 對抗威權政體才是關鍵

近日,美國政府傳出正考慮禁止國內企業使用特定國家的開源 AI 模型,這一消息在科技界引發巨大波動。許多業界人士…

11 分鐘

Read Time

近日,美國政府傳出正考慮禁止國內企業使用特定國家的開源 AI 模型,這一消息在科技界引發巨大波動。許多業界人士和競爭對手質疑,Anthropic 是否在背後推動這項政策,試圖通過行政手段打壓開源競爭對手。然而, Anthropic 聯合創辦人兼執行長達里奧·阿莫代伊(Dario Amodei)在公開文章中強烈否認了這些指控,並提出了一系列具體的監管建議。

開源 AI 模型的真實威脅

阿莫代伊明確表示,Anthropic 從未提議或主張全面禁止開源模型,並強調開源模型是推動全球科技發展、降低部署成本的重要公共產品。他認為,保護主義性質的全面禁令不僅無法解決國家安全隱患,反而可能淪為少數企業壟斷市場的政治工具。

他指出,最深層的國家安全危險在於威權政體可能暗中訓練出超越美國及其盟友的極致 AI 系統,並藉此取得軍事優勢或極端深化內部監控。這種情況下,模型是否向大眾公開原始碼與權重,或者美國企業是否使用這些模型,根本不是影響風險的關鍵因素。

模型開放與國安威脅的交鋒

阿莫代伊進一步分析了開源模型治理的複雜爭議,指出真正的威脅來自於那些躲避國際監管、專供軍方與情報機構使用的秘密閉源模型。他強調,強大 AI 模型被惡意人士用於發起大規模網路攻擊或輔助生物武器開發,是另一項急需預防的重大危機。

他指出,開源模型因缺乏持續的安全防護手段,一旦釋出便無法即時回收與修正,確實在安全防護上面臨較高的監管挑戰。然而,單純禁止合規的本土企業使用開源模型,無法阻擋地下非合規參與者獲取與惡意利用,因此這種一刀切的禁令對降低實際安全威脅毫無實質幫助。

Anthropic 提出的具體監管主張

為了讓全球 AI 安全治理重回理性且客觀的軌道,阿莫代伊提出了三點具體且可執行的政策建議:

  • 嚴格限制關鍵算力流向潛在威脅方:監管機構必須持續對高性能晶片與先進半導體製造設備的出口實施嚴格管制,同時加大對非法走私與第三方代工行為的打擊力度。
  • 打擊跨國界大規模「模型蒸餾」侵權行為:政府與司法機構應建立更清晰的法律規範與商業懲戒機制,嚴懲濫用條款規避算力封鎖與智慧財產權的違規行為。
  • 推行全面且強制的全國/全球 pre-release 安全測試:所有高能力強度的先進 AI 模型,無論採用開源還是閉源架構,在正式公開或交付使用前,都必須通過發布前安全測試評估,涵蓋網路安全防禦能力、生物安全風險檢驗以及模型對齊風險。

從產業面來看,開源與閉源之間的商業利益衝突並非單純的市佔率之爭,而是涉及國家安全與全球秩序的複雜博弈。阿莫代伊的建議提供了一條兼具可行性與安全防護的出路,值得政策制定者和產業夥伴深入思考。

行動呼籲

隨著 AI 技術的快速發展,開源模型所代表的技術民主化與潛在安全威脅之間的拉鋸成為全球科技政策的核心話題。阿莫代伊的發聲不僅擊碎了 Anthropic 利用政府行政力量打壓開源生態的傳聞,更為陷入僵局的開源閉源大戰提供了新的思路。讀者們,面對這場複雜的博弈,你認為應該如何在確保科技創新與國家安全之間找到平衡點?

本文改寫整理自公開新聞來源,原始報導由T客邦發布。

常見問題 FAQ

美國政府為什麼考慮禁止使用特定國家的開源 AI 模型?

美國政府考慮禁止使用特定國家的開源 AI 模型,主要是為了防止這些模型被用於威脅國家安全的目的,例如軍事優勢或内部監控。

Anthropic 是否支持全面禁止開源 AI 模型?

Anthropic 不支持全面禁止開源 AI 模型。公司聯合創辦人兼執行長達里奧·阿莫代伊明確表示,開源模型是推動全球科技發展的重要公共產品。

Anthropic 提出了哪些具體監管建議?

Anthropic 提出了三點具體監管建議:嚴格限制關鍵算力流向潛在威脅方、打擊跨國界大規模「模型蒸餾」侵權行為、推行全面且強制的全國/全球 pre-release 安全測試。

※ 此篇文章由 AI 改寫或生成,內容僅供參考,可能存在錯誤或不準確之處。

About the Author

AF themes

Easy WordPress Websites Builder: Versatile Demos for Blogs, News, eCommerce and More – One-Click Import, No Coding! 1000+ Ready-made Templates for Stunning Newspaper, Magazine, Blog, and Publishing Websites.

BlockSpare — News, Magazine and Blog Addons for (Gutenberg) Block Editor

Search the Archives

Access over the years of investigative journalism and breaking reports