根據研究顧問機構 Gartner 近期發布的最新警告指出，儘管人工智慧（AI）推論代幣的單位價格預計將出現大幅下滑，但由於 AI 應用模式的根本性轉變，企業在 AI 方面的整體支出負擔恐將持續存在，甚至不減反增，此一趨勢值得各界高度關注。這項分析揭示了 AI 技術發展進程中，成本效益與實際應用之間存在的複雜動態。
AI 推論成本巨幅下滑：效率與技術躍進
數據顯示，AI 推論代幣的單位成本正迎來前所未有的下降。Gartner 預計，到 2030 年，一個擁有萬億參數的大型語言模型（LLM）的推論費用，相較於 2025 年將下降超過 90%。與此同時，相同規模模型的運作效率預計可提升達百倍之多。Gartner 高級總監分析師 Will Sommer 對此表示，這項顯著的成本效益提升，主要歸因於多方面的技術進步：
- 半導體與基礎設施效率的持續改進
- 模型設計上的創新突破
- 晶片利用率的顯著提高
- 推論專用半導體的擴展應用
- 邊緣裝置的廣泛部署
「這項成本效益的提升主要歸因於半導體與基礎設施效率的改進、模型設計的創新、晶片利用率的提高，以及推論專用半導體的擴展和邊緣裝置的廣泛應用。」Gartner 高級總監分析師 Will Sommer 指出，基礎 AI 功能正朝向幾乎零成本的方向發展。
AI 代理普及化：總體成本不降反升的關鍵
然而，單一 AI 代幣單位價格的下跌，並不直接等同於企業 AI 總成本的降低，這正是此波 AI 發展的弔詭之處。Gartner 強調，核心原因是 AI 代理（agent）的普及化正在重塑企業的整體支出結構。目前，每項任務的 AI 代幣使用量已比過去增加 5 到 30 倍。這意味著，即使單位成本大幅下降，但總體使用量的激增，仍可能導致企業的推論費用總額不減反增。
Gartner 強調：「單一 AI 代幣單位價格的下跌，並不直接等同於企業 AI 總成本的降低。」
此現象猶如水電費率降低，但因家中電器數量與使用時間大幅增加，導致總電費反而更高。企業在享受單位成本降低的同時，必須正視 AI 應用廣度與深度帶來的總量挑戰。
進階推論挑戰與多模型協作策略
分析師 Sommer 進一步警示，雖然基本的 AI 功能成本趨近於零，但用於進階推論（advanced reasoning）的運算資源和系統仍然有限且成本較高。他提醒企業不應將架構上的效率不足，誤解為通用代幣價格下跌就代表進階推論能力普及。若企業僅依賴便宜的代幣成本來掩蓋系統架構的缺陷，未來在代理導向的 AI 擴展階段恐將面臨發展限制。
Will Sommer 警示：「企業不應將架構上的效率不足，誤解為通用代幣價格下跌就代表進階推論能力普及。」
為此，Gartner 建議未來的 AI 競爭力將取決於「多模型協作」（multi-model orchestration）策略，而非單一模型。企業應採行一種分層架構，將重複性且簡單的任務分配給小型或特定領域模型處理，而高成本、高效能的模型則應選擇性地僅用於複雜且高附加價值的工作，以同時實現成本效益與性能表現。
數據背後的啟示：企業 AI 佈局新思維
Gartner 的最新報告為企業在規劃 AI 策略時，提供了關鍵的洞察與方向。面對 AI 推論代幣單價降低與總體成本上升的矛盾，企業必須從單純追求成本效益，轉向更為精細且策略性的「多模型協作」模式。這不僅關乎技術選用，更涉及資源配置與商業價值的最大化。唯有透過智慧的分層架構，企業方能有效管理 AI 支出，並在競爭激烈的市場中，真正釋放人工智慧的潛力。
