研究顧問機構Gartner於今日（30日）發布最新警告指出，儘管人工智慧（AI）推論代幣的單位價格預計將大幅下滑，但由於AI應用模式的根本性轉變，企業在AI方面的總體支出負擔恐將持續攀升，甚至呈現不減反增的趨勢。此項預測促使企業必須重新審視其AI策略，以避免未來在代理導向的AI擴展階段面臨發展限制。
AI推論代幣單位成本驟降：效率提升的驅動力
根據Gartner的最新預測，AI推論代幣的單位成本將迎來顯著下降。具體而言，到2030年，一個具備一兆參數的大型語言模型（LLM）的推論費用，相較於2025年預計將下降超過90%。同時，相同規模模型的效率預計可提高達百倍之多。
Gartner高級總監分析師Will Sommer對此表示，這項卓越的成本效益提升，主要歸因於多方面的技術進步與策略優化：
- 半導體與基礎設施效率的持續改進
- 模型設計的創新突破
- 晶片利用率的顯著提高
- 推論專用半導體的擴展部署
- 邊緣裝置的廣泛應用
這些因素共同作用，使得單次AI推論的硬體與軟體成本得以大幅降低，為AI技術的普及奠定基礎。
AI代理普及化：總體成本不減反增的隱憂
然而，Gartner強調，單一AI推論代幣單位價格的下跌，並不直接等同於企業AI總成本的降低。核心原因在於AI代理（agent）的普及，正在深刻重塑企業的整體支出結構。目前，每項任務的AI代幣使用量已比過去增加5到30倍。這意味著，儘管單位成本下降，但總體使用量的激增可能導致企業的推論費用總額反而上升。
分析師Sommer進一步指出：「基本的AI功能正朝向幾乎零成本的方向發展，但用於進階推論（advanced reasoning）的運算資源和系統仍然有限。企業不應將架構上的效率不足，誤解為通用代幣價格下跌就代表進階推論能力普及。」
若企業僅依賴便宜的代幣成本來掩蓋系統架構的缺陷，未來在代理導向的AI擴展階段恐將面臨發展限制，無法有效支撐更複雜、更高價值的AI應用。
Gartner建議：多模型協作策略擘劃未來競爭力
面對AI成本結構的複雜變化，Gartner建議企業應積極採行「多模型協作」（multi-model orchestration）策略，而非單一模型依賴。未來的AI競爭力將取決於如何智慧地管理與協調多種AI模型。
具體而言，企業應採行一種分層架構，將重複性且簡單的任務分配給小型或特定領域模型處理，這類模型通常成本較低且效率高。而高成本、高效能的模型則應選擇性地僅用於複雜且高附加價值的工作，例如進階決策或創新研發。透過這種精細化的模型分配策略，企業將能同時實現成本效益與性能表現的最佳化，確保AI投資能帶來實質的商業價值。
展望與影響
Gartner的警示揭示了AI技術發展中的一個關鍵悖論：單點效率的提升，不必然帶來整體效益的改善。對於企業而言，這意味著AI戰略不能僅停留在技術層面，更需上升到組織架構與資源配置的策略高度。未來，那些能夠有效整合、協調不同AI模型，並精準分配運算資源的企業，將在激烈的市場競爭中佔據優勢，真正將AI轉化為推動成長的核心動能。
