亞馬遜如何以自家模型取代 Anthropic 模型,降低成本 40%?

關鍵數字:亞馬遜计划通过自家模型取代Anthropic Claude,预计可将AI運算成本降低40%。

亞馬遜的AI轉型戰略

亞馬遜正在進行一場AI架構的大轉型,以期降低營運成本。根據 Business Insider 取得的文件,亞馬遜正逐步減少對 Anthropic Claude 模型的依賴,轉而使用自家的AI模型處理請求。這一策略旨在通過快取技術和更“確定”的回應機制,減少不必要的推理運算,從而提高GPU使用效率。

文件顯示,亞馬遜計劃在不大幅增加硬件投資的情況下,提升每顆GPU的使用效率。具體目標是使Alexa+的可用運算容量提升約50%,回應時間縮短約40%。這些措施的目的是在現有計算資源下處理更多的客戶請求,進而降低整體運營成本。

雲端成本的挑戰

亞馬遜的AI雲端成本問題日益嚴重。根據文件,Alexa+ 的AWS雲端成本今年可能達約17億美元,幾乎是前一年的三倍,並且超出亞馬遜設定的每月活躍用戶雲端成本目標約60%。即使已經找到約4.5億美元的潛在節省空間,但評估認為要達成財務目標仍然困難重重。

這種情況主要由於Alexa+的早期版本大量依賴GPU密集型雲端服務的大型語言模型,使得原本成本較低的語音查詢變成了昂貴的AI負載。隨著美國市場的擴大上線,亞馬遜面臨的算力與支出壓力同步升高,甚至考慮延遲部分最昂貴的AI計劃,如Alexa進階代理核心的Project Moonraker。

模型轉型的背後邏輯

亞馬遜的這一轉型反映了AI產業競爭焦點的轉變,從追求模型的“聰明”轉向追求模型的“便宜”。文件顯示,亞馬遜正在嘗試縮小Claude模型在Alexa+中的使用範圍,並將部分專門的Alexa“Experts”從Claude Sonnet轉至自家模型。在適合的情況下,直接使用快取回應,不再呼叫Claude。

這一策略不仅有助于降低運營成本,还能够提升系统的响应速度和用户体验。亚馬遜也在评估Nvidia GPU与自家Trainium芯片哪个能提供更低的运算成本。

從產業面來看,亞馬遜的這一轉型策略反映了AI產業的一個重要趨勢:隨著技術的成熟,成本控制成為企業競爭的關鍵因素。亞馬遜通過自家模型的优化和快取技术的应用,不仅能够降低运营成本,还能提升用户体验,从而在激烈的市场竞争中占据优势。

未來展望

亞馬遜的這一轉型策略將對其AI業務產生長期影響。通過自家模型的優化和快取技術的應用,亞馬遜有望在降低成本的同時,提升系統的響應速度和用戶體驗。這將有助於亞馬遜在激烈的市場競爭中佔據優勢。

然而,這一轉型也面臨著技術和市場的雙重挑戰。亞馬遜需要不斷優化自家模型的性能,以確保其能夠滿足用戶的需求。同時,市場對AI技術的需求不斷變化,亞馬遜需要保持靈活性,適應市場的新需求。

行動呼籲

亞馬遜的AI轉型策略為其他企業提供了借鑒。如果你也在考慮如何優化AI模型的成本和性能,不妨參考亞馬遜的經驗。歡迎在評論區分享你的看法,或者提出你對AI成本控制的建議。

本文改寫整理自公開新聞來源,原始報導由科技新報發布。

常見問題 FAQ

亞馬遜為什麼要轉向自家模型?

亞馬遜轉向自家模型的主要原因是為了降低運營成本,提高GPU使用效率,並提升系統的響應速度和用戶體驗。

轉型後的Alexa+有哪些改進?

轉型後的Alexa+預計可以提升可用運算容量約50%,縮短回應時間約40%,從而降低整體運營成本。

亞馬遜的雲端成本問題有多嚴重?

根據文件,Alexa+的AWS雲端成本今年可能達約17億美元,幾乎是前一年的三倍,超出亞馬遜設定的每月活躍用戶雲端成本目標約60%。

※ 此篇文章由 AI 改寫或生成,內容僅供參考,可能存在錯誤或不準確之處。