根據近期產業前線消息,輝達下一代旗艦晶片Rubin Ultra的記憶體配置,正在進行一場引人注目的「降規格測試」。原先市場熱烈期待它能搭載高達1 TB的頂級高頻寬記憶體HBM4E,但如今測試版本已下修至最低192 GB,甚至比現行Vera Rubin的288 GB還要少。這不是輝達第一次在記憶體上做出妥協,先前Vera CPU的總記憶體容量也從54 TB降至28 TB。說穿了,全世界的AI巨頭都在瘋搶記憶體,供應商實在交不出那麼多頂級貨。
記憶體缺貨早已不是新聞,但輝達官方的一句聲明,洩露了他們真正的戰略意圖:「我們正持續優化運算、網路和記憶體的組合,為客戶提供最佳的效能和效率。」這句話拆開來看,其實藏著兩個關鍵訊息:第一,產能瓶頸是現實,硬撐只會讓出貨量卡死;第二,輝達從來不只在賣單顆晶片,他們賣的是一整個運算生態系的解決方案。
一場現實的產能算術題:記憶體總量不變,晶片數量暴增五倍
輝達的決策背後,其實是非常冷硬的數學。HBM4E的產能到了2027年依然極度緊繃,如果每顆晶片都硬塞滿1 TB記憶體,全球有限的記憶體供應量只能生產出極少數的頂級晶片。但把單張晶片記憶體下修到192 GB,同樣的記憶體總量就能產出約五倍數量的晶片。
對微軟、Meta這些終極大戶來說,當下最缺的顯然不是幾顆「滿血頂配」的展示品,而是能立即上線撐起算力叢林的設備。能拿到更多台「稍微瘦身」的晶片,遠比抱著少數幾台「超重量級」的機器卻無貨可交,來得實際得多。從產業動態來看,目前的低容量設定很可能只是2027年初缺貨高峰期前的應急之舉。不少分析師預測,一旦三星、SK海力士的記憶體產能順利提升,高容量版本還是很有機會回歸,市場不必急著把暫時的測試方案當作永久規格。
【編輯觀點】 很多人第一時間看到「降規格」三個字,直覺反應是輝達是不是踢到鐵板了?但從另一個角度來看,這反而是黃仁勳下得非常精明的一步棋。你想,記憶體現在占AI伺服器機櫃成本的25%到30%,在某些晶片組中甚至高達60%。如果輝達乖乖照著市場劇本走,把最貴的HBM全部塞好塞滿,等於是把客戶的預算直接送進SK海力士、三星與美光的口袋。現在透過降規格、改架構,輝達把利潤的主動權重新抓回自己手裡,毛利率保住了,出貨量衝上去了,還順便把比賽規則從「單卡對決」升級成「系統級戰爭」——這哪裡是妥協,這根本是規則改寫。
記憶體縮水沒在怕:NVLink串起576顆晶片,軟體眼裡是一顆超級大晶片
一個很直接的疑問是:單張晶片記憶體變小,還跑得動現代最吃資源的大型語言模型嗎?答案在於,大模型本來就不是靠單一晶片在撐。這裡才是輝達真正展露技術護城河的地方。當單卡容量縮水,把大量晶片高效率串聯起來的「機櫃級網路」就成為關鍵解方。
Rubin Ultra透過輝達專屬的高速互連技術NVLink,將576顆晶片串成一個運算整體,在軟體層面看起來就像一顆超級大晶片。單卡只有192 GB又如何?串聯起來就能共享超過100 TB的記憶體池。而且,少堆幾層記憶體,發熱與耗電也跟著降,這在單櫃動輒數百千瓦功率的現代機房裡,同樣是一大福音。
更關鍵的是,記憶體縮水對不同工作階段的衝擊其實差異很大。AI運作可以粗略分成兩個階段:「理解問題」階段需要大量運算,對記憶體容量依賴較低;而「生成回答」階段,因為要處理超長文章和複雜對話,必須在記憶體裡維護大量上下文暫存資料,這時就很吃記憶體容量。輝達的做法是把任務分層,配給不同等級的記憶體。理解問題靠算力,用不到最貴的記憶體,所以輝達另外設計了一款晶片Rubin CPX,改用便宜得多的一般記憶體。生成回答時暴增的暫存資料,則往下丟到新一層的快閃記憶體暫放。從晶片、網路到儲存重新分工,這正是輝達口中「優化組合」的具體實踐。
守護毛利率的財務暗線:不讓利潤流進記憶體三巨頭口袋
除了提升系統效率,這套優化策略還順手解決了輝達內部的財務隱憂。回看前幾代產品,記憶體占整體硬體成本的比例其實不高。但隨著高頻寬記憶體規格越拉越高,價格也被炒上天,到了Vera Rubin這一代,記憶體成本已經占了整台伺服器機櫃的25%到30%。在某些AI晶片組中,高頻寬記憶體甚至占據高達60%的成本。
如果輝達堅持每顆晶片都塞滿最貴的HBM,意味著客戶買設備的錢,很大一部分會直接流進SK海力士、三星與美光這些記憶體廠商的口袋,輝達自己能賺到的利潤空間將被嚴重壓縮。因此,透過降低單卡高頻寬記憶體的用量,改用成本較低的記憶體來分擔任務,輝達成功壓低了記憶體採購金額,在交付更多設備的同時,順手保護了自己的毛利率,把更多利潤留在晶片與軟體等自有技術上。
但這不代表記憶體廠商會因此受害。因為輝達用同樣的記憶體總量造出了更多晶片,整體市場對記憶體的總需求依然在成長。記憶體的結構性短缺預計將持續到2027年,定價權仍在供應商手中。只是市場預期需要調整:過去那種「所有頂級晶片都會裝滿最高階記憶體」的過度樂觀模型必須修正,未來中階配置的產品占比會明顯提高。記憶體大廠們依然能享受缺貨紅利,只是成長曲線會比最激進的預測稍微平緩一點罷了。
超微的兩難:不跟進就被困在單卡框架,跟進了卻得在別人的主場打仗
理解了這個邏輯,就能明白為什麼超微(AMD)最近也在全力推進自家的整機櫃方案,把72顆晶片整合在同一個機櫃架構裡。如果AI晶片的競爭只停留在「單張晶片」的規格比拚——比誰的運算速度快、誰的記憶體大——超微完全有能力在規格表上與輝達平起平坐。
然而輝達藉由記憶體瓶頸,巧妙地把比賽規則改寫了。現在客戶採購時,看的是機櫃層級的整體運算效率。當單張晶片的記憶體變小,晶片之間的溝通效率就成了決定勝負的關鍵。如果超微只賣單張晶片,讓客戶拿傳統網路線自己拼湊,整體運作效率就會被輝達的整合生態遠遠甩在後頭。加上輝達軟體生態系CUDA原本就對多晶片串聯與記憶體管理做過大量優化,硬體規格變動時軟體也能幫忙緩衝,這對軟體生態相對弱勢的競爭對手來說壓力更是倍增。
所以超微必須跨足機櫃設計,去攻克晶片串聯這塊硬骨頭。在今天的AI基礎建設領域,沒有系統級的整體設計,單張晶片規格再亮眼也發揮不了實力。輝達利用記憶體瓶頸順勢將產業推向系統級競爭,超微如果不跟進,就會被困在單卡競爭的舊框架裡;如果跟進,就必須在輝達已經耕耘多年的領域裡奮力追趕。這才是黃仁勳這步棋最可怕的地方。
數據背後的啟示:短缺不會一夜消失,但解決方案已在多條戰線同步推進
記憶體是目前AI基礎建設最大的瓶頸,這一點無庸置疑。供應量、良率與價格,正實實在在地限制著產品的設計與出貨速度。但整個產業並未坐以待斃,各方正從不同方向尋找解答。輝達對Rubin Ultra的務實調整,正是在供應限制下開出的一條活路:在產能有限時,優先確保能出貨更多設備,並透過系統級的設計來補足單卡容量的缺口。
對台灣半導體供應鏈來說,這場記憶體戰爭也帶來了新的機會與挑戰。當輝達帶頭降低對單一高階記憶體的依賴,意味著封裝、測試、基板乃至於散熱等周邊技術的重要性將更為凸顯。誰能在系統級解決方案中卡到關鍵位置,誰就能在這波AI基建浪潮中分到更大的餅。
記憶體短缺不會在一夜之間消失,但解決問題的方法已經在晶片設計、網路架構、儲存分層等多個層面同步推進。接下來這一、兩年,我們會看到更多「用架構換產能」的創新,而這場算力戰爭的真正贏家,恐怕不是記憶體塞最滿的那一個,而是最懂得在限制中找到破口的那一個。
本文改寫整理自公開新聞來源,原始報導由科技新報發布。
常見問題 FAQ
輝達Rubin Ultra記憶體從1 TB降到192 GB,對AI運算效能影響多大?
影響有限。因為輝達透過NVLink將576顆晶片串聯成一個運算叢集,軟體層面可共享超過100 TB的記憶體池,單卡容量縮水可被系統級架構有效彌補。
為什麼輝達不乾脆等記憶體產能充足再出貨?
市場不等人的。微軟、Meta等超大客戶現在最缺的就是「能用的算力」,與其等待不知何時才能緩解的記憶體產能,不如用現有記憶體總量產出五倍數量的晶片,先滿足客戶的迫切需求。
記憶體降規格,對SK海力士、三星、美光這些供應商是利空嗎?
不完全是。雖然單卡記憶體用量下降,但輝達用同樣記憶體總量生產出更多晶片,整體記憶體總需求仍在成長。記憶體廠商依然能享受缺貨紅利,只是成長曲線比最樂觀的預測稍為平緩。
超微有機會追上輝達的機櫃級整合方案嗎?
挑戰很大。超微雖已推出72顆晶片的機櫃方案,但輝達在NVLink互連技術和CUDA軟體生態上耕耘已久,超微不僅要追硬體,還得在軟體和系統整合層面大幅補強。
一般企業採購AI伺服器,該怎麼因應這波記憶體規格調整?
建議把評估重點從「單卡規格」轉向「機櫃級整體效能」。記憶體配置只是其中一環,晶片互連效率、軟體生態支援度、散熱與功耗表現,才是決定長期總體擁有成本的關鍵。
※ 此篇文章由 AI 改寫或生成,內容僅供參考,可能存在錯誤或不準確之處。