財經
60%成本都花在記憶體! Rubin帳單暴增2.5倍 一座要吞「4500支手機」
加入為 Google 偏好來源
將 Yahoo 設為首選來源,在 Google 上查看更多我們的精彩報導
輝達下一代Vera Rubin伺服器的記憶體用量與成本創下歷史新高。在上一代Grace Blackwell架構伺服器中,記憶體費用占總物料成本的53%,到了Vera Rubin世代,這一比重進一步攀升至62%。雖然整體伺服器成本成長至前代的2.1倍,但光是記憶體的支出就暴增了2.5倍。
根據Wccftech引述瑞銀報告數據,輝達每顆Vera Rubin Superchip的總成本為38,902美元,其中光是HBM4與SOCAMM2 LPDDR5X記憶體就占據了24,297美元。若分開來看,Rubin GPU晶片成本約9,247美元(含GPU、HBM4、封裝、中介層與周邊元件),其搭戴的288 GB HBM4記憶體估計價值4,943美元,占該GPU晶片成本的53.4%。
而Vera CPU晶片成本約為20,059美元,但其搭配的SOCAMM2 LPDDR5X記憶體成本高達19,355美元,占比高達Vera CPU總價的96.4%。換言之,如果扣除記憶體費用,Vera CPU本體的成本僅有704美元,顯示出DRAM已幾乎決定了整顆晶片的絕大部分造價。
名為Oberon的Vera Rubin NVL72機架,共配置了72顆Rubin GPU與36顆Vera CPU(由36組Superchip構成)。整座NVL72機架配備了20.7 TB的HBM4記憶體與54 TB的LPDDR5X記憶體,總記憶體池容量達到74.7 TB。這樣的記憶體用量,相當於單一機架就消耗掉了約4,500支智慧型手機所需的DRAM總量。
這項拆解分析揭示了全球DRAM嚴重短缺的主要原因。除了輝達之外,超微推出的Helios平台每顆GPU也配備高達432 GB的HBM4記憶體,並同樣搭戴龐大的LPDDR5X記憶體。各大AI巨頭在Agentic AI時代紛紛推出新一代加速器與伺服器平台,加上三大記憶體原廠表示供應短缺將持續數年,並優先透過長期協議供應給AI客戶,這將讓全球記憶體市場的供需持續承受巨大壓力。
(封面圖/翻攝自輝達官網)
【本文由東森財經提供,未經授權,請勿轉載!】
更多東森財經新聞報導
別只看台塑四寶! 另5家也很猛 「這檔」營收年增衝7倍
矽快到極限! 台積電解鎖新武器 「這金屬廠」有望成下個神隊友
晶片翹曲怎壓平? 玻璃基板非唯一 2設備黑馬「防彎神器」曝
將 Yahoo 設為首選來源,在 Google 上查看更多我們的精彩報導
輝達下一代Vera Rubin伺服器的記憶體用量與成本創下歷史新高。在上一代Grace Blackwell架構伺服器中,記憶體費用占總物料成本的53%,到了Vera Rubin世代,這一比重進一步攀升至62%。雖然整體伺服器成本成長至前代的2.1倍,但光是記憶體的支出就暴增了2.5倍。
根據Wccftech引述瑞銀報告數據,輝達每顆Vera Rubin Superchip的總成本為38,902美元,其中光是HBM4與SOCAMM2 LPDDR5X記憶體就占據了24,297美元。若分開來看,Rubin GPU晶片成本約9,247美元(含GPU、HBM4、封裝、中介層與周邊元件),其搭戴的288 GB HBM4記憶體估計價值4,943美元,占該GPU晶片成本的53.4%。
而Vera CPU晶片成本約為20,059美元,但其搭配的SOCAMM2 LPDDR5X記憶體成本高達19,355美元,占比高達Vera CPU總價的96.4%。換言之,如果扣除記憶體費用,Vera CPU本體的成本僅有704美元,顯示出DRAM已幾乎決定了整顆晶片的絕大部分造價。
名為Oberon的Vera Rubin NVL72機架,共配置了72顆Rubin GPU與36顆Vera CPU(由36組Superchip構成)。整座NVL72機架配備了20.7 TB的HBM4記憶體與54 TB的LPDDR5X記憶體,總記憶體池容量達到74.7 TB。這樣的記憶體用量,相當於單一機架就消耗掉了約4,500支智慧型手機所需的DRAM總量。
這項拆解分析揭示了全球DRAM嚴重短缺的主要原因。除了輝達之外,超微推出的Helios平台每顆GPU也配備高達432 GB的HBM4記憶體,並同樣搭戴龐大的LPDDR5X記憶體。各大AI巨頭在Agentic AI時代紛紛推出新一代加速器與伺服器平台,加上三大記憶體原廠表示供應短缺將持續數年,並優先透過長期協議供應給AI客戶,這將讓全球記憶體市場的供需持續承受巨大壓力。
(封面圖/翻攝自輝達官網)
【本文由東森財經提供,未經授權,請勿轉載!】
更多東森財經新聞報導
別只看台塑四寶! 另5家也很猛 「這檔」營收年增衝7倍
矽快到極限! 台積電解鎖新武器 「這金屬廠」有望成下個神隊友
晶片翹曲怎壓平? 玻璃基板非唯一 2設備黑馬「防彎神器」曝
新聞來源: 原始來源
尚無評論,成為第一個發言的人吧!