兩岸

突破AI記憶體牆!美光全球首款512GB DDR5伺服器模組亮相,單機容量上看12TB、2027年下半年量產

編輯部 16小時前 2 瀏覽
突破AI記憶體牆!美光全球首款512GB DDR5伺服器模組亮相,單機容量上看12TB、2027年下半年量產
加入為 Google 偏好來源

將 Yahoo 設為首選來源,在 Google 上查看更多我們的精彩報導

美光於攤位展示旗下多種記憶體商品。(取自官方粉專)

當AI伺服器競賽從GPU算力一路延伸到記憶體容量、頻寬與功耗,記憶體正成為資料中心擴張的下一道瓶頸。美光科技(Micron Technology)今(16)日宣布,已在多個伺服器平台展示全球首款512GB DDR5 RDIMM,最高傳輸速率達9,200 MT/s;若搭載於具備24個記憶體插槽的雙路伺服器,單機DDR5記憶體容量最高可達12TB。AMD與Intel正展開平台驗證,美光預計2027年下半年配合客戶需求量產。

隨著大型語言模型(LLM)、代理型AI、即時推論及高核心數CPU工作負載快速普及,伺服器面臨的問題已不只是算力不足。當模型與資料集規模持續擴大,若主記憶體容量或頻寬跟不上,系統就必須頻繁將資料移往速度較慢的儲存層,增加資料搬移時間、能源消耗及基礎架構成本。

美光此次把單條DDR5 RDIMM容量提高至512GB,目的就是讓更大的模型與資料集直接常駐主記憶體,縮短資料與運算引擎之間的距離,並降低對SSD等儲存層的依賴。

美光指出,512GB DDR5 RDIMM的高密度,來自其垂直互連封裝技術。透過直通矽晶穿孔(Through-Silicon Via,TSV)垂直堆疊DRAM晶粒,可在單一DRAM封裝內提高容量,同時維持資料中心所需的傳輸效能。

在不改變既有伺服器規格尺寸的情況下,配置24個記憶體插槽的雙路伺服器,若全數搭載512GB RDIMM,整機記憶體容量最高可達12TB,可望支援更大規模的AI模型、記憶體內資料庫及高密度虛擬化環境。

美光資深副總裁暨雲端記憶體事業部總經理Raj Narasimhan表示,512GB RDIMM可實現數TB容量等級的伺服器,讓更龐大的資料集維持在運算引擎附近,支援更大規模的AI與資料庫工作負載、更高的虛擬化密度及更佳的功耗效率,而且不必擴大既有伺服器尺寸。

高密度記憶體帶來的效益不只容量提升。美光表示,相較以四條128GB RDIMM組成相同的512GB容量,單條512GB RDIMM的運作功耗可降低超過60%。

這項比較並非代表整台伺服器功耗降低60%,而是指相同記憶體容量下的模組運作功耗差異。對大規模資料中心而言,減少記憶體模組數量,可望進一步降低伺服器散熱與用電負擔,並在有限的機櫃空間內提高記憶體配置密度。

在效能方面,美光公布,在以Spark支援向量機(SVM)為基礎、受記憶體效能限制的資料分析工作負載中,512GB RDIMM相較256GB DDR5組態,效能最高可達1.4倍。

美光也將RocksDB、Redis等記憶體密集型資料庫及快取平台列為主要應用場景。透過提高單機記憶體容量,可讓更多資料留在主記憶體內,改善吞吐量、增加並行處理能力,並支援更大規模的資料集。

為加快導入伺服器市場,美光目前正與AMD及Intel合作,針對次世代伺服器平台進行512GB DDR5 RDIMM驗證,以確認相容性及後續部署條件。

AMD運算與企業AI平台解決方案工程企業副總裁Amit Goel表示,AI與資料密集型工作負載正在重塑基礎架構需求,AMD與美光透過運算及記憶體技術合作,希望為規模與複雜度持續提高的工作負載,建立更均衡的基礎架構。

Intel資料中心事業群平台與系統工程總經理Karin Eibschitz Segal則指出,AI及其他資料密集型工作負載的成長,讓記憶體容量與頻寬對整體系統效能的重要性持續提高。Intel正與美光合作驗證512GB DDR5 RDIMM,為未來伺服器平台導入做準備。

企業客戶也開始關注超高容量記憶體的應用。JPMorganChase基礎架構平台資訊長Darrin Alves表示,隨著資料中心工作負載成長,企業更重視如何在運算、記憶體與效率之間取得平衡;更高容量的記憶體技術,有助支援大型記憶體內工作負載、提高資源使用率,並增加運算環境的擴充彈性。

美光預計於2027年下半年,配合客戶需求量產512GB DDR5 RDIMM。不過,公司此次尚未公布送樣時程、首批採用客戶及實際產量規模,後續仍須觀察AMD、Intel平台驗證進度,以及雲端服務商、AI資料中心與大型企業導入超高容量記憶體的速度。

更多風傳媒報導

SEMI大師論壇》AI資料中心把記憶體推向缺貨!美光:HBM、DDR與SSD需求同升,邊緣裝置又來搶產能

SEMICON Taiwan 2026》AI伺服器逾75%BOM成本被記憶體吃掉!Google提軟硬體二解方破解「記憶體牆」

當寶石被賦予東方靈魂!寶格麗典藏回顧展上海登場,從五行五色看百年珠寶的跨文化對話

新聞來源: 原始來源

分享本文
請登入後發表評論
立即登入

尚無評論,成為第一個發言的人吧!

首頁 新聞 商家 活動 UTV AI 聊天