Marvell推出第二代CXL記憶體擴展器,最高支援9TB DDR4記憶體
Marvell 發布第二代 CXL 記憶體擴展器,單一控制器最高支援 9TB DDR4 或 6TB DDR5 記憶體,壓縮吞吐量提升至 250GB/s,旨在緩解大型模型推理的記憶體瓶頸,並提升 AI 基礎設施效率。AMD、Arm、阿里巴巴、三星及 SK 海力士等參與生態合作,新產品預計於 2027 年第一季提供樣品。
Marvell 正透過更大容量、更高頻寬的記憶體擴展方案,鎖定 AI 推論基礎設施升級所帶來的需求成長。
根據彭博報導,10 月 12 日,Marvell 正式發佈第二代 Structera X 3406 和 3506 CXL 記憶體擴展器。公司表示,這是業界首款六通道 CXL 3.2 記憶體擴展器,單一控制器最高支援 9TB DDR4 或 6TB DDR5 記憶體,記憶體通道數比前一代提升 50%。兩款產品預計 2027 年第一季度開始向客戶提供樣品。
此次發佈旨在因應 AI 推論工作負載日益突出的記憶體瓶頸。隨著大型語言模型(LLM)規模擴大、上下文視窗延長,以及 KV 快取需求快速成長,傳統伺服器架構的記憶體容量與頻寬正面臨愈來愈大壓力,記憶體逐漸成為限制 AI 效能與基礎設施效率的關鍵要素。
AMD、Arm、阿里巴巴、三星及 SK 海力士等企業皆對新產品及相關生態合作表達支持。
核心技術升級:更多通道、更大容量
Structera X 3406 和 3506 在上一代產品基礎上實現了記憶體通道、擴展容量及壓縮效能等方面的升級。
在記憶體配置方面,兩款產品皆支援六通道記憶體。其中,3406 支援 18 個 DDR4 RDIMM 插槽,最高容量達 9TB;3506 支援 12 個 DDR5 RDIMM 插槽,最高容量為 6TB。在主機互聯方面,兩款產品皆支援最多四台主機共享記憶體資源,主機互聯頻寬最高可達 256GB/s,採用 PCIe 6.0 x16 介面。
在壓縮效能方面,新產品內建 LZ4 壓縮引擎,壓縮與解壓縮吞吐量最高可達 250GB/s,較上一代提升 5 倍,可將有效記憶體容量擴充為原本的 2 至 3 倍。
Marvell 表示,在大型語言模型推論場景中,新產品可在相同上下文長度下,將首位元組回應時間(TTFT)縮短 40% 至 50%;在深度學習推薦模型(DLRM)場景中,單一控制器每秒查詢量最高可提升為原本的 2 倍,嵌入表有效容量亦可擴大為原本的 2 至 3 倍。
鎖定超大規模數據中心,生態合作持續擴展
Marvell 表示,第二代 Structera X 沿用已向超大規模數據中心客戶出貨的第一代 2404/2504 產品的軟體堆疊與生態整合方案,旨在加快新產品的客戶導入進度。
多家產業夥伴公開表達了支持。AMD 企業副總裁 Raghu Nambiar 表示,雙方合作依託 EPYC 處理器的效能與可擴展性,協助企業因應 AI 及資料密集型應用需求成長時擴展記憶體容量、提升資源使用效率。
Arm 雲端 AI go-to-market 副總裁 Eddie Ramirez 表示,Structera X 將 CXL 3.2、記憶體擴展與壓縮能力引入 Arm 生態,為超大規模數據中心高效運行複雜 AI 工作負載提供更多選擇。
三星電子記憶體產品規劃副總裁 Jangseok Choi 及 SK 海力士次世代產品規劃與實現負責人 Uksong Kang 則表示,雙方已分別與 Marvell 完成 Structera 產品與各自 DDR 記憶體的驗證。
完善 CXL 產品組合,布局記憶體池化與分解架構
Marvell 客製化雲端解決方案執行副總裁兼總經理 Will Chu 表示,公司是業界唯一提供完整端對端 CXL 產品組合的供應商,產品涵蓋多個層級:用於記憶體擴展的 Structera X、用於近記憶體加速的 Structera A,以及面向機櫃級 CXL 記憶體共享的 PFMA(Photonic Fabric™ Memory Appliance),涵蓋從直連記憶體擴展到記憶體池化與分解的不同應用場景。
市場研究機構 Objective Analysis 總經理 Jim Handy 指出,CXL 正逐步應用於 AI 系統,其高頻寬、大容量特性有望帶來顯著效益。他還表示,在記憶體供應緊張、價格高企的背景下,IT 管理者正考慮利用 CXL 於 DDR5 系統中複用 DDR4 記憶體模組,以降低成本;具備記憶體壓縮功能的控制器則有望進一步增強此類方案的吸引力。
Structera X 3406 和 3506 將於 10 月 12 日至 15 日在加州聖荷西舉辦的 OCP 全球高峰會亮相,正式樣品預計於 2027 年第一季度推出。
免責聲明:文章中的所有內容僅代表作者的觀點,與本平台無關。用戶不應以本文作為投資決策的參考。
您也可能喜歡
特斯拉(TSLA.US)Robotaxi再遇監管考驗:學校區域超速遭調查,Cybercab擴張蒙上陰影
特斯拉的Robotaxi業務再次受到美國監管機構審查。美國國家公路交通安全管理局(NHTSA)正在評估有關特斯拉Cybercab和Model Y無人駕駛計程車在學校區域超速行駛的指控。
博通CEO:許多AI投資者如同賭場賭徒,AI發展最大制約因素是資本
博通CEO Hock Tan警告,許多AI投資者對所押注的技術缺乏了解,卻抱有極高回報預期,如同賭場賭徒。他認為,資本正取代晶片、儲存和電力短缺,成為AI發展的最大制約因素。英特爾CEO陳立武也指出,融資成本上升與投資回報不確定性正成為行業核心挑戰。
IonQ(IONQ.US)以13億美元全股票收購Elisity:量子運算的估值,開始靠「當紅概念」網路安全兌現
IonQ計劃以最高13億美元收購Elisity,以強化其網絡安全部門。
標普500迎來牛市四週年:四年累漲近120%,年末行情寄望財報「強心針」
標準普爾500指數今日迎來本輪牛市四週年。2022年10月12日,該指數觸及熊市最終收盤低點3577點;四年後,這一數字已攀升至7811點,累計漲幅近120%。
