Marvell inilunsad ang ikalawang henerasyon ng CXL memory extender, sumusuporta ng hanggang 9TB DDR4 memory

Ang Marvell ay naglalayong tugunan ang lumalaking pangangailangan mula sa pag-upgrade ng AI inference infrastructure sa pamamagitan ng mas malalaking kapasidad at mas mataas na bandwidth na solusyon para sa memory expansion.

Ayon sa Bloomberg, noong Oktubre 12, opisyal na inilunsad ng Marvell ang ikalawang henerasyon ng Structera X 3406 at 3506 na CXL memory extenders. Ayon sa kumpanya, ito ang kauna-unahang anim na channel na CXL 3.2 memory extender sa industriya, kung saan isang controller ay maaaring sumuporta ng hanggang 9TB na DDR4 o 6TB na DDR5 memory, 50% na mas mataas ang bilang ng memory channel kumpara sa naunang henerasyon. Inaasahan na magsisimula ang sample distribution ng dalawang produkto sa unang quarter ng 2027.

Layunin ng paglulunsad na ito na harapin ang lalong lumalaking bottleneck sa memorya sa mga AI inference workload. Habang lumalaki ang sukat ng Large Language Model (LLM), humahaba ang context window, at mabilis na tumataas ang pangangailangan para sa KV cache, nahaharap sa matinding presyon ang kapasidad at bandwidth ng memorya sa tradisyonal na server architecture, kaya't ang memorya ay unti-unting nagiging susi sa AI performance at efficiency ng infrastructure.

Nagpahayag ng suporta sa bagong produkto at kaukulang ecosystem partnership ang mga korporasyon gaya ng AMD, Arm, Alibaba, Samsung, at SK Hynix.

Pag-upgrade ng Core Technology: Mas Maraming Channel, Mas Malaking Kapasidad

Ang Structera X 3406 at 3506 ay nagpakita ng mga pag-unlad sa bilang ng memory channel, kapasidad ng expansion, at performance ng compression kumpara sa nakaraang henerasyon.

Sa aspect ng memory configuration, parehong sumusuporta sa anim na channel ng memory ang dalawang produkto. Ang 3406 ay sumusuporta sa 18 DDR4 RDIMM slots, na may maximum na kapasidad na 9TB; ang 3506 ay sumusuporta naman sa 12 DDR5 RDIMM slots, na may maximum na kapasidad na 6TB. Para sa host interconnection, parehong maaaring sabay-sabay mag-share ng memory resource ang hanggang apat na host, na may maximum na bandwidth na 256GB/s, gamit ang PCIe 6.0 x16 interface.

Sa aspeto ng compression performance, ang bagong produkto ay may built-in na LZ4 compression engine, kung saan ang throughput para sa compression at decompression ay umaabot ng hanggang 250GB/s, limang beses na mas mataas kaysa sa nakaraang henerasyon, at maaaring mapalawak ang effective memory capacity ng dalawang hanggang tatlong beses.

Ayon sa Marvell, sa inference scenario ng large language model, maaaring paikliin ng bagong produkto ang time-to-first-token (TTFT) ng 40% hanggang 50% para sa parehong haba ng context; sa scenario ng deep learning recommendation model (DLRM), maaaring madoble ang query per second sa isang controller, at maaaring lumaki ang effective capacity ng embedding table ng dalawang hanggang tatlong beses.

Nakatuon sa Malakihang Data Center, Patuloy na Pinalalawak ang Ecosystem Partnership

Ayon sa Marvell, ang ikalawang henerasyon ng Structera X ay gumagamit pa rin ng software stack at ecosystem integration scheme ng unang henerasyon na 2404/2504 na produkto na naipadala na sa malakihang customer ng data center, upang mapabilis ang customer adoption ng mga bagong produkto.

Maraming industry partners ang hayagang nagpahayag ng suporta. Ayon kay AMD Corporate Vice President Raghu Nambiar, ang kooperasyon ng dalawang panig na nakabatay sa performance at scalability ng EPYC processors ay makakatulong sa mga negosyo na palawakin ang memory capacity at pataasin ang resource utilization efficiency sa kabila ng lumalaking demand para sa AI at data-intensive applications.

Ayon kay Arm Vice President ng Cloud AI Go-to-Market Eddie Ramirez, dinadala ng Structera X ang CXL 3.2, memory expansion, at compression capabilities sa Arm ecosystem upang magbigay ng mas maraming opsyon para sa efficient operation ng malakihang data centers para sa kumplikadong AI workloads.

Ayon naman kina Jangseok Choi, Vice President ng Memory Product Planning ng Samsung Electronics at Uksong Kang, Pinuno ng Next Generation Product Planning at Enablement ng SK Hynix, natapos na nila ang verification ng Structera products ng Marvell sa kanilang mga DDR memory, ayon sa pagkakasunod.

Pagpapakumpleto ng CXL Product Portfolio, Pagpoposisyon para sa Memory Pooling at Disaggregate Architecture

Ayon kay Will Chu, Executive Vice President at General Manager ng Marvell Custom Cloud Solutions, sila lamang ang supplier sa industriya na nag-aalok ng kumpletong end-to-end na CXL product portfolio, na sumasakop sa ilang antas: Structera X para sa memory expansion, Structera A para sa near-memory acceleration, at PFMA (Photonic Fabric™ Memory Appliance) para sa rack-level CXL memory sharing—naaabot ang iba't ibang application from direktang memory expansion hanggang sa memory pooling at disaggregation.

Ayon kay Jim Handy, General Manager ng Objective Analysis, unti-unti nang ginagamit ang CXL sa mga AI system, at inaasahang makikinabang ang industriya mula sa high bandwidth at malaking capacity nito. Dagdag pa niya, sa panahon ng masikip na memory supply at mataas ang presyo, pinag-iisipan ng mga IT manager na gamitin ang CXL upang i-reuse ang DDR4 memory modules sa DDR5 systems upang mapababa ang gastos; ang mga controller na may compression function ay posibleng lalo pang makadagdag sa atraksyon ng solusyong ito.

Makikita ang Structera X 3406 at 3506 sa OCP Global Summit na gaganapin sa San Jose, California mula Oktubre 12 hanggang 15, at inaasahang ilalabas ang mga opisyal na sample sa unang quarter ng 2027.