人工知能モデルがますます大きくなり、クラウドプラットフォームが処理するデータ量が増加する中、内蔵メモリがますます重要な課題となっています。現在のサーバーは、プロセッサに物理的に接続されたメモリしか使用できず、これが効率的に処理できるデータ量に厳しい制限を課しています。AMDの企業向けAIソリューションの専門家であるAmit Goelは、「AIとデータセンターのワークロードは、システムアーキテクチャの継続的な進化を促進しており、メモリが性能とスケーラビリティの鍵となっています」と述べています。メモリを拡張することは、しばしば追加のサーバーを必要とし、これがコストを増加させるだけでなく、貴重なリソースが効果的に活用されない可能性があります。
Montage Technologyは、Compute Express Link (CXL) 3.2 メモリ拡張コントローラー (MXC) チップの試作を開始したと発表し、この問題を解決するための重要なステップを踏み出しました。
CXL 3.2 コントローラーがメモリ拡張の方法を変える
簡単に言えば、このチップはプロセッサと外部メモリの間の橋渡しを行い、サーバーがCPUの隣に設置されたメモリだけでなく、より大きなメモリプールを利用できるようにします。これにより、将来のAIインフラストラクチャはより柔軟で、スケーラブルで効率的になります。現代のAIアプリケーション、特に大規模言語モデルや科学シミュレーションは、データを保存し計算を実行するために大量の高速メモリを必要とします。プロセッサの能力が向上しているにもかかわらず、メモリ容量は従来のサーバー設計がメモリをCPUに密接に結合しているため、追いついていません。」Intelの計算技術専門家であり、チーフI/OアーキテクトのDebendra Das Sharmaは、業界はCompute Express Link (CXL)を通じてこの制限を解決しようとしていると述べています。
CXLはオープンスタンダードであり、プロセッサ、メモリ、アクセラレーターが高速PCI Express接続を介して通信できるようにします。
未来のデータセンターはよりインテリジェントなメモリ管理に依存する
初期のCXL製品はメモリ拡張の可能性を示しましたが、Montageのコントローラーは最新のCXL 3.2規格に基づいており、メモリプールや階層メモリアーキテクチャなどのより高度な機能のサポートが追加されています。MXCチップは直接データを保存するのではなく、サーバープロセッサと外部DDR5メモリの間のインテリジェントな橋渡しとして機能します。このコントローラーはCXL Type 3に準拠し、CXL.memおよびCXL.ioプロトコルをサポートし、PCIe 6.xと互換性があり、データ転送速度は最大64 GT/s（毎秒十億回の転送）です。
このチップは、最大8000 MT/s（毎秒百万回の転送）をサポートする2つのDDR5メモリコントローラーを統合しています。プロセッサがデータを要求すると、このチップはCXLメモリ要求をDDR5命令に即座に変換し、必要な情報を迅速に取得してリアルタイムで返します。
これにより、サーバーは通常利用可能なより大きなメモリ容量にアクセスできるようになります。このチップはまた、PCIe 6.xおよびDDR5物理インターフェース、デュアルRISC-Vプロセッササブシステム、管理インターフェースを統合しています。これにより、メモリ拡張、リソースプーリング、階層メモリシステムがより効率的にハードウェアを活用でき、高負荷のワークロードに対応できます。Montageは、このコントローラーがSamsungとSK hynixの次世代CXL製品に統合され、初期の検証が完了したと述べています。
同社はまた、Intel XeonおよびAMD EPYCプロセッサに基づく主要なサーバープラットフォームと互換性のあるチップを設計し、既存のデータセンターインフラストラクチャの互換性を向上させています。Samsung Electronicsのメモリ製品企画副社長であるJangseok Choiは、「CXL 3.2 MXCとDDR5メモリ技術の組み合わせは、データセンターの顧客に性能と容量のバランスを提供します」と述べています。Montageは、ハードウェアメーカーが互換性を評価し、コントローラーを将来の製品に統合するのを支援するためのソフトウェア開発キット（SDK）とテストツールも提供しています。
MXCコントローラーは現在試作段階にあり、現実世界での影響は業界全体の採用とさらなる検証に依存します。
それにもかかわらず、これは計算分野の変化が進んでいることを浮き彫りにしています。未来の人工知能の性能は、より高速なプロセッサだけでなく、より賢いメモリ管理方法にも依存することになるでしょう。CXL 3.2のような技術が広く採用されれば、未来のデータセンターはメモリを各サーバー内部の固定コンポーネントではなく、共有リソースとして扱うようになるかもしれません。これにより、人工知能システムはより効率的にスケールアップでき、既存のハードウェアをより良く活用できるようになるでしょう。
項目 規格 データ転送速度 最大 64 GT/s DDR5 メモリコントローラ速度 最大 8000 MT/s