SKハイニックスは8月20日、国際学術誌『Nature Electronics』に次世代AIインフラの重要技術CPOに関する研究論文を発表し、未来のAIシステムに向けた技術開発の方向性を提案しました。CPOとは共封装光学のことで、光信号を用いて従来の電気信号で半導体チップを接続することで、データ転送速度とエネルギー効率を向上させることができます。
SKハイニックスは、数千のGPUと高帯域幅メモリHBMからなる超大規模クラスターが次々と登場する中で、計算性能が急速に向上しているものの、システム間の帯域幅の増加は相対的に限られており、データ移動の制約による「帯域幅ボトルネック」がAI分野の重要な課題となっていると述べています。今回の論文では、HBMの革新を進めるだけでなく、光を用いてメモリとプロセッサを接続する光相互接続技術を通じて、データ移動におけるボトルネック問題を緩和できることを提案しています。
SKハイニックスが提案する光相互接続技術はAIインフラの鍵となる
データによると、相互接続技術とは、チップ内部、チップ間、システム間でデータと信号を伝送する回路とネットワーク技術を指します。研究チームは論文の中で、光を中心にしたアーキテクチャの考え方をさらに提案し、光学的な中間層を利用して計算リソースプールとメモリリソースプールを直接光信号で接続することで、システムレベルのデータ交換能力を向上させることを目指しています。
この研究は、SKハイニックスのAIインフラチームの責任者である洪承勳とアメリカのバージニア大学電気・コンピュータ工学科の李圭相教授が共同で参加し、協力機関にはアメリカのイリノイ大学アーバナ・シャンペーン校、マサチューセッツ工科大学、南洋理工大学、延世大学などが含まれています。研究チームは、論文がHBMという単一の製品に焦点を当てるだけでなく、メモリ、パッケージング、光相互接続技術が今後どのように融合して進化するかのロードマップを体系的に整理していると述べています。
李圭相は、計算チップの性能が継続的に向上しても、チップ間のデータ移動能力が同期して強化されなければ、システム全体の性能も向上しにくいと指摘しています。銅相互接続が物理的限界に近づく中で、光を用いてデータを伝送することがより実行可能な拡張経路と見なされています。彼はまた、将来の鍵はメモリデバイス、コントローラー、光デバイス、パッケージングを一体として協調設計することにあると強調しています。