中国の研究者たちは、光学インターコネクトシステムを構築し、分散型人工知能推論の速度を大幅に向上させることに成功しました。また、必要な計算リソースは従来のGPUベースのシステムのごく一部に過ぎません。このプロトタイプは、推論速度を100倍以上向上させ、必要な計算能力は商業用GPUの約9分の1に抑えられています。このシステムは北京大学の研究チームによって開発され、複数の計算チップを接続するためにオンチップ全光ネットワークを使用し、従来の電気接続を置き換えています。このアプローチは、遅延を減少させ、チップ間のデータ転送を改善することを目的としており、人工知能のワークロードを拡張する際の増大するボトルネックの一つです。
中国の研究者が開発した光学インターコネクトシステムが人工知能推論速度を大幅に向上
このプラットフォームの中心には、400 Gbpsのシリコンフォトニクストランシーバーがあり、電気信号を光信号に変換し、再び戻すことができます。これはカスタムの16×16光スイッチチップと連携して動作し、計算ノード間でデータをルーティングし、スケーラブルな通信ネットワークを構築します。全体の交換帯域幅は最大6.4 Tbpsです。研究者たちは、この設計が単に計算ハードウェアを増やすのではなく、チップ間の通信を改善することに焦点を当てているため、複数のプロセッサが人工知能推論プロセスでより効率的に協調して動作できると述べています。
光がボトルネックを置き換え、光スイッチの重要な特徴は、全損失が5 dB未満であることです。これには結合損失も含まれます。チームによると、これにより高速でエラーのない伝送が可能になり、外部の光増幅補償が不要になります。このスイッチは、複数の通信経路でエラーのない性能を維持し、100 nmを超える光スペクトル応答をサポートし、波長分割多重化による将来の帯域幅拡張に適しています。このアーキテクチャを示すために、研究者たちは画像ノイズ除去のために5層の畳み込みニューラルネットワークを展開し、各層は独立した計算ユニットに割り当てられ、光スイッチがプロセッサをパイプラインとして接続します。
このシステムは、もはや中間データをメモリに繰り返し保存して次のプロセッサに送信する必要がなく、直接光ネットワークを介して特徴マップを転送します。これにより、メモリ転送に関連する遅延が減少し、計算ユニットが継続的に作業できるようになります。商業用GPUで同じ画像ノイズ除去タスクを実行した場合と比較して、光システムが提供する推論速度は100倍以上であり、同時に約9分の1の計算リソースしか使用していません。
研究者たちは、この研究が人工知能の性能を向上させるための異なるアプローチを強調していると考えています。特にモデルが継続的に成長する場合においてです。彼らは、「アルゴリズム、プロセッサのマイクロアーキテクチャ、チップレベルのインターコネクトが共同設計されると、特定の目標が限られた計算リソースで達成できる」と述べています。また、「このアーキテクチャは、データセンターにおける持続不可能なエネルギー使用を緩和し、エッジコンピューティングシナリオにおける遅延や消費を最適化することもできます」と付け加えています。研究チームは、共包光学、シリコンフォトニクストランシーバー、より高速な人工知能チップインターフェースの進展により、オンチップ光学スーパーノードが将来の分散型計算システムの実用的な基盤となる可能性があると指摘しています。
このようなシステムは、高帯域幅、低遅延、エネルギー効率を提供し、次世代の人工知能ワークロードをサポートします。これにより、ますます電力を消費する大規模プロセッサに完全に依存することなく、運用が可能になります。この研究は『国家科学レビュー』ジャーナルに発表されました。