人工知能モデルの規模と複雑性が増す中、チップメーカーは単一のプロセッサの性能から、数千のアクセラレーターを効率的に接続できる全体的な計算システムへと焦点を移し始めています。これらの高度に相互接続されたサーバーアーキテクチャは、数兆のパラメータを持つモデルをサポートするために必要な計算規模を提供し、ますます増加する人工知能エージェントアプリケーションに対応するために競争している人工知能インフラ企業の主要な競争領域となっています。比人科技（Biren）の人工知能フレームワークアーキテクチャ副社長である丁雲帆は、単一のグラフィックスプロセッサユニット（GPU）の性能向上だけではこれらのニーズを満たすには不十分であると述べています。
逆に、業界が直面している最大の課題は、大規模なGPUクラスターを単一のシステムとして機能する統一されたシームレスな計算プラットフォームに変換することです。
比人科技が光学技術を推進し、人工知能計算能力を拡大
比人科技は、大規模な人工知能計算の未来は、従来の電気的相互接続を光学技術に置き換えることに依存していると考えています。丁雲帆は、従来の銅ベースの接続は物理的限界に近づいており、実際には今日のサーバーアーキテクチャを約128のGPUに制限していると指摘しています。このボトルネックを克服するために、同社は近封装光学技術（NPO）に基づく分散型、デカップル型の超ノードアーキテクチャを開発しました。このアーキテクチャは、チップの近くに光ファイバーを配置して帯域幅を増加させ、データ転送を改善します。比人科技は、この方法によりクラスターが最大1,024枚の人工知能アクセラレータカードをサポートできるようになり、増加する人工知能のワークロードを支えるために必要な計算システムの規模を大幅に拡大できると述べています。
丁雲帆は、光学相互接続が従来のサーバーアーキテクチャのスケーラビリティ制限を克服するために重要になっていると指摘しています。上海に拠点を置く比人科技は、これらのインフラの課題を解決するために取り組んでいる中国の企業の一つです。競合他社には、MetaX、Enflame、アリババなどがあり、彼らもNvidiaのNVL72および次世代NVL144人工知能プラットフォームと競争するために超ノードアーキテクチャを開発しています。比人科技の上海の競合であるMetaXは、64のGPUを接続できる1つのラックを備えたXijing S600人工知能超ノードを発表しました。
同社は、その設計が計算ノード、スイッチノード、相互接続システム間の外部配線を取り除くことで信号損失を減少させ、大規模な人工知能ワークロードの効率を向上させると述べています。
比人科技は、人工知能計算システムの規模を拡大する新しい方法を模索しています。同社の正交ハードウェアアーキテクチャは、通信大手の中興通訊（ZTE）と共同開発され、従来の電気接続を利用していますが、比人科技は同時に近封装光学（NPO）相互接続システムのプロトタイプをテストしています。このチップメーカーは、光学的アプローチが最終的に超ノードが512枚以上のアクセラレータカードをサポートできるようになり、より大きく、より効率的な人工知能インフラへの需要に対応するのを助けると述べています。
光学ネットワークの人工知能インフラへの応用に対する関心が高まる中、丁雲帆は半導体業界が光学相互接続技術の開発とテストの初期段階にあると述べています。彼は、これらのシステムの広範な採用にはさらなる技術の進歩が必要であり、大規模に展開するためには実際の検証が必要であると指摘しました。さらに、丁雲帆は、この技術が広く採用される前に実際の検証が必要であると強調しました。彼は、NPO光学システムが2028年頃に大規模な商業展開に達する可能性があると予測しており、業界が技術を洗練し、残された工学的課題を解決するにつれて進展していくとしています。