OpenAIは、初の自社開発の推論チップJalapeñoが、1ワットあたりの消費電力でより多くのAI作業を完了でき、応答遅延を低下させることができると発表しました。このハードウェア設計は、ますます大きくなるモデル計算の需要をより効率的に処理することを目的としています。同社は、GPT-OSS 120B、DeepSeek R1 670B、Kimi K2.5 1Tの3つの公開モデルを使用してテストを行いました。結果、Jalapeñoはピークスループット時に、1ワットあたりのAI作業量が比較システムより1.5倍から1.9倍高く、エンドツーエンドの遅延が1.7倍から3.6倍低下しました。
高度なインタラクティブな作業負荷に対して、Jalapeñoの性能は2.1倍から4.1倍向上しました。
OpenAIは、高スループットと低遅延を単一のアーキテクチャに統合することで、AIモデルの展開に必要なハードウェアと電力を削減できると考えています。Jalapeñoの定格出力は700ワットですが、テスト作業負荷中は持続的な消費電力が550ワット以下に維持されました。同社は、SemiAnalysisが提供する公開のInferenceXベンチマークを使用して、Jalapeñoを市場に出回っている加速器システムと比較しました。
単一チップでスループットとメモリ帯域幅のボトルネックに対応
Jalapeñoの設計の重要なポイントの一つは、スループットと遅延の間の一般的なトレードオフを回避することです。AI推論は異なる段階で全く異なる要求を持っています：ユーザーのプロンプトを処理する（prefillと呼ばれる）段階は通常計算集約型の作業であり、単語ごとに応答を生成する（decodeと呼ばれる）段階はメモリ帯域幅に依存します。Jalapeñoは同じアーキテクチャでこれら2つの段階を同時に処理することを目指しています。
OpenAIは、このチップがモデルの状態（生成プロセスで使用されるキー・バリューキャッシュを含む）を処理リソースにより近い場所に配置することを示しています。ネットワークインターコネクトシステムもアーキテクチャに統合されており、チップ間で転送する必要のあるデータ量を削減し、通信遅延を短縮し、計算リソースがデータを待機する状態を回避します。この設計はAIエージェントにとって特に重要です。なぜなら、この種のエージェントは通常、複数の推論ステップを順次実行する必要があり、各ステップのわずかな遅延が累積し、全体のタスク時間を大幅に延ばすからです。
AIツールがチップ開発プロセスを加速
OpenAIはJalapeñoの開発プロセスで自社のAIモデルを活用しました。同社によると、AIはエンジニアがさまざまな実装オプションを探求し、設計と検証のサイクルを短縮し、算術回路を最適化するのに役立ちました。チームはわずか9ヶ月で初期設計からテープアウト（tapeout）に進みました。その後、OpenAIはGPT-Astraを搭載したCodexを利用して、2ヶ月以内に生産計画に含まれていなかった3つのオープンウェイトモデルをJalapeño上で高性能に達成しました。
特定のGPT-OSS注意機構と混合専門家（MoE）ブロックに関して、AIが生成した実装は、人間の専門家が作成した既存のバージョンよりも1.5倍から1.8倍速く動作しました。ただし、OpenAIは、これらの結果は個別のブロックにのみ適用され、完全なモデルには適用されないと強調しています。
同社はKimi K2.5 1Tなどの大規模モデルに対してもテストを行いました。報告によると、このモデルでは、Jalapeñoは1ワットあたりのピーク性能が比較システムより約1.5倍高く、エンドツーエンドの遅延が3.4倍低下しました。OpenAIは2026年末までに、同社の計算基盤にJalapeñoを展開する計画です。同社は、このチップが多世代のロードマップの第1世代に属し、第2世代と第3世代の設計が開発中であると述べています。計算基盤が引き続き拡張され、サポートされるモデルの能力が向上するにつれて、長期的な目標は推論プロセスをより迅速かつエネルギー効率の良いものにすることです。
項目 規格 チップ名 Jalapeño ポジショニング OpenAI 初の自社開発推論チップ 定格電力 700 ワット 持続消費電力 550 ワット以下 1 ワットあたりの AI 作業量向上（ピークスループット） 1.5 倍から 1.9 倍 エンドツーエンド遅延削減率 1.7 倍から 3.6 倍 高度なインタラクティブワークロード性能向上 2.1 倍から 4.1 倍 テストモデル GPT-OSS 120B、DeepSeek R1 670B、Kimi K2.5 1T 比較ベンチマーク SemiAnalysis InferenceX 設計からシリコンチップ化までの時間 9 ヶ月 追加モデル最適化時間 2 ヶ月 AI 生成ブロック速度向上 1.5 倍から 1.8 倍 Kimi K2.5 1T の 1 ワットあたりのピーク性能向上 約 1.5 倍 Kimi K2.5 1T のエンドツーエンド遅延削減率 3.4 倍 デプロイメントスケジュール 2026 年末まで