近日、OpenAI は最新の人工知能モデル GPT-5.6 Sol を実際の生産環境に投入し、GPT-5.6 シリーズ自身の推論基盤を最適化することを発表しました。一連の自主最適化操作を経て、OpenAI の推論サービスの展開コストは大幅に20%削減され、Token 生成効率は15%以上向上しました。
コア最適化の面では、GPT-5.6 Sol は Codex ツールを通じて、生産環境における GPU の底層コードを自主的に書き換えました。このモデルは、Triton と Gluon の2つのオープンソースプログラミング言語を学習し、モデル内のどの計算を事前に実行できるか、どの計算を省略できるか、どの計算を並行処理できるかを識別し、それに基づいてコードを最適化し、実行効率を向上させます。さらに、このモデルは負荷をインテリジェントに分析し、算力リソースを自動的に配分することも可能です。
GPT-5.6 Sol の自己最適化が推論効率を大幅に向上させる
このモデルは、推測デコード技術、つまり小モデルが事前生成し、大モデルが検証する並行作業メカニズムも改善しました。GPT-5.6 Sol は自主的に数百組の対照実験を設計・実施し、小モデルの規模、ネットワーク構造、機能モジュールなどの面で継続的に最適化を行い、最終的に全体の生成効率を15%以上向上させました。これらの最適化が相互に作用した結果、OpenAI は推論サービスの展開コストを大幅に20%削減することに成功し、モデルのコアウェイトを変更することなく、最終的な意思決定権は依然として人間のエンジニアが掌握しています。
全体として、GPT-5.6 Sol の自己最適化は、人工知能が自身を最適化するという実行可能な道筋を初歩的に検証しました。このメカニズムが継続的に成熟することで、推論コストの低下と効率の向上がさらに加速することが期待されます。