SK hynixとTetraMemが新型メモリ計算チップを共同開発、エネルギー効率と処理性能を向上

メモリ中心の人工知能チップ開発企業SK hynixとTetraMemは、新しいメモリ中心プロセッサを展示しました。このプロセッサは、メモリ内部で直接人工知能計算を行うことができ、エネルギー使用を削減し、プロセッサとメモリ間のデータ転送によるボトルネックを軽減することを目的としています。両社は、アナログメモリ計算(A-IMC)システムオンチップ(SoC)を中心とした技術協力を完了したと発表しました。この研究は、メモリがデータを保存するだけでなく、一部の計算負荷を担うことができることを示しています。

このプロトタイプは、メモリ抵抗変化器に基づくメモリ計算を使用して、深層畳み込みを効率的に実行します。これは、多くの人工知能推論モデルで使用される重要な操作です。人工知能モデルの重みを保存する場所でデータを処理することにより、このアーキテクチャはメモリとプロセッサ間で情報を繰り返し転送する必要を減らします。

この方法は、現代の人工知能ハードウェアが直面している最大の課題の一つに対処しています。人工知能モデルが数十億のパラメータから数兆のパラメータに増加するにつれて、データ移動は計算システム内部での主要なエネルギー消費、遅延、熱生成の原因となっています。従来の人工知能チップは、計算ユニットとメモリ間でデータを移動させ続け、時間とエネルギーを消費しています。アナログメモリ計算は、このワークフローを変更し、メモリアレイ内部で直接行列計算を実行することで不必要なデータ転送を減少させます。この共同プロジェクトは、TetraMemのアナログメモリ計算プラットフォームとSK hynixの先進メモリ技術に関する専門知識を組み合わせています。

両社は、新興メモリデバイス、回路設計、人工知能アーキテクチャ、ソフトウェア、システム最適化を統合した単一の半導体プラットフォームを構築します。

SK hynixとTetraMemの協力が人工知能計算技術の発展を推進

「私たちは、SK hynixと共にこの重要なマイルストーンを祝うことができて光栄です。」TetraMemのCEO兼共同創業者であるグレン・ゲ氏は述べました。「この成果は、半導体エコシステム内での緊密な協力がもたらす成果を示しています。」これらの企業によると、この作業はアナログメモリ計算の概念の検証を超え、複数のハードウェアとソフトウェアエンジニアリングを統合した実用的な人工知能システムオンチップを示しています。人工知能の負荷が増加する中で、チップメーカーに対して性能を犠牲にすることなくエネルギー効率を向上させる圧力も高まっています。

メモリ中心の計算は、データ移動が計算自体よりも多くのエネルギーを消費することが多いため、可能な解決策となっています。

「私たちは、メモリ中心の計算とアナログメモリ計算が、将来の人工知能のエネルギー効率と熱の課題を解決する上でますます重要な技術になると信じています。私たちはSK hynixとのさらなる協力を楽しみにしています。」とゲ氏は述べました。このプロジェクトは、SK hynixにとって戦略的な取り組みであり、従来のメモリ製造を超えて先進的な計算アーキテクチャに向かっています。同社は、動的ランダムアクセスメモリ(DRAM)および高帯域幅メモリ(HBM)の主要な製造業者ですが、これらのメモリは標準的な人工知能システムに使用されており、このプロトタイプは神経形態アプローチへの移行を示しています。

「私たちは、この協力の成功した結果と『先進知能システム』からの認識を見られることを嬉しく思います。」SK hynixの副社長スー・ギル・キム氏は述べました。「このプロジェクトは、革新的なメモリ技術と将来の人工知能システムの新しい計算アーキテクチャを探求する価値を示しています。」

この研究論文は、次世代人工知能ハードウェアへの技術的貢献を強調するために、ジャーナルの表紙記事として選ばれました。両社は、メモリ技術、計算アーキテクチャ、およびシステム統合に関する協力を継続し、将来の人工知能インフラをサポートする計画を立てています。この研究『メモリ抵抗変化器に基づくメモリ計算SoCおよびその効率的な深層畳み込み』は、『先進知能システム』に発表されました。

項目規格
プロセッサ/SoCアナログメモリ計算(A-IMC)システムオンチップ
メモリ技術メモリ抵抗変化器に基づくメモリ計算

Nakumura
Nakumura
関連サイト:中文版 / TechRitualThe Base Principle