ファーウェイは7月31日にopenPangu-2.0-Proモデルとその技術報告を正式にオープンソース化することを発表しました。openPanguはファーウェイが提供するオープンソースの人工知能モデルブランドで、openPangu-2.0-Proモデルの総パラメータ数は5050億、活性化パラメータは180億に達します。このモデルは昇騰のネイティブトレーニングと推論技術を通じて、業界に最良の実践参考を提供し、昇騰プラットフォームの潜在能力を最大限に引き出すことを目的としており、エージェント時代の強力なインテリジェント基盤をさらに構築し、人工知能分野の商業革新とエコシステムの繁栄を加速させます。
現在、openPangu-2.0-Proモデルの関連コンポーネントが次々とオープンソースプラットフォームに登場しています。ファーウェイは世界中の開発者、企業パートナー、研究者にダウンロードして使用するよう招待しており、ファーウェイクラウドMaaSモデルサービスプラットフォームにアクセスしてオンライン体験を行うことができます。ファーウェイは、多くのユーザーからの使用意見のフィードバックを歓迎しており、オープンソースエコシステムの継続的な進歩を助けることを目指しています。
openPangu-2.0-Proモデルは異なるニーズに応えるために複数のバージョンを提供
情報によれば、openPangu-2.0モデルはProとFlashの2つのバージョンを提供しており、いずれもMoE混合専門家アーキテクチャを採用しています。その中で、Pro版の総パラメータ数は5050億、活性化パラメータ数は180億；Flash版の総パラメータ数は920億、活性化パラメータ数は60億で、主に軽量化デプロイメントシナリオを対象としています。これら2つのバージョンは512Kの超長文脈ウィンドウをサポートしており、一度に数十万字のコンテンツを処理でき、業界初のDSA+SWA独立層混合アーキテクチャを採用して超疎注意メカニズムを実現しています。
以前、openPangu-2.0-Flashモデルは6月30日にオープンソース化されました。この一連のオープンソースの取り組みは、ファーウェイが人工知能技術に継続的に投資していることを示すだけでなく、関連分野の開発者により多くのリソースと機会を提供しています。