ファーウェイは7月31日にopenPangu-2.0-Proモデルとその技術報告を正式にオープンソース化することを発表しました。openPanguはファーウェイが提供するオープンソースの人工知能モデルブランドで、openPangu-2.0-Proモデルの総パラメータ数は5050億、活性化パラメータは180億に達します。このモデルは昇騰のネイティブトレーニングと推論技術を通じて、業界に最適な実践の参考を提供し、昇騰プラットフォームの潜在能力を最大限に引き出し、エージェント時代の強力なインテリジェント基盤をさらに構築し、人工知能分野のビジネス革新とエコシステムの繁栄を加速することを目的としています。
現在、openPangu-2.0-Proモデルの関連コンポーネントは順次オープンソースプラットフォームに登場しています。ファーウェイは世界中の開発者、企業パートナー、研究者にダウンロードして使用するよう招待しており、ファーウェイクラウドMaaSモデルサービスプラットフォームにアクセスしてオンライン体験を行うことができます。ファーウェイは、多くのユーザーからのフィードバックを歓迎し、オープンソースエコシステムの継続的な進歩を支援することを目指しています。
openPangu-2.0-Proモデルは異なるニーズに応じた複数のバージョンを提供
情報によると、openPangu-2.0モデルはProとFlashの2つのバージョンを提供しており、いずれもMoE混合専門家アーキテクチャを採用しています。その中で、Pro版の総パラメータ数は5050億、活性化パラメータ数は180億；Flash版の総パラメータ数は920億、活性化パラメータ数は60億で、主に軽量化デプロイメントシナリオを対象としています。この2つのバージョンは512Kの超長文コンテキストウィンドウをサポートしており、一度に数十万字の内容を処理でき、業界初のDSA+SWA独立層混合アーキテクチャを採用して、超疎注意メカニズムを実現しています。
以前、openPangu-2.0-Flashモデルは6月30日にオープンソース化されました。この一連のオープンソースの取り組みは、ファーウェイの人工知能技術への継続的な投資を示すだけでなく、関連分野の開発者により多くのリソースと機会を提供します。