PrismML、iPhone対応の大型AIモデル「Bonsai 27B」を発表

最近、PrismMLが再び注目を集めています。この人工知能スタートアップのCEOはCNBCに対し、Appleが同社の技術に関心を持っていると述べました。同社はまた、Bonsai 27Bモデルを発表し、このモデルがiPhone、iPad、Macで動作することを明らかにしました。PrismMLは先週、《The Information》によって初めて注目されました。この報告では、PrismMLがAppleと会議を行い、同社の技術の利用方法について議論したことが言及されています。

報告はまた、PrismMLのBonsai 27Bモデルが本日発表される予定であることを伝えています。予想通り、PrismMLはこのモデルを発表しました：Bonsai 27BはNVIDIA GeForce RTX 5090上で毎秒163 tokの速度を達成し、三元モードでは134 tokです。M5 Max上では、一位元モードで87 tok、三元モードで58 tokに達します。

PrismMLのBonsai 27BモデルがAppleデバイス上でネイティブに動作

人工知能モデルをスマートフォンに適応させる難しさは、ストレージの数字が示すよりも高いです。スマートフォンはアプリケーションに全メモリを公開することはなく、12GBのiPhoneは約6GBの内部利用可能スペースを提供し、この予算をKVキャッシュとアクティベーションと共有します。従来のバージョンの27Bモデルはこの基準を簡単に達成することはできません。約4GBの一位元Bonsai 27Bは、通過可能な最初のモデルであり、作業スペースもあります。プレスリリースでは、新型モデルがAppleハードウェア上でネイティブに動作できることが特に言及されています：Bonsai 27BはMLXを介してAppleデバイス（Mac、iPhone、iPad）上でネイティブに動作し、NVIDIA GPU上でCUDAを介して動作し、混合注意アーキテクチャのために構築されたカスタム低位カーネルを使用します。

モデルの重みは、本日Apache 2.0ライセンスの下で入手可能です。このリリースに伴い、開発者が私たちのモデルを簡単に試用できるように、無料の期間限定開発者プレビューAPIを提供します。

同時に、PrismMLのCEOであるBabak HassibiはCNBCに対し、AppleがPrismMLの技術に興味を持っていると述べました。HassibiはCNBCに対し、Appleや他の企業がこのスタートアップのモデルを評価し、デバイス上での速度、エネルギー効率、性能を測定していると語りました。「彼らは現在、私たちの技術を真剣に評価しています」とHassibiは言いました。彼はこれらの議論を非常に初期の段階であると表現し、どのような方向に進むかはまだ不明だが、「進展はかなり良好です」と述べました。

Appleはすぐにコメントのリクエストに応じていません。

PrismMLのBonsai 27Bモデルに関する詳細はここで確認でき、CNBCの報道をここで完全に読むことができます。9to5Macの観察によれば、両者を分けることは価値があります。私たちは人工知能の専門家にPrismMLの主張と技術を評価させることにします。Appleとの関連については、明らかにこの人工知能スタートアップはAppleとのコミュニケーションを利用して新製品の宣伝を行っています。一般的に言えば、スタートアップとAppleの間の重要な議論を控えめに保つことは賢明であり、さもなければ強い疑念の雰囲気を醸し出すことになります。

いずれにせよ、PrismMLは《The Information》とCNBCの注目を集めることに成功し、短期的な任務は完了しました。

Apple製品でより多くの機能を得る：