PrismML、iPhone対応の大型AIモデル「Bonsai 27B」を発表

最近、PrismMLが再び注目を集めています。この人工知能スタートアップのCEOはCNBCに対して、Appleが同社の技術に関心を持っていると述べました。同社はまた、Bonsai 27Bモデルを発表し、このモデルがiPhone、iPad、Macで動作することを明らかにしました。PrismMLは先週、《The Information》がこの人工知能スタートアップについて報じた際に初めて注目を集めました。その報告では、PrismMLがAppleと会議を行い、同社の技術の使用方法について議論したことが言及されています。

報告によれば、PrismMLのBonsai 27Bモデルは本日発表される予定です。予想通り、PrismMLはこのモデルを発表しました:Bonsai 27BはNVIDIA GeForce RTX 5090上で毎秒163トークンの速度を達成し、三元モードでは134トークンです。M5 Max上では、一位元モードで87トークン、三元モードで58トークンに達します。

PrismMLのBonsai 27BモデルがAppleデバイス上でネイティブに動作

人工知能モデルを携帯電話に適応させることは、ストレージの数字が示すよりもはるかに難しいです。携帯電話はアプリケーションに対してその全メモリを公開することはなく、12GBのiPhoneは約6GBの内部利用可能スペースを提供し、この予算はKVキャッシュとアクティベーションと共有されます。従来の27Bモデルはこの基準を簡単に達成することはできません。約4GBの一位元Bonsai 27Bは、通過可能な最初のモデルであり、作業空間もあります。プレスリリースでは、新型モデルがAppleハードウェア上でネイティブに動作できることが特に言及されています:Bonsai 27BはMLXを介してAppleデバイス(Mac、iPhone、iPad)上でネイティブに動作し、CUDAを介して

NVIDIA GPU上で動作し、混合注意アーキテクチャのために構築されたカスタム低位カーネルを使用します。モデルの重みは本日Apache 2.0ライセンスの下で入手可能です。このリリースに伴い、開発者が私たちのモデルを簡単に試用できるように、無料の期間限定開発者プレビューAPIを提供します。

同時に、PrismMLのCEOであるBabak HassibiはCNBCに対して、AppleがPrismMLの技術に興味を持っていると述べました。HassibiはCNBCに、Appleや他の企業がこのスタートアップのモデルを評価し、デバイス上での速度、エネルギー効率、性能を測定していると語りました。「彼らは現在、私たちの技術を真剣に評価しています」とHassibiは言いました。彼はこれらの議論を非常に初期の段階と表現し、どのような方向に進むかはまだ不明ですが、「進展はかなり良好です」と述べました。

Appleはすぐにはコメントのリクエストに応じていません。

ここでPrismMLのBonsai 27Bモデルについての詳細を確認し、こちらでCNBCの報道を完全に読むことができます。9to5Macの観察によれば、両者を分けることは価値があります。私たちは人工知能の専門家にPrismMLの主張と技術を評価させることにします。Appleとの関連については、明らかにこの人工知能スタートアップはAppleとのコミュニケーションを利用して新製品のプロモーションを行っています。一般的に、スタートアップとAppleの間の重要な議論を控えめに保つことは賢明であり、そうでなければ強い疑念の雰囲気を生み出すことになります。

いずれにせよ、PrismMLは《The Information》とCNBCの注目を集めることに成功し、短期的な任務は完了しました。

Apple製品でさらに機能を得る:

項目規格
Apple AirTag 2鍵、バッグ、自転車などに Find My 機能を追加
AirPods 4Apple の最新のワイヤレスイヤフォン
AirPods Pro 3Apple の最高のワイヤレスイヤフォン
Beats USB-A から USB-C への接続ケーブル公式 CarPlay 接続ケーブル
Wireless CarPlay 変換アダプター差し込まずに使用可能
Withings Body CompApple Health のための最高のスマート体重計

Nakumura
Nakumura
関連サイト:中文版 / TechRitualThe Base Principle