オンデバイスAIとは？
オンデバイスAI（On-device AI）は、AIの処理をインターネット上のサーバーではなく、スマートフォンやパソコンなどの端末内で行う仕組みです。端末へ入っているモデルを、CPU、GPU、Neural Engineなどで動かします。
音声認識、画像の分類、文章の要約、小規模なLLMなど、さまざまな処理に使われます。Apple Intelligenceでは、個人的な情報を扱う多くの処理を端末内で行い、より大きな計算が必要な場合だけPrivate Cloud Computeを利用します。
初出はいつ？
オンデバイスAIはApple独自の製品名ではなく、以前から機械学習分野で使われてきた一般用語です。そのため、特定のWWDCを初出とする言葉ではありません。
AppleのAI戦略を説明する重要語として広く注目されたのはWWDC24のApple Intelligence発表時です。WWDC26では、Apple Foundation Models、Foundation Models framework、Core AI、MLXなどを通じて、端末上で生成AIやAIエージェントを動かす選択肢がさらに広がりました。
メリット
- 入力したデータを外部へ送らずに処理しやすい
- 通信が不安定な場所やオフラインでも利用できる
- ネットワークの待ち時間がなく、反応を速くできる
- クラウドAPIの回数や料金を抑えられる
ローカルLLMとの違い
ローカルLLMは、自分のパソコンや端末で動かす大規模言語モデルを指します。オンデバイスAIはより広い言葉で、LLMだけでなく、画像認識、音声処理、予測モデルなども含みます。
端末内なら必ず安全、正確、高速というわけではありません。モデルの大きさは端末のメモリや電力に制限され、端末が古いと利用できない機能もあります。処理内容に応じて、オンデバイスとクラウドを使い分けることが大切です。