NPUとは？
NPU（Neural Processing Unit、ニューラル プロセッシング ユニット）は、ニューラルネットワークなどのAI処理を効率よく実行するための専用プロセッサです。スマートフォン、タブレット、パソコンなどに組み込まれ、音声認識、画像処理、背景ぼかし、文章の要約などを端末上で動かします。
メーカーによって呼び方は異なり、Apple製品ではNeural Engineという名称が使われています。WindowsのCopilot+ PCでは、高性能なNPUが製品要件の一つになっています。
CPUやGPUとの違い
CPUは、OSやアプリのさまざまな処理を柔軟に行う中心的なプロセッサです。GPUは、大量の計算を並列に行うことが得意で、映像処理や大規模なAIモデルの学習・推論にも使われます。
NPUは、AIモデルで繰り返し使われる計算に特化し、少ない電力で継続的に処理することを得意とします。すべての仕事をNPUだけで行うのではなく、CPU、GPU、NPUへ得意な処理を分担させます。
オンデバイスAIとの関係
クラウドAIは、入力をインターネット経由でサーバーへ送り、大きな計算機で処理します。オンデバイスAIは、端末内のNPUなどを使って処理するため、通信がなくても動かせる、反応が速い、データを外へ送りにくいといった利点があります。
Apple IntelligenceやWindowsのAI機能には、端末内で動く処理とクラウドを使う処理があります。NPUを搭載していても、すべてのAI機能が端末だけで完結するわけではありません。
TOPSとは？
NPUの性能では、TOPS（Tera Operations Per Second）という数値がよく使われます。一秒間に何兆回の演算を行えるかを示す目安ですが、数字が大きければすべてのAI処理が同じ割合で速くなるわけではありません。
利用するAIモデル、対応するソフトウェア、メモリ容量、電力設定なども実際の性能に影響します。パソコンを選ぶときはTOPSだけでなく、使いたい機能がそのNPUに対応しているかを確認しましょう。
知っておきたい注意点
NPUはAIの回答の正しさを高める装置ではなく、計算を効率化する部品です。高性能なNPUを搭載した端末でも、モデルの能力やアプリの作りによって結果は変わります。
また、AI PCという名称だけでは、どの機能がローカルで動くか判断できません。対応OS、アプリ、モデル、必要なNPU性能を確認することが大切です。