NPUとは？

CPU、GPU、NPU

• CPUは、あらゆる処理を、柔軟な手順を1つずつ重ねて実行します。
• GPUは、グラフィックスのためにつくられました。何千もの単純な計算を同時にこなし、それがAIにも向いています。
• NPUは、さらに用途を絞っています。ニューラルネットワークの掛け算と足し算を中心につくられていて、多くの場合は精度を落とした数値を使い、より少ないエネルギーでより多くの計算をこなします。

2017年の Apple の A11 チップには、機械学習専用につくられた「ニューラルエンジン」が載っていました。性能は最大で毎秒6,000億回の演算とされ、Face ID とアニ文字を可能にしました。2024年には Microsoft が、CPUとGPUに加えて、毎秒40兆回を超える演算ができるNPUを中心に据えた Copilot+ PC を発表しました。

TOPSからわからないこと

TOPSはパッケージに書かれる数値で、しかもピーク値です。実際のモデルがどれだけ速く動くかは、データがチップにどれだけ速く届くか、ソフトウェアがチップをどれだけうまく使えるか、そしてモデルがどの程度の精度を必要とするかにも左右されます。こうしたチップを設計する研究者たちは、ある論文に「TOPS/W (alone) considered harmful」（ワットあたりのTOPS「だけ」で比べるのは有害）という題をつけ、チップを比べるときにほかに何を測るべきかを説明しています。その中には、幅広いネットワークを動かせる柔軟性も含まれます。

プライバシーにとって大事な理由

スマホやノートPCが、AIの機能を端末そのものの上で動かせるのは、NPUがあるからです。端末の上で行った処理は端末の中にとどめておけますし、ネットにつながっていなくても動き続けます。引き換えになるのは、モデルの大きさです。最大級のモデルは、いまもデータセンターで動いています。この選択について詳しくは、家の中か、クラウドか？をご覧ください。

私たちがNPUを使うところ

Alkyon は、家の中を飛ぶコンパニオンとして私たちが構想しているコンセプトで、いまのところシミュレーションの中でだけ飛んでいます。そのドックは、NPUを備えたチップを中心に設計を進めています。ロボットのカメラ映像を、データセンターではなく家の中で処理できるようにするためです。家の中のカメラについて（英語）。Lychnos Ring は逆の方法をとります。あなたの声をEU内の当社クラウドに送り、そこで音声認識と言語モデルが動きます。どちらも開発中です。

出典（2026年11月4日閲覧）：Apple Newsroom「the future is here: iPhone X」2017年9月12日。Microsoft「introducing Copilot+ PCs」2024年5月20日。Sze、Chen、Yang、Emer「efficient processing of deep neural networks: a tutorial and survey」Proceedings of the IEEE、2017年、および同じ著者による「how to evaluate deep neural network processors: TOPS/W (alone) considered harmful」IEEE Solid-State Circuits Magazine、2020年。