申し訳ありませんが、違うと言ったら嘘になります。 NPUは役に立たない。もしかしたらそれは厳しいように聞こえるかもしれませんが、それは冷笑的なところから来ているわけではありません。自分自身でテストした結果、現時点では NPU を使用する魅力的な用途はないと心から確信しています。
次にノートパソコンを購入するとき、そのノートパソコンには ニューラル プロセッシング ユニット (NPU) が搭載されている可能性が高く、AMD と Intel は、 これらの NPU が AI PC の将来をどのように 推進するかについて大騒ぎしています。最終的にはそこに到達することに疑いはありませんが、現代のユースケースという観点から見ると、NPU は実際には皆さんが考えているほど効果的ではありません。
で Meteor Lake について話した際、Intel は AI 作業に Meteor Lake チップ上のさまざまなプロセッサを使用していると説明しました。すべてが NPU に影響するわけではありません。実際、最も要求の厳しい AI ワークロードは、統合された Arc GPU にオフロードされます。 NPU は主に、 背景ぼかしなどの 安定した低強度の AI ワークロードのための低電力オプションとして存在します。
より激しいものには GPU が介入します。たとえば、Intel は、AI が 1 つのステレオ ファイルからオーディオ トラックを分離し、さらには歌詞を転写できるデモを Audacity で披露しました。また、Unreal Engine の Metahuman を使用して、ビデオ録画を現実的なゲーム キャラクターのアニメーションに変換する AI の動作も示しました。どちらも GPU 上で実行されました。
これらは AI の優れた使用例です。 NPU が必要ないだけです。専用の AI プロセッサは、こうしたバースト性の高い AI ワークロードに対して GPU ほど強力ではありません。
Intel によれば、主な使用例は NPU が効率的であるため、背景のぼかしなどの安定した低強度の AI ワークロードを GPU ではなく NPU で実行するときにバッテリー寿命を延ばすのに役立つはずです。 Intel の新しい Meteor Lake CPU の 1 つを実行している MSI Studio 16 でテストしましたが、予想されるほど大幅な電力削減はありませんでした。
30 分間で、GPU の平均消費電力は 18.9 W でしたが、NPU の消費電力は平均 17.6 W でした。興味深いのは、GPU が最初に急上昇し、チップ上のシステムの合計電力が 38 W 程度まで上昇しましたが、ゆっくりと元に戻ったことです。一方、NPU は低く始まり、時間の経過とともにゆっくりと上昇し、最終的に 16W と 17W の間で落ち着きました。
これはパッケージの合計電力、つまり、GPU や NPU だけでなく、チップ全体の電力であることを指摘しておく必要があります。 NPU はより効率的ですが、このような低強度の AI ワークロードにおいてその効率がどれほど重要であるかはわかりません。実際の使用では、おそらくバッテリー寿命をそれほど節約することはできません。
これらの Meteor Lake ラップトップ のいずれかを使用する時間がもっとできたら、バッテリー寿命をテストするまで待つ必要がありますが、大きな違いが生じるとは思えません。最高の Windows ラップトップでさえ、 Apple の競合製品 と比較するとバッテリー寿命はかなり平凡で、NPU がその状況を変えるのに十分であるとは思えません。
だからといって、PC 上で目にし始めているエキサイティングな AI アプリから気をそらすことはできません。 Audacity から Adobe スイート、GIMP の Stable Diffusion まで、AI を活用できる方法はたくさんあります。ただし、これらのアプリケーションのほとんどはクラウドまたは GPU によって処理され、専用の NPU は背景のぼかし以外にはあまり機能しません。
NPU がより強力になり、これらの AI アプリがより効率的になるにつれ、NPU がその役割を担うようになることに私は疑いの余地がありません。そして、AMD と Intel が将来それが起こるための基礎を築いていることは当然です。ただし、現状では、AI のパフォーマンスは主に GPU に焦点が当てられており、ビデオ通話を処理する効率的な AI プロセッサーには焦点が当てられていません。