クアルコムは、生成 AI に優れた 2 つの強力な新しいプロセッサーを発表しました。1 つはラップトップ用、もう 1 つは携帯電話用です。人工知能の潜在的なアプリケーションがテキストから画像、ビデオなどに拡大し続けるにつれて、自分のデバイスでの高速処理の重要性が増しています。
Snapdragon X Elite は、Qualcomm のエキサイティングな新しいラップトップ プロセッサであり、Windows ラップトップ としてクラス最高の CPU パフォーマンスと驚異的な GPU 速度を誇ります。携帯電話の場合、 Snapdragon 8 Gen 3 は、 前世代 よりも 30% 高速化され、バッテリーから消費するエネルギーが 20% 削減されています。
CPU と GPU の仕様は重要ですが、クアルコムはチップの最新リリースで、最新チップの AI 処理能力を強調しました。このパフォーマンスの向上により、 クアルコムはいくつかの生成 AI モデルを Snapdragon ラップトップやスマートフォン上でローカルに実行できるように最適化しました 。そして、Intel、AMD、Apple に対する同社の主張は印象的です。
では、AI はどれくらい速いのでしょうか?さて、Qualcomm によると、新しい Snapdragon X Elite チップは、INT4 AI ベンチマーク テストで 45 TOPS (1 秒あたり数兆回の演算)、 Meta の高度な Llama 2 AI モデル で 1 秒あたり 30 トークンを提供します。クアルコムによれば、これは競合他社よりも4.5倍速いという。 Snapdragon 8 Gen 3 は、1 秒あたり 20 個のトークンを処理し、高度な写真処理のために画像内のオブジェクトを分離するリアルタイムのセグメンテーションを提供し、1 秒未満で画像生成のための安定した拡散を実行すると主張されています。
Snapdragon X Elite は、130 億パラメータの生成 AI モデルをデバイス上で実行することもできます。電話機の場合、Snapdragon 8 Gen 3 では 100 億のパラメータ モデルを実行できます。クアルコムの上級副社長兼技術計画およびエッジ ソリューション担当ゼネラル マネージャーの Durga Malladi 氏は、Snapdragon 8 Gen 3 がマルチモーダルをサポートする最初の製品であると述べています (画像、テキストなど）を電話で。
クアルコムは、単なる生のパフォーマンスを超えて、オンデバイス AI がクエリと結果を安全に保ち、ユーザーのプライバシーを確保するのに役立つと述べています。自撮り写真、個人の写真とビデオ、音声、テキストはすべて 新しいマルチモーダル AI アプリ で使用されるため、クラウドベースの AI にアップロードすると、生体認証と個人データが危険にさらされる可能性があります。
クラウドベースの AI は、急速な導入による成長の痛みや、十分な速さでスケールアップするための苦労を経験していますが、ローカル AI 処理では、待ち時間が短く、エネルギー使用量が少なく、コストも削減できます。
クアルコムは、これはすべてテクノロジーの相乗効果によって可能になったと説明した。最も人気のある AI モデルのいくつかは、Snapdragon プロセッサ向けに最適化されており、CPU、GPU、NPU (ニューラル プロセッサ)、センシング ハブの連携を利用して、前世代よりも大幅に高速に結果を提供します。新しいチップは もサポートし、処理のボトルネックを解消します。
AI への需要が高まる中、クアルコムのラップトップ用 Snapdragon X Elite と携帯電話用 Snapdragon 8 Gen 3 は、オンデバイス処理を可能にすることで、画像生成の高速化、テキスト処理の高速化、および両方の安全性の向上を実現します。最初に何が起こるかを見るのは興味深いでしょう