スマートフォンですでに多数の生成 AI アプリを試したことがあるかもしれません。 OpenAI の ChatGPT や HeyPi はおしゃべりな AI アプリの例ですが、Runway ML などを使用すると、AI で生成されたビデオを携帯電話で直接作成できます。
しかし、これまでのところ、ほぼすべての生成 AI アプリはクラウドベースのコンピューティングに依存しています。つまり、コンソール ゲームをストリーミングするときに Microsoft サーバー センターで Xbox キットが重労働を行うのと同じように、魔法のような AI 処理はすべてクラウドで行われます。携帯電話またはタブレット。
MediaTek はこの状況を変え、 スマートフォン 上でオンデバイスの生成 AI コンピューティングを可能にしたいと考えています。この野心的なムーンショットは、今年末までに 携帯電話に搭載される MediaTek の次期主力チップセットで実現します。同社は、生成型 AI アプリの基礎として Llama 2 モデルを提供している の親会社である Meta によってその取り組みを支援されています。
チップメーカーは、オンデバイスの生成 AI 処理アプローチから得られるあらゆるメリットを宣伝しています。これには、「シームレスなパフォーマンス、プライバシーの向上、セキュリティと信頼性の向上、遅延の短縮、接続がほとんどまたはまったくない場所でも動作する機能、および接続の低さ」が含まれます。運営コスト。」
携帯電話での生成 AI の高速化
次期最上位の MediaTek チップは、スマートフォンの生成 AI エクスペリエンスを強化するために 3 つの重要な戦略を採用します。まず、OpenAI の GPT モデルや Google の PaLM 2 モデルに挑戦することを目的 として Meta によって開発されたオープンソースの大規模言語モデルである Llama 2 を 実行するために最適化された専用ソフトウェア スタックを備えています。
7月に リリースされた Llama 2は「研究および商用利用は無料」だ。 GPT ベースの AI アプリが現在話題になっているため、これまでのところ、Llama 2 言語モデルに依存するアプリはそれほど多くありません。しかし、MetaはMediaTekの最大のライバルであるQualcommを含むスマートフォン業界のプレーヤーを積極的に勧誘している。
MediaTekと同様に、クアルコムもメタ社と 契約 を結び、2024年から主力チップを搭載したスマートフォン上でLlamaベースのアプリケーションのオンデバイス処理を紹介することになった。両社は車両など他のアプリケーション分野もターゲットにしている。 XR ハードウェア、スマート ホーム デバイスなど。デバイスローカルの生成 AI の取り組みは、最上位のシリコンによって促進されます。
MediaTek は、今後の AI 対応のフラッグシップ チップで、「トランス バックボーン アクセラレーション」に依存する強化された APU (AI プロセッシング ユニット) も使用する予定です。トランスフォーマーは、ChatGPT や Microsoft の Bing Chat などの製品を生み出した GPT (Generative Pre-Trained Transformers) などの大規模な言語モデルを作成する役割を担うニューラル ネットワーク アーキテクチャの一種です。
最後に、MediaTek の新しいチップは DRAM モジュールにも組み込まれ、Llama ベースの生成 AI アプリのユーザー エクスペリエンスを強化します。 DRAM は Dynamic Random Memory の略で、アプリの作業データを保存する高速かつ低遅延のメモリ モジュールです。携帯電話の DRAM が多いほど、問題なくバックグラウンドで実行できるアプリの数が増えます。 OnePlus のようなスマートフォン メーカーが自社の携帯電話に 24 GB もの DRAM を搭載しているのには理由があります。
これらの AI アップグレードがあなたにとって何を意味するか
MediaTek は、前述の調整を実施することで、次期 AI チップは、処理要件の大部分をローカル ハードウェアに移すことで、LLM および AIGC (人工知能生成コンテンツ) エクスペリエンスを強化すると述べています。
どのような種類のタスクの高速化が期待できるかについては、Meta の Llama 2 モデルの機能とその上に構築されるアプリの種類によって異なります。 Llama 2 はテキストベースの自然言語モデルであるため、ChatGPT や Bard と同じ種類のトリックを実行することが期待できます。クエリを処理し、トレーニング データセットに基づいて回答を提供したり、テキストを要約または展開したりすることができます。
MediaTek にとって、この種の AI パートナーシップはこれが初めてではありません。今年7月、同社はゲーム分野での生成AIアプリケーションを検討するために、その名を冠したゲーム開発エンジンを開発するUnityの中国部門と契約を結んだ。
MediaTek は、Llama 2 アプリを搭載した新しいチップが年末までにスマートフォンに登場すると予想しているため、これが実際の製品でどのようになるかを確認するのに それほど 長くはかかりません。