Apple、iPhone 上で LLM を実行する画期的な方法を開発
Apple GPT は ポケットの中にありますか?それはあなたが思っているよりも早く現実になるかもしれません。 Apple AI 研究者らは、革新的なフラッシュ メモリ利用技術を発明することで、メモリが限られた iPhone やその他の Apple デバイスに大規模言語モデル (LLM) を導入する上で重要な進歩を遂げたと述べています。
LLM とメモリ制約
ChatGPT や Claude などの LLM ベースのチャットボットはデータとメモリを非常に大量に消費し、通常、機能するには膨大な量のメモリを必要とします。これは、メモリ容量が限られている iPhone のようなデバイスにとっては課題です。この問題に取り組むために、Apple の研究者は、アプリや写真が存在するのと同じメモリであるフラッシュ メモリを AI モデルのデータの保存に使用する新しい技術を開発しました。
AIをフラッシュメモリに保存
「 フラッシュ内の LLM : メモリが限られた効率的な大規模言語モデル推論」と題された新しい 研究論文 の中で、著者らは、従来 LLM の実行に使用されていた RAM よりもフラッシュ ストレージがモバイル デバイスに豊富にあると指摘しています。彼らの手法は、データ転送を最小化し、フラッシュ メモリのスループットを最大化する 2 つの主要な技術を使用して、制限を巧みに回避します。
- ウィンドウ処理: これはリサイクル方法と考えてください。 AI モデルは、毎回新しいデータをロードするのではなく、すでに処理したデータの一部を再利用します。これにより、定期的にメモリをフェッチする必要性が減り、プロセスがより高速かつスムーズになります。
- 行と列のバンドル: このテクニックは、一度に 1 単語ずつではなく、大きな塊に分けて本を読むのに似ています。データをより効率的にグループ化することで、フラッシュ メモリからデータをより速く読み取ることができ、AI の言語の理解と生成の能力が向上します。
論文によれば、これらの方法を組み合わせることで、AI モデルは iPhone の利用可能なメモリの最大 2 倍のサイズで実行できるとのことです。これは、標準プロセッサ (CPU) では 4 ～ 5 倍、グラフィックス プロセッサ (GPU) では 20 ～ 25 倍という驚異的な速度の向上に相当します。 「このブレークスルーは、リソースが限られた環境に高度な LLM を導入し、それによって適用性とアクセシビリティを拡大する場合に特に重要です」と著者らは書いています。
iPhone 上の AI の高速化
AI 効率の画期的な進歩により、より高度な Siri 機能、リアルタイム言語翻訳、写真や拡張現実における洗練された AI 主導の機能など、将来の iPhone に新たな可能性が開かれます。この技術は、iPhone がデバイス上で複雑な AI アシスタントやチャットボットを実行するための準備も整えており、Apple はすでに取り組んでいると言われています。
Apple の生成 AI の取り組みは、最終的には音声アシスタント「Siri」に組み込まれる可能性があります。 Appleは2023年2月に AIサミットを開催し 、大規模な言語モデルの作業について従業員に説明した。 Bloomberg によると、Apple は AI と深く統合された、 よりスマートなバージョンの Siri を目指しているとのこと。 Apple は、「Siri」とメッセージ アプリの連携方法を更新し、ユーザーが複雑な質問に答えたり、文章をより効果的に自動入力できるようにする予定です。さらに、Apple はできるだけ多くの Apple アプリに AI を追加する計画があると 噂されて います。
アップルGPT
Appleは「Ajax」と呼ばれる独自の生成AIモデルを開発していると伝えられている。 OpenAI の GPT-3 や GPT-4 などに匹敵するように設計された Ajax は 2,000 億のパラメーターで動作し、言語の理解と生成における高度な複雑さと機能を示唆しています。社内では「Apple GPT」として知られる Ajax は、Apple 全体で機械学習開発を統合することを目指しており、AI を Apple のエコシステムにより深く統合する広範な戦略を示唆しています。
最新のレポートの時点では、Ajax は前世代の ChatGPT 3.5 よりも高性能であると考えられています。ただし、2023 年 9 月の時点で、OpenAI の新しいモデルは Ajax の機能を超えて進歩している可能性があることも示唆されています。
The Information とアナリストの Jeff Pu は、Apple が iOS 18 がリリースされる 2024 年後半頃に 、ある種の生成 AI 機能を「iPhone」と iPad で利用できるようになるだろうと主張しています。 Pu氏は10月、Appleが2023年に数百台のAIサーバーを構築し、2024年にはさらに多くのAIサーバーを構築すると述べた。伝えられるところによると、AppleはクラウドベースのAIとオンデバイス処理を備えたAIの組み合わせを提供する予定だという。
