インターネットなしでスマホ上で動く AI アシスタントがほしいなら、何よりも重要なのはどのモデルを選ぶかです。適切なモデルなら、速く、プライベートで、質の高い返答が得られます。合わないモデルだと、動きが極端に遅いか、役に立つほどの答えが得られないかのどちらかになります。
このガイドでは、「オンデバイスAI」に実際に何が必要か、2026年にどのモデルが最も優れているか、そしてスマホのハードウェアに合わせたモデルの選び方を説明します。
「オンデバイスAI」に実際に必要なもの
スマホで AI を動かすのは、データセンターで動かすのとは違います。3つの要素がかみ合う必要があります。
- モデルのサイズ — 小さなモデルは読み込みが速くメモリの使用量も少ないものの、答えが短くなったり、ニュアンスが乏しくなったりすることがあります。
- スマホの RAM — モデルは、OS やほかのアプリと一緒にメモリに収まる必要があります。
- ニューラルプロセッサ（NPU）または GPU — 最近のスマホには、AI の処理専用に設計されたチップがあります。
よいオンデバイスAIの体験は、この3つをかみ合わせることで生まれます。フラッグシップのスマホなら 70億パラメータのモデルを快適に動かせます。ミッドレンジのスマホには 1B〜3B のモデルが向いています。
スマホのハードウェア — ローカルのモデルを動かすのに必要なもの
ここ2〜3年に発売されたほとんどのスマートフォンで、ローカルの AI モデルを動かせます。重要なスペックは、RAM、チップセット、ストレージです。
| スマホのクラス | 一般的な RAM | おすすめの最大モデルサイズ（4ビット） |
|---|---|---|
| 低価格 / 古い機種（2020〜2022年） | 4 GB | 0.5B〜1B |
| ミッドレンジ（2023〜2024年） | 6 GB | 1B〜3B |
| ハイエンド（2024〜2025年） | 8 GB | 3B〜4B |
| フラッグシップ（2025〜2026年） | 12〜16 GB | 7B〜8B |
オンデバイスAIを快適に扱えるチップセット：
- Apple：A16、A17 Pro、A18、A18 Pro。いずれも 16コア以上の Neural Engine を搭載しています。iPhone 15 Pro 以降はローカルAIに最適です。
- Qualcomm：Snapdragon 8 Gen 2、8 Gen 3、8 Elite。LLM 向けに最適化された Hexagon NPU を搭載しています。
- MediaTek：Dimensity 9300 と 9400。LLM 専用の高速化に対応した APU 790 を搭載しています。
- Google：Tensor G3 / G4。十分な性能はありますが、LLM の推論では Apple や Qualcomm のフラッグシップほど速くはありません。
ストレージ：モデルのファイルは 400 MB（小さな 1B のモデル、4ビット）から 5 GB（7B のモデル、4ビット）です。ダウンロードの前に空き容量があることを確認してください。
ストレージと RAM — どちらも重要（そして同じではない）
この2つはよく混同されますが、オンデバイスAIではまったく違う役割を果たします。
- ストレージ（内部ストレージ / フラッシュ）は、使っていないときにモデルのファイルが置かれる場所です。棚のようなものだと考えてください。3B の Q4 のモデルは、チャットしていないときでも、約 2 GB のストレージを常に使います。スマホがいっぱいなら、モデルをダウンロードすることはできません。
- RAM（メモリ）は、モデルが実際に動く場所です。アプリを開いて会話を始めると、モデルはストレージから RAM に読み込まれ、プロセッサはトークンを生成するのに十分な速さで重みを読み取れるようになります。RAM は机のようなもので、実際に使っているものだけがそこに置かれます。
実用的なルールは、ストレージはモデルを保存できるかどうかを決め、RAM はモデルを動かせるかどうかを決めるということです。ストレージが 256 GB でも RAM が 4 GB しかないスマホは、7B のモデルを保存できても、動かすのは難しい（あるいはできない）でしょう。RAM が 12 GB でもストレージが 64 GB しかないスマホは、大きなモデルを速く動かせても、複数のモデルを同時にダウンロードしておく余裕はないかもしれません。
オンデバイスAIには、その両方が十分に必要です。ダウンロードのためのストレージと、読み込んだときのモデルのサイズに OS のための余裕を加えた分以上の RAM です。
ローカルAIを動かす前に RAM を空ける
モデル全体が動いている間は RAM に収まっている必要があるため、メモリを奪い合うものがあると、推論が直接遅くなったり、返答の途中で OS がモデルをメモリから外してしまったりします。ローカルAIを長く使う前に、次のことをしましょう。
- 実際に使っていないバックグラウンドのアプリを閉じる。特にブラウザ、ゲーム、動画アプリ、地図、カメラ。
- 大きなダウンロード、クラウドへのバックアップ、写真の同期の最中にはモデルを動かさない。
- iOS ではアプリスイッチャーでアプリを上にスワイプし、Android では履歴の画面で「すべて消去」をタップする。
- 何日も電源を入れっぱなしなら、スマホを再起動する。漏れたメモリを取り戻すいちばん速い方法です。
たいていはすぐに違いがわかります。最初のトークンまでの待ち時間が短くなり、トークンが速く流れ、返答が止まることもずっと少なくなります。ミッドレンジのスマホなら、1〜2 GB の RAM を空けるだけで、3B のモデルがもたつくか一瞬で返答するかが変わることもあります。
量子化（4ビット、8ビット）とその重要性
そのままの AI モデルは、各パラメータを 16ビットまたは 32ビットの数値として保存しています。フル精度の 30億パラメータのモデルは約 6 GB で、ほとんどのスマホには大きすぎます。
量子化は、それらの数値の精度を下げます。よく使われる選択肢は次のとおりです。
| 精度 | サイズの倍率 | 品質 | 速さ | 向いている用途 |
|---|---|---|---|---|
| FP16（16ビット） | 1倍 | 最高 | モバイルでは遅い | サーバー専用 |
| Q8（8ビット） | 約 0.5倍 | FP16 とほぼ同じ | 中程度 | ハイエンドのスマホ |
| Q4（4ビット） | 約 0.25倍 | わずかに低下、ほとんど気づかない | 速い | ほとんどのスマホにおすすめ |
| Q3 / Q2 | 約 0.2倍以下 | 品質の低下がはっきりわかる | 最速 | とても古い / RAM の少ない端末 |
モバイルにちょうどよいのは Q4、具体的には、ほとんどのオンデバイスAIアプリ（aiME を含む）が使う GGUF 形式の Q4_K_M です。フルのモデルとほぼ同じ品質の答えが、約4分の1のメモリと、ずっと速い推論で得られます。
2026年の最適なオンデバイスAIモデル
現在、スマホのオンデバイスAIを牽引しているモデルです。いずれもオープンウェイトで、量子化された形式で入手できます。
Llama 3.2（1B と 3B）
Meta の Llama 3.2 は、エッジデバイス向けに専用設計されています。1B のモデルはそのサイズにしては驚くほど高性能で、3B のモデルは1年前のずっと大きなモデルに匹敵します。多言語への対応に優れ、指示にもしっかり従います。
- 向いている用途：汎用のチャット、文章の手助け、要約
- メモリ（Q4）：約 700 MB（1B）/ 約 2 GB（3B）
- 動作する端末：ミッドレンジ以上のスマホ
Gemma 2 / Gemma 3（2B）
Google の Gemma ファミリーは効率を重視して最適化されています。Gemma 2 2B は推論のベンチマークでサイズ以上の実力を発揮し、控えめなハードウェアでもスムーズに動きます。
- 向いている用途：推論の作業、簡潔な答え、待ち時間の短い利用
- メモリ（Q4）：約 1.5 GB
- 動作する端末：ミッドレンジ以上のスマホ
Phi-3.5 Mini（3.8B）
Microsoft の Phi シリーズは、小さくても鋭いことで知られています。Phi-3.5 Mini は、そのサイズにしては構造化された出力、コード、数学が特に得意です。
- 向いている用途：コーディングの手助け、数学、構造化された作業
- メモリ（Q4）：約 2.3 GB
- 動作する端末：ハイエンドのスマホ
Qwen 2.5（0.5B / 1.5B / 3B）
Alibaba の Qwen 2.5 ファミリーは、オンデバイスで最高水準の多言語性能を備えています。0.5B 版はリソースがとても少ない端末に最適で、3B 版は Llama 3.2 3B に引けを取りません。
- 向いている用途：多言語での利用、柔軟なサイズの選択肢
- メモリ（Q4）：約 400 MB（0.5B）/ 約 1 GB（1.5B）/ 約 2 GB（3B）
- 動作する端末：最近のあらゆるスマホ（0.5B）、ミッドレンジ以上（3B）
SmolLM2（135M / 360M / 1.7B）
Hugging Face の SmolLM2 は、エッジデバイス専用につくられています。1.7B のモデルは、その小ささにしては驚くほど高性能です。
- 向いている用途：古いスマホ、とても速い返答
- メモリ（Q4）：約 100 MB（135M）/ 約 1 GB（1.7B）
- 動作する端末：古い端末を含むほぼすべてのスマホ
スマホに合ったモデルの選び方
モデルはハードウェアに合わせて選びましょう。簡単な判断のガイドは次のとおりです。
スマホの RAM が 4 GB 以下の場合：
- Qwen 2.5 0.5B または SmolLM2 1.7B（Q4）を使う
- 基本的ではあるものの、使えるチャットの返答が期待できる
スマホの RAM が 6 GB の場合：
- Llama 3.2 1B または Gemma 2 2B（Q4）を使う
- 日常的な利用で、速さと品質のバランスがよい
スマホの RAM が 8 GB の場合：
- Llama 3.2 3B または Qwen 2.5 3B（Q4）を使う
- ほとんどのユーザーにとって最適なクラス。品質が高く、速く、メモリにも余裕がある
スマホの RAM が 12 GB 以上の場合：
- Mistral 7B や Llama 3.1 8B（Q4）のような 7B のモデルを動かせる
- オンデバイスで得られる最高の返答の品質。ただし 3B のモデルより遅い
特にコーディングの手助けがほしい場合：
- Phi-3.5 Mini または Qwen 2.5 Coder（3B、Q4）
リアルタイムの返答に最適なモデル
スマホでの「リアルタイム」とは、最初のトークンが約 200ミリ秒以内に表示され、返答がスムーズに流れることを意味します。小さなモデルほど速くなります。
リアルタイムにおすすめ：Llama 3.2 1B（Q4）または Gemma 2 2B（Q4）。Snapdragon 8 Gen 3 や A17 Pro のようなフラッグシップのチップなら、これらのモデルは毎秒 20〜40 トークンの速さで返答を流せます。ミッドレンジや古いスマホでは速度は落ちます。実際のパフォーマンスは、端末のハードウェアと使える RAM によってすべて決まります。
多少の品質と引き換えにできるだけ速い返答がほしいなら、SmolLM2 1.7B（Q4）に勝るものはなかなかありません。
プライバシーに最適なモデル
プライバシーはモデルそのものの性質ではなく、モデルがどこで動くかの性質です。ここで紹介したどのモデルも、ネットワーク接続なしでオンデバイスで動いた瞬間に「プライベートAI」になります。
本当のプライバシーの問題は、モデルではなくアプリです。次の条件を満たすアプリを選びましょう。
- モデルを完全に端末上で動かす
- プロンプトや返答をサーバーに送らない
- 基本機能にアカウントを必要としない
aiME は3つの条件すべてを満たしています。aiME の中でモデルをダウンロードすれば、すべてのプロンプトはローカルで処理されます。何も送信されません。詳しくはオンデバイスAIがプライバシーの未来である理由をご覧ください。
オフラインでの利用に私たちがおすすめするモデル
はっきりした答えがほしいなら、Q4 で量子化した Llama 3.2 3B が、2026年のオンデバイスのモデルとして最もバランスに優れています。RAM が 6 GB 以上のどのスマホでもよく動き、一般的なチャット、文章作成、要約、基本的な推論をこなします。返答の速さは端末によって変わり、フラッグシップのスマホなら快適ですが、ミッドレンジの端末では少し時間がかかることがあります。
スマホが古い、あるいは RAM が少ない場合は、Llama 3.2 1B や Gemma 2 2B に下げても、失うものはそれほど多くありません。フラッグシップを持っていて最高の品質がほしいなら、Mistral 7B や Llama 3.1 8B にステップアップしましょう。
フライト、旅行、圏外、プライバシーに配慮が必要な作業など、特にオフラインで使う場合は、3B のクラスがちょうどよいバランスです。バッテリーを消耗させたりスマホを熱くしたりせずに、本当に役立つ返答が得られます。
aiME では、複数のモデルをダウンロードして切り替えられます。スマホが対応していれば Llama 3.2 3B から始め、軽量の予備として 1B のモデルも残しておき、そこからいろいろ試してみましょう。
よくある質問
スマホでオンデバイスで使うのにいちばんよい AI モデルは？
RAM が 6〜8 GB のほとんどの最近のスマホにとって、最適なオンデバイスのモデルは、Llama 3.2（1B または 3B）、Gemma 2（2B）、Qwen 2.5（1.5B または 3B）、Phi-3.5 Mini です。4ビット量子化した 3B のモデルが、返答の品質、速さ、メモリ使用量のバランスで最も優れています。aiME のようなアプリなら、これらのモデルをダウンロードして完全にオフラインで動かせます。
オンデバイスの AI モデルにはどのくらいの RAM が必要ですか？
4ビット量子化した 1B のモデルには約 700 MB〜1 GB、3B のモデルには約 2〜3 GB、7B のモデルにはおよそ 4〜5 GB の RAM が必要です。スマホには OS やほかのアプリのための余裕も必要なので、3B のモデルには RAM 6 GB 以上、7B のモデルには 8 GB 以上の端末をおすすめします。
4ビット量子化とは何ですか？モバイルAIにとってなぜ重要なのですか？
量子化とは、モデルの重みの精度を下げて、モデルを小さく速くすることです。4ビット量子化したモデルは、フル精度の版のおよそ4分の1のメモリで済み、品質の低下はわずかです。これによって、高性能な AI モデルをサーバーではなくスマホで直接動かせるようになります。
あなたに最適なモデルは、スマホに合い、AI の使い方に合うモデルです。手短に言えば、Q4 の 3B のモデルを選んで aiME で動かせば、高性能でプライベートなオフラインの AI アシスタントがポケットに入ります。
関連ガイド：