Si vous voulez un assistant IA qui tourne sur votre téléphone sans Internet, le modèle que vous choisissez compte plus que tout le reste. Le bon modèle vous donne des réponses rapides, privées et de qualité. Le mauvais vous donne soit une lenteur pénible, soit des réponses pas assez bonnes pour être utiles.
Ce guide explique ce dont l’« IA sur l’appareil » a réellement besoin, quels modèles fonctionnent le mieux en 2026 et comment en choisir un selon le matériel de votre téléphone.
Ce dont l’« IA sur l’appareil » a réellement besoin
Faire tourner une IA sur un téléphone, ce n’est pas la même chose que dans un centre de données. Trois éléments doivent s’accorder :
- La taille du modèle : les petits modèles se chargent plus vite et utilisent moins de mémoire, mais peuvent donner des réponses plus courtes ou moins nuancées.
- La mémoire vive du téléphone : le modèle doit tenir en mémoire à côté du système et des autres applications.
- Le processeur neuronal (NPU) ou le GPU : les téléphones modernes ont des puces conçues spécialement pour les charges de travail d’IA.
Une bonne expérience d’IA sur l’appareil vient de l’accord entre ces trois éléments. Un téléphone haut de gamme peut faire tourner confortablement un modèle de 7 milliards de paramètres. Un téléphone milieu de gamme est plus à l’aise avec un modèle de 1 à 3 milliards.
Matériel du téléphone : ce qu’il faut pour faire tourner des modèles locaux
La plupart des smartphones sortis ces deux ou trois dernières années peuvent faire tourner des modèles d’IA en local. Les caractéristiques clés sont la mémoire vive, la puce et le stockage.
| Catégorie de téléphone | Mémoire vive typique | Taille de modèle maximale recommandée (4 bits) |
|---|---|---|
| Entrée de gamme / ancien (2020–2022) | 4 Go | 0,5B–1B |
| Milieu de gamme (2023–2024) | 6 Go | 1B–3B |
| Haut de gamme (2024–2025) | 8 Go | 3B–4B |
| Très haut de gamme (2025–2026) | 12–16 Go | 7B–8B |
Puces qui gèrent bien l’IA sur l’appareil :
- Apple : A16, A17 Pro, A18, A18 Pro, toutes dotées d’un Neural Engine d’au moins 16 cœurs. Les iPhone 15 Pro et ultérieurs sont excellents pour l’IA locale.
- Qualcomm : Snapdragon 8 Gen 2, 8 Gen 3, 8 Elite, avec le NPU Hexagon optimisé pour les LLM.
- MediaTek : les Dimensity 9300 et 9400 intègrent l’APU 790 avec une accélération dédiée aux LLM.
- Google : Tensor G3 / G4, performantes mais moins rapides que les puces haut de gamme d’Apple ou de Qualcomm pour l’inférence de LLM.
Stockage : les fichiers de modèles pèsent entre 400 Mo (petit modèle 1B, 4 bits) et 5 Go (modèle 7B, 4 bits). Vérifiez que vous avez de la place avant de télécharger.
Stockage et mémoire vive : pourquoi les deux comptent (et ne sont pas la même chose)
On confond souvent les deux, mais pour l’IA sur l’appareil, ils jouent des rôles très différents :
- Le stockage (stockage interne / mémoire flash) est l’endroit où se trouve le fichier du modèle quand il n’est pas utilisé. Voyez-le comme l’étagère. Un modèle 3B en Q4 occupe environ 2 Go de stockage en permanence, même quand vous ne discutez pas avec lui. Si votre téléphone est plein, vous ne pouvez tout simplement pas télécharger le modèle.
- La mémoire vive (RAM) est l’endroit où le modèle tourne réellement. Quand vous ouvrez l’application et lancez une conversation, le modèle est chargé du stockage vers la mémoire vive pour que le processeur lise ses poids assez vite pour générer des tokens. Voyez la mémoire vive comme votre bureau : seul ce que vous utilisez activement y est posé.
La règle pratique : le stockage détermine si vous pouvez garder le modèle ; la mémoire vive, si vous pouvez le faire tourner. Un téléphone avec 256 Go de stockage mais seulement 4 Go de mémoire vive peut contenir un modèle 7B, mais aura du mal (voire échouera) à le faire tourner. Un téléphone avec 12 Go de mémoire vive mais seulement 64 Go de stockage peut faire tourner rapidement de gros modèles, mais n’aura peut-être pas la place d’en garder plusieurs téléchargés à la fois.
Pour l’IA sur l’appareil, il vous faut assez des deux : du stockage pour le téléchargement, et une mémoire vive au moins égale à la taille du modèle chargé, plus une marge pour le système.
Libérez de la mémoire vive avant de lancer une IA locale
Comme le modèle entier doit tenir en mémoire vive pendant qu’il tourne, tout ce qui se dispute la mémoire ralentit directement l’inférence, ou pousse le système à décharger le modèle en pleine réponse. Avant une longue session d’IA locale :
- Fermez les applications en arrière-plan que vous n’utilisez pas, surtout les navigateurs, les jeux, les applications vidéo, les cartes et l’appareil photo.
- Évitez de faire tourner le modèle pendant un gros téléchargement, une sauvegarde cloud ou une synchronisation de photos.
- Sur iOS, balayez les applications vers le haut dans le sélecteur d’applications. Sur Android, touchez « Tout effacer » dans l’écran des applications récentes.
- Redémarrez le téléphone s’il est allumé depuis des jours : c’est le moyen le plus rapide de récupérer la mémoire qui fuit.
Vous remarquerez généralement la différence tout de suite : le premier token arrive plus vite, les tokens défilent plus rapidement et les réponses risquent beaucoup moins de se bloquer. Sur un téléphone milieu de gamme, libérer ne serait-ce que 1 à 2 Go de mémoire vive peut faire passer un modèle 3B de poussif à instantané.
Comprendre la quantification (4 bits, 8 bits) et pourquoi elle compte
Un modèle d’IA brut stocke chaque paramètre sous forme de nombre sur 16 ou 32 bits. Un modèle de 3 milliards de paramètres en pleine précision pèse environ 6 Go, trop pour la plupart des téléphones.
La quantification réduit la précision de ces nombres. Les options les plus courantes :
| Précision | Facteur de taille | Qualité | Vitesse | Idéal pour |
|---|---|---|---|---|
| FP16 (16 bits) | 1x | Maximale | Lent sur mobile | Serveurs uniquement |
| Q8 (8 bits) | ~0,5x | Quasi identique à FP16 | Modéré | Téléphones haut de gamme |
| Q4 (4 bits) | ~0,25x | Légère baisse, à peine perceptible | Rapide | Recommandé pour la plupart des téléphones |
| Q3 / Q2 | ~0,2x ou moins | Baisse de qualité perceptible | Le plus rapide | Appareils très anciens ou avec peu de mémoire vive |
Le juste milieu pour le mobile, c’est le Q4, et plus précisément Q4_K_M au format GGUF, que la plupart des applications d’IA sur l’appareil (dont aiME) utilisent. Vous obtenez à peu près la même qualité de réponse que le modèle complet, avec environ un quart de la mémoire et une inférence bien plus rapide.
Les meilleurs modèles d’IA sur l’appareil en 2026
Voici les modèles qui dominent actuellement l’IA sur l’appareil pour les téléphones. Tous sont à poids ouverts et disponibles en formats quantifiés.
Llama 3.2 (1B et 3B)
Llama 3.2 de Meta est conçu spécialement pour les appareils en périphérie. Le modèle 1B est étonnamment performant pour sa taille, et le modèle 3B rivalise avec des modèles bien plus grands d’il y a un an. Excellente prise en charge multilingue et bon suivi des instructions.
- Idéal pour : discussion polyvalente, aide à l’écriture, résumés
- Mémoire (Q4) : ~700 Mo (1B) / ~2 Go (3B)
- Fonctionne sur : téléphones milieu de gamme et au-delà
Gemma 2 / Gemma 3 (2B)
La famille Gemma de Google est optimisée pour l’efficacité. Gemma 2 2B dépasse sa catégorie sur les tests de raisonnement et tourne sans accroc sur un matériel modeste.
- Idéal pour : tâches de raisonnement, réponses concises, faible latence
- Mémoire (Q4) : ~1,5 Go
- Fonctionne sur : téléphones milieu de gamme et au-delà
Phi-3.5 Mini (3,8B)
La série Phi de Microsoft est connue pour être petite mais affûtée. Phi-3.5 Mini est particulièrement bon en sorties structurées, en code et en maths pour sa taille.
- Idéal pour : aide au code, maths, tâches structurées
- Mémoire (Q4) : ~2,3 Go
- Fonctionne sur : téléphones haut de gamme
Qwen 2.5 (0,5B / 1,5B / 3B)
La famille Qwen 2.5 d’Alibaba offre certaines des meilleures performances multilingues sur l’appareil. La variante 0,5B est idéale pour les appareils très modestes, et la variante 3B rivalise avec Llama 3.2 3B.
- Idéal pour : usage multilingue, choix de tailles flexible
- Mémoire (Q4) : ~400 Mo (0,5B) / ~1 Go (1,5B) / ~2 Go (3B)
- Fonctionne sur : tout téléphone récent (0,5B) ; milieu de gamme et au-delà (3B)
SmolLM2 (135M / 360M / 1,7B)
SmolLM2 de Hugging Face est conçu spécialement pour les appareils en périphérie. Le modèle 1,7B est remarquablement performant pour sa toute petite empreinte.
- Idéal pour : téléphones anciens, réponses très rapides
- Mémoire (Q4) : ~100 Mo (135M) / ~1 Go (1,7B)
- Fonctionne sur : presque tous les téléphones, y compris les appareils anciens
Comment choisir un modèle pour votre téléphone
Adaptez le modèle à votre matériel. Voici un guide de décision simple :
Si votre téléphone a 4 Go de mémoire vive ou moins :
- Utilisez Qwen 2.5 0,5B ou SmolLM2 1,7B (Q4)
- Attendez-vous à des réponses basiques mais utilisables
Si votre téléphone a 6 Go de mémoire vive :
- Utilisez Llama 3.2 1B ou Gemma 2 2B (Q4)
- Bon équilibre entre vitesse et qualité pour un usage quotidien
Si votre téléphone a 8 Go de mémoire vive :
- Utilisez Llama 3.2 3B ou Qwen 2.5 3B (Q4)
- C’est la meilleure catégorie pour la plupart des utilisateurs : haute qualité, rapidité, marge mémoire confortable
Si votre téléphone a 12 Go ou plus :
- Vous pouvez faire tourner des modèles 7B comme Mistral 7B ou Llama 3.1 8B (Q4)
- La meilleure qualité de réponse disponible sur l’appareil, mais plus lente que les modèles 3B
Si vous avez surtout besoin d’aide pour coder :
- Phi-3.5 Mini ou Qwen 2.5 Coder (3B, Q4)
Le meilleur modèle pour des réponses en temps réel
Sur un téléphone, « temps réel » signifie que le premier token apparaît en 200 millisecondes environ et que la réponse défile de façon fluide. Les petits modèles sont plus rapides.
Recommandés pour le temps réel : Llama 3.2 1B (Q4) ou Gemma 2 2B (Q4). Sur une puce haut de gamme comme le Snapdragon 8 Gen 3 ou l’A17 Pro, ces modèles peuvent générer de 20 à 40 tokens par seconde. Sur les téléphones milieu de gamme ou plus anciens, attendez-vous à des vitesses plus faibles : les performances réelles dépendent entièrement du matériel de votre appareil et de la mémoire vive disponible.
Pour la réponse la plus rapide possible, au prix d’un peu de qualité, SmolLM2 1,7B (Q4) est difficile à battre.
Le meilleur modèle pour la confidentialité
La confidentialité n’est pas une propriété du modèle lui-même, mais de l’endroit où il tourne. N’importe lequel de ces modèles devient une « IA privée » dès qu’il tourne sur l’appareil, sans connexion réseau.
La vraie question de confidentialité porte sur l’application, pas sur le modèle. Choisissez une application qui :
- Fait tourner le modèle entièrement sur votre appareil
- N’envoie ni les requêtes ni les réponses à un serveur
- N’exige pas de compte pour les fonctions de base
aiME remplit ces trois critères. Une fois un modèle téléchargé dans aiME, chaque requête est traitée en local. Rien n’est transmis. Pour une explication plus approfondie, lisez Pourquoi l’IA sur l’appareil est l’avenir de la vie privée.
Notre recommandation pour un usage hors ligne
Si vous voulez une réponse claire : Llama 3.2 3B en quantification Q4 est le meilleur modèle polyvalent sur l’appareil en 2026. Il tourne bien sur tout téléphone doté d’au moins 6 Go de mémoire vive et gère la discussion générale, l’écriture, les résumés et le raisonnement de base. La vitesse de réponse dépend de votre appareil : les téléphones haut de gamme seront fluides, les appareils milieu de gamme peuvent prendre un peu plus de temps.
Si votre téléphone est plus ancien ou a moins de mémoire vive, descendez à Llama 3.2 1B ou Gemma 2 2B sans trop perdre. Si vous avez un téléphone très haut de gamme et voulez la qualité maximale, montez à Mistral 7B ou Llama 3.1 8B.
Pour un usage hors ligne en particulier (vols, voyages, zones blanches, travail confidentiel), la catégorie 3B offre le bon équilibre. Vous obtenez des réponses vraiment utiles sans vider votre batterie ni faire chauffer votre téléphone.
Dans aiME, vous pouvez télécharger plusieurs modèles et passer de l’un à l’autre. Commencez par Llama 3.2 3B si votre téléphone le permet, gardez un modèle 1B comme solution de secours légère, et expérimentez à partir de là.
Questions fréquentes
Quel est le meilleur modèle d’IA pour un usage sur l’appareil, sur un téléphone ?
Pour la plupart des téléphones récents dotés de 6 à 8 Go de mémoire vive, les meilleurs modèles sur l’appareil sont Llama 3.2 (1B ou 3B), Gemma 2 (2B), Qwen 2.5 (1,5B ou 3B) et Phi-3.5 Mini. Un modèle 3B quantifié en 4 bits offre le meilleur équilibre entre qualité des réponses, vitesse et empreinte mémoire. Les applications comme aiME vous permettent de télécharger et de faire tourner ces modèles entièrement hors ligne.
De combien de mémoire vive un modèle d’IA sur l’appareil a-t-il besoin ?
Un modèle 1B quantifié en 4 bits a besoin d’environ 700 Mo à 1 Go de mémoire vive. Un modèle 3B, d’environ 2 à 3 Go. Un modèle 7B, d’environ 4 à 5 Go. Votre téléphone a aussi besoin de marge pour le système d’exploitation et les autres applications : un appareil doté d’au moins 6 Go de mémoire vive est recommandé pour les modèles 3B, et de 8 Go ou plus pour les modèles 7B.
Qu’est-ce que la quantification 4 bits, et pourquoi est-ce important pour l’IA mobile ?
La quantification réduit la précision des poids d’un modèle pour le rendre plus petit et plus rapide. Un modèle quantifié en 4 bits occupe environ un quart de la mémoire de la version en pleine précision, avec une légère baisse de qualité seulement. C’est ce qui permet de faire tourner des modèles d’IA performants directement sur un téléphone plutôt que sur un serveur.
Le meilleur modèle pour vous est celui qui convient à votre téléphone et à votre usage de l’IA. Si vous voulez la réponse courte : choisissez un modèle 3B en Q4, faites-le tourner dans aiME, et vous aurez dans votre poche un assistant IA performant, privé et hors ligne.
Guides associés :