Le problème le plus courant en IA locale : choisir un modèle trop gros pour son ordinateur. Ce guide vous donne une méthode simple pour bien choisir.
Étape 1 : Connaître votre mémoire
Ce qui compte le plus, c’est la mémoire :
- La mémoire de la carte graphique (VRAM) si vous avez une carte dédiée (NVIDIA ou AMD). Les modèles qui tiennent en VRAM sont rapides.
- Sinon, la RAM du système. Ça fonctionne, mais plus lentement.
- Les Mac Apple Silicon (M1 et suivants) partagent la mémoire entre processeur et carte graphique : la majeure partie de la RAM peut servir au modèle. Ils sont excellents pour l’IA locale.
Comment vérifier :
- Windows : Gestionnaire des tâches → Performance → Mémoire (RAM) et GPU (Mémoire GPU dédiée).
- macOS : menu Pomme → À propos de ce Mac → Mémoire.
- Linux :
free -hpour la RAM,nvidia-smipour la VRAM NVIDIA.
Étape 2 : Comprendre la taille des modèles
Le nom d’un modèle indique sa taille en milliards de paramètres : 3B, 8B, 14B, 70B… (« B » pour billion, milliard en anglais). Plus de paramètres signifie généralement plus intelligent, mais plus lourd et plus lent.
Les modèles sont aussi quantifiés : leurs nombres sont compressés pour occuper moins de mémoire. Vous verrez des mentions comme Q4_K_M, Q5, Q8. Q4 est le meilleur compromis habituel : beaucoup plus léger, pour une petite perte de qualité.
Astuce
Règle simple : un modèle en Q4 demande environ 0,6 Go de mémoire par milliard de paramètres, plus 1 à 2 Go. Un modèle 8B en Q4 demande donc environ 6 Go.
Étape 3 : Utiliser ce tableau
| Votre mémoire (VRAM, ou RAM sur Mac / sans carte graphique) | Taille de modèle confortable (Q4) | Adapté pour |
|---|---|---|
| 8 Go | 1B – 4B | Conversation simple, reformulation, courts résumés |
| 16 Go | 7B – 8B (jusqu’à ~14B) | Assistant du quotidien, aide au code |
| 24 – 32 Go | 14B – 32B | Bonne rédaction, raisonnement et code |
| 64 Go et + | 70B et plus | Proche des bons modèles en ligne sur beaucoup de tâches |
Sur un PC sans carte graphique dédiée, le modèle tourne en RAM sur le processeur : utilisez le même tableau mais attendez-vous à des réponses plus lentes, et laissez quelques Go libres pour le système.
Étape 4 : Choisir selon la tâche
- Conversation et rédaction : modèles généralistes « instruct » ou « chat » de familles connues (Llama, Gemma, Qwen, Mistral).
- Code : modèles avec « coder » dans le nom.
- Raisonnement / maths : modèles « thinking » ou de raisonnement (plus lents mais plus soigneux).
- Images en entrée : modèles « vision », capables de décrire des photos.
- Français : les familles multilingues (comme Qwen, Gemma ou Mistral) gèrent généralement bien le français.
Étape 5 : Tester et ajuster
- Commencez par un modèle d’une taille en dessous du maximum indiqué dans le tableau.
- Si les réponses sont rapides et que l’ordinateur reste réactif, essayez la taille au-dessus.
- Si c’est lent ou que le système « swappe » (le disque travaille et tout se fige), redescendez.
Remarque
LM Studio indique directement si un modèle devrait tenir sur votre machine, ce qui est pratique en cas de doute.
La taille du contexte compte aussi
Le contexte, c’est la quantité de texte que le modèle garde en tête (votre conversation plus les documents). Un contexte plus long consomme davantage de mémoire. Si un modèle qui tient habituellement devient lent avec de longs documents, réduisez la taille du contexte ou prenez un modèle plus petit.
Dernière vérification : mi-2026. Les menus et noms de boutons des applications d’IA changent souvent ; si quelque chose diffère, cherchez l’option la plus proche.
Commentaires 0
Partagez vos astuces, les prompts qui ont marché pour vous, ou vos questions.
Aucun commentaire pour l’instant. Soyez le premier à partager une astuce.
Connectez-vous ou créez un compte gratuit pour commenter.