Débutant 10 min IA locale

Choisir le bon modèle local pour votre ordinateur

Comprenez les paramètres, la quantification et la mémoire, et découvrez quels modèles d’IA locaux votre ordinateur peut faire tourner confortablement.

Le problème le plus courant en IA locale : choisir un modèle trop gros pour son ordinateur. Ce guide vous donne une méthode simple pour bien choisir.

Étape 1 : Connaître votre mémoire

Ce qui compte le plus, c’est la mémoire :

  • La mémoire de la carte graphique (VRAM) si vous avez une carte dédiée (NVIDIA ou AMD). Les modèles qui tiennent en VRAM sont rapides.
  • Sinon, la RAM du système. Ça fonctionne, mais plus lentement.
  • Les Mac Apple Silicon (M1 et suivants) partagent la mémoire entre processeur et carte graphique : la majeure partie de la RAM peut servir au modèle. Ils sont excellents pour l’IA locale.

Comment vérifier :

  • Windows : Gestionnaire des tâches → Performance → Mémoire (RAM) et GPU (Mémoire GPU dédiée).
  • macOS : menu Pomme → À propos de ce Mac → Mémoire.
  • Linux : free -h pour la RAM, nvidia-smi pour la VRAM NVIDIA.

Étape 2 : Comprendre la taille des modèles

Le nom d’un modèle indique sa taille en milliards de paramètres : 3B, 8B, 14B, 70B… (« B » pour billion, milliard en anglais). Plus de paramètres signifie généralement plus intelligent, mais plus lourd et plus lent.

Les modèles sont aussi quantifiés : leurs nombres sont compressés pour occuper moins de mémoire. Vous verrez des mentions comme Q4_K_M, Q5, Q8. Q4 est le meilleur compromis habituel : beaucoup plus léger, pour une petite perte de qualité.

Astuce

Règle simple : un modèle en Q4 demande environ 0,6 Go de mémoire par milliard de paramètres, plus 1 à 2 Go. Un modèle 8B en Q4 demande donc environ 6 Go.

Étape 3 : Utiliser ce tableau

Votre mémoire (VRAM, ou RAM sur Mac / sans carte graphique)Taille de modèle confortable (Q4)Adapté pour
8 Go1B – 4BConversation simple, reformulation, courts résumés
16 Go7B – 8B (jusqu’à ~14B)Assistant du quotidien, aide au code
24 – 32 Go14B – 32BBonne rédaction, raisonnement et code
64 Go et +70B et plusProche des bons modèles en ligne sur beaucoup de tâches

Sur un PC sans carte graphique dédiée, le modèle tourne en RAM sur le processeur : utilisez le même tableau mais attendez-vous à des réponses plus lentes, et laissez quelques Go libres pour le système.

Étape 4 : Choisir selon la tâche

  • Conversation et rédaction : modèles généralistes « instruct » ou « chat » de familles connues (Llama, Gemma, Qwen, Mistral).
  • Code : modèles avec « coder » dans le nom.
  • Raisonnement / maths : modèles « thinking » ou de raisonnement (plus lents mais plus soigneux).
  • Images en entrée : modèles « vision », capables de décrire des photos.
  • Français : les familles multilingues (comme Qwen, Gemma ou Mistral) gèrent généralement bien le français.

Étape 5 : Tester et ajuster

  1. Commencez par un modèle d’une taille en dessous du maximum indiqué dans le tableau.
  2. Si les réponses sont rapides et que l’ordinateur reste réactif, essayez la taille au-dessus.
  3. Si c’est lent ou que le système « swappe » (le disque travaille et tout se fige), redescendez.

Remarque

LM Studio indique directement si un modèle devrait tenir sur votre machine, ce qui est pratique en cas de doute.

La taille du contexte compte aussi

Le contexte, c’est la quantité de texte que le modèle garde en tête (votre conversation plus les documents). Un contexte plus long consomme davantage de mémoire. Si un modèle qui tient habituellement devient lent avec de longs documents, réduisez la taille du contexte ou prenez un modèle plus petit.

Dernière vérification : mi-2026. Les menus et noms de boutons des applications d’IA changent souvent ; si quelque chose diffère, cherchez l’option la plus proche.

Commentaires 0

Partagez vos astuces, les prompts qui ont marché pour vous, ou vos questions.

Aucun commentaire pour l’instant. Soyez le premier à partager une astuce.