Quel matériel faut-il pour faire tourner un modèle d’IA local sur votre PC ?

Téléchargez Ollama ou LM Studio, choisissez un modèle, et en quelques minutes seulement, vous pouvez lancer un chatbot local. Il n’y a pas d’abonnement, il fonctionne sans connexion Internet, et aucune de vos données ne quitte votre PC. Mais il y a un piège : ce que vous pouvez exécuter et la rapidité de réponse dépendent entièrement de la puissance de votre machine.

Votre PC ordinaire avec 16 Go de RAM pourra faire tourner des modèles relativement petits avec environ sept à huit milliards de paramètres. Le Llama 3.1 8B de Meta, ou le Qwen3 8B d’Alibaba, ou une carte graphique avec 8 Go de VRAM les feront tourner assez rapidement. Mais ces modèles sont loin des modèles de pointe derrière ChatGPT ou Claude aujourd’hui. Si vous voulez exécuter quelque chose de plus proche, vous aurez besoin d’au moins 32 Go de mémoire et d’une carte graphique avec 16 Go ou plus de VRAM qui, aux prix actuels, n’est pas donnée.

La mémoire nécessaire à un modèle croît presque linéairement avec sa taille, celle-ci étant mesurée en milliards de paramètres (B). La plupart des utilisateurs exécutent des versions compressées (« quantisées ») des modèles locaux qui stockent chaque paramètre en environ quatre bits, réduisant un modèle à environ un quart de sa taille d’origine. Dans la bibliothèque d’Ollama, cela place Llama 3.1 8B à 4,9 Go, Phi-4 de Microsoft à 9,1 Go, Gemma 3 27B de Google à 17 Go, et Llama 3.3 70B de Meta à 43 Go. La règle générale d’Ollama est qu’il faut 8 Go de RAM pour un modèle 7B, 16 Go pour 13B et 32 Go pour 33B.

Le gpt-oss-20b d’OpenAI compte 21 milliards de paramètres mais n’en utilise que 3,6 milliards pour chaque token grâce à un design appelé « mélange d’experts ». Cela le rend rapide, mais le modèle doit encore tenir dans la mémoire disponible. OpenAI affirme qu’il fonctionne « avec seulement 16 Go de mémoire », mais à 14 Go dans Ollama, c’est presque tout un PC de 16 Go.

À chaque fois qu’un modèle génère un mot, ou plus exactement un token, il doit lire l’ensemble de ses paramètres. Par conséquent, la vitesse dépend bien plus de la bande passante mémoire que de la puissance brute de calcul. Les ingénieurs de Nvidia décrivent cette étape comme « limitée par la mémoire ». La VRAM d’une carte graphique est plusieurs fois plus rapide que la RAM du reste de votre PC, ce qui explique pourquoi un modèle qui tient sur votre GPU s’exécute beaucoup plus rapidement que celui qui déborderait en mémoire système.

Pour avoir une idée, tout ce qui dépasse cinq à dix tokens par seconde suit le rythme de lecture de la plupart des gens. Lors des tests de LMSYS, le RTX 5090 de Nvidia a été mesuré générant du texte à partir du gpt-oss-20b d’OpenAI à 205 tokens par seconde. Les benchmarks de llama.cpp placent le M4 de base d’Apple à environ 24 tokens par seconde sur un modèle 7B. Ollama a mesuré le DGX Spark de Nvidia, le PC développeur IA à 3 999 dollars que Nvidia a commencé à vendre l’année dernière, à 38 tokens par seconde sur Llama 3.1 8B, mais seulement 4,42 sur la version 70B.

Personnellement, j’ai exécuté Mistral 7B sur un Asus Zenbook Duo 2024 équipé de 32 Go de RAM et d’un NPU AI Boost d’Intel. Via Ollama, Mistral a porté l’utilisation du CPU à 52 pour cent et celle de la mémoire à environ 17 Go. C’est gérable en soi, mais cela ralentirait l’ordinateur portable si quelque chose d’autre de demandant était en cours. En passant par l’OpenVINO d’Intel, le même modèle a maintenu le NPU à 98 pour cent tandis que le CPU restait à trois pour cent, et l’ordinateur portable est resté rapide et réactif tout en écrivant 2 500 mots (d’absurdités) en environ trois minutes.

Dans les classements d’Artificial Analysis d’avril 2026, Qwen3.5 27B du géant Alibaba (Chine) a obtenu 42 sur son indice d’intelligence, au même niveau que GPT-5 d’OpenAI dans son réglage moyen, tandis que Gemma 4 31B de Google a obtenu 39. Les modèles cloud de pointe dominaient le tableau avec 57, toutefois, et Qwen3.5 27B nécessite entre 17 Go et 20 Go de mémoire, ce qui dépasse évidemment ce qu’un PC de 16 Go peut offrir.

Mais même les PC les plus puissants ne caresseront guère ce dont l’intelligence de pointe a besoin. Kimi K2.6 de Moonshot, un modèle à 1 000 milliards de paramètres qui figurait parmi les meilleurs modèles à poids ouverts lors de son lancement en avril 2026, nécessite environ 600 Go de RAM et VRAM combinés pour tourner en 4 bits, selon Unsloth, qui publie des versions compressées de modèles ouverts. Son successeur, Kimi K3, a obtenu 57 sur l’indice d’intelligence d’Artificial Analysis en juillet 2026, juste derrière Claude Fable 5 d’Anthropic et le GPT-5.6 Sol d’OpenAI. Mais à 2,8 trillions de paramètres, ses poids atteignent environ 1,4 To, ce que TECHi estime qui tiendrait à peine sur un serveur de centre de données à huit GPU.

Donc, pour un résumé privé occasionnel ou une aide de codage hors ligne, un PC de 16 Go suffit. Pour quelque chose que vous utiliseriez réellement à la place d’un chatbot dans le cloud, vous voudrez 32 Go de RAM ou une carte graphique de 16 Go. Un kit DDR5 de 32 Go coûte seul 434 dollars, selon l’indice de prix RAM de Tom’s Hardware, soit près de deux ans d’abonnement à 20 dollars par mois à ChatGPT Plus ou Claude Pro. Tout ce qui se rapproche de l’avant-garde, cependant, est du ressort d’un centre de données.