LLM locaux : reprendre le contrôle de ton IA sans sacrifier la performance

Depuis quelques années, les grands modèles de langage (LLM : comment fonctionnent les grands modèles de langage) sont devenus accessibles au grand public, principalement via des services cloud comme ChatGPT ou Claude. Pratiques, mais avec une contrepartie : tes données transitent par des serveurs externes, souvent aux États-Unis.

Il existe une alternative : faire tourner un LLM directement chez toi, sur ton propre matériel. C’est ce qu’on appelle un LLM local. Et en 2026, c’est devenu étonnamment simple et abordable, avec une qualité qui a fait un bond que peu de gens avaient anticipé il y a deux ans.

Cloud vs local : deux approches très différentes

Quand tu utilises ChatGPT ou Claude.ai, ta requête part vers un datacenter, est traitée par un modèle de plusieurs centaines de milliards de paramètres, et la réponse te revient. Le modèle est colossal, la qualité est au rendez-vous, mais tu n’as aucun contrôle sur ce qui se passe avec tes données.

Avec un LLM local, le modèle tourne entièrement sur ta machine. Rien ne sort de chez toi. C’est particulièrement intéressant pour :

• Les données sensibles : documents RH, contrats, données clients
• Les projets confidentiels : code propriétaire, prototypes
• L’autonomie : pas de quota, pas d’abonnement, pas de panne de service distante
• La souveraineté numérique : conformité RGPD simplifiée, un enjeu que l’AI Act européen a rendu plus concret avec ses obligations pour les systèmes à haut risque, applicables depuis août 2026¹

La contrepartie s’est nettement réduite depuis 2024. Sur une large partie des tâches courantes, les modèles locaux tournent aujourd’hui à 70-85 % de la qualité des modèles frontière, pour un coût marginal nul par requête². Ils restent en retrait sur le raisonnement le plus complexe, mais l’écart n’a plus rien à voir avec celui d’il y a deux ans.

Les modèles open source à connaître

L’écosystème open source s’est considérablement étoffé, et le rythme des sorties s’est nettement accéléré en 2026. Voici les familles incontournables aujourd’hui.

Qwen (Alibaba)

Devenu la référence côté rapport qualité/taille. Qwen 3.5 tourne en architecture MoE (122 milliards de paramètres, dont seulement 10 milliards actifs par token) et dépasse GPT-5-mini sur la plupart des benchmarks tout en tenant sur un MacBook avec 64 Go de RAM³. La version Qwen 3.6 27B, sortie en avril 2026, est aujourd’hui considérée comme le meilleur choix généraliste sur du matériel grand public : 77,2 % sur SWE-bench pour un modèle qui tient dans 24 Go de VRAM en quantization Q4⁴.

Gemma (Google DeepMind)

Gemma 4 a changé la donne côté multimodal embarqué : la variante 12B tourne dans 16 Go de RAM avec entrée audio native, et le modèle MoE 26B atteint 85 tokens par seconde sur du matériel grand public³. C’est aussi la famille la plus poussée sur la quantization agressive, avec des variantes qui chargent en moins d’1 Go pour un usage texte seul, comme je le détaille dans mon article sur les SLM : les petits modèles de langage qui tournent sans le cloud.

Mistral (Mistral AI)

La pépite française a changé de dimension fin 2025 avec Mistral 3. La famille se scinde en deux : Ministral 3 (3B, 8B, 14B), pensée pour l’usage local et embarqué, avec des variantes de raisonnement qui montent jusqu’à 85 % sur AIME 2025 pour la version 14B, et Mistral Large 3, un modèle MoE de 675 milliards de paramètres (41 milliards actifs) qui rejoint le rang des modèles open source les plus capables du marché, le tout sous licence Apache 2.0⁵. Pour du vrai local sur ta machine, ce sont les Ministral qui t’intéressent : Large 3 vise plutôt le déploiement sur serveur, à cause de sa taille.

Llama (Meta)

La série Llama reste l’option la plus répandue côté écosystème communautaire, avec le plus grand nombre d’outils, de tutoriels et de fine-tunes disponibles. Llama 3.2 (1B à 90B) couvre l’essentiel des usages légers, et Llama 3.3 70B reste une référence solide pour qui dispose du matériel nécessaire⁶.

Les frontières ouvertes (MoE massifs)

Une nouvelle catégorie a émergé en 2026 : des modèles MoE ouverts qui rivalisent avec les modèles propriétaires les plus avancés, comme Kimi K2.6 de Moonshot AI (1 trillion de paramètres, 32 milliards actifs, capable de coordonner jusqu’à 100 sous-agents) ou GLM-5.1 de Zhipu AI (744 milliards de paramètres)³. Ils dépassent largement ce qu’une machine personnelle peut faire tourner localement, mais Ollama les propose en mode hybride : la commande reste identique, seule l’exécution bascule vers le cloud du fournisseur⁷.

Comment faire tourner un LLM local ?

La solution la plus accessible reste Ollama, qui a beaucoup évolué depuis ses débuts : le projet dépasse aujourd’hui les 50 millions de téléchargements mensuels², et sa bibliothèque compte plus de 4 500 modèles⁴. En quelques commandes, tu peux télécharger et lancer n’importe quel modèle open source.

# Installer Ollama (macOS/Linux)
curl -fsSL https://ollama.ai/install.sh | sh

# Télécharger et lancer Qwen 3.6 27B
ollama run qwen3.6:27b

# Ou Gemma 4 en version légère
ollama run gemma4:12b

Quelques évolutions notables en 2026 : Ollama expose désormais un moteur MLX natif sur Apple Silicon, sensiblement plus rapide et plus économe en mémoire que l’ancien moteur GGUF, et son API est compatible à la fois avec le format OpenAI et, depuis janvier 2026, avec le format Anthropic Messages⁷. Certains modèles trop gros pour ton matériel, comme les MoE massifs cités plus haut, sont accessibles avec le suffixe :cloud, avec une syntaxe strictement identique. Attention cependant : ce mode envoie tes données vers les serveurs d’Ollama, donc à éviter pour du contenu confidentiel⁷.

Si tu préfères une interface graphique, LM Studio reste l’alternative la plus aboutie pour explorer et tester des modèles visuellement ; Ollama garde l’avantage pour brancher du local dans du code. Les deux outils se combinent bien selon le besoin du moment.

Quel matériel pour quelle ambition ?

Le facteur limitant reste la VRAM (mémoire GPU) ou la RAM unifiée (puces Apple Silicon). La règle de base en 2026 : 8 Go pour des modèles 7B, 16 Go pour 24B, 24 Go pour 32B, et 40 Go et plus pour du 70B⁶.

Configuration	Modèles adaptés	Usage
8 Go RAM / pas de GPU dédié	Phi-4 Mini, Ministral 3B	Assistance légère
16 Go RAM ou VRAM	Ministral 8B/14B, Gemma 4 12B	Productivité quotidienne
24 Go VRAM (RTX 4090/5080)	Qwen 3.6 27B, DeepSeek-R1 32B	Usage avancé, code
32 Go VRAM (RTX 5090)	Les mêmes modèles, en beaucoup plus rapide	Vitesse maximale sous 32B
64-128 Go RAM unifiée (Mac M4/M5 Max)	Llama 3.3 70B, Qwen 3.5 122B (Q4)	Gros modèles, sans multi-GPU

Le match RTX 5090 contre Apple Silicon résume bien l’arbitrage actuel. La RTX 5090 a environ trois fois plus de bande passante mémoire (1 792 Go/s contre 546 à 614 Go/s pour un Mac), ce qui la rend 2 à 3 fois plus rapide sur tout ce qui tient dans ses 32 Go de VRAM⁸. Mais dès qu’un modèle dépasse cette limite, elle ne peut tout simplement pas le charger, alors qu’un Mac avec 128 Go de mémoire unifiée absorbe le modèle sans complexité de multi-GPU⁹. Un Mac Studio M3 Ultra en configuration maximale monte même jusqu’à 512 Go, de quoi faire tourner un modèle comme DeepSeek R1 (671 milliards de paramètres, architecture MoE) à 15-20 tokens par seconde⁹. Pour du fine-tuning plutôt que de l’inférence, en revanche, l’écosystème CUDA de NVIDIA reste largement en tête.

Point de vigilance matériel : les prix des GPU NVIDIA sont volatils depuis la pénurie de mémoire GDDR7 de 2026. Une RTX 5090 annoncée à 1 999 dollars se négocie couramment au double sur le marché de l’occasion et du neuf⁶. Vérifie les prix du moment avant d’acheter.

Et la qualité dans tout ça ?

L’écart avec les modèles propriétaires s’est nettement resserré. Les modèles de 3 à 8 milliards de paramètres offrent aujourd’hui une qualité qui exigeait 30 milliards de paramètres et plus en 2024¹, et certains modèles ouverts comme Qwen 3.5 dépassent des modèles propriétaires comme GPT-5-mini sur la majorité des benchmarks³.

Ceci dit, sur le raisonnement le plus complexe, l’analyse de très longs documents ou les tâches multi-étapes ambitieuses, les modèles frontière dans le cloud gardent une avance ; même Mistral Large 3, pourtant le plus gros modèle ouvert d’un grand laboratoire, reste en retrait des meilleurs modèles propriétaires sur les benchmarks de raisonnement les plus exigeants⁵. La bonne pratique reste la même qu’avant : un modèle local pour l’essentiel du quotidien (résumés, reformulation, extraction, code courant, chatbot), et le cloud en réserve pour ce qui dépasse vraiment ses capacités.

Conclusion

Faire tourner un LLM local n’a jamais été aussi accessible, ni aussi qualitatif. Avec Ollama et un PC ou un Mac relativement récent, tu peux avoir ton propre assistant IA opérationnel en moins de 10 minutes, sans envoyer une seule requête dans le cloud.

C’est un investissement qui vaut le coup, surtout si tu travailles avec des données sensibles ou que tu veux expérimenter sans contrainte de quota. Et l’écosystème autour (Open WebUI, LM Studio, MLX) offre aujourd’hui des interfaces et des fonctionnalités qui rivalisent avec les meilleures solutions cloud.

À retenir : commence avec Ollama et un modèle Qwen 3.6 ou Gemma 4 autour de 7 à 12 milliards de paramètres, évalue la qualité sur tes cas d’usage, et monte en gamme (32B, puis 70B sur un Mac à mémoire unifiée) si nécessaire. Le local, c’est souvent bien mieux qu’on ne le croit en 2026.