Routeur LLM : quand choisir un grand modèle frontier, un petit modèle ou l'open source ?

Un routeur LLM est une logique de routage qui attribue automatiquement chaque étape d'un agent IA au modèle approprié. Les grands modèles frontier prennent en charge le raisonnement complexe et l'orchestration d'outils, les petits modèles bon marché s'occupent des étapes simples comme la classification ou l'extraction, et les modèles open-weight réduisent les coûts et, exploités sur un hébergement souverain européen ou on-premise, couvrent aussi les exigences de souveraineté. Au lieu d'une décision ponctuelle du type « quel modèle prenons-nous ? », le choix du modèle devient ainsi une attribution continue des tâches aux modèles selon quatre critères : qualité, coût, latence et conformité.

L'enseignement clé pour 2026 : selon l'étude de référence, la question « grand ou petit modèle, propriétaire ou open source ? » n'est plus une décision binaire, mais une allocation de portefeuille. Un agent en production tourne rarement sur un seul modèle.

Trois réponses rapides

• Quand un grand modèle (frontier fermé) ? Pour le raisonnement complexe, le codage agentique de premier rang, les tâches à contexte très long, le multimodal premium et les étapes d'analyse rares mais à forte valeur. Dans les grands groupes de la région DACH, cette catégorie représente généralement 15-35 % du volume de tokens, mais porte 60-80 % de la valeur stratégique perçue.
• Quand un petit modèle (workhorse/speed) ? Pour les étapes simples, fréquentes et bien définies : classification, extraction, synthèse, les décisions de routage elles-mêmes, mise en forme standard. Ici, selon l'étude, la prime frontier n'est plus économiquement indispensable.
• Quand l'open source / l'hébergement souverain européen ? Quand la souveraineté, la résidence des données, la maîtrise des coûts à fort volume ou les exigences liées à la représentation du personnel priment, en particulier pour les agents qui structurent le travail des salariés et ceux qui traitent des données clients.

Pourquoi la question binaire du modèle ne tient plus en 2026

Selon l'étude, l'écart de capacités entre les meilleurs modèles open-weight et les modèles frontier fermés s'est resserré de 12-18 mois (2024) à 3-6 mois (2026) ; sur certaines charges de travail, il est nul, voire négatif. Concrètement, données d'avril à mai 2026 : Kimi K2.6 (1T de paramètres, Modified MIT, open-weight) occupait la 4e place du classement général de l'Artificial Analysis Intelligence Index, derrière seulement des modèles d'Anthropic, Google et OpenAI, et atteignait, avec 58,6 % sur SWE-Bench Pro, la parité avec GPT-5.5. DeepSeek V4 Pro a obtenu 80,6 % sur SWE-Bench Verified et un score Codeforces de 3 206. Plus haut encore se situait Gemini 3 Deep Think, pour lequel Google a annoncé en février 2026 un score Codeforces de 3 455.

Sur la même période, la prime frontier restait pourtant réelle et non négligeable pour certaines étapes : sur FrontierMath, GPT-5.5 Pro a obtenu le meilleur résultat public en mathématiques, sur GPQA Diamond Gemini 3.1 Pro menait avec 94,3 %, et Claude Opus 4.7 atteignait 87,6 % sur SWE-Bench Verified. Pour les charges de raisonnement rares et à forte valeur, comme la recherche juridique, la formulation d'hypothèses scientifiques ou l'analyse financière complexe, les modèles frontier fermés étaient donc nettement supérieurs.

Pour le choix du modèle, cela signifie que la vraie question n'est pas « open ou fermé ? », mais « quelle étape relève de quel niveau ? ».

Le levier de coût : pourquoi le routage est rentable

Le moteur économique du routage de LLM, c'est l'écart de prix. Selon l'étude, les modèles frontier fermés restent 8 à 100 fois plus chers en sortie que les modèles open-weight bon marché. Envoyer chaque étape de l'agent au modèle frontier, y compris la simple classification d'un e-mail, revient à payer des prix premium pour une qualité dont l'étape n'a même pas besoin.

Le tableau suivant présente des prix catalogue représentatifs (USD par million de tokens en entrée/sortie). De nouvelles générations de modèles sortent tous les quelques mois. Vérifie donc les prix et les versions avant tout engagement pluriannuel.

L'écart est considérable : dans une comparaison typique, le prix en sortie varie d'un facteur 8 à 100 ; si l'on oppose le modèle frontier le plus cher au workhorse le moins cher, GPT-5.5 Pro coûte même environ 640 fois plus en sortie que DeepSeek V4 Flash. C'est précisément cet écart qui fait du routage le standard économique.

Le pattern du routeur : de la tâche au modèle

Un routeur LLM associe chaque étape entrante à sa classe de complexité et de conformité, puis choisit le modèle le moins cher qui répond à l'exigence. En pratique, c'est souvent un petit modèle rapide qui classe lui-même la tâche avant que le travail proprement dit ne parte vers le modèle cible approprié. La table de routage en est le cœur :

Les quatre dimensions d'arbitrage

L'étude structure le choix du modèle selon quatre dimensions qu'un bon routeur prend en compte ensemble :

• Qualité (contrôle des poids & capacités) : De quelle profondeur de raisonnement l'étape a-t-elle réellement besoin ? Et qui contrôle le modèle : dépend-il, en tant qu'API fermée, de la seule feuille de route du fournisseur, ou peut-il, en tant que modèle open-weight, être porté vers un autre fournisseur d'inférence ou en self-hosting ?
• Coûts (profil de coûts) : Fermé facturé au token (premium, entièrement variable), open-weight facturé au token via un fournisseur d'inférence (milieu de gamme) ou self-hosting (coûts fixes, coût marginal par token proche de zéro en cas de forte utilisation). Selon l'étude, le self-hosting ne devient vraiment intéressant qu'à partir d'un volume constant de 5 à 50 millions de tokens par jour, et seulement avec des compétences MLOps en interne.
• Latence : Des spécialistes de la vitesse comme Groq (LPU) et Cerebras (wafer-scale) offrent un time-to-first-token inférieur à la seconde pour une sélection de modèles. Cela compte pour les agents interactifs, pas pour le traitement batch de nuit.
• Conformité (souveraineté de l'hébergement) : Selon l'étude, une région UE chez un hyperscaler américain n'équivaut pas à une infrastructure souveraine européenne. Elle réduit la latence et les frictions liées au RGPD, mais n'élimine pas la juridiction américaine (CLOUD Act, OFAC). Seuls les stacks souverains européens (STACKIT, OVHcloud, T-Systems Open Telekom Cloud, IONOS, Hetzner) et l'on-premise sont structurellement hors de portée des États-Unis.

Open source ou propriétaire : une évaluation lucide

Ici, un examen attentif s'impose, car « open » recouvre plusieurs dimensions. Open-weight signifie que les poids sont téléchargeables, pas automatiquement que la licence est sans restriction. Mistral Large 3 (Apache 2.0, souverain UE) et Phi-4 (MIT) sont permissifs. Llama 4, en revanche, relève de la Llama Community License, avec un seuil de 700 millions de MAU et une restriction dans l'UE pour les modèles multimodaux. En juillet 2024, Meta a justifié l'exclusion de l'UE des modèles Llama multimodaux par un environnement réglementaire européen imprévisible. Selon la presse, il s'agissait de l'interprétation incertaine du RGPD pour l'entraînement sur des données d'utilisateurs européens, et non du règlement sur l'IA. L'OSI classe explicitement Llama comme non open source.

Les modèles open-weight chinois (DeepSeek V4 sous licence dérivée de MIT, Kimi K2.6 sous Modified MIT, Qwen 3.6-27B sous Apache 2.0) sont réellement permissifs sur le plan des licences, davantage que Llama. Mais selon l'étude, une licence permissive ne neutralise pas la juridiction d'origine. Pour les grands groupes européens ayant une filiale aux États-Unis, des obligations envers des partenaires contractuels américains ou une infrastructure critique, cette option comporte un risque géopolitique extrême indéterminé (contrôles à l'exportation, risque de réputation), qu'il faut limiter explicitement charge par charge. C'est acceptable, par exemple, pour des agents de codage sur du code public ou la classification batch de textes accessibles au public, mais problématique avec des données clients sensibles.

La souveraineté est en outre, en 2026, un critère d'achat mesurable : selon Bitkom (novembre 2025), 89 % des entreprises allemandes qui importent des biens ou services numériques s'en estiment dépendantes. Dans une enquête Bitkom publiée en mai 2025, 68 % de la population estime que l'Allemagne est trop dépendante des États-Unis et de la Chine en matière d'IA. Dans les négociations avec les représentants du personnel, une infrastructure souveraine européenne suscite structurellement moins de frictions, car les droits d'audit, la résidence des données et la juridiction du fournisseur sont plus faciles à négocier.

Une remarque discrète mais importante : les affirmations sur la conformité et les licences présentées ici ne constituent pas un conseil juridique. Pour le routage, une limite issue de l'étude est pertinente : quiconque procède à un fine-tuning substantiel d'un modèle open-weight (seuil indicatif du règlement européen sur l'IA : plus d'un tiers du calcul de pré-entraînement du modèle de base, par défaut 3,33 × 10²² FLOPs) peut lui-même devenir fournisseur de GPAI. LoRA/QLoRA reste généralement très en dessous ; le pré-entraînement continu dépasse presque toujours le seuil. C'est un argument pour miser, dans le pipeline de personnalisation, sur le RAG combiné au prompt engineering plutôt que sur un fine-tuning lourd, et une raison de faire examiner l'évaluation juridique concrète par un professionnel qualifié.

Exemple pratique : un agent de support avec routage mixte

Un agent de service client traite 100 000 demandes par jour. Sans routeur, tout tourne sur Claude Opus 4.7 (5/25 USD par million de tokens). Avec un routeur, la répartition se présente ainsi :

• Étape 1 : classification de l'intention (70 % de la charge) : Un modèle open-weight rapide comme Ministral 3 (0,15/0,40 USD) classe la demande, ~60 fois moins cher qu'Opus en sortie. Cette étape n'est souveraine que si le modèle tourne sur un stack souverain européen ou on-premise. La région UE d'un fournisseur d'inférence américain réduit les frictions liées au RGPD, mais n'élimine pas la juridiction américaine.
• Étape 2 : réponse standard issue de la base de connaissances (20 % de la charge) : Un workhorse européen comme Mistral Large 3 (0,50/1,50 USD, Apache 2.0, souverain UE) génère la réponse par RAG, avec de bonnes performances en allemand et une résidence des données dans l'UE.
• Étape 3 : escalade avec raisonnement contractuel complexe (10 % de la charge) : C'est là qu'intervient le modèle frontier (Claude Opus 4.7), car la qualité de la réponse est critique pour l'activité et la prime se justifie.

Résultat : le coûteux chemin frontier ne porte plus qu'un dixième de la charge, l'essentiel tourne sur des modèles open-weight bon marché de Mistral, qui deviennent souverains dès qu'ils sont hébergés sur une infrastructure souveraine européenne. Pseudo-code de la décision de routage :

```
intent = classify(requete) # Ministral 3, stack souverain UE
if intent in SIMPLE:
return mistral_large_3(rag(requete)) # Workhorse souverain UE
elif intent == CONTRAT_COMPLEXE:
return claude_opus_47(requete) # Frontier seulement si nécessaire
```

Pour que le routage ne devienne pas un piège de dépendance fournisseur, l'étude recommande une couche de portabilité (par exemple LiteLLM ou OpenRouter pour le routage multi-fournisseurs) et au moins une voie de migration open-weight légère pour les charges de travail les plus importantes, ainsi qu'un pipeline d'évaluation continue sur un jeu de test held-out, car les mises à jour des API fermées se font automatiquement et des régressions silencieuses de capacités ont été documentées à plusieurs reprises.

Pour les agences et les décideurs B2B

En 2026, un routeur LLM bien conçu n'est pas un simple bonus : c'est le levier dont dépendent à la fois les coûts, la qualité des réponses et la conformité RGPD d'un agent. La bonne architecture est presque toujours hybride. Le vrai travail consiste à décider proprement, charge par charge, quelle étape exige une qualité frontier, laquelle peut tourner sur un modèle européen bon marché et où la souveraineté est contraignante. C'est précisément cette logique de routage, la portabilité entre fournisseurs et le bon mix entre infrastructure souveraine européenne et frontier fermé que Blck Alpaca, agence d'agents IA basée à Vienne, conçoit avec des entreprises de toute l'Europe. Si tu veux savoir quel mix de modèles convient à tes charges de travail, à ton profil de conformité et à ton budget, contacte-nous.