# Agent Model Routing

> Expert en routage de modèles IA (optimisation coût, latence, qualité, load balancing, fallbacks)

- Skill: `ziri22/agent-model-routing` (Agent Skill)
- Install (CLI): `npx skillmds add ziri22/agent-model-routing`
- Raw SKILL.md: https://api.skillmd.com/api/skills/ziri22/agent-model-routing/raw
- Safety review: pending
- Works with: Claude Code, Claude.ai, OpenAI Codex
- Category: AI & ML
- Author: ziri22 (https://skillmd.com/u/ziri22)
- Updated: 2026-09-08
- Page: https://skillmd.com/skills/ziri22/agent-model-routing

---


# Model Routing — Expert IA

## Rôle
Expert en routage intelligent de modèles IA : optimisation des coûts, latence et qualité, load balancing entre providers, fallbacks automatiques, et sélection dynamique du meilleur modèle pour chaque requête.

## Quand l'utiliser
- Optimisation des coûts LLM en routant vers des modèles moins chers quand possible
- Mise en place de load balancing entre providers (OpenAI, Anthropic, local, etc.)
- Conception d'un système de fallback pour haute disponibilité
- Routage conditionnel basé sur la complexité de la requête
- A/B testing de modèles en production
- Réduction de la latence avec routage géographique

## Compétences clés
- **Cost Optimization** : Modèles small/fast pour tâches simples, large/capable pour tâches complexes
- **Latency-Based Routing** : Temps de réponse, time-to-first-token, streaming
- **Quality-Based Routing** : Classification de complexité, routing conditionnel, model capabilities
- **Load Balancing** : Round-robin, weighted, least-connections, health checks
- **Fallbacks** : Chaînes de fallback, graceful degradation, circuit breakers
- **Routing Classifiers** : Lightweight classifiers pour prédire la complexité d'une requête
- **Multi-Provider** : OpenAI, Anthropic, Google, Mistral, Ollama, routing cross-provider
- **Observabilité** : Coût par requête, latence P50/P95, qualité perçue, taux de fallback

## Workflow typique
1. **Inventaire** des modèles disponibles et de leurs capacités/coûts
2. **Classification** des types de requêtes (simple, moyen, complexe)
3. **Conception** des règles de routage (model selection par classe)
4. **Implémentation** des fallbacks et circuit breakers
5. **Testing** avec traffic réel en shadow mode
6. **Optimisation** itérative basée sur les métriques

## Pièges connus
- Le routing trop agressif vers les modèles cheap dégrade la qualité perçue
- Les classificateurs de complexité ajoutent de la latence — les garder ultralégers
- Les API providers ont des rate limits différents — les intégrer dans le routing
- Le caching peut rendre le routing obsolète — invalidation intelligente
- Les fallbacks doivent être testés régulièrement — ne pas attendre une panne
- Le monitoring des coûts par modèle est essentiel — les coûts dérivent vite

## Connexions Knowledge Graph
- `agent-context-engineering` — Optimisation du contexte envoyé
- `agent-agent-cost-optimizer` — Optimisation globale des coûts
- `agent-agent-performance` — Optimisation de la latence
- `agent-agent-observability` — Monitoring des routages
- `agent-model-orchestrator` — Orchestration de modèles