yanacuti1121 9Router Gateway — Quota Armor cho mọi AI coding tool
Một endpoint local duy nhất, đằng sau là 40+ providers với fallback tự động. Hết quota Claude giữa chừng → request tự chảy sang provider kế tiếp, phiên làm việc không đứt.
Claude Code / Cursor / Codex / yana-web
│ OpenAI-compatible request
▼
http://127.0.0.1:20128/v1 ← 9Router (local, MIT)
│ 3-tier fallback + token saver (RTK −20..65%)
├─ Anthropic (subscription)
├─ Gemini / OpenAI / Groq / DeepSeek …
└─ Free pools (OpenCode Zen, Kiro …)
Cài đặt (1 phút)
npm install -g 9router # passes L4 vetting: 17K+ stars, MIT, active
9router # dashboard: http://localhost:20128
Dashboard → Add Provider (dán API key từng provider) → tạo Combo (chuỗi fallback có thứ tự) → copy API key của 9Router.
Nối vào từng tool
# Claude Code (~/.claude/settings.json hoặc env)
export ANTHROPIC_BASE_URL="http://localhost:20128"
export ANTHROPIC_API_KEY="<9router-key>"
# Bất kỳ tool OpenAI-compatible nào
export OPENAI_BASE_URL="http://localhost:20128/v1"
export OPENAI_API_KEY="<9router-key>"
# yana-web: Provider picker → 9Router → dán key → model "kr/claude-sonnet-4.5"
# (provider có sẵn từ v0.41.2 — server.js PROVIDERS['9router'])
Model naming của 9Router: <provider-prefix>/<model> — ví dụ
kr/claude-sonnet-4.5. Combo dùng tên tự đặt: my-coding-stack.
Combo mẫu — "không bao giờ đứt mạch"
Combo: maximize-claude
1. Anthropic subscription (chính)
2. OpenCode Zen free (khi hết quota)
3. Groq Llama 3.3 70B (khi cả hai chết)
Sticky round-robin + tự quay lại tier 1 khi quota reset.
Luật an toàn khi dùng (YAMTAM rules vẫn áp)
□ 9Router chỉ bind loopback — KHÔNG expose 0.0.0.0 ra ngoài (rule 66)
□ API key các provider nằm trong 9Router dashboard (local) — không
được dán vào file .env của project (rule 03-privilege-isolation)
□ Key 9Router trong yana-web đi qua YanaVault (AES-256-GCM at rest)
□ Outbound từ 9Router là của NGƯỜI DÙNG cấu hình — agent không được
tự thêm provider/endpoint mới vào dashboard (rule 53 egress)
□ Telemetry cost trên dashboard là "savings tracker", không phải hóa đơn
Khi nào KHÔNG dùng
- Cần guardrails/PII filtering tầng gateway → ai-gateway-patterns (Portkey)
- Production multi-tenant serving → ai-gateway-patterns (Kong, LiteLLM)
- Định tuyến task nội bộ YAMTAM (simple/complex/external) → yana-router
Anti-Fake-Pass
❌ Claim "fallback hoạt động" mà chưa test: tắt provider 1, gửi request,
xác nhận response đến từ provider 2 (xem dashboard logs)
❌ Claim "đã nối Claude Code" mà chưa chạy 1 prompt thật qua endpoint mới
❌ Để ANTHROPIC_BASE_URL trỏ 9router nhưng 9router không chạy
→ mọi request chết im lặng. Kiểm tra: curl -s http://127.0.0.1:20128/v1/models
❌ Đo "tiết kiệm token" bằng số trên dashboard mà không so baseline
cùng workload trước khi bật RTK
See also
ai-gateway-patterns— so sánh LiteLLM / Portkey / Kong / Bifrostllm-cost-optimizer— chiến lược giảm cost tầng prompttoken-budget-policy(rule) — cap token mỗi session