File contents LLM Agent
Cratos LLM 프로바이더 연동 전문 에이전트.
역할
13개 LLM 프로바이더 연동
모델 라우터 구현
토큰/비용 최적화
구조화 출력 파싱
폴백 전략 구현
지원 프로바이더 (13개)
프로바이더
주요 모델
비고
OpenAI GPT-5.2, GPT-5.2-mini
async-openai
Anthropic Claude 4 Opus, Sonnet, Haiku
자체 구현
Gemini Gemini 2.5 Pro, Flash
OAuth + Standard API
Ollama Llama 3.3, Qwen 3
로컬 실행
DeepSeek DeepSeek-V3, DeepSeek-R1
저비용
Groq Llama 3.3, Mixtral
빠른 추론
Fireworks Llama 3.3, Mixtral
서버리스
SiliconFlow Qwen 3, DeepSeek
중국 최적화
GLM GLM-4
중국어 특화
Qwen Qwen 3
알리바바
Moonshot Kimi
긴 컨텍스트
Novita 다양한 오픈소스
저비용
OpenRouter 모든 모델
통합 게이트웨이
핵심 규칙
제공자/모델은 설정으로 교체 가능
작업 유형별 모델 자동 선택
스키마 위반 시 자동 교정 재시도
토큰 사용량 추적
폴백: Auth/Permission → Network → Timeout 순
모델 라우팅 정책
작업 유형
Anthropic
OpenAI
Gemini
분류/짧은 요약
Haiku
GPT-5.2-mini
Flash
계획 수립
Sonnet
GPT-5.2
Pro
코드 작성
Sonnet/Opus
GPT-5.2
Pro
문장 다듬기
Haiku
GPT-5.2-mini
Flash
인터페이스
#[async_trait]
pub trait LlmProvider: Send + Sync {
async fn complete(&self, request: CompletionRequest) -> Result<CompletionResponse>;
fn name(&self) -> &str;
fn supported_models(&self) -> &[ModelInfo];
}
리소스 로드 조건
OpenAI 구현 → openai-guide.md
Anthropic 구현 → anthropic-guide.md
Gemini 구현 → gemini-guide.md
라우팅 로직 → routing-strategy.md
1 --- 2 name: llm-agent 3 description: LLM Agent 4 --- 5 6 # LLM Agent 7 8 Cratos LLM 프로바이더 연동 전문 에이전트. 9 10 ## 역할 11 12 - 13개 LLM 프로바이더 연동 13 - 모델 라우터 구현 14 - 토큰/비용 최적화 15 - 구조화 출력 파싱 16 - 폴백 전략 구현 17 18 ## 지원 프로바이더 (13개) 19 20 | 프로바이더 | 주요 모델 | 비고 | 21 |-----------|----------|------| 22 | **OpenAI** | GPT-5.2, GPT-5.2-mini | async-openai | 23 | **Anthropic** | Claude 4 Opus, Sonnet, Haiku | 자체 구현 | 24 | **Gemini** | Gemini 2.5 Pro, Flash | OAuth + Standard API | 25 | **Ollama** | Llama 3.3, Qwen 3 | 로컬 실행 | 26 | **DeepSeek** | DeepSeek-V3, DeepSeek-R1 | 저비용 | 27 | **Groq** | Llama 3.3, Mixtral | 빠른 추론 | 28 | **Fireworks** | Llama 3.3, Mixtral | 서버리스 | 29 | **SiliconFlow** | Qwen 3, DeepSeek | 중국 최적화 | 30 | **GLM** | GLM-4 | 중국어 특화 | 31 | **Qwen** | Qwen 3 | 알리바바 | 32 | **Moonshot** | Kimi | 긴 컨텍스트 | 33 | **Novita** | 다양한 오픈소스 | 저비용 | 34 | **OpenRouter** | 모든 모델 | 통합 게이트웨이 | 35 36 ## 핵심 규칙 37 38 1. 제공자/모델은 설정으로 교체 가능 39 2. 작업 유형별 모델 자동 선택 40 3. 스키마 위반 시 자동 교정 재시도 41 4. 토큰 사용량 추적 42 5. 폴백: Auth/Permission → Network → Timeout 순 43 44 ## 모델 라우팅 정책 45 46 | 작업 유형 | Anthropic | OpenAI | Gemini | 47 |----------|-----------|--------|--------| 48 | 분류/짧은 요약 | Haiku | GPT-5.2-mini | Flash | 49 | 계획 수립 | Sonnet | GPT-5.2 | Pro | 50 | 코드 작성 | Sonnet/Opus | GPT-5.2 | Pro | 51 | 문장 다듬기 | Haiku | GPT-5.2-mini | Flash | 52 53 ## 인터페이스 54 55 ```rust 56 #[async_trait] 57 pub trait LlmProvider: Send + Sync { 58 async fn complete(&self, request: CompletionRequest) -> Result<CompletionResponse>; 59 fn name(&self) -> &str; 60 fn supported_models(&self) -> &[ModelInfo]; 61 } 62 ``` 63 64 ## 리소스 로드 조건 65 66 - OpenAI 구현 → openai-guide.md 67 - Anthropic 구현 → anthropic-guide.md 68 - Gemini 구현 → gemini-guide.md 69 - 라우팅 로직 → routing-strategy.md
commit e07ad5e3f0
Frequently asked questions How do I install the LLM Agent skill? Run npx skillmds@latest add first-fluke/llm-agent in your terminal (requires Node.js), paste this page's agent-chat prompt into Claude, Cursor, or any MCP-connected agent, or download the SKILL.md file and copy it into your agent's skills directory.
What does the LLM Agent skill do? LLM Agent It is listed under AI & ML on SkillMD.
Is LLM Agent safe to use? This skill has not completed SkillMD's automated safety review yet. SkillMD never runs a skill's scripts for you; review the SKILL.md before installing.
Which AI agents work with LLM Agent? This skill is tagged as working with Claude Code, Claude.ai, OpenAI Codex. SKILL.md is an open format, so most agents that read a skills directory can load it too.
Is LLM Agent free to use? Yes. Installing skills from SkillMD is free, and the skill stays under its author's original license.
Who published LLM Agent? first-fluke (@first-fluke) published this skill. Their other Agent Skills are listed on their SkillMD profile.
first-fluke