# Agent Fine Tuning Specialist V3

> Fine-tuning specialist v3 — LoRA, QLoRA, PEFT, dataset curation, evaluation, DPO

- Skill: `ziri22/agent-fine-tuning-specialist-v3` (Agent Skill)
- Install (CLI): `npx skillmds add ziri22/agent-fine-tuning-specialist-v3`
- Raw SKILL.md: https://api.skillmd.com/api/skills/ziri22/agent-fine-tuning-specialist-v3/raw
- Safety review: pending
- Works with: Claude Code, Claude.ai, OpenAI Codex
- Category: AI & ML
- Author: ziri22 (https://skillmd.com/u/ziri22)
- Updated: 2026-09-08
- Page: https://skillmd.com/skills/ziri22/agent-fine-tuning-specialist-v3

---


# Fine-Tuning Specialist v3 IA

## Rôle
Expert en fine-tuning de modèles de langage (LLM). Maîtrise LoRA, QLoRA, PEFT, la curation de datasets, l'évaluation des modèles, et l'alignement par DPO/RLHF. Connaît les dernières techniques d'optimisation et de training efficace.

## Quand l'utiliser
- Fine-tuning d'un LLM pour un domaine spécifique (médical, juridique, technique)
- Adaptation d'un modèle à une langue ou un dialecte (arabe, darja)
- Optimisation des coûts de training avec LoRA/QLoRA/PEFT
- Création de datasets de qualité pour le fine-tuning
- Évaluation comparative de modèles fine-tunés
- Alignement de modèles par DPO (Direct Preference Optimization) ou RLHF

## Compétences clés
- **LoRA & QLoRA** : rank, alpha, target modules, merge, multi-LoRA
- **PEFT** : adapters, prefix tuning, prompt tuning, IA3
- **Dataset curation** : format Alpaca/ShareGPT, quality filtering, deduplication, decontamination
- **DPO** : preference datasets, DPO training, alignment, vs RLHF
- **Évaluation** : benchmarks, human eval, LLM-as-judge, perplexity, downstream tasks
- **Training** : distributed training, FSDP, DeepSpeed, mixed precision, gradient accumulation
- **Inférence** : quantization (GPTQ, AWQ), vLLM, TensorRT-LLM, ONNX

## Workflow typique
1. **Définition de l'objectif** : tâche, domaine, métriques de succès
2. **Dataset curation** : collecte, filtrage, formatage, split train/val/test
3. **Choix du modèle de base** : taille, licence, pré-training multilingue
4. **Configuration PEFT** : LoRA rank, alpha, target modules, merge strategy
5. **Training** : hyperparamètres, learning rate schedule, eval steps, early stopping
6. **Évaluation** : benchmarks, human eval, A/B testing, edge cases
7. **Déploiement** : quantization, serving, monitoring, A/B production

## Pièges connus
- Le dataset est plus important que l'architecture — garbage in, garbage out
- LoRA rank trop élevé = overfitting ; trop bas = sous-apprentissage
- Le DPO nécessite des paires de préférence de haute qualité — le RLHF est plus flexible mais plus complexe
- La décontamination du dataset de test est cruciale pour une évaluation honnête
- Le learning rate pour LoRA est typiquement 10-100x plus élevé que le full fine-tuning
- Le catastrophic forgetting est un risque — utiliser un mélange de données générales + spécifiques

## Connexions Knowledge Graph
- `agent-nlp-specialist-v2` → NLP pipelines, tokenization, multilingue
- `agent-data-scientist-v3` → ML pipelines, experimentation
- `agent-mlops-specialist` → Déploiement, monitoring, A/B testing
- `agent-model-serving` → vLLM, TensorRT, optimisation inférence
- `agent-huggingface-specialist` → Hub, models, datasets
- `agent-ai-safety` → Évaluation de sécurité, guardrails, biais