Agent Distillation

Ce qu'il fait

Agent Distillation est un framework spécialisé conçu pour transférer les capacités agentiques de grands modèles de langage (enseignants) vers des modèles beaucoup plus petits et efficaces (élèves). Il se concentre sur l'imitation de comportements complexes, spécifiquement ceux impliquant la génération augmentée par récupération (RAG) et l'exécution de code, permettant aux petits modèles de maintenir des performances élevées sur les tâches de raisonnement factuel et mathématique.

Outils

• Trajectory Logger : Capture des journaux d'exécution d'agent détaillés pour créer des ensembles de données d'entraînement de haute qualité.
• SFT Trainer : Utilise la bibliothèque TRL pour affiner les petits modèles tout en maintenant la compatibilité avec le framework smolagents.
• Benchmarking Suite : Évalue les agents distillés sur des benchmarks standards de raisonnement factuel et mathématique.

Installation

{
  "mcpServers": {
    "agent-distillation": {
      "command": "python3",
      "args": ["-m", "agent_distillation.server"]
    }
  }
}

Hôtes supportés

• claude