Ajouter un Modèle au Proxy LiteLLM

Ce que fait cette compétence

Guide un opérateur à travers l'enregistrement d'un nouveau modèle auprès d'un proxy LiteLLM actif. La compétence décrit les entrées requises (URL de base du proxy et clé API admin), mappe les options de fournisseur aux valeurs litellm_params (OpenAI, Azure, Anthropic, Bedrock, Vertex, Ollama, etc.), et fournit des exemples de commandes curl pour créer le modèle et le vérifier avec une requête de chat de test.

Quand l'utiliser

À utiliser lorsque vous devez ajouter ou enregistrer un nouveau modèle backend dans une instance de proxy LiteLLM, particulièrement lors du déploiement ou des flux de travail d'outils opérateurs. Elle est destinée aux administrateurs qui gèrent le routage des modèles et souhaitent une étape de test sécurisée pour confirmer que les requêtes sont correctement routées.

Ce qui est inclus

• Scripts : aucun script intégré, mais des exemples curl explicites pour POST /model/new et tester avec /chat/completions.
• Références : renvoie vers la documentation de l'API du proxy LiteLLM et un tableau de correspondance des fournisseurs courants.
• Instructions : invites étape par étape pour les champs requis (nom public du modèle, fournisseur, identifiants), la forme exacte du JSON à envoyer, et comment interpréter le model_id retourné ainsi que le résultat du test.

Agents compatibles

Agents d'automatisation orientés opérateur et assistants capables de CLI pouvant effectuer des requêtes HTTP authentifiées (agents avec outils curl/http).