Azure AI Gateway

Ce qu'il fait

Azure AI Gateway fournit un plan de contrôle centralisé pour les entreprises afin de gérer leur infrastructure IA. Il connecte les applications IA à divers LLM et serveurs MCP tout en appliquant des contrôles de sécurité, de fiabilité et de coût via Azure API Management et Microsoft Foundry.

Outils

La passerelle agit comme un orchestrateur pour plusieurs outils. Les capacités clés incluent :

• Intégration du protocole MCP: Connectivité d'outils plug-and-play avec gestion des identifiants OAuth.
• Routage de modèles: Routage dynamique des requêtes vers différents backends en fonction de la version ou de la disponibilité.
• Mise en cache sémantique: Mise en cache des réponses basée sur des vecteurs pour réduire les coûts et la latence.
• Limitation du débit de jetons: Contrôle précis de la consommation de jetons pour les différentes équipes et applications.

Installation

Le déploiement est généralement géré via des modèles Bicep fournis dans les labs. Pour une intégration MCP basique, ajoutez le point de terminaison de la passerelle à votre configuration :

{
  "mcpServers": {
    "azure-ai-gateway": {
      "command": "npx",
      "args": ["@azure/ai-gateway-mcp-server"]
    }
  }
}

Hôtes supportés

Les hôtes confirmés incluent Claude Desktop, VS Code Copilot et les agents Gemini MCP.