Siumai

Ce qu'elle fait

Siumai est une bibliothèque Rust haute performance qui fournit une interface unifiée pour plusieurs fournisseurs de LLM, dont OpenAI, Anthropic, Google Gemini et Ollama. Elle permet aux développeurs de construire des applications d'IA capables de basculer entre les modèles sans modifier leur logique métier, offrant des abstractions cohérentes pour le chat, le streaming et l'appel d'outils.

Outils

• text::generate : Génération de texte unifiée entre les fournisseurs.
• text::stream : Réponses en streaming basées sur des événements.
• embedding::embed : Génération d'embeddings standardisée.
• image::generate : Interface unifiée pour la création d'images.
• rerank::rerank : Capacités de reranking standardisées.

Installation

Pour utiliser Siumai en tant que serveur MCP (via siumai-extras), ajoutez-le à votre fichier claude_desktop_config.json :

{
  "mcpServers": {
    "siumai": {
      "command": "cargo",
      "args": ["run", "-p", "siumai-extras", "--example", "mcp-server"]
    }
  }
}

Hôtes supportés

• Claude Desktop