Flama

Ce qu'il fait

Flama est un framework de production haute performance conçu pour transformer n'importe quel modèle d'IA prédictif ou génératif en une API prête pour la production en une seule ligne de code. Il permet aux développeurs de servir des modèles provenant de divers frameworks (scikit-learn, TensorFlow, PyTorch, LLM) en utilisant un format portable unifié .flm, en les exposant via des points de terminaison compatibles OpenAI, Anthropic et Ollama.

Outils

Flama permet la création d'outils MCP personnalisés via un simple décorateur Python. En ajoutant un serveur à l'application Flama, toute fonction marquée avec @app.mcp.tool est automatiquement exposée comme un outil MCP avec un schéma JSON dérivé de ses indices de type.

Installation

Pour installer Flama et ses capacités d'IA générative :

pip install "flama[llm,pydantic]"

Pour servir un modèle en tant que serveur MCP :

flama serve --model file=your_model.flm,url=/,name=model_name

Ajouter à claude_desktop_config.json :

{
  "mcpServers": {
    "flama": {
      "command": "flama",
      "args": ["serve", "--model", "file=your_model.flm,url=/,name=model_name"]
    }
  }
}

Hôtes supportés

• claude
• cursor
• vscode-copilot