vMLX
par jjang-ai
Moteur d'IA local pour Apple Silicon fournissant des API compatibles OpenAI et Anthropic pour les LLM, VLM et la génération d'images.
Ce qu'il fait
vMLX est un moteur d'inférence IA local haute performance optimisé pour Apple Silicon (M1-M4). Il permet aux utilisateurs de faire tourner une vaste gamme de modèles (LLM, VLM et modèles d'image Flux) entièrement sur l'appareil, offrant une alternative sécurisée et privée aux API cloud avec une compatibilité totale avec les formats OpenAI et Anthropic.
Outils
- Service LLM Local : Exécute n'importe quel modèle mlx-community avec batching continu et cache KV paginé.
- Génération d'Images : Génération et édition locales avec Flux Schnell/Dev et Z-Image Turbo.
- Inférence Distribuée : Répartit les grands modèles sur plusieurs Mac via Thunderbolt ou Ethernet.
- Quantification JANG : Quantification adaptative à précision mixte pour une qualité supérieure à bas débit binaire.
Installation
Installez via uv :
brew install uv
uv tool install vmlx
vmlx serve mlx-community/Qwen3-8B-4bit
Hôtes supportés
- Claude Desktop
- Cursor
- Codex
- Gemini-CLI
Installation rapide
uv tool install vmlxInformations
- Tarification
- free
- Publié
- 4/14/2026
- étoiles
- 0
Catégories
Choisissez votre client IA et suivez les étapes ci-dessous.
Claude Desktop
Configure as an HTTP MCP server pointing to http://localhost:8000/v1Apps similaires
DiffSitter MCP
MCP ServerAI-powered structural code navigation using tree-sitter ASTs for semantic understanding across 14+ languages.
OpenAI Apps SDK Examples
MCP AppOfficial example gallery of interactive MCP widgets for ChatGPT — 3D viewers, maps, carousels, shopping carts, and more.
Human MCP
MCP ServerGive AI agents human-like senses: visual analysis, image/video generation, speech synthesis, browser automation, and advanced reasoning — 29 MCP tools in one se
Shopify MCP Server
MCP ServerDirect interaction with Shopify store data via GraphQL API for managing products, customers, and orders.
Git MCP Server
MCP ServerFull-featured Git MCP server exposing 28 tools for AI agents to clone, commit, branch, diff, merge, rebase, and more via STDIO or Streamable HTTP.
CodexPotter
MCP ServerAutonomous reconciliation loop that drives Codex to align your codebase with instructed states.
Smart Coding MCP
MCP ServerSemantic code search for AI assistants using local embeddings — find code by meaning, not just keywords.
Snowflake MCP Server
MCP ServerDirect Snowflake database interaction via MCP, enabling AI to run SQL queries, explore schemas, and manage data insights.