MCP App StoreMCP App Store
de opencoven
Quantisez les LLM au format GGUF pour une inférence CPU/GPU efficace via llama.cpp.
Un guide complet et un ensemble d'outils pour le format GGUF (GPT-Generated Unified Format). Cette compétence permet aux utilisateurs de convertir des modèles HuggingFace en GGUF et d'appliquer divers niveaux de quantisation (de Q2_K à Q8_0) pour optimiser les modèles pour le matériel grand public, y compris Apple Silicon (Metal) et les GPU NVIDIA.
Capacités clés :
Cette compétence n'a pas encore été examinée par notre pipeline d'audit automatisé.