
de prompt-cache-skills107
Active automatiquement le prompt caching pour les modèles supportés dans l'agent Continue, réduisant les coûts d'entrée et améliorant la latence.
Cette compétence fournit un ensemble de patchs pour modifier le comportement par défaut du prompt caching dans l'extension IDE Continue, passant de l'option manuelle à l'activation automatique. Elle garantit que les modèles supportés (comme Claude via Anthropic ou Bedrock) utilisent le prompt caching par défaut, réduisant ainsi considérablement les coûts de tokens pour les conversations multi-tours.
Utilisez cette compétence lorsque vous souhaitez optimiser les performances et le coût d'une installation de Continue, spécifiquement pour les utilisateurs qui ne connaissent pas la configuration manuelle requise pour activer le caching.
Anthropic.ts et Bedrock.ts afin de changer la stratégie de caching par défaut vers systemAndTools et d'activer automatiquement le caching des messages de conversation.cache_control sont envoyés et que les lectures de cache s'effectuent.Continue
Cette compétence n'a pas encore été examinée par notre pipeline d'audit automatisé.