Révision de Sécurité OWASP LLM Top 10

Ce que fait cette compétence

Cette compétence transforme une fonctionnalité basée sur un LLM en une surface d'attaque formelle pour un audit de sécurité rigoureux. Elle garantit que les fonctionnalités utilisant des modèles de langage (LLM) ne sont pas seulement validées "à l'instinct", mais sont systématiquement vérifiées par rapport aux vulnérabilités standards de l'industrie.

Quand l'utiliser

Utilisez cette compétence chaque fois qu'une interface produit introduit un appel LLM, de la génération augmentée par récupération (RAG), du fine-tuning, des banques de données d'embeddings ou toute automatisation routée par un modèle. Elle est cruciale lors des phases de conception et de validation avant la mise en production des fonctionnalités IA.

Ce qui est inclus

• Références : Inclut owasp-llm-top10.md contenant des listes de contrôle par catégorie et des modèles de cas d'abus.
• Instructions : Fournit une procédure étape par étape pour cartographier les flux de données LLM, établir des listes de cas d'abus (ex: injection indirecte de prompt, fuite du prompt système) et vérifier les conclusions via des évaluations empiriques plutôt que par une simple revue de code.

Agents compatibles

Conçue pour les agents à haute capacité de raisonnement capables d'analyse de sécurité et d'utilisation d'outils (ex: Claude Code, Codex, ou agents personnalisés spécialisés en sécurité).