L'IA écrit désormais une grande partie des logiciels en production. Selon le rapport « State of AI in Security and Development 2026 » Aikido, 24 % du code en production est désormais généré par l'IA. Cependant, 69 % des organisations ont découvert des vulnérabilités dans le code généré par l'IA et 20 % ont signalé un incident grave à la suite de cela.
Une grande partie des discussions sur la sécurité des grands modèles de langage (LLM) se concentre sur la mise en place de garde-fous au niveau des modèles. Mais on accorde beaucoup moins d’attention à la couche applicative, alors que c’est là que naissent bon nombre de ces incidents et que les garde-fous ne peuvent pas intervenir. En janvier 2025, une erreur de configuration critique dans du code généré par l’IA a exposé, dans plus de 170 applications développées par Lovable, des e-mails, des clés API, des informations de paiement et des données personnelles. Aucun dispositif de sécurité placé en amont d’un modèle n’aurait pu détecter ce problème.
Cet article explique en détail ce que recouvre réellement la sécurité des applications LLM, pourquoi elle est nécessaire, comment choisir un outil adapté et quelles plateformes offrent la meilleure couverture.
{{cta}}
TL;DR
Aikido est la solution la plus performante pour les équipes qui souhaitent bénéficier d’une sécurité des applications LLM de niveau entreprise tout au long du cycle de vie du développement de l’IA. Elle analyse le code généré par l’IA dans l’IDE, bloque les paquets malveillants et erronés lors de l’installation, protège l’environnement de développement contre les menaces telles que les serveurs MCP malveillants, et identifie les modèles d’IA appelés par votre application en production.
Qu'est-ce que la sécurité des applications LLM ?
Dans cet article, nous nous intéresserons à la sécurité des grands modèles de langage (LLM) du point de vue des applications, c'est-à-dire à la sécurisation du code, des dépendances et de l'infrastructure associées à un LLM. Cette approche se distingue de la sécurité des modèles, qui porte sur le comportement du LLM lors de son exécution et qui est gérée par des garde-fous et des outils de simulation d'attaques tels que Lakera Guard, Prisma , NeMo Guardrails et Garak. Aucune de ces deux approches n'est suffisante à elle seule.
L'étude « PromptPwnd » Aikido a montré pourquoi le volet applicatif mérite toute notre attention. Des données non fiables ont été injectées dans les invites de commande de Gemini CLI et d'autres agents s'exécutant au sein des workflows GitHub Actions, et ces agents ont utilisé leurs jetons privilégiés pour divulguer des informations confidentielles. Au moins cinq entreprises du classement Fortune 500 ont été touchées.
Le modèle a servi de point d'entrée à l'attaquant, mais la vulnérabilité résidait dans le fichier de workflow, un élément que les outils de sécurité des applications sont en mesure de vérifier. SAST peuvent signaler les données d'entrée non fiables transmises aux invites et les jetons privilégiés exposés aux agents, ce qui correspond exactement à ce que détectent les règles Opengrep Aikido et à ce que Google a corrigé dans les quatre jours suivant la divulgation.
Le classement « Top 10 OWASP les applications LLM 2025 » constitue le cadre de référence dans ce domaine, et plusieurs de ses catégories relèvent de la couche applicative, notamment la chaîne d’approvisionnement (LLM03), la gestion inappropriée des résultats (LLM05), l’autonomie excessive (LLM06) et la désinformation (LLM09). Cependant, cette taxonomie a été élaborée en pensant aux applications LLM en exécution, et elle ne rend compte que partiellement des risques liés au développement assisté par l'IA.
Ces vulnérabilités se manifestent déjà dans la réalité. Dans le cadre de l’étude LLM09, des chercheurs présents à la conférence USENIX 2025 ont testé 16 modèles sur 2,23 millions d’exemples de code et ont constaté que 19,7 % d’entre eux contenaient au moins un nom de paquet « halluciné ». Lorsque des invites identiques ont été réexécutées, 43 % des paquets « hallucinés » sont réapparus dans chacune des 10 requêtes. Les attaquants enregistrent désormais à l’avance de faux noms, transformant ainsi les particularités des modèles en attaques de la chaîne d’approvisionnement.
La couverture de ces catégories nécessite plusieurs capacités distinctes. SAST l’analyse des secrets dans le code des applications détectent les identifiants codés en dur et les entrées non validées qui alimentent les invites. SCA les versions de frameworks d’IA connues pour être vulnérables, tandis que la détection des logiciels malveillants dans la chaîne d’approvisionnement repère les paquets malveillants et « hallucinés ». La protection de l’environnement de développement détecte les serveurs MCP malveillants distribués sous forme de paquets et les extensions compromises avant leur installation. Enfin, le suivi de l’utilisation des LLM surveille les modèles que votre application appelle réellement, mettant ainsi en évidence les intégrations d’IA non autorisées.
Pourquoi vous avez besoin d'outils de sécurité LLM
Le développement de l'IA a fait apparaître de nouvelles vulnérabilités auxquelles les équipes de sécurité doivent remédier.
- Le code généré par l'IA est déployé sans avoir été vérifié : alors qu'un quart du code de production est désormais généré par l'IA, les vérifications n'ont pas suivi le rythme de la production.
- Les modèles de langage à grande échelle (LLM) héritent des vulnérabilités du code dans lequel ils s'exécutent : ce n'est pas seulement le code écrit par l'IA qui compte. Tout code que le LLM lit, sur lequel il s'exécute ou dont il tire des informations contextuelles fait partie intégrante de sa surface d'attaque, ce qui est précisément ce qui a rendu PromptPwnd exploitable.
- Slopsquatted paquets : les pirates enregistrent les noms des paquets ; les assistants IA ont des hallucinations, transformant une particularité du modèle en une attaque de la chaîne logistique.
- Shadow AI: Des équipes font appel à des modèles que personne n’a répertoriés et envoient des données à des fournisseurs que personne n’a approuvés.
- Les exigences réglementaires commencent à mettre l'accent sur la sécurité des modèles de langage de grande envergure (LLM) : la loi européenne sur l'IA en est l'exemple le plus flagrant, et le « Top 10 des LLM » de l'OWASP s'impose progressivement comme le cadre de référence de facto dans les évaluations de sécurité.
Comment choisir un outil de sécurité basé sur le LLM
Couverture de l'ensemble du cycle de vie du développement de l'IA (AI SDLC)
Une plateforme qui couvre à la fois le code généré par l'IA, la chaîne d'approvisionnement qui l'alimente et l'environnement de développement qui le produit. Les outils ponctuels ne couvrent qu'une partie du tableau, et le fait de devoir coordonner plusieurs fournisseurs implique de multiples tableaux de bord et des résultats redondants.
Est-ce qu'il vérifie le code généré par l'IA dans l'IDE ?
Le code écrit par un assistant doit être analysé dès sa création, et non détecté lors de l'intégration continue (CI) une fois qu'il figure déjà dans une pull request. L'IDE constitue la première ligne de défense contre les vulnérabilités du code généré par l'IA, car c'est là qu'un humain examine activement chaque ligne.
Rapport signal/bruit
L'IA a entraîné une augmentation tant du volume de code que du nombre de résultats. Un outil incapable de trier ses propres résultats finit par créer un nouveau retard.
Suivi de l'utilisation de LLM
Une visibilité sur les modèles appelés par l'application, afin de détecter les interfaces d'IA cachées avant qu'un auditeur ou un pirate ne les découvre.
Les meilleurs outils de sécurité LLM pour les applications d'IA
Aikido Security
Aikido couvre l'ensemble du cycle de vie des applications d'IA, de bout en bout. Cela commence dans l'IDE, où le code généré par l'IA est créé, et se poursuit jusqu'à l'environnement de production où il est exécuté.
Au niveau du code, le plugin MCP Aikido relie directement le moteur de sécurité Aikido aux outils de codage basés sur l'IA, en exécutant automatiquement SAST et la détection de secrets sur le code généré au sein de l’IDE. Les vulnérabilités sont détectées dès leur création, au lieu d’apparaître dans une pull request ou, pire encore, en production. Safe Chain vient compléter ce dispositif en bloquant les paquets npm malveillants ou « hallucinés » au moment de l’installation et en coupant court aux attaques de type « slopsquatting » avant même qu’un paquet ne s’introduise dans votre arborescence de dépendances (ce qui correspond directement à la vulnérabilité OWASP LLM09).
Au niveau de l'environnement, la protection des appareils surveille les machines sur lesquelles s'effectue le développement assisté par l'IA. Les outils de codage basés sur l'IA se connectent aux serveurs MCP, installent des extensions et récupèrent des paquets ; chacune de ces opérations constitue un vecteur d'attaque potentiel. La protection des appareils détecte les serveurs MCP malveillants et les extensions compromises avant même leur installation.
Le DSPM identifie les emplacements où aboutissent les données issues des applications d'IA. Les données sensibles des clients sont acheminées vers des emplacements que les outils traditionnels ne détectent pas, notamment les bases de données vectorielles et les journaux de prompts, souvent sans avoir été préalablement anonymisées. Le DSPM repère ces données exposées, afin d'éviter que les informations personnelles identifiables (PII) ne s'accumulent discrètement dans l'infrastructure où vos fonctionnalités d'IA effectuent des écritures.
En production, Zen propose un suivi de l'utilisation des LLM intégré à l'application qui indique en temps réel quels modèles d'IA votre application utilise, suit la destination des données jusqu'au niveau régional et garantit la conformité de l'utilisation de l'IA, de sorte que toute intégration non autorisée soit immédiatement détectée.
Derrière tout cela, AutoTriage se charge de la déduplication, du filtrage par accessibilité et de la corrélation entre les différents scanners, ce qui permet de maintenir à un niveau gérable, à l'échelle de l'entreprise, le volume de résultats générés par l'IA.
De plus, les systèmes RBAC, SSO et les journaux d'audit sont intégrés à chaque couche, ce qui permet de répondre aux exigences de gouvernance de l'entreprise.
Idéal pour : les équipes d'entreprise qui souhaitent bénéficier d'une sécurité des applications basée sur l'IA tout au long du cycle de vie du développement, avec les fonctionnalités RBAC, SSO et les pistes d'audit requises par la gouvernance.
{{walkthrough}}
Snyk
La plateforme Snyk couvre les domaines SAST, SCA, des conteneurs et analyse IaC, grâce à son moteur d'IA DeepCode qui permet la détection et l'analyse du code généré par l'IA au sein de l'IDE. Au cours de l'année écoulée, Snyk repositionnée en tant que « plateforme de sécurité basée sur l'IA », en déployant Evo AI-SPM pour la gestion de la posture des agents IA, Agent Security pour la gouvernance des agents IA tout au long de leur cycle de vie, et Agent Fix pour la correction autonome au sein de l'IDE.
Le véritable atout Snyk reste AppSec traditionnel, car la plupart de ces produits basés sur l'IA ont moins d'un an d'existence et n'ont donc pas encore fait leurs preuves à l'échelle des SCA SAST SCA traditionnels Snyk. Les compromis habituels liés à Snyk également inchangés. Le volume de résultats détectés Snyk fait l'objet de critiques récurrentes, et son modèle tarifaire convient mieux aux grandes entreprises qu'aux petites équipes.
Idéal pour: les équipes qui recherchent une plateforme éprouvée offrant une large couverture linguistique et qui sont prêtes à investir dans les outils d'IA Snyk, en pleine expansion. Toutefois, ces équipes doivent prévoir du temps pour le réglage afin de maintenir le volume de résultats à un niveau gérable, et s'attendre à des tarifs destinés aux grandes entreprises qui ne conviendront pas aux petites structures.
Semgrep
La force Semgrep réside dans ses règles personnalisables. Les équipes peuvent écrire leur propre logique de détection pour des modèles de code spécifiques aux LLM. Semgrep , lancé en mars 2026, associe le moteur de règles déterministe Semgrep au raisonnement des LLM afin de réduire la charge de triage et de générer des instructions de correction étape par étape dans les pull requests. Semgrep , lancé en mai 2026, est un outil d’analyse de sécurité en temps réel pour le code généré par l’IA qui s’exécute au sein de Claude Code, Cursor, Windsurf, Kiro et d’autres outils de codage agentique. Il est fourni avec trois packs de règles sélectionnées avec soin, spécifiquement destinés aux risques liés à l’IA.
Le compromis réside dans le champ d’application. Semgrep une plateforme de sécurité du code, la protection de la chaîne logistique au-delà de l’analyse des vulnérabilités des paquets, la défense de l’environnement de développement, la gestion des modèles de sécurité (DSPM) et le suivi de l’utilisation des LLM en production doivent tous provenir d’autres sources. Le fondement basé sur des règles reste également un facteur à prendre en compte. La couverture dépend des ensembles de règles que vous activez et de la manière dont vous les paramétrez, même si les ensembles spécifiques à l’IA Semgrep effectuent désormais une grande partie de ce travail « prêts à l’emploi », bien plus qu’auparavant.
Idéal pour : les équipes d'ingénierie de sécurité qui souhaitent rédiger et optimiser leurs propres règles de détection, et qui sont à l'aise avec une plateforme axée sur le code plutôt qu'avec une suite de sécurité « full-stack ». Vous aurez toutefois besoin de solutions distinctes pour la protection de la chaîne d'approvisionnement, les menaces pesant sur les environnements de développement et la visibilité sur l'utilisation des modèles de langage (LLM) en production.
Endor Labs
Endor Labs une plateforme unifiée couvrant l'analyse SCA, l'analyse SAST, détection de secrets, l'analyse des conteneurs et détection de paquets malveillants son Package Firewall. Côté IA, Endor identifie les modèles d’IA intégrés à votre base de code, génère des AI-BOM et propose une évaluation des risques pour les modèles provenant de référentiels publics tels que Hugging Face. Son serveur AURI MCP s’intègre directement à Cursor, Claude Code, Copilot et d’autres assistants de codage basés sur l’IA pour permettre une analyse en temps réel au fur et à mesure de l’écriture du code.
Cependant, Endor ne couvre pas l'environnement de développement au-delà des plugins IDE (aucune protection contre les serveurs MCP malveillants en tant que menaces installées), ne fonctionne pas en production (aucun suivi de l'utilisation des LLM, aucune protection des applications en exécution) et ne prend pas en charge le DSPM.
Idéal pour : les équipes dont le principal risque lié à l'IA réside dans la chaîne d'approvisionnement open source ; toutefois, si vos risques incluent du code généré par l'IA dans l'IDE, des serveurs MCP malveillants sur les machines des développeurs ou des appels de modèles non autorisés en production, vous aurez besoin d'une solution complémentaire.
Wiz
Wiz la sécurité de l'IA depuis le cloud. Sa solution AI-SPM identifie les services, les modèles et l'infrastructure d'entraînement liés à l'IA dans cloud , et signale les erreurs de configuration et les risques d'exposition. Wiz étend cette découverte aux magasins de vecteurs et aux journaux de prompts, où les données sensibles liées à l’IA ont tendance à s’accumuler. Wiz , lancé pour s’intégrer au workflow des développeurs, couvre les domaines SAST, SCA, détection de secrets et analyse IaC des plugins IDE pour VS Code, JetBrains et Lovable. Depuis la finalisation de son acquisition par Google en mars 2026, Wiz d’opérer sous sa propre marque au sein de Google Cloud.
C'est au tout début du processus de développement de l'IA que la couverture Wiz présente des lacunes. Il n'y a pas de blocage des paquets malveillants au moment de l'installation (Wiz lesWiz a posteriori plutôt que de les intercepter avant l'installation), pas de protection de l'environnement de développement contre les serveurs MCP malveillants, et pas de suivi de l'utilisation des LLM au niveau des requêtes au sein de l'application.
Idéal pour : les équipes de sécurité dont le principal enjeu en matière de sécurité IA est la visibilité cloud. Toutefois, si votre objectif est de bloquer les vulnérabilités liées à l'IA avant qu'elles n'atteignent l'environnement de production (en bloquant les paquets malveillants avant leur installation, en détectant les menaces liées aux serveurs MCP sur les machines des développeurs, ou en suivant les appels de modèles en production), les atouts Wiz se situent à un niveau plus en aval que ce dont vous avez besoin.
