Aikido

Testez la résistance à la piraterie de vos fonctionnalités d'IA avant que quelqu'un ne parvienne à les exploiter pour commettre une intrusion.

AikidoLes agents IA de [nom de l'entreprise] identifient les fonctionnalités LLM présentes dans votre application, puis les testent de manière répétée au cours de longues conversations. Vous obtenez une preuve pour chaque vulnérabilité qu'ils détectent, ainsi qu'un rapport que votre auditeur pourra utiliser.
Vos données ne seront pas partagées · Accès en lecture seule · Aucune carte bancaire requise
Utilisé par plus de 150 000 organisations
|
Adoré par plus de 300 000 développeurs
|
4,7/5
Lovable
Pendo
Revolut
Soundcloud
Niantic
n8n
Deel
Visma
Handshake
Joe & the juice
Runway
Too Good To Go
NiCE
Belfius
Lovable
Pendo
Revolut
Soundcloud
Niantic
n8n
Deel
Visma
Handshake
Joe & the juice
Runway
Too Good To Go
NiCE
Belfius

Si votre IA y a accès, n'importe qui qui discute avec elle y a également accès.

Chaque fonctionnalité LLM que vous déployez s'accompagne d'instructions, d'un accès aux données et, souvent, d'outils qui agissent sur vos systèmes. Toute personne qui tape dans cette fenêtre de discussion peut également les utiliser.
Un seul ticket de document corrompu peut monter votre assistant contre vos propres utilisateurs.
Votre IA est capable de lire des données et d'utiliser des outils. Toute personne qui prend le contrôle de la conversation y a directement accès.
La plupart des tests d'IA se limitent à restreindre les schémas linguistiques du modèle, mais négligent les autorisations dont dispose ce dernier concernant les données et les outils.

Du premier message sur le chat à une faille exploitée.

AikidoLes agents IA de cette plateforme analysent le fonctionnement réel des fonctionnalités de votre modèle de langage à grande échelle (LLM), puis les attaquent à la manière d'un pirate créatif afin de démontrer ce qu'ils sont capables d'atteindre.

Cartographie vos points d'entrée IA

Connectez votre code et laissez les agents l'analyser pour déterminer où se trouvent vos fonctionnalités d'IA et ce à quoi elles ont accès. Vous ne pouvez pas donner accès à votre code ? Les agents peuvent également comprendre votre application en l'utilisant.

Il ne cesse de passer à l'attaque, conversation après conversation

Certaines barrières de sécurité tiennent le coup au début, puis finissent par céder après quelques essais. Les agents testent donc les vôtres dans des conversations nouvelles et de longue durée, afin de vérifier si elles tiennent la route. Ils glisseront également des instructions dans les documents que votre IA lit, comme un PDF mis en ligne.

Poursuit l'exploitation au-delà du modèle

Une simple injection de données suffit à montrer que le modèle peut être trompé. Les agents vont encore plus loin, en injectant des données dans les appels d'outils et vos API, afin de déterminer quelles données il peut atteindre.

Définissez le périmètre de votre pentest avec un expert

En 30 minutes, nous vous expliquons le fonctionnement de vos fonctionnalités d'IA et évaluons votre budget.

Des contrôles multiples portant sur vos invites, vos outils, vos données et vos agents.

Aikido couvre tous les aspects, depuis l’« Top 10 OWASP » pour les applications LLM (codes LLM) jusqu’à l’« Top 10 OWASP » pour les applications agentiques (codes ASI).

Injection directe de commandes et jailbreaks

Les contournements d'instructions, les simulations de « jailbreak » et les charges utiles codées ou obscurcies qui poussent le modèle à ignorer ses propres règles.
LLM01
ASI01

Injection indirecte par invite

Le modèle analyse les instructions intégrées dans les documents, les pages Web, les fichiers, les e-mails et les résultats générés par les outils, afin de déterminer si celles-ci prennent le dessus.
LLM01
ASI01

Fuite de messages système

Extrayez les messages système, les instructions cachées et la configuration des mesures de sécurité, qui recèlent souvent des secrets ou fournissent des indices sur la prochaine attaque.
LLM07

Contournement de la barrière de sécurité et du filtre de sécurité

Obfuscation, traduction, fractionnement de la charge utile et manipulation lente en plusieurs étapes pour contourner les filtres de contenu.
LLM01

Manipulation des buts

Modifier l'objectif ou le plan de l'agent en cours d'exécution d'une tâche.
ASI01

Divulgation d'informations sensibles

Fuite d'informations personnelles identifiables (PII), d'identifiants, de données internes et de conversations d'autres utilisateurs via les résultats générés par le modèle, y compris entre sessions et entre locataires.
LLM02

Corruption de la mémoire et du contexte

Altérer la mémoire persistante, l'historique des conversations et l'état de la session afin d'influencer les réponses futures ou de divulguer des données ultérieurement.
ASI06

RAG (génération augmentée par la recherche) et faiblesses des vecteurs

Fuites inter-locataires dues à la récupération de données, à des documents corrompus, à du contenu non autorisé et à une inversion d'intégration.
LLM08

Empoisonnement des données et des modèles

Les boucles de rétroaction, le contenu fourni par les utilisateurs et les paramètres de réglage fin qui modifient le comportement du modèle de manière visible.
LLM04

Excès d'autonomie

Un agent disposant de plus d'outils, de droits d'accès ou d'autonomie que ne l'exige son poste.
LLM06

Utilisation abusive des outils et des fonctions

Amener l'agent à appeler des outils avec des paramètres malveillants ou à enchaîner des outils pour créer quelque chose que vous n'aviez pas prévu.
ASI02

Intégration non sécurisée d'outils et de plugins

Suivi des appels vers votre backend à l'aide d'outils afin de détecter les vulnérabilités de type SSRF, injection de commande, traversée de chemin et autres types d'injection.
ASI02

Actions autonomes dangereuses

Les paiements, les suppressions ou les appels externes qui s'exécutent sans confirmation humaine, ou dont l'étape de confirmation peut être ignorée.
LLM06

Empoisonnement de la communication entre agents multiples

Des messages falsifiés ou malveillants échangés entre agents, qui propagent des instructions malveillantes à travers votre réseau d'agents.
ASI07

Compromission des privilèges et « adjoint désorienté »

Faire en sorte que votre IA utilise ses propres identifiants et autorisations au nom de l'attaquant.
ASI03

Problème d'autorisation concernant les fonctionnalités d'IA

Accès non authentifié aux points de terminaison de l'IA, absence de contrôles par utilisateur sur les actions de l'agent et vulnérabilité IDOR via l'agent.
ASI03

Usurpation d'identité

Se faire passer pour un utilisateur, un autre agent ou un service de confiance afin d'acquérir une influence qu'il ne devrait pas avoir.
ASI03

Gestion incorrecte des données de sortie

Le modèle transmet des données à d'autres composants de manière non sécurisée, ce qui peut entraîner des failles de type XSS, injection SQL, injection de commandes, SSRF ou injection de modèles.
LLM05
ASI05

Consommation effrénée et refus de dépenser

Absence de limites de taux et de quotas permettant à quelqu'un de faire grimper votre facture de jetons, d'épuiser vos ressources ou d'extraire votre modèle par le volume.
LLM10

Exposition liée au modèle et à la chaîne d'approvisionnement

Des points de terminaison de modèles exposés ou non authentifiés, ainsi que des dépendances vulnérables au niveau des frameworks d'IA et des plugins.
LLM03
ASI04
Chaînes d'attaques

Il suffit d'un seul fichier corrompu pour provoquer une fuite de données clients

Les véritables pirates exploitent une faille pour en atteindre une autre, et nos agents fonctionnent de la même manière.
  • Une instruction cachée dans un fichier mis en ligne amène votre assistant à appeler un outil interne ; cet outil ne vérifie pas les autorisations, et les factures d'un autre locataire apparaissent dans la conversation.

  • Les agents suivent cette chaîne aussi loin que cela est possible en toute sécurité et vous montrent chaque étape.

  • Si les agents constatent un problème lié au site web ou à l'API lors des tests de vos fonctionnalités d'IA, cela figurera également dans le rapport.

Lancer votre pentest

Comparaison entre les cadres de « red teaming » basés sur le LLM et un véritable test d'intrusion des capacités d'IA

Les frameworks open source de « red teaming » lancent des scénarios d'attaque contre votre modèle et évaluent ses réponses, mais la configuration et la génération de rapports restent à votre charge. Un test d'intrusion des capacités IA va plus loin : des agents identifient eux-mêmes les fonctionnalités de votre IA et suivent chaque attaque jusqu'aux outils et aux données qui sous-tendent le modèle. À l'issue des tests, vous recevez des conclusions validées, accompagnées de preuves.
Cadres de simulation d'attaques (Red Teaming)
Aikido Test d'intrusion des capacités d'IA
Configuration
Vous rédigez la configuration cible, choisissez les plugins d'attaque et les intégrez à votre application.
Les agents identifient vos fonctionnalités d'IA à partir de votre code ou en utilisant votre application.
Ce qui est testé
Il s'agit principalement des réponses du modèle à des invites d'attaque.
Le modèle, ainsi que les outils, les données, la mémoire et les autorisations qui le sous-tendent.
Jusqu'où cela va-t-il ?
Les conclusions se limitent à ce qu'indique le modèle.
Les agents suivent une piste jusqu'au bout, ce qui les amène souvent à consulter des données appartenant à un autre client.
Résultats
Taux de réussite des attaques, souvent évalués par un autre modèle de langage de grande envergure (LLM).
Constatations validées, accompagnées de preuves de l'existence de la faille et de recommandations pour y remédier.
Reporting
Vous transformez vous-même ces résultats bruts en rapport.
Un rapport prêt pour l'audit conforme aux normes SOC 2 et ISO 27001.
Vos autres tests d'intrusion
IA uniquement.
Fonctionne sur la même plateforme que vos autres tests d'intrusion Aikido .
Fonctionnement
Il enchaîne une série d'attaques prédéfinies que vous choisissez à l'avance.
Les agents adaptent chaque nouvelle attaque en fonction de ce qu'ils détectent dans votre application.

Test d'intrusion des capacités d'IA ou test d'intrusion d'une application web ?

Chaque test d'intrusion web et mobile proposé par Aikido inclut déjà une évaluation des fonctionnalités d'IA de votre application. Optez pour le test d'intrusion « Capacités d'IA » si c'est précisément cet aspect que vous souhaitez faire tester en priorité.
Test d'intrusion d'une application web

L'ensemble de votre application, fonctionnalités d'IA comprises

  • Des centaines d'agents procèdent à un audit d'une application

  • La logique, les rôles, les API et les fonctionnalités d'IA sont testés

  • Vous fournissez : votre application, ainsi que du code ou des utilisateurs testeurs si vous optez pour l'approche « boîte blanche ».

Lancer un test d'intrusion Web
Test d'intrusion des capacités d'IA

Vos copilotes, chatbots et agents IA

  • Les agents utilisent exclusivement vos fonctionnalités LLM pendant toute la durée de l'exécution

  • Les invites, les outils, la mémoire, la récupération et les autorisations liées à l'IA sont testés

  • Vous fournissez : une URL de préproduction, des utilisateurs de test et, dans l'idéal, votre code

Lancer un test d'intrusion portant sur les capacités d'IA

Avez-vous développé votre application avec Lovable ou Supabase ?

Connectez votre projet Lovable ou votre backend Supabase et effectuez un test d'intrusion sur l'application en quelques clics. Lovable transmet votre dépôt, ce qui permet à chaque test d'intrusion Lovable de s'effectuer en mode « boîte blanche ».
Lancer votre pentest

Testez dès aujourd'hui la sécurité de vos fonctionnalités d'IA

Accédez à votre application de test via Aikido et ajoutez quelques utilisateurs de test. Les agents prendront le relais à partir de là.

Tout compris – Un prix forfaitaire – Du début à la remise en état
Utilisé par plus de 150 000 organisations
FAQ

Foire aux questions sur les tests d'intrusion utilisant les modèles de langage (LLM) et les agents IA

Qu'est-ce qu'un test d'intrusion axé sur les capacités de l'IA ?

Les agents IA testent les fonctionnalités LLM de votre application, telles que les copilotes, les chatbots, la recherche RAG et les agents utilisant des outils, à la manière d’un pirate informatique. Ils recherchent les failles liées à l’injection de prompts, aux fuites de données, à l’utilisation abusive d’outils, à l’empoisonnement de la mémoire et des résultats de recherche, ainsi qu’aux failles d’autorisation sur les actions IA, puis démontrent chaque vulnérabilité à l’aide d’un exploit fonctionnel.

Quelle est la meilleure façon de réaliser un test d'intrusion sur une application LLM ?

Si vous avez intégré une fonctionnalité LLM à votre produit, vous avez besoin d'un test qui couvre à la fois le modèle et les outils, les données et les autorisations qui le sous-tendent. Le test d'intrusion « AI Capabilities » proposé par Aikido répond à ce besoin et vous fournit une preuve d'exploitation ainsi qu'un rapport prêt à être présenté lors d'un audit.

En quoi cela diffère-t-il des frameworks open source de « red teaming » pour les grands modèles de langage (LLM) ?

Les frameworks vous fournissent des éléments de base : des scénarios d'attaque, des orchestrateurs et des systèmes d'évaluation. Il vous reste toutefois à définir les cibles, à exécuter les tests, à analyser les résultats et à rédiger le rapport. Les agents de Aikido identifient eux-mêmes vos fonctionnalités d'IA, testent tous les éléments (outils et données compris), valident chaque résultat et vous remettent le rapport.

Aikido , couvre-t-il l'Top 10 OWASP pour les applications LLM et l'Top 10 OWASP pour les applications agentiques ?

Oui. Aikido teste les principaux risques figurant dans ces deux listes, notamment l'injection de commandes, la divulgation d'informations sensibles, l'autonomie excessive, l'utilisation abusive d'outils, l'empoisonnement de la mémoire, la fuite de commandes système, les failles de vecteur et d'intégration, ainsi que la consommation illimitée.

Testez-vous les jailbreaks en plusieurs étapes ?

Oui. Les agents mènent plusieurs conversations distinctes, chacune comportant de nombreux échanges et plusieurs tentatives, ce qui leur permet de repérer les limites qui ne cèdent qu'après de longs allers-retours.

Pouvez-vous tester l'injection indirecte de prompt ?

Oui. Les agents intègrent des instructions dans le contenu lu par votre IA, comme les fichiers téléchargés, les documents récupérés, les pages Web, les e-mails et les résultats générés par des outils, puis vérifient si ces instructions prennent le dessus.

Aikido peut-il réaliser des tests d'intrusion sur des agents IA qui utilisent des outils ou des serveurs MCP ?

Oui. Les agents testent les capacités de votre agent IA à l'aide de ses outils, notamment pour vérifier si un attaquant peut l'amener à appeler un outil avec des paramètres malveillants ou à accéder à des systèmes auxquels il ne devrait pas avoir accès.

S'agit-il d'une approche « boîte noire » ou « boîte blanche » ?

Les deux. Connectez vos référentiels et les agents analysent le code pour cartographier les points d'entrée du chat, les invites, les outils, la mémoire et la récupération, ce qui permet d'obtenir davantage de résultats pour le même nombre de crédits. Sans code, les agents travaillent à partir de votre application et du contexte que vous leur fournissez.

Que dois-je fournir à Aikido?

Une URL de test comprenant vos fonctionnalités d'IA, la vérification de domaine, des utilisateurs de test pour chaque rôle que vous souhaitez tester et les adresses IP de Aikido figurant sur votre liste blanche. L'intégration de votre code est facultative, mais recommandée.

Puis-je l'utiliser en environnement de production ?

Testez-le sur l'environnement de préproduction. Les agents utilisent vos fonctionnalités d'IA comme le ferait un véritable utilisateur, y compris les outils permettant de créer, modifier ou supprimer des données. Utilisez une instance de test contenant des données hors production et désactivez, dans la mesure du possible, les outils pouvant entraîner des pertes de données, tels que les paiements ou l'envoi d'e-mails. Vous pouvez interrompre instantanément l'activité de chaque agent à l'aide du bouton d'urgence.

Mon test d'intrusion d'application web inclut-il déjà les fonctionnalités d'IA ?

Oui. Chaque test d'intrusion Web et mobile proposé par Aikido inclut les fonctionnalités d'IA dans son périmètre. Le test d'intrusion dédié aux capacités d'IA permet aux agents de se concentrer exclusivement sur ces fonctionnalités et garantit que le rapport porte uniquement sur les risques liés à l'IA.

Puis-je utiliser ce rapport à des fins de conformité ?

Oui. Vous recevez un rapport prêt pour l'audit, contenant des conclusions validées, des preuves d'exploitation des failles et des recommandations de correction, couvrant les contrôles techniques requis par les normes SOC 2 Type II, ISO 27001 et HIPAA.

Est-il possible de réaliser des tests d'intrusion sur des applications développées avec Lovable ou Supabase ?

Oui. Aikido s'intègre à Lovable et Supabase, ce qui vous permet de réaliser un test d'intrusion sur une application générée par IA ou sur une application dotée d'un backend Supabase en quelques clics seulement.

Comment les tarifs sont-ils calculés ?

Les tests d'intrusion fonctionnent avec des crédits. Vous connaissez le prix exact avant même que la procédure ne commence. Consultez notre grille tarifaire des tests d'intrusion pour plus de détails.

En quoi cela diffère-t-il d'une « red team » humaine spécialisée dans l'IA ?

Les agents utilisent les mêmes techniques qu'un membre humain d'une « red team », allant de la manipulation progressive en plusieurs étapes à l'enchaînement d'une échappée (jailbreak) avec l'appel d'un outil. Comme ils mènent plusieurs conversations simultanément, vous pouvez relancer l'intégralité du test chaque fois que vous modifiez une invite, un modèle ou un outil.