Qu’est-ce que la sécurité de l’agent d’IA?

Définition de la sécurité des agents d’IA

La sécurité des agents d’IA consiste à protéger les systèmes autonomes, ainsi que les données, les applications et les ressources de l’entreprise avec lesquelles ils interagissent, contre les compromissions, la manipulation et les utilisations abusives. Son objectif est d’assurer le bon fonctionnement de ces entités intelligentes et d’empêcher qu’elles soient utilisées à des fins malveillantes, au détriment des organisations pour lesquelles elles ont été créées. Alors que les entreprises adoptent rapidement l’intelligence artificielle, savoir se défendre contre les cyberattaques qui exploitent l’IA est devenu une priorité commerciale incontournable.

Contrairement à la sécurité traditionnelle des applications, qui protège du code statique, ou à la sécurité générale de l’intelligence artificielle, qui porte sur les modèles passifs et les données, la sécurité des agents d’intelligence artificielle répond à un nouveau paradigme : celui de systèmes autorisés à planifier, à raisonner et à agir de façon autonome. À mesure que se développe un nouvel écosystème d’intelligence artificielle agentive, dans lequel des agents non humains collaboreront avec les personnes pour automatiser des flux de travail complexes, leur sécurisation devient essentielle pour établir la confiance et stimuler l’innovation.

Les nouveaux défis de sécurité posés par les agents d’IA

La principale force des agents d’IA constitue aussi leur principal risque : ils disposent d’un pouvoir d’action qui leur a été délégué. Cette autonomie explique en grande partie leur apport à la productivité, mais elle crée aussi une surface d’attaque nouvelle et dynamique. Un robot conversationnel manipulé pourrait diffuser de faux renseignements. Un agent d’IA compromis pourrait effectuer des transactions financières non autorisées, supprimer des données essentielles ou exfiltrer des fichiers sensibles.

Le principal défi tient au fait que les agents ne sont pas des programmes statiques. Leur comportement peut varier selon le contexte, les renseignements récupérés, les instructions des utilisateurs et leurs interactions avec les outils, ce qui les rend moins prévisibles que les logiciels traditionnels. Un adversaire n’a pas besoin de trouver une faille dans le code : il lui suffit de convaincre l’agent d’utiliser à mauvais escient les autorisations dont il dispose légitimement. La sécurité ne consiste donc plus seulement à protéger le code, mais aussi à encadrer les comportements.

Risques courants liés à la sécurité des agents d’IA

Les capacités propres à l’intelligence artificielle agentive font apparaître une nouvelle catégorie de menaces auxquelles les organisations doivent se préparer.

• Accès non autorisé et élévation des privilèges : un agent compromis pourrait utiliser les autorisations qui lui ont été accordées pour accéder à des systèmes connectés ou à des données auxquels il n’est pas censé avoir accès. Les agresseurs peuvent manipuler un agent afin qu’il exploite des autorisations trop étendues, utilise abusivement des systèmes connectés ou demande l’exécution d’actions menant à une élévation des privilèges.
• Utilisation malveillante et exploitation des outils : les agents disposent d’outils qui leur permettent, par exemple, d’appeler une API ou d’exécuter un script. Les agresseurs peuvent amener un agent à utiliser ces outils à des fins malveillantes et transformer une fonction utile en arme pour supprimer des fichiers, envoyer des pourriels ou attaquer d’autres systèmes.
• Exfiltration et fuite de données : les agents qui ont accès à des renseignements confidentiels peuvent être manipulés par injection d’invites afin de divulguer ces données à des parties non autorisées. L’agent peut même ne pas « savoir » qu’il divulgue des données si les instructions sont habilement dissimulées.
• Collusion entre plusieurs agents : dans les environnements multiagents, les agresseurs peuvent tenter de manipuler plusieurs agents ou flux de travail afin de contourner les contrôles, ce qui complique la détection et l’intervention. Les adversaires peuvent ainsi contourner des contrôles de sécurité qu’un seul agent isolé ne pourrait pas déjouer à lui seul.
• Déni de service (DoS) : un agresseur pourrait forcer un agent à exécuter une boucle exigeante en ressources, ce qui entraînerait une consommation excessive de puissance de calcul ou d’appels API. Cette attaque peut rendre le service indisponible ou entraîner des coûts considérables et imprévus pour l’organisation.
• Injection d’invites et injection indirecte d’invites : les agresseurs peuvent intégrer des instructions malveillantes dans des sites Web, des documents, des courriels ou tout autre contenu externe traité par un agent. L’agent peut considérer ces instructions comme légitimes et effectuer des actions non autorisées, divulguer des données ou contourner les mesures de protection prévues.

Comment sécuriser les agents d’IA

Une défense efficace repose sur une stratégie à plusieurs niveaux qui conjugue le renforcement des pratiques de sécurité fondamentales et l’adoption de nouveaux contrôles propres à l’intelligence artificielle. Puisque les adversaires utilisent eux aussi l’intelligence artificielle pour repérer et exploiter les faiblesses, la sécurité doit devenir plus automatisée, prédictive et résiliente.

Resserrement des mesures de sécurité fondamentales

De nombreuses cyberattaques alimentées par l’intelligence artificielle continueront d’exploiter des faiblesses de sécurité élémentaires. Avant de sécuriser vos agents, il faut sécuriser l’environnement dans lequel ils fonctionnent. La maîtrise des principes fondamentaux constitue la première étape, et la plus importante.

• Adoption d’une architecture à vérification systématique : applique le principe « ne jamais faire confiance, toujours vérifier » à chaque utilisateur, appareil et application, y compris les agents d’IA. Ce modèle authentifie et autorise chaque connexion et chaque demande, ce qui réduit considérablement la surface d’attaque.
• Consolidation de la gestion des identités et des accès (IAM) : assure l’application de l’authentification multifacteur (MFA) et le principe du moindre privilège aux utilisateurs humains comme aux agents d’IA. Un agent ne doit disposer que des autorisations strictement nécessaires à l’exécution des tâches qui lui sont confiées.
• Maintien de la visibilité sur les ressources, application des correctifs et gestion du cycle de vie : on ne peut pas protéger ce que l’on ne voit pas. Tient continuellement à jour l’inventaire de toutes les ressources, notamment les modèles et les agents d’IA ainsi que les systèmes avec lesquels ils interagissent. Maintien d’un calendrier rigoureux d’application des correctifs et de hiérarchisation des mesures correctives, du remplacement ou l’isolement des technologies en fin de vie qui ne reçoivent plus de mises à jour de sécurité.

Mise en œuvre des contrôles de sécurité propres aux agents

La couche de défense suivante tient compte des caractéristiques propres aux agents d’IA. Ces contrôles visent à encadrer le comportement des agents et à réduire les menaces au niveau de la couche application.

• Validation des entrées et des sorties : filtre toutes les entrées externes, comme les invites des utilisateurs et les données d’API, afin de bloquer les instructions malveillantes. Filtre également les sorties des agents pour prévenir la fuite de données sensibles. Il s’agit d’une recommandation essentielle de cadres de sécurité, comme l’aide-mémoire de l’OWASP sur la sécurité des agents d’IA.
• Intervention humaine pour les actions à haut risque : pour les opérations essentielles ou irréversibles, comme les transferts de fonds ou les changements de configuration des systèmes, exige une approbation humaine explicite avant que l’agent puisse poursuivre.
• Isolation de la mémoire : fait en sorte que la mémoire et le contexte d’un agent soient strictement isolés d’une session utilisateur à l’autre afin d’empêcher un utilisateur d’accéder aux données d’un autre.
• Surveillance comportementale et détection des anomalies : utilise des outils alimentés par l’intelligence artificielle pour superviser l’activité des agents d’IA en temps réel. Configure des alertes pour détecter les comportements inhabituels, comme l’utilisation excessive d’outils, les demandes hors périmètre ou les tentatives d’accès à des ressources restreintes.
• Gouvernance des outils et des actions : limite les outils auxquels un agent peut accéder, définit les actions autorisées et applique les contrôles prévus par les politiques avant l’exécution d’opérations sensibles.

Étendre la vérification systématique à l’intelligence artificielle agentive

À mesure que l’intelligence artificielle agentive s’intègre aux activités commerciales, vous devez étendre votre modèle de sécurité à vérification systématique à ces acteurs non humains. Il faut pour cela créer et appliquer des politiques granulaires qui régissent les interactions entre les agents, ainsi qu’entre les agents et les systèmes.

L’avenir de la sécurité IA

L’adoption de l’intelligence artificielle agentive s’accélère. Gartner estime que, d’ici 2028, environ 15 % des décisions commerciales courantes seront prises de manière autonome au moyen de flux de travail fondés sur l’intelligence artificielle agentive. Cette évolution exige une nouvelle approche de la sécurité, à la fois proactive, intégrée et conçue pour l’intelligence artificielle. Les nouvelles normes du NIST, de l’OWASP et d’autres groupes sectoriels aideront les organisations à établir des pratiques exemplaires. Une protection efficace nécessitera toutefois une approche à plusieurs niveaux combinant gouvernance, contrôles d’identité, surveillance et mesures de protection à l’exécution.