Qu’est-ce que la sécurité des agents d’intelligence artificielle?

Définition de la sécurité des agents d’intelligence artificielle

La sécurité des agents d’intelligence artificielle consiste à protéger les systèmes autonomes, ainsi que les données, les applications et les ressources de l’entreprise avec lesquelles ils interagissent, contre les compromissions, la manipulation et les utilisations abusives. Elle vise à garantir que ces agents intelligents se comportent comme prévu et à empêcher qu’ils soient détournés au détriment des organisations qu’ils ont été conçus pour servir. Alors que les entreprises adoptent rapidement l’intelligence artificielle, savoir se défendre contre les cyberattaques qui l’exploitent est devenu une priorité commerciale incontournable.

Contrairement à la sécurité traditionnelle des applications, qui protège du code statique, ou à la sécurité générale de l’intelligence artificielle, qui porte sur les modèles passifs et les données, la sécurité des agents d’intelligence artificielle répond à un nouveau paradigme : celui de systèmes autorisés à planifier, à raisonner et à agir de façon autonome. À mesure que se développe un nouvel écosystème d’intelligence artificielle agentique, dans lequel des agents non humains collaboreront avec les personnes pour automatiser des flux de travail complexes, leur sécurisation devient essentielle pour établir la confiance et stimuler l’innovation.

Les nouveaux défis de sécurité posés par les agents d’intelligence artificielle

La principale force des agents d’intelligence artificielle constitue aussi leur principal risque : ils disposent d’un pouvoir d’action qui leur a été délégué. Cette autonomie explique en grande partie leur apport à la productivité, mais elle crée aussi une surface d’attaque nouvelle et dynamique. Un robot conversationnel manipulé pourrait diffuser de faux renseignements. Un agent d’intelligence artificielle compromis pourrait effectuer des transactions financières non autorisées, supprimer des données essentielles ou exfiltrer des fichiers sensibles.

Le principal défi tient au fait que les agents ne sont pas des programmes statiques. Leur comportement peut varier selon le contexte, les renseignements récupérés, les instructions des utilisateurs et leurs interactions avec les outils, ce qui les rend moins prévisibles que les logiciels traditionnels. Un adversaire n’a pas besoin de trouver une faille dans le code : il lui suffit de convaincre l’agent d’utiliser à mauvais escient les autorisations dont il dispose légitimement. La sécurité ne consiste donc plus seulement à protéger le code, mais aussi à encadrer les comportements.

Risques courants liés à la sécurité des agents d’intelligence artificielle

Les capacités propres à l’intelligence artificielle agentique font apparaître une nouvelle catégorie de menaces auxquelles les organisations doivent se préparer.

• Accès non autorisé et élévation des privilèges : un agent compromis pourrait utiliser les autorisations qui lui ont été accordées pour accéder à des systèmes connectés ou à des données auxquels il n’est pas censé avoir accès. Les agresseurs peuvent manipuler un agent afin qu’il exploite des autorisations trop étendues, utilise abusivement des systèmes connectés ou demande l’exécution d’actions menant à une élévation des privilèges.
• Utilisation malveillante et exploitation des outils : les agents disposent d’outils qui leur permettent, par exemple, d’appeler une API ou d’exécuter un script. Les agresseurs peuvent amener un agent à utiliser ces outils à des fins malveillantes et transformer une fonction utile en arme pour supprimer des fichiers, envoyer des pourriels ou attaquer d’autres systèmes.
• Exfiltration et fuite de données : les agents qui ont accès à des renseignements confidentiels peuvent être manipulés par injection d’invites afin de divulguer ces données à des parties non autorisées. L’agent peut même ne pas « savoir » qu’il divulgue des données si les instructions sont habilement dissimulées.
• Collusion entre plusieurs agents : dans les environnements multiagents, les agresseurs peuvent tenter de manipuler plusieurs agents ou flux de travail afin de contourner les contrôles, ce qui complique la détection et l’intervention. Les adversaires peuvent ainsi contourner des contrôles de sécurité qu’un seul agent isolé ne pourrait pas déjouer à lui seul.
• Déni de service (DoS) : un agresseur pourrait forcer un agent à exécuter une boucle exigeante en ressources, ce qui entraînerait une consommation excessive de puissance de calcul ou d’appels API. Cette attaque peut rendre le service indisponible ou entraîner des coûts considérables et imprévus pour l’organisation.
• Injection d’invites et injection indirecte d’invites : les agresseurs peuvent intégrer des instructions malveillantes dans des sites Web, des documents, des courriels ou tout autre contenu externe traité par un agent. L’agent peut considérer ces instructions comme légitimes et effectuer des actions non autorisées, divulguer des données ou contourner les mesures de protection prévues.

Comment sécuriser les agents d’intelligence artificielle

Une défense efficace repose sur une stratégie à plusieurs niveaux qui conjugue le renforcement des pratiques de sécurité fondamentales et l’adoption de nouveaux contrôles propres à l’intelligence artificielle. Puisque les adversaires utilisent eux aussi l’intelligence artificielle pour repérer et exploiter les faiblesses, la sécurité doit devenir plus automatisée, prédictive et résiliente.

Renforcer les pratiques de sécurité fondamentales

De nombreuses cyberattaques alimentées par l’intelligence artificielle continueront d’exploiter des faiblesses de sécurité élémentaires. Avant de sécuriser vos agents, vous devez sécuriser l’environnement dans lequel ils fonctionnent. La maîtrise des principes fondamentaux constitue la première étape, et la plus importante.

• Adopter une architecture à vérification systématique : appliquez le principe « ne jamais faire confiance, toujours vérifier » à chaque utilisateur, appareil et application, y compris les agents d’intelligence artificielle. Ce modèle authentifie et autorise chaque connexion et chaque demande, ce qui réduit considérablement la surface d’attaque.
• Renforcer la gestion des identités et des accès (IAM) : imposez l’authentification multifacteur (MFA) et le principe du moindre privilège aux utilisateurs humains comme aux agents d’intelligence artificielle. Un agent ne doit disposer que des autorisations strictement nécessaires à l’exécution des tâches qui lui sont confiées.
• Maintenir la visibilité sur les ressources, appliquer les correctifs et gérer le cycle de vie : vous ne pouvez pas protéger ce que vous ne voyez pas. Tenez continuellement à jour l’inventaire de toutes les ressources, y compris les modèles d’intelligence artificielle, les agents et les systèmes avec lesquels ils interagissent. Maintenez un calendrier rigoureux d’application des correctifs et hiérarchisez la correction, le remplacement ou l’isolement des technologies en fin de vie qui ne reçoivent plus de mises à jour de sécurité.

Mettre en œuvre des contrôles de sécurité propres aux agents

La couche de défense suivante tient compte des caractéristiques propres aux agents d’intelligence artificielle. Ces contrôles visent à encadrer le comportement des agents et à réduire les menaces au niveau de la couche application.

• Validation des entrées et des sorties : assainissez toutes les entrées externes, comme les invites des utilisateurs et les données d’API, afin de bloquer les instructions malveillantes. Filtrez également les sorties des agents pour prévenir la fuite de données sensibles. Il s’agit d’une recommandation essentielle de cadres de sécurité comme l’aide-mémoire de l’OWASP sur la sécurité des agents d’intelligence artificielle.
• Intervention humaine pour les actions à haut risque : pour les opérations essentielles ou irréversibles, comme les transferts de fonds ou les changements de configuration des systèmes, exigez une approbation humaine explicite avant que l’agent puisse poursuivre.
• Isolation de la mémoire : veillez à ce que la mémoire et le contexte d’un agent soient strictement isolés d’une session utilisateur à l’autre afin d’empêcher un utilisateur d’accéder aux données d’un autre.
• Surveillance comportementale et détection des anomalies : utilisez des outils alimentés par l’intelligence artificielle pour surveiller l’activité des agents en temps réel. Configurez des alertes pour détecter les comportements inhabituels, comme l’utilisation excessive d’outils, les demandes hors périmètre ou les tentatives d’accès à des ressources restreintes.
• Gouvernance des outils et des actions : limitez les outils auxquels un agent peut accéder, définissez les actions autorisées et appliquez les contrôles prévus par les politiques avant l’exécution d’opérations sensibles.

Étendre la vérification systématique à l’intelligence artificielle agentique

À mesure que l’intelligence artificielle agentique s’intègre aux activités commerciales, vous devez étendre votre modèle de sécurité à vérification systématique à ces acteurs non humains. Il faut pour cela créer et appliquer des politiques granulaires qui régissent les interactions entre les agents, ainsi qu’entre les agents et les systèmes.

L’avenir de la sécurité des agents d’intelligence artificielle

L’adoption de l’intelligence artificielle agentique s’accélère. Gartner estime que, d’ici 2028, environ 15 % des décisions commerciales courantes seront prises de manière autonome au moyen de flux de travail fondés sur l’intelligence artificielle agentique. Cette évolution exige une nouvelle approche de la sécurité, à la fois proactive, intégrée et conçue pour l’intelligence artificielle. Les nouvelles normes du NIST, de l’OWASP et d’autres groupes sectoriels aideront les organisations à établir de bonnes pratiques. Une protection efficace nécessitera toutefois une approche à plusieurs niveaux combinant gouvernance, contrôles d’identité, surveillance et mesures de protection à l’exécution.