Comment sécuriser un projet d'agent IA en entreprise ?

Comment sécuriser un projet d'agent IA en entreprise ? Guide conformité pour DSI et RSSI

Cet article détaille les principes de sécurité à appliquer dès la conception d'un agent IA (security by design), les normes de conformité réglementaire à respecter, et la méthodologie IT Systèmes pour déployer des agents IA conformes et sécurisés dans votre système d'information.

Les 5 piliers fondamentaux de sécurité d'un agent IA en entreprise

1. Chiffrement de bout en bout des données sensibles

Toutes les données traitées par l'agent IA doivent être chiffrées en transit et au repos selon les standards de sécurité les plus exigeants :

Chiffrement en transit :

• Protocole TLS 1.3 minimum pour toutes les communications
• Tunnels VPN IPSec pour connexions inter-sites
• Certificats SSL/TLS avec validation stricte
• Protocole HTTPS obligatoire pour toutes les API

Chiffrement au repos :

• Algorithme AES-256 pour le stockage des données sensibles
• Chiffrement avant écriture sur disque, déchiffrement uniquement au moment de l'utilisation
• Aucune donnée sensible stockée en clair
• Rotation automatique des clés de chiffrement

Gestion sécurisée des clés de chiffrement : Les clés de chiffrement sont gérées via un HSM (Hardware Security Module) dédié ou un service cloud de gestion de clés (Azure Key Vault, AWS KMS, Google Cloud KMS). Les secrets manipulés par l'agent (mots de passe, jetons d'API, données personnelles) restent ainsi protégés même si un serveur est compromis.

2. Identité et gestion des accès (IAM) de l'agent IA

Deux situations se présentent, et elles n'appellent pas la même réponse.

L'agent agit au nom d'un utilisateur (par exemple un assistant qui lit les documents de la personne qui l'interroge) : il utilise des permissions déléguées et ne voit que ce que cet utilisateur a le droit de voir. L'authentification passe par le SSO de l'entreprise, avec les protocoles standards :

• SAML 2.0 pour la fédération d'identité
• OAuth 2.0 pour l'autorisation déléguée
• OpenID Connect pour l'authentification

L'agent agit seul (il traite des tickets, crée des comptes ou modifie des groupes sans qu'un utilisateur soit derrière chaque action) : il doit disposer de sa propre identité, distincte des comptes humains, avec le minimum de droits nécessaires. On peut alors le révoquer sans toucher aux comptes des collaborateurs, et retrouver ses actions dans les journaux. Dans l'environnement Microsoft, Microsoft Entra Agent ID fournit ce type d'identité, avec des règles d'accès conditionnel, une journalisation centralisée et une gestion du cycle de vie des agents. Les agents Copilot Studio créés avant l'activation de cette fonction doivent être recréés : il n'existe pas de conversion automatique.

Dans les deux cas, on évite le compte de service partagé aux droits étendus, qui rend les actions de l'agent impossibles à distinguer de celles des autres outils et impossibles à limiter.

Authentification multifacteur (MFA) : Pour les actions sensibles (modification de données financières, accès aux données RH, suppression de données), la validation par un humain authentifié en MFA est la règle.

Principe du moindre privilège : L'agent IA n'accède qu'aux données et systèmes strictement nécessaires à sa fonction. Ses droits sont à réviser régulièrement, par exemple chaque trimestre, dans le cadre de la gouvernance de sécurité.

3. Traçabilité complète et audit trail immuable

Chaque action de l'agent IA est enregistrée dans un journal d'audit sécurisé et immuable pour garantir la traçabilité et répondre aux exigences de conformité.

Données enregistrées dans l'audit trail :

• Identité de l'agent et, le cas échéant, de l'utilisateur pour qui il agit
• Horodatage précis UTC de chaque requête
• Requête exacte formulée par l'utilisateur
• Action effectuée par l'agent IA sur les systèmes cibles
• Données consultées ou modifiées
• Réponse de l'agent IA à l'utilisateur
• Statut de l'opération (succès, échec, erreur)
• Système d'information cible (ERP, CRM, SIRH)

Conservation des journaux : la CNIL recommande de conserver les données de journalisation pendant une durée comprise entre six mois et un an (recommandation n° 2021-122). Une durée plus longue doit être justifiée et documentée : obligation légale propre au secteur, ou mesures de contrôle interne, pour lesquelles la CNIL admet une conservation pouvant aller jusqu'à trois ans dans les cas les plus courants.

Ces journaux d'audit permettent de répondre aux demandes d'exercice des droits RGPD (accès, effacement, portabilité), aux contrôles ISO 27001, et aux investigations de sécurité en cas d'incident.

4. Segmentation réseau et isolation de l'agent IA

L'agent IA est déployé dans un environnement réseau segmenté et sécurisé selon les bonnes pratiques de sécurité réseau :

Architecture réseau sécurisée :

• VLAN dédié isolé pour l'agent IA
• Sous-réseau isolé avec règles de routage strictes
• Pare-feu applicatif WAF (Web Application Firewall)
• Règles de filtrage entrantes et sortantes restrictives

Principe de sécurité zero-trust : L'agent IA ne peut communiquer qu'avec les systèmes explicitement autorisés dans la politique de sécurité. Les requêtes sortantes passent par un proxy HTTP sécurisé avec filtrage d'URL, inspection SSL et blocage des domaines malveillants.

Isolation des données sensibles : Les données sensibles restent dans votre environnement cloud privé (Azure, AWS, GCP) ou sur votre infrastructure on-premise, sans transiter par des services tiers non maîtrisés.

5. Conformité réglementaire et gouvernance des données RGPD

L'agent IA respecte les principes fondamentaux du RGPD pour la protection des données personnelles :

Minimisation des données : L'agent IA collecte et traite uniquement les données personnelles strictement nécessaires à sa fonction métier.

Limitation de la durée de conservation : Les données personnelles sont conservées uniquement pendant la durée nécessaire aux finalités du traitement, puis supprimées ou anonymisées. C'est un point d'attention particulier pour les agents dotés d'une mémoire persistante : dans leur note du 20 juillet 2026 sur l'IA agentique, la CNIL et le Conseil de l'IA et du Numérique relèvent que ces mémoires augmentent les données conservées.

Droits des personnes garantis :

• Droit d'accès : l'utilisateur peut consulter les données personnelles traitées par l'agent IA
• Droit à l'effacement : suppression des données sur demande, dans les conditions prévues par le RGPD
• Droit de rectification : correction des données inexactes
• Droit à la portabilité : export des données dans un format structuré

Anonymisation et pseudonymisation : Les données personnelles peuvent être pseudonymisées ou anonymisées avant traitement par l'agent IA, dans une logique de privacy by design.

Documentation RGPD : Le traitement de données par l'agent IA est documenté dans votre registre des traitements : finalité, base légale, catégories de données, durée de conservation, mesures de sécurité techniques et organisationnelles.

Entités concernées par NIS2 : Pour les entités soumises à la directive NIS2, le déploiement de l'agent s'inscrit dans les mesures de gestion des risques exigées, dont la continuité d'activité (PCA, PRA) et les tests de résilience.

Conformité réglementaire agent IA : RGPD, NIS2, ISO 27001, AI Act

Conformité RGPD (Règlement Général sur la Protection des Données)

Analyse d'impact (AIPD, ou DPIA) : Si l'agent IA traite des données personnelles susceptibles d'engendrer un risque élevé (données de santé, biométriques, judiciaires, traitement à grande échelle), une analyse d'impact relative à la protection des données doit être réalisée avant le déploiement.

Mesures de sécurité RGPD :

• Anonymisation ou pseudonymisation des données personnelles quand c'est techniquement possible
• Chiffrement systématique des données sensibles
• Contrôles d'accès stricts avec principe du moindre privilège
• Tests de sécurité réguliers et audits de conformité

Droits des personnes concernées :

• Droit d'accès : l'utilisateur peut demander l'accès à ses données traitées par l'agent IA
• Droit à l'effacement : suppression des données personnelles sur demande justifiée
• Droit d'opposition : possibilité de s'opposer au traitement, et droit à une intervention humaine face à une décision entièrement automatisée produisant des effets significatifs
• Droit de rectification : correction des données personnelles inexactes ou incomplètes

Conformité NIS2 (Directive sur la sécurité des réseaux et systèmes d'information)

Secteurs concernés par NIS2 : Entités essentielles et importantes des secteurs critiques (santé, énergie, transport, finance, services numériques, eau, alimentation, espace, administration publique).

Exigences de sécurité NIS2 :

• Gestion des risques cyber avec analyse de risque formelle et plan de traitement
• Plan de réponse aux incidents de sécurité documenté et testé
• Tests de résilience cyber réguliers (pentests, exercices de crise, tests de continuité)
• Notification des incidents importants à l'autorité (l'ANSSI en France), avec une alerte précoce sous 24 heures

Conformité ISO 27001 (Management de la sécurité de l'information)

Système de management de la sécurité (SMSI) : Le déploiement d'un agent IA s'inscrit dans une politique de sécurité documentée et auditée selon la norme ISO 27001.

Contrôles de sécurité ISO 27001 appliqués :

• Gestion des actifs : inventaire des données et systèmes connectés à l'agent IA, et registre des agents eux-mêmes
• Classification des données : données publiques, internes, confidentielles, sensibles
• Contrôles d'accès : authentification, autorisation, révision des droits
• Cryptographie : chiffrement, gestion des clés, signature numérique
• Sécurité réseau : segmentation, pare-feu, détection d'intrusion IDS/IPS

Conformité AI Act (Règlement européen sur l'intelligence artificielle)

Classification du risque : Le règlement européen sur l'IA (règlement (UE) 2024/1689) classe les systèmes selon leur niveau de risque. Beaucoup d'agents IA d'entreprise, comme le support ou le traitement de documents, relèvent du risque minimal. Les usages à haut risque listés à l'annexe III (recrutement, évaluation de la solvabilité, accès à certains services essentiels) sont soumis à des exigences renforcées.

Calendrier à retenir :

• Depuis le 2 février 2025 : obligation de former le personnel qui utilise l'IA
• Depuis le 2 août 2026 : obligations de transparence de l'article 50, une personne qui échange avec un agent doit savoir qu'il s'agit d'une IA
• 2 décembre 2027 : application des obligations propres aux systèmes à haut risque de l'annexe III, reportée à cette date par le règlement (UE) 2026/1744

Documentation : Pour les systèmes à haut risque, le règlement impose notamment une documentation technique, la tenue de journaux et un contrôle humain. Pour les autres agents, tenir un registre (finalité, données utilisées, responsable, niveau d'autonomie) reste une bonne pratique de gouvernance, qui facilite toute vérification ultérieure.

Tests de sécurité et audits réguliers de l'agent IA

Tests de sécurité avant mise en production

Avant la mise en production d'un agent IA, des tests de sécurité approfondis sont nécessaires pour identifier et corriger les vulnérabilités :

Tests d'intrusion (pentests) : Simulation d'attaques réelles par des experts en cybersécurité pour identifier les failles exploitables (injection SQL, XSS, CSRF, élévation de privilèges).

Tests d'injection spécifiques aux agents IA :

• Prompt injection : tentatives de manipulation du comportement de l'agent via des requêtes ou des contenus malveillants
• SQL injection : injection de code SQL malveillant dans les requêtes
• Command injection : exécution de commandes système non autorisées

Le guide de l'ANSSI « Recommandations de sécurité pour un système d'IA générative » ne traite pas spécifiquement des agents, mais plusieurs de ses recommandations s'y appliquent directement : maîtriser les interactions du système d'IA avec les applications métier, limiter les actions automatiques lorsque l'IA traite des entrées non maîtrisées, et journaliser les traitements.

Tests de fuzzing pour robustesse : Envoi d'entrées malformées, aléatoires ou extrêmes pour vérifier que l'agent IA gère correctement les erreurs sans exposer d'informations sensibles.

Tests de charge et de résilience : Validation du comportement de l'agent IA sous forte charge et en conditions dégradées.

Audits de sécurité réguliers après déploiement

Après la mise en production, des audits de sécurité réguliers, par exemple trimestriels, vérifient que les mesures restent efficaces et que les vulnérabilités publiées (CVE) sont corrigées rapidement.

Scanning automatisé : Des scanners de vulnérabilités professionnels (par exemple Qualys, Nessus ou OpenVAS) détectent les failles connues dans l'infrastructure de l'agent IA.

Revues manuelles de code et d'architecture : Des experts en sécurité examinent le code et l'architecture pour identifier les vulnérabilités logiques que les scanners ne détectent pas.

Gestion des incidents de sécurité et plan de réponse

Plan de réponse aux incidents de sécurité agent IA

En cas d'incident de sécurité sur l'agent IA (tentative d'intrusion, fuite de données, comportement anormal, compromission de compte), un plan de réponse formalisé est activé immédiatement :

Phase 1 - Détection et isolation (0-1h) :

• Détection de l'incident via la supervision de sécurité (SIEM, IDS/IPS)
• Isolation immédiate de l'agent IA pour limiter la propagation
• Blocage des accès suspects et révocation des jetons et de l'identité de l'agent si nécessaire

Phase 2 - Analyse forensique (1-4h) :

• Analyse forensique des journaux d'audit
• Identification de la cause racine de l'incident
• Évaluation de l'impact et des données potentiellement compromises

Phase 3 - Correction et remédiation (4-24h) :

• Correction de la faille de sécurité identifiée
• Application des correctifs nécessaires
• Tests de validation de la correction

Phase 4 - Notification et communication (24-72h) :

• Notification à la CNIL sous 72 heures si des données personnelles sont compromises et que la violation présente un risque pour les personnes (RGPD)
• Communication transparente aux parties prenantes (direction, utilisateurs impactés)
• Documentation complète de l'incident dans le registre des violations

Phase 5 - Amélioration continue :

• Analyse post-mortem de l'incident
• Mise à jour des procédures de sécurité
• Renforcement des mesures de prévention

Exercices de crise et formation continue

Des exercices de simulation de crise (tabletop exercises) sont à organiser régulièrement, idéalement tous les six mois, pour tester la réactivité des équipes face à un incident majeur impliquant l'agent IA.

Formation continue des équipes :

• Sensibilisation régulière aux risques cyber spécifiques aux agents IA
• Formation aux techniques d'attaque émergentes (prompt injection, empoisonnement de données)
• Partage des bonnes pratiques de sécurité et des retours d'expérience

Questions fréquentes sur la sécurité des agents IA

Quelle est la différence entre un agent IA sécurisé et un chatbot standard ?

Un agent IA sécurisé chiffre les données en transit (TLS 1.3) et au repos (AES-256), s'authentifie via le SSO de l'entreprise, avec des permissions déléguées quand il agit pour un utilisateur ou une identité propre quand il agit seul, et journalise chacune de ses actions. Contrairement aux chatbots grand public, les données sensibles restent dans votre environnement (cloud privé ou on-premise).

Combien de temps faut-il pour déployer un agent IA conforme RGPD ?

Le délai dépend surtout de la sensibilité des données traitées. Un agent de support sur des données non sensibles se déploie plus vite qu'un agent qui traite des données RH, de santé ou financières, qui peut nécessiter une analyse d'impact, des tests d'intrusion complets et la validation du DPO. La documentation RGPD peut être menée en parallèle du développement.

Quels sont les coûts de mise en conformité sécurité d'un agent IA ?

Chez IT Systèmes, un agent IA coûte à partir de 5 000 € pour un agent monotâche, et jusqu'à 30 000 € pour une solution multi-agents. Le budget de sécurité dépend du périmètre (analyse d'impact si le traitement présente un risque élevé, tests d'intrusion, journalisation, documentation de conformité) et se chiffre au cas par cas. À mettre en regard : en cas de manquement au RGPD, les amendes peuvent atteindre 20 millions d'euros ou 4 % du chiffre d'affaires annuel mondial.

Un agent IA peut-il être piraté via des prompts malveillants ?

Oui, l'injection de consignes malveillantes (prompt injection) est une menace réelle, d'autant plus pour un agent qui lit des contenus externes (courriels, documents, pages web). Les protections à combiner : validation stricte des entrées, isolation des contextes, liste blanche des actions autorisées, confirmation humaine pour les actions sensibles et surveillance en temps réel. Chaque tentative est enregistrée dans l'audit trail. Des tests d'intrusion spécifiques sont à prévoir régulièrement.

Comment prouver la conformité lors d'un contrôle de la CNIL ?

En produisant le registre des traitements, l'analyse d'impact si le traitement présente un risque élevé, la documentation technique (architecture, flux de données, mesures de protection), les contrats de sous-traitance et les journaux d'audit, conservés selon une durée définie et documentée (entre six mois et un an selon la recommandation de la CNIL, davantage si une obligation légale l'impose).

Liens internes et ressources complémentaires

→ Comprendre : IA agentique : définition, fonctionnement et usages en entreprise

→ Exploiter les agents dans la durée : Opérateur d'infrastructure agentique : définition, rôle et critères de choix

→ Découvrez : Quel ROI attendre d'un projet d'agent IA en entreprise ? - Quels gains de productivité attendre des agents IA ?

→ En savoir plus : Agents IA pour les entreprises

→ Méthodologie : Comment intégrer un agent IA dans son système d'information existant ?

→ Quelle solution choisir : Agent IA vs chatbot : quelles différences pour l'entreprise ?

Sources : CNIL, recommandation n° 2021-122 relative à la journalisation ; CNIL et Conseil de l'IA et du Numérique, note sur l'IA agentique, 20 juillet 2026 ; règlement (UE) 2024/1689 et règlement (UE) 2026/1744 ; ANSSI, Recommandations de sécurité pour un système d'IA générative ; Microsoft Learn, documentation Microsoft Entra Agent ID.