Ce que Microsoft annonce pour sécuriser les agents IA
Microsoft étend son dispositif Project Perception afin de mieux contrôler les agents IA autonomes dans les entreprises. Selon ICTjournal, de nouvelles fonctionnalités doivent permettre d'évaluer les risques en continu et d'adapter dynamiquement les droits d'accès.
Le groupe met en garde contre les « Agentic Insiders » : des systèmes d'IA capables d'accéder de manière autonome aux données et aux applications, et susceptibles d'effectuer des actions indésirables. Même un agent utilisé à des fins légitimes peut, selon Microsoft, commettre des erreurs, être manipulé ou s'écarter de sa mission initiale.
Les trois piliers du dispositif annoncé
Microsoft structure sa réponse autour de trois mécanismes principaux. Les Guardian Agents sont des agents de sécurité spécialisés qui surveillent les activités des autres agents IA, analysent l'évolution des risques et mettent en œuvre des mesures de protection si nécessaire.
Le concept de Dynamic Permissions vise à éviter qu'un agent IA hérite automatiquement de toutes les autorisations du collaborateur pour lequel il agit. Chaque agent disposera de sa propre identité via Microsoft Entra Agent ID, avec des accès limités dans le temps et à certaines fonctions seulement.
Enfin, Dynamic Agent Risk évalue en continu le niveau de risque de chaque agent en agrégeant des signaux variés (identités, accès aux données, terminaux, environnements cloud). En cas de comportement suspect, Dynamic Conditional Access déclenche des mesures graduées : restriction des droits, validation humaine supplémentaire, ou arrêt complet de l'agent.
Ce que ça change concrètement pour une PME romande
Qui est concerné ? Principalement les PME qui utilisent déjà des agents IA autonomes ou qui envisagent d'en déployer : un agent qui rédige et envoie des devis seul, un système qui modifie des stocks sans validation humaine, un outil qui accède à la comptabilité pour générer des rapports.
Qui ne l'est pas encore ? Les PME qui se contentent d'assistants IA conversationnels sans accès aux systèmes internes (Copilot dans Word, ChatGPT en mode brouillon). Tant qu'un outil ne peut pas agir seul sur vos données, le risque « Agentic Insider » reste théorique.
| Situation | Risque actuel | Priorité |
|---|---|---|
| Agent IA qui lit des e-mails pour suggérer des réponses | Faible | Standard |
| Agent IA qui envoie des QR-factures et met à jour la comptabilité | Élevé | Urgente |
| Agent IA qui accède au dossier client complet | Très élevé | Immédiate |
Scénario hypothétique : une fiduciaire à Martigny
Imaginons une fiduciaire de 12 personnes à Martigny qui déploie un agent IA pour préparer les déclarations TVA à 8,1 % de ses clients. L'agent accède aux extraits bancaires, classe les transactions et génère les rapports.
Sans sécurité adaptée, cet agent pourrait théoriquement : modifier un taux par erreur, accéder au dossier d'un client non concerné, ou continuer à fonctionner après avoir reçu des instructions contradictoires. Avec le dispositif annoncé par Microsoft, la fiduciaire pourrait limiter l'agent à un seul client à la fois, exiger une validation humaine pour toute modification, et interrompre automatiquement l'agent si son comportement s'écarte de la normale.
En pratique, ces fonctions ne sont pas encore disponibles. Microsoft indique que Project Perception se trouve en préversion publique limitée, accessible sur invitation à certains clients sélectionnés. Les fonctionnalités sont susceptibles d'évoluer avant toute disponibilité générale.
Points de vigilance pour votre PME
Dépendance au fournisseur et hébergement des données
Le dispositif de Microsoft repose sur une infrastructure cloud centralisée. Pour une PME romande soucieuse de la confidentialité, cela pose la question de l'hébergement des données et de leur conformité avec la nLPD. Les informations de sécurité échangées entre Project Perception et Microsoft Agent 365 transitent par des serveurs dont la localisation précise n'est pas précisée dans l'annonce.
Coûts et complexité cachés
Attribuer une identité unique à chaque agent, définir des playbooks de sécurité, maintenir des seuils d'approbation : ces tâches demandent du temps et des compétences. Une PME de 15 personnes n'a généralement pas de responsable sécurité dédié. Le risque est de déployer des outils sophistiqués sans les ressources pour les exploiter correctement.
Maturité et surconfiance
« La sécurité a posteriori n'est généralement pas efficace », souligne Microsoft. C'est vrai. Mais un système qui promet de tout surveiller en continu peut aussi créer une fausse tranquillité. Les Guardian Agents eux-mêmes sont des agents IA : ils peuvent théoriquement avoir des failles, des angles morts, ou être dépassés par des comportements imprévus.
Ce qu'il vaut mieux ne pas automatiser
Les transferts de fonds, les modifications de contrats, les accès aux données médicales ou AVS sensibles : ces actions méritent encore une validation humaine systématique. Un agent IA ne devrait jamais disposer de pouvoirs irréversibles sans supervision.
Que faire maintenant
- Faites l'inventaire de vos agents IA existants. Quels outils ont accès à vos données ? Quelles actions peuvent-ils effectuer seuls ? Listez-les comme vous listeriez vos collaborateurs avec accès privilégié.
- Appliquez le principe du moindre privilège manuellement. Même sans Dynamic Permissions, limitez chaque agent à strictement nécessaire. Un agent qui génère des brouillons n'a pas besoin d'envoyer des e-mails. Un agent qui lit des tableurs n'a pas besoin d'écrire dans votre logiciel de comptabilité.
- Prévoyez une validation humaine pour les actions sensibles. Configurez vos outils actuels pour qu'une personne vérifie avant envoi d'une QR-facture, modification d'un stock, ou accès à un dossier client inhabituel.
- Documentez qui fait quoi. Notez quels agents sont rattachés à quels collaborateurs, quelles sont leurs autorisations, et comment les interrompre en urgence. Cette documentation sera indispensable quand Microsoft Entra Agent ID sera disponible.
- Testez vos connaissances et vos besoins. Le quiz IA en 2 minutes de FlowBiz.ai peut vous aider à évaluer où vous en êtes. Pour des exemples concrets d'automatisations sécurisées, consultez nos cas d'automatisation.
FlowBiz.ai accompagne les PME romandes de Sion et du Valais dans le déploiement d'assistants IA et d'automatisations hébergés en Suisse, par petites étapes et à prix forfaitaire. Si vous souhaitez discuter de la sécurité de vos agents IA existants, contactez-nous.
