Microsoft: surveillez vos agents IA comme des salariés à risque
En bref
Microsoft a annoncé des outils pour surveiller les agents IA internes, dont la détection d'agents installés par le personnel dans Defender. Selon Satya Nadella, les garanties des fournisseurs de modèles ne suffisent pas : il faut des systèmes séparés de contrôle. Hayete Gallot (Microsoft) les juge imprévisibles, formés à accomplir des tâches et non vos règles, malgré un accès fréquent aux données sensibles.
Ce que ça change pour une PME
Si vous donnez à des agents IA l'accès à vos données internes ou le pouvoir d'agir dans vos systèmes, Microsoft indique que les garanties du fournisseur ne suffisent pas : vous restez responsables de leurs actes. Les agents installés par vos collaborateurs sans cadrage informatique créent un risque proche de celui d'un salarié trop libre. Inventaire, droits restreints et validation humaine des étapes sensibles prendront du temps, et éventuellement un coût d'outils, mais réduisent le risque d'incident. Microsoft intègre ces contrôles dans ses produits ; la même logique vaut avec d'autres fournisseurs.
Ce que vous pouvez faire
- Dressez la liste de tous les agents IA utilisés chez vous, y compris ceux installés par vos équipes.
- Limitez l'accès de chaque agent aux données et aux systèmes, et exigez une validation humaine pour les actions à risque.
- Vérifiez que le contrôle de ces agents ne dépend pas uniquement du fournisseur du modèle.
Parlons de vos gains de temps.
En 20 minutes, on identifie où l'IA peut vous faire gagner du temps ou de l'argent. Offert, sans engagement.