Agents IA en production : droits, qualité et contrats à revoir
En bref
Lors du Datadog Summit Paris, des responsables d'Amadeus, Cegid et Datadog ont exposé les contraintes de l'IA en production. Selon eux, un agent ne doit pas dépasser le périmètre prévu : l'authentification et l'autorisation restent du ressort d'un système déterministe. La qualité passe par un jeu de cas d'usage, le suivi des actions réellement exécutées et l'intégration du monitoring dans la livraison.
Source : Silicon.fr - « Les regards croisés d’Amadeus, Cegid et Datadog sur l’IA en production »
Ce que ça change pour une PME
Pour une PME de 10 à 250 personnes, un agent en production doit être limité à ce que vous avez prévu, avec des contrôles d'identité et d'accès déterministes, comme le soulignent Amadeus et Cegid. Selon Cegid, une réponse peut sembler correcte alors qu'une écriture en base ou un appel d'outil a échoué : vous devez donc mesurer les actions, pas seulement le texte. Vous ne pourrez pas reprendre tels quels les engagements d'un logiciel classique, et les rôles entre produit, ingénierie, sécurité et DPO se brouillent. Cegid indique qu'une plateforme interne lancée en 2023 était trop précoce, et que des services comme Bedrock, Vertex AI et Azure AI Foundry se standardisent maintenant.
Ce que vous pouvez faire
- Vérifiez que l'authentification et l'autorisation de vos agents sont gérées par un système déterministe, avec le moindre privilège.
- Constituez un jeu de tests à partir de vos cas d'usage et contrôlez les actions réellement exécutées, pas seulement le texte.
- Clarifiez qui est responsable de la fiabilité, de la valeur client et d'une fuite de données, et adaptez vos contrats de service.
Parlons de vos gains de temps.
En 20 minutes, on identifie où l'IA peut vous faire gagner du temps ou de l'argent. Offert, sans engagement.