SAP : ceux qui déploient des agents IA sans gouvernance s'aventurent sur un terrain glissant
Autonomous Suite offre une transparence totale sur les décisions prises par l'IA, de l'utilisateur métier jusqu'au niveau des journaux
Bruxelles, le 21 mai 2026 - Les entreprises déploient des agents IA pour des processus de plus en plus critiques, de la clôture financière aux achats en passant par les ressources humaines. Mais comment déterminer ce qui s'est passé lorsqu'un agent prend une mauvaise décision, et comment y remédier ? Selon Jonathan von Rueden, responsable de l'innovation en IA et des données chez SAP, l'utilisation responsable de l'IA agentique repose sur une condition préalable : une traçabilité totale à tous les niveaux.
« C'est comme pour les systèmes SAP classiques », explique M. von Rueden. « On y consigne toujours qui a fait quoi, et chaque étape est traçable pour les auditeurs et les équipes financières. Ce même besoin de contrôle et de transparence se fait désormais sentir autour des agents IA. Si quelque chose tourne mal, on veut pouvoir revenir en arrière pour voir ce qui s'est passé, pourquoi certains choix ont été faits et où le contrôle humain reste nécessaire. »
De l'utilisateur métier au fichier journal
L'émergence des agents IA fait évoluer le défi pour les organisations, passant de l'expérimentation à la maîtrise. Dès que les agents s'intègrent aux processus financiers, opérationnels ou RH, un besoin de gouvernance, de transparence et de contrôle au niveau de l'organisation se fait sentir. Lors de Sapphire 2026, SAP a expliqué comment une structure de gouvernance à plusieurs niveaux au sein de sa suite Autonomous peut répondre aux différents besoins d'une organisation.
Cette structure fonctionne à trois niveaux, chacun ciblant un utilisateur différent. Au premier niveau, l'utilisateur métier voit quels agents sont actifs, à quelle étape du processus ils se trouvent et quel a été le raisonnement derrière une décision, y compris les sources sur lesquelles ce raisonnement s'appuie. Ainsi, même une personne sans formation technique peut suivre précisément ce qu'un agent a fait et pourquoi.
Au deuxième niveau, SAP Agent Hub offre une vue d'ensemble des agents au sein d'une organisation, y compris les agents tiers tels que ServiceNow, Microsoft, Databricks et AWS. Les équipes informatiques et de conformité peuvent y voir combien de fois un agent a été exécuté, où les exécutions ont échoué et où un utilisateur final a refusé une approbation. Cela permet d'avoir une vue d'ensemble, et pas seulement sur les exécutions individuelles des agents.
Au troisième niveau, un traçage complet au niveau des journaux est disponible pour ceux qui souhaitent aller encore plus loin : chaque outil choisi par un agent et chaque raisonnement qui a présidé à ce choix peuvent être reconstitués étape par étape.
« On peut remonter jusqu’au début. Chaque outil sélectionné, et la raison de ce choix, est traçable », explique Von Rueden. « De nombreuses applications d’IA sont aujourd’hui encore configurées de manière relativement isolée. Mais à mesure que les organisations passent d’une poignée d’agents à des centaines, voire des milliers, elles ont besoin d’une vision plus large de la manière dont les agents influencent les processus, et de la manière dont les utilisateurs et les systèmes sont interconnectés. Dès que les agents IA s’intègrent dans des processus critiques, la gouvernance ne porte plus uniquement sur les actions individuelles, mais aussi sur la compréhension des interdépendances entre les processus, les systèmes et les utilisateurs. » Selon M. Von Rueden, cette complexité exige donc une approche qui permette de garder une visibilité non seulement sur les agents individuels, mais aussi sur l’ensemble des processus métier.
Fixer des limites comme point de départ
Selon Von Rueden, la gouvernance ne commence pas par un retour en arrière, mais par la définition préalable de ce qu'un agent a le droit de faire et de ne pas faire. Il conseille aux organisations de confier délibérément un mandat limité aux agents et d'élargir ce mandat progressivement à mesure que la confiance s'installe.
Un exemple concret : fixez un seuil à partir duquel un agent est autorisé à prendre des décisions de manière autonome pour les factures inférieures à cinquante euros, mais au-delà duquel une validation humaine est toujours requise. « C'est un risque opérationnel acceptable que l'IA prenne une décision concernant une facture de vingt euros, car sinon, les coûts de traitement seraient supérieurs à ceux du contrôle lui-même. Mais dès que les montants augmentent, on souhaite qu'un humain intervienne », explique Von Rueden.
Selon lui, c’est précisément cette combinaison de traçabilité technique, de contrôle humain et de limites prédéfinies qui constitue la base pour les organisations souhaitant déployer de manière responsable des agents IA à grande échelle.
De la gouvernance à la confiance
Outre la gouvernance, le rôle de l'interaction avec les utilisateurs a également été au cœur de Sapphire 2026. Dans ce contexte, SAP a présenté Joule Work, une nouvelle interface utilisateur s'ajoutant à l'Autonomous Suite. Au lieu de naviguer entre les écrans et les menus, les employés décrivent en langage naturel ce qu'ils souhaitent accomplir. Joule Work mobilise ensuite la combinaison adéquate d'agents, de workflows et de données pour exécuter la tâche, sur ordinateur, sur mobile et par commande vocale, tant au sein qu'en dehors des systèmes SAP.
« Les attentes des utilisateurs évoluent rapidement », explique M. Von Rueden. « Les gens souhaitent de moins en moins accéder aux processus via des applications distinctes ou des interfaces complexes, mais directement à partir d’une tâche ou d’une demande. Les agents IA rendent cette évolution possible. »
À propos de SAP
En tant que leader mondial des applications d'entreprise et de l'IA commerciale, SAP (NYSE : SAP) est le lien entre les entreprises et la technologie. Depuis plus de 50 ans, les organisations font confiance à SAP pour tirer le meilleur parti d'elles-mêmes. SAP relie les processus critiques de l'entreprise dans des domaines tels que les finances, les achats, les ressources humaines, la chaîne d'approvisionnement et l'expérience client.
Pour plus d'informations, rendez-vous sur www.sap.com/netherlands/index.html
Note à la rédaction :
Pour obtenir des images d'archives et des photos de presse, rendez-vous sur www.sap.com/photos.
Pour plus d'informations :
Patricia Bueters
+31 (0)6 - 11513823
