C'est une période marquée par de grandes ambitions pour les agents d'IA. Il existe une forte demande pour des systèmes capables d'accomplir des tâches, de coordonner des flux de travail, de prendre des décisions et d'assurer la continuité des opérations avec un minimum d'intervention humaine.
Le désir d'autonomie est manifeste, mais la confiance nécessaire pour l'accorder est encore en cours de développement.
Une nouvelle étude de Stibo Systems révèle que 37 % des dirigeants d’entreprise américains n’autorisent l’IA à agir de manière autonome que lorsque des contrôles de vérification par des humains sont en place. 26 % supplémentaires autorisent l’action autonome dans certains flux de travail critiques pour l’entreprise. Seuls 12 % l’autorisent de manière générale dans l’ensemble des processus clés.
Ces résultats mettent en évidence un déficit d’autonomie. Les organisations perçoivent le potentiel de l’IA agentique, mais la plupart ne sont pas prêtes à la laisser agir librement à tous les niveaux de l’entreprise.
Pour combler ce fossé, il faudra disposer de données probantes plus solides, et pas seulement d’agents performants.
Qu'est-ce qui inciterait les entreprises à accorder davantage d'autonomie à l'IA ?
Lorsqu'on leur a demandé ce qui les inciterait davantage à accorder une plus grande autonomie à l'IA, les dirigeants ont mis l'accent sur trois domaines :
- 42 % souhaitent avoir davantage confiance dans la précision de l’IA
- 36 % souhaitent une meilleure qualité des données
- 31 % souhaitent une explicabilité et une traçabilité accrues
Ensemble, ces résultats révèlent les facteurs sur lesquels repose l’autonomie des entreprises. Les dirigeants doivent avoir l’assurance qu’un agent travaille avec des informations fiables, qu’il comprend le contexte métier pertinent et qu’il est capable d’expliquer comment il est parvenu à une conclusion. Cela commence par comprendre pourquoi la gestion des données de référence est essentielle à la fiabilité des agents d’IA, en particulier lorsque ceux-ci passent de la génération de réponses à la prise de mesures concrètes.
Ces éléments sont importants car les décisions d’entreprise reposent rarement sur une seule donnée isolée.
Un agent chargé de recommander un produit peut avoir besoin d’informations précises sur les caractéristiques du produit, les conditions des fournisseurs, la disponibilité des stocks, les préférences des clients, les exigences spécifiques à un lieu donné et les informations réglementaires. Il peut également avoir besoin de comprendre les relations entre ces différents éléments.
Des données fiables constituent une base essentielle. Les données interconnectées offrent à l’agent une vision plus complète de la décision qu’il est appelé à prendre.
Les agents ont besoin de contexte, pas seulement d'un simple accès
Donner à un agent l'accès à davantage de données ne lui permet pas automatiquement de mieux comprendre la situation.
Les données d’entreprise tirent leur sens des relations, des hiérarchies, des définitions, des politiques et des règles. Un produit peut être approuvé sur un marché et soumis à des restrictions sur un autre. Un fournisseur peut être privilégié pour une catégorie donnée, mais indisponible dans une région particulière. Un client peut être éligible à une offre en fonction d’une combinaison d’éléments : historique du compte, localisation, consentement et conditions contractuelles.
Un agent a besoin de ces liens pour interpréter correctement les informations.
C’est là que les données multidomaines prennent toute leur importance. Le défi s’amplifie dans les processus multi-agents, où la gouvernance des données doit être assurée à chaque transfert entre agents. Les données relatives aux produits, aux clients, aux fournisseurs, aux emplacements et aux actifs peuvent être gérées par différentes fonctions, mais les décisions prises avec l’aide de l’IA couvrent souvent plusieurs d’entre elles.
Lorsque ces domaines restent déconnectés, l’agent peut avoir accès à des informations isolées sans comprendre la situation globale de l’entreprise. Les équipes doivent alors se charger de rassembler le contexte manquant, de concilier les informations contradictoires et de valider le résultat avant que quiconque puisse agir en conséquence.
Des données connectées et contextualisées fournissent aux agents des éléments probants plus solides. Elles offrent également aux responsables une base plus claire pour déterminer le niveau d’autorité dont un agent devrait disposer.
Développer l’autonomie par étapes
L'autonomie de l'IA ne doit pas nécessairement être une décision « tout ou rien ». Les organisations peuvent l'étendre progressivement à mesure que les données probantes, les contrôles et la confiance autour d'un cas d'utilisation s'améliorent.
Voici à quoi pourrait ressembler une progression concrète :
1. Recommandation
L'agent analyse les informations et recommande une action. Une personne examine les éléments disponibles et prend la décision.
Ce niveau peut aider les organisations à tester la qualité et l'utilité du raisonnement d'un agent tout en conservant un contrôle humain direct. Il offre également la possibilité d'identifier les données manquantes, les règles métier floues ou les exceptions récurrentes.
2. Action approuvée par un humain
L'agent recommande une action et prépare l'étape suivante, mais une personne doit l'approuver avant son exécution.
L'approbation humaine reste une étape bien définie du flux de travail, tandis que l'agent se charge davantage de l'analyse et de la préparation. La traçabilité revêt ici une importance particulière, car les réviseurs doivent comprendre les données, le contexte et les règles qui sous-tendent la recommandation.
3. Action autonome limitée
L’agent agit de manière indépendante dans le cadre d’un ensemble défini de conditions. Ces limites peuvent inclure des flux de travail spécifiques, des domaines de données, des valeurs de transaction, des seuils de confiance, des groupes d’utilisateurs ou des règles d’exception.
Les personnes continuent de piloter le processus par le biais d’autorisations, de la surveillance, des procédures d’escalade et de l’examen des exceptions. L’agent bénéficie d’une plus grande liberté au sein d’un environnement que l’organisation est en mesure de comprendre et de contrôler.
Cette approche par étapes permet aux organisations de renforcer leur confiance grâce à une expérience opérationnelle concrète. Chaque étape fournit des éléments permettant de déterminer dans quels domaines l’agent fonctionne de manière fiable, où le jugement humain apporte une valeur ajoutée et où les données ou les contrôles sous-jacents doivent être améliorés.
Rendre chaque action traçable
À mesure que les agents assument davantage de responsabilités, les organisations doivent comprendre les fondements de leurs actions.
Cela implique notamment de pouvoir répondre à des questions telles que :
- Quels documents et quelles sources ont guidé la décision ?
- Les données étaient-elles à jour, complètes et validées ?
- Quelles relations et règles métier l’agent a-t-il appliquées ?
- Quelle mesure l’agent a-t-il prise ?
- Qui ou quoi l’a autorisée ?
- Quand la décision doit-elle être transmise à un superviseur pour examen humain ?
La traçabilité permet aux équipes d’analyser les résultats inattendus, de démontrer la conformité, d’affiner le comportement des agents et de justifier les décisions ayant des conséquences importantes. Elle peut également rendre l’examen humain plus efficace.
Sans traçabilité, les réviseurs doivent reconstituer eux-mêmes le raisonnement. L’absence de traçabilité est l’une des cinq défaillances des données de référence susceptibles de transformer des modèles d’IA fiables en agents peu fiables. Ils recherchent les enregistrements sources, comparent les informations entre les différents systèmes et vérifient si l’agent a appliqué le bon contexte. Ce travail de détective alourdit le « coût de confiance de l’IA » : les tâches cachées de préparation, de rapprochement, de validation et de retouche nécessaires avant que les résultats de l’IA puissent être utilisés en toute confiance.
Grâce à la traçabilité des données et des décisions, les personnes peuvent concentrer leur attention sur les exceptions et les jugements qui nécessitent véritablement leur expertise.
Donnez aux agents de meilleures données avant de leur accorder davantage de liberté
Les agents d’IA joueront un rôle plus important dans les flux de travail des entreprises. Le rythme de cette expansion dépendra de la confiance avec laquelle les organisations pourront soutenir les actions qui en résulteront.
La précision des données fait partie de la solution. Les agents ont également besoin d’un contexte métier cohérent, d’une gouvernance claire, d’un raisonnement explicable et de décisions traçables. Ensemble, ces éléments aident les organisations à passer des recommandations de l’IA à des actions autonomes soigneusement délimitées.
Plutôt que de viser une autonomie maximale dans chaque processus, l’objectif est ici d’atteindre le niveau d’autonomie adapté à chaque décision, étayé par des preuves que l’entreprise peut comprendre, contrôler et auxquelles elle peut se fier.
Avant d’accorder davantage de liberté aux agents, fournissez-leur de meilleures données probantes.
Découvrez ce que disent les dirigeants d'entreprises américaines sur le temps, le retravail et la confiance perdus lorsque l'IA ne peut pas être fiable
Explorer les résultats
Foire aux questions
De quoi l'IA a-t-elle besoin pour agir de manière autonome ?
L'IA a besoin de données fiables, d'un contexte commercial connecté, de permissions claires, de raisonnements explicables et de décisions traçables pour agir avec une plus grande autonomie. Les organisations ont également besoin de limites définies et de règles d'escalade qui déterminent quand un agent peut agir de manière autonome et quand l'approbation humaine est requise.
Comment les organisations peuvent-elles introduire l'autonomie de l'IA en toute sécurité ?
Les organisations peuvent introduire l'autonomie de l'IA par étapes. Un agent pourrait commencer par recommander une action, progresser en préparant une action pour approbation humaine, et finalement agir de manière autonome dans des flux de travail définis, des limites de transaction, des seuils de confiance ou des règles d'exception. Cette approche par étapes fournit aux équipes des preuves sur les domaines où l'agent fonctionne de manière fiable et où des données ou des contrôles plus stricts sont nécessaires.
Pourquoi la gestion des données de référence est-elle importante pour les agents autonomes d'IA ?
La gestion des données de référence fournit des données d'entreprise précises, gouvernées et connectées dont les agents d'IA ont besoin pour prendre des décisions fiables. Il établit également des définitions partagées, des relations, des responsabilités et des règles commerciales à travers des domaines tels que les données sur les produits, les clients, les fournisseurs, les emplacements et les actifs. Ces capacités aident les organisations à comprendre, expliquer et gouverner les actions des agents.
