Lorsqu'un agent IA transmet des données à un autre agent, l'étendue de la vérification effectuée par un humain dépend de la manière dont le flux de travail a été conçu. Aujourd'hui, la plupart des entreprises continuent d'intégrer une personne à un moment ou à un autre du processus ; cependant, au moment précis où la sortie d'un agent devient l'entrée d'un autre, ce transfert s'effectue généralement sans qu'aucun humain ne le surveille en temps réel.
Ainsi, sans avertissement préalable, la moindre incohérence dans ces données entraîne une décision erronée.
C’est comme une course de relais. On peut avoir les meilleurs sprinteurs du monde et un entraîneur qui surveille chaque passage de témoin. Mais si le passage de témoin lui-même n’est pas régulé de manière systématique, personne ne peut intervenir assez rapidement pour empêcher le témoin de tomber par terre.
Les flux de travail d’IA de type « agent à agent » échouent de la même manière : au moment où les données circulent entre les systèmes, d’un domaine à l’autre, sans qu’une gouvernance cohérente ne vienne les encadrer.
Cette gouvernance doit provenir de quelque part : soit un humain vérifie le passage de relais, soit le système est conçu pour s’autocontrôler. Une gouvernance qui repose sur une vérification humaine à chaque passage de relais constitue un goulot d’étranglement qui ralentit le flux de travail à la vitesse des personnes qui y participent.
Dans cet article, vous découvrirez pourquoi les flux de travail de type « agent à agent » échouent au niveau de la couche de données, et à quoi doit ressembler une infrastructure de données gouvernée pour éviter cela.
Pourquoi les flux de travail de type « agent à agent » génèrent-ils des problèmes de données que les systèmes à agent unique ne rencontrent pas ?
Un agent d'IA unique fonctionnant au sein d'un seul système présente un problème de données circonscrit. Si les données qu'il lit sont incohérentes, l'erreur reste locale. Un humain ou un processus en aval peut la détecter.
Les flux de travail multi-agents réduisent ce confinement et, dans les configurations entièrement autonomes, le suppriment complètement.
Chaque agent agit sur la sortie de l’agent précédent, à travers des systèmes et des domaines qui n’ont jamais été conçus pour partager une version unique de la vérité. Par conséquent, une erreur survenue à la première étape ne reste pas cantonnée à cette étape.
Considérons ce que traverse un workflow commercial typique basé sur des agents :
- Données produit (descriptions, attributs, classifications)
- Les niveaux de stock dans les différents entrepôts et régions
La gouvernance peut s'appliquer au sein de chaque domaine. Le problème survient lors du transfert, lorsqu'un agent conçu pour un domaine transmet des données à un contexte pour lequel il n'a pas été initialement structuré.
En l'absence d'une gouvernance couvrant l'ensemble de ces domaines, les incohérences se propagent inaperçues tout au long de la chaîne, s'aggravant à chaque échange.
Dans une course de relais, un témoin lâché ne ralentit pas un seul coureur : il met fin à la course pour tous les coureurs qui le suivent.
À quoi ressemble une défaillance des données au sein d’une chaîne d’agents ?
Prenons l'exemple d'un workflow commercial basé sur des agents, dans lequel un agent de recommandation de produits alimente un agent de gestion des stocks, qui alimente à son tour un agent fournisseur.
Chacun d'entre eux fait exactement ce pour quoi il a été configuré.
Introduisons maintenant une incohérence :
Les données produit de la première étape contiennent une erreur de classification : une référence (SKU) a été associée à la mauvaise catégorie de produit.
Voici ce qui se passe :
- L'agent de recommandation en tient compte
- L'agent de gestion des stocks reçoit cette information et répartit les stocks en conséquence
- L'agent fournisseur passe une commande en fonction de cette répartition
Au moment où l'erreur devient visible, plusieurs décisions autonomes ont déjà été exécutées. Aucun agent n'a commis d'erreur dans sa propre logique. Chacun s'est simplement fié aux données qu'il a reçues.
Les défaillances multi-agents sont très différentes des défaillances dans les systèmes à agent unique :
- L'erreur est différée et n'apparaît pas à son point d'origine
- La portée de l'erreur s'étend à chaque transfert, car chaque agent en aval aggrave le problème au lieu de le détecter
- Le flux de travail semble s’être exécuté avec succès, car aucun agent ne signale d’anomalie
- Le réentraînement des agents ne résout pas le problème, car celui-ci réside dans la couche de données sous-jacente
Sans une couche de données régie reliant ces agents, il n’existe aucun mécanisme permettant de retracer l’état des données sur lesquelles chaque agent a agi, ni de déterminer à quel maillon de la chaîne l’erreur s’est produite.
Pourquoi la gouvernance des données échoue-t-elle précisément lors des transferts entre agents ?
La plupart des systèmes de gouvernance des données d'entreprise ont été conçus autour de systèmes qui attendent des instructions.
- Un utilisateur interroge une base de données
- Un rapport extrait des données d’un entrepôt
- Une application lit un enregistrement
Les données restent immobiles suffisamment longtemps pour être vérifiées.
Les agents sont de plus en plus souvent conçus pour agir, transmettre les résultats et déclencher l'étape suivante. Et cela se produit souvent au cours de la même exécution du flux de travail, sans point de contrôle intermédiaire.
La gouvernance conçue pour une utilisation statique s'effondre lorsque les données commencent à circuler de manière autonome entre les systèmes.
Les agents puisent leurs données dans des systèmes sources non régulés
La plupart des entreprises disposent de plusieurs systèmes sources, chacun ayant ses propres normes de données, définitions et cycles de mise à jour. Une fiche produit régie par un système donné ne conserve pas cette gouvernance lorsqu’un autre agent l’utilise ailleurs.
Le passage d’un domaine à un autre supprime le contexte partagé
Les données qui sont exactes au sein d’un domaine perdent leur intégrité lorsqu’un agent d’un autre domaine les interprète sans disposer de définitions communes. La signification du terme « actif » pour une fiche produit n’est pas la même que celle qu’il revêt pour une relation avec un fournisseur.
Il n'y a pas de piste d'audit au point de transfert
Lorsqu'un problème survient, il n'existe souvent aucune trace de l'état des données sur lesquelles chaque agent s'est basé au moment où il a pris une décision.
Sans cette visibilité, il est pratiquement impossible de remonter à l'origine d'une défaillance au sein d'une chaîne impliquant plusieurs agents. On peut voir le résultat, mais pas quel transfert l'a provoqué – ni à quoi ressemblaient les données lorsqu'elles ont franchi cette frontière.
De quoi votre couche de données a-t-elle besoin pour prendre en charge l’IA de agent à agent ?
La réponse n’est pas « davantage de données ». La plupart des entreprises en disposent déjà en quantité suffisante. Le problème réside dans le fait que les données ne sont pas contrôlées aux points de transfert entre les agents. Ce dont elles ont besoin, ce sont les quatre éléments suivants.
1. Un enregistrement unique et contrôlé, valable pour tous les domaines
Chaque acteur de la chaîne doit exploiter le même enregistrement régulé. Les données relatives aux produits, aux fournisseurs, aux clients, aux partenaires et aux sites doivent être interconnectées et cohérentes. Elles ne peuvent pas être gérées comme des silos distincts qui partagent simplement une infrastructure commune.
2. Une gouvernance qui accompagne les données
Une gouvernance appliquée lors de l’ingestion puis abandonnée dès le premier transfert n’est pas une gouvernance adaptée aux acteurs. Les règles, définitions et normes associées à un enregistrement de données doivent l’accompagner tout au long de son parcours entre les acteurs et d’un domaine à l’autre.
3. Traçabilité à chaque étape
Lorsqu’une chaîne d’agents produit un résultat inattendu, il est nécessaire d’identifier précisément l’état des données sur lequel chaque agent a agi, ainsi que le moment où cela s’est produit. Sans cela, la piste d’audit s’arrête au niveau du journal du flux de travail, et non au niveau de la couche de données où l’échec a pris naissance.
La traçabilité modifie également la manière dont vous concevez la gouvernance dès le départ. Si chaque état des données doit être traçable a posteriori, la structure qui permet cette traçabilité doit être intégrée dès le début.
4. Une structure conçue pour les chaînes
La gouvernance traditionnelle des données était conçue autour d’applications individuelles qui consommaient des données à la demande.
Dans les workflows multi-agents, il faut une couche conçue pour prendre en charge une consommation séquentielle et autonome au-delà des frontières entre domaines, où, à moins que la couche de gouvernance ne l'intercepte au préalable :
- la vérification humaine à chaque transfert n’est pas garantie (et, dans les configurations autonomes, elle est tout simplement inexistante)
- Aucun système ne signale d’incohérence à moins que la couche de gouvernance ne la détecte en premier
Comment Stibo Systems rend-il les workflows de type « agent à agent » fiables ?
STEP, la plateforme d’intelligence de confiance de Stibo Systems, est une plateforme de gestion des données de référence (MDM) de premier plan. Elle vous permet de gérer les données relatives aux produits, aux clients, aux partenaires, aux fournisseurs et aux sites comme un tout cohérent, plutôt que comme des domaines distincts régis par des normes différentes.
Pour l'IA multi-agents, cela signifie :
- Un enregistrement unique et gouverné à chaque transfert
- Les règles de gouvernance accompagnent les données
- Les relations inter-domaines sont préservées tout au long de la chaîne
- Une validation continue des données dans tous les domaines
- Chaque état des données est traçable a posteriori
- Le passage d’un domaine à l’autre est pris en charge de manière native, sans perte de cohérence
À mesure que l’IA inter-agents passe de la phase pilote à la production, la couche de données sous-jacente devient le facteur déterminant.
Dans une course de relais, l’équipe la plus rapide perd si la zone de passage du relais n’est pas régulée. Il en va de même ici : les agents peuvent être parfaitement configurés et spécialement conçus, mais sans une couche de données régulée pour les relier, c’est au moment du passage du relais que les performances s’effondrent.
Stibo Systems structure votre entreprise pour une intelligence de type « agent à agent » fiable.
FAQ
Quelle est la différence entre la gouvernance des données pour les logiciels traditionnels et la gouvernance des données pour les agents d'IA ?
La gouvernance traditionnelle des données a été conçue pour des systèmes qui consomment des données sur demande : un utilisateur exécute une requête et une application lit un enregistrement. Les agents d'IA consomment des données de manière autonome et les transmettent sans pause.
La gouvernance conçue pour le premier modèle s'effondre dans le second car il n'y a pas de révision humaine entre les étapes et aucun point de contrôle naturel où les incohérences peuvent être détectées.
Comment auditer le flux de travail d'un agent IA lorsque quelque chose ne va pas ?
Auditing a multi-agent workflow requires visibility at the data layer (not just the workflow log). You need to know what data state each agent acted on at the moment it made a decision. Without that, you can identify that something went wrong, but not where in the chain it originated or what data triggered it.
Que signifie des données maîtres gouvernées pour le déploiement d'agents IA ?
Les données maîtresses gouvernées signifient que chaque agent dans un flux de travail lit à partir d'un seul enregistrement autoritaire – un enregistrement qui porte des définitions, des classifications et des relations cohérentes dans tous les domaines qu'il touche.
Pour les agents d'IA, les données maîtresses non gouvernées ne sont pas seulement un problème de qualité. C'est un problème de fiabilité au moment de chaque décision autonome.
Qu'est-ce que la gestion des données de référence multidomaines ?
La gestion des données de référence multidomaines régit plusieurs domaines de données – produit, client, partenaire, fournisseur et emplacement – comme un tout connecté plutôt que comme des systèmes séparés avec des normes distinctes.
Pour les entreprises déployant des agents IA à travers les fonctions commerciales, cela fournit la base de données cohérente que les chaînes d'agents nécessitent pour fonctionner de manière fiable.
Comment la qualité des données affecte-t-elle la performance des agents IA ?
La qualité des données détermine si un agent peut être digne de confiance pour agir de manière autonome. Un agent fonctionnant avec des données incohérentes ou incomplètes produira des résultats qui reflètent ces incohérences. Dans un flux de travail multi-agents, ces sorties deviennent les entrées pour le prochain agent de la chaîne.
