Les initiatives en matière d'IA rencontrent des difficultés lorsque les données sur lesquelles s'appuient les agents d'IA pour raisonner sont incomplètes, incohérentes ou non contrôlées.
Des données de référence solides constituent le fondement qui empêche l’IA de s’égarer. Il s’agit des fiches de produits, de clients, de fournisseurs et de sites, régulées et précises, sur lesquelles chaque agent d’IA s’appuie pour prendre des décisions fiables.
La plupart des entreprises qui s’engagent dans le déploiement de l’IA commettent la même erreur : elles planifient minutieusement le modèle (sélection des fournisseurs, intégration, réglage des prompts), mais négligent de s’assurer que leurs données de référence constituent une source unique et fiable d’informations contextuelles.
Il en résulte des agents d’IA qui agissent en toute confiance sur la base des informations qui leur sont fournies, et ce à grande échelle.
Lorsque la décision erronée est détectée, elle a généralement déjà causé des dommages, par exemple au niveau d’une commande ou d’une déclaration de conformité.
Considérez la préparation à l’IA comme la préparation à une course.
Vous pouvez disposer du meilleur entraîneur et du meilleur équipement – voire de la stratégie parfaite pour le jour de la course –, mais leur efficacité dépendra de votre condition physique. En matière d’IA, des données de référence fiables constituent cette condition physique. Elles confèrent à votre organisation la force et l’endurance nécessaires pour être performante au moment où cela compte le plus.
La plupart des entreprises se concentrent sur le jour de la course : les modèles d’IA, les agents et les applications. Elles négligent le « travail de préparation physique » qui détermine si elles seront réellement performantes. Cet article fait partie d’une série consacrée à ce que ce travail de préparation implique, afin de vous préparer à la course de notre époque.
Pourquoi la plupart des initiatives d’IA échouent-elles avant même que le modèle ne soit mis en œuvre ?
La préparation à l’IA est souvent considérée comme une simple décision technologique.
Les entreprises évaluent les modèles, comparent les fournisseurs et analysent les performances par rapport à des cas d'utilisation. Le traitement des données est rarement abordé dans ce contexte. Cette tâche incombe à une autre équipe, selon un calendrier différent, et est souvent traitée comme un projet de nettoyage une fois que tout est déjà en marche.
Souvent, les organisations ne se rendent compte des problèmes que cela engendre qu’après le lancement :
- Des fiches produits qui présentent des incohérences d’un système à l’autre
- Des données clients dupliquées sous des noms légèrement différents
- Des informations sur les fournisseurs qui n’ont pas été validées depuis plus d’un an
- Absence de source unique de référence pour les entités sur lesquelles l’IA est censée raisonner
Rien de tout cela n’apparaît lors d’une démonstration. Les projets pilotes s’appuient sur des données triées sur le volet, ce qui explique pourquoi le modèle fonctionne bien en salle de présentation.
Les failles apparaissent dès que l’agent IA est confronté à la réalité complexe et chaotique des systèmes d’entreprise. Et à ce moment-là, les utilisateurs métier ont déjà commencé à se fier à ses résultats, et la confiance est plus difficile à rétablir qu’elle ne l’était à instaurer.
C’est ce travail de préparation que les entreprises négligent. Non pas parce qu’il n’a pas d’importance, mais parce que personne ne vérifie la condition physique de base avant le jour de la course.
Quels problèmes surviennent lorsque les agents IA utilisent des données de référence erronées ?
La mauvaise qualité des données de référence se manifeste différemment selon l'endroit où le modèle d'IA présente une défaillance. Mais on observe une tendance constante. Un agent IA agit en fonction des données qui lui sont fournies, et lorsque ces données sont incomplètes, incohérentes ou obsolètes, le résultat en est le reflet.
On distingue quatre types de défaillances.
1. L'hallucination
L'agent IA comble les lacunes à l'aide d'hypothèses plausibles. Un attribut de produit manquant ou un profil client incomplet est remplacé par une supposition qui semble plausible, présentée avec la même assurance qu'un fait vérifié.
2. Décisions incohérentes
Une même entité est représentée différemment d'un système à l'autre : un client avec trois adresses légèrement différentes, ou un produit présentant deux spécifications différentes.
L'agent IA s'appuie sur des versions contradictoires des mêmes données, ce qui entraîne des réponses incohérentes à une même question selon les systèmes interrogés.
3. Violations de conformité
En l’absence d’un cadre de gouvernance et de politiques fiables, l’IA peut recommander ou exécuter des actions qui enfreignent les exigences de conformité : une transaction approuvée pour un client qui aurait dû être signalé, ou un produit mis en vente sur un marché où il n’est pas autorisé.
4. Des données contradictoires déclenchant une action inappropriée
Deux systèmes ne s’accordent pas, par exemple, sur les stocks, les prix ou la disponibilité, et l’agent d’IA se base sur l’un d’entre eux. La commande est expédiée sur la base d’un état des stocks erroné. Ou bien la remise est appliquée au mauvais niveau tarifaire.
C’est à cela que ressemble un mauvais conditionnement lorsque l’IA passe de la génération de contenu à la prise de décisions. Il ne s’agit pas d’une seule erreur dramatique, mais de petites incohérences qui s’accumulent et érodent la confiance dans chaque résultat qui suit.
Pourquoi les données qui ont passé votre dernier audit font-elles défaut à vos agents IA ?
Les rapports et les agents IA imposent des exigences différentes aux mêmes données. C’est pourquoi des données qui passent tous les contrôles de reporting peuvent tout de même poser problème à un agent IA lors de sa première exécution.
Il y a plusieurs raisons à cela :
Les rapports tolèrent les approximations. Les agents IA, eux, ne les tolèrent pas.
Un tableau de bord arrondit un chiffre ou affiche un total légèrement obsolète, et un lecteur humain s'adapte en conséquence. Un agent IA, quant à lui, considère ce même chiffre comme la vérité absolue et agit directement en fonction de celui-ci.
Les rapports fonctionnent par lots. Les agents IA fonctionnent en temps réel.
La plupart des données de reporting sont actualisées pendant la nuit ou chaque semaine, ce qui convient pour un bilan trimestriel. Un agent IA qui prend une décision sur le moment a besoin de l'état actuel, et non d'un instantané de la semaine dernière.
Les rapports tolèrent des vues fragmentées du domaine. Les agents IA effectuent des raisonnements en les combinant.
Un tableau de bord de reporting peut analyser séparément les données relatives aux produits, aux clients et aux fournisseurs. Un agent IA chargé de traiter une demande spécifique, comme vérifier si une commande peut être expédiée, a souvent besoin que ces trois sources de données concordent.
Les rapports absorbent les erreurs lorsque leur volume est faible. Ce n'est pas le cas des agents IA.
Un analyste humain repère une valeur aberrante évidente avant qu’elle n’atteigne une présentation de résultats. Un agent IA prenant des milliers de décisions autonomes par jour ne dispose d’aucun point de contrôle équivalent ; ainsi, un même taux d’erreur entraîne un nombre bien plus important de résultats indésirables.
Ce sont là les différences entre s'entraîner pour un jogging décontracté et s'entraîner pour le jour de la course. Nettoyer vos données suffisamment pour passer un audit de reporting vous a permis d'être en forme pour le jogging.
Cependant, pour les agents IA, c’est le jour de la course tous les jours, et la plupart des entreprises se présentent avec un plan d’entraînement inadapté.
De quoi vos données de référence ont-elles besoin avant le déploiement de l'IA ?
Trois capacités fondamentales sont indispensables : la traçabilité, la cohérence et la responsabilité.
La traçabilité signifie que chaque enregistrement est assorti d’un historique traçable : d’où il provient, quand il a été modifié pour la dernière fois, qui ou quoi l’a modifié.
Sans traçabilité, ni l’entreprise ni la plateforme d’IA ne peuvent expliquer d’où proviennent les informations, comment elles ont évolué, ni si elles sont fiables.
La cohérence est le point le plus délicat. Un « client » dans le CRM doit correspondre exactement à un « client » dans le système de gestion des commandes : même définition, même identifiant, sans correspondances approximatives qui obligeraient l’agent d’IA à deviner la réponse.
Cela s'applique à tous les domaines de données gérés par une entreprise :
- Produit
- Client
- Fournisseur
- Site
Une faiblesse dans un domaine se répercute rapidement sur les autres, car l'IA effectue des raisonnements entre les entités commerciales interconnectées.
La responsabilité signifie que chaque entité métier critique dispose d’un système d’enregistrement réglementé et d’une responsabilité clairement définie quant à sa qualité.
En l’absence de responsabilité clairement définie, les conflits de données restent sans solution, ce qui augmente le risque que l’IA agisse sur la base d’informations incomplètes ou erronées.
Si les données de qualité « reporting » correspondaient à un jogging décontracté, voici à quoi ressemble un véritable programme d’entraînement une fois qu’on l’a mis par écrit. Ce n’est pas très glamour. Il s’agit simplement du travail de conditionnement physique spécifique et sans fioritures qui détermine si le jour de la course se déroulera bien.
Tout cela n’a rien de nouveau.
Les équipes de données performantes s’efforcent d’y parvenir depuis des années. Ce qui a changé, ce sont les conséquences si l’on fait l’impasse sur cette étape. Une lacune qui se manifestait autrefois sous la forme d’une feuille de calcul désordonnée se traduit désormais par une mauvaise décision, prise automatiquement et à grande échelle.
Pour conclure
Tout cela n’est pas nouveau pour les équipes de données performantes. Ce qui change, c’est l’enjeu lorsque l’on néglige cette étape.
Autrefois, les problèmes de cohérence entraînaient des feuilles de calcul désordonnées. Aujourd’hui, ils conduisent à des décisions erronées, prises automatiquement et à grande échelle.
Et il n’y a personne pour les repérer à temps.
Dans cette course à laquelle vous vous préparez, la qualité des données de référence est le facteur déterminant de vos performances. Plus vous y investissez tôt, plus chaque initiative d’IA qui suivra sera solide.
FAQ
Qui est responsable des données de référence dans une entreprise pilotée par l'IA ?
Cela varie selon l'organisation, mais le rôle de propriétaire des données est plus important avec l'IA qu'il ne l'était pour les rapports. Les propriétaires courants incluent :
- Un directeur des données supervisant la stratégie des données
- Des responsables spécifiques au domaine (par exemple, un responsable des données produit, un responsable des données client)
- Les équipes informatiques ou d'ingénierie des données responsables des systèmes sous-jacents.
Ce qui change avec l'IA, c'est le coût de l'ambiguïté. Quand personne ne possède un domaine de données, personne n'est responsable des informations que l'IA utilise pour prendre des décisions – ni des conséquences qui en découlent.
Quel est le rôle de la gestion des données de référence dans la fiabilité de l'IA d'entreprise ?
La gestion des données de référence (MDM) permet de garantir que les entités métier fondamentales dont dépend l'IA — produits, clients, fournisseurs et sites — sont gérées de manière rigoureuse, cohérentes et fiables.
Sans une base MDM, les agents d'IA fonctionnent sur des données commerciales incomplètes, incohérentes ou mal gouvernées, produisant des recommandations et des décisions peu fiables. La MDM n'est pas une amélioration de la qualité de vie pour les déploiements d'IA. C'est une couche fondamentale pour déployer une IA fiable à l'échelle de l'entreprise.
Comment savoir si les données de votre entreprise sont prêtes pour l'IA ?
Posez-vous quelques questions simples :
- Pouvez-vous retracer d'où provient chaque enregistrement de base de l'entreprise, qui en est le propriétaire et quand il a été mis à jour pour la dernière fois ?
- Le même client, produit, fournisseur ou emplacement a-t-il une identité cohérente dans chaque système ?
- L'IA peut-elle accéder à un contexte commercial fiable et connecté à travers les domaines – et pas seulement à des enregistrements isolés ?
- Les problèmes de qualité des données sont-ils évités lorsque les informations entrent dans vos systèmes, plutôt que corrigés ultérieurement ?
- Pouvez-vous expliquer pourquoi un agent IA a pris une décision particulière en la retraçant jusqu'aux données commerciales sous-jacentes ?
Si la réponse à l'une de ces questions est non (ou même "je ne suis pas sûr"), votre fondation de données n'est probablement pas prête à soutenir une IA fiable à grande échelle.
Que signifie avoir une source unique de vérité pour l'IA ?
Une source unique de vérité signifie avoir une vue gouvernée et autoritaire de chaque entité commerciale de base – telle qu'un produit, un client, un fournisseur ou un emplacement – à laquelle chaque système et application d'IA peut faire confiance.
Sans cela, différentes applications ou agents d'IA peuvent agir sur différentes versions de la même entité commerciale, entraînant des décisions incohérentes et des résultats imprévisibles. Pour les rapports, ces incohérences sont souvent gérables. Pour l'IA autonome opérant à grande échelle, elles deviennent un problème de fiabilité.
Quelles données un agent IA a-t-il besoin pour prendre des décisions autonomes fiables ?
Quatre capacités fondamentales sont requises :
- Des enregistrements fiables sans versions conflictuelles de la même entité commerciale.
- Des données commerciales actuelles qui reflètent l'état le plus récent de l'entreprise.
- Contexte commercial connecté, afin que les produits, les clients, les fournisseurs, les emplacements et d'autres domaines essentiels fonctionnent ensemble comme une vue unique.
- Lignée et gouvernance traçables, afin que chaque enregistrement puisse être vérifié et que chaque décision pilotée par l'IA puisse être expliquée et auditée.
