De puissants outils d'intelligence artificielle (IA), tels que les LLM (Large Language Models), ont fait la une des journaux alors que les entreprises cherchaient à déterminer comment utiliser cette technologie pour améliorer l'expérience client et l'efficacité des opérations. La gestion de l'expérience produit est un cas d'usage très prometteur des LLM. Toutefois, avant d'intégrer les LLM dans des applications métier, certains risques doivent être pris en compte.
Avantages de l'utilisation des LLM pour enrichir l'expérience produit
Les achats se faisant de plus en plus en ligne, il est devenu indispensable d'offrir une expérience numérique transparente et attrayante. Grâce à la gestion de l'expérience produit, les utilisateurs peuvent accéder à des informations détaillées et précises sur les produits. Ils ont accès à un contenu et à des images de grande qualité qui communiquent la valeur d'un produit, ses avantages, son empreinte, et bien plus.
Améliorer l'expérience produit peut contribuer à générer des revenus tout en atténuant les pertes de revenus et les problèmes logistiques liés aux retours de produits. L’idée est de veiller à ce que les consommateurs disposent de toutes les informations nécessaires pour faire le bon choix.
En utilisant les LLM dans le cadre d'une bibliothèque de commande MDM, il est possible de créer des descriptions de produits attrayantes et de grande qualité, de façon plus rapide et plus efficace, pour différents segments et canaux.
Dans ce cas d'usage du LLM, la bibliothèque de commandes doit faire partie de la conception de base du MDM. Elle doit intégrer des mesures de sécurité avancées, une création flexible de commandes et des processus approfondis de vérification du contenu. Sans cette approche intégrée, les entreprises s'exposent à des risques d'injections de commandes malveillantes, au traitement non sécurisé des données de sortie et à d'autres vulnérabilités.
Risques liés à l'utilisation des LLM et comment les éviter
L'Open Worldwide Application Security Project (OWASP) a récemment publié sa liste des dix principales vulnérabilités pour les LLM. Cette liste inclut les injections de commandes malveillantes, le traitement non sécurisé des sorties, l'empoisonnement des données d’entraînement, le déni de service, la chaîne d'approvisionnement, les problèmes d'autorisation, les fuites de données, l'autonomie excessive, la dépendance excessive et les modules d'extension non sécurisés.
Ces vulnérabilités peuvent entraîner, entre autres, des problèmes de sécurité, des pannes de systèmes, des problèmes de service et la compromission de l'intégrité des données du fait d'informations erronées ou de contenus inappropriés ou tendancieux.
En étant conscient des risques liés aux LLM, vous avez la possibilité de transformer ces vulnérabilités en atouts en veillant à ce que vos initiatives en matière d'IA soient basées sur de solides principes de sécurité.
Examinons quelques-unes de ces vulnérabilités dans le contexte de la gestion de l'expérience produit et voyons comment l'utilisation d'une bibliothèque de commandes MDM peut contribuer à atténuer les risques :
- Injections de commandes malveillantes : Lors de l'utilisation de LLM pour enrichir les données des descriptions produit, des injections de commandes malveillantes, directes ou indirectes, pourraient aboutir à des descriptions produit au contenu malveillant ou de mauvaise qualité, ayant un impact négatif sur le taux de conversion. Pour les descriptions de produits créées en masse, cette erreur peut s'avérer coûteuse, car y remédier exige un nettoyage manuel.
Une bibliothèque de commandes MDM atténue ces risques, car les commandes sont élaborées à l'avance par des ingénieurs spécialisés. Cette approche garantit l'existence de fonctions intégrées qui vérifient la présence de contenu malveillant dans les commandes et empêchent ainsi l'injection de commandes malveillantes.
- Traitement non sécurisé des sorties : Cette vulnérabilité peut survenir lorsqu'une sortie de LLM est acceptée par les systèmes en aval sans qu’aucune révision ou interaction ne confirme la véracité ou l’adéquation du contenu.
Le respect des principes de l'IA responsable et l'élaboration de systèmes d'IA centrés sur l'humain peuvent éliminer la création de contenus de mauvaise qualité ou les problèmes de sécurité. Les descriptions de produits créées à l'aide d'une bibliothèque de commandes MDM sont transmises sous forme de suggestions aux réviseurs de contenu qui approuvent alors ou non le contenu pour utilisation. Bien que le contenu soit généré par l'IA, il intègre une intervention humaine (“human-in-the-loop” protocol).
Utilisez un MDM doté de workflows avancés et configurables permettant d'intégrer des fonctions de bibliothèque de commandes dans tout processus de création de contenu.
- Empoisonnement des données d'entraînement : Dans un scénario de gestion de l'expérience produit, s'appuyer sur les modèles de base pour générer des descriptions produit implique une dépendance directe à l'égard de tout biais introduit dans les modèles lors de leur entraînement.
Les entreprises n'ont aucune influence sur la manière dont les modèles sont entraînés, d’où l’importance d’utiliser des modèles en tenant compte de leurs biais éventuels. Les biais peuvent prendre de nombreuses formes, telles que le biais de sélection, le biais de confirmation, le biais de mesure et le biais de stéréotype.
Grâce aux ensembles de données enrichis du MDM, les modèles peuvent être affinés pour offrir une meilleure compréhension des produits de l'entreprise. Dans la fabrication de vêtements, par exemple, des informations sur la composition du tissu, les instructions de lavage, etc. pourraient être utiles pour affiner un modèle afin de fournir de meilleures descriptions des produits.
Une bibliothèque de commandes MDM intégrant une intervention humaine garantit des résultats validés et examinés de près afin d’éviter les biais. En outre, pour affiner un LLM, utiliser des données issues de l'ensemble des données produit du MDM réduit encore le risque de biais. Les processus de gouvernance des données de référence permettent d'enrichir les données selon les normes de qualité les plus élevées ou les normes de qualité souhaitées. Ces données peuvent ensuite être introduites dans le LLM dans le cadre du processus d’entraînement ou d’ancrage.
- Divulgation d'informations sensibles : Les LLM peuvent par inadvertance révéler des données confidentielles dans leurs réponses, ce qui entraîne un accès non autorisé aux données, des violations de la confidentialité et des atteintes à la sécurité. Il est vital de mettre en œuvre des mesures d'assainissement des données et des politiques d'utilisation strictes pour éviter ce problème. Ce risque peut être efficacement réduit avec de solides politiques de gouvernance de données, la possibilité de crypter les clés API, et une conception minutieuse de l'accès aux données lors de la configuration des rôles et des responsabilités des utilisateurs.
Ce ne sont que quelques exemples. D'autres recommandations doivent également être prises en compte lors de l’utilisation des LLM en vue de créer un engagement durable des consommateurs grâce à la production créative et méticuleuse de l’expérience produit :
- Utilisez un LLM privé (par exemple, Open AI sur Microsoft Azure) pour garantir la confidentialité des données.
- Créez des alertes en cas d'indisponibilité du service ou de délais de réponse trop longs
- Configurez différents services dans différentes régions comme solution de repli
- Utilisez une plateforme MDM ouverte permettant la connexion aux LLM via une API REST
En intégrant les principes de l'IA responsable et des fonctionnalités « human-in-the-loop », la bibliothèque de commandes MDM améliore la qualité et la pertinence du contenu généré par l'IA. Elle garantit des résultats conformes, voire dépassant, les normes de qualité et de sécurité les plus strictes, tout en renforçant l'efficacité opérationnelle et les opportunités de revenus et en protégeant l’entreprise des risques liés à l'IA.
Recherchez un partenaire MDM qui s'engage à respecter l'intégrité des données et fera de la sécurité, de l'efficacité et de l'innovation de votre entreprise une priorité. Ce partenaire doit transformer l'utilisation des LLM en un avantage stratégique, tout en observant attentivement et en atténuant les risques associés.
