Le iniziative di intelligenza artificiale incontrano difficoltà quando i dati su cui si basano gli agenti di intelligenza artificiale sono incompleti, incoerenti o non gestiti.
Dati di riferimento solidi costituiscono la base che impedisce all’IA di andare fuori rotta. Si tratta di record regolamentati e accurati relativi a prodotti, clienti, fornitori e sedi, sui quali ogni agente di IA fa affidamento per prendere decisioni affidabili.
La maggior parte delle aziende che si appresta a implementare l’IA commette lo stesso errore: pianifica minuziosamente il modello – selezione dei fornitori, integrazione, ottimizzazione dei prompt – ma trascura i propri dati di riferimento, che dovrebbero costituire un’unica fonte di verità contestualizzata.
Il risultato è che gli agenti di IA agiscono con sicurezza sulla base delle informazioni che ricevono, su larga scala.
Quando una decisione errata viene alla luce, di solito ha già causato un danno. Ad esempio, un ordine o una dichiarazione di conformità.
Pensate alla preparazione all’IA come alla preparazione per una gara.
Potete avere il miglior allenatore e l’attrezzatura migliore – persino la strategia perfetta per il giorno della gara – ma la loro efficacia dipende dalla vostra forma fisica di base. Nell’IA, i dati master affidabili rappresentano proprio quella forma fisica. Danno alla vostra organizzazione la forza e la resistenza necessarie per dare il meglio quando conta di più.
La maggior parte delle aziende si concentra sul giorno della gara: i modelli di IA, gli agenti e le applicazioni. Trascura invece il “lavoro di preparazione fisica” che determina se riuscirà effettivamente a dare il meglio. Questo articolo fa parte di una serie dedicata a ciò che comporta tale lavoro di preparazione, per prepararti alla gara del nostro tempo.
Perché la maggior parte delle iniziative di IA fallisce prima ancora che il modello venga eseguito?
La preparazione all’IA viene trattata come una decisione di natura puramente tecnologica.
Le aziende valutano i modelli, confrontano i fornitori e analizzano le prestazioni rispetto ai casi d’uso. La preparazione dei dati raramente rientra in questa discussione. È di competenza di un altro team, con tempistiche diverse, e spesso viene affrontata come un progetto di pulizia solo quando tutto è già in moto.
Spesso le organizzazioni si rendono conto dei problemi che ciò comporta solo dopo il lancio:
- Record di prodotto in conflitto tra i vari sistemi
- Dati dei clienti duplicati con nomi leggermente diversi
- Informazioni sui fornitori che non vengono convalidate da oltre un anno
- Mancanza di un'unica fonte di verità per le entità su cui l'IA dovrebbe basare le proprie deduzioni
Nulla di tutto ciò emerge durante una demo. I progetti pilota vengono eseguiti su dati selezionati e curati con cura, quindi il modello funziona bene in quella specifica situazione.
Le crepe vengono alla luce quando l’agente di IA si trova a confrontarsi con la realtà completa e disordinata dei sistemi aziendali. A quel punto, gli utenti aziendali hanno già iniziato a fare affidamento sui suoi risultati, e ricostruire la fiducia è più difficile di quanto non lo sia stato instaurarla.
Questo è il lavoro di preparazione che le aziende tendono a tralasciare. Non perché non sia importante, ma perché nessuno verifica la forma fisica di base prima del giorno della gara.
Cosa va storto quando gli agenti di IA utilizzano dati di riferimento errati?
La scarsa qualità dei dati di riferimento si manifesta in modi diversi a seconda del punto in cui il modello di IA fallisce. Tuttavia, esiste uno schema ricorrente. Un agente di IA agisce in base ai dati che gli vengono forniti e, quando tali dati sono incompleti, incoerenti o obsoleti, il risultato ne risente.
Esistono quattro modelli di errore.
1. Allucinazione
L'agente di IA colma le lacune con ipotesi plausibili. Un attributo del prodotto mancante o un profilo cliente incompleto vengono sostituiti con un'ipotesi che sembra plausibile, presentata con la stessa sicurezza di un fatto verificato.
2. Decisioni incoerenti
La stessa entità viene rappresentata in modo diverso nei vari sistemi: un cliente con tre indirizzi leggermente diversi o un prodotto con due specifiche diverse.
L’agente di IA si basa su versioni contrastanti degli stessi dati, il che porta a risposte incoerenti alla stessa domanda a seconda dei sistemi a cui si è rivolto.
3. Violazioni della conformità
In assenza di un contesto affidabile di governance e politiche, l’IA può raccomandare o eseguire azioni che violano i requisiti di conformità: ad esempio, l’approvazione di una transazione per un cliente che avrebbe dovuto essere segnalato, oppure la quotazione di un prodotto in un mercato in cui non è autorizzato.
4. Dati contrastanti che determinano un’azione errata
Due sistemi non sono allineati, ad esempio, su scorte, prezzi o disponibilità, e l’agente di IA si attiene a uno dei due. L’ordine viene spedito sulla base di un conteggio delle scorte errato. Oppure lo sconto viene applicato alla fascia di prezzo sbagliata.
Ecco come si manifesta un condizionamento inadeguato quando l’IA passa dalla generazione di contenuti al processo decisionale. Non si tratta di un singolo errore grave, ma di piccole incongruenze che si sommano e minano la fiducia in ogni risultato successivo.
Perché i dati che hanno superato la vostra ultima verifica non funzionano per i vostri agenti di IA?
I report e gli agenti di IA pongono requisiti diversi sugli stessi dati. Ecco perché i dati che superano ogni controllo di reporting possono comunque non funzionare correttamente con un agente di IA al primo utilizzo.
Ci sono diverse ragioni alla base di questo fenomeno:
I report tollerano le approssimazioni. Gli agenti di IA no.
Una dashboard arrotonda un numero o mostra un totale leggermente obsoleto, e un lettore umano ne tiene conto. Un agente di IA considera lo stesso numero come valore di riferimento e agisce direttamente in base ad esso.
La reportistica opera in batch. Gli agenti di IA operano in tempo reale.
La maggior parte dei dati dei report viene aggiornata durante la notte o settimanalmente, il che va bene per una revisione trimestrale. Un agente di IA che deve prendere una decisione in questo preciso momento ha bisogno dello stato attuale, non di un’istantanea della settimana scorsa.
I report tollerano visioni frammentate del dominio. Gli agenti di IA ragionano tenendo conto di tutte queste visioni.
Una dashboard di reportistica può analizzare separatamente i dati relativi ai prodotti, ai clienti e ai fornitori. Un agente di IA che risolve una singola richiesta, come verificare se un ordine può essere spedito, spesso ha bisogno che tutti e tre i dati siano coerenti tra loro.
I report assorbono gli errori quando il volume è basso. Gli agenti di IA no.
Un analista umano individua un valore anomalo evidente prima che raggiunga la presentazione al consiglio di amministrazione. Un agente di IA che prende migliaia di decisioni autonome al giorno non dispone di un punto di controllo equivalente, quindi lo stesso tasso di errore produce un numero molto maggiore di esiti negativi.
Queste sono le differenze tra l’allenamento per una corsa leggera e quello per il giorno della gara. Rendere i dati sufficientemente puliti da superare una verifica di reporting ti ha permesso di raggiungere una forma fisica adeguata per la corsa leggera.
Tuttavia, per gli agenti di IA ogni giorno è come il giorno della gara, e la maggior parte delle aziende si presenta con un piano di allenamento sbagliato.
Di cosa hanno bisogno i vostri dati di riferimento prima di implementare l’IA?
Tre capacità fondamentali sono essenziali: provenienza, coerenza e titolarità.
Per«lineaggio» si intende che ogni record è dotato di una cronologia tracciabile: da dove proviene, quando è stato modificato l’ultima volta, chi o cosa lo ha modificato.
Senza la tracciabilità, né l’azienda né la piattaforma di IA possono spiegare da dove provengano le informazioni, come siano state modificate o se siano attendibili.
La coerenza è l’aspetto più complesso. Un “cliente” nel CRM deve corrispondere esattamente a un “cliente” nel sistema degli ordini: stessa definizione, stesso identificatore, senza corrispondenze approssimative che costringano l’agente di IA a procedere per supposizioni.
Ciò vale per ogni dominio di dati gestito da un’azienda:
- Prodotto
- Cliente
- Fornitore
- Sede
Una debolezza in un ambito si propaga rapidamente ad altri, poiché l'IA ragiona tenendo conto delle entità aziendali collegate.
La titolarità implica che ogni entità aziendale critica disponga di un sistema di registrazione regolamentato e di una chiara responsabilità per la sua qualità.
Senza una chiara attribuzione di responsabilità, i conflitti tra i dati rimangono irrisolti, aumentando la probabilità che l’IA agisca sulla base di informazioni incomplete o errate.
Se i dati di qualità adeguata alla rendicontazione fossero una corsa leggera, ecco come si presenterebbe un vero e proprio programma di allenamento una volta messo nero su bianco. Niente di affascinante. Solo il lavoro di preparazione specifico e poco appariscente che determina se il giorno della gara andrà bene.
Nulla di tutto ciò è nuovo.
I team di analisi dati più competenti puntano a questo obiettivo da anni. Ciò che è diverso è la conseguenza del non farlo. Una lacuna che un tempo emergeva come un foglio di calcolo disordinato ora si manifesta come una decisione errata, presa automaticamente e su larga scala.
Conclusioni
Nulla di tutto ciò rappresenta una novità per i team di analisi dati competenti. La differenza sta in ciò che è in gioco quando si trascura questo aspetto.
I problemi di coerenza un tempo portavano a fogli di calcolo disordinati. Ora portano a decisioni errate, prese automaticamente e su larga scala.
E non c’è nessun operatore umano nel ciclo che possa individuarli per primo.
In quella gara per cui ti stai preparando, garantire la correttezza dei dati di riferimento è l’allenamento che determina il tuo rendimento. Prima investi in questo aspetto, più solide diventeranno tutte le iniziative di IA che seguiranno.
FAQ
Chi è responsabile dei dati master in un'impresa guidata dall'IA?
Questo varia a seconda dell'organizzazione, ma il ruolo del proprietario dei dati è più importante con l'IA rispetto a quanto lo fosse per la reportistica. I proprietari comuni includono:
- Un chief data officer che supervisiona la strategia dei dati
- Leader specifici del dominio (ad esempio, un proprietario dei dati di prodotto, un proprietario dei dati dei clienti)
- Team IT o di ingegneria dei dati responsabili dei sistemi sottostanti
Ciò che cambia con l'IA è il costo dell'ambiguità. Quando nessuno possiede un dominio di dati, nessuno è responsabile delle informazioni che l'IA utilizza per prendere decisioni – o delle conseguenze che ne derivano.
Qual è il ruolo della gestione dei dati master nell'affidabilità dell'IA aziendale?
La gestione dei dati master (MDM) aiuta a garantire che le entità aziendali fondamentali su cui l'IA si basa – prodotti, clienti, fornitori e località – siano governate, coerenti e affidabili.
Senza una base di MDM, gli agenti di intelligenza artificiale operano su dati aziendali incompleti, incoerenti o mal gestiti, producendo raccomandazioni e decisioni inaffidabili. MDM non è un miglioramento della qualità della vita per le implementazioni di AI. È uno strato fondamentale per implementare l'IA affidabile su scala aziendale.
Come fai a sapere se i dati della tua azienda sono pronti per l'IA?
Fatti alcune semplici domande:
- Puoi rintracciare da dove proviene ogni record aziendale principale, chi lo possiede e quando è stato aggiornato l'ultima volta?
- Lo stesso cliente, prodotto, fornitore o luogo ha un'identità coerente in ogni sistema?
- L'IA può accedere a un contesto aziendale connesso e affidabile attraverso i vari domini – non solo a registri isolati?
- I problemi di qualità dei dati vengono prevenuti quando le informazioni entrano nei vostri sistemi, piuttosto che corretti successivamente?
- Puoi spiegare perché un agente AI ha preso una particolare decisione risalendo ai dati aziendali sottostanti?
Se la risposta a una di queste domande è no (o anche "non sono sicuro"), è probabile che la tua base dati non sia pronta per supportare un'IA affidabile su larga scala.
Cosa significa avere una singola fonte di verità per l'IA?
Una singola fonte di verità significa avere una visione governata e autorevole di ciascun'entità aziendale fondamentale – come un prodotto, un cliente, un fornitore o una posizione – di cui ogni sistema e applicazione di intelligenza artificiale può fidarsi.
Senza di esso, diverse applicazioni o agenti AI potrebbero agire su versioni diverse della stessa entità aziendale, portando a decisioni incoerenti e risultati imprevedibili. Per la reportistica, quelle incoerenze sono spesso gestibili. Per l'IA autonoma che opera su larga scala, diventano un problema di affidabilità.
Quali dati sono necessari a un agente AI per prendere decisioni autonome affidabili?
Sono necessarie quattro capacità fondamentali:
- Registri affidabili senza versioni conflittuali della stessa entità aziendale.
- Dati aziendali attuali che riflettono l'ultimo stato dell'impresa.
- Contesto aziendale connesso, in modo che prodotti, clienti, fornitori, località e altri domini principali lavorino insieme come un'unica visione.
- Lineage e governance tracciabili, in modo che ogni record possa essere verificato e ogni decisione guidata dall'IA possa essere spiegata e auditata.
