Quando un agente di intelligenza artificiale prende una decisione, agisce direttamente sui dati che ha a disposizione. Un modello linguistico efficiente, sia esso di grandi dimensioni o personalizzato, non è in grado di ovviare alle incongruenze presenti in tali dati una volta che un essere umano smette di verificare i risultati.
Prendiamo ad esempio l’allenamento di forza. Il sovraccarico progressivo funziona solo se si sa quanto si è effettivamente sollevato la settimana precedente. Se i numeri su cui ci si basa per l’allenamento sono incoerenti e sbagliati, lo saranno anche tutte le decisioni successive.
Gli agenti di IA funzionano allo stesso modo. Per quanto potente possa essere il modello, può prendere decisioni solo sulla base dei dati che gli vengono forniti. Se tali dati sono incoerenti o inaffidabili, lo saranno anche le decisioni.
In questo blog scoprirai quali dati servono agli agenti per agire in modo affidabile e come la gestione dei dati di riferimento (MDM) lo renda possibile.
Un modello linguistico può compensare l’incoerenza dei dati?
No. Un modello linguistico, che si tratti di un modello di grandi dimensioni per uso generico o di un modello più piccolo addestrato internamente, genera risultati sulla base dei modelli presenti nei dati a cui ha accesso.
Non è in grado di determinare in modo affidabile se la scheda di un cliente sia accurata o quale versione di dati aziendali contrastanti debba essere considerata come quella di riferimento senza un contesto aggiuntivo o una governance adeguata.
Era facile non cogliere questa distinzione quando un modello produceva un report che una persona esaminava prima di agire di conseguenza. Un analista poteva individuare un'incongruenza, ignorare un valore anomalo o porre una domanda di approfondimento prima di prendere una decisione. Un agente a cui viene richiesto di agire non si ferma a valutare la situazione.
A questo proposito esistono due presupposti comuni:
- Il modello riconoscerà e segnalerà sempre l’incertezza
- I dati incoerenti si compensano a livello di scala
Nessuna delle due ipotesi è valida quando ci si aspetta che un agente agisca in modo autonomo. A meno che non sia stato esplicitamente progettato per cercare chiarimenti o rinviare la decisione, in genere sceglierà l’interpretazione più probabile e procederà.
Oltre quel punto, i modelli più avanzati offrono rendimenti decrescenti se i dati sottostanti non sono affidabili.
In che modo l’MDM migliora l’affidabilità delle decisioni degli agenti di IA?
L’MDM migliora l’affidabilità degli agenti di IA fornendo dati aziendali controllati e affidabili che ogni agente può utilizzare in modo coerente. Anziché lasciare che ogni agente interpreti versioni diverse della realtà, l’MDM offre loro una base comune per il ragionamento e l’azione.
Identità
Prima che un agente possa ragionare su un cliente, un fornitore o un prodotto, deve sapere di chi o di cosa sta parlando.
Record duplicati, identità frammentate e identificatori in conflitto portano gli agenti a prendere decisioni relative all’entità sbagliata. La risoluzione dell’identità — una funzionalità fondamentale dell’MDM — garantisce che ogni agente parta da un’unica rappresentazione affidabile dell’entità aziendale.
Coerenza tra i domini
Un agente basato sull’intelligenza artificiale non dovrebbe mai dover decidere quale record relativo a un cliente, a un prodotto o a un fornitore sia quello “corretto”. L’MDM fornisce una versione controllata di ogni record a cui ogni agente può fare riferimento, indipendentemente dal sistema operativo che l’ha creato o aggiornato. In questo modo:
- I dati di prodotto rimangono allineati tra tutti gli agenti che li gestiscono
- I record dei clienti non si ramificano in versioni concorrenti
- I dati relativi a fornitori o partner commerciali non perdono la sincronizzazione tra i sistemi
La coerenza non solo migliora la qualità dei dati, ma anche la qualità delle decisioni.
Il contesto aziendale, non solo i dati aziendali
La coerenza non basta. Oltre ad accedere ai record, gli agenti devono anche capire come questi si relazionano tra loro.
Un record relativo a un fornitore, ad esempio, non comprende solo un nome e un indirizzo. Può essere collegato a prodotti approvati, contratti, requisiti normativi e punteggi di rischio. Senza quel contesto, un operatore può recuperare i dati, ma non è in grado di comprendere appieno la situazione aziendale.
Informazioni affidabili nel momento dell’azione
La tempistica è importante, ma non nel senso della semplice rapidità. Un operatore che agisce alle due del pomeriggio ha bisogno di una scheda che rifletta la situazione aziendale così com’è in quel preciso momento. Non necessariamente quella riportata nell’ultimo aggiornamento trimestrale.
Decisioni che si possono spiegare
Man mano che le organizzazioni concedono maggiore autonomia agli agenti, ogni decisione importante deve essere tracciabile. L’MDM fornisce la governance e la tracciabilità necessarie per verificare le decisioni, indagare sugli errori e mantenere la fiducia.
Perché questi problemi relativi ai dati si aggravano ulteriormente nei flussi di lavoro con più agenti?
Un problema relativo ai dati che in un singolo sistema costituirebbe un solo errore si trasforma in una serie di errori una volta che passa attraverso una catena di agenti. Questo perché ogni agente considera l’output dell’agente precedente come un dato di fatto.
Un semplice esempio
- Un agente di prodotto aggiorna i livelli di magazzino sulla base di un dato del fornitore che non è mai stato riconciliato
- Un agente di magazzino legge quell’aggiornamento e avvia un riordino
- Un agente fornitore effettua l’ordine presso il fornitore sbagliato perché i dati errati dell’agente di prodotto erano l’unico input a sua disposizione.
Un unico record incoerente all’inizio ha generato tre azioni errate, e nessuno ha verificato nessuna di esse prima che avvenissero.
Perché gli errori si accumulano
Un singolo agente che prende una decisione errata rappresenta un problema di qualità dei dati che è possibile individuare e correggere.
Una catena di agenti, invece, che agiscono in base ai risultati prodotti dagli altri, trasforma quello stesso problema in qualcosa che cresce ad ogni singolo passaggio di mano.
Ogni agente si affida a ciò che l’agente precedente ha prodotto invece di verificarlo, poiché la verifica non rientra tra le funzioni per cui gli agenti sono stati progettati.
La responsabilità diventa più difficile
Quando era una persona a prendere queste decisioni, di solito c'era un nome associato a quel giudizio.
Quando invece le decisioni vengono prese da una catena di agenti, qualcuno deve ricostruire a posteriori la decisione partendo dai dati sottostanti. Senza dati di riferimento regolamentati e tracciabili, rispondere a tali domande diventa estremamente difficile.
L’MDM cambia in un mondo dominato dagli agenti basati sull’intelligenza artificiale?
Sì. Lo scopo dell’MDM è cambiato. Storicamente, l’MDM produceva record affidabili che le persone potevano esaminare prima di prendere decisioni.
Oggi, quegli stessi dati fungono sempre più spesso da base operativa su cui gli agenti di IA agiscono direttamente.
Dai dati di riferimento ai dati operativi
Un tempo, un «golden record» era qualcosa che una persona consultava. Ora è qualcosa che un agente di IA legge continuamente, su cui ragiona e in base al quale agisce.
Questo cambia il ruolo dell’MDM. Non si tratta più semplicemente di pubblicare informazioni affidabili, ma di fornire continuamente informazioni affidabili a sistemi autonomi che prendono decisioni alla velocità delle macchine.
La governance funziona in entrambi i sensi
La governance non si limita ai dati utilizzati dagli agenti di IA. Deve anche regolare ogni modifica apportata dagli agenti.
Un agente che risolve un record cliente duplicato:
- Compila un attributo del prodotto mancante
- Segnala un indirizzo del fornitore in conflitto
- Modifica un record che verrà utilizzato dall'agente successivo in coda
Ogni modifica apportata da un operatore dovrebbe essere convalidata con lo stesso rigore con cui sono stati convalidati i dati da cui è partita.
Ogni dominio deve essere pronto
I dati relativi a prodotti, clienti, fornitori, sedi e partner commerciali devono tutti soddisfare lo stesso standard prima che gli agenti possano utilizzarli.
Il settore più debole diventa il punto cieco dell’operatore.
Come STEP garantisce che gli agenti basati sull’intelligenza artificiale operino sulla base di dati aziendali affidabili
STEP, la piattaforma di intelligenza affidabile di Stibo Systems, fornisce la base affidabile di dati master aziendali su cui gli agenti di IA fanno affidamento per leggere, ragionare e agire con sicurezza.
STEP supporta gli agenti di IA:
- risolvendo automaticamente i record duplicati e in conflitto
- Strutturando in modo coerente i dati relativi a prodotti, clienti, fornitori e partner commerciali
- Mantenendo le relazioni tra i record in ogni dominio
- Convalidando i dati che gli agenti reinseriscono prima che entrino a far parte del record
- Fornire una cronologia tracciabile di ogni decisione presa da un agente
- Applicare le stesse regole di governance in tutti i sistemi che gestiscono i dati
Nell’allenamento di forza, lo spotter alle spalle di chi solleva pesi raramente riceve molta attenzione. Tutta l’attenzione è concentrata sul sollevamento stesso. Ma se lo spotter distoglie lo sguardo nel momento sbagliato, una ripetizione sbagliata si trasforma in un infortunio.
STEP funziona allo stesso modo per gli agenti di IA. È facile non notarlo quando tutto va per il verso giusto, ma è proprio grazie a questo che una decisione sbagliata non si trasforma in una serie di errori a catena.
Qualunque sia l’architettura dell’agente che state implementando, essa non può compensare l’inaffidabilità dei dati aziendali. Senza una base ben regolamentata, gli errori si accumulano man mano che gli agenti si basano sulle decisioni reciproche. STEP fornisce il contesto affidabile che garantisce l’affidabilità di tali flussi di lavoro dall’inizio alla fine.
FAQ
Perché gli agenti AI hanno bisogno di MDM se hanno già accesso ai sistemi aziendali?
L'accesso non è la stessa cosa della fiducia. I sistemi aziendali spesso contengono dati conflittuali o duplicati. MDM fornisce la vista governata e affidabile su cui si basano gli agenti AI.
Un LLM può sostituire la gestione dei dati master?
No. Un LLM può ragionare sui dati, ma non può determinare quali record siano autorevoli o applicare la governance. MDM fornisce la base affidabile per un'IA sicura.
Se l'IA sta diventando più capace, perché il MDM è più importante che mai?
Perché l'IA apprende schemi, non verità. Man mano che gli agenti diventano più autonomi, i dati master affidabili diventano essenziali per decisioni affidabili.
Non è solo un problema di qualità dei dati?
No. La qualità dei dati è una delle capacità all'interno del MDM. Anche l'IA affidabile dipende dalla governance, dalle relazioni, dal contesto aziendale, dalla risoluzione dell'identità, dalla provenienza e dall'applicazione delle politiche.
La generazione aumentata da recupero (RAG) può sostituire MDM?
No. RAG migliora il modo in cui l'IA accede alle informazioni. Non migliora la qualità di quelle informazioni. Se i dati sottostanti contengono duplicati, incoerenze o record conflittuali, RAG semplicemente li recupera più velocemente.
L'IA può correggere i dati errati da sola?
No. L'IA può identificare problemi e suggerire correzioni, ma non può determinare la versione autorevole di un cliente, fornitore o prodotto senza dati master governati.
In che modo i dati di livello agente sono diversi dai dati di livello report?
I dati di reporting sono sufficientemente accurati per una persona che esamina un dashboard, che può individuare un valore anomalo e porre una domanda di follow-up. I dati di livello agente devono reggere senza che nessuno controlli l'output prima che diventi una decisione.
Gli agenti di intelligenza artificiale eliminano la necessità di una governance dei dati?
No. Gli agenti AI aumentano la necessità di governance dei dati. Poiché gli agenti agiscono in modo autonomo, la governance garantisce che ogni decisione sia basata su dati affidabili e ogni cambiamento segua le regole aziendali.
Cosa succede quando gli agenti di intelligenza artificiale condividono dati incoerenti?
Gli errori si accumulano. L'output errato di un agente diventa l'input del successivo, e l'errore può viaggiare attraverso diverse decisioni prima che qualcuno lo noti.
Come si relaziona l'MDM a un data fabric?
Un data fabric collega e sposta i dati tra i sistemi mentre cambiano. MDM governa cosa significa quel dato e conferma che sia accurato prima che venga trasferito. Gli agenti hanno bisogno di entrambi, ma un data fabric che trasmette dati inaffidabili diffonde solo il problema più rapidamente.
