Quando un agente di intelligenza artificiale fornisce una risposta errata, probabilmente il problema non è il modello. Il problema risiede nei dati, che non sono mai stati concepiti per essere riconciliati tra i vari sistemi.
Potrebbe sembrare perfetto nella fase pilota. Questo perché spesso i progetti pilota hanno successo proprio perché qualcuno cura i dati manualmente e mantiene l’ambito sufficientemente ristretto da poter essere gestito.
In produzione, però, questa condizione non sussiste.
Quando un agente deve operare contemporaneamente su dati relativi a fornitori, prodotti, finanza e mercato, emergono cinque specifici punti di fallimento.
Ciascuno di essi è ben noto se considerato singolarmente. Ma, nel loro insieme, spiegano perché così tanti programmi di IA si arenano dopo un avvio promettente. Diamo quindi un’occhiata veloce a ciascuno di essi e a come correggerli per far scalare la vostra IA agentica.
1. Record principali obsoleti o contraddittori
Iniziamo con l’errore più elementare: l’agente si affida a un record che è già obsoleto.
I dati aziendali raramente risiedono in un unico posto. Un prodotto potrebbe avere cinque versioni distribuite tra varie istanze di sistemi ERP (Enterprise Resource Planning), sistemi PIM (Product Information Management), un database regionale e un portale fornitori. Ciascuna di queste viene aggiornata secondo i propri tempi e dal proprio team.
Un agente non sa quale sia la versione attuale. Interroga il sistema a cui è connesso e considera quella risposta come un dato di fatto.
È così che un addetto alla determinazione dei prezzi finisce per raccomandare un aumento del 12% in una regione e un prezzo invariato in un’altra, per lo stesso prodotto, nello stesso giorno. Nessuno dei due risultati è di per sé errato. Ciascuno riflette semplicemente una versione diversa e non aggiornata dello stesso record.
Nessuna delle due regioni si fida del risultato una volta che emerge la discrepanza.
2. Definizioni contrastanti tra i domini
Il significato di un «record» può variare a seconda della persona a cui ci si rivolge all’interno dell’organizzazione.
I team addetti agli acquisti, alla finanza e alle vendite spesso definiscono la stessa entità a modo loro. Un “prodotto” in un sistema di gestione del ciclo di vita del prodotto potrebbe non corrispondere a un “prodotto” nel contesto della determinazione dei prezzi, e la classificazione dei fornitori in un sistema potrebbe contraddire una valutazione del rischio in un altro.
Un agente che ragiona trasversalmente ai diversi ambiti non ha modo di risolvere autonomamente la questione. Si limita a scegliere una definizione e ad agire di conseguenza.
Senza definizioni condivise tra i diversi ambiti, un agente non è in grado di produrre informazioni affidabili. Può solo formulare un'ipotesi che, per caso, coincide con la visione di un sistema.
3. Assenza di una genealogia tracciabile
Quando l’output di un agente sembra errato, la domanda successiva è sempre la stessa: perché ha deciso così?
Senza una tracciabilità, quella domanda non ha risposta. Nessuno può risalire alla fonte della raccomandazione per capire:
- I record di origine
- Le relazioni tra di essi
- Le regole aziendali applicate lungo il percorso
La decisione esiste senza una provenienza, il che la rende impossibile da riprodurre o difendere.
Ciò ha conseguenze che vanno ben oltre il team che si occupa dei dati. La legge dell’UE sull’IA richiede che i sistemi di IA ad alto rischio producano risultati che possano essere interpretati, documentati e tracciati.
Per i settori regolamentati, la mancanza di tracciabilità trasforma ogni decisione inspiegabile presa da un agente in un rischio di non conformità.
4. Mancanza di chiarezza sulla titolarità dei dati o sulla responsabilità
I dati relativi ai prodotti appartengono a un team. I dati relativi ai fornitori appartengono a un altro e, nella maggior parte delle aziende, nessuno è responsabile del rapporto tra i due.
Questo funziona bene quando sono le persone a prendere ogni decisione all’interno del proprio ambito di competenza. Ma il sistema crolla nel momento in cui un agente ha bisogno di dati allineati tra diversi ambiti per agire.
Nessuno ha l’autorità di risolvere un conflitto tra un record di prodotto e un record di fornitore, poiché la responsabilità si ferma ai confini di ciascun sistema.
Senza una chiara struttura di responsabilità, la governance inter-dominio semplicemente non funziona.
5. Assenza di soglie di fiducia o di un percorso di escalation per l’intervento degli agenti
Raccomandare una decisione e agire di conseguenza non comportano lo stesso livello di rischio. La maggior parte dei quadri di governance è stata concepita solo per il primo caso.
Un agente privo di una soglia di confidenza definita applica lo stesso livello di autonomia a ogni decisione.
Non importa quanto siano incerti i dati sottostanti. Non esiste un punto in cui il sistema si fermi e inoltri la decisione a una persona.
Ciò significa che un singolo dato errato si trasforma in un errore sistemico. L’agente ripete lo stesso errore su ogni record che elabora, alla velocità di una macchina, prima che qualcuno se ne accorga.
Come risolvere questi 5 errori nei dati e rendere affidabile l’IA agentica
Ciascuno di questi errori risale alla stessa condizione iniziale: i dati sono stati gestiti per la rendicontazione anziché per consentire alle macchine di agire rapidamente.
Per risolvere il problema, procedere come segue:
- Assegnare la responsabilità trasversalmente ai vari domini, in modo che qualcuno abbia l’autorità di risolvere un conflitto tra un record di prodotto e un record di fornitore. Non lasciare che la situazione degeneri in uno stallo tra i team.
- Incorporare le regole di governance nell'infrastruttura dei dati stessa, in modo che i dati errati vengano individuati prima che raggiungano un agente (e non settimane dopo, durante una revisione).
- Collegare i domini attraverso un modello di relazioni condiviso, anziché gestirli separatamente. Un operatore che lavora con dati relativi a fornitori, prodotti e mercati dovrebbe avere una visione d’insieme coerente.
- Considerare la provenienza come un elemento che ogni record porta con sé per impostazione predefinita, e non come qualcosa che un team di conformità deve ricostruire in un secondo momento.
Troppe aziende affrontano questo processo per fasi anziché tutto in una volta. Ad esempio, iniziano dalla titolarità, poi passano alla governance e infine collegano i domini. La provenienza (lineage) emerge come risultato naturale di aver gestito bene il resto.
STEP, la nostra piattaforma di intelligence affidabile, gestisce tutto questo in un unico sistema integrato.
Come Stibo Systems risolve tutti questi problemi in un colpo solo
STEP risolve questi problemi considerando una base di dati master multidominio regolamentata come un unico sistema integrato, anziché come cinque problemi distinti.
La questione della responsabilità viene risolta attraverso un modello di metadati condiviso. I dati relativi a prodotti, fornitori, clienti e sedi risiedono su un’unica piattaforma con un unico quadro di governance, in modo che nessun dominio sfugga al controllo di nessuno.
Le regole di governance sono integrate nei dati stessi. Il controllo degli accessi basato sui ruoli e i registri di audit si applicano a ogni record, indipendentemente dal fatto che la modifica sia stata apportata da un amministratore umano o da un agente.
I limiti degli agenti vengono definiti attraverso il livello agentico radicato della piattaforma, che stabilisce le soglie di affidabilità e le regole di escalation entro cui un agente deve operare prima di poter agire in modo autonomo.
E la tracciabilità diventa la norma. Ogni decisione, presa da un utente o da una macchina, viene versionata ed è riconducibile al record, alla relazione e alla regola che l’hanno generata.
In sintesi
Risolvi gli errori e l'agente smette di tirare a indovinare. Funziona partendo da un record regolamentato, con un responsabile chiaro, un percorso decisionale tracciabile e un limite definito su ciò che può fare senza l'intervento di una persona. Ecco come si presenta un'intelligenza affidabile nel momento in cui un agente agisce sulla base di essa.
Per approfondire il motivo per cui questi errori nei dati sono così comuni nei programmi di IA aziendali, scaricate il white paper «AI at Scale», che abbiamo redatto in collaborazione con Accenture. Il white paper illustra le condizioni relative ai dati che distinguono un progetto pilota dall’IA implementata su larga scala.
FAQ
Perché la mia intelligenza artificiale fornisce risposte incoerenti sullo stesso prodotto o cliente?
L'agente sta probabilmente estraendo da più di una versione di quel record.
Sistemi diversi, come ERP, PIM o un database regionale, spesso contengono valori diversi per lo stesso prodotto o cliente, e un agente non ha un modo integrato per sapere quale sia quello attuale. Risponde semplicemente dalla fonte che capita di interrogare.
Cosa causa gli agenti AI a fare errori anche quando il modello sottostante è buono?
Un modello capace può comunque agire su input errati come:
- Registrazioni obsolete
- Definizioni conflittuali tra i vari domini
- Lineage mancante
- Proprietà poco chiara
Tutti questi producono errori che sembrano fallimenti del modello a prima vista. Nella maggior parte dei casi, la causa principale risiede nei dati forniti all'agente, non nel modo in cui il modello ha ragionato su di essi.
Riaddestrare o sostituire i modelli raramente risolve un problema che è iniziato a monte nella stessa base dati.
In che modo l'IA agentica è diversa dalle raccomandazioni dell'IA, in termini di rischio dei dati?
Una raccomandazione viene controllata da un umano prima che accada qualsiasi cosa. Un agente salta quel passaggio, quindi un input errato si trasforma immediatamente in un'azione errata, e può ripetersi in ogni record simile prima che qualcuno se ne accorga.
La gestione dei dati master è ancora rilevante ora che la maggior parte dell'IA funziona su modelli linguistici di grandi dimensioni?
Più rilevante, non meno. I modelli di linguaggio di grandi dimensioni (LLM) gestiscono bene il linguaggio, ma dipendono ancora dai dati master governati per sapere:
- Quale record del fornitore è attuale
- Come un prodotto dovrebbe essere classificato
- Quale record cliente è autorevole su tutti i mercati
Senza quella base, un LLM produce risposte fluide basate su fatti errati.
Che cos'è uno strato agentico ancorato?
Fa parte dell'architettura di una piattaforma che definisce cosa un agente può decidere autonomamente e quando una decisione deve essere presa da una persona.
Imposta soglie di fiducia e regole di escalation direttamente nell'infrastruttura dei dati, in modo che un agente che lavora su dati incerti o di bassa qualità venga indirizzato a un umano piuttosto che agire su un'ipotesi.
Riparare questi errori nei dati rallenta la tabella di marcia dell'IA?
Non necessariamente. La proprietà, la governance e il lavoro sulla genealogia possono avvenire parallelamente allo sviluppo dell'IA invece di essere una fase separata che ritarda tutto il resto.
I team che saltano questo passaggio tendono a perdere più tempo in seguito, ricostruendo la fiducia in un agente che ha commesso un errore visibile in produzione. Riparare le fondamenta in anticipo è di solito il percorso più veloce.
