Cuando un agente de IA toma una decisión, actúa directamente sobre los datos que tiene ante sí. Un modelo de lenguaje eficaz, ya sea de gran tamaño o creado a medida, no puede subsanar las incoherencias de esos datos una vez que un ser humano deja de supervisar el resultado.
Tomemos como ejemplo el entrenamiento de fuerza. La sobrecarga progresiva solo funciona si sabes cuánto levantaste realmente la semana pasada. Si las cifras en las que basas tu entrenamiento son incoherentes y erróneas, todas las decisiones posteriores también lo serán.
Los agentes de IA funcionan de la misma manera. Por muy competente que sea el modelo, solo puede tomar decisiones basándose en los datos que se le proporcionan. Si esos datos son incoherentes o poco fiables, las decisiones también lo serán.
En este blog, descubrirás qué datos necesitan los agentes para actuar de forma fiable y cómo la gestión de datos maestros (MDM) lo hace posible.
¿Puede un modelo de lenguaje compensar la inconsistencia de los datos?
No. Un modelo lingüístico, ya sea un modelo grande de uso general o uno más pequeño entrenado internamente, genera resultados a partir de los patrones que encuentra en los datos a los que tiene acceso.
No puede determinar de forma fiable si el registro de un cliente es correcto ni qué versión de los datos empresariales contradictorios debe considerarse válida sin un contexto adicional o sin mecanismos de control.
Esa distinción era fácil de pasar por alto cuando un modelo generaba un informe que una persona revisaba antes de actuar en consecuencia. Un analista podía detectar una incoherencia, descartar un valor atípico o formular una pregunta de seguimiento antes de tomar una decisión. Un agente al que se le ordena actuar no se detiene a ejercer ese criterio.
Existen dos suposiciones habituales al respecto:
- El modelo siempre reconocerá y señalará la incertidumbre
- Los registros incoherentes se compensan a gran escala
Ninguna de estas suposiciones es fiable cuando se espera que un agente actúe de forma autónoma. A menos que esté diseñado explícitamente para buscar aclaraciones o aplazar la decisión, normalmente elegirá la interpretación más probable y seguirá adelante.
Más allá de ese punto, los mejores modelos ofrecen rendimientos decrecientes si no se puede confiar en los datos subyacentes.
¿Cómo mejora el MDM la fiabilidad de las decisiones de los agentes de IA?
La gestión de datos maestros (MDM) mejora la fiabilidad de los agentes de IA al proporcionar datos empresariales controlados y fiables que todos los agentes pueden utilizar de forma coherente. En lugar de que cada agente interprete diferentes versiones de la realidad, la MDM les proporciona una base común para el razonamiento y la acción.
Identidad
Antes de que un agente pueda razonar sobre un cliente, un proveedor o un producto, tiene que saber de quién o de qué está hablando.
Los registros duplicados, las identidades fragmentadas y los identificadores contradictorios llevan a los agentes a tomar decisiones sobre la entidad equivocada. La resolución de identidades —una capacidad fundamental de la gestión de datos de empresa (MDM)— garantiza que cada agente parta de una única representación fiable de la entidad empresarial.
Coherencia entre dominios
Un agente de IA nunca debería tener que decidir qué registro de cliente, producto o proveedor es el «correcto». La gestión de datos maestros (MDM) proporciona una versión controlada de cada registro a la que todos los agentes pueden recurrir, independientemente del sistema operativo que lo haya creado o actualizado. De esta forma:
- Los datos de los productos se mantienen alineados en todos los agentes que interactúan con ellos
- Los registros de clientes no se dividen en versiones contradictorias
- Los datos de proveedores o socios comerciales no pierden la sincronización entre sistemas
La coherencia no solo mejora la calidad de los datos, sino también la calidad de las decisiones.
El contexto empresarial, no solo los datos empresariales
La coherencia no es suficiente. Además de acceder a los registros, los agentes también necesitan ver cómo se relacionan entre sí.
Un registro de proveedor, por ejemplo, incluye más que un nombre y una dirección. Puede estar vinculado a productos aprobados, contratos, requisitos normativos y puntuaciones de riesgo. Sin ese contexto, un agente puede recuperar datos, pero no puede comprender plenamente la situación empresarial.
Información fiable en el momento de actuar
El momento es importante, aunque no en el sentido de la velocidad pura y simple. Un agente que actúe a las dos de la tarde necesita un registro que refleje la situación empresarial tal y como está en ese preciso instante. No necesariamente lo que figuraba en la última actualización trimestral.
Decisiones que se pueden explicar
A medida que las organizaciones otorgan mayor autonomía a los agentes, es necesario que toda decisión importante sea trazable. El MDM proporciona el control y el historial necesarios para auditar las decisiones, investigar los errores y mantener la confianza.
¿Por qué estos problemas con los datos se agravan aún más en los flujos de trabajo con múltiples agentes?
Un problema de datos que en un único sistema sería un solo error se convierte en varios errores una vez que pasa por una cadena de agentes. Esto se debe a que cada agente considera como un hecho el resultado del agente anterior.
Un ejemplo sencillo
- Un agente de productos actualiza los niveles de inventario basándose en un registro de un proveedor que nunca se ha conciliado
- Un agente de inventario lee esa actualización y activa un pedido de reposición
- Un agente de proveedores realiza el pedido al proveedor equivocado porque los datos erróneos del agente de productos eran la única información de la que disponía para trabajar.
Un único registro incoherente al principio provocó tres acciones erróneas, y nadie revisó ninguna de ellas antes de que se produjeran.
Por qué se acumulan los errores
Que un solo agente tome una decisión errónea es un problema de calidad de los datos que se puede detectar y corregir.
Por el contrario, una cadena de agentes que actúan en función de los resultados de los demás convierte ese mismo problema en algo que se agrava con cada traspaso.
Cada agente confía en lo que ha generado el agente anterior en lugar de verificarlo, ya que la verificación no es una función para la que estén diseñados los agentes.
La rendición de cuentas se vuelve más difícil
Cuando una persona tomaba estas decisiones, normalmente había un nombre asociado a esa decisión.
Cuando las realiza una cadena de agentes, alguien tiene que reconstruir la decisión a partir de los datos subyacentes a posteriori. Sin datos maestros controlados y trazables, responder a esas preguntas resulta extremadamente difícil.
¿Cambia la gestión de datos maestros (MDM) en un mundo de agentes de IA?
Sí. El propósito de la gestión de datos maestros (MDM) ha cambiado. Históricamente, la MDM generaba registros fiables para que las personas los revisaran antes de tomar decisiones.
Hoy en día, esos mismos registros sirven cada vez más como base operativa sobre la que actúan directamente los agentes de IA.
De los datos de referencia a los datos operativos
Un «registro de referencia» era antes algo que una persona consultaba. Ahora es algo que un agente de IA lee continuamente, analiza y sobre lo que actúa.
Esto cambia el papel de la gestión de datos maestros (MDM). Ya no se trata simplemente de publicar información fiable, sino de suministrar continuamente información fiable a sistemas autónomos que toman decisiones a la velocidad de una máquina.
La gobernanza funciona en ambos sentidos
La gobernanza no se limita a los datos que consumen los agentes de IA. También debe regular todos los cambios que realizan los agentes.
Un agente que resuelve un registro duplicado de un cliente:
- Completa un atributo de producto que faltaba
- Señala una dirección de proveedor conflictiva
- Modifica un registro que utilizará el siguiente agente de la cola
Cada modificación que realice un agente debe validarse con el mismo rigor que los datos que se utilizaron inicialmente.
Todos los dominios deben estar preparados
Los datos sobre productos, clientes, proveedores, ubicaciones y socios comerciales deben cumplir el mismo estándar antes de que los agentes puedan acceder a ellos.
El ámbito más débil se convierte en el punto ciego del agente.
Cómo STEP asienta a los agentes de IA en datos empresariales fiables
STEP, la plataforma de inteligencia de confianza de Stibo Systems, proporciona la base de datos maestros corporativos fiables en la que se apoyan los agentes de IA para leer, razonar y actuar con confianza.
STEP ayuda a los agentes de IA de las siguientes maneras:
- Resolviendo automáticamente los registros duplicados y conflictivos
- Estructurando de forma coherente los datos de productos, clientes, proveedores y socios comerciales
- Manteniendo las relaciones entre los registros en todos los ámbitos
- Validando los datos que los agentes introducen antes de que pasen a formar parte del registro
- Proporcionar un historial trazable de cada decisión que toma un agente
- Aplicar las mismas normas de gobernanza en todos los sistemas que manejan los datos
En el entrenamiento de fuerza, el asistente que está detrás del levantador rara vez recibe mucha atención. Toda la atención se centra en el levantamiento en sí. Pero si el asistente aparta la vista en el momento equivocado, una repetición mal ejecutada se convierte en una lesión.
STEP funciona de la misma manera con los agentes de IA. Es fácil pasar por alto su papel cuando todo va bien, pero es precisamente la razón por la que una mala decisión no se convierte en una cascada de errores.
Sea cual sea la arquitectura de agentes que se implemente, esta no puede compensar la falta de fiabilidad de los datos empresariales. Sin una base regulada, los errores se acumulan a medida que los agentes se basan en las decisiones de los demás. STEP proporciona el contexto de confianza que garantiza la fiabilidad de esos flujos de trabajo de principio a fin.
Preguntas frecuentes
¿Por qué necesitan los agentes de IA MDM si ya tienen acceso a los sistemas empresariales?
El acceso no es lo mismo que la confianza. Los sistemas empresariales a menudo contienen datos contradictorios o duplicados. MDM proporciona la vista gobernada y confiable en la que los agentes de IA confían.
¿Puede un LLM reemplazar la gestión de datos maestros?
No. Un LLM puede razonar sobre los datos, pero no puede determinar qué registros son autoritativos ni hacer cumplir la gobernanza. MDM proporciona la base confiable para una IA fiable.
Si la IA se está volviendo más capaz, ¿por qué el MDM es más importante que nunca?
Porque la IA aprende patrones, no verdades. A medida que los agentes se vuelven más autónomos, los datos maestros confiables se vuelven esenciales para tomar decisiones fiables.
¿No es esto solo un problema de calidad de datos?
No. La calidad de los datos es una capacidad dentro de MDM. La IA confiable también depende de la gobernanza, las relaciones, el contexto empresarial, la resolución de identidades, la línea de procedencia y la aplicación de políticas.
¿Puede la generación aumentada por recuperación (RAG) reemplazar el MDM?
No. RAG mejora la forma en que la IA accede a la información. No mejora la calidad de esa información. Si los datos subyacentes contienen duplicados, inconsistencias o registros contradictorios, RAG simplemente los recupera más rápido.
¿Puede la IA arreglar datos incorrectos por sí sola?
No. La IA puede identificar problemas y sugerir correcciones, pero no puede determinar la versión autorizada de un cliente, proveedor o producto sin datos maestros gobernados.
¿Cómo se diferencia la data de nivel agente de la data de nivel de informes?
Los datos de calidad de informes son lo suficientemente precisos para una persona que revisa un panel, quien puede detectar un valor atípico y hacer una pregunta de seguimiento. Los datos de nivel agente deben ser lo suficientemente sólidos como para que nadie revise la salida antes de que se convierta en una decisión.
¿Los agentes de IA eliminan la necesidad de la gobernanza de datos?
No. Los agentes de IA aumentan la necesidad de gobernanza de datos. Como los agentes actúan de manera autónoma, la gobernanza asegura que cada decisión se base en datos confiables y que cada cambio siga las reglas del negocio.
¿Qué pasa cuando los agentes de IA comparten datos inconsistentes?
Los errores se acumulan. La mala salida de un agente se convierte en la entrada del siguiente agente, y el error puede viajar a través de varias decisiones antes de que alguien lo detecte.
¿Cómo se relaciona MDM con una tela de datos?
Un tejido de datos conecta y mueve datos a través de los sistemas a medida que cambian. MDM gobierna lo que significa esos datos y confirma que son precisos antes de que se muevan. Los agentes necesitan ambos, pero una tela de datos que mueve datos poco fiables solo propaga el problema más rápido.
