Es una época de grandes ambiciones para los agentes de IA. Existe una enorme demanda de sistemas capaces de realizar tareas, coordinar flujos de trabajo, tomar decisiones y mantener las operaciones en marcha con una menor intervención humana.
El interés por la autonomía es evidente, pero la confianza necesaria para concederla aún está en fase de desarrollo.
Un nuevo estudio de Stibo Systems revela que el 37 % de los directivos empresariales estadounidenses permite que la IA actúe de forma autónoma solo cuando existen puntos de control de revisión humana. Otro 26 % permite la acción autónoma en determinados flujos de trabajo críticos para el negocio. Solo el 12 % lo permite de forma generalizada en los procesos fundamentales.
Estos resultados apuntan a una brecha de autonomía. Las organizaciones ven el potencial de la IA autónoma, pero la mayoría no está preparada para dejar que actúe libremente en toda la empresa.
Para cerrar esa brecha se necesitarán pruebas más sólidas, no solo agentes capaces.
¿Qué haría que las empresas concedieran más autonomía a la IA?
Cuando se les preguntó qué aumentaría su disposición a conceder mayor autonomía a la IA, los líderes se centraron en tres áreas:
- El 42 % desea tener más confianza en la precisión de la IA
- El 36 % desea una mejor calidad de los datos
- El 31 % desea una mayor explicabilidad y trazabilidad
En conjunto, estos resultados revelan de qué depende la autonomía empresarial. Los líderes necesitan tener la seguridad de que un agente trabaja con información fiable, comprende el contexto empresarial pertinente y puede demostrar cómo ha llegado a una conclusión. Esto empieza por comprender por qué la gestión de datos maestros es fundamental para que los agentes de IA sean fiables, sobre todo cuando estos pasan de generar respuestas a tomar medidas.
Esos datos son importantes porque las decisiones empresariales rara vez dependen de un único dato aislado.
Un agente que realiza una recomendación de producto podría necesitar datos precisos sobre las características del producto, las condiciones del proveedor, la disponibilidad de existencias, las preferencias del cliente, los requisitos específicos de cada ubicación e información normativa. También podría necesitar comprender las relaciones entre todos estos elementos.
Los registros fiables constituyen una base esencial. Los datos interconectados proporcionan al agente una visión más completa de la decisión que se le pide que tome.
Los agentes necesitan contexto, no solo acceso
Dar acceso a más datos a un agente no le proporciona automáticamente una mayor comprensión.
Los datos empresariales adquieren significado a través de relaciones, jerarquías, definiciones, políticas y normas. Un producto puede estar aprobado para un mercado y restringido en otro. Un proveedor puede ser el preferido para una categoría, pero no estar disponible en una región concreta. Un cliente puede cumplir los requisitos para una oferta en función de una combinación de historial de la cuenta, ubicación, consentimiento y condiciones contractuales.
Un agente necesita esas conexiones para interpretar la información correctamente.
Aquí es donde los datos multidominio cobran especial importancia. El reto se agrava en los procesos con múltiples agentes, en los que la gobernanza de los datos debe mantenerse en cada traspaso de un agente a otro. Los datos sobre productos, clientes, proveedores, ubicaciones y activos pueden ser gestionados por diferentes departamentos, pero las decisiones que respalda la IA suelen abarcar varios de ellos.
Cuando esos ámbitos permanecen desconectados, el agente puede tener acceso a datos aislados sin comprender el panorama empresarial en su totalidad. Los equipos se ven entonces obligados a recopilar el contexto que falta, conciliar la información contradictoria y validar el resultado antes de que nadie pueda actuar en consecuencia.
Los datos conectados y contextualizados proporcionan a los agentes una base más sólida. También ofrecen a las personas una base más clara para decidir cuánta autoridad debe tener un agente.
Desarrollar la autonomía por etapas
La autonomía de la IA no tiene por qué ser una decisión de «todo o nada». Las organizaciones pueden ampliarla gradualmente a medida que mejoren las pruebas, los controles y la confianza en torno a un caso de uso.
Una progresión práctica podría ser la siguiente:
1. Recomendación
El agente analiza la información y recomienda una acción. Una persona revisa los datos y toma la decisión.
Este nivel puede ayudar a las organizaciones a evaluar la calidad y la utilidad del razonamiento de un agente, al tiempo que se mantiene el control humano directo. También ofrece la oportunidad de identificar datos que faltan, reglas de negocio poco claras o excepciones recurrentes.
2. Acción aprobada por una persona
El agente recomienda una acción y prepara el siguiente paso, pero una persona debe aprobarla antes de su ejecución.
La aprobación humana sigue siendo una parte definida del flujo de trabajo, mientras que el agente se encarga en mayor medida del análisis y la preparación. La trazabilidad cobra especial importancia en este caso, ya que los revisores deben comprender los datos, el contexto y las reglas en las que se basa la recomendación.
3. Acción autónoma limitada
El agente actúa de forma independiente dentro de un conjunto definido de condiciones. Esos límites pueden incluir flujos de trabajo específicos, dominios de datos, valores de transacción, umbrales de confianza, grupos de usuarios o reglas de excepción.
Las personas siguen gestionando el proceso mediante permisos, supervisión, vías de escalación y revisión de excepciones. El agente obtiene mayor libertad dentro de un entorno que la organización puede explicar y controlar.
Este enfoque por fases permite a las organizaciones generar confianza a través de la experiencia operativa real. Cada paso aporta pruebas sobre en qué aspectos el agente funciona de forma fiable, en cuáles el criterio humano aporta valor y en cuáles es necesario mejorar los datos o controles subyacentes.
Haz que cada acción sea rastreable
A medida que los agentes asumen más responsabilidades, las organizaciones deben comprender los fundamentos de sus acciones.
Esto implica ser capaces de responder a preguntas como estas:
- ¿Qué registros y fuentes sirvieron de base para la decisión?
- ¿Eran los datos actuales, completos y aprobados?
- ¿Qué relaciones y reglas de negocio aplicó el agente?
- ¿Qué medida tomó el agente?
- ¿Quién o qué la autorizó?
- ¿Cuándo debe remitirse la decisión a un nivel superior para su revisión por parte de una persona?
La trazabilidad ofrece a los equipos una forma de investigar resultados inesperados, demostrar el cumplimiento normativo, perfeccionar el comportamiento de los agentes y justificar las decisiones de gran repercusión. También puede hacer que la revisión humana sea más eficiente.
Sin trazabilidad, los revisores deben reconstruir el razonamiento por sí mismos. La falta de linaje es uno de los cinco fallos en los datos maestros que pueden convertir modelos de IA fiables en agentes poco fiables. Buscan registros de origen, comparan información entre sistemas e investigan si el agente aplicó el contexto adecuado. Ese trabajo de investigación se suma al «impuesto de confianza de la IA»: la preparación, conciliación, validación y reelaboración ocultas que se requieren antes de que los resultados de la IA puedan utilizarse con confianza.
Con datos y decisiones trazables, las personas pueden centrar su atención en las excepciones y los juicios que realmente requieren su experiencia.
Proporciona a los agentes mejores pruebas antes de otorgarles mayor libertad
Los agentes de IA desempeñarán un papel cada vez más importante en los flujos de trabajo de las empresas. El ritmo de esa expansión dependerá de la confianza con la que las organizaciones puedan respaldar las acciones resultantes.
Disponer de datos precisos es parte de la solución. Los agentes también necesitan un contexto empresarial conectado, una gobernanza clara, un razonamiento explicable y decisiones trazables. En conjunto, estos elementos ayudan a las organizaciones a pasar de las recomendaciones de la IA a una acción autónoma cuidadosamente delimitada.
En lugar de aspirar a la máxima autonomía en todos los procesos, el objetivo aquí es alcanzar el nivel adecuado de autonomía para cada decisión, respaldado por pruebas que la empresa pueda comprender, gestionar y en las que pueda confiar.
Antes de conceder más libertad a los agentes, hay que proporcionarles mejores pruebas.
Aprenda más sobre lo que los líderes empresariales de EE. UU. están diciendo sobre el tiempo, el retrabajo y la confianza perdidos cuando la IA no se puede confiar
Explorar hallazgos
Preguntas frecuentes
¿Qué necesita la IA para actuar de manera autónoma?
La IA necesita datos fiables, un contexto empresarial conectado, permisos claros, razonamiento explicable y decisiones trazables para actuar con mayor autonomía. Las organizaciones también necesitan límites definidos y reglas de escalación que determinen cuándo un agente puede proceder de manera independiente y cuándo se requiere la aprobación humana.
¿Cómo pueden las organizaciones introducir la autonomía de la IA de manera segura?
Las organizaciones pueden introducir la autonomía de la IA en etapas. Un agente podría comenzar recomendando una acción, avanzar a preparar una acción para la aprobación humana y, eventualmente, actuar de manera independiente dentro de flujos de trabajo definidos, límites de transacción, umbrales de confianza o reglas de excepción. Este enfoque por fases proporciona a los equipos evidencia sobre dónde el agente actúa de manera confiable y dónde se necesitan datos o controles más robustos.
¿Por qué es importante la gestión de datos maestros para los agentes de IA autónomos?
La gestión de datos maestros proporciona los datos empresariales precisos, gobernados y conectados que los agentes de IA necesitan para tomar decisiones confiables. También establece definiciones compartidas, relaciones, propiedad y reglas de negocio en dominios como producto, cliente, proveedor, ubicación y datos de activos. Estas capacidades ayudan a las organizaciones a comprender, explicar y gobernar las acciones que toman los agentes.
