Este é um momento de grandes ambições para os agentes de IA. Há uma enorme demanda por sistemas capazes de realizar tarefas, coordenar fluxos de trabalho, tomar decisões e manter as operações em andamento com menos intervenção humana.
O desejo por autonomia é evidente, mas a confiança necessária para concedê-la ainda está em desenvolvimento.
Uma nova pesquisa da Stibo Systems revelou que 37% dos líderes empresariais dos EUA permitem que a IA atue de forma autônoma apenas quando há pontos de verificação com revisão humana. Outros 26% permitem a ação autônoma em fluxos de trabalho específicos e críticos para os negócios. Apenas 12% permitem isso de forma ampla em todos os processos essenciais.
Essas descobertas apontam para uma lacuna de autonomia. As organizações reconhecem o potencial da IA autônoma, mas a maioria ainda não está pronta para permitir que ela atue livremente em toda a empresa.
Para preencher essa lacuna, serão necessárias evidências mais sólidas, e não apenas agentes capazes.
O que levaria as empresas a conceder mais autonomia à IA?
Quando questionados sobre o que aumentaria sua disposição em conceder maior autonomia à IA, os líderes destacaram três áreas:
- 42% querem maior confiança na precisão da IA
- 36% querem melhor qualidade dos dados
- 31% querem maior explicabilidade e rastreabilidade
Juntas, essas descobertas revelam de que depende a autonomia empresarial. Os líderes precisam ter certeza de que um agente está trabalhando com informações confiáveis, compreende o contexto de negócios relevante e é capaz de demonstrar como chegou a uma conclusão. Isso começa com a compreensão de por que o gerenciamento de dados mestres é fundamental para agentes de IA confiáveis, especialmente quando os agentes passam de gerar respostas para tomar medidas.
Essa evidência é importante porque as decisões empresariais raramente dependem de um único dado isolado.
Um agente que faz uma recomendação de produto pode precisar de atributos precisos do produto, condições do fornecedor, disponibilidade de estoque, preferências do cliente, requisitos específicos de localização e informações regulatórias. Ele também pode precisar compreender as relações entre esses elementos.
Registros confiáveis fornecem uma base essencial. Dados interligados oferecem ao agente uma visão mais completa da decisão que ele deve tomar.
Os agentes precisam de contexto, não apenas de acesso
Dar a um agente acesso a mais dados não significa, automaticamente, que ele tenha uma compreensão maior.
Os dados corporativos ganham significado por meio de relações, hierarquias, definições, políticas e regras. Um produto pode ser aprovado para um mercado e restrito em outro. Um fornecedor pode ser preferencial para uma categoria, mas indisponível em uma determinada região. Um cliente pode se qualificar para uma oferta com base em uma combinação de histórico da conta, localização, consentimento e termos contratuais.
Um agente precisa dessas conexões para interpretar as informações corretamente.
É aí que os dados multidomínio se tornam especialmente importantes. O desafio aumenta em processos com múltiplos agentes, nos quais a governança de dados precisa ser mantida em todas as transferências entre agentes. Dados de produtos, clientes, fornecedores, localização e ativos podem ser gerenciados por diferentes funções, mas as decisões apoiadas pela IA geralmente abrangem várias delas.
Quando esses domínios permanecem desconectados, o agente pode ter acesso a fatos isolados sem compreender o panorama completo dos negócios. As equipes são então obrigadas a reunir o contexto que falta, conciliar informações conflitantes e validar o resultado antes que alguém possa agir com base nele.
Dados conectados e contextualizados fornecem evidências mais sólidas aos agentes. Eles também oferecem às pessoas uma base mais clara para decidir quanto de autoridade um agente deve ter.
Desenvolva a autonomia em etapas
A autonomia da IA não precisa ser uma decisão do tipo “tudo ou nada”. As organizações podem ampliá-la gradualmente, à medida que as evidências, os controles e a confiança em torno de um caso de uso melhoram.
Uma progressão prática poderia ser assim:
1. Recomendação
O agente analisa as informações e recomenda uma ação. Uma pessoa analisa as evidências e toma a decisão.
Esse nível pode ajudar as organizações a testar a qualidade e a utilidade do raciocínio de um agente, mantendo o controle humano direto. Ele também oferece uma oportunidade para identificar dados ausentes, regras de negócios pouco claras ou exceções recorrentes.
2. Ação aprovada por humanos
O agente recomenda uma ação e prepara a próxima etapa, mas uma pessoa deve aprová-la antes da execução.
A aprovação humana continua sendo uma parte definida do fluxo de trabalho, enquanto o agente assume uma parcela maior da análise e da preparação. A rastreabilidade torna-se especialmente importante nesse contexto, pois os revisores precisam compreender os dados, o contexto e as regras que fundamentam a recomendação.
3. Ação autônoma limitada
O agente age de forma independente dentro de um conjunto definido de condições. Esses limites podem incluir fluxos de trabalho específicos, domínios de dados, valores de transações, limites de confiança, grupos de usuários ou regras de exceção.
As pessoas continuam a governar o processo por meio de permissões, monitoramento, caminhos de escalonamento e análise de exceções. O agente ganha mais liberdade dentro de um ambiente que a organização pode explicar e controlar.
Essa abordagem em fases permite que as organizações construam confiança por meio da experiência operacional real. Cada etapa gera evidências sobre onde o agente atua de forma confiável, onde o julgamento humano agrega valor e onde os dados ou controles subjacentes precisam ser aprimorados.
Torne cada ação rastreável
À medida que os agentes assumem mais responsabilidades, as organizações precisam compreender a base de suas ações.
Isso inclui ser capaz de responder a perguntas como estas:
- Quais registros e fontes serviram de base para a decisão?
- Os dados estavam atualizados, completos e aprovados?
- Quais relações e regras de negócios o agente aplicou?
- Que ação o agente tomou?
- Quem ou o que autorizou isso?
- Quando a decisão deve ser encaminhada para revisão humana?
A rastreabilidade oferece às equipes uma maneira de investigar resultados inesperados, comprovar a conformidade, refinar o comportamento dos agentes e justificar decisões de grande impacto. Ela também pode tornar a revisão humana mais eficiente.
Sem rastreabilidade, os revisores precisam reconstruir o raciocínio por conta própria. A falta de rastreabilidade é uma das cinco falhas nos dados mestres que podem transformar modelos de IA confiáveis em agentes não confiáveis. Eles procuram registros de origem, comparam informações entre sistemas e investigam se o agente aplicou o contexto correto. Esse trabalho de investigação aumenta o “Custo da Confiança na IA”: a preparação, reconciliação, validação e retrabalho ocultos necessários antes que os resultados da IA possam ser usados com confiança.
Com dados e decisões rastreáveis, as pessoas podem concentrar sua atenção nas exceções e julgamentos que realmente exigem sua expertise.
Ofereça aos agentes evidências melhores antes de lhes conceder maior liberdade
Os agentes de IA desempenharão um papel cada vez mais importante nos fluxos de trabalho corporativos. O ritmo dessa expansão dependerá do grau de confiança com que as organizações possam endossar as ações resultantes.
Dados precisos são parte da resposta. Os agentes também precisam de contexto empresarial integrado, governança clara, raciocínio explicável e decisões rastreáveis. Juntos, esses elementos ajudam as organizações a passar das recomendações de IA para ações autônomas cuidadosamente delimitadas.
Em vez de buscar a autonomia máxima em todos os processos, o objetivo aqui é alcançar o nível adequado de autonomia para cada decisão, apoiado por evidências que a empresa possa compreender, governar e nas quais possa confiar.
Antes de conceder mais liberdade aos agentes, forneça a eles evidências mais sólidas.
Saiba mais sobre o que os líderes empresariais dos EUA estão dizendo sobre o tempo, retrabalho e confiança perdidos quando a IA não pode ser confiável
Explorar descobertas
Perguntas frequentes
O que a IA precisa para agir de forma autônoma?
A IA precisa de dados confiáveis, contexto de negócios conectado, permissões claras, raciocínio explicável e decisões rastreáveis para agir com maior autonomia. As organizações também precisam de limites definidos e regras de escalonamento que determinem quando um agente pode prosseguir de forma independente e quando a aprovação humana é necessária.
Como as organizações podem introduzir a autonomia da IA de forma segura?
As organizações podem introduzir a autonomia da IA em etapas. Um agente pode começar recomendando uma ação, progredir para preparar uma ação para aprovação humana e, eventualmente, agir de forma independente dentro de fluxos de trabalho definidos, limites de transação, limiares de confiança ou regras de exceção. Essa abordagem faseada fornece às equipes evidências sobre onde o agente atua de forma confiável e onde são necessários dados ou controles mais robustos.
Por que a gestão de dados mestres é importante para agentes de IA autônomos?
A gestão de dados mestres fornece os dados empresariais precisos, governados e conectados que os agentes de IA precisam para tomar decisões confiáveis. Também estabelece definições compartilhadas, relacionamentos, propriedade e regras de negócios em domínios como dados de produto, cliente, fornecedor, localização e ativos. Essas capacidades ajudam as organizações a entender, explicar e governar as ações que os agentes tomam.
