A chegada de agentes de IA nas empresas criou uma categoria de risco que a maioria das organizações ainda não sabe nomear. Não é o risco de uma resposta errada. É o risco de uma ação errada. E a diferença entre os dois é maior do que parece.
O sistema tinha funcionado perfeitamente nas primeiras três semanas.
Uma empresa de serviços financeiros havia implantado um agente de IA para gerenciar contestações de clientes: o agente analisava a solicitação, consultava o histórico da conta, verificava a política aplicável e, quando os critérios eram atendidos, aprovava reembolsos de até R$ 200 automaticamente.
Simples. Contido. Com escopo bem definido.
Na quarta semana, um cliente abriu 23 contestações separadas sobre cobranças do mesmo serviço, descrevendo cada uma como um incidente distinto. O agente avaliou cada solicitação individualmente, encontrou os critérios atendidos em 21 delas e aprovou R$ 4.200 em reembolsos antes que qualquer humano visse o que estava acontecendo.
O agente não estava quebrado. Não havia alucinado. Fazia exatamente o que as instruções determinavam, com exatamente as permissões que os gestores haviam concedido.
O problema era que ninguém havia definido o que “incidente distinto” significava quando o mesmo cliente, no mesmo serviço, abre 23 solicitações em dois dias.
O Que São Agentes de IA nas Empresas, de Verdade
Um agente de IA não é um chatbot mais sofisticado.
Na prática, a diferença entre os dois tipos de sistema está custando caro para as organizações que estão descobrindo isso do jeito errado.
Um chatbot responde. Você pergunta, ele responde. A conversa acontece dentro de uma janela, as informações ficam ali, e o que sai do sistema é texto.
Um agente, por outro lado, age. Ele recebe um objetivo, divide em tarefas, usa ferramentas para executar essas tarefas e produz resultados no mundo real. Além disso, pode acessar sistemas, ler e gravar dados, enviar e-mails, fazer chamadas de API, executar código, tomar decisões e encadear uma ação na outra sem pedir permissão a cada passo.
A distinção técnica é direta: um agente tem acesso a ferramentas e tem autonomia para usá-las em sequência até atingir o objetivo. Um chatbot tem acesso ao seu histórico de conversa e produz texto.
Contudo, a distinção que importa para o negócio é outra.
Um chatbot que erra dá uma resposta errada. Um agente que erra faz algo errado.
A Diferença Que Ninguém Coloca no Briefing
Há uma pergunta que raramente aparece nas apresentações de implantação de agentes, mas que muda completamente o nível de risco:
O que esse sistema tem permissão para fazer, e o que acontece quando ele decide fazer isso no momento errado?
Quando você dá a uma IA a capacidade de responder perguntas, você deu a ela informação.
Quando você dá a uma IA a capacidade de agir em sistemas, você deu a ela poder.
Informação errada é um problema de comunicação. Basta uma nova resposta para corrigi-la. Poder exercido de forma errada, por outro lado, é um problema operacional. Pode exigir reverter transações, notificar clientes, explicar incidentes para reguladores.
O setor financeiro aprendeu isso cedo. Os sistemas de trading algorítmico dos anos 2000 tinham esse problema no DNA: algoritmos que tomavam decisões corretas em cada passo individual, mas cujo efeito agregado produzia comportamentos que nenhum humano havia antecipado. O Flash Crash de 2010, quando o Dow Jones caiu quase mil pontos em minutos e se recuperou na mesma tarde, foi o resultado de agentes automatizados interagindo entre si de formas que seus designers não haviam modelado.
De fato, os AI Agents corporativos de 2025 são versões menores, mas estruturalmente semelhantes, desse problema.
O Raio de Impacto
Para avaliar o risco real desses sistemas autônomos, os times de segurança de software usam um conceito chamado blast radius: o tamanho do dano que um componente com falha pode causar antes de ser contido.
Para cada implantação, duas variáveis determinam o blast radius: quais sistemas o agente pode acessar e com quanta autonomia ele pode agir nesses sistemas antes de precisar de aprovação humana.
Um agente com acesso somente leitura a um banco de dados tem blast radius zero em termos de dados. Ele pode dar uma resposta errada, mas não pode alterar nada.
Já um agente com permissão de escrita em um CRM, integração com o sistema de e-mails e autorização para enviar comunicações em nome da empresa tem blast radius considerável. Uma lógica errada, uma interpretação inesperada de uma instrução ou um caso de borda não previsto pode resultar em centenas de clientes recebendo a comunicação errada antes que alguém perceba.
A Gartner projetou que, até 2028, agentes de IA conduzirão de forma autônoma pelo menos 15% dos processos de decisão cotidianos nas empresas, sem intervenção humana. Isso é uma oportunidade real. É também uma expansão massiva do blast radius coletivo das organizações.
O problema não é que agentes erram. Sistemas humanos também erram. O problema, no entanto, é que agentes erram em escala e velocidade que sistemas humanos não conseguem acompanhar.
Multi-Agentes: Quando a Automação Contrata Mais Automação
Há uma tendência crescente que amplifica todos esses riscos: sistemas multi-agentes, onde um agente orquestra outros agentes para executar partes de uma tarefa.
O agente principal recebe um objetivo. Em seguida, decompõe esse objetivo em subtarefas e delega cada uma para um agente especializado. Os agentes especialistas executam e reportam de volta ao orquestrador, que sintetiza os resultados e decide o próximo passo.
A vantagem é real: para problemas complexos, essa arquitetura consegue paralelizar o trabalho de forma que um único agente nunca conseguiria.
No entanto, o risco é que o erro se propaga de uma forma nova.
Num sistema linear, um erro em um passo interrompe a sequência. Num sistema multi-agentes, o orquestrador pode interpretar um erro num subagente como informação válida e então instruir outros agentes com base nessa premissa incorreta, que produzem resultados que o orquestrador sintetiza como conclusão final.
O erro não interrompeu o processo. Ele se multiplicou dentro dele.
IBM e Microsoft documentaram esse padrão em estudos de 2024 sobre sistemas multi-agentes em ambientes corporativos: a complexidade da depuração aumenta exponencialmente com o número de agentes no sistema, porque rastrear de onde veio um erro exige reconstruir o fluxo de decisão através de múltiplos componentes que tomaram decisões de forma independente.
O Que os Líderes Precisam Perguntar
Antes de aprovar qualquer implantação desses agentes em produção, cinco perguntas definem o nível real de risco.
Em primeiro lugar: quais sistemas esse agente pode acessar e com quais permissões? A resposta precisa ser específica. “Acesso ao CRM” não é uma resposta. “Leitura de todos os registros de clientes, escrita nos campos X e Y, sem permissão para deletar ou exportar” é uma resposta.
Em seguida: o que o agente pode fazer de forma autônoma e o que requer aprovação humana? Quanto maior a consequência de uma ação, maior deve ser o limiar de autonomia. Ações reversíveis com baixo impacto podem ser autônomas. Ações irreversíveis ou com alto impacto precisam de um humano no loop.
Terceira pergunta: qual é o blast radius máximo se o agente tomar uma decisão errada? Se a resposta for “não sabemos” ou “não calculamos”, o agente não está pronto para produção.
Além disso: como monitoramos o que o agente está fazendo em tempo real? Logs de auditoria, alertas para comportamentos fora do padrão, dashboards de monitoramento. Um agente sem observabilidade é um sistema cego operando em nome da empresa.
Por fim: qual é o plano de contenção? Se o agente começar a agir de forma inesperada, qual é o protocolo para interrompê-lo, reverter as ações que ele tomou e notificar as partes envolvidas?
Assim, dar a uma IA o poder de agir em sistemas críticos sem entender o que ela pode fazer de errado é menos uma estratégia de transformação digital e mais uma aposta. E apostas mal calculadas não são inovação. São incidentes esperando o momento certo para acontecer, quer saber sobre tecnologia e empreendedorismo além de estilo de vida, que são assuntos complementares.
A pergunta não é se você vai implantar agentes de IA. É se você entende o suficiente sobre o que eles podem fazer de errado para implantar com responsabilidade.
** Este texto não reflete, necessariamente, a opinião do Portal UAI.