A inteligência artificial está deixando de ser uma ferramenta que apenas responde perguntas.

Cada vez mais, sistemas recebem autorização para consultar dados, utilizar aplicativos, modificar registros e executar atividades.

Parece o cenário ideal: menos trabalho repetitivo, mais produtividade e processos funcionando com pouca intervenção humana.

Mas uma pergunta deveria vir antes de qualquer entusiasmo.

Se um agente de inteligência artificial começar a executar algo errado, quem consegue interrompê-lo?

Uma pesquisa internacional publicada em 13 de outubro de 2026 torna essa pergunta particularmente relevante.

O que os números revelam

A Salt Security divulgou seu relatório State of Agentic AI and API Security 2H 2026, baseado em mais de 380 respostas de profissionais de segurança e tecnologia, combinadas com informações operacionais de ambientes de clientes.

Entre os participantes, 49,8% confirmaram ou suspeitaram que algum agente de IA em suas organizações executou, nos 12 meses anteriores, uma ação não pretendida, esperada ou autorizada.

Outro resultado chama atenção: apenas 17,5% declararam conseguir interromper automaticamente um agente que começasse a apresentar comportamento inesperado em produção.

E somente 12,5% afirmaram possuir capacidade consistente de reconstruir todo o caminho de execução dos agentes, das instruções iniciais às ações finais.

Esses percentuais descrevem a amostra pesquisada, não todas as empresas do mundo. Além disso, o levantamento foi produzido por uma fornecedora de soluções de segurança, circunstância importante para interpretar seus resultados.

Ainda assim, os achados levantam uma questão concreta.

As empresas estão concedendo capacidade de execução a sistemas que nem sempre conseguem supervisionar adequadamente.

O problema chega ao cotidiano brasileiro

Imagine uma distribuidora que utiliza um agente de IA para processar solicitações comerciais.

O sistema consulta mensagens, verifica cadastros, prepara pedidos e utiliza integrações com a plataforma de gestão.

Até aqui, a ideia parece razoável.

Agora imagine que uma informação incorreta seja interpretada como autorização para alterar o endereço de entrega de um cliente.

Ou que o agente confunda uma solicitação de orçamento com a confirmação de uma compra.

Se a arquitetura permitir essas ações sem validação, o problema deixa de ser uma resposta equivocada exibida na tela.

Passa a envolver operações reais.

O mesmo raciocínio vale para pequenos negócios, escritórios de contabilidade, consultorias, lojas virtuais e equipes administrativas.

Quando a inteligência artificial apenas recomenda, existe uma etapa humana antes da execução.

Quando recebe permissão para agir, essa etapa pode desaparecer.

É nesse momento que a qualidade das permissões se torna tão importante quanto a qualidade do modelo.

Detectar um erro não é impedir suas consequências

Um dos aspectos mais interessantes da pesquisa é a diferença entre perceber um comportamento inadequado e conseguir bloqueá-lo.

Um sistema pode registrar que determinada ação foi incorreta depois que ela aconteceu.

Isso ajuda na investigação.

Mas não devolve automaticamente um pagamento indevido, uma informação excluída ou um compromisso assumido perante um cliente.

Considere uma ferramenta autorizada a enviar mensagens comerciais.

Um mecanismo de monitoramento pode identificar que ela enviou uma condição não prevista.

Entretanto, se a comunicação já chegou ao destinatário, o problema passou a existir.

Uma automação não deveria ser considerada segura apenas porque consegue explicar posteriormente o erro que cometeu.

Ela precisa de mecanismos capazes de limitar consequências antes que determinadas ações sejam concluídas.

O princípio das permissões mínimas

Existe uma prática tradicional de segurança que se torna ainda mais importante com agentes autônomos: conceder somente os acessos indispensáveis à atividade.

Se o agente precisa consultar informações, talvez não exista motivo para permitir que exclua registros.

Se precisa preparar uma cobrança, isso não significa que deva possuir autorização para alterar valores e efetuar operações financeiras.

Se trabalha com atendimento, não deveria necessariamente acessar toda a base de clientes da empresa.

A arquitetura precisa distinguir leitura, preparação, alteração e execução.

Também precisa identificar quais ações exigem aprovação.

O objetivo não é impedir a automação.

É estabelecer limites compatíveis com a responsabilidade atribuída ao sistema.

Cinco verificações antes de colocar um agente para trabalhar

Uma pequena empresa não precisa reproduzir toda a estrutura de governança de uma instituição financeira.

Mas pode começar com perguntas fundamentais.

Primeira: quais sistemas e informações o agente consegue acessar?

Segunda: quais ações ele pode executar sem autorização humana?

Terceira: existe registro de suas decisões, ferramentas utilizadas e operações realizadas?

Quarta: é possível interromper sua atuação imediatamente?

Quinta: o que acontece quando uma etapa falha ou produz um resultado inesperado?

Responder a essas questões ajuda a separar uma demonstração funcional de uma operação preparada para o mundo real.

Também permite identificar situações em que uma automação tradicional, mais simples e previsível, seria suficiente.

A verdadeira maturidade da inteligência artificial

A evolução dos agentes está ampliando as possibilidades de execução digital.

Esse potencial é relevante.

Mas não existe benefício automático em conceder autonomia máxima a todas as ferramentas.

Um sistema capaz de executar centenas de ações sem supervisão pode ser extremamente produtivo.

Também pode multiplicar rapidamente as consequências de uma decisão incorreta.

A maturidade tecnológica aparece quando a organização consegue equilibrar capacidade de execução, segurança, controle e responsabilidade.

O valor de um agente não deveria ser medido apenas pelo trabalho que consegue realizar sozinho, mas também pela segurança com que pode ser supervisionado e interrompido.

Antes de perguntar quanto trabalho sua empresa consegue delegar à IA, descubra quais decisões ela está realmente preparada para entregar.

Ravi.Guide — acompanhe análises sobre inteligência artificial, agentes autônomos e aplicações que produzem resultados concretos.