A autonomia dos agentes de IA avança mais rápido que a governança
A maioria das empresas já decidiu usar agentes de IA de forma ampla nos próximos anos, mas a maioria também não tem uma estrutura pronta para controlá-los. Segundo a Deloitte, 74% dos líderes esperam usar agentes de IA pelo menos moderadamente até 2027, mas apenas 21% afirmam ter um modelo de governança maduro para isso [3].
O padrão se repete em diferentes levantamentos. No Gartner IT Symposium 2026, em Orlando, 71% das organizações afirmaram planejar implementar IA agêntica nos próximos 12 meses, mas só 21% já tinham diretrizes de governança estruturadas para lidar com o modelo [2].
O risco de ignorar essa lacuna é alto. O Gartner projeta que mais de 40% dos projetos de IA agêntica serão cancelados até o fim de 2027, não por falha dos modelos, mas por custos crescentes, valor de negócio pouco claro e controles de risco insuficientes [4].
A consultoria também estima que, das milhares de ferramentas vendidas como agentes, cerca de apenas 130 oferecem autonomia real: o restante é chatbot ou automação de processos reembalada sob o rótulo de agente [4].
Autonomia proporcional ao risco é o princípio central da governança
O princípio que deve orientar a governança de agentes de IA é simples: quanto maior o potencial de dano de uma ação, menor deve ser a autonomia concedida sem supervisão. Um agente que organiza informações pode operar com mais liberdade do que um agente que altera registros, compartilha dados sensíveis ou autoriza uma operação financeira [1].
Conceder autonomia é uma decisão consciente, não um padrão automático. Para André Racz, CIO da CERC, a boa governança não trava a inovação: é o que permite ampliá-la com responsabilidade, porque cada tipo de atividade exige um nível diferente de confiança e controle [1].
No comércio digital, essa lógica se traduz em camadas de risco com autonomias distintas:
| Nível de risco | Exemplo de tarefa no comércio digital | Autonomia recomendada |
|---|---|---|
| Baixo | Organizar catálogo, resumir chamados, responder dúvidas de estoque | Alta: o agente decide e executa sozinho |
| Médio | Recomendar produtos, aplicar cupom, recuperar carrinho abandonado | Média: o agente executa, humano audita por amostragem |
| Alto | Alterar preço, autorizar estorno, acessar dados pessoais do cliente | Baixa: aprovação humana obrigatória antes da ação |
Segurança por design substitui o controle de última hora
A segurança de um agente de IA precisa ser definida antes de ele entrar em operação, não depois de um incidente. O erro mais comum é desenvolver a solução, avaliar riscos e só então adicionar controles, uma sequência que falha porque agentes já nascem conectados a bancos de dados, aplicações e ferramentas sensíveis da operação [1].
Isso significa decidir, desde o primeiro dia, quais dados o agente pode usar, quais ações estão autorizadas, como cada atividade será registrada e qual mecanismo interrompe uma execução fora do esperado. Também é preciso testar o agente fora do cenário ideal: como ele reage a instruções contraditórias, tentativas maliciosas ou pedidos fora do seu escopo [1].
Outro erro comum é confiar apenas em prompt engineering para definir limites, tratando as regras de atuação como um conjunto de instruções dadas ao modelo. Para ações sensíveis, como autorizar um pagamento ou alterar um cadastro, a recomendação é aplicar controles determinísticos diretamente nas ferramentas e bloqueios de acesso, em vez de deixar a decisão só a critério do modelo [1].
A supervisão humana muda de função, mas não desaparece
A expansão dos agentes de IA não elimina a responsabilidade humana, ela a desloca. Em vez de executar cada etapa de uma tarefa, as equipes passam a definir objetivos, estabelecer critérios de aprovação, acompanhar resultados e tratar exceções, o que exige rever fluxos de trabalho e redefinir responsabilidades [1].
“Os freios de um carro não existem para fazê-lo andar mais devagar, mas para permitir que se avance com mais velocidade e segurança.”
Um risco apontado é transformar a supervisão em formalidade: aprovar tudo automaticamente sem entender o que está sendo validado não é controle efetivo. A supervisão precisa ser proporcional ao impacto da decisão e oferecer condições reais de intervenção quando necessário [1].
A governança trava a inovação em agentes de IA?
Não: segundo analistas do Gartner, controles bem desenhados reduzem o retrabalho e as interrupções causadas por incidentes descobertos tarde demais, depois que o agente já está em produção [2].
A estrutura apresentada no Gartner IT Symposium 2026, batizada de Value-Risk Flywheel, mostra que geração de valor e exposição ao risco avançam juntas à medida que a tecnologia evolui [2]. Um modelo complementar, o AI Central Bank, centraliza custos, controles e responsabilidades de agentes entre áreas diferentes da mesma empresa [2].
Um roteiro prático para construir confiança em agentes de IA
Confiança em um agente de IA não nasce de respostas bem-sucedidas isoladas. Ela se constrói com evidências de que o sistema opera dentro de limites definidos, de que seus resultados podem ser avaliados e de que existe um caminho claro para corrigir erros, ampliando a autonomia aos poucos, à medida que o comportamento do agente é observado [1].
Um roteiro prático, baseado nesses princípios, inclui:
Para quem vende online e já usa agentes de IA para recomendar produtos, recuperar carrinhos abandonados ou atender no WhatsApp, esse roteiro define onde a automação pode avançar sozinha e onde uma aprovação humana continua obrigatória antes de qualquer ação ser executada.
- 1Definir o escopo e o limite de autonomia antes de colocar o agente em produção, não depois de um incidente [1].
- 2Aplicar controles determinísticos nas ferramentas para ações sensíveis, em vez de depender só de instruções de prompt [1].
- 3Registrar cada ação relevante do agente para criar uma trilha auditável e permitir revisão posterior [1].
- 4Testar o comportamento do agente diante de instruções contraditórias, maliciosas ou fora de escopo [1].
- 5Revisar permissões periodicamente, já que a autonomia concedida hoje pode precisar ser reduzida ou ampliada conforme o risco muda [1].
Fontes
- [1]TI Inside Online, Como confiar em agentes de IA sem perder o controle — tiinside.com.br
- [2]TI Inside Online, Agentes de IA com direção e controle: por que a governança se tornou o motor do valor nos negócios — tiinside.com.br
- [3]Deloitte, Business and IT leaders report AI agents are scaling faster than their guardrails — deloitte.com
- [4]Forbes, Why 40% Of Agentic AI Projects May Be Canceled By 2027 — forbes.com
