Você sabe o que está rodando dentro da sua empresa?

Avaliamos mais de 15 sistemas vendidos como "agentes de IA" nos últimos meses. Menos da metade cumpria o critério mínimo para ser chamado de agente. O resto era automação com nome bonito — chatbots com fluxo fixo, RPAs com wrapper de LLM, workflows determinísticos vestidos com linguagem de agência.

Isso não é problema só de nomenclatura. É um problema de governança. Porque quando uma empresa contrata um "agente autônomo" que na prática é uma automação rígida, ela calibra errado o nível de supervisão, os controles de risco e as expectativas de resultado. E quando algo falha — e vai falhar — ela não sabe onde procurar a causa.

Este artigo apresenta dois frameworks que, combinados, respondem a pergunta que mais ouço de lideranças executivas hoje: como governar algo que eu mal sei descrever?

1. O problema começa na definição

Um sistema de IA tradicional responde. Recebe uma entrada, processa, devolve uma saída. É estático, previsível, auditável.

Um agente de IA age. Ele persegue objetivos, toma decisões encadeadas, utiliza ferramentas, interage com sistemas externos e, em arquiteturas multi-agente, delega autoridade a outros agentes. Cada passo cria uma nova variável. Cada ferramenta conectada amplia a superfície de risco. Cada decisão autônoma reduz o espaço de intervenção humana.

Essa distinção tem implicações diretas sobre o perfil de risco e o modelo de governança necessário. Não é semântica — é arquitetura.

O mercado financeiro entende isso intuitivamente. Ele construiu décadas de experiência em qualificar as entidades com as quais se relaciona: clientes (KYC), parceiros (KYB), funcionários (KYE), fornecedores (TPRM). A lógica em cada caso é a mesma: você não pode gerenciar o que não conhece.

Agora uma nova categoria de entidade opera dentro das organizações e demanda o mesmo rigor: o agente de inteligência artificial.

2. KYA — Know Your Agent

KYA é o framework de qualificação, monitoramento e governança de agentes de IA. Aplicar KYA a um agente significa responder, com evidência, um conjunto de perguntas que determinam o perfil de risco real daquele sistema — não o perfil que o fornecedor descreve no deck de vendas.

Quem é esse agente?

• Qual é o objetivo declarado? E o objetivo real — o que ele de fato faz quando está em operação?
• Quais ferramentas ele pode acionar? Com quais permissões?
• Quais sistemas externos ele acessa, consulta ou modifica?
• Em caso de falha, o que acontece? Existe fallback? Existe limite?

O que esse agente toca?

• Quais dados entram no modelo? Há dados pessoais, estratégicos ou regulados?
• Esses dados saem do perímetro da organização? Para onde?
• O agente tem acesso de leitura, escrita ou execução nos sistemas integrados?

Quem responde por esse agente?

• Existe um dono nomeado — uma pessoa específica, não uma equipe genérica?
• Quem pode suspender o agente se o comportamento sair do esperado?
• Como uma decisão influenciada por esse agente pode ser contestada ou auditada?

O agente é o que diz ser?

• Ele decide sozinho ou apenas sugere e um humano aprova?
• O que acontece quando encontra uma situação não prevista no design original?
• Consegue combinar informações de múltiplas fontes em tempo real ou só responde com o que foi carregado uma vez?

Esse último grupo de perguntas é onde a maioria dos fornecedores hesita. E essa hesitação é dado.

Um agente que pontua baixo em autonomia real, adaptabilidade e capacidade de percepção pode ser útil — mas não justifica o nível de risco, custo e expectativa que acompanha o rótulo "agente autônomo". A empresa está pagando por agência que o caso de uso não entrega.

3. O problema dentro do agente: quando ele mesmo não sabe que está errado

KYA resolve a governança externa — quem é o agente, o que acessa, quem responde por ele. Mas há um risco que vive dentro do próprio sistema: a alucinação.

Modelos de linguagem podem produzir respostas fluentes, coerentes e absolutamente erradas. Em um chatbot de baixo risco, isso é inconveniente. Em um agente que analisa contratos, classifica risco de crédito, orienta decisões clínicas ou executa ações em sistemas críticos, é um vetor de dano real.

A pesquisa de 2026 identificou uma técnica que ataca esse problema diretamente: Chain-of-Verification (CoV).

O protocolo funciona em três passos:

1. O modelo gera uma resposta para a pergunta recebida.
2. O modelo formula perguntas de verificação sobre sua própria resposta — identificando as afirmações que poderiam estar erradas.
3. O modelo responde cada pergunta de verificação de forma independente, sem acesso à resposta original — e usa essas respostas para corrigir ou confirmar a saída final.

O resultado: o modelo verifica a si mesmo antes de entregar. Alucinações que passariam despercebidas em uma resposta direta são capturadas no processo de auto-verificação.

4. Por que KYA e CoV são faces do mesmo problema

Governança de agentes tem duas camadas que precisam funcionar juntas.

A camada externa — KYA — define quem é o agente, o que acessa, quem responde por ele e como o sistema pode ser auditado, ajustado ou desligado. É a governança que a organização exerce sobre o agente.

A camada interna — CoV e mecanismos similares — define como o agente lida com sua própria incerteza. É a governança que o agente exerce sobre si mesmo.

Um agente com boa governança externa mas sem mecanismos internos de verificação pode estar operando com confiança excessiva em saídas que não verificou. Um agente com CoV mas sem KYA pode estar auto-verificando respostas que ninguém sabe que ele está produzindo.

A combinação é o que permite escalar com responsabilidade: KYA garante que você sabe o que está rodando. CoV aumenta a confiança de que o que está rodando está verificando a si mesmo.

5. Como aplicar na prática

Passo 1 — Faça o inventário

Antes de qualquer avaliação técnica, a organização precisa saber quantos agentes estão operando. Incluindo os que ninguém cadastrou. A empresa média opera hoje 37 agentes. Mais da metade sem log. Sem supervisão. Sem dono.

Passo 2 — Classifique por criticidade

A classificação deve considerar: autonomia (sugere, recomenda, executa?), impacto (reversível ou irreversível?), dados (pessoais, regulados, estratégicos?) e ambiente (interno, cliente externo, setor regulado?).

Passo 3 — Aplique o teste "delete tonight"

Para cada agente relevante, pergunte ao líder da área: "O que aconteceria se deletássemos esse agente esta noite?" Se a resposta for "não sei" — não tem valor mensurável ou dono real. Se for "teríamos um problema sério" — existe dependência operacional que precisa de controles proporcionais.

Passo 4 — Avalie os mecanismos internos do agente

Inclua perguntas sobre como o sistema lida com incerteza: o agente reconhece quando não sabe responder? Existe mecanismo de verificação antes da entrega? Como erros são detectados? O fornecedor consegue mostrar logs reais — não apenas o painel de demonstração?

Passo 5 — Defina dono, critério e cadência

Cada agente em produção precisa de: um responsável nomeado, critérios claros de comportamento adequado e uma cadência de revisão. Sem esses três elementos, a governança existe no papel mas não na operação.

6. A pergunta que define maturidade

Quando o seu agente tomar uma decisão errada — e vai tomar — você vai conseguir explicar o que aconteceu?

Se a resposta for não: a organização está consumindo IA, não governando IA.

Se a resposta for sim: existe uma capacidade corporativa real sendo construída.

KYA e CoV não são o destino. São a fundação que torna o destino alcançável.

A diferença entre uma empresa que escala IA com responsabilidade e uma que acumula risco invisível não está no modelo escolhido, no fornecedor contratado ou no budget aprovado.

Está em saber o que está rodando. Quem responde. E se o agente sabe quando está errado.

Eliana Cecília é especialista em IA aplicada e produto digital. Este artigo integra a série da MAP Produto sobre adoção responsável de IA em organizações.