Todo agente precisa de um nome humano ao lado, e não é o do fornecedor

Um sistema que sugere deixa a decisão com a pessoa. O texto proposto pode estar errado, mas existe alguém entre a saída do modelo e o efeito no mundo.

Um agente que executa — envia mensagem, aprova pedido, altera cadastro, dispara cobrança — produz efeito sem decisão humana no meio. A diferença não é de sofisticação, é de consequência.

Só a segunda categoria exige dono nomeado antes da entrada em operação. Tratar as duas com a mesma política é o que faz uma organização descobrir a lacuna depois do primeiro incidente.

Considere um agente autorizado a reenviar boletos vencidos. A ação parece administrativa, mas alcança o cliente diretamente e, feita fora de critério, produz atrito comercial que ninguém programou.

O critério prático é simples: se a saída do sistema produz efeito sem passar por uma pessoa, ela é uma ação da empresa, com todas as consequências que uma ação da empresa carrega.

Aprovar o escopo do que o agente pode fazer, por escrito, incluindo o que ele está proibido de executar mesmo que seja tecnicamente capaz.

Definir o limite de valor ou de criticidade acima do qual a ação exige validação humana antes de produzir efeito.

Revisar os registros em periodicidade fixa, responder pelo erro perante o cliente e a auditoria e decidir a desativação. Cinco obrigações concretas: sem elas, o nome ao lado do agente é decorativo.

Nenhuma dessas obrigações é técnica, e é por isso que elas não podem ser delegadas ao fornecedor nem à área que instalou a integração.

O escopo aprovado precisa ser específico o bastante para permitir uma resposta binária diante de um caso concreto. Escopo redigido em termos amplos protege o processo de aprovação e não protege a operação.

A área de tecnologia opera a infraestrutura, mantém a integração e responde pela disponibilidade. Nada disso a torna capaz de julgar se uma aprovação de crédito deveria ter sido concedida.

Quem responde é quem responde pela decisão que o agente executa. Crédito responde pelo agente de crédito, comercial pelo agente de proposta, financeiro pelo agente de cobrança.

Atribuir tudo à tecnologia produz um dono formal sem autoridade sobre o processo. Quando o incidente chega, o responsável nomeado não tinha poder para mudar a regra que o causou.

Existe uma exceção parcial: a tecnologia responde pelos controles que sustentam a operação do agente, como credencial, registro e disponibilidade. Responder pelo controle não é o mesmo que responder pela decisão.

Entrada recebida, versão do modelo utilizada, saída produzida, ação efetivamente executada, quem aprovou o escopo e em que data. Cinco campos que transformam uma apuração em consulta.

Sem trilha, a investigação de um incidente vira reconstrução por memória, feita semanas depois por pessoas que participaram de partes distintas do processo.

Quando a decisão afeta interesses de titular de dados pessoais, o registro se conecta ao direito de revisão previsto no art. 20 da LGPD. Responder a esse pedido exige saber o que o sistema recebeu e o que ele decidiu.

A periodicidade da revisão precisa estar definida junto com o registro. Trilha que ninguém lê cumpre requisito formal e não impede a repetição do erro, porque o desvio só aparece quando alguém compara ações executadas com escopo aprovado.