Toda decisão automatizada parece boa no dia em que é tomada. O teste real chega seis meses depois, quando um cliente contesta, um advogado pergunta ou um regulador solicita: por que o sistema decidiu aquilo, naquele dia, com aquela informação? A tese deste artigo é que auditabilidade não é relatório de uso nem painel de volume. É a capacidade de reconstruir uma decisão específica, com o contexto que existia no momento em que ela foi tomada — e essa capacidade se constrói antes da pergunta, não depois.
O que precisa estar registrado
Uma trilha de auditoria completa registra sete elementos por decisão: a entrada recebida, a versão do modelo e da configuração, os documentos recuperados, a saída produzida, a ação executada, quem autorizou o escopo e o carimbo de tempo.
Desses, a versão é o elemento mais negligenciado e o mais fatal quando falta. O modelo de hoje responde diferente do modelo de seis meses atrás, e sem a versão registrada não há como saber qual dos dois decidiu. A reconstrução morre ali.
O contexto recuperado tem o mesmo peso. Se a decisão usou três documentos, a trilha precisa saber quais três, na versão em que estavam. Documento que foi editado depois da decisão explica o presente, não explica a decisão.
Registro não é log de sistema
Log técnico serve para diagnosticar falha: latência, erro de chamada, fila travada. Ele foi feito para engenheiro ler, em linguagem de engenheiro, com retenção pensada para depuração.
Trilha de auditoria serve para responder à pergunta de um cliente, de um advogado ou de um regulador, e essa pergunta é de outra natureza: o que o sistema sabia, o que ele decidiu e por quê. O formato precisa ser legível por quem não opera o sistema.
Os prazos de retenção também diferem. Log de sistema costuma expirar em semanas; a decisão que ele registrou pode ser questionada anos depois. Empresa que confunde os dois descobre a diferença quando o log já expirou e a pergunta acabou de chegar.
Retenção, e o conflito com a LGPD
Guardar tudo indefinidamente parece a solução segura e não é: conflita com o princípio da minimização e com a limitação do prazo de conservação que a LGPD impõe aos dados pessoais. A trilha precisa de política de retenção, não de acúmulo.
A saída é definir a retenção por categoria de decisão: quanto tempo cada registro fica disponível, com qual base legal, e o que é anonimizado ou eliminado ao expirar. Decisão de crédito e decisão de roteirização não pedem o mesmo prazo.
Os artigos 20, 37 e 46 da LGPD se conectam aqui: a revisão de decisão automatizada pressupõe que ela possa ser reconstruída, o relatório de impacto pressupõe registro, e as medidas de segurança pressupõem que o registro não vire ele mesmo uma superfície de exposição.
O teste que valida a trilha
Existe um teste simples que dispensa auditoria formal: escolher uma decisão aleatória de três meses atrás e tentar reconstruí-la inteira — entrada, versão, contexto, saída, ação, autorização e tempo.
Se a equipe consegue em uma hora, a trilha existe. Se precisa de três dias, de um engenheiro e de boa vontade, a trilha não existe na prática, por mais que os registros estejam tecnicamente gravados em algum lugar.
Repetir o teste periodicamente transforma a reconstrução de exercício de resgate em rotina. O objetivo é que a pergunta do cliente, do advogado ou do regulador encontre uma empresa que já sabe como responder.
Sete campos mínimos de uma trilha de auditoria
- Entrada
- O que o sistema recebeu, na forma em que recebeu?
- Versão
- Qual versão do modelo e da configuração decidiu?
- Contexto recuperado
- Quais documentos embasaram a decisão, em qual versão?
- Saída
- O que o sistema produziu, antes de qualquer edição humana?
- Ação
- O que foi efetivamente executado a partir da saída?
- Autorização
- Quem autorizou o escopo de decisão do agente?
- Tempo
- Quando cada etapa aconteceu, com carimbo confiável?
Modelo de cálculo ÍON
Imagine uma operação com mil decisões automatizadas por mês. O custo da trilha é o custo de registrar sete campos por decisão, que tende a zero com o desenho certo; o custo da ausência da trilha é o custo de uma decisão contestada sem reconstrução possível. Basta uma contestação por semestre sem resposta para que a conta feche a favor do registro.
Case relacionado
Projeto Horizonte 180Fontes e referências
Lei nº 13.709/2018 (LGPD)
Lei Geral de Proteção de Dados Pessoais, texto integral no Planalto.
Acessar a fonteNIST — AI Risk Management Framework
Referência de gestão de risco em sistemas de inteligência artificial.
Acessar a fonteISO/IEC 42001:2023
Norma internacional de sistema de gestão de inteligência artificial.
Acessar a fonte
Diagnóstico ÍON de IA aplicada à gestão
Uma sessão de 90 minutos, sem custo, para mapear onde a inteligência artificial já está em uso na sua operação, o que ela mudou no processo e o que ainda não foi medido. Você envia a lista de ferramentas contratadas e um exemplo do processo em que elas deveriam atuar. A devolutiva escrita chega em cinco dias úteis.
Solução ÍON relacionada
Estratégia & Gestão Empresarial
Dúvidas frequentes
- O que registrar sobre uma decisão de IA?
- Sete elementos: entrada recebida, versão do modelo e da configuração, documentos recuperados, saída produzida, ação executada, autorização do escopo e carimbo de tempo. Sem a versão, a reconstrução é impossível.
- Log técnico serve como trilha de auditoria?
- Não. Log serve para diagnosticar falha e expira em semanas. Trilha de auditoria serve para responder a cliente, advogado ou regulador, exige formato legível por quem não opera o sistema e retenção compatível com o prazo de contestação.
- Por quanto tempo guardar os registros?
- Por categoria de decisão, com base legal definida, respeitando a minimização e o prazo de conservação da LGPD. Ao expirar, anonimizar ou eliminar. Guardar tudo para sempre não é conformidade: é risco acumulado.
- Como testar se a trilha funciona?
- Escolha uma decisão aleatória de três meses atrás e reconstrua-a inteira. Se a equipe não consegue em uma hora, a trilha não existe na prática, independentemente do volume de registros gravados.
- Isso é exigido por lei?
- A LGPD garante revisão de decisão unicamente automatizada (art. 20), prevê relatório de impacto (art. 37) e exige medidas de segurança (art. 46). Reconstruir a decisão é a condição prática para atender às três exigências.
Autor
Leandro Bryk
Consultor responsável pela ÍON Soluções, atuando em inteligência comercial, estratégia, gestão financeira, marketing e imagem corporativa.
LinkedIn