Governança de IA: sua empresa pode já estar usando inteligência artificial sem saber onde

O primeiro passo é descobrir o que já existe. Quais ferramentas estão em uso, em quais áreas, com quais dados e para apoiar quais decisões. Esse levantamento costuma revelar mais do que a diretoria espera, e é justamente por isso que ele precisa ser feito sem clima de investigação: quem responde com medo, responde pouco. O objetivo é mapear, não punir.

Feito o inventário, vem a classificação de risco. Nem todo uso tem o mesmo impacto. Resumir uma ata interna é uma

coisa. Alimentar um modelo com dados pessoais de clientes é outra. Apoiar uma decisão de crédito, de contratação ou de precificação é uma terceira, com implicações regulatórias próprias. Classificar em baixo, médio e alto risco permite tratar cada categoria de forma proporcional, em vez de aplicar a mesma regra rígida a tudo.

Os riscos técnicos têm nomes específicos e consequências concretas. Precisão e alucinação, quando o sistema produz informação plausível e falsa. Viés, quando o resultado reproduz distorções presentes nos dados. Deriva, quando o desempenho se degrada com o tempo sem que ninguém perceba. Explicabilidade, quando é preciso justificar uma decisão a um cliente, a um auditor ou a um regulador.

Há também riscos específicos de modelos de linguagem. Prompt injection, em que uma instrução escondida em um documento manipula o comportamento do sistema. E vazamento de dados, que no Brasil tem endereço legal preciso. A Lei Geral de Proteção de Dados exige base legal para tratamento de dado pessoal (art. 7º) e regras mais estritas para dado sensível (art. 11). Enviar informação pessoal de cliente a uma ferramenta externa sem base legal é tratamento irregular, ainda que a intenção fosse resumir uma ata.

O art. 20 da LGPD acrescenta a camada que quase ninguém aplica a sistemas de IA: o titular tem direito de solicitar revisão de decisões tomadas unicamente com base em tratamento automatizado que afetem seus interesses. Se a sua empresa usa modelo para apoiar decisão de crédito, de contratação ou de precificação individual, esse artigo já vale hoje, sem depender de regulação nova.

Supervisão humana em decisões sensíveis, com validação obrigatória antes do efeito. Barreiras técnicas: filtros, permissões, escopo delimitado e restrição de que tipo de dado pode ser enviado a que ferramenta. Trilha de auditoria registrando entrada, modelo, resposta e ação, para que seja possível reconstruir o que aconteceu. Teste adversarial, que consiste em tentar deliberadamente fazer o sistema falhar antes que um cliente o faça. E acompanhamento contínuo de versões, custo e desempenho.

O erro mais comum de política corporativa é ser binária. Permitido ou proibido. Proibição total empurra o uso para a clandestinidade e elimina a visibilidade, que era justamente o objetivo. Governança madura cria categorias, casos de uso autorizados, limites claros de dados e caminhos seguros para experimentar.

A escolha de onde aplicar inteligência artificial, com critério de retorno, é tratada em IA na gestão. Este artigo trata do que precisa existir antes e ao lado disso.

Considere uma organização de 180 funcionários que faz esse levantamento. É comum encontrar mais de dez ferramentas em uso por áreas diferentes, parte delas com envio de documentos. O caminho não é zerar essa lista. É classificar: a maioria costuma ser de baixo risco, uma parcela relevante é moderada e um grupo pequeno é alto. O ganho não está em reduzir o número a zero. Está em saber exatamente onde dados sensíveis, decisões e automações precisam de controle.

A classificação em baixo, médio e alto risco não é criação da ÍON. Ela espelha a lógica adotada pelo AI Act europeu, que gradua obrigações conforme o impacto do uso, e conversa com a ISO/IEC 42001, primeira norma internacional de sistema de gestão de inteligência artificial, publicada em 2023 e certificável. No Brasil, a ANPD já se manifestou sobre tratamento de dados pessoais em sistemas de IA.

Para a maioria das empresas de médio porte, a certificação não é o objetivo. A referência serve para outra coisa: quando o cliente grande, o auditor ou o seguro perguntarem qual estrutura sustenta a sua governança, a resposta "critério próprio" vale menos que "estrutura alinhada à ISO/IEC 42001".