Quando uma empresa conecta um agente de inteligência artificial ao repositório de documentos, a primeira imagem que vem à cabeça é a de um ataque. A realidade é mais simples e mais constrangedora: a maioria dos vazamentos por IA corporativa não vem de invasão, vem de permissão herdada. A tese deste artigo é que o agente não precisa invadir nada. Basta que o repositório esteja aberto — e a pasta compartilhada com “toda a empresa” há cinco anos vira, sem que ninguém decida isso, a base de conhecimento do agente.
O problema da permissão herdada
Repositórios corporativos acumulam acessos amplos concedidos por conveniência ao longo de anos. Cada projeto que teve pressa, cada pasta que precisou ser compartilhada “só por essa semana”, deixou uma permissão que ninguém revogou, porque nenhuma pessoa abria aquilo por acaso.
O filtro que protegia essas pastas era social, não técnico: ninguém abre o diretório da diretoria porque sabe que não deve. Um agente não tem esse filtro. Ele recupera tudo o que a permissão permite, com a mesma naturalidade com que recupera o manual de procedimentos.
Por isso o risco muda de natureza quando o agente entra. O que era permissão ociosa vira superfície de exposição ativa, e a resposta errada do agente para a pergunta certa de um funcionário curioso já configura o vazamento.
Segmentar por sensibilidade antes de conectar
A classificação do repositório precisa acontecer antes da integração, não depois do primeiro incidente. Três categorias resolvem a maior parte dos casos: o que pode alimentar resposta livremente, o que exige permissão específica por área e o que não entra em hipótese alguma.
A terceira categoria é a que costuma ser esquecida. Contratos com cláusula de confidencialidade, dados pessoais sensíveis e informação privilegiada não precisam de permissão especial no agente: precisam de exclusão do escopo, por mais úteis que pareçam.
Conectar primeiro e filtrar depois inverte a ordem do risco. Entre a conexão e a classificação há uma janela em que todo o acervo está exposto a qualquer pergunta, e basta uma pessoa fazer a pergunta certa nessa janela para o dano acontecer.
Herdar a permissão do usuário, não do sistema
O desenho correto é o agente responder com base no que aquele usuário específico tem direito de ver. A pergunta feita pelo estagiário e a mesma pergunta feita pelo diretor devem poder ter respostas diferentes, porque os dois têm permissões diferentes.
Sistema que responde igual para todos transforma qualquer pergunta em canal de exfiltração legítima. Não há ataque, não há fraude, não há log de invasão: há apenas um funcionário perguntando e um sistema respondendo com o que pertence a outra área.
Implementar a herança de permissão exige que o agente consulte o controle de acesso da fonte a cada resposta, e não uma cópia estática feita na implantação. Permissão muda, gente muda de área, e o agente precisa refletir o acesso de hoje.
Testar o que o sistema entrega, não o que a documentação promete
A documentação do fornecedor descreve o comportamento pretendido. O comportamento real se conhece com teste: pedir ao sistema, autenticado com o perfil de um usuário comum, informação que esse usuário não deveria alcançar, e registrar o que volta.
Esse teste adversarial simples — tentativa deliberada de obter do sistema o que o perfil não autoriza — deve acontecer antes que um funcionário faça a mesma pergunta por acaso ou por curiosidade. O custo do teste é uma tarde; o custo da descoberta acidental é um incidente.
Repetir o teste a cada mudança de escopo, de modelo ou de estrutura de permissões fecha o ciclo. Segmentação feita uma vez e nunca testada de novo é documentação de intenção, não controle.
Quatro barreiras antes de conectar um repositório
- Classificação
- Cada documento tem categoria de sensibilidade definida antes da integração?
- Segmentação
- O que não deve alimentar resposta está fora do escopo, e não apenas com permissão restrita?
- Herança de permissão
- O agente responde conforme o acesso do usuário que pergunta, consultado a cada resposta?
- Teste adversarial
- Alguém já tentou, com perfil comum, obter informação que o perfil não autoriza?
Modelo de cálculo ÍON
Imagine um repositório com mil pastas e um agente conectado sem segmentação. A superfície de exposição não é a pergunta média, é a pergunta mais danosa possível multiplicada pelo número de pessoas que podem fazê-la. Cada barreira implementada — classificação, segmentação, herança de permissão e teste — reduz o número de respostas danosas disponíveis, e a soma das quatro é o que transforma exposição teórica em risco administrado.
Case relacionado
Projeto Horizonte 180Fontes e referências
Lei nº 13.709/2018 (LGPD)
Lei Geral de Proteção de Dados Pessoais, texto integral no Planalto.
Acessar a fonteNIST — Perfil de IA generativa do AI RMF
Perfil do AI RMF com riscos e ações específicos para inteligência artificial generativa.
Acessar a fonteISO/IEC 42001:2023
Norma internacional de sistema de gestão de inteligência artificial.
Acessar a fonte
Diagnóstico ÍON de IA aplicada à gestão
Uma sessão de 90 minutos, sem custo, para mapear onde a inteligência artificial já está em uso na sua operação, o que ela mudou no processo e o que ainda não foi medido. Você envia a lista de ferramentas contratadas e um exemplo do processo em que elas deveriam atuar. A devolutiva escrita chega em cinco dias úteis.
Solução ÍON relacionada
Estratégia & Gestão Empresarial
Dúvidas frequentes
- Como um agente acessa dado indevido?
- Pela permissão do repositório ao qual foi conectado. Se a pasta está acessível ao conector, o agente recupera o conteúdo sem filtro social. O vazamento acontece por permissão herdada, não por invasão.
- O que é permissão herdada?
- É o acesso amplo concedido ao longo do tempo por conveniência e nunca revogado. Com pessoas, um filtro social limitava o uso; com um agente, toda permissão acumulada vira conteúdo recuperável.
- O agente deve ver o mesmo que o usuário?
- Sim. O desenho correto é a resposta respeitar a permissão específica de quem pergunta, consultada a cada resposta. Sistema que responde igual para todos cria um canal legítimo de exfiltração.
- Como testar se a segmentação funciona?
- Com teste adversarial: autenticar com o perfil de um usuário comum e pedir informação que ele não deveria alcançar, registrando o que o sistema devolve. Repetir a cada mudança de escopo, modelo ou permissões.
- Anonimizar resolve?
- Ajuda nos casos em que o conteúdo é necessário sem a identificação, mas não substitui classificação e segmentação. Documento sensível mal anonimizado continua sensível, e anonimização boa exige verificação, não intenção.
Autor
Leandro Bryk
Consultor responsável pela ÍON Soluções, atuando em inteligência comercial, estratégia, gestão financeira, marketing e imagem corporativa.
LinkedIn