Toda discussão sobre automação começa pela capacidade da tecnologia, e é por isso que ela costuma terminar no lugar errado. A fronteira entre o que a máquina executa e o que permanece com pessoas não é uma fronteira técnica: ela é definida por consequência, reversibilidade e necessidade de justificar a decisão a um terceiro. A tese deste artigo é que a pergunta correta não é “o que a máquina consegue fazer”, e sim “o que a empresa aceita que ela decida”. Respondida assim, a fronteira deixa de ser opinião e vira critério.
Três critérios que resolvem quase todos os casos
O primeiro critério é consequência: quem é afetado pela decisão e quanto custa o erro. Atualizar um cadastro e negar um crédito são ambas decisões que um sistema executa com a mesma facilidade, e é a diferença de consequência que separa uma da outra.
O segundo critério é reversibilidade: a decisão pode ser desfeita, e a que custo. Uma cobrança indevida se estorna; uma demissão comunicada por sistema não se descomunica. Quanto mais cara a reversão, mais humana a decisão precisa ser.
O terceiro critério é justificação: alguém vai precisar explicar essa decisão a um cliente, a um auditor ou a um regulador. Quando a explicação é parte do valor — como num diagnóstico ou numa negativa fundamentada — a decisão pede uma pessoa capaz de assiná-la.
O que permanece humano por natureza da atividade
Negociação permanece humana porque o valor está na leitura do interlocutor, na concessão calibrada e na relação que sobrevive ao acordo. Um sistema pode preparar a proposta; a mesa de negociação é outra atividade.
Exceção permanece humana porque, por definição, é o caso que o processo não previu. Automação trata o padrão; a exceção exige julgamento sobre um caso que não tem regra escrita, e é justamente onde o cliente decide o que pensa da empresa.
Julgamento sobre pessoas e relacionamento completam o grupo. Não por limitação da tecnologia, mas porque o valor dessas atividades está no julgamento contextual e na responsabilidade assumida por alguém que pode responder por ele.
A zona intermediária, que é a maior
A maioria das atividades não é nem totalmente automatizável nem totalmente humana. Tratar a questão como binária — automatiza ou não automatiza — é o erro de desenho que produz tanto a automação temerária quanto a paralisia precauciosa.
O desenho útil na zona intermediária é híbrido: a máquina prepara, ordena e sinaliza; a pessoa decide e assume. Uma análise de crédito pode ter a coleta, o cruzamento e a sinalização de risco automatizados, com a decisão final e sua justificativa em nome de uma pessoa.
O trabalho de verdade é definir onde exatamente fica a transferência dentro de cada atividade. Esse ponto de transferência é uma decisão de desenho de processo, documentada e revisável, e não uma convenção que nasce do hábito da equipe.
Decisão automatizada tem regra própria no Brasil
Quando a decisão afeta interesses do titular e é tomada unicamente com base em tratamento automatizado de dados pessoais, o artigo 20 da LGPD assegura ao titular o direito de solicitar sua revisão. A regra não proíbe a automação; ela condiciona a automação total.
Na prática, isso restringe a automação integral em crédito, contratação e precificação individual, três territórios em que a tentação de tirar a pessoa do circuito é maior. Empresa que automatiza essas decisões por completo precisa conseguir explicar critérios e oferecer revisão, e explicar critério de modelo estatístico nem sempre é trivial.
O desenho híbrido da zona intermediária atende a essa exigência por construção: havendo uma pessoa que decide e assina, a decisão deixa de ser unicamente automatizada, e a empresa ganha tanto a conformidade quanto a capacidade de explicar.
Três perguntas antes de tirar a pessoa do circuito
- Consequência
- Quem é afetado pela decisão e quanto custa o erro se ela estiver errada?
- Reversibilidade
- A decisão pode ser desfeita, e a que custo para a empresa e para o cliente?
- Justificação
- Alguém precisará explicar essa decisão a um cliente, auditor ou regulador?
Modelo de cálculo ÍON
Considere uma decisão que o sistema executa em segundos e que, quando errada, gera estorno, atendimento e desgaste de relacionamento. Some o custo médio do erro multiplicado pela frequência estimada de erro sem revisão e compare com o custo da revisão humana por caso: se o primeiro número for maior, a automação total é mais cara que a supervisão, mesmo antes de contar o risco regulatório.
Case relacionado
Projeto Horizonte 180Fontes e referências
Lei nº 13.709/2018 (LGPD)
Lei Geral de Proteção de Dados Pessoais, texto integral no Planalto.
Acessar a fonteNIST — AI Risk Management Framework
Referência de gestão de risco em sistemas de inteligência artificial.
Acessar a fonteISO/IEC 42001:2023
Norma internacional de sistema de gestão de inteligência artificial.
Acessar a fonte
Diagnóstico ÍON de IA aplicada à gestão
Uma sessão de 90 minutos, sem custo, para mapear onde a inteligência artificial já está em uso na sua operação, o que ela mudou no processo e o que ainda não foi medido. Você envia a lista de ferramentas contratadas e um exemplo do processo em que elas deveriam atuar. A devolutiva escrita chega em cinco dias úteis.
Solução ÍON relacionada
Estratégia & Gestão Empresarial
Dúvidas frequentes
- O que não deve ser automatizado?
- Decisões com consequência alta e reversão cara, que exijam justificação a terceiros, e atividades cujo valor está no julgamento contextual: negociação, tratamento de exceção, julgamento sobre pessoas e relacionamento.
- O que é decisão automatizada pela LGPD?
- É a decisão tomada unicamente com base em tratamento automatizado de dados pessoais que afete interesses do titular. O artigo 20 da LGPD garante ao titular o direito de solicitar revisão dessa decisão.
- Como definir a fronteira entre humano e máquina?
- Aplicando três critérios a cada atividade: consequência do erro, reversibilidade da decisão e necessidade de justificação. O resultado costuma ser um desenho híbrido, com ponto de transferência definido e documentado.
- Automação parcial funciona?
- É o desenho mais comum entre os que dão certo: a máquina prepara, ordena e sinaliza; a pessoa decide e assume. A automação parcial captura a eficiência sem transferir a responsabilidade pela decisão.
- Quem decide onde fica o limite?
- A decisão é de gestão, não de tecnologia: envolve o dono do processo, a área jurídica quando há dados pessoais e a direção quando a consequência do erro é material. Registrar o critério usado é parte da decisão.
Autor
Leandro Bryk
Consultor responsável pela ÍON Soluções, atuando em inteligência comercial, estratégia, gestão financeira, marketing e imagem corporativa.
LinkedIn