Quando a resposta chega pronta e bem escrita, a habilidade escassa passa a ser duvidar dela

Erro plausível é mais perigoso que erro absurdo. Um número inventado com duas casas decimais, atribuído a uma fonte de aparência oficial, atravessa três níveis de aprovação sem que ninguém o questione.

O erro grosseiro, ao contrário, para na primeira leitura, porque destoa do restante. O texto ruim se autodenuncia; o texto bem escrito não oferece nenhum sinal externo de que a informação é falsa.

Alucinação — saída plausível e bem formada que não corresponde a nenhum fato ou fonte real — é uma característica conhecida desses sistemas, tratada como risco específico nos referenciais de gestão de risco em inteligência artificial. Tratá-la como defeito passageiro é subestimar o problema.

A velocidade agrava o efeito. Quando a resposta chega antes de a pergunta terminar de ser formulada, o tempo em que a dúvida costumava surgir simplesmente deixa de existir no fluxo de trabalho.

Há ainda um componente social: material bem formatado circula com mais facilidade dentro da empresa e ganha autoridade pelo caminho. Ao chegar à reunião, ele já foi encaminhado por três pessoas, e nenhuma delas se considerou responsável por conferi-lo.

De onde veio esse número? A pergunta obriga a rastrear a origem e revela, em poucos segundos, quando não existe origem nenhuma a apontar.

O que aconteceria se ele estivesse errado? A resposta separa o que exige verificação do que pode seguir com o risco assumido conscientemente.

Qual evidência contradiz essa conclusão? A busca deliberada pelo contrário é o único antídoto barato contra um texto que foi construído para soar convincente. Nenhuma das três exige conhecimento técnico, e juntas levam menos de dois minutos.

Vale escrever as três no cabeçalho do documento em que a equipe registra análises. Pergunta que está impressa no formulário é respondida; pergunta que depende de lembrança é respondida apenas quando já existe suspeita.

Nenhuma das três substitui revisão técnica em matéria regulada. Elas funcionam como filtro barato que impede que o erro fácil consuma o tempo de quem faria a revisão difícil.

A régua deve ser graduada por consequência, não por tema. Uma decisão reversível, de baixo custo e efeito interno, dispensa verificação formal, e exigi-la ali só ensina a equipe a burlar o procedimento.

Uma decisão que chega ao cliente, ao regulador ou ao balanço não dispensa. Nesses casos a verificação precisa estar prevista no fluxo e registrada, e não depender de quem estava disponível no dia.

Definir a régua por antecipação evita que ela seja aplicada por humor ou por hierarquia. Sem critério escrito, a checagem recai sobre quem tem menos poder para recusá-la e não sobre o material que mais precisa dela.

Considere um relatório que embasa um reajuste de preço enviado a toda a carteira. O custo de conferir a origem dos números é de alguns minutos; o custo de comunicar uma correção depois do envio é de credibilidade comercial, e não se recupera no mesmo trimestre.

Capacidade que não se exercita se deteriora. Uma equipe que nunca constrói um raciocínio do zero perde a referência necessária para avaliar quando o raciocínio pronto está errado.

O efeito não aparece no trimestre, porque a produtividade aparente sobe enquanto a capacidade de julgamento cai. Ele aparece no primeiro caso em que a resposta pronta estava errada e ninguém percebeu a tempo.

Preservar exercícios sem assistência em atividades de alta consequência é decisão de gestão, e não nostalgia. Vale escolher deliberadamente quais análises continuam sendo feitas do início ao fim por pessoas, e registrar essa escolha.