Passei os últimos dias com um paper na cabeça. O texto é do Yong Tao, professor emérito de Stanford, publicado no fim de dezembro de 2025 e intitulado, em tradução livre, “O caminho de decisão para controlar riscos de IA por completo“. O argumento é elegante. Toda ação de uma IA nasce de uma decisão da IA. Logo, se você quer controlar a máquina, deve controlar os pontos de decisão dela.
Tao desenha seis mecanismos para isso. Três moram dentro do sistema: alinhar valores, restringir ações às leis e à ética que já existem e embutir um botão de intervenção e desligamento. Três moram na sociedade: dar à IA uma identidade própria, negar a ela o direito de possuir recursos e negar a ela o direito a cargo público.
O coração técnico é o que ele chama de fosso analógico: a IA é código rodando em chips que humanos controlam e toda ação no mundo físico exige um passo de digitalização. Esse passo é o ponto onde a mão humana entra.
O exemplo que o próprio Tao usa em seu paper é financeiro. A aprovação do empréstimo é digital. A transferência do dinheiro é eletrônica. Mas a conversão entre o digital e o físico é onde cabe a supervisão. Ou seja: o setor que a gente acha mais abstrato é, na prática, o laboratório do professor.
Tao diz que, se esses mecanismos virarem lei e padrão global, sobra apenas o risco residual: o erro humano de operação. O freio é técnico, é replicável e mais cedo ou mais tarde todo mundo vai ter o mesmo. O que sobra depois dele é gente decidindo.
Lembrei de um caso que ficou famoso
Um modelo de crédito que negava financiamento, de forma sistemática, para pessoas pretas.
Não houve maldade no código. A informação racial foi omitida da base de treino. Mas os Estados Unidos carregam um histórico de segregação que deixou marcas nos dados, e o modelo reencontrou o padrão por outros caminhos. Executou com a disciplina de uma máquina: em escala, sem cansar, sem hesitar.
A leitura fácil desse caso é dizer que faltou limpar o dado e que o time técnico resolve. Se a gente parar por aí, este seria apenas mais um texto sobre viés algorítmico.
O viés no crédito é só o exemplo fácil de enxergar
O risco de verdade é mais silencioso. Ele está na decisão de investimento, na promoção de um profissional, na liberação de uma apólice, em qualquer processo em que a correlação que o modelo encontrou diverge do valor da empresa sem que ninguém perceba. O modelo acerta a estatística e erra o princípio. E entrega isso com uma confiança que parece técnica.
Aí vem a pergunta que interessa. Quem deveria ter pegado isso antes de rodar em escala?
Por óbvio, o líder que aprovou colocar um agente para decidir crédito. Mas ele sabia que isso ainda era decisão dele?
A gestão que praticamos hoje é, no fundo, nota de rodapé de Peter Drucker. Desde 1973, quando ele consolidou décadas de trabalho no seu tratado sobre o ofício de gerir, somos todos anões no ombro de um gigante. Há mais de cinco décadas o mundo refina, atualiza e incrementa o mesmo edifício. E Drucker ensinou gestão de risco muito bem: toda tecnologia nova pede um processo de gestão de risco.
O problema é que, quando um segundo ente cognitivo entra na sala e passa a fazer parte do processo de decisão, o refinamento incremental de cinquenta anos não alcança mais. Nenhuma escola de negócios teve tempo de preparar um gestor para dividir a decisão com uma máquina que raciocina.
Só que “ninguém me preparou” é uma saída confortável demais. Ela deixa o líder livre e não é bem assim.
Sandro Magaldi e José Salibi Neto, no livro Gestão do Amanhã, descrevem de onde vem esse gestor. Segundo eles, “quando as pessoas passam muito tempo em organizações hierárquicas, raramente são encorajadas a fazer perguntas”. A hierarquia premia quem chega com a resposta pronta e trata quem pergunta como quem não sabe. “E quem acaba no comando de toda a operação? Alguém que é o produto desse processo”.
Foi assim que, durante décadas, selecionamos o executor de manual
Não por acidente. Por desenho. E os mesmos autores nomeiam a virada que o momento exige. Saímos do que eles chamam de “ônus da ignorância”, o líder que precisava ter todas as respostas do mundo, para o “bônus da ignorância”, a humildade de aprender a desaprender para lidar com o caos. O gestor de playbook foi treinado para a primeira lógica. A IA exige a segunda.
Se o freio de Tao vira commodity, e vai virar, o diferencial competitivo migra para o único lugar que não dá para copiar: a qualidade da decisão humana que sobra. O erro residual é humano. Então o humano que decide passa a ser o ativo, não o custo.
Em finanças, em seguros, em qualquer operação grande, isso deixa de ser filosofia e vira arquitetura. Alguém precisa decidir, antes de soltar o agente, quando ele exige revisão humana, quem tem alçada para revê-lo e quem responde pela decisão quando ela sai errada. Esse desenho é trabalho do líder, e sempre foi. O time de dados executa. A responsabilidade pela decisão nunca saiu da mesa de quem lidera. A máquina só criou a ilusão de que a decisão tinha virado técnica e podia ser delegada por inteiro.
O gestor que entende isso não se contenta em saber se a IA acertou a conta. Ele quer saber se a IA decidiu segundo o valor da companhia. E essa pergunta, nenhum agente responde por ele.
Volto ao Tao para fechar
Os mecanismos que ele propõe são nítidos em segurança nacional. Governos entendem bem o que é botão de desligar, alçada e responsabilidade quando o assunto é ameaça existencial.
A minha dúvida é se o mundo corporativo entendeu que essa mesma lógica já bateu à porta. Adotar o agente, todo mundo vai. O que vai separar as empresas nos próximos anos é quem consegue desenhar a decisão ao redor dele, com clareza sobre quem responde por ela.
Vou levar essa conversa para o Beyond AI, evento sobre lnteligência Artificial do qual sou curador, que acontece agora em novembro de 2026. Porque quanto mais autônoma fica a máquina, mais clara precisa ser a responsabilidade humana. E clareza sobre responsabilidade sempre foi, desde Drucker, o trabalho de quem lidera.
Para continuar navegando como visitante, vá por aqui.
Nenhum cadastro foi encontrado. Verifique os dados inseridos!
Cadastre-se grátis, leia até 5 conteúdos por mês,
e receba nossa newsletter diária.
Já recebe a newsletter? Ative seu acesso
Pronto! Só falta um passo.
Clique no link do e-mail que enviamos para retornar aqui e começar a ler seus 5 conteúdos exclusivos.
Se você já recebe nossas newsletters,
preencha seu e-mail que lhe mandaremos instruções
VoltarOpa! Parece que este e-mail não está cadastrado ainda. Tente novamente ou, se quiser fazer um novo cadastro, clique aqui.
Este e-mail que escolheu já está cadastrado.
Se ele é seu e você já tem uma senha, faça login para prosseguir com a assinatura. Se não tiver ainda ativado seu acesso, clique aqui para criar sua senha, logar e continuar o processo de assinatura.
