Um raio de explosão separa quem testa IA de quem lucra com ela

Sérgio Larentis Junior, meu sócio na MATH Group, voltou do AI4, o maior evento de IA do mundo, com 12 mil participantes, com uma palestra que não saiu da cabeça dele. Um banco americano tinha acabado de fazer um agente de IA para revisar documentos de compliance. Risco baixo, revisão humana o tempo inteiro e nada de exposição. Aí, em vez de dar o próximo passo pequeno, o banco foi direto para o agente que recomenda investimento para o cliente final. Pulou o meio da escada.

Meu sócio me contou isso animado e eu entendi o motivo. A gente passa o ano inteiro repetindo para os clientes que o caminho certo é começar pequeno, medir, só então aumentar o escopo. É o que a maioria das empresas no Brasil faz e funciona. Mas as empresas que já erraram bastante, que já queimaram um piloto ou dois e aprenderam com isso, estão fazendo o oposto. Não estão evitando o risco. Estão decidindo até onde ele pode doer.

O raio de explosão não é sobre evitar o erro.

CADASTRE-SE GRÁTIS PARA ACESSAR 5 CONTEÚDOS MENSAIS

Já recebe a newsletter? Ative seu acesso

Ao cadastrar-se você declara que está de acordo
com nossos Termos de Uso e Privacidade.

Cadastrar

O termo que o Sérgio trouxe é “raio de explosão”. A ideia é simples de enunciar e difícil de praticar. Ninguém consegue garantir que um agente nunca fará nada de errado. Isso é matematicamente impossível quando você dá autonomia para um sistema. Então, em vez de gastar energia tentando blindar tudo, você gasta energia limitando o tamanho do estrago se der errado.

Como ele resumiu numa frase que eu anotei na hora: “Eventualmente algo vai dar errado. Vamos garantir que não seja tão errado, em vez daquele conceito antigo de que nada pode dar errado”.

Isso muda a pergunta que uma empresa faz antes de colocar um agente para trabalhar. A pergunta deixa de ser “O que pode dar errado?” e vira “Quanto de errado eu aguento?”. E quem responde essa pergunta também muda: o time técnico define o limite para dado sensível e custo, e a área de negócio define o limite para o que o agente pode decidir sozinho. Um agente de investimento não pode colocar todo o dinheiro de um cliente num lugar só. Isso é regra de negócio, não de infraestrutura.

A conta que virou governança.

O outro assunto que dominou o evento foi o custo. Sérgio fez questão de separar as duas coisas que estavam se misturando na cabeça de todo mundo. Teve empresa (o caso mais falado foi o da Uber) que gastou o orçamento do ano inteiro de tokens em um trimestre. Ninguém estava controlando quanto um agente podia gastar em determinada tarefa, então ele gastava o que precisasse.

Isso empurrou um monte de empresa reguladora, banco americano, indústria médica europeia numa conta que até pouco tempo era só teórica: a partir de que volume de uso vale a pena treinar um modelo de linguagem pequeno (SLM) próprio, rodando no seu datacenter, em vez de pagar por token num modelo maior de terceiro? Ou seja, trocar custo variável incontrolável por custo fixo de infraestrutura. No Brasil, isso ainda é quase aspiracional. Lá fora, já virou planilha de decisão.

Quem paga quando o agente erra?

Teve uma pergunta feita para ele neste papo interno que eu queria ter feito primeiro: “Se o agente toma uma decisão ruim, mesmo com toda a explicabilidade do mundo, quem responde por isso?”. A resposta que existe hoje, inclusive com um precedente de uma companhia aérea que vendeu passagem inexistente através de um agente e teve que honrar a venda, é que a empresa responde. Sempre.

Só que dentro da empresa isso ainda está sendo desenhado na marra. O modelo que o Sérgio viu se repetir é uma estrutura de centro de excelência (COE), onde um time técnico monta a infraestrutura e os limites de segurança, e a área de negócio usa essa infraestrutura para construir o agente que resolve o problema dela. A partir do momento que ela usa, é responsável pelo que o agente faz. É parecido com dar carro para o filho dirigir. Você define o limite de velocidade do carro, mas quem bate é quem estava no volante.

A ferramenta é a mesma. Quem sabe usar, não.

A parte que mais incomodou o Sérgio não foi a média de adoção lá fora, que obviamente é maior que a nossa. Foi a distância entre os que já usam IA há tempo o suficiente para terem errado bastante e aqueles que já aprenderam. Ele descreveu gente de negócio – não de tecnologia – criando agente, testando, quebrando e corrigindo como parte do trabalho normal do dia. Não é uma ferramenta pronta de um fornecedor. É uma pessoa que aprendeu a montar a própria solução com o que o time técnico deixou disponível.

Isso bate de frente com um hábito brasileiro que eu já critiquei aqui antes: tratar todo projeto de IA como piloto, sem nunca colocar em produção de verdade. O Sérgio contou que os casos que funcionam por aqui pulam essa etapa. Pegam um problema real, tipo um agente de cobrança, descobrem no processo quais dados faltam estruturar, resolvem isso no caminho e colocam para rodar. Sessenta por cento do trabalho vira engenharia de dados antes de qualquer IA aparecer. Isso não mudou e não vai mudar tão cedo.

Antes de fechar, o Sérgio deixou um número solto que eu ainda estou processando: mais da metade dos tokens rodados hoje no mercado corporativo americano usa modelo open source chinês, ainda que hospedado fora da China. Ninguém fala muito sobre isso em público, mas todo mundo sabe.

Fica para outra coluna. O que eu quero deixar aqui é a pergunta que o caso do banco americano me obrigou a fazer.

Você sabe qual é o raio de explosão do agente que está rodando na sua operação agora? Ou está torcendo para que nada aconteça?