Quando se fala em inteligência artificial nas eleições, o cenário que costuma vir à cabeça é o do áudio falso que circula na véspera da votação. O acordo que o Tribunal Superior Eleitoral assinou recentemente com a ElevenLabs, hyperscaler especializada em IA para voz, não trata exatamente desse caso. Com essa cooperação, a Justiça Eleitoral quer agir em uma etapa anterior, isto é, quando o áudio falso ainda está sendo gerado.
O memorando prevê que a empresa mantenha uma lista de vozes protegidas, indicadas pelo próprio tribunal, cuja clonagem passa a ser bloqueada. A lista pode alcançar candidatos registrados e servidores da Justiça Eleitoral, mediante pedido formal justificado. O acordo prevê ainda cooperação na verificação da origem de áudios suspeitos gerados na plataforma e a oferta gratuita de ferramentas de voz para acessibilidade dos canais digitais do tribunal.
Até este momento, a Justiça Eleitoral focava a regulação eleitoral da IA na distribuição do conteúdo, ou seja, nas plataformas, na remoção e na responsabilidade de quem publica e de quem hospeda. Com este acordo, o Estado passa a atuar também na etapa de geração.
Esse instrumento não foi desenhado para o Brasil. O bloqueio de vozes protegidas já vinha sendo aplicado pela empresa em eleições nos Estados Unidos, no Reino Unido, na Índia e na União Europeia desde 2024. O que mudou no Brasil foi a disponibilidade de uma ferramenta pré-existente de uma empresa disposta a firmar um convênio.
A cooperação, porém, está restrita ao ambiente da própria empresa. O memorando registra que a ElevenLabs não pode investigar, bloquear ou remover conteúdo produzido em outras plataformas ou por ferramentas de terceiros. Segue sendo possível gerar voz sintética em outros serviços, e nesses casos o acordo não alcança nada. Conter o uso indevido continuará dependendo de investigação, de outras tecnologias e de decisão judicial caso a caso.
A ElevenLabs, incorporada nos EUA e de fundadores poloneses, está entre as principais empresas especializadas em síntese e clonagem de voz; a startup é avaliada em US$ 11 bilhões após rodada liderada pela Sequoia em fevereiro deste ano. O acordo com o TSE a coloca dentro da estrutura de integridade eleitoral brasileira em um momento em que partidos e campanhas presidenciais manifestam preocupação genuína com uma possível intervenção americana no Brasil. A cooperação é bem delimitada e tem prazo de validade, mas a ótica de depender de um fornecedor estrangeiro para uma função sensível do processo eleitoral merece ser administrada com transparência.
A prova de fogo das regras de IA da Justiça Eleitoral se inicia neste domingo com a abertura oficial da campanha. A expectativa é de um grande volume de material digital nas redes sociais Brasil adentro, acima do que mesmo uma estrutura robusta de fiscalização talvez consiga acompanhar por inteiro. Por limitação operacional, o foco tende a recair sobre as grandes candidaturas, sobretudo a disputa presidencial. Conforme se desce no nível dos cargos, e as eleições proporcionais são o exemplo mais claro, a capacidade de detectar e de responder pode diminuir.
O vídeo gerado por inteligência artificial com a imagem de Jair Bolsonaro, exibido na convenção que oficializou a candidatura de Flávio, é o principal caso do ciclo até aqui e segue pendente de julgamento. A sinalização dos ministros até o momento aponta para uma leitura restritiva do uso de deepfake, incluindo tanto conteúdos depreciativos como os elogiosos, o que amplia o escopo da regulamentação aprovada no início do ano. A intenção é reduzir o litígio e o risco de o próprio tribunal se envolver em disputas durante a apuração.
Ainda assim, o risco mais difícil de conter está fora do alcance da regra. Mesmo com a lista de vozes protegidas, a circulação de áudios falsos tende a enfraquecer a confiança do eleitor em qualquer gravação, inclusive nas verdadeiras. Em uma disputa eleitoral apertada, o uso malicioso da IA pode contribuir para o desgaste da confiança sobre a qual o processo eleitoral se apoia.