“Precisamos entender e controlar os algoritmos”

A diretora Shalini Kantayya definiu seu documentário “Coded Bias”, que está disponível na Netflix, como “Uma Verdade Inconveniente” para algoritmos. A menção ao documentário criado a partir do livro do ex-vice-presidente norte-americano Al Gore sobre a mudança climática não é gratuito. Da mesma forma que o outro filme incomodava por apontar para um futuro (foi produzido em 2006) que parecia sombrio com excesso de CO2 na atmosfera, aquecimento global e catástrofes climáticas, “Coded Bias” nos coloca diante do medo de que a inteligência Artificial (IA), em algum momento, vai ficar mais esperta e nos trancar do lado de fora.

O documentário abre com a descoberta da estudante de graduação do MIT Joy Buolamwini de que o software de reconhecimento facial não pode ver rostos negros como o dela. A cineasta segue a jornada de Buolamwini para chamar atenção de pesquisadores, empresas e da imprensa sobre o preconceito em algoritmos, ao mesmo tempo em que traz entrevistas com especialistas que estabelecem a capacidade da máquina de fazer tanto o bem, quanto o mal a humanos. É o “preconceito codificado”.

O documentário chega ao grande público exatamente em um momento em que estudiosos, especialistas e organizações discutem porque a ética tem que fazer parte do design da IA, mas como apesar de boas intenções, muitas vezes há falhas que comprometem a vida de milhões de pessoas simplesmente porque os dados não levaram em conta o viés de quem fez a programação.