s
Cena do documentário "Coded Bias", que explora como o viés algorítmico pode impactar pessoas Crédito: Divulgação

INTELIGÊNCIA ARTIFICIAL

“Precisamos entender e controlar os algoritmos”

A cineasta Shalini Kantayya fala sobre o que aprendeu com o documentário “Coded Bias”, que explora os efeitos do viés algorítmico

A diretora Shalini Kantayya definiu seu documentário “Coded Bias”, que está disponível na Netflix, como “Uma Verdade Inconveniente” para algoritmos. A menção ao documentário criado a partir do livro do ex-vice-presidente norte-americano Al Gore sobre a mudança climática não é gratuito. Da mesma forma que o outro filme incomodava por apontar para um futuro (foi produzido em 2006) que parecia sombrio com excesso de CO2 na atmosfera, aquecimento global e catástrofes climáticas, “Coded Bias” nos coloca diante do medo de que a inteligência Artificial (IA), em algum momento, vai ficar mais esperta e nos trancar do lado de fora.

O documentário abre com a descoberta da estudante de graduação do MIT Joy Buolamwini de que o software de reconhecimento facial não pode ver rostos negros como o dela. A cineasta segue a jornada de Buolamwini para chamar atenção de pesquisadores, empresas e da imprensa sobre o preconceito em algoritmos, ao mesmo tempo em que traz entrevistas com especialistas que estabelecem a capacidade da máquina de fazer tanto o bem, quanto o mal a humanos. É o “preconceito codificado”.

O documentário chega ao grande público exatamente em um momento em que estudiosos, especialistas e organizações discutem porque a ética tem que fazer parte do design da IA, mas como apesar de boas intenções, muitas vezes há falhas que comprometem a vida de milhões de pessoas simplesmente porque os dados não levaram em conta o viés de quem fez a programação.

Conteúdo exclusivo para membros da The Shift

Aproveite a promoção e assine

A Inteligência Artificial deveria ter empatia?

Inteligência Artificial

A Inteligência Artificial deveria ter empatia?

Há casos de uso em que a empatia pode ser útil em sistemas de IA? Ou ao aprender e introduzir sentimentos humanos, as máquinas podem acabar nos colocando em risco?

Por Cristina De Luca
Desafio de tornar a Inteligência Artificial confiável é imperativo para os negócios

Inteligência Artificial

Desafio de tornar a Inteligência Artificial confiável é imperativo...

As pessoas não estão dispostas a aceitar tecnologias a menos que possam exercer mais controle sobre seus resultados

Por Cristina De Luca
Ingressamos na Bioinformation Age, avisa Amy Webb

Inteligência Artificial

Ingressamos na Bioinformation Age, avisa Amy Webb

E isso exigirá de nós maior cuidado e responsabilidade com as tecnologias ao nosso dispor. Sobretudo com a Inteligência Artificial e os sistemas de monitoramento e reconhecimento de tudo e todos

Por Cristina De Luca