s
Biometria, reconhecimento facial, dados da sua vida: tudo isso pode ser usado a seu favor - ou contra Crédito: Dreamstime

INTELIGÊNCIA ARTIFICIAL

O algoritmo vai te cancelar?

As pessoas e os algoritmos estão cada vez mais envolvidos em processos interativos em que nem o ser humano nem os algoritmos recebem dados imparciais

Por Soraia Yoshida 10/04/2021

Sim. Em algum momento, mesmo aqueles que se encaixam no perfil definido como privilegiado – homem branco, com dinheiro, que mora em um bairro classudo – podem sofrer algum tipo de bloqueio por conta de um algoritmo que incorpora um determinado viés em sua construção. Pode ser um viés de idade, pode ser um perfil ruim de crédito no passado, um post publicado em redes sociais – pode até ser um erro no banco de dados que te associou a um outro sujeito. Enfim, pode ser qualquer coisa. E sabe o pior? Você nem vai ficar sabendo porque foi “cancelado”.

A fama de mau que cada vez mais se associa à Inteligência Artificial responde por uma expressão: viés algorítmico (algorithm bias) ou viés de IA. É uma anomalia no resultado de algoritmos de aprendizado de máquina (machine learning). Isso pode acontecer devido a suposições preconceituosas feitas durante o processo de desenvolvimento do algoritmo ou preconceitos nos dados usados para o treinamento.

LEIA MAIS
- Temor ou cuidado: qual deve ser nosso sentimento diante da IA?
- Bloqueados por um algoritmo: sete vezes em que a IA cancelou o usuário
- 40 livros, filmes, séries e documentários sobre algoritmos
- Diretora de "Coded Bias": precisamos entender e controlar os algoritmos

Conteúdo exclusivo para membros da The Shift

Aproveite a promoção e assine

Temor ou cuidado? Qual deve ser a nosso sentimento diante da IA?

Inteligência Artificial

Temor ou cuidado? Qual deve ser a nosso sentimento diante da IA?

Ambos, na justa medida. Entre as narrativas apocalípticas utópicas, precisaremos apostar no bom senso e nos agarrarmos aos valores e à ética humanos para garantir os benefícios da tecnologia

Por Cristina De Luca
“Precisamos entender e controlar os algoritmos”

Inteligência Artificial

“Precisamos entender e controlar os algoritmos”

A cineasta Shalini Kantayya fala sobre o que aprendeu com o documentário “Coded Bias”, que explora os efeitos do viés algorítmico

Por Redação The Shift