Enquanto soluções de Inteligência Artificial são cada vez mais usadas em todas as indústrias, crescem também os casos de pessoas que foram bloqueadas por um algoritmo. Os casos mais conhecidos são no recrutamento, como o sistema da Amazon que prejudicava candidatas mulheres, e em pontuações de crédito, que perpetuam o viés racista presente na sociedade.
No entanto, os casos de “cancelamento algorítmico” vão muito além do que se pode imaginar. Seja por causa de problemas históricos em bases de dados ou falhas na hora de treinar o modelo, resultados inexplicáveis e prejudiciais são frequentes em laboratórios, nas empresas e também em espaços públicos. Veja, a seguir, alguns casos neste sentido:
Enquanto os casos acima foram revelados pela imprensa ou divulgados pelos próprios desenvolvedores, há poucos episódios conhecidos de pessoas canceladas por algoritmos no Brasil. Não significa, porém, que não aconteça por aqui.
Este é um conteúdo exclusivo para assinantes.
Cadastre-se grátis para ler agora
e acesse 5 conteúdos por mês.
É assinante ou já tem senha? Faça login. Já recebe a newsletter? Ative seu acesso.
Especialistas da indústria assinaram uma nova carta alertando para a priorização dos esforços de regulação da IA, equiparando-os aos de pandemias ou de uma guerra nuclear. Por quê?
A maioria das empresas do relatório Most Innovative Companies 2023 implementou algum tipo de uso da IA, mas só 45% conseguiram impactos mensuráveis nos negócios
Leite condensado e inovação: envolver diferentes equipes em torno de uma experimentação de tecnologia é difícil, mas compensador
Sam Altman disse aos senadores americanos que é preciso criar regulamentos e licenças para sistemas de Inteligência Artificial
Texto da futura lei europeia passa a incluir regras para controlar a IA Generativa e o banimento de vários tipos de sistemas de identificação e categorização biométrica e de reconhecimento de emoções
Startup Humane rouba a cena do Google com a demonstração do computador quase invisível e sua IA pessoal
Aproveite nossas promoções de renovação
Clique aquiPara continuar navegando como visitante, vá por aqui.
Cadastre-se grátis, leia até 5 conteúdos por mês,
e receba nossa newsletter diária.
Já recebe a newsletter? Ative seu acesso