Enquanto soluções de Inteligência Artificial são cada vez mais usadas em todas as indústrias, crescem também os casos de pessoas que foram bloqueadas por um algoritmo. Os casos mais conhecidos são no recrutamento, como o sistema da Amazon que prejudicava candidatas mulheres, e em pontuações de crédito, que perpetuam o viés racista presente na sociedade.
No entanto, os casos de “cancelamento algorítmico” vão muito além do que se pode imaginar. Seja por causa de problemas históricos em bases de dados ou falhas na hora de treinar o modelo, resultados inexplicáveis e prejudiciais são frequentes em laboratórios, nas empresas e também em espaços públicos. Veja, a seguir, alguns casos neste sentido:
Enquanto os casos acima foram revelados pela imprensa ou divulgados pelos próprios desenvolvedores, há poucos episódios conhecidos de pessoas canceladas por algoritmos no Brasil. Não significa, porém, que não aconteça por aqui.
Este é um conteúdo exclusivo para assinantes.
Cadastre-se grátis e tenha acesso a 5 conteúdos por mês.
É assinante ou já tem senha? Faça login. Já recebe a newsletter? Ative seu acesso.
Seus benefícios comerciais, independentemente do setor, continuarão a impulsionar a adoção
À medida que a adoção da IA aumenta rapidamente, é fundamental que a ética da IA progrida de teorias abstratas para práticas concretas, sob a batuta dos executivos das áreas de negócios
A tecnologia ajuda a compreender as necessidades específicas de cada consumidor e a estabelecer uma comunicação direta e eficaz, para melhorar o relacionamento entre marca e cliente
A ética dos dados, a ética dos algoritmos e a ética das práticas devem embasar as propostas de legislação que busquem provocar a internalização de conceitos de “certo” ou “errado”
Frequentemente visto como um problema técnico, estudo reconhece que grande parte do problema decorre de vieses humanos, sistêmicos e institucionais. E aponta formas de resolvê-los
E o caminho pode estar na maior conscientização das lideranças executivas sobre os benefícios da tomada de decisão aprimorada pela tecnologia
Aproveite nossas promoções de renovação
Clique aquiPara continuar navegando como visitante, vá por aqui.
Cadastre-se grátis, leia até 5 conteúdos por mês,
e receba nossa newsletter diária.
Já recebe a newsletter? Atualize seu cadastro