Gerencie, em vez de tentar eliminar o viés

A IA é irremediável e inerentemente tendenciosa. Perguntar como evitar esse viés é, de muitas maneiras, a pergunta errada, porque a IA é um meio de aprender e generalizar a partir de um conjunto de exemplos – e, com muita frequência, os exemplos são extraídos diretamente de dados históricos com muitos vieses embutidos. Dados históricos, mesmo que “medidos e amostrados perfeitamente”, podem levar a resultados prejudiciais. E salvaguardas tradicionais e aparentemente sensatas não têm resolvido.

À medida que as falhas de IA expõem empresas e seus clientes a riscos, e a atenção regulatória cresce, as evidências apontam que todos têm na ponta da língua o discurso sobre IA responsável. Mas um número muito pequeno está investindo tempo e recursos necessários para criar um programa abrangente.

“Lideranças empresariais devem parar de fingir que podem eliminar o viés da IA — eles não podem — e se concentrar em corrigi-lo”, provoca Sian Townson, sócia da consultoria Oliver Wyman. “As empresas nunca eliminarão completamente o viés. Mas eles podem aprimorar, expandir, verificar e corrigir suas práticas para obter resultados mais justos, diversos e equitativos”.