NIST aponta caminhos para reduzir o viés da IA

A proliferação de abordagens de modelagem e preditivas baseadas em técnicas de aprendizado de máquina e de dados ajudou a expor vários preconceitos sociais incorporados em sistemas do mundo real. Esses preconceitos e outras imprecisões relacionadas em sistemas automatizados podem levar a resultados prejudiciais que prejudicam o público confiança na tecnologia.

Relatório divulgado pelo Instituto Nacional de Padrões e Tecnologia (NIST), dos Estados Unidos, aborda a complexidade do viés de IA e os obstáculos que as empresas devem considerar ao projetar software para que ele não se desvie do comportamento pretendido.

Uma das principais conclusões é que o problema não pode ser resolvido apenas com correções puramente técnicas ou estatísticas. A correção do viés na IA exige uma abordagem mais ampla, que também considere os vieses humanos e sistêmicos. Não são apenas os conjuntos de dados e os algoritmos que precisam ser abordados - também as pessoas e o contexto social em que os sistemas de IA são usados.