s
INTELIGÊNCIA ARTIFICIAL

NIST aponta caminhos para reduzir o viés da IA

Frequentemente visto como um problema técnico, estudo reconhece que grande parte do problema decorre de vieses humanos, sistêmicos e institucionais. E aponta formas de resolvê-los

A proliferação de abordagens de modelagem e preditivas baseadas em técnicas de aprendizado de máquina e de dados ajudou a expor vários preconceitos sociais incorporados em sistemas do mundo real. Esses preconceitos e outras imprecisões relacionadas em sistemas automatizados podem levar a resultados prejudiciais que prejudicam o público confiança na tecnologia.

Relatório divulgado pelo Instituto Nacional de Padrões e Tecnologia (NIST), dos Estados Unidos, aborda a complexidade do viés de IA e os obstáculos que as empresas devem considerar ao projetar software para que ele não se desvie do comportamento pretendido.

Uma das principais conclusões é que o problema não pode ser resolvido apenas com correções puramente técnicas ou estatísticas. A correção do viés na IA exige uma abordagem mais ampla, que também considere os vieses humanos e sistêmicos. Não são apenas os conjuntos de dados e os algoritmos que precisam ser abordados - também as pessoas e o contexto social em que os sistemas de IA são usados.

Este é um conteúdo exclusivo para assinantes.

Cadastre-se grátis e tenha acesso a 5 conteúdos por mês.

É assinante ou já tem senha? Faça login. Já recebe a newsletter? Ative seu acesso.

Desafio de tornar a Inteligência Artificial confiável é imperativo para os negócios

Inteligência Artificial

Desafio de tornar a Inteligência Artificial confiável é imperativo...

As pessoas não estão dispostas a aceitar tecnologias a menos que possam exercer mais controle sobre seus resultados

Por Cristina De Luca
IA Explicável também precisa ser ética

Inteligência Artificial

IA Explicável também precisa ser ética

Quanto mais deixamos a IA seguir por esse caminho pouco transparente, maior a probabilidade de chegarmos a lugares que não desejamos - e de onde talvez não tenhamos volta

Por Redação The Shift
Algum dia a IA será completamente imparcial?

Inteligência Artificial

Algum dia a IA será completamente imparcial?

Tecnicamente, sim. Um sistema de IA pode ser tão bom quanto a qualidade de seus dados e o design de seus modelos. Por isso é tão importante neutralizar os vieses cognitivos dos algoritmos

Por Cristina De Luca
“Precisamos entender e controlar os algoritmos”

Inteligência Artificial

“Precisamos entender e controlar os algoritmos”

A cineasta Shalini Kantayya fala sobre o que aprendeu com o documentário “Coded Bias”, que explora os efeitos do viés algorítmico

Por Redação The Shift
Como lideranças podem evitar o viés de comportamento

Liderança

Como lideranças podem evitar o viés de comportamento

Por falta de tempo e pelas características das reuniões digitais, a tendência é julgar situações por conta própria e assumir que falta engajamento e vontade de fazer

Por Soraia Yoshida
Dados nem sempre dizem a verdade

Inteligência Artificial

Dados nem sempre dizem a verdade

Se torturarmos os dados, eles são capazes de dizer qualquer coisa que quisermos saber, inclusive mentiras. O que fazer para evitar ser enganado pelos dados e algoritmos?

Por Cristina De Luca