s
Crédito: Shutterstock

INTELIGÊNCIA ARTIFICIAL

IA Explicável também precisa ser ética

Quanto mais deixamos a IA seguir por esse caminho pouco transparente, maior a probabilidade de chegarmos a lugares que não desejamos - e de onde talvez não tenhamos volta

Por Redação The Shift 05/02/2020

Não sabemos muito sobre como as redes neurais tomam suas decisões. Geralmente as aceitamos em relação a assuntos e atividades triviais. Mas, à medida que o Deep Learning é integrado a áreas mais críticas de nossas vidas, como os diagnósticos médicos, é justo que possamos saber mais o que acontece sob o capô. Razão pela qual tem havido muito trabalho em torno da “IA Explicável” (XAI).

Mas abrir a caixa preta da IA também pode se tornar um problema, de acordo com um novo estudo da Universidade de Michigan. Os pesquisadores descobriram que os engenheiros estão confiando demais nas técnicas de XAI, mesmo sem entendê-las. Um fenômeno conhecido como "viés de automação".

Muitas vezeso uso das ferramentas de XAI levou a suposições incorretas sobre os dados e os modelos. O que comprova que a interpretabilidade não é um conceito rígido e singular. E embora a maioria das pessoas concorde que a interpretabilidade deva descrever um entendimento humano de um sistema de IA, a comunidade de Ciência de Dados ainda não chegou a um acordo sobre qual parte do sistema deve ser entendida.

Conteúdo exclusivo para membros da The Shift

Experimente grátis por 30 dias

IA é capaz de identificar os melhores argumentos

Inteligência Artificial

IA é capaz de identificar os melhores argumentos

Usando uma técnica chamada mineração de argumentos, que as máquinas vasculhem enormes conjuntos de dados, a IA de debates da IBM ficou mais perto de ser uma ferramenta útil

Por Redação The Shift
Gartner prevê o futuro das tecnologias de IA

Inteligência Artificial

Gartner prevê o futuro das tecnologias de IA

Os líderes de I&O precisam alavancar estrategicamente a IA como um acelerador principal das iniciativas de negócios digitais

Por Redação The Shift
IA: duas tendências para manter no radar

Inteligência Artificial

IA: duas tendências para manter no radar

A chamada Edge-based IA é a aposta de empresas como Apple, Amazon e Tela, especialmente na combinação com a Internet das Coisas

Por Redação The Shift