A IA explora as pessoas e o planeta. Esse é o seu maior problema

A IA é essencialmente um tipo de indústria profundamente conectada à mineração e à extração de recursos e a formas ocultas de trabalho em toda a cadeia de abastecimento, afirma Kate Crawford, cofundadora do AI Now Institute, em seu novo livro "Atlas of AI", com lançamento previsto para 21 de abril. Nele, ela revela como as redes globais que sustentam a tecnologia de IA estão prejudicando o meio ambiente, entrincheirando a desigualdade e impulsionando uma mudança em direção à governança não democrática.

Kate é uma das maiores especialistas do mundo sobre as implicações sociais da inteligência artificial e está se juntando agora à USC Annenberg, na Austrália, para avançar na pesquisa crítica sobre o papel da justiça e do poder nos sistemas sociotécnicos. Com pesquisadora do Microsoft Research e da école Normale Supérieure de Paris, ela passou a maior parte de duas décadas investigando as implicações políticas e sociais da IA.

Um fenômeno discutido profundamente no novo livro é a ideia do determinismo encantado, a crença de que os sistemas de IA são mágicos e, ao mesmo tempo, podem fornecer percepções sobre todos nós de maneiras sobre-humanas. "Isso significa que não esperamos que esses sistemas produzam formas de preconceito e discriminação. Nem nos concentramos nas maneiras como são construídos e em suas limitações", diz ela. O que é um erro.