Ética de IA: boas intenções são suficientes?

A história humana pode ser vista como uma série de tentativas de forjar um consenso ético. Em nosso mundo contemporâneo, os avanços da IA nos colocam novamente diante dessa necessidade. O futuro depende da nossa capacidade de alinhar o progresso tecnológico com a maturidade ética necessária para manejá-lo, alertam pesquisadores como Stuart Russell, professor de Ciência da Computação em Berkeley. Em seus livros e palestras, Russell costuma enfatizar a importância de garantirmos que os sistemas de IA permaneçam sob controle humano e sejam projetados para servir aos interesses humanos.

Na sua opinião, um caminho para isso é fazer com que o principal objetivo dos sistemas de IA seja a realização dos valores humanos, aprendidos por meio da observação e da interação com os humanos. “A IA deve aprender estudando todos os seres humanos, não apenas aqueles que possuem ou operam a IA”, orienta Russell. “Só uma abordagem ampla de aprendizado fará com que a IA compreenda a vasta gama de valores e preferências humanas e aprenda continuamente sobre o que é considerado benéfico ou prejudicial ao ser exposta às escolhas humanas”. Por fim, Russell advoga que, em vez de agir com base em suposições, os sistemas de IA devem pedir permissão antes de realizar ações que possam afetar os valores ou as preferências de seres humanos.

Se construirmos sistemas de IA que estejam buscando objetivos, e esses objetivos não estiverem perfeitamente alinhados com o que os humanos querem, então os humanos não conseguirão o que querem, e as máquinas conseguirão.