s
Crédito da foto: Brittany Hosea-Small
INTELIGÊNCIA ARTIFICIAL

Ética de IA: boas intenções são suficientes?

Na opinião do professor Stuart Russell, a única maneira de avançar é descobrir como tornar a segurança de IA uma condição para fazer negócios.

A história humana pode ser vista como uma série de tentativas de forjar um consenso ético. Em nosso mundo contemporâneo, os avanços da IA nos colocam novamente diante dessa necessidade. O futuro depende da nossa capacidade de alinhar o progresso tecnológico com a maturidade ética necessária para manejá-lo, alertam pesquisadores como Stuart Russell, professor de Ciência da Computação em Berkeley. Em seus livros e palestras, Russell costuma enfatizar a importância de garantirmos que os sistemas de IA permaneçam sob controle humano e sejam projetados para servir aos interesses humanos.

Na sua opinião, um caminho para isso é fazer com que o principal objetivo dos sistemas de IA seja a realização dos valores humanos, aprendidos por meio da observação e da interação com os humanos. “A IA deve aprender estudando todos os seres humanos, não apenas aqueles que possuem ou operam a IA”, orienta Russell. “Só uma abordagem ampla de aprendizado fará com que a IA compreenda a vasta gama de valores e preferências humanas e aprenda continuamente sobre o que é considerado benéfico ou prejudicial ao ser exposta às escolhas humanas”. Por fim, Russell advoga que, em vez de agir com base em suposições, os sistemas de IA devem pedir permissão antes de realizar ações que possam afetar os valores ou as preferências de seres humanos.

Se construirmos sistemas de IA que estejam buscando objetivos, e esses objetivos não estiverem perfeitamente alinhados com o que os humanos querem, então os humanos não conseguirão o que querem, e as máquinas conseguirão.

Este é um conteúdo exclusivo para assinantes.

Cadastre-se grátis para ler agora
e acesse 5 conteúdos por mês.

É assinante ou já tem senha? Faça login. Já recebe a newsletter? Ative seu acesso.

CES 2025 vende o sonho da IA de consumo para todos, em todo lugar

Inteligência Artificial

CES 2025 vende o sonho da IA de consumo para todos, em todo lugar

Na fachada, a IA está em eletrodomésticos, como geladeiras, berços para bebês e até aneis. Mas há muita IA que vale a pena

Ética de IA: boas intenções são suficientes?

Inteligência Artificial

Ética de IA: boas intenções são suficientes?

Na opinião do professor Stuart Russell, a única maneira de avançar é descobrir como tornar a segurança de IA uma condição para fazer negócios.

O Ano do “Vai ou Racha” para Startups de Inteligência Artificial

Inteligência Artificial

O Ano do “Vai ou Racha” para Startups de Inteligência Artificial

Com bilhões em jogo, startups de IA enfrentam o desafio de provar seu valor em um mercado cada vez mais competitivo

Roadmap para 2025, e além

Inteligência Artificial

Roadmap para 2025, e além

Para avançar, as empresas terão que fazer muito mais do que só adicionar recursos de IA a seus sistemas. Será preciso rever, reimaginar e recriar operações, com uma nova arquitetura de dados e infraestrutura.

Desafios e oportunidades da IA na América Latina: a visão da Databricks para 2025

Inteligência Artificial

Desafios e oportunidades da IA na América Latina: a visão da Databri...

Escassez de talentos e infraestrutura de dados são os principais obstáculos para adoção de IA na região, mas perspectiva de crescimento cria oportunidades, diz Marcos Grilanda

Como pagar pela inteligência?

Inteligência Artificial

Como pagar pela inteligência?

Agentes autônomos de IA não se encaixam em nossos antigos modelos de preços. Outras formas de precificação estão surgindo.