Responsabilidade pela ética da IA é dos C-levels

Se você soubesse que o pedido de crédito de um cliente foi rejeitado sem justificativa discernível, você toleraria a decisão? Se um médico sem acesso à literatura médica mais recente recomendasse que um ente querido fosse submetido a um procedimento invasivo, você autorizaria a cirurgia? Certamente não.

Áreas críticas de julgamento — especialmente decisões que impactam diretamente a vida e o bem-estar de outras pessoas — são regidas por padrões de ação apropriada. Os seres humanos vivem por normas éticas governadas pela comunidade, impostas por leis, regras, pressões sociais e discurso público. Embora a ética possa variar ao longo do tempo e entre as culturas, ela tem desempenhado um papel crucial na orientação das decisões desde o início da civilização humana.

Para os negócios, o viés algorítmico e a ética da IA se tornaram grandes problemas. Muitas empresas temem que seus sistemas automatizados discriminem, arriscando problemas legais, regulatórios e de reputação. O medo retardou a implantação da IA em muitos setores. Também abriu toda uma sub-indústria de consultores e fornecedores de software que vendem ferramentas para detectar vieses algorítmicos e tentar mitigá-los.