Máquinas também precisam desaprender

Já ouviu falar em Machine Unlearning? É um área nascente da Ciência da Computação que busca maneiras de induzir amnésia seletiva em sistemas de Inteligência Artificial. Com as novas legislações de proteção de dados pessoais passamos a ter o direito de revogar a permissão de uso e solicitar que os dados sejam excluídos de praaticaamente todas as bases de tratamento, com raras execeções. O "desaprendizado de máquina" trata justamente da remoção de todos os vestígios de uma determinada pessoa ou ponto de dados de um sistema de aprendizado de máquina, sem afetar o seu desempenho.

Se tornado prático, o conceito pode dar às pessoas mais controle sobre seus dados e o valor derivado deles. Até o Facebook tem se dedicado a ele. Principalmente por saber bem que a simples remoção de uma amostra das unidades de armazenamento não remove necessariamente todo o seu traço, uma vez que os modelos de aprendizado de máquina downstream podem armazenar algumas informações sobre as amostras usadas para treiná-los.  Em outra palavras, é grande a possibilidade de o modelo ter memorizado os dados, colocando os usuários em risco de um ataque de privacidade bem-sucedido e o agente de tratamento em desconformidade com a lei.

Essa noção de amnésia artificial requer algumas novas ideias de como o desenvolvimento de algoritmos extremamente flexíveis, capazes de lidar com classes de modelos arbitrários e novas metodologias de treinamento, explica Aaron Roth, professor da Universidade da Pensilvânia, em um paper sobre Machine Unlearning publicado em junho, onde ele e outros pesquisadoress mostraam que é possível  fazer os algoritmos de aprendizado de máquina esquecerem, sob certas condições. Mas a técnica ainda não está pronta para uso corrente.