O lado sub-humano da IA

É preocupante, para dizer o mínimo. Mesmo os chatbots de IA mais impressionantes exigem milhares de horas de trabalho humano para se comportar da maneira que seus criadores desejam, e mesmo assim eles o fazem de maneira não confiável. O trabalho pode ser brutal e perturbador, como ouvimos na última semana, durante a Conferência ACM sobre Justiça, Responsabilidade e Transparência (FAccT). Com poucas exceções, pouco se sabe sobre as informações que moldam o comportamento desses sistemas e menos ainda sobre as pessoas que fazem a modelagem. O trabalho de rotulagem de dados geralmente tem um propósito que, muitas vezes, essas pessoas não têm ideia o que seja.

Por exemplo, o segredo para fazer com que os chatbots de IA pareçam inteligentes e gerem menos bobagens tóxicas é usar uma técnica chamada aprendizado por reforço a partir do feedback humano, que usa informações das pessoas para melhorar as respostas do modelo. E, que, hoje, conta com um pequeno exército de anotadores avaliando se uma sequência de texto faz sentido e soa fluente e natural. Eles decidem se uma resposta deve ser mantida no banco de dados do modelo de IA ou removida.

Os anotadores de dados estão envolvidos em todas as etapas do desenvolvimento da IA, desde o treinamento de modelos até a verificação de seus resultados e a oferta de feedback que possibilita o ajuste fino de um modelo após seu lançamento. Em outras palavras, anotadores humanos fornecem aos modelos de IA um contexto importante de que eles precisam para tomar decisões em escala e parecem sofisticados. Muitas vezes, são forçados a trabalhar em um ritmo incrivelmente rápido para cumprir metas altas e prazos apertados, diz Srravya Chandhiramowuli, PhD que estuda práticas trabalhistas em trabalho de dados na City, Universidade de Londres.