Quem deve criar e aplicar as regras para controle dos grandes modelos de linguagem?

A corrida para incorporar ferramentas derivadas de grandes modelos de linguagem (como o GPT-3 e superiores) aos fluxos de trabalho das empresas já começou. Mas da mesma forma que a mídia americana descobriu semana passada, também os usuários corporativos já perceberam que esses modelos nem sempre são factuais ou logicamente consistentes; têm conhecimento de eventos ocorridos após o seu treinamento ou são capazes de evitar discurso de ódio e outros conteúdos nocivos, só para citar mazelas recorrentes.

A OpenAI, criadora do ChatGPT, sempre enfatizou que ele ainda é apenas um projeto de pesquisa, em evolução constante à medida que recebe o feedback das pessoas. O que não impediu a Microsoft de integrá-lo a uma nova versão do Bing — e decepcionar, após relatos dos primeiros beta testers. A ponto de implementar restrições significativas — incluindo um limite de 50 respostas totais por dia, bem como cinco turnos de bate-papo por sessão — para tentar reprimir respostas desequilibradas que ela já sabia que ocorreriam.

Resultado: todo o hype em torno da IA Generativa e da incorporação dos chatbots às buscas aqueceu o debate sobre os riscos da IA, iniciando outra corrida, pela criação de regras e abordagens capazes de tornar ferramentas como o ChatGPT mais precisas, consistentes e atualizadas.