Desde o final de 2022, o furacão IA Generativa tomou conta do mercado e, de repente, siglas como LLM (Large Language Models – Grandes Modelos de Linguagem) passaram a ser familiares até para pessoas que não gravitavam no ecossistema de Machine Learning e processamento de linguagem natural. Plataformas de IA Generativa, como o ChatGPT, da OpenAI, abriram janelas para seus chats de conversa serem experimentados, ao mesmo tempo que desenvolveram um arsenal de APIs para que as empresas pudessem criar e integrar suas aplicações de IA com os LLMs.
Que oportunidades se abrem, quando as APIs se cruzam com os LLMs? Esse é o tema do painel “The Intersection of APIs and LLMs: Customization unlocking new risks and possibilities”, a ser apresentado por Scott Sandland, CEO e fundador da Cyrano.ai, durante o APIX 2023, o maior evento especializado em APIs da América Latina, que acontece no dia 22 de junho, no WTC, em São Paulo.
Sandland é hipnoterapista clínico, com mais de 20 anos de experiência com saúde mental, e também é um líder na área de Artificial Empathy (Empatia Artificial). Na Cyrano.ai, desenvolveu um sistema de entendimento de linguagem natural que melhora a interação entre seres humanos e comunicação via computador, e treina pessoas e máquinas para melhorar suas habilidades de ouvir e compreender empaticamente outros seres humanos. “Na interseção de LLMs e APIs há muita coisa envolvida. Há muita emoção, então vou ajudar a descompactar isso para as pessoas”, diz.
The Shift participou de uma entrevista com Scott Sandland, para antecipar detalhes do seu keynote no APIX 2023 e detalhar mais o conceito de empatia artificial e a combinação de LLMs e APIs. Abaixo você lê destaques da conversa. Para acompanhar ao vivo a apresentação de Sandland, cadastre-se gratuitamente na Jornada Online do APIX 2023.
Afinal, o que é Empatia Artificial?
Passei 20 anos no mundo da ética e da empatia, tendo conversas de alto valor, desconfortáveis, muitas vezes com pessoas que não queriam ter conversas de jeito nenhum. E assim, transformei minhas habilidades interpessoais, o relacionamento com as pessoas, a compreensão das pessoas em uma carreira. Enquanto eu fazia todo esse trabalho, eu estava observando, especialmente em adolescentes, a crise de saúde mental explodir, e a saúde mental deles era obviamente uma grande preocupação para mim.
Eu queria construir algo que pudesse focar nisso em escala e ajudar a fazer parte de uma solução. Com meu sócio, co-fundador da Cyrano, que é sociólogo, neurolinguista, criamos um sistema que presta atenção às pessoas da mesma forma que nós, humanos, prestamos atenção: reconhecendo seus valores, suas prioridades, seu estilo de aprendizagem, e o quanto estão comprometidos com o que estão falando. Coisas que um bom vendedor ou comunicador está o tempo todo calibrando.
A empatia não é só simpatia, é o desejo inerente de melhorar a situação daquela pessoa. E então construímos um sistema que faz isso e temos um monte de patentes registradas.
Quando falamos de LLMs e de plataformas como o ChatGPT, nós gostamos das eficiências que a IA traz e do modo coloquial da conversa. Por isso o ChatGPT se tornou tão popular. Todas essas coisas estão ajudando a educar os modelos de treinamento a serem mais centrados e a fingir uma compreensão dos sentimentos do interlocutor.
Mas se pudermos construir um sistema que realmente aprecie você, realmente o entenda e, como eu disse, queira ajudar a melhorar sua situação, isso abre um lado totalmente diferente da conversa. O detalhe importante é garantir que a IA e os humanos estejam alinhados. Garantir que a IA esteja realmente prestando atenção e não apenas usando a análise de sentimentos para determinar o que fará a seguir.
Quando a API se encontra com a IA
Uma das coisas boas sobre os LLMs é que eles são grandes modelos fundamentais que você pode personalizar e ajustar. O ChatGPT recebeu muita atenção por conta das suas APIs e da ideia de que, independente do tamanho da sua empresa, você consegue construir uma camada de aplicativo e levar sua API para se conectar ao modelo deles e alavancar milhões e milhões de usuários existentes.
O que vamos ver cada vez mais serão grupos de empresas construindo APIs a partir de seus serviços principais, ou novas empresas “API first” que aproveitarão esses grandes modelos de linguagem, seja o ChatGPT, seja o DALL-e. É uma arquitetura diferente, mas o ponto é você conseguir se conectar a essas plataformas, adicionando novos recursos, e apoiando sua estratégia nos ombros desses gigantes.
As APIs como estratégia fundamental
Nós somos uma empresa API First, portanto temos aplicações que construímos internamente conectadas às nossas próprias APIs. O que fazemos é linguístico, teoricamente podemos agregar valor em qualquer lugar onde tenham pessoas se comunicando. Isso criou um problema oceânico: como vou atender a todos esses clientes em potencial? Qual deve ser o primeiro mercado vertical ou indústria a ser atendido? Como é esse roteiro?
As APIs resolveram isso para nós. Porque ao invés de entrar em todos esses mercados, ou encontrar especialistas que dominam todos esses mercados, minha API é o recurso que me permite mover horizontalmente muito mais rápido do que faria de outra forma. Isso significa que posso encontrar uma parceria de canal no varejo, no setor automotivo, em revendas, no mercado financeiro, na área médica e em tantas outras verticais.
Ser uma empresa API first abre possibilidades para a Cyrano que simplesmente não poderíamos fazer com US$ 25 milhões. Por causa das APIs somos 10 vezes mais eficazes. E podemos conectar o que fazemos com essas empresas, clientes, etc. E elas, por sua vez, geram no mercado e nos seus clientes reconhecimento de marca, de marketing, simplesmente adicionando o recurso extra.
A jornada com a Sensedia
Nossa parceria com a Sensedia foi muito mais rápida do que eu esperava. Quando meu vice-presidente de desenvolvimento disse que precisávamos de uma plataforma como a da Sensedia, bloqueamos uma janela de 3 meses e meio para rever players. Checamos todos os quadrantes do Gartner e fizemos todos os procedimentos básicos quando se busca um parceiro de tecnologia. Reduzimos a lista de candidatos para cinco empresas. Minha conversa especificamente com o VP de vendas para a América do Norte da Sensedia foi importante.
Ele percebeu que o que eu queria fazer não era correr e quebrar o modelo de negócios. Porque a ética no nosso caso é muito importante. Com nossa API podemos potencializar a manipulação emocional, e isso é uma coisa extremamente importante, do ponto de vista ético, de acertar ao fazer. Queremos usar isso para o bem, especialmente em aplicativos de bem-estar social. E para fazer isso, temos que nos mover de forma mais metódica do que outras APIs.
Dissemos que queríamos ser capazes de autenticar todos os usuários. Queríamos ter camadas de controle para diferentes setores que não exigissem criar novas versões e que tivessem ramificações. Queríamos ter camadas de controle em cima de uma única API, em vez de criar um monte de versões diferentes. A equipe da Sensedia, em Cincinnati, não apenas entendeu os motivos, como também me mostrou formas de implantar isso eticamente e dimensionar com responsabilidade.
Eles também disseram que iriam descobrir a matemática desse processo, de forma que nos permitisse mover mais devagar do que muitos outros clientes e com um modelo financeiro que nos atendeu. A questão financeira foi um ótimo ponto, mas o mais importante é que eles entenderam o motivo por trás das nossas necessidades e foram eles que valorizaram isso. Isso os ajudou a tomar a decisão.
Para onde aponta o futuro da IA
Bom, eu acertei algumas vezes e errei algumas vezes recentemente, então vou tentar gerenciar as expectativas. Eu vi a OpenAI e a DeepMind construindo isso bem antes da COVID, você podia ver isso vindo pelo pipeline. Mas eu não vi os efeitos cascata gerados pela Meta lançando o Llama em código aberto.
A capacidade de ter plug-ins e APIs significa que a governança de API será cada vez mais importante. Do dia para a noite, alguém pode adicionar um multiplicador de força no LLM e isso significa novas coisas que você não esperaria que a IA pudesse fazer.
Abraçar o GPT é um ótimo exemplo. Basicamente, tudo na biblioteca de hugging faces agora pode ser implantado em uma interface de conversação, o que é absolutamente incrível. Então acho que veremos muito mais disso. Porque os humanos são principalmente criaturas guiadas por diálogos.
A comunicação eficaz é o que define a humanidade. E isso é a razão do ChatGPT ter um impacto muito maior do que a mudança da interface gráfica do usuário do DOS para o Windows. Porque nós usamos nossos olhos e pensamos olhando para as coisas, mas aprendemos com as palavras. E nós compartilhamos nossas ideias com palavras e fazemos perguntas com palavras
Não estou nem um pouco preocupado com um futuro tipo Exterminador do Futuro. Mas eestou definitivamente preocupado com os maus atores e idiotas e isso será importante de prestar atenção no curto prazo. Haverá algum bandido idiota que usará essa coisa para tentar piorar as situações, e esse é o ponto crucial do que precisa ser regulamentado.
Colocar essas ferramentas para funcionar será muito mais importante do lado de governança, porque a inovação vai se mover tão incrivelmente rápido e haverá tanto hype, que vamos surtar. Provavelmente serão os 3 anos mais inovadores que já tivemos. Acho que nos próximos três anos haverá mais inovação devido à IA do que em qualquer outra janela de três anos até agora na história.