Dá para fechar a Caixa de Pandora? Ou colocar o gênio de volta na garrafa? Foi um pouco assim, com um misto de ceticismo e incredulidade, que muita gente na comunidade científica recebeu a proposta dos signatários da carta do Future of Life Institute (FLI), incluindo Yuval Harari, Joshua Bengio, Stuart Russell, Elon Musk e Steve Wozniak, de uma pausa imediata no treinamento de sistemas de IA mais poderosos que o GPT-4 por ao menos seis meses, até que se desenvolva e implemente um conjunto de protocolos de segurança compartilhados para design e desenvolvimento avançado da tecnologia.
Ninguém é contra ao estabelecimento de regras para o desenvolvimento e uso da IA. Nem os adventistas como Bill Gates, como bem pontuou o advogado Ronaldo Lemos, ao desenhar os dois campos que começam a se estabelecer no debate sobre a tecnologia — Elon Musk e Yuval Harari lideram os apocalípticos. O que soou estranho foi a crença de que é possível parar.
"É uma péssima ideia. Não há uma maneira realista de implementar uma moratória e impedir que todas as equipes ampliem os LLMs, a menos que os governos intervenham", argumentou Andrew Ng, um dos nomes mais respeitados da indústria de IA, cofundador e chefe do Google Brain, ex-cientista-chefe da Baidu, professor adjunto na Universidade de Stanford, cofundador do Coursera e do deeplearning.ai.
Este é um conteúdo exclusivo para assinantes.
Cadastre-se grátis para ler agora
e acesse 5 conteúdos por mês.
É assinante ou já tem senha? Faça login. Já recebe a newsletter? Ative seu acesso.
A16z levantou US$ 1,1 bilhão para o mundo físico da IA. É para lá que o capital corre em busca de proteção. Mas é lá que se acumulam a concentração, a dívida e os compromissos de longo prazo que podem amplificar o risco.
Levantamento com 1.563 profissionais mostra que 62% das empresas brasileiras já detectaram tentativas de ataque, mas quatro em cada dez organizações da América Latina ainda não conseguem enxergar as próprias falhas de segurança
O discurso mudou em Las Vegas: o desafio agora é fazer agentes operarem em escala, com múltiplos modelos, dados sob controle e humanos responsáveis pelas decisões que importam.
O avanço tecnológico depende menos da capacidade de produzir hipóteses do que da capacidade de descartá-las. É o que separa as empresas em que a IA acelera a inovação daquelas em que ela apenas acelera o erro.
Políticas e comitês não bastam quando a autoridade pode expirar no tempo e se ampliar pelo caminho. As empresas terão de construir uma camada capaz de identificar, limitar, revalidar e revogar o poder de cada agente antes que a ação a...
Reguladores, coalizões, protocolos da IETF e produtos tentam evitar que a capacidade de um agente vire autoridade só porque ele encontrou um caminho técnico até a ação.
Aproveite nossas promoções de renovação
Clique aquiPara continuar navegando como visitante, vá por aqui.
Cadastre-se grátis, leia até 5 conteúdos por mês,
e receba nossa newsletter diária.
Já recebe a newsletter? Ative seu acesso
