“Meu maior medo é que causemos danos significativos ao mundo”, disse o CEO da OpenAI, Sam Altman, aos congressistas americanos. “Esta é sua chance de nos dizer como fazer isso direito. Por favor, use-a. Fale em inglês simples e diga quais regras implementar”, pediu um dos senadores. E foi o que Altman fez, em clima ameno e colaborativo.
Não é comum ver lideranças pedindo aos legisladores que criem “requisitos de licenciamento ou registro” para os mercados de atuação de suas empresas. CEOs geralmente reclamam que os regulamentos prejudicam a competitividade, reduzem os lucros e matam empregos. Até por isso, a presença do CEO da OpenAI, Sam Altman, ontem, no Senado dos EUA (depois de um aconchegante jantar “educativo” com políticos na noite anterior) tenha chamado tanta atenção.
Altman praticamente rogou ao Congresso americano que aprove padrões de licenciamento e segurança para sistemas avançados de IA. E defendeu a criação de uma agência governamental internacional, nos moldes da Agência Internacional de Energia Atômica, para criação de regulamentos globais que lidem com os riscos associados a sistemas de IA cada vez mais poderosos. “Essa é uma tecnologia que devemos tratar com esse nível de seriedade”, disse a um grupo de repórteres após a audiência.
Este é um conteúdo exclusivo para assinantes.
Cadastre-se grátis para ler agora
e acesse 5 conteúdos por mês.
É assinante ou já tem senha? Faça login. Já recebe a newsletter? Ative seu acesso.
A16z levantou US$ 1,1 bilhão para o mundo físico da IA. É para lá que o capital corre em busca de proteção. Mas é lá que se acumulam a concentração, a dívida e os compromissos de longo prazo que podem amplificar o risco.
Levantamento com 1.563 profissionais mostra que 62% das empresas brasileiras já detectaram tentativas de ataque, mas quatro em cada dez organizações da América Latina ainda não conseguem enxergar as próprias falhas de segurança
O discurso mudou em Las Vegas: o desafio agora é fazer agentes operarem em escala, com múltiplos modelos, dados sob controle e humanos responsáveis pelas decisões que importam.
O avanço tecnológico depende menos da capacidade de produzir hipóteses do que da capacidade de descartá-las. É o que separa as empresas em que a IA acelera a inovação daquelas em que ela apenas acelera o erro.
Políticas e comitês não bastam quando a autoridade pode expirar no tempo e se ampliar pelo caminho. As empresas terão de construir uma camada capaz de identificar, limitar, revalidar e revogar o poder de cada agente antes que a ação a...
Reguladores, coalizões, protocolos da IETF e produtos tentam evitar que a capacidade de um agente vire autoridade só porque ele encontrou um caminho técnico até a ação.
Aproveite nossas promoções de renovação
Clique aquiPara continuar navegando como visitante, vá por aqui.
Cadastre-se grátis, leia até 5 conteúdos por mês,
e receba nossa newsletter diária.
Já recebe a newsletter? Ative seu acesso
