Atenção à luz vermelha da IA
Em 12 de junho, o governo dos EUA obrigou a Anthropic a desligar Fable 5 e Mythos 5 no mundo todo, 72 horas após o lançamento. Para quem opera sobre IA de fronteira, o acesso passou a ser ativo revogável sem aviso.
Na sexta-feira, 12 de junho, 72 horas após o lançamento, a Anthropic desativou o acesso de pessoas fora dos EUA aos seus modelos Fable 5 e Mythos 5, obedecendo a uma ordem dada por carta pelo secretário de Comércio, Howard Lutnick, ao CEO da Anthropic, Dario Amodei.
Em tese, o governo norte-americano decidiu impor controles de exportação e bloquear o acesso de governos, empresas e indivíduos estrangeiros aos modelos de IA mais avançados da Anthropic, seguindo uma nova diretiva de Trump, publicada no dia 2 de junho, para promoção da inovação e da segurança em IA avançada.
- O motivo real da carta, no entanto, segue envolto em uma batalha de versões. Em uma delas, levantada pelo Axios, a Amazon teria enviado a autoridades do governo, na quinta-feira, um relatório que mostrava como eles conseguiram invadir e acessar partes do poderoso novo modelo Mythos da Anthropic, via jailbreak.
- A Anthropic afirma que o jailbreak relatado expôs apenas um pequeno número de vulnerabilidades relativamente menores, muitas das quais também poderiam ser identificadas usando outros modelos disponíveis publicamente. A empresa argumenta que nenhum modelo de IA de ponta é completamente resistente a jailbreaks e que aplicar esse padrão em toda a indústria tornaria os lançamentos futuros praticamente impossíveis.
- David Sacks, um VC que até recentemente trabalhava no governo Trump como czar da IA, acusou a Anthropic, em uma longa publicação no X, no sábado, de ser imprudente com o lançamento do Fable 5, por conta da existência de uma brecha de segurança. Afirma ainda que a Administração pediu ao CEO da Anthropic, Dario Amodei, que resolvesse o problema ou tornasse o modelo temporariamente indisponível. Altos funcionários do governo Trump, incluindo o secretário do Tesouro, Scott Bessent, e o diretor de segurança cibernética da Casa Branca, Sean Cairncross, teriam tentado pressionar o CEO Dario Amodei a aceitar uma pausa voluntária, o que a Anthropic não fez, argumentando que a brecha não era uma questão séria de segurança.
- Segundo Sacks, a ação de controle de exportação da Administração Trump teria sido uma resposta direta à recusa da Anthropic em abordar a vulnerabilidade relatada e foi tomada com relutância. A resolução, portanto, seria simples: Anthropic resolveria o problema, os controles de exportação seriam suspensos e o Fable retornaria à disponibilidade geral o mais rápido possível.
- A decisão da Casa Branca de iniciar um processo formal de supervisão de modelos de IA começou em abril, quando a Anthropic anunciou um novo modelo de IA, o Mythos, que, segundo a empresa, poderia encontrar vulnerabilidades de software e cibersegurança. Governo, bancos e outras entidades temiam que futuros modelos de IA pudessem encontrar vulnerabilidades que inimigos dos EUA explorariam.
- A diretiva que endereça a questão de segurança, publicada no dia 2 de junho, estabelece que as empresas de tecnologia concederiam voluntariamente ao governo um prazo de até 30 dias para revisar seus novos modelos de IA antes de disponibilizá-los ao público. A ordem também solicita ao secretário do Tesouro a criação de um “centro de informações sobre segurança cibernética” para IA, que analisaria as vulnerabilidades de segurança descobertas pelos modelos de IA.
- O que se viu na sexta-feira foi uma ordem emitida pelo Departamento de Comércio que inclui a IA no rol de produtos sujeitos ao controle de exportação pela possibilidade de colocar em risco a segurança nacional americana. Isso traz para a IA dos EUA, usada globalmente, uma regra de segurança que sempre valeu para supercomputadores e semicondutores, por exemplo.
- A Anthropic se defendeu dizendo que essas brechas também estão disponíveis em modelos menos potentes (inclusive de rivais)… mas ainda assim foi obrigada a restringir o uso por completo, já que seus próprios funcionários (e muitos clientes) se encaixam na definição de usuários estrangeiros.
- Mais. Se queixa de não ter tido opção de colaboração com o governo e relaciona a suspensão a desentendimentos anteriores entre a empresa e a administração Trump. Os dois lados estão envolvidos há meses em uma disputa sobre como os sistemas de IA da Anthropic poderiam ser usados em contextos militares e de inteligência, culminando com o Pentágono classificando a empresa como um risco para a cadeia de suprimentos.
- Autoridades do governo têm criticado a Anthropic e seu CEO, Dario Amodei. A empresa foi acusada de construir “IA politicamente correta”, enquanto figuras dentro do governo teriam descrito Amodei como um “lunático ideológico”.
- O impacto no produto: cerca de 80% do uso e atividade no Claude vem de fora dos Estados Unidos e perderão acesso se a medida se estender a outros modelos.
- O impacto na indústria: na semana passada Trump já havia flertado com a ideia de governo comprar participação (forçada ou não) em startups de IA nacionais.
Pano de fundo
Há meses, Anthropic argumenta que as capacidades de ponta da IA estão avançando mais rápido do que muitas pessoas imaginam. A empresa tem alertado repetidamente governos e o público sobre as potenciais consequências de sistemas cada vez mais sofisticados. Amodei continua a pressionar por medidas de segurança mais rigorosas e frequentemente se posiciona como um dos defensores mais eloquentes da governança da IA no setor.
Dois dias antes da proibição, em 10 de junho, o CEO da Anthropic havia publicado o ensaio “Policy on the AI Exponential“, argumentando explicitamente que os modelos de vanguarda deveriam ser regulamentados como aeronaves e que o lançamento de um modelo “deveria ser bloqueado ou revertido como uma ameaça à segurança pública” caso falhasse em testes independentes.
Na prática, o governo americano acabou por confirmar a afirmação de Amodei de que algumas formas de IA podem precisar de regulamentação e podem exigir controles de exportação. Validou efetivamente a ideia de que Anthropic merece tratamento especial. Nenhuma ação comparável foi tomada contra a OpenAI, o Google, a Meta ou qualquer outro grande desenvolvedor de IA.
“O que a Casa Branca fez parece arbitrário. E talvez até corrupto”, afirmou Gary Marcus. “Não ajuda o fato de a decisão de sexta-feira ter beneficiado a OpenAI, cujo presidente, Greg Brockman, é um grande doador, e também Josh Kushner, irmão de Jared Kushner, que é um grande investidor da OpenAI”, disse ele. “Não ajuda o fato de a decisão de sexta-feira ter beneficiado a Amazon (e ter sido motivada por um relatório da própria Amazon), uma grande investidora da OpenAI. Também não ajuda o fato de ter beneficiado indiretamente Jeff Bezos, que tem ligações com o governo.”
Depois de sexta-feira, a Casa Branca não poderá mais afirmar, com credibilidade, que nenhum modelo jamais deva ser regulamentado. A Casa Branca reconheceu que alguns modelos podem ser arriscados. De quebra, deu à Anthropic uma narrativa poderosa: a empresa construiu um modelo tão avançado que o governo dos EUA interveio. Essa narrativa pode, em última análise, se provar mais memorável do que o próprio lançamento do Fable e do Mythos 5.
O impacto na sua estratégia de IA
Bom, quando um governo decide restringir o acesso a um modelo de fronteira, a mensagem implícita é que essa tecnologia deixou de ser apenas um produto comercial e passou a ser considerada um ativo estratégico nacional.
Se essa decisão for mantida e se tornar um precedente regulatório, o debate passa a ser sobre quem terá autorização para utilizar os modelos mais avançados do mundo.
Em outras palavras, soberania deixará de ser sobre onde ficam os dados e passará a ser sobre quem controla o acesso aos modelos. A restrição a estrangeiros expõe um risco de dependência que a residência de dados sozinha não resolve: o controle sobre quem pode usar, dar suporte e desenvolver o modelo.
Se você é dono de empresa ou gestor, sua jornada de IA acabou de ficar bem mais complicada.
A decisão de IA, por mais agnóstica que seja quanto ao modelo, passa a carregar uma variável nova: a possibilidade de suspensão ou restrição de uso por ordem de governo, sem aviso.
Impactos no G7
Mesmo antes da divulgação das notícias sobre a Anthropic , já se esperava que as conversas na reunião do G7 de meados de junho fossem dominadas por perguntas sobre a “disposição dos EUA em cooperar com outros países em relação a inovações semelhantes ao Mythos que levantam questões de resiliência cibernética”, disse Tim Adams, ex-alto funcionário do Tesouro e atual diretor do Instituto de Finanças Internacionais, à MM na semana passada.
“Os EUA estarão sob pressão para oferecer aos seus homólogos garantias de que estes estarão a par da implementação desses modelos”, acrescentou. Isso inclui garantias de que “a tecnologia será compartilhada e que existem mecanismos de proteção para evitar que ela caia em mãos hostis”.
A proibição repentina alarmou os aliados dos EUA, após expor a facilidade com que essa tecnologia crucial pode ser desativada. Sir Keir Starmer está pressionando o governo Trump para permitir que britânicos usem os modelos de IA mais avançados da Anthropic. Downing Street espera que a intervenção abrangente seja temporária e seja substituída por um regime mais direcionado.
Na verdade, esta não é a primeira vez que o governo tenta impor controles de exportação para impedir que softwares de alto risco caiam em mãos erradas. De fato, já existem controles para softwares usados em sistemas de mísseis, simulações de batalha e outras aplicações de defesa.
No entanto, a regulamentação das exportações de software tem se mostrado um verdadeiro emaranhado de questões legais e logísticas. Embora a IA seja uma tecnologia excepcionalmente poderosa e transformadora, aqueles que tentam regulamentá-la com controles de exportação podem se deparar com desafios semelhantes aos encontrados em outros tipos de software.
“Em geral, controlar software é muito mais difícil do que controlar hardware, e não há razão para que isso não seja verdade neste caso”, disse Michael Horowitz, ex-secretário adjunto de Defesa na Casa Branca de Biden.
Os próximos dias prometem…
Segundo a Axios, funcionários técnicos seniores da Anthropic estão em Washington para se reunir com autoridades da Casa Branca e tentar resolver uma disputa que tirou do ar os principais modelos da empresa , disse uma fonte próxima à empresa ao Axios.
Por que isso importa: A Anthropic está se mobilizando rapidamente para se reconciliar com o governo Trump.
