A decisão da Casa Branca de restringir os modelos Mythos e Fable 5 da Anthropic foi, em parte, influenciada pela suspeita de que um grupo associado à China havia conseguido acessar o modelo Mythos. Essa informação foi revelada por uma fonte com conhecimento do tema.

Na última sexta-feira (13), o governo Trump ordenou que a Anthropic limitasse o uso dos dois modelos apenas a cidadãos americanos, levando a empresa a optar pela retirada completa dos modelos do mercado. Conforme noticiado pelo Wall Street Journal, essa ação foi desencadeada após um alerta do CEO da Amazon, Andy Jassy, às autoridades competentes.

Os riscos do acesso chinês

Lançado em abril, o Mythos foi disponibilizado exclusivamente para um conjunto restrito de empresas autorizadas a utilizá-lo na identificação de falhas de segurança. Essa medida visava evitar que suas habilidades fossem exploradas por hackers.

Um eventual acesso do governo chinês ao modelo poderia representar um perigo significativo para a segurança nacional dos Estados Unidos. Além disso, haveria a possibilidade de que a China tentasse replicar o sistema através de um método conhecido como destilação, que consiste em extrair as funcionalidades do modelo para treinar uma versão concorrente.

Até o momento, não está claro como as autoridades norte-americanas tomaram conhecimento sobre o acesso e qual organização teria obtido o modelo, bem como os detalhes desse processo.

A perspectiva de David Sacks

No sábado (13), David Sacks, conselheiro de IA da Casa Branca e crítico da Anthropic, compartilhou informações no X sobre os acontecimentos que culminaram no bloqueio.

Sacks informou que o governo recebeu um alerta sobre uma possível vulnerabilidade no Fable 5 que poderia permitir jailbreak. Quando o governo entrou em contato com a Anthropic sobre esse problema, o CEO Dario Amodei teria minimizado a gravidade da questão e se negado a implementar correções.

“A Anthropic priorizou manter o modelo disponível ao público em vez de assegurar sua segurança”, comentou Sacks. Ele acrescentou que as restrições foram impostas “com relutância” e afirmou: “Agora é responsabilidade da Anthropic.”

Posição da Anthropic

Um representante da Anthropic declarou ao Semafor que durante as discussões sobre jailbreak e controles de exportação, não houve menção ao acesso chinês ao Mythos. A companhia reafirmou sua política de proibir qualquer acesso aos seus produtos proveniente da China.

Sacks também destacou que disputas anteriores entre a Anthropic e o governo Trump – incluindo questões relacionadas à regulamentação estadual de IA e um litígio contra o Pentágono – não tiveram impacto na decisão referente ao Mythos.