A Agência de Segurança Cibernética e de Infraestrutura dos Estados Unidos (CISA, na sigla em inglês) está utilizando o modelo de inteligência artificial Mythos, desenvolvido pela Anthropic, para auditar códigos de software do governo em busca de vulnerabilidades de segurança. A informação foi divulgada nesta segunda-feira (6) por três fontes com conhecimento do assunto à Reuters.

Segundo as fontes, a ferramenta está sendo empregada para analisar repositórios de código do governo estadunidense em busca de falhas que possam ser exploradas por espiões estrangeiros ou criminosos cibernéticos.

De acordo com uma das fontes, o trabalho de análise está sendo conduzido pela equipe Attack Surface Evaluation, unidade da CISA responsável por realizar avaliações de segurança digital e exercícios de invasão em órgãos do governo.

Duas das fontes afirmaram que as auditorias já identificaram um grande número de vulnerabilidades, mas não forneceram detalhes. A Reuters não conseguiu confirmar quanto código-fonte já foi analisado nem a quantidade, a natureza ou a gravidade das falhas encontradas.

Relação conturbada entre Anthropic e governo dos EUA

A utilização do Mythos pela CISA ocorre em meio a uma relação marcada por tensões entre a Anthropic e o governo dos Estados Unidos.

A empresa, sediada em San Francisco e que apresentou de forma confidencial um pedido de abertura de capital (IPO) nos Estados Unidos, enfrentou um dos momentos mais delicados dessa relação em fevereiro, quando se recusou a remover mecanismos de proteção que impediam que sua inteligência artificial fosse utilizada em armas autônomas ou em sistemas de vigilância doméstica.

Como consequência, o Departamento de Defesa dos Estados Unidos classificou formalmente a Anthropic como um risco para a cadeia de suprimentos, uma designação que, até então, havia sido aplicada apenas a empresas estrangeiras suspeitas de facilitar atividades de espionagem.

Essa medida acabou sendo bloqueada por um juiz em março. Desde então, o conflito diminuiu após o lançamento privado do Mythos, modelo de inteligência artificial descrito como altamente capaz de identificar e explorar vulnerabilidades de segurança cibernética.

Leia mais:

• 4 melhores inteligências artificiais para criar e editar vídeos
• Como evitar o mal da IA degenerativa?
• Anthropic pretende desenvolver medicamentos com uso de IA

NSA também testa modelo

Segundo informações publicadas anteriormente pelo Axios, a Agência de Segurança Nacional dos Estados Unidos (NSA) utiliza o Mythos desde pelo menos abril, mesmo durante o período em que a classificação de risco ainda estava em vigor.

No fim do mês passado, o jornal The New York Times informou que analistas da NSA vinham testando o modelo em ambientes classificados e haviam ficado impressionados com suas capacidades.

Posteriormente, a Anthropic lançou uma versão pública do Mythos chamada Fable, que, segundo a empresa, incluía mecanismos de proteção voltados para segurança cibernética.

Após esse lançamento, a Casa Branca exigiu que a Anthropic impedisse o acesso de usuários estrangeiros ao modelo. A decisão provocou uma suspensão global da ferramenta, que só foi encerrada na semana passada.

O que dizem os citados

A Reuters procurou a Anthropic, que não respondeu aos questionamentos sobre a iniciativa. Um representante da CISA informou no mês passado que verificaria se havia informações que poderiam ser compartilhadas sobre o projeto, mas não respondeu aos contatos posteriores. Por fim, a NSA não quis comentar o assunto.

O post EUA: agência usa IA da Anthropic para encontrar falhas em sistemas do governo apareceu primeiro em Olhar Digital.