Anthropic diz que agentes ligados ao Irã usaram Claude para planejar ataques a navios da Marinha dos EUA

A Anthropic, desenvolvedora do modelo de inteligência artificial Claude, afirmou ter descoberto que agentes ligados ao Irã utilizaram sua tecnologia para auxiliar em atividades voltadas contra navios de guerra da Marinha dos Estados Unidos, segundo reportagem do Wall Street Journal.

De acordo com a empresa, o uso indevido teria envolvido a busca por informações técnicas e apoio analítico que poderiam ser aplicados no planejamento de ações contra embarcações militares norte-americanas. A Anthropic não detalhou publicamente até que ponto essas tentativas avançaram ou se resultaram em algum incidente concreto envolvendo as forças navais dos EUA.

A empresa tem publicado, nos últimos meses, uma série de relatórios sobre tentativas de atores estatais — incluindo grupos ligados a China, Coreia do Norte e agora o Irã — de utilizar seus modelos de IA para fins que violam suas políticas de uso, como operações cibernéticas maliciosas, campanhas de desinformação e, neste caso, possível suporte a atividades militares hostis.

Casos como esse reacendem o debate sobre os riscos de modelos de linguagem avançados serem explorados por governos ou grupos com interesses geopolíticos conflitantes com os dos Estados Unidos, mesmo quando as empresas por trás dessas tecnologias implementam mecanismos de segurança e monitoramento. A Anthropic afirma que, ao identificar esse tipo de uso, suspende as contas envolvidas e coopera com agências de segurança quando necessário.

O episódio também levanta questões sobre até que ponto ferramentas de IA de uso geral, criadas para fins comerciais e de pesquisa, podem ser adaptadas para objetivos militares ou de inteligência por atores mal-intencionados, um tema que deve ganhar ainda mais atenção de reguladores e do próprio setor de tecnologia nos próximos meses.