OpenAI é alvo de 'hackeamento ético' que contou com ajuda do Claude, da Anthropic

A OpenAI foi submetida a um teste de segurança conduzido por pesquisadores que utilizaram o Claude, chatbot da concorrente Anthropic, como ferramenta de apoio no processo, segundo reportagem do jornal The Guardian. O caso chamou atenção por evidenciar como sistemas de inteligência artificial de uma empresa podem ser empregados para investigar falhas em produtos de rivais do setor.

Esse tipo de prática, conhecida como ‘hacking ético’, consiste em testar deliberadamente as defesas de uma organização com autorização prévia, justamente para identificar brechas antes que agentes mal-intencionados possam explorá-las. A novidade, nesse caso, está no uso de um modelo de linguagem avançado como o Claude para auxiliar na descoberta e exploração de vulnerabilidades, um cenário que reforça preocupações crescentes sobre o duplo uso de chatbots avançados.

A indústria de IA tem debatido intensamente os riscos de segurança associados a modelos cada vez mais capazes. Empresas como OpenAI e Anthropic investem em equipes dedicadas a testes de resistência, os chamados ‘red teams’, mas episódios como esse mostram que a linha entre pesquisa de segurança legítima e uso indevido de ferramentas de IA pode ser tênue.

Ainda não está claro, com base nas informações disponíveis, se o teste revelou falhas críticas nos sistemas da OpenAI ou qual foi a resposta da empresa ao incidente. O episódio, no entanto, deve alimentar discussões sobre como fabricantes de IA podem colaborar — ou entrar em conflito — na tarefa de tornar seus produtos mais seguros diante de ameaças que envolvem as próprias tecnologias que eles criam.