Pesquisador da Anthropic estima em mais de 10% a chance de IA "exterminar a humanidade"

Um pesquisador da Anthropic, empresa de inteligência artificial fundada por ex-funcionários da OpenAI e conhecida por seu foco declarado em segurança de IA, afirmou que vê uma probabilidade superior a 10% de que sistemas avançados de IA possam, em algum cenário futuro, causar a extinção da humanidade. A declaração, divulgada pela CBS News, reacende um debate que já é recorrente entre cientistas e executivos do setor: o chamado “p(doom)”, ou probabilidade estimada de um desfecho catastrófico ligado ao desenvolvimento descontrolado de inteligência artificial.

Esse tipo de estimativa não é unânime nem tem metodologia científica rígida — trata-se, na maioria das vezes, de uma avaliação subjetiva feita por especialistas que acompanham de perto os avanços e os riscos técnicos da área. Ainda assim, o fato de vir de dentro de uma das empresas mais influentes em pesquisa de IA chama atenção, já que a Anthropic construiu parte de sua reputação justamente ao se posicionar como uma organização preocupada em desenvolver tecnologia “de forma segura e responsável”.

Segundo a CBS News, a fala se soma a um coro crescente de vozes dentro da própria indústria que alertam para os perigos de uma corrida acelerada por sistemas cada vez mais capazes, muitas vezes citando cenários em que modelos avançados poderiam agir de forma imprevisível ou fugir do controle humano. Esse discurso contrasta com o ritmo de lançamentos e investimentos bilionários que empresas como Anthropic, OpenAI e Google DeepMind mantêm simultaneamente.

O episódio reforça uma tensão já conhecida no setor: as mesmas companhias que mais investem em levar a IA a novos patamares de capacidade são também as que mais alertam publicamente sobre seus riscos. Para críticos, isso levanta questionamentos sobre até que ponto esses alertas influenciam decisões concretas de desenvolvimento e regulação, ou se funcionam apenas como um gesto retórico diante de um mercado extremamente competitivo.