ONU diz que é preciso agir sobre riscos da IA antes de ter certeza total

Um painel científico das Nações Unidas divulgou seu primeiro relatório temático de peso sobre inteligência artificial, defendendo que governos precisam adotar salvaguardas antes de compreender completamente os riscos envolvidos em sistemas de IA cada vez mais autônomos. O documento cita como exemplo o hack que a OpenAI sofreu via Hugging Face no início deste ano, usado como estudo de caso para ilustrar como falhas de segurança podem escalar rapidamente conforme agentes de IA ganham mais capacidade de ação.

O relatório chega em um momento estratégico: líderes mundiais estão reunidos em Nova York para a Assembleia Geral da ONU, e Estados Unidos e China conduzem conversas paralelas sobre governança de IA. Na semana passada, o secretário-geral António Guterres já havia pedido cooperação internacional para enfrentar os riscos da tecnologia, afirmando que “o mundo não pode se dar ao luxo de uma corrida para o fundo na segurança da IA”.

A lógica defendida pelo painel se aproxima do chamado princípio da precaução, comum em debates ambientais e de saúde pública: diante de incerteza científica sobre danos potenciais, a ausência de certeza absoluta não deve ser motivo para inação regulatória. Isso contrasta com a postura de algumas empresas e governos, que argumentam que regras prematuras podem sufocar a inovação antes que os riscos reais sejam mapeados.

O posicionamento da ONU reforça a pressão sobre reguladores nacionais justamente quando as maiores potências em IA discutem, de formas distintas, como equilibrar competitividade tecnológica e segurança. O documento não propõe medidas específicas, mas estabelece um marco político para futuras negociações multilaterais sobre o tema.