Governador da Califórnia quer botão de emergência para desligar IA

O governador da Califórnia, Gavin Newsom, assinou nesta sexta-feira uma ordem executiva que coloca o estado na linha de frente da regulação de inteligência artificial nos Estados Unidos. Entre as medidas propostas está a criação de um mecanismo de desligamento remoto — um “kill switch” — para modelos de fronteira, aqueles considerados mais avançados e potencialmente arriscados do setor.

A ordem não implementa a exigência de imediato. Em vez disso, convoca um grupo de especialistas que terá até dois meses para apresentar recomendações concretas sobre como fortalecer as leis estaduais de segurança em IA. Além do botão de emergência, o grupo vai avaliar propostas como a obrigatoriedade de equipes de verificação independentes trabalhando dentro das próprias empresas para auditorias regulares, e a submissão de relatórios de transparência e avaliações de risco a padrões definidos por auditores externos.

A iniciativa reforça o papel da Califórnia como principal terreno de disputa regulatória para a IA nos EUA, dado que o estado concentra boa parte das gigantes do setor, incluindo OpenAI, Google e Anthropic. Newsom já havia sancionado neste ano outras leis sobre transparência em IA, e a nova ordem sinaliza que o estado pretende ir além, testando os limites do que pode ser exigido legalmente das empresas antes mesmo de uma regulação federal mais ampla.

O desfecho dessas recomendações — e se de fato se transformarão em lei — ainda é incerto, mas a proposta do kill switch já reacende o debate sobre até que ponto é tecnicamente viável, e politicamente aceitável, dar a um governo o poder de desligar sistemas de IA operados por empresas privadas.