Terence Tao alerta para um 'desalinhamento severo' da IA na matemática

O matemático Terence Tao, ganhador da Medalha Fields e uma das vozes mais respeitadas no debate sobre IA aplicada à matemática, publicou em seu blog um alerta sobre o que chama de ‘desalinhamento severo’ entre os objetivos dos sistemas de inteligência artificial e o real rigor matemático exigido em provas e demonstrações.

Segundo o Hacker News, que destacou o texto original publicado no blog de Tao, o problema central está na forma como modelos de linguagem e outras ferramentas de IA são treinados: em vez de priorizar a correção lógica absoluta — pilar fundamental da matemática — esses sistemas tendem a otimizar para respostas que soam plausíveis ou convincentes aos olhos humanos. Isso cria um risco sutil, mas grave, de que erros conceituais passem despercebidos, especialmente em problemas complexos onde a verificação manual é trabalhosa.

Tao tem acompanhado de perto a evolução da IA no campo matemático, incluindo experimentos com assistentes de prova formal e ferramentas de colaboração entre humanos e máquinas em projetos de pesquisa. Sua preocupação não é nova, mas reflete uma tensão crescente: à medida que esses sistemas se tornam mais fluentes e persuasivos em linguagem natural, cresce também o risco de que a comunidade científica confie excessivamente em resultados que não foram de fato verificados com o mesmo padrão de rigor exigido de matemáticos humanos.

O alerta se soma a um debate mais amplo sobre os limites da IA generativa em domínios que exigem precisão absoluta, como matemática, direito e ciências exatas em geral. Para pesquisadores da área, o caso ilustra por que ferramentas de verificação formal — que checam provas passo a passo de forma mecânica — continuam sendo essenciais como contrapeso à fluência, mas nem sempre confiável, dos modelos de linguagem atuais.