Advogado usa ChatGPT e cita testemunhas que não existem em caso de homicídio

Um advogado de defesa em um caso de homicídio no estado americano do Novo México se viu em apuros depois que uma petição de recurso apresentada por sua equipe citou depoimentos de testemunhas policiais que simplesmente não existem. De acordo com o site KSL.com, a Suprema Corte do Novo México identificou as inconsistências e apontou que o material havia sido gerado com o uso do ChatGPT, sem qualquer verificação posterior por parte dos profissionais responsáveis pelo documento.

O caso reacende um problema já conhecido no meio jurídico: as chamadas “alucinações” de modelos de linguagem, quando a IA produz informações com aparência de veracidade, mas que são total ou parcialmente inventadas. No episódio relatado, o ChatGPT teria criado trechos de testemunhos atribuídos a policiais, incluindo detalhes que nunca foram registrados em nenhum boletim ou depoimento oficial do processo.

A defesa alegou que a inclusão do conteúdo fabricado foi um erro decorrente do uso da ferramenta de inteligência artificial para auxiliar na redação da petição, sem que houvesse a devida checagem antes do envio à corte. Episódios semelhantes já ocorreram em outros tribunais dos Estados Unidos, com advogados sendo multados ou repreendidos por apresentar jurisprudências e citações inexistentes geradas por chatbots.

O caso no Novo México reforça um alerta que juristas e especialistas em tecnologia vêm repetindo: ferramentas de IA generativa podem ser úteis para organizar ideias e agilizar a escrita, mas não substituem a verificação humana de fatos, especialmente em contextos como o judiciário, onde erros podem comprometer a credibilidade de um processo inteiro e prejudicar diretamente as partes envolvidas.