Meta deixou passar centenas de anúncios com conteúdo de abuso infantil gerado por IA

A Meta falhou em barrar centenas de anúncios contendo imagens de abuso sexual infantil geradas por inteligência artificial em suas plataformas, segundo reportagem da Wired. Parte desse material, de acordo com a publicação, teria sido criada a partir de fotos de crianças reais, manipuladas por ferramentas de IA generativa para produzir conteúdo sexualizado.

O caso reacende o debate sobre a capacidade das big techs de moderar conteúdo produzido por inteligência artificial em escala. Sistemas automatizados de revisão de anúncios, que normalmente combinam algoritmos e checagem humana, teriam deixado passar esse tipo de material por um período prolongado antes que fosse identificado e removido.

A Meta já enfrentou críticas anteriores por dificuldades em conter a disseminação de conteúdo relacionado a exploração infantil em suas redes, incluindo Facebook e Instagram. Com o avanço de ferramentas de geração de imagens por IA, cresce a preocupação entre especialistas em segurança digital de que esse tipo de abuso se torne mais difícil de detectar, já que as imagens sintéticas podem escapar de bancos de dados tradicionais usados para identificar material de abuso infantil já catalogado.

A reportagem da Wired detalha como esses anúncios conseguiram driblar os filtros da empresa, levantando questionamentos sobre a eficácia das políticas internas de segurança e sobre a velocidade de resposta da Meta diante de denúncias. A empresa não teria comentado publicamente todos os detalhes do caso até a publicação da matéria.

O episódio deve pressionar reguladores e organizações de proteção à infância a cobrar mudanças mais rígidas nas políticas de moderação das plataformas, especialmente diante do crescimento acelerado de conteúdo gerado por inteligência artificial na internet.