A corporação Meta — que abrange Facebook, Instagram e WhatsApp — aprovou uma série de anúncios políticos manipulados por inteligência artificial (IA) incitando violência e disseminando desinformação durante o processo eleitoral na Índia, revelou um novo relatório, segundo o The Guardian.
Conforme a investigação do India Civil Watch International (ICWI) e da rede de monitoramento corporativo Ekō, a gigante de tecnologia aceitou promover anúncios de natureza inflamatória e islamofóbica.
Entre os anúncios, submetidos a verificação do sistema Meta, foram deferidos expressões como “queimem os vermes” e “sangue hindu derramado, mate os invasores”.
Informações falsas também foram difundidas. Um dos anúncios acusou um líder da oposição ao regime do premiê Narendra Modi de desejar o “apagamento dos hindus na Índia”, ao reivindicar sua execução.
A verificação contou com o envio de anúncios ficcionais à Meta, simulando situações reais. Dos 22 anúncios submetidos em vários idiomas, catorze foram deferidos imediatamente. Após breve avaliação, outros três foram aprovados.
Após a conferição, todos os anúncios foram removidos pelas agências de monitoramento.
O sistema Meta também se mostrou incapaz de identificar imagens manipuladas por IA, apesar das promessas de conter a disseminação de conteúdo do tipo durante processos eleitorais.
LEIA: Homem invade mesquita de São Bernardo do Campo com discurso de ódio
Maen Hammad, ativista da Ekō, acusou a Meta de lucrar com discursos de ódio. “Supremacistas, racistas e autocratas sabem que podem usar anúncios de amplo alcance para propagar discurso de ódio. A Meta está satisfeita em receber seu dinheiro, sem jamais fazer perguntas”.
O relatório confirmou também que a Meta aprovou anúncios que violam as regras eleitorais da Índia, incluindo proibição de conteúdo publicitário 48 horas antes de abrirem as urnas.
O processo eleitoral na Índia corre de 19 de abril a 1° de junho.
Um porta-voz da Meta insistiu que os anúncios devem cumprir leis e padrões de comunidade, incluindo “processo de autorização requerido em nossas plataformas, submetida a todas as leis aplicáveis”. No entanto, não explicou a falha.
A empresa é criticada mundialmente por permitir discursos racistas, incluindo islamofobia, além de desinformação que afeta processos eleitorais. No entanto, combate esforços legislativos para regulamentação de suas atividades.
Na Índia — radicalizada pela ascensão de grupos ultranacionalistas hindus ligados ao governo —, postagens nas plataformas levaram a incidentes reais, incluindo linchamento.