No final de julho, o Reino Unido foi abalado por um ataque em Southport, onde três crianças e dois adultos perderam a vida. No mesmo dia, uma conta no X com mais de 400 mil seguidores divulgou uma imagem gerada por Inteligência Artificial (IA), mostrando homens em vestes muçulmanas, armados com facas, perseguindo um bebê. Ao fundo, o Parlamento britânico e a mensagem “precisamos proteger nossas crianças”. Até a última sexta-feira (9), a postagem havia alcançado 920 mil visualizações. Desde então, o perfil vem utilizando imagens geradas por IA para incitar manifestações violentas que têm se espalhado por várias cidades britânicas, revelou O Globo.

Essa tática de disseminar mensagens de ódio e desinformação utilizando IA tem se tornado uma ferramenta poderosa nas mãos de grupos extremistas. Eles desafiam os mecanismos de controle das plataformas digitais, usando imagens, áudios e vídeos sintéticos para atrair novos apoiadores e propagar discursos violentos. Um relatório extenso, produzido pelo Middle East Media Research Institute (Memri), documenta como a IA tem sido instrumentalizada por essas organizações, destacando dezenas de casos de conteúdo criado por IA que fomentam discursos de ódio.

IA a serviço do ódio

Os casos de uso de IA vão desde músicas com vozes clonadas de artistas famosos, como Taylor Swift, pregando violência contra pessoas negras, até imagens estereotipadas de judeus alimentando teorias conspiratórias. Essas criações são amplamente disseminadas em plataformas como Telegram e X. Além disso, a IA também tem sido usada na clonagem de vozes de figuras políticas para transmitir discursos supremacistas ou neonazistas.

Um exemplo documentado pelo Memri envolve Rinaldo Nazzaro, ex-líder do grupo neonazista “A Base”, que foi recentemente adicionado à lista da União Europeia de organizações terroristas. Em uma comunidade do Telegram, Nazzaro compartilhou prints de uma conversa com o ChatGPT, destacando vulnerabilidades em redes de infraestrutura crítica dos EUA.

Impactos globais

Além do Reino Unido, há uma preocupação crescente com o uso de IA por grupos extremistas em outras regiões, incluindo a América Latina. Relatórios recentes mostram um aumento da ideologia neonazista em países como México, Colômbia, Equador e Argentina. Esses desenvolvimentos colocam a região em alerta, com monitoramentos constantes por parte de organizações de pesquisa como o Memri.

A apropriação da IA por esses grupos extremistas não só amplifica suas mensagens, mas também potencializa sua capacidade de ação no mundo real, evidenciando os perigos que a combinação de tecnologia avançada e ideologias violentas podem trazer para a sociedade global.

*Com informações de O Globo