Neonazistas e supremacistas brancos em todo o mundo recorrem à inteligência artificial para promover sua mensagem, espalhar desinformação e ajudar em sua causa
Desde 2022, a tecnologia de Inteligência Artificial (IA) avançou meteoricamente, com impactos fundamentais na sociedade, tanto positivos como negativos.
MEMRI - The Middle East Media Research Institute
Steven Stalinsky, Ph.D., Dr. Simon A. Purdue, R. Sosnow, A. Smith, A. Agron, N. Szerman, Natan Rosenfeld, Heath Sloane, Anatoly Strandberg, J. Hughes, K. Lee, and Lorena Avraham* - 20 JAN, 2024
Desde 2022, a tecnologia de Inteligência Artificial (IA) avançou meteoricamente, com impactos fundamentais na sociedade, tanto positivos como negativos. Além da sua contribuição significativa para a produtividade, a criatividade e a otimização do fluxo de trabalho, é um fator na erosão contínua da confiança online e turvou ainda mais o panorama da informação. A IA está a tornar-se cada vez mais controversa à medida que a sua utilização é cada vez mais generalizada em todos os setores da população e à medida que os produtos que é capaz de gerar são cada vez mais difíceis de distinguir dos conteúdos não gerados pela IA.
Uma área de particular preocupação nos últimos meses tem sido a adopção generalizada da tecnologia de IA por grupos extremistas e indivíduos de todo o espectro ideológico, e a sua utilização de IA generativa para disseminar propaganda e desinformação, bem como para fomentar o ódio. Para os neonazis e os supremacistas brancos em particular, é uma arma fundamental no seu arsenal online, e eles implementaram de forma muito eficaz conteúdo gerado por IA como um disruptor tanto nos principais espaços online como nos seus próprios canais.
PARA LER O RELATÓRIO COMPLETO, O GOVERNO E A MÍDIA PODEM SOLICITAR UMA CÓPIA ESCREVER PARA DTTMSUBS@MEMRI.ORG COM O TÍTULO DO RELATÓRIO NA LINHA DE ASSUNTO. POR FAVOR, INCLUA DETALHES ORGANIZACIONAIS COMPLETOS E UM ENDEREÇO DE E-MAIL OFICIAL NO SEU PEDIDO. NOTA: PODEMOS FORNECER UMA CÓPIA SOMENTE PARA MEMBROS DO GOVERNO, APLICAÇÕES DA LEI, MÍDIA E ACADEMIA, E PARA ASSINANTES
Os neonazistas são novamente os primeiros a adotar
A adoção precoce da tecnologia pelos neonazistas não é novidade. Desde os primórdios da World Wide Web, os extremistas racistas têm estado entre os primeiros a adoptar, cooptar e utilizar indevidamente tecnologias emergentes para promover a sua agenda odiosa.[1] Na verdade, o Movimento de Criatividade supremacista branco de Matthew Hale foi um dos primeiros movimentos organizados a alojar o seu próprio quadro de mensagens online no início da década de 1990, e a Stormfront liderou o grupo na transformação do seu antigo Bulletin Board System (BBS) num website funcional em 1995.
À medida que a tecnologia avançou, também avançou a sua utilização pelos extremistas. Desde o surgimento das redes sociais e dos meios de comunicação social na década de 2000 até à utilização de drones pessoais, projetores laser, criptomoedas e encriptação online nos últimos anos, os neonazis mudaram prontamente as suas estratégias para incorporar avanços.[2] Fizeram-no, em grande parte, em resposta ao escrutínio e à perceção de perseguição por parte das autoridades, do governo, das empresas tecnológicas e dos utilizadores da Internet.
Os extremistas foram retirados dos principais sites ao longo dos anos, muitas vezes por atacado após grandes eventos como o Unite the Right Rally de 2017 ou os eventos de 6 de janeiro no Capitólio. Assim, são regularmente forçados a encontrar novas tecnologias para difundir a sua mensagem de forma inabalável e para evitar a detecção, a desplataforma ou mesmo acções legais. As tecnologias que lhes permitem operar por trás de um véu de anonimato são particularmente bem-vindas e são fornecidas pela criptomoeda, pela criptografia e, agora, pela IA. Como resultado, estamos agora numa nova era de extremismo online.
James Mason, ideólogo neonazista, autor do manual de terror aceleracionista Siege, e veterano de 60 anos do movimento, disse em uma transmissão ao vivo em abril de 2022: “A Internet, para nós, foi a melhor coisa que já existiu. Estou tão impressionado hoje em dia, nos últimos anos, com a capacidade de alguns dos nossos em produzir grandes vídeos de propaganda, dentro dos computadores... Está a atingir milhares de pessoas... e sem risco para nós mesmos, e essencialmente sem nenhum custo. . É fabuloso."[3] Assim, Mason articula sucintamente o papel vital das tecnologias emergentes na facilitação do ativismo neonazista e como avanços como a IA serão um multiplicador de força para o movimento extremista racista internacional.
MEMRI – Na vanguarda do monitoramento do uso extremista da IA
O MEMRI DTTM tem estado na vanguarda da monitorização desta adoção precoce de tecnologias por grupos e indivíduos extremistas nos últimos anos, e tem reportado extensivamente sobre estes avanços. A pesquisa da DTTM incluiu uma série inovadora de duas partes sobre o uso da criptomoeda por neonazistas e supremacistas brancos; A Parte I foi publicada em julho de 2022 e a Parte II um ano depois.[4]
A cobertura da IA pela equipa DTTM não tem sido diferente, e temos reportado extensivamente sobre a utilização destas tecnologias disruptivas emergentes por extremistas desde que as tecnologias generativas de IA surgiram pela primeira vez na cena pública online. A Parte I da revisão abrangente do DTTM sobre os usos extremistas da IA foi publicada em maio de 2023, quando o boom da IA generativa ainda estava em seus estágios iniciais, e a Parte II é publicada aqui. Esta revisão em duas partes é inovadora e abrangente, oferecendo uma visão completa de como e por que grupos neonazistas e de supremacia branca em todo o mundo estão usando a IA como uma ferramenta vital em seu ativismo.
O uso extremista da IA continua a evoluir
A utilização extremista da tecnologia de IA está a evoluir e a mudar rapidamente, e à medida que novas capacidades geradoras são desenvolvidas por empresas líderes como a OpenAI, a Google e a Microsoft, também o são os novos métodos de difusão da propaganda neonazi.
Geração de imagem
A principal capacidade que, de muitas maneiras, lançou o atual boom da IA foi e continua sendo a geração de imagens. Ferramentas como Dall-E e Midjourney da OpenAI permitem aos usuários converter pequenos prompts de texto em imagens cada vez mais avançadas e realistas. A natureza dessas imagens varia de pôsteres de filmes animados no estilo Pixar a representações fotorrealistas de celebridades ou cenas da natureza. Embora as principais plataformas imponham pesadas restrições à geração de conteúdos extremistas, a democratização da tecnologia permitiu que os extremistas desenvolvessem os seus próprios motores ou encontrassem lacunas que lhes permitissem criar imagens explicitamente extremistas.
Usuários anti-semitas usaram a tecnologia para caricaturar figuras públicas como estereotipadas judias. Por exemplo, um canal neonazista irlandês postou uma imagem gerada por IA de Elon Musk como um judeu ortodoxo, escrevendo: “A preferência de Elon Musk é dada a contas judaicas no X. 33% de suas interações são com judeus. poderosos ativistas políticos nos EUA e no Reino Unido que defendem os direitos dos povos europeus. Embora ele faça bons comentários como '[o ex-primeiro-ministro irlandês Leo] Varadkar odeia o povo irlandês.' Devido à sua proximidade com os judeus e à censura dos ativistas europeus que têm a capacidade de lutar contra a destruição das suas nações, ele é um negativo líquido”. A postagem incluía um link para um vídeo do YouTube intitulado “Percebi algo interessante sobre os tweets de Elon Musk”.
Outro usuário criou um I.A. gerou a imagem da nova presidente eleita do México, Claudia Sheinbaum, mostrando-a como uma figura judia fortemente caricaturada.
Os usuários também usaram a tecnologia para caricaturar outros grupos étnicos, incluindo asiático-americanos, afro-americanos, a comunidade Latinx e outros. Um usuário da supremacia branca criou um pôster no estilo Pixar mostrando George Floyd segurando uma pílula e parecendo embriagado, junto com o título “Overdose”, sugerindo que Floyd morreu de overdose de drogas, e não como resultado de força excessiva nas mãos do então- Oficial do MPD Derek Chauvin.
Outros supremacistas brancos online usaram recentemente a tecnologia para gerar conteúdo relacionado ao genocídio branco e às grandes teorias da conspiração de substituição. No X, um usuário neonazista viu uma imagem gerada por IA de uma multidão de mulheres brancas reunidas em uma praça ao ar livre com o texto "Queremos que nosso mundo 'somente para brancos' volte!!" O usuário escreveu: “O mundo somente branco está voltando e permanecendo permanentemente. Os europeus serão educados sobre os judeus e o que eles fizeram conosco durante mais de 100 anos de mentira, censura e camaleão em sua maneira de manipular os europeus contra nossos próprios interesses. não vencerão.
Também abundam conteúdos mais violentos relacionados com as mesmas teorias da conspiração, especialmente entre comunidades aceleracionistas online. Um usuário canadense postou uma imagem gerada por IA de dois homens com uma pilha de armas e munições parados em um telhado olhando para uma grande multidão no chão e um prédio “China Tire” em chamas. O usuário escreveu: “É hora de trazer os canadenses dos telhados” – uma alusão aos “coreanos dos telhados”, os empresários coreano-americanos que se armaram e defenderam suas propriedades dos desordeiros durante os distúrbios de Los Angeles em 1992. Da mesma forma, os usuários usaram a tecnologia para defender a violência contra a comunidade LGBTQ+, incluindo uma imagem que mostrava um artista drag sendo jogado para fora de um helicóptero.
Os neonazistas também usaram a tecnologia para glorificar o regime nazista e criar gráficos glorificando os soldados da Wehrmacht e da SS, apresentando-os como defensores contra ideologias progressistas. Um usuário Neo-Nazi X postou novamente uma imagem gerada por IA mostrando um soldado SS se preparando para esfaquear uma grande serpente com as cores da Bandeira do Orgulho do Progresso em sua barriga. O usuário original escreveu: “É hora de cortar a cabeça da cobra. Chega de fazer lavagem cerebral em nossos filhos com sua degeneração nojenta”. O postador respondeu: "É hora de destruí-los de uma vez por todas! Quem está comigo?"
Da mesma forma, no Telegram, em uma sala de bate-papo neonazista, o administrador compartilhou, em 6 de março, uma imagem gerada por IA de um soldado da Wehrmacht com uma auréola sonnenrad se preparando para esfaquear um demônio com um pingente de estrela de David, com o texto “ Vitória Ariana Total."
Tradução
Um dos avanços mais recentes amplamente adotados pelos extremistas é a tradução de conteúdo de vídeo ou áudio, e até mesmo a manipulação de vídeo para sincronizar os movimentos dos lábios com o áudio traduzido. Nos últimos meses, uma série de discursos de Hitler, Goebbels e Mussolini traduzidos por IA têm circulado em canais extremistas nas redes sociais, com muitos a utilizar o conteúdo para defender o genocídio ou para alegar que Hitler foi mal compreendido. Este avanço também tornou mais fácil para os ideólogos extremistas contemporâneos alcançar audiências internacionais mais amplas – uma preocupação crescente num ambiente de crescente polinização cruzada ideológica e cooperação interideológica entre movimentos extremistas, particularmente entre neonazis e grupos anti-Israel no Médio Oriente. .
Um usuário Neo-Nazi X postou em 11 de abril um vídeo de um discurso traduzido por IA de Joseph Goebbels e escreveu “White Power”.
Da mesma forma, um canal neonazista do Telegram postou um vídeo apresentando traduções de discursos de Hitler por IA, escrevendo "Os discursos de Adolph Hitler estão sendo traduzidos por IA".
Geração de Vídeo
A geração de vídeos e, por extensão, a manipulação de vídeos, oferecem outra forma de os grupos extremistas utilizarem a IA para espalharem desinformação e propaganda. Os neonazistas usaram-no, incluindo Sora da OpenAI, para produzir vídeos de Hitler dançando em frente a um estádio lotado e para gerar vídeos emocionantes lamentando a substituição de White. Esta tecnologia, à medida que se desenvolve, representará provavelmente a maior ameaça à segurança, especialmente porque pode ser utilizada para gerar vídeos falsos de celebridades e figuras políticas, perpetuando a erosão da confiança e sendo utilizada na guerra de informação.
O exemplo recente mais proeminente, que foi amplamente divulgado no X, mostra Hitler dançando diante de uma multidão de milhares de pessoas. Versões anteriores do vídeo mostraram o original a partir do qual o vídeo de Hitler foi modelado, que retrata um show de Lil Yachty.
Emulação de voz
Da mesma forma, a emulação de voz pode e tem sido usada para falsificar clipes de áudio de figuras políticas tradicionais dizendo coisas comprometedoras ou avançando pontos de discussão da supremacia branca ou neonazistas. Pequenos clipes de áudio reais podem ser usados para clonar vozes, o que permite que os extremistas manipulem essas vozes e façam com que digam o que quiserem.
Por exemplo, em 2 de abril de 2024, um neonazista encaminhou um vídeo racista de um canal neonazista do Telegram. O vídeo zomba de documentários sobre a natureza narrados pelo historiador natural britânico David Attenborough. Especificamente, o vídeo apresenta narração gerada por IA em sua voz, fazendo comentários racistas sobre os indianos, chamando-os de subumanos e dizendo que procuram exportar um modo de vida precário para outros países.
Um usuário neonazista conhecido por criar vídeos deepfake escreveu no Gab: “Um bom cavalheiro me contatou no Telegram para me avisar que assistiu meu tutorial sobre deepfakes! Adoro quando os brancos assumem o controle da narrativa para esclarecer as coisas. Principalmente usando as imagens desses usurpadores e enganadores, não sei se ele está no Gab, mas espero que esteja, e que dê uma resposta aqui! , para que eu possa segui-lo!" O deepfake incluído na postagem mostra o pastor americano John Hagee fazendo um sermão anti-semita.
Geração Musical
Finalmente, uma onda de música gerada por IA está agora a espalhar-se pelas redes sociais e, naturalmente, isto inclui algum conteúdo musical abertamente extremista. Os neonazistas usaram a geração musical de IA para produzir canções racistas e conspiratórias e espalharam esse conteúdo no X e em outras plataformas.
Em um canal aceleracionista neonazista no Telegram, um usuário compartilhou uma música gerada por IA chamada “Doomsday Eclipse”, que foi gerada usando o mecanismo Suno AI.
CLICA AQUI PARA CONTINUAR LENDO NO ORIGINA E VER MAIS IMAGENS >