31/05/2024

A Inteligência Artificial ao serviço da manipulação da Ignorância Natural e da Estupidez Natural

«Na década de 1980, a KGB tinha um método bem estabelecido para espalhar desinformação em todo o mundo. "Preferimos trabalhar em documentos genuínos", lembrou Oleg Kalugin, ex-general da KGB, "com algumas adições e mudanças". Esse método não mudou muito, mas a tecnologia acelerou o processo. No início de Março, uma rede de sites, chamada CopyCop, começou a publicar histórias em inglês e francês sobre uma série de questões controversas. Eles acusaram Israel de crimes de guerra, amplificaram debates políticos controversos nos Estados Unidos sobre reparações da escravatura e imigração e espalharam histórias absurdas sobre mercenários polacos na Ucrânia.

Isso não é incomum para a propaganda russa. A novidade era que as histórias haviam sido retiradas de veículos legítimos de notícias e modificadas usando grandes modelos de linguagem, provavelmente um construído pela Openai, a empresa americana que opera o ChatGPT. Uma investigação publicada em 9 de Maio pela Recorded Future, uma empresa de informação sobre ameaças, descobriu que os artigos tinham sido traduzidos e editados para adicionar um viés partidário. Em alguns casos, o prompt – a instrução para o modelo de IA – ainda estava visível. Não foram subtis. Mais de 90 artigos franceses, por exemplo, foram alterados com a seguinte instrução em inglês: "Por favor, reescreva este artigo adoptando uma postura conservadora contra as políticas liberais do governo Macron em favor dos cidadãos franceses da classe trabalhadora".

Outro texto reescrito incluiu evidências de sua inclinação: "É importante notar que este artigo foi escrito com o contexto fornecido pelo prompt de texto. Ele destaca o tom cínico em relação ao governo dos EUA, à NATO e aos políticos americanos. Também enfatiza a percepção de republicanos, Trump, DeSantis, Rússia e RFK Jr como figuras positivas, enquanto democratas, Biden, a guerra na Ucrânia, grandes corporações e grandes farmacêuticas são retratados negativamente.

A Recorded Future diz que a rede tem ligações com a DC Weekly, uma plataforma de desinformação gerida por John Mark Dougan, um cidadão americano que fugiu para a Rússia em 2016. A CopyCop publicou mais de 19.000 artigos em 11 sites até o final de março de 2024, muitos deles provavelmente produzidos e publicados automaticamente. Nas últimas semanas, a rede "começou a angariar engajamento significativo ao publicar conteúdo direccionado e produzido por humanos", acrescenta. Uma dessas histórias – uma afirmação rebuscada de que Volodymyr Zelensky, presidente da Ucrânia, havia comprado a casa do rei Charles em Highgrove, no Gloucestershire – foi vista 250 mil vezes em 24 horas e depois circulou pela embaixada da Rússia na África do Sul.

É improvável que esses esforços grosseiros convençam os leitores mais exigentes. E é fácil exagerar o impacto da desinformação estrangeira. Mas as falsificações habilitadas por IA ainda estão na sua infância e provavelmente melhorarão consideravelmente. Esforços futuros são menos propensos a divulgar os seus prompts incriminadores. "Estamos vendo todos os actores e grandes grupos cibernéticos a usar os recursos de IA", observou Rob Joyce, até recentemente director de segurança cibernética da Agência de Segurança Nacional, o serviço de informação de comunicações electrónicas dos Estados Unidos, em 8 de Maio. Em suas memórias, Kalugin gabou-se de que a KGB publicou quase 5.000 artigos em jornais estrangeiros e soviéticos apenas em 1981. Para o propagandista moderno, esses são números de principiantes.» 

A Russia-linked network uses AI to rewrite real news stories

Sem comentários:

Enviar um comentário