A desinformação representa um grande desafio para os profissionais e utilizadores dos meios de comunicação social, mas também para os processos democráticos. O projeto financiado pela UE “Observatório Europeu de Narrativas” / PROMPT (Predictive Research On Misinformation and narrative Propagation Trajectories) utiliza Modelos de Linguagem de Grande Dimensão (LLM) para descobrir narrativas e padrões de desinformação em linha e decifrar os seus antecedentes. O objetivo é fornecer aos jornalistas ferramentas que lhes permitam reconhecer melhor a desinformação. Nos próximos meses, o Observatório Europeu do Jornalismo publicará regularmente informações sobre o projeto e os seus resultados.

Martin Lestra e Jordan Ricker são os coordenadores do projeto no instituto de investigação francês OPSCI. Na entrevista ao Observatório Europeu do Jornalismo, explicam em que consiste o projeto e quais os objectivos que a equipa pretende alcançar com a ajuda do LLM.

Martin Lestra é Coordenador de Parcerias Internacionais e Investigação no instituto de investigação OPSCI. Liderou vários projectos de cooperação internacional na intersecção de dados e políticas públicas na OCDE e na Datactivist. Tem um doutoramento em Ciência Política (Instituto Universitário Europeu-EHESS) e é professor na Universidade de Lyon

Por favor, apresente o projeto: De que se trata?

O PROMPT é um “Observatório Europeu de Narrativas” financiado pela Comissão Europeia que procura identificar e analisar o surgimento de narrativas de desinformação, utilizando IA, sobre três tópicos considerados prioritários para a Comissão Europeia: a guerra na Ucrânia; os direitos e liberdades LGBTQIA+; e as eleições europeias de 2024.
Durante os próximos 18 meses, trabalharemos para decifrar as origens destas narrativas e o seu surgimento, tanto offline como online, em 6 países (França, Região do Báltico, Itália e Roménia) e 8 línguas (acrescente-se o inglês e o russo!), o seu papel na formação da mente das pessoas e os valores emocionais que apoiam as narrativas de desinformação “bem sucedidas”. Desenvolveremos uma metodologia para compreender melhor como surgem as narrativas e como se propagam através das plataformas. Concentraremos nos principais  informativos dos meios de comunicação social influentes, das plataformas sociais e da Wikipédia.

Em última análise, vamos oferecer aos jornalistas e activistas novas ferramentas para reconhecer, antecipar e combater as narrativas de desinformação.
O PROMPT é um projeto-piloto, o que significa que vamos mobilizar conhecimentos especializados de ponta e tecnologia de IA para tentar combater a desinformação. Temos a sorte de trabalhar em várias disciplinas (matemática, linguística, sociologia, estudos dos meios de comunicação social, etc.) com 11 atores principais em 8 países da UE, em especial com peritos dos meios de comunicação social e jornalistas, como o Erich-Brost Institute (Alemanha), Les Surligneurs (França), Re:Baltica (Estados Bálticos) ou Asociatia Digital Bridge (Roma).


O que inspirou o desenvolvimento deste projeto?

Temos um objetivo claro: apoiar um debate democrático saudável. Há 10 anos que trabalhamos na monitorização da opinião em  linha e há 20 anos que trabalhamos em comunicação/retórica. Vemos como a desinformação evoluiu – e como é matizada (não se trata apenas de notícias “falsas” ou “verdadeiras”). Trabalhamos com jornalistas e activistas e vemos que há um potencial inexplorado com ferramentas de IA para apoiar o seu trabalho.
Os dois principais motores do projeto são tecnológicos e sociais. Tecnológicos, porque os recentes avanços na IA, que temos vindo a integrar no nosso trabalho de análise de grandes volumes de dados sociais desde há vários anos, permitiram-nos dar um salto considerável no desempenho, permitindo o processamento avançado de expressões online com LLM e a sua categorização qualitativa automatizada, “aumentando” as capacidades dos analistas.
Societal, porque acreditamos que só uma abordagem de toda a sociedade nos permitirá ganhar batalhas na guerra contra a desinformação. Os profissionais empenhados nesta batalha sentem-se por vezes sozinhos ou desarmados face ao recrudescimento das operações de desestabilização. A nossa humilde ambição é fornecer-lhes armas suplementares.


O que distingue este projeto de outros projectos (anteriores) sobre a reportagem e formação nos meios de comunicação social?

O PROMPT é o segundo Observatório Europeu de Narrativas. Estamos na esteira do NODES (Narratives Observatory Combating Disinformation in Europe Systemically), um projeto que se centrou principalmente na forma como as comunidades de desinformação em linha estão estruturadas e interagem noutros tópicos de interesse – migração, alterações climáticas e Covid-19.
A nossa investigação baseia-se neste trabalho com passos adicionais, utilizando, por exemplo, grandes modelos linguísticos para aprofundar a monitorização do surgimento e da propagação de narrativas.
Mas o PROMPT não se trata apenas de construir o melhor modelo “bala de prata” – somos cépticos em relação a esse tipo de conversa. Trata-se de criar o modelo mais útil.
Há muitos esforços acadêmicos para desenvolver metodologias de ponta para analisar narrativas. O que também é muito importante, e muitas vezes falta, é esse esforço adicional para tornar a investigação operacional para aqueles que lutam contra a desinformação todos os dias. Entre os bons exemplos neste domínio contam-se projectos como o vera.ai, que ajuda a conceber e testar ferramentas baseadas em IA para detectar a desinformação. Com verificadores de factos e a Wikimedia France – sendo a Wikipédia uma plataforma em linha muito grande que enfrenta riscos sistémicos de acordo com a UE – a bordo da equipa PROMPT, estamos confiantes de que podemos ter um grande impacto junto do nosso público. 
. 
Também complementamos o trabalho sobre a verificação de factos e a literacia mediática, por exemplo do Observatório Europeu dos Meios de Comunicação Digitais (EDMO) ou dos membros da Rede Europeia de Normas de Verificação de Factos. Estamos também muito satisfeitos por estarmos a aproveitar a experiência do Instituto Erich-Brost, que pode alargar o nosso alcance a uma rede abrangente de institutos de jornalismo a nível da UE, abrangendo todos os Estados-Membros.

Jordan Ricker é Diretor de Operações do instituto de investigação OPSCI. Como cofundador da empresa de consultoria Going Public, desenvolveu estratégias digitais. Foi professor de marketing na Universidade Sorbonne Nouvelle. Foi também responsável pela presença digital da cidade de Paris durante dois anos e meio.

Como é que o Observatório Europeu das Narrativas contribui para combater a desinformação?

Para responder a esta pergunta, é necessário compreender primeiro porque é que as narrativas são importantes. As narrativas de desinformação acarretam riscos e ameaças importantes para os países da UE. A divulgação de informações falsas e enganosas sobre a guerra na Ucrânia tem um forte potencial para minar o apoio do público às ações nacionais e conjuntas da UE de apoio à Ucrânia. As narrativas falsas que visam e atacam a comunidade LGBTQIA+ podem causar danos significativos na integração e na igualdade destes grupos, bem como influenciar o exercício dos direitos humanos. As narrativas de desinformação em torno das eleições podem induzir os eleitores a erro e minar os alicerces das nossas democracias.
Os actores da desinformação, incluindo os que são movidos por Estados párias que tentam desestabilizar as nossas democracias, trabalham incansavelmente para semear o descontentamento e polarizar o debate público. Temos de enfrentar este problema com as melhores provas e técnicas.
Ao nomear, descobrir, envergonhar, contra-atacar e tornar os esforços de desinformação mais dispendiosos, os trabalhos sobre narrativas, como o PROMPT e outros, dão o seu próprio contributo para os esforços de combate à desinformação em linha e fora de linha.
Há ainda muitos aspectos da desinformação a estudar: por exemplo, a forma como circula nas plataformas sociais com padrões retóricos “universais” ou com idiossincrasias linguísticas e culturais locais. Esta é uma das principais questões que o projeto PROMPT irá abordar.

Qual é o papel dos modelos de linguagem de grande dimensão na descoberta de notícias fa

A desinformação não é apenas uma questão de notícias “falsas” e “verdadeiras”. Em termos conceptuais, pensamos que a desinformação tem formas preferidas e repetidas de se apresentar. Mas, ao mesmo tempo, a linguagem é complexa e as estruturas linguísticas e o significado podem variar consoante as línguas e os tipos de discurso (discurso de ódio explícito agressivo versus humor implícito, por exemplo). Os MLT são muito bons a detetar e analisar em grande escala estas características sistemáticas e as suas variações.
A maioria das pessoas conhecem os LLM como ferramentas que ajudam a escrever texto (ou código).
Mas o genAI não só pode detetar desinformação, como também pode contextualizá-la para jornalistas e verificadores de factos de uma forma muito simples. Por outras palavras, da mesma forma que se discutem os melhores planos de aniversário para uma criança de 4 anos com o ChatGPT, com o modelo que pretendemos desenvolver, é possível discutir as características da afirmação enganosa/falsa que a IA detectou: de onde veio?
Onde é que já vimos afirmações semelhantes? Em que línguas? Quais são os preconceitos que esta afirmação explora, e a retórica que utiliza, para passar desinformação?
Há muitas coisas que os LLMs podem fazer, mas, em última análise, isto tem de ser útil para aqueles que estão na linha da frente da luta contra a desinformação. É por isso que os jornalistas e os activistas da sociedade civil são fundamentais e participam neste projeto.

Que temas abordam o projeto e porque os escolheu? 

A Comissão Europeia definiu os temas. A agulha está a deixar de se centrar na Covid-19 em particular, para se centrar em outras preocupações importantes (e muitas vezes relacionadas!). Sem surpresas, entre elas está a guerra de agressão contra a Ucrânia.
Há tanta coisa a acontecer online que existem muitos dados e conhecimentos que o PROMPT pode aproveitar. Há também a propagação crescente de narrativas falsas e prejudiciais relacionadas com a identidade e a expressão de género (desinformação baseada no género), muitas vezes vistas no contexto de discursos discriminatórios ou pejorativos contra as mulheres, a homofobia e a discriminação contra a comunidade LGBTQIA+, examinando formas de mitigar os riscos que representam para a coesão social, a democracia e os direitos humanos fundamentais. As narrativas enganosas em torno das eleições têm, naturalmente, um enorme impacto potencial na opinião pública, no comportamento dos eleitores e nos processos democráticos.
Mas, como referi, os temas – migração, Ucrânia – não são apenas uma lista de tópicos de desinformação. 

Sabemos, com base nos nossos estudos anteriores, noutros projectos de investigação e no trabalho de jornalistas e verificadores de factos, que as contas que partilham desinformação publicam um dia sobre a Covid ou as vacinas e, no dia seguinte, promovem a versão de Putin sobre o que está a acontecer na Ucrânia. Ou que narrativas e afirmações semelhantes apareçam de uma eleição para a outra. Isto significa que o PROMPT tem muito a receber e a dar a outras iniciativas de combate à desinformação.