Uma frase publicada em uma rede social pode parecer conspiratória sem necessariamente defender uma teoria conspiratória. A mesma mensagem pode expressar uma crença sincera, levantar uma dúvida legítima, ironizar uma afirmação absurda ou criticar quem acredita nela. Para um leitor humano, o contexto costuma resolver parte do problema. Para sistemas automáticos de moderação, essa diferença ainda é um dos maiores desafios.

Um novo trabalho apresentado no arXiv propõe uma abordagem baseada em agentes de inteligência artificial para detectar discursos conspiratórios levando em conta não apenas as palavras usadas, mas também a intenção comunicativa de quem publicou a mensagem. A proposta parece específica, mas toca em uma questão ampla: quando uma máquina decide o que uma pessoa quis dizer, ela não está apenas classificando conteúdo. Está interpretando comportamento social.

O problema de procurar palavras suspeitas

Grande parte dos sistemas de análise de conteúdo começa procurando sinais recorrentes. Termos associados a fraude eleitoral, vacinas, grupos secretos ou manipulação política podem funcionar como pistas. O problema é que uma palavra não carrega sozinha a intenção de uma frase.

Uma publicação dizendo que determinada teoria é falsa pode conter exatamente os mesmos termos que uma publicação defendendo essa teoria. Uma reportagem pode descrever uma narrativa conspiratória para desmenti-la. Um usuário pode reproduzir uma frase absurda em tom de deboche. E alguém pode fazer uma pergunta sem demonstrar qualquer adesão à ideia discutida.

Essa ambiguidade é conhecida na linguística como força ilocucionária: o ato que uma pessoa realiza ao falar. Uma frase pode informar, questionar, acusar, ridicularizar, apoiar ou provocar. O texto superficial é apenas uma parte do significado. O restante depende do contexto, da conversa anterior, do perfil da mensagem e da relação entre os participantes.

Quando um sistema ignora essa camada, ele produz dois tipos de erro. Pode classificar como conspiratória uma crítica feita justamente para combater a desinformação. Ou pode deixar passar uma defesa indireta, formulada com cautela e sem palavras obviamente marcadas. Nos dois casos, a plataforma perde precisão e o usuário pode sofrer uma consequência injusta.

Como funciona a proposta Agentic Detection of Online Conspiracies

O estudo propõe um sistema agentivo equipado com ferramentas para consultar contexto social. Em vez de tratar cada publicação como uma unidade isolada, o método tenta reconstruir informações ao redor dela e analisar como a mensagem funciona dentro de uma conversa mais ampla.

O conjunto usado pelos pesquisadores reúne publicações públicas em hebraico feitas ao longo de quatro anos, entre o fim de dois mil e dezoito e o começo de dois mil e vinte e três. O período inclui ciclos eleitorais, a pandemia de covid dezenove e os debates sobre vacinação. Segundo o trabalho, a coleção cobre entre oitenta e noventa por cento das publicações públicas em hebraico durante o intervalo analisado.

Essa escala é importante porque permite observar mudanças de assunto e de comportamento ao longo do tempo. Uma mensagem sobre vacinação pode assumir um significado diferente quando aparece durante uma campanha eleitoral, depois de uma notícia específica ou em resposta a uma conta conhecida por satirizar autoridades. O agente pode consultar essas relações antes de emitir uma classificação.

A arquitetura não deve ser entendida como uma máquina que simplesmente lê mais textos. A ideia central é organizar um processo de investigação. O sistema pode procurar mensagens relacionadas, examinar a sequência da conversa, identificar referências externas e comparar diferentes interpretações possíveis. Só depois tenta decidir se o autor está defendendo uma alegação conspiratória, criticando-a, fazendo humor ou apenas mencionando o tema.

Essa abordagem aproxima a moderação automática de uma investigação jornalística em miniatura. Ela também aumenta custo, latência e complexidade. Um classificador simples pode analisar milhões de mensagens rapidamente. Um agente que consulta fontes e reconstrói contexto precisa de mais chamadas, mais memória e critérios claros para não transformar qualquer detalhe periférico em uma conclusão sobre a intenção do usuário.

O que muda quando a intenção entra na análise

A principal contribuição do trabalho é deslocar a pergunta. Em vez de perguntar apenas “esta mensagem contém uma teoria conspiratória?”, o sistema tenta responder “o que esta pessoa está fazendo ao publicar esta mensagem?”. Essa diferença é fundamental para qualquer plataforma que pretenda moderar sem eliminar discussões legítimas.

Considere três mensagens sobre o mesmo assunto. A primeira afirma que uma organização secreta controla todos os governos. A segunda pergunta por que tantas pessoas acreditam nessa afirmação. A terceira compartilha a frase acompanhada de uma imagem satírica. A busca por palavras pode aproximar as três publicações. A análise de intenção deveria separá-las.

O método também pode ajudar a distinguir crítica política de desinformação. Em períodos eleitorais, usuários frequentemente citam alegações falsas para contestá-las, registrar indignação ou explicar por que uma narrativa se espalhou. Remover essas mensagens por causa de termos sensíveis reduz a capacidade da sociedade de discutir o próprio problema.

Isso não significa que a interpretação de contexto seja neutra ou infalível. Ironia, humor e ambiguidade também podem ser usados para mascarar ataques e campanhas coordenadas. Um agente precisa lidar com a possibilidade de que a intenção real não esteja disponível no texto. Em muitos casos, a decisão mais responsável pode ser admitir incerteza, encaminhar o conteúdo para revisão humana ou reduzir sua distribuição sem removê-lo imediatamente.

O impacto para o Brasil

O Brasil oferece um ambiente especialmente relevante para esse tipo de tecnologia. A circulação de boatos políticos, conteúdos sobre saúde pública e narrativas de fraude eleitoral ocorre em redes com grande volume de mensagens, forte polarização e uso frequente de humor, memes e linguagem indireta.

Uma ferramenta treinada para um único idioma ou contexto cultural não pode ser transferida automaticamente para o português brasileiro. A ironia brasileira depende de referências locais, gírias, imagens, bordões e relações que raramente aparecem em bases internacionais. Uma frase considerada apoio em uma tradução literal pode ser uma crítica evidente para quem conhece o debate nacional.

Também existem diferenças entre plataformas. Uma publicação curta no X, um vídeo no TikTok, uma mensagem encaminhada em um grupo e um comentário em uma transmissão ao vivo possuem dinâmicas próprias. O contexto relevante pode estar no texto, no áudio, na imagem, na sequência de respostas ou no histórico público da conta.

Para empresas brasileiras, o tema aparece em pelo menos quatro frentes. Plataformas precisam moderar conteúdo sem punir a crítica legítima. Agências e marcas precisam identificar campanhas coordenadas sem confundir sátira com ameaça reputacional. Veículos de comunicação precisam acompanhar a origem e a transformação de narrativas. E organizações públicas precisam avaliar riscos sem terceirizar decisões democráticas para um classificador opaco.

O caminho mais promissor parece combinar agentes de análise com regras de governança. Toda decisão relevante deveria registrar quais evidências foram consultadas, quais interpretações foram consideradas e qual foi o nível de confiança. A revisão humana não deve ser apenas um botão de emergência, mas uma parte planejada do sistema para casos ambíguos e de alto impacto.

O perigo de automatizar a interpretação social

Há uma tentação compreensível de tratar agentes com acesso a contexto como árbitros mais inteligentes. Porém, mais contexto não garante uma conclusão correta. Ele também oferece mais oportunidades para selecionar evidências convenientes, reforçar vieses e construir uma narrativa aparentemente coerente sobre o usuário.

Se o sistema consulta apenas publicações de uma mesma comunidade, pode interpretar consenso interno como verdade. Se dá peso excessivo ao histórico de uma conta, pode concluir que uma pessoa nunca muda de opinião. Se trata sarcasmo como intenção escondida, pode punir formas legítimas de expressão. E se não explica o caminho da decisão, torna difícil contestar o resultado.

Por isso, a métrica mais importante não deveria ser apenas a taxa de acerto. Também é preciso medir falsos positivos, diferenças entre grupos linguísticos, qualidade das justificativas, frequência de encaminhamento para humanos e capacidade de corrigir uma decisão depois de receber novo contexto.

O trabalho sobre detecção agentiva de conspirações aponta para uma direção valiosa: sistemas de inteligência artificial precisam compreender comunicação como ação situada, e não como coleção de palavras proibidas. Mas essa capacidade deve vir acompanhada de humildade operacional. Interpretar pessoas é uma tarefa probabilística, sujeita a erro e com consequências concretas.

Fontes consultadas

A pergunta decisiva não é se uma máquina consegue encontrar uma teoria conspiratória em uma frase. É se ela consegue reconhecer quando alguém está denunciando, questionando, satirizando ou defendendo aquela teoria — e admitir quando não sabe. Em uma sociedade conectada, a qualidade da moderação dependerá menos da capacidade de censurar rapidamente e mais da capacidade de interpretar com responsabilidade.