Após as eleições de 2016, o Twitter descobriu que 50 mil bots ligados à Rússia estavam ativos na sua rede durante a campanha. À medida que avançamos para as eleições presidenciais de 2024, o surgimento da IA generativa abriu novas possibilidades para a criação e disseminação em massa de desinformação. As principais plataformas de mídia social estão prontas? Conversamos com o Prof. Tauhid Zaman, que estuda como os bots manipulam a opinião nas redes sociais.
Quão prevalentes são os bots à medida que as eleições de 2024 se aproximam?
Os bots de hoje são muito mais sofisticados, capazes de criar e publicar conteúdo original que os faz parecer convincentemente reais. Este salto tecnológico significa que, no atual ciclo eleitoral, os bots têm potencial para serem muito mais persuasivos e impactantes do que antes.
No passado, contas falsas exploraram a polarização dentro do eleitorado dos EUA para semear ainda mais divisão, aumentando a suspeita e a antipatia partidárias. Agora, à medida que a nossa sociedade se tornou ainda mais polarizada, sentimo-nos ainda mais vulneráveis a tais táticas manipuladoras. A capacidade desses bots avançados de gerar conteúdo original e se integrar perfeitamente ao cenário da mídia social representa um desafio maior. Não se trata apenas da sofisticação da tecnologia, mas também do momento certo; a nossa crescente polarização torna-nos mais susceptíveis à influência, tornando o potencial de ruptura maior do que nunca.
A IA generativa mudou o jogo?
A IA realmente revolucionou o cenário digital de maneiras mais profundas do que muitos imaginam. A criação de conteúdo falso convincentemente real – texto, imagens e, em breve, vídeo – democratizou a capacidade de produzir conteúdo de alta qualidade numa escala sem precedentes. Este avanço por si só altera significativamente a dinâmica de disseminação e consumo de conteúdo.
No entanto, as implicações vão muito além da mera criação de conteúdo. A IA atual pode compreender e analisar conteúdo, proporcionando a capacidade de personalizar mensagens com uma precisão surpreendente. Imagine coletar postagens em mídias sociais, tanto textos quanto imagens, de um público-alvo. A IA agora pode analisar esses dados para criar conteúdo projetado especificamente para influenciar esses indivíduos. Isto permite que as mensagens sejam hiperdirecionadas e não apenas amplamente disseminadas.
Considere gerenciar diversas contas, cada uma adaptada para interagir com grupos demográficos específicos. A IA permite a elaboração e implementação de uma estratégia de mensagens exclusiva para cada segmento, guiando-os sutilmente em direção a um resultado ou preferência desejada. Além do mais, a IA pode identificar de forma independente as estratégias de segmentação mais atraentes, aumentando a eficiência e a sutileza desses esforços. Adicionando outra camada à complexidade – ou sofisticação, dependendo da perspectiva – está a capacidade da IA de gerar autonomamente essas contas, completas com fotos de perfil convincentes, biografias e outros detalhes que maximizam seu apelo e potencial persuasivo. Este processo é informado pela análise do conteúdo do público-alvo, permitindo que a IA construa uma conta que ressoe fortemente com o seu público-alvo.
Este nível de persuasão direcionada, alimentado pela criação de conteúdo e capacidades analíticas da IA, representa uma mudança de paradigma na forma como as campanhas digitais são conduzidas. Sublinha a necessidade urgente de diretrizes éticas, transparência e medidas regulamentares para salvaguardar a integridade do discurso digital e proteger os indivíduos da manipulação.
Como estão as plataformas no combate à desinformação?
As plataformas estão envidando esforços concertados para fazer face à proliferação de contas falsas, aproveitando uma combinação de intervenção humana e tecnologias de IA. No entanto, a batalha contra a desinformação torna-se cada vez mais desafiante à medida que as tecnologias de IA evoluem. Por exemplo, a Meta se comprometeu a rotular imagens geradas por IA em suas plataformas. Apesar disso, descobertas recentes sugerem que as contas que distribuem conteúdo gerado por IA podem ser inadvertidamente amplificadas pelos algoritmos da plataforma. É um cabo de guerra constante, com as tecnologias de criação de conteúdo avançando rapidamente. A responsabilidade agora recai sobre os algoritmos de detecção para evoluir e se adaptar rapidamente. O estado atual sublinha uma fase crítica nesta batalha contínua, onde a sofisticação da geração de conteúdos avançou, necessitando de avanços significativos nas capacidades de detecção para manter a paridade.
Publicado originalmente pelo Yale Insights
Por Tauhid Zaman
Tauhid Zaman é Professor Associado de Gestão de Operações