Quer que um oponente faça campanha por você? Confundir os eleitores entre um vídeo real e um falso? À medida que a Índia se prepara para as maiores eleições do mundo, os partidos recorrem à IA para estratégias novas – e perigosas.
Enquanto os eleitores faziam fila na manhã de 30 de novembro do ano passado para votar nas eleições legislativas para escolher o próximo governo do estado de Telangana, no sul da Índia, um clipe de sete segundos começou a se tornar viral nas redes sociais.
Postado no X pelo partido do Congresso, que está na oposição nacional e estava no estado na época, mostrava KT Rama Rao, um líder do Bharat Rashtra Samiti que governava o estado, conclamando as pessoas a votarem a favor de O congresso.
O Congresso compartilhou amplamente a informação em uma série de grupos de WhatsApp “operados não oficialmente” pelo partido, de acordo com um líder sênior que pediu anonimato. Eventualmente acabou na conta X oficial do partido, visto mais de 500.000 vezes.
Era falso.
“É claro que foi gerado por IA, embora pareça completamente real”, disse o líder do partido do Congresso à Al Jazeera. “Mas um eleitor normal não seria capaz de distinguir; a votação havia começado [quando o vídeo foi postado] e não houve tempo para [a campanha da oposição] controlar os danos”.
O deepfake astutamente cronometrado foi um marcador da enxurrada de meios de comunicação gerados ou manipulados por IA que prejudicaram uma série de eleições nos estados da Índia nos últimos meses e que agora ameaçam moldar fundamentalmente as próximas eleições gerais do país.
Entre março e maio, os quase bilhões de eleitores da Índia escolherão o seu próximo governo nacional nas maiores eleições do mundo e da história. As ameaças representadas pela mídia enganosa gerada por IA chamaram a atenção do mundo quando imagens falsas de sexo explícito da artista Taylor Swift apareceram nas plataformas de mídia social em janeiro. Em novembro, Ashwini Vaishnaw, ministro da tecnologia da informação da Índia, classificou os deepfakes como uma “ameaça à democracia” e o primeiro-ministro Narendra Modi fez eco dessas preocupações.
Mas com a maior disponibilidade de ferramentas úteis de inteligência artificial, equipes dos partidos políticos da Índia, incluindo o Partido Bharatiya Janata de Modi e o Congresso, estão implementando deepfakes para influenciar os eleitores, disseram gestores de quase 40 campanhas recentes à Al Jazeera. Embora várias ferramentas de IA usadas para gerar deepfakes sejam gratuitas, outras estão disponíveis por assinatura por apenas 10 centavos por vídeo.
‘Criando percepção’
O BJP, possivelmente o partido tecnologicamente mais sofisticado da Índia, tem estado na vanguarda da utilização de ilusões nas campanhas. Já em 2012, o partido usava projeções de holograma 3D de Modi para que ele pudesse “fazer campanha” simultaneamente em dezenas de lugares ao mesmo tempo. A estratégia foi amplamente implementada durante as eleições gerais de 2014 que levaram Modi ao poder.
Houve pouco engano envolvido nisso, mas em fevereiro de 2020, Manoj Tiwari, um membro do parlamento do BJP, tornou-se um dos primeiros do mundo a usar deepfakes em campanha. Em três vídeos, Tiwari dirigiu-se aos eleitores em Deli antes das eleições para a assembleia legislativa da capital em hindi, haryanvi e inglês – alcançando três públicos distintos na cidade multicultural. Apenas o vídeo em hindi era autêntico: os outros dois eram deepfakes, onde a IA foi usada para gerar sua voz e palavras e alterar suas expressões e movimentos labiais para tornar quase impossível detectar, apenas na visualização, que não eram genuínos.
Nos últimos meses, o Dravida Munnetra Kazhagam (DMK), que governa o estado de Tamil Nadu, no sul, usou a IA para ressuscitar dos mortos o seu icônico líder M Karunanidhi, utilizando vídeos realistas do antigo escritor de cinema e político veterano em eventos de campanha.
Agora, consultores e gestores de campanha dizem que as eleições de 2024 podem turbinar ainda mais o uso de deepfakes.
“A política trata de criar percepção; com ferramentas de IA [de modulação de voz e vídeo] e um clique, você pode mudar a percepção em um minuto”, disse Arun Reddy, coordenador nacional de mídia social no Congresso, que supervisionou a eleição de Telangana, especialista em tecnologia do partido. Ele acrescentou que a equipe estava repleta de ideias para incorporar IA nas campanhas, mas não tinha “pessoas treinadas” suficientes para executar todas elas.
Reddy está fortalecendo sua equipe – assim como outras partes.
“A IA terá um efeito retumbante na criação da narrativa”, disse Reddy à Al Jazeera. “O conteúdo político manipulado pela IA aumentará muito, muito mais do que nunca.”
‘As campanhas estão ficando mais estranhas’
Da cidade deserta de Pushkar, no oeste da Índia, Divyendra Singh Jadoun, de 30 anos, dirige uma startup de IA, The Indian Deepfaker. Lançada em outubro de 2020, sua empresa clonou a voz do candidato a ministro-chefe do Congresso do estado de Rajasthan, Ashok Gehlot, para que sua equipe enviasse mensagens personalizadas no WhatsApp, dirigindo-se a cada eleitor pelo nome, durante as eleições legislativas de novembro. O Deepfaker indiano está atualmente trabalhando com a equipe do ministro-chefe de Sikkim, Prem Singh Tamang, para hologramas durante as próximas campanhas. Sikkim é um dos menores estados da Índia no nordeste, situado no Himalaia, entre a Índia, o Butão e a China.
Esse é o trabalho limpo e oficial, disse ele. Mas nos últimos meses, ele foi inundado pelo que descreve como “pedidos antiéticos” de campanhas políticas. “Os partidos políticos entram em contato indiretamente por meio de números internacionais no WhatsApp, gravadores no Instagram ou conectam-se no Telegram”, disse Jadoun à Al Jazeera em entrevista por telefone.
Nas eleições de novembro, a sua empresa negou mais de 50 pedidos deste tipo, disse ele, em que potenciais clientes queriam vídeos e áudio alterados para atingir adversários políticos, incluindo pornografia. Como uma startup, Jadoun disse que sua empresa é particularmente cuidadosa para evitar qualquer problema jurídico. “E é um uso muito antiético da IA”, acrescentou. “Mas conheço muitas pessoas que estão fazendo isso por preços muito baixos e estão prontamente disponíveis agora.”
Durante as campanhas eleitorais para as legislaturas estaduais de Madhya Pradesh, no centro da Índia, e Rajasthan, no oeste, em novembro passado, a polícia registrou vários casos de vídeos deepfake direcionados a políticos seniores, incluindo Modi, Shivraj Singh Chauhan, Kailash Vijayvargia (todos BJP) e Kamal Nath (Congresso). A produção de conteúdo deepfake é muitas vezes terceirizada para empresas de consultoria privadas, que dependem de redes sociais para distribuição, lideradas pelo WhatsApp.
Um consultor político que pediu anonimato disse à Al Jazeera que vários cidadãos comuns sem perfil público estão registados no WhatsApp e são utilizados nas campanhas para tornar mais difícil para qualquer pessoa rastreá-los diretamente até partidos, candidatos, consultores e empresas de IA.
Este consultor realizou seis campanhas nas eleições legislativas do ano passado, tanto para o BJP como para o Congresso. “No Rajastão, usávamos números de telefone de trabalhadores da construção civil para administrar nossa rede no WhatsApp”, disseram eles, “onde os deepfakes circulavam principalmente”.
Enquanto isso, os áudios manipulados por IA são ferramentas particularmente valiosas em círculos eleitorais menores, “visando candidatos com gravações de chamadas forjadas sobre arranjar ‘dinheiro’ para eleições ou ameaçar alguém para comprar votos”, disse o consultor, cujo próprio candidato foi alvo de uma dessas gravações. As gravações são geralmente mascaradas com vozes de candidatos para considerá-las provas de corrupção.
“Manipular os eleitores pela IA não é considerado pecado por nenhum partido”, acrescentaram. “É apenas uma parte da estratégia de campanha.”
A Índia tem 760 milhões de utilizadores da Internet – mais de 50% da população – atrás apenas da China.
Entre todos os pedidos, um de um distrito eleitoral no sul do Rajastão destacou-se para Jadoun. Antes das eleições estaduais em novembro, a pessoa que ligou solicitou que Jadoun alterasse um vídeo problemático, mas autêntico, de seu candidato – cujo partido ele não divulgou – para fazer um deepfake realista. O objetivo: afirmar que o original era um deepfake e que o deepfake era o original.
“A oposição tinha um vídeo preocupante do seu candidato e queria divulgá-lo mais rapidamente nas redes sociais para alegar que se tratava de um deepfake”, disse ele, caindo na gargalhada. “As campanhas políticas estão ficando mais estranhas.”
Ameaças à integridade eleitoral
As leis indianas atualmente não definem “deepfakes” claramente, disse Anushka Jain, pesquisadora de políticas do Digital Futures Lab, com sede em Goa. A polícia tem utilizado leis contra a difamação, notícias falsas ou violação da modéstia de uma pessoa, combinadas com a Lei das Tecnologias de Informação, para tentar resolver casos individuais. Mas muitas vezes eles estão brincando de bater na toupeira.
“A polícia está processando com base no efeito do deepfake e não porque ele próprio seja um deepfake”, disse ela.
Os analistas dizem que a Comissão Eleitoral da Índia (ECI), um órgão autônomo que realiza pesquisas de opinião, precisa de acompanhar a natureza mutável das campanhas políticas.
Nos dias que antecederam a votação nas eleições estaduais de Telangana no ano passado, os líderes do partido governante Bharat Rashtra Samithi alertaram repetidamente seus seguidores nas redes sociais para ficarem alertas contra deepfakes implantados pelo partido do Congresso. Eles também apelaram à ICE contra o clipe deepfake que o Congresso compartilhou na manhã da votação.
Mas o vídeo permanece online e o partido nunca recebeu notificação do ECI, disseram à Al Jazeera dois líderes do Congresso cientes do assunto.
A Al Jazeera solicitou comentários do ICE, mas ainda não recebeu resposta.
“Mesmo que uma pessoa seja induzida a acreditar em algo e isso a faça mudar de ideia, isso vicia a pureza do processo eleitoral”, disse SY Quraishi, ex-comissário-chefe eleitoral da Índia. “Os deepfakes tornaram o problema da disseminação de boatos durante as pesquisas mil vezes mais grave.”
Quraishi disse que os deepfakes precisam ser moderados em tempo real para minimizar os danos que podem causar à democracia indiana.
“A ICE precisa agir antes que o dano seja causado”, disse ele. “Eles precisam ser muito mais rápidos.”
‘A verdade está fora de alcance’
O governo indiano tem pressionado grandes empresas de tecnologia, incluindo Google e Meta, para que façam esforços ativos para moderar deepfakes em suas plataformas. O ministro de TI, Rajeev Chandrasekhar, reuniu-se com funcionários dessas empresas como parte das deliberações sobre as ameaças representadas pelos deepfakes.
Ao pedir ao setor tecnológico que assuma a liderança, o governo escapa a qualquer crítica de que está tentando censurar seletivamente os deepfakes, ou de que está tentando reprimir as tecnologias emergentes de IA de forma mais ampla.
Mas, ao passar a responsabilidade para empresas privadas, o governo levanta questões sobre a sinceridade da sua intenção de regular conteúdos manipuladores, disse Prateek Waghre, diretor executivo da Internet Freedom Foundation da Índia, um importante grupo de reflexão sobre políticas tecnológicas com sede em Nova Deli. “É quase uma ilusão”, disse ele.
Argumentando que as empresas de tecnologia não foram capazes de lidar com os problemas existentes de moderação de conteúdo, Waghre disse que “a ascensão da IA agora” agravou os desafios. E a abordagem atual à moderação de conteúdo ignora o que realmente está no cerne do problema, disse ele.
“Você não está resolvendo o problema”, disse ele. “O design [dos algoritmos] é simplesmente falho.”
Em 16 de fevereiro, as principais empresas tecnológicas assinaram um acordo na Conferência de Segurança de Munique para adotar voluntariamente “precauções razoáveis” para evitar que ferramentas de inteligência artificial sejam utilizadas para perturbar eleições democráticas em todo o mundo. Mas o pacto, redigido de forma vaga, deixou muitos defensores e críticos desapontados.
O YouTube anunciou que permitirá que as pessoas solicitem a remoção de conteúdo gerado ou alterado por IA que simule uma pessoa identificável, incluindo seu rosto ou voz, usando seu processo de solicitação de privacidade.
“Não estou muito otimista quanto às capacidades da plataforma para detectar deepfake”, disse Ravi Iyer, diretor administrativo do Centro Neely para Liderança Ética e Tomada de Decisão da Marshall School of Business da Universidade do Sul da Califórnia. “Com a baixa literacia digital e o consumo crescente de vídeos, isto representa um grave risco para a integridade eleitoral da Índia.”
Identificar todas as mídias manipuladas pela IA não é uma tarefa razoável, disse Iyer, então as empresas precisam redesenhar algoritmos que não promovam conteúdo polarizador. “As empresas são quem têm o dinheiro e os recursos, elas precisam tomar medidas razoáveis para enfrentar o aumento dos deepfakes”, disse ele.
A Internet Freedom Foundation publicou uma carta aberta instando os candidatos e partidos eleitorais a se absterem voluntariamente de usar tecnologia deepfake antes das eleições nacionais. Waghre não está confiante de que muitos irão morder, mas disse que vale a pena tentar.
Entretanto, as campanhas políticas estão a reforçar os seus arsenais de IA – e alguns, como Reddy, o coordenador nacional para as redes sociais no Congresso, admitem que o futuro parece sombrio.
“A maioria das pessoas que usam IA está aí para distorcer os fatos. Eles querem criar uma percepção que não seja baseada na verdade”, disse Reddy. “Combinando a penetração das redes sociais na Índia com a ascensão da IA, a verdade estará agora fora do alcance das pessoas nas eleições.”
Publicado originalmente pela Al Jazeera em 20/02/2024
Por Yashraj Sharma – Nova Delhi (Índia)
Nenhum comentário ainda, seja o primeiro!