Pesquisadores destacaram o potencial de ferramentas de criação de imagens alimentadas por inteligência artificial, como as da OpenAI e Microsoft, para produzir fotos que possam promover a desinformação eleitoral ou relacionada à votação, apesar das políticas contra conteúdo enganoso.
O Centro de Combate ao Ódio Digital (CCDH), uma organização sem fins lucrativos que monitora o discurso de ódio online, utilizou ferramentas de IA generativa para criar imagens do presidente dos Estados Unidos, Joe Biden, deitado numa cama de hospital, e de funcionários eleitorais destruindo máquinas de votação. Tais ações levantaram preocupações sobre possíveis falsificações antes das eleições presidenciais norte-americanas em novembro.
“O potencial de tais imagens geradas por IA servirem como ‘evidências fotográficas’ poderia exacerbar a propagação de alegações falsas, representando um desafio significativo para a preservação da integridade das eleições”, afirmaram os investigadores do CCDH em um relatório.
O CCDH testou ferramentas como ChatGPT Plus da OpenAI, Image Creator da Microsoft, Midjourney e DreamStudio da Stability AI, que podem gerar imagens a partir de requisições de texto do usuário.
O relatório vem após um anúncio recente de que OpenAI, Microsoft e Stability AI estavam entre um grupo de empresas de tecnologia que assinaram um acordo para colaborar na prevenção de conteúdo enganoso de IA que possa interferir em eleições em todo o mundo este ano. O Midjourney não estava entre os signatários iniciais.
Segundo o CCDH, as ferramentas de IA geraram imagens em 41% dos testes realizados pelos pesquisadores e foram mais suscetíveis a solicitações que pediam fotos relacionadas a fraudes eleitorais, como cédulas de votação no lixo, em vez de imagens de Biden ou do ex-presidente dos EUA, Donald Trump.
O ChatGPT Plus e o Image Creator conseguiram bloquear todos os pedidos quando solicitadas imagens de candidatos, afirmou o relatório. No entanto, o Midjourney teve o pior desempenho entre todas as ferramentas, gerando imagens enganosas em 65% dos testes dos pesquisadores.
Algumas imagens do Midjourney estão disponíveis publicamente para outros usuários, e o CCDH disse que há evidências de que algumas pessoas já estão usando a ferramenta para criar conteúdo político enganoso.
Em resposta, o fundador do Midjourney, David Holz, disse que “atualizações relacionadas especificamente às próximas eleições nos EUA chegarão em breve”, acrescentando que as imagens criadas no ano passado não eram representativas das atuais práticas de moderação do laboratório de pesquisa.
Um porta-voz da Stability AI afirmou que a startup atualizou suas políticas para proibir “fraude ou criação ou promoção de desinformação”.
Um porta-voz da OpenAI disse que a empresa estava trabalhando para evitar o abuso de suas ferramentas, enquanto a Microsoft não respondeu aos pedidos de comentários.
Com informações da Reuters
Nenhum comentário ainda, seja o primeiro!