Candidatos violam regra eleitoral e usam imagem de IA para criticar Lula sobre queimadas

Por Bruno Fonseca e Danilo Queiroz — Agência Pública

O rosto do presidente do Brasil, Luiz Inácio Lula da Silva (PT), misturado com uma floresta em chamas. Na semana em que o interior de São Paulo registrou recordes históricos de queimadas, a imagem viralizou entre críticos do governo, que responsabilizam Lula pelo fogo, sem apresentar provas.

A imagem, contudo, não foi produzida de forma convencional. Ela foi gerada por programas que utilizam inteligência artificial generativa (IA generativa) – um tipo de tecnologia que cria conteúdos a partir de comandos em texto enviados por usuários.

O problema é que o uso de imagens desse tipo por candidatos às eleições neste ano, sem a identificação de que foram produzidas usando inteligência artificial, é vetado pela Justiça Eleitoral.

Em 2024, o Tribunal Superior Eleitoral (TSE) atualizou as regras da propaganda, dispondo, pela primeira vez, de dois pontos específicos para a regulação do uso de IA com fins políticos. São eles: “conteúdo sintético multimídia gerado por meio de inteligência artificial deve ser informado de modo explícito” e “os provedores de aplicação [como redes sociais ou sites] serão responsáveis quando não promoverem a indisponibilização imediata de conteúdos e contas em desacordo com as formas de rotulagem de IA”.

No X, antigo Twitter, a imagem circulou principalmente a partir do dia 23 de agosto – o dia que registrou o recorde de focos de queimadas no estado. Só esse dia teve mais fogo que o ano passado inteiro em São Paulo, a maior parte sendo iniciada em um intervalo de apenas 90 minutos.

Na segunda-feira, dia 26 de agosto, o vereador de São Bernardo do Campo (SP) Glauco Braido, do MDB, candidato à reeleição, postou a imagem. Apesar da resolução do TSE, não há o rótulo no post indicando o uso de IA. Na publicação, consta apenas que é um material de propaganda eleitoral pela coligação “São Bernardo Que Segue em Frente” (PP/PSD/Solidariedade/PL/MDB/PSDB/Cidadania). O nome do candidato e o número da legenda também aparecem na imagem, com a sobreposição “O GOVERNO DAS QUEIMADAS!”.

Na legenda do post, Braido, que se identifica como membro do movimento de direita Brasil Livre (MBL), pergunta: “Qual a sua opinião sobre a atuação de Lula e Marina Silva no combate às queimadas?”. Em seguida, pede votos e divulga o seu número de urna. A postagem teve quase mil curtidas e 20 comentários.

Quem também é do MBL e veiculou a imagem (em forma de vídeo) no mesmo dia foi o candidato a vereador de Americana (SP) Rafael Macris, do Progressistas. Assim como Braido, não há o rótulo de que a imagem foi produzida usando IA, apenas a menção à legenda da coligação “Americana no Topo de Novo” (Progressistas/União Brasil/Cidadania/ MDB/PSDB).

Na publicação, Macris, que se apresenta como empresário do agronegócio, pergunta: “O que você vê nesse vídeo?”. Nos comentários, um usuário responde “a cara do companheiro pegando fogo”. Em outro, “a imagem e semelhança do próprio demônio L U L A !!!”. A postagem teve 649 curtidas e 42  comentários.

Ele já havia postado a imagem em outra ocasião, em 6 de março, antes mesmo do início do período de propaganda eleitoral. Na publicação, que teve 143 comentários, Macris menciona Braido e escreve: “Tá pegando fogo de tanto amor!”.

Na avaliação de Fernando Neisser, advogado especialista em direito eleitoral, a falta do rótulo nas postagens indicando o uso de IA configura irregularidade eleitoral. “É uma conduta que pode levar a aplicação de uma multa ou cassação de candidatura, mas não leva à cadeia, não é crime”, explica.

A origem da imagem

A história da imagem de Lula misturada às queimadas começa bem antes, há um ano. Ela surgiu em um dos maiores fóruns brasileiros de discussão política no Reddit – uma plataforma gratuita que funciona como um fórum, onde é possível criar grupos, fazer e responder a postagens.

O Brasil Livre tem mais de 218 mil membros e se apresenta como “o subreddit brasileiro mais livre do reddit”. Nele, são comuns postagens de críticas ao Partido dos Trabalhadores, a Lula e ao ministro do Supremo Tribunal Federal (STF) Alexandre de Moraes.

Em 13 de agosto de 2023, aparece a primeira postagem no grupo. O responsável é um usuário ativo do Brasil Livre, mas que hoje tem a conta suspensa pelo próprio Reddit. Ele compartilhou quatro imagens produzidas a partir do rosto de Lula. Duas delas misturavam cenas de incêndios florestais ao rosto do presidente. As outras duas, combinavam o rosto de Lula com imagens de favelas.

A postagem tinha a instrução: “Compilação final pra vocês mandarem pras tias do Zap!”. Em um dos comentários, o usuário explica como se deu a criação: “O processo é feito utilizando Stable Diffusion + Control Net. Tem bastante material sobre no Youtube e no Reddit”.

A Stable Diffusion é um programa de código aberto criado pela empresa startup Stability AI, do empresário de tecnologia Mohammad Emad Mostaque, do Reino Unido/Bangladesh. O programa foi lançado em agosto de 2022, catapultando a empresa, cujo valor chegou a ser estimado em US$ 1 bilhão.

O programa, contudo, tem sido acusado de permitir que usuários customizem o código e o utilizem para gerar imagens falsas realistas de pessoas nuas, os chamados nude deepfakes. Um dos casos com maior repercussão recente foi o da cantora pop Taylor Swift, que teve imagens falsas criadas a partir de IA. Imagens de políticos segurando armas também têm sido geradas por usuários, que burlam as travas de segurança do código original do programa.

A origem da imagem com Lula já havia sido verificada pelo veículo de checagens Factchequeado, da América Latina, em 2023.

Uso irregular de IA já rendeu multa a candidato

Como explica Neisser, apesar da proibição do TSE, somente outros candidatos, partidos, coligações e Ministério Público Eleitoral poderão solicitar que a Justiça Eleitoral avalie o uso de imagens produzidas por IA que são compartilhadas sem o rótulo devido. A mesma regra vale para outros tipos de publicação que são vedadas pela Justiça Eleitoral, como conteúdos desinformativos no geral, ou o uso de chatbots para intermediar a comunicação com eleitores.

O prazo é de duas semanas para que a representação eleitoral analise as justificativas da parte interessada e notifique os possíveis infratores, que podem apresentar suas defesas. Em seguida, o juiz decide, podendo determinar a derrubada dos links e posts pelas plataformas, cabendo recurso em um dia para ambas as partes – quem solicitou a denúncia e o denunciado.

Em maio deste ano, o prefeito de Guarulhos (SP), Gustavo Henric Costa, do Republicanos, candidato à reeleição, foi multado pela Justiça Eleitoral em R$ 5 mil após publicação criada com o uso de IA no Instagram. A Justiça entendeu que a postagem configurava propaganda eleitoral antecipada contra o PT. A decisão do juiz eleitoral Gilberto Azevedo de Moraes Costa, da 278ª zona eleitoral de Guarulhos, destacou a irregularidade eleitoral no conteúdo, em que, segundo ele, “a manipulação da imagem é evidente ante as falhas de imagem características do uso desta ferramenta”.

O uso da IA nas eleições tem sido analisado pelo Desinformante*, uma plataforma que reúne pesquisadores em desinformação. A reportagem conversou com Tatiana Dourado, pesquisadora do Instituto Nacional de Ciência e Tecnologia em Democracia Digital (INCT.DD), e Democracia em Xeque. Segundo ela, essas publicações podem potencializar a desinformação ao acionar sentidos como o humorístico.

“É na mistura do humor com uma política radicalizada que políticos e contas extremistas ampliam o público que desejam cooptar. Pensando do ponto de vista eleitoral, isso é totalmente estratégico. Para que serve o humor nas eleições senão para mobilizar?”, questiona.

No caso das imagens produzidas por IA associando as queimadas ao governo federal, Dourado explica a mobilização gerada na opinião pública a partir da ambiguidade sugerida pela imagem. “Por isso que é um risco o TSE promover parcerias com agências de checagem apenas nas eleições, porque o problema passa a ser naturalizado nos outros períodos. É a partir da dúvida que a desinformação se manifesta e mina os sistemas de justiça ou a própria imprensa. O uso da técnica de replicação em massa da IA é justamente para romper com esse combate desinformativo das instituições”, diz.

Políticos entram na onda da IA para criticar governo federal

Não são apenas candidatos a vereadores que vêm veiculando imagens produzidas por IA associando as queimadas ao governo federal. No dia 26 de agosto, o deputado federal José Medeiros (PL-MT) publicou na sua conta pessoal do Instagram duas imagens produzidas usando IA. Uma delas representa o mapa do Brasil em chamas, tomado pela fumaça. A publicação tem 67 comentários, todos eles respondidos por Medeiros com um emoji de fogo.

Na outra imagem, em que aparece a sigla do MST tomada de chamas em meio a uma floresta, o deputado escreve: “Só Deus na causa!”. O post tem 351 comentários e segue o mesmo modelo de interação com os seguidores da outra publicação, mudando apenas o emoji na resposta.

Essa mesma imagem foi compartilhada também pelo deputado federal Zé Trovão (PL-SC). Conforme mostrou reportagem da Agência Pública, deputados ruralistas usaram suas redes sociais nesta semana para disparar notícias falsas acusando o Movimento dos Trabalhadores Rurais Sem Terra (MST) de estar por trás dos incêndios florestais.

Já no dia 28 de agosto, a senadora Damares Alves (Republicanos-DF), publicou um vídeo produzido a partir de IA. A publicação mescla manchetes jornalísticas atuais de veículos como a Revista Oeste, Folha de S.Paulo, BNC e BBC com um vídeo de 2021 em que artistas como Gilberto Gil e Daniela Mercury pediam para que se salvasse a Amazônia. Na montagem, os cantores aparecem envolvidos em fogo. Na legenda, Damares escreve: “Recorde de queimadas. E imaginem se fosse no governo Bolsonaro”. Recebeu 1.847 comentários.

SAIBA MAIS:

Estudo mostra uso de inteligência artificial na detecção de fake news

Bolsonaristas e empresas de tecnologia tentam barrar regulação de Inteligência Artificial