O uso de Inteligência Artificial e deepfake em eleições

A Inteligência Artificial pode ser definida, resumidamente, como uma área da ciência da computação que, usando um conjunto de tecnologias, desenvolve sistemas e algoritmos, além de máquinas que simulam a capacidade humana de raciocinar, que reconhecem imagens, vozes etc., capazes de gerar imagens, vídeos e textos. Ela compreende a linguagem e inteligência humana, e é aplicada em diversas situações, desde análise de dados até a execução de tarefas como revisão, criação e edição de textos, produção gráfica e projetos multimídias, de forma eficiente e rápida.

A IA continua se desenvolvendo, como no caso de vídeos gerados por IA, como os produzidos pela IA veo 3 do Google, e a chamada inteligência artificial generativa. Conforme afirma a matéria Democracia em risco: o avanço da IA e a ameaça dos deepfakes nas eleições de 2026, publicada na Revista Fórum por Leticia Cotta (3/6/2025), “É um tipo de IA capaz de criar novos conteúdos a partir de exemplos e padrões aprendidos durante seu treinamento. Isso inclui textos, imagens, vídeos, músicas e até códigos de computador (…) que funciona a partir de modelos matemáticos avançados, como as redes neurais, e é treinada com grande volume de informação, o que lhe permite simular a criatividade humana em diferentes formatos”.

Com o desenvolvimento da IA, há um aumento progressivo de vídeos manipulados, nem sempre perceptíveis ao público-alvo, como os deepfakes, especialmente usados em golpes na internet (com vozes, imagens etc.) e  em eleições. Essas técnicas têm sido com mais frequência e eficácia pela extrema direita, revelando-se fundamentais para a vitória eleitoral de seus representantes. Com baseem técnicas de IA e deepfake, é possível manipular conteúdos de vídeos e áudios, criando experiências que podem ser confundidas com a realidade e, assim, influenciar os resultados eleitorais.

Um dos problemas apontados por especialistas refere-se à capacidade de uso e manipulação de dados pessoais, coletados de usuários que, espontaneamente, disponibilizam suas informações  na internet e redes sociais.

Esse fenômeno tem crescido. Desde o lançamento do ChatGPT em 2022, a produção de conteúdos falsos, se ampliou e generalizou.

Em relação às eleições, o uso indiscriminado (e criminoso) de deepfake coloca em xeque a lisura do processo eleitoral, manipulando os eleitores por meio de técnicas que utilizam imagens e sons reais, substituindo rostos e vozes em vídeos, com falas e ações descontextualizadas e manipuladas, com o objetivo de enganar os eleitores.

Esse aspecto tem sido objeto de preocupação da Justiça Eleitoral. Em fevereiro de 2024, o Tribunal Superior Eleitoral (TSE) criou uma resolução que proíbe o uso da IA e deepfake em eleições. Deepfake é definido como “conteúdo sintético em formato de áudio, vídeo ou combinação de amos, que tenha sido gerado ou manipulado digitalmente, ainda que mediante autorização, para criar, substituir ou alterar imagem ou voz de pessoa vida, falecida ou fictícia”.

Há muitos exemplos de seu uso no Brasil e em outros países. Na Argentina, conforme matéria publicada na revista Fórum por Alice Anderson em 24/11/2023, durante a campanha eleitoral de 2023, que levou à presidência o obscuro deputado de extrema direita Javier Milei, uma das imagens adulteradas – mostrava o principal adversário de Milei, o ex-ministro Sérgio Massa, cheirando cocaína. “Na reta final da campanha do segundo turno para a presidência da Argentina, vídeos que empregavam Inteligência Artificial para manipular os rostos dos candidatos Javier Milei e Sergio Massa circularam amplamente pelas redes sociais. Essa foi a primeira vez que as IAs foram utilizadas em eleições democráticas” (https://revistaforum.com.br/politica/2023/11/24/uso-da-ia-nas-eleies-argentinas-pode-indicar-uma-nova-era-da-desinformao-148284.html).

Posteriormente, já eleito presidente, as manipulações, mentiras e uso de IA e deepfake, continuaram. Na eleição para a Câmara de Vereadores de Buenos Aires, realizada em maio de 2025, que resultou na vitória, considerada histórica dos candidatos apoiados por Milei, houve muitas denúncias de seu uso, como um vídeo manipulado amplamente divulgado durante a campanha eleitoral, mostrando o ex-presidente Mauricio Macri, reconhecendo a derrota de seu partido e pedindo votos para os candidatos de Milei.

No Brasil, especialmente na eleição de 2018, que elegeu o candidato de extrema direita (também um obscuro deputado, assim como Milei) houve o uso sistemático e eficiente da internet e das redes sociais. Na época o WhatApp foi utilizado para difundir mentiras, conforme detalhado por Patricia Campos Mello no livro A máquina do ódio: notas de uma repórter sobre fake news e violência digital (Editora Companhia das Letras, 2020), resultado da publicação de uma série de reportagens sobre o financiamento de disparos em massa no WhatsApp e redes de disseminação de mentiras, notícias falsas (fake news) “na maior parte das vezes em benefício do então candidato Jair Bolsonaro”.

Com o avanço da IA, esse processo se tornou ainda mais sofisticado, sendo utilizado em eleições para a formação de “bolhas” de seguidores em grupos de Telegram, WhatsApp etc.

Progressivamente, as big techs e os sistemas algoritmos, com o uso da IA, aprimoraram a capacidade de coletar, tratar e analisar as informações obtidas nas plataformas. Como afirma Eli Pariser no livro O filtro invisível- O que a internet está escondendo de você (Editora Zahar, 2011), essas plataformas filtram os dados, voluntariamente disponibilizados pelos usuários, analisam os seus comportamentos e os inserem em “bolhas” de pessoas semelhantes, que posteriormente podem ser (e são) manipuladas nas redes sociais, serviços de buscas, lojas virtuais etc. O autor mostra como Google, Facebook e Amazon, por exemplo, fazem isso com eficácia, utilizando algoritmos que personalizam buscas e filtram conteúdos conforme seus interesses.

No livro A máquina do ódio, Patrícia Campos Mello menciona o Intercept que “fez matérias sobre o uso de dados de brasileiros, sem autorização, e microdirecionamento de mensagens para eleitores. Com a venda de cadastros que reuniam nomes, CPFs, idade, localização geográfica, faixa de renda e outras informações, era possível identificar temas relevantes para cada grupo e enviar mensagens que tivessem maior impacto entre essas pessoas”.

Nas eleições de 2022, houve uma tentativa deliberada, por meio da internet e das redes sociais, de desqualificar sem provas as urnas eletrônicas, direcionando informações para um público que não questiona mentiras e desinformação, sem acesso às agências de checagens existentes no país. Isso pavimentou o caminho para a contestação dos resultados eleitorais após a vitória de Lula em outubro, culminando nos atos de vandalismo, nas sedes dos Três Poderes em Brasília, como parte de uma estratégia golpista.

Os atos visavam, essencialmente, criar caos e justificar uma intervenção militar (como pedido por golpistas em frente aos quartéis) para instaurar uma ditadura militar no país.

Em relação especificamente ao uso da IA e deepfake, vozes e imagens geradas e sincronizadas tornaram os conteúdos falsos e manipulados mais “realistas”, foram difundidos nas redes sociais pela extrema direita, antes, durante e depois das eleições. Esses materiais foram amplamente difundidos nas redes sociais pela extrema direita. Um exemplo entre muitos: em 2021, Lula concedeu uma entrevista ao podcast PodPah, que foi recuperada, alteradas e divulgada fora de contexto, com imagens manipuladas sobre  o escândalo dos descontos indevidos de aposentados do INSS, associando-o a Lula e seu governo. Trechos adulterados divulgados no TikTok, incluíam uma fala da jornalista Renata Vasconcellos, âncora do Jornal Nacional, na qual ela mencionava um suposto “quarto secreto” do presidente Lula, com malotes de dinheiro “roubado dos aposentados”. Uma mentira descarada, mas que surtiu efeito entre os seguidores da extrema direita.

Outros exemplos de conteúdos falsos e manipulados incluíram a “informação” de que o ministro Fernando Haddad havia anunciado impostos também para “cachorrinhos de estimação e grávidas”. Em janeiro de 2025, a Advocacia-Geral da União enviou ao Facebook notificação extrajudicial para que a plataforma removesse, em 24 horas, o vídeo adulterado com uso de inteligência artificial no qual o ministro aparece fazendo afirmações que não foram ditas por ele. Como consta no documento “A postagem manipulada por meio de inteligência artificial, contém informações fraudulentas e atribui ao ministro declarações inexistentes sobre a criação de um imposto incidente sobre animais de estimação e pré-natal”. Depois, outro vídeo usando IA afirma que o governo planejava estender o Programa Bolsa Família para mães de bebês reborn. A exemplo do que ocorreu em janeiro de 2025, mais uma vez, a Advocacia-Geral da União (AGU) enviou uma notificação extrajudicial à Meta para a remoção desses conteúdos das redes sociais.

O problema da disseminação de mentiras, com ou sem uso de IA e deepfake (o que as torna, mais verossímeis)  é que muitas pessoas, fanatizadas, ignorantes ou mal-informadas, acreditam nelas.

Em maio de 2023 a Kaspersky, empresa global de cibersegurança e privacidade digital, fundada em 1997 na Rússia, publicou um documento intitulado Deepfake em 2023: os três principais cenários de ameaças no qual afirma, entre outros aspectos, que “a ignorância continua sendo um dos maiores fatores de proliferação de mentiras. É importante conhecer as principais características dos vídeos que devem ser observadas para evitar se tornar uma vítima: movimentos irregulares, alterações na iluminação de um quadro para outro, mudanças no tom da pele das pessoas, piscadas estranhas ou ausência de piscadas, lábios não sincronizados com a fala ou artefatos digitais na imagem”.

Nesse sentido, é fundamental regular a IA para proteger direitos fundamentais, como afirmou o ministro Luis Roberto Barroso, presidente do Supremo Tribunal Federal (STF). Não  é uma preocupação exclusiva do Brasil, conforme mostra o artigo de Anderson Rohe A corrida global pela regulação das inteligências artificiais, publicado por em 4 de janeiro de 2024 (no site da Associação Brasileira das Empresas de Software/ ABES), com exemplos de como isso está ocorrendo em vários países

Um aspecto relevante nesse processo foi a formação de maioria no STF na análise da constitucionalidade do artigo 19 do Marco Civil da Internet, decidindo a favor da responsabilização das big techs por conteúdos ilegais publicadas em suas plataformas. Isso significa que elas não precisam aguardar uma decisão judicial, como previsto no citado artigo (19), para remover conteúdos falsos.

Em relação à legislação, a lei n. 9.504 de 1997 proíbe o uso de montagens em campanhas políticas, sejam para ridicularizar ou beneficiar um candidato, da mesma forma as resoluções do TSE, contêm dispositivos que proíbem a propagação e o impulsionamento de conteúdos destinados a desinformar, mentir e manipular o eleitorado, punindo a propagação de fake news com multas e detenção(assim como são previstos no Código Penal punições para calúnia, difamação e injúria).

A questão relevante é: como os órgãos fiscalizadores atuam e atuarão para punir esse tipo de crime após a circulação dos conteúdos na internet e redes sociais? A Resolução do TSE de fevereiro de 2024 estabelece, entre outras medidas, que as plataformas digitais que mantiverem conteúdos que atentem contra a democracia e incitem o ódio ou contenham manifestações racistas, homofóbicas ou nazifascistas deverão ser responsabilizadas civil e administrativamente, caso não os removam.

O problema é que as eleições (outubro de 2024) já ocorreram, mas quais foram às consequências dessa Resolução? Quantos processos chegaram aos Tribunais Regionais Eleitorais e quantas pessoas foram processadas e punidas pelo uso criminoso das redes sociais, por exemplo? Sabe-se da existência de muitas denúncias de adulterações de imagens e áudios investigadas pela policia e encaminhadas ao Judiciário em alguns estados. 

Uma questão importante é: como fiscalizar e punir um número gigantesco de postagens especialmente quando difundidas em grupos fechados ou “bolhas”, imunes à checagem de fatos?

Em função de sua relevância, os resultados desses processos deveriam ser públicos, até para, no limite, dissuadir quem faz uso sistemático (e criminoso) dessas ferramentas. Porque, mesmo proibidas, elas continuam sendo utilizadas e são inegavelmente instrumentos de persuasão eficazes (não por meio de fatos e argumentos,  mas de manipulações, mentiras e descontextualização).

O fato que o uso de tecnologia para fins eleitorais com o objetivo de mentir e manipular os eleitores, coloca sob suspeição um aspecto fundamental das democracias: a lisura das eleições.

Em relação às eleições, a Justiça Eleitoral tem condições, inclusive técnicas, de impedir o uso e disseminação dessas práticas? A existência de leis, como a Lei Geral de Proteção de Dados (LGPD) e resoluções como a do TSE,  não tem  sido suficiente para impedir o uso de IA e eleições e a difusão de deepfakes, que utilizam imagens, vozes de pessoas sem consentimento, manipulando informações. Isso representa um enorme desafio para a eleição presidencial do próximo ano (e não apenas durante o período  eleitoral, mas também antes, pavimentando o caminho especialmente da extrema direita, com suas habituais e sistemáticas mentiras e manipulações).

A extrema direita se adaptou mais rapidamente ao mundo digital de comunicação política, usando a internet e as redes sociais para difundir mentiras, com as consequências conhecidas. Até quando?