Deepfake e eleições
Natal, RN 27 de mai 2024

Deepfake e eleições

3 de março de 2024
9min
Deepfake e eleições
Foto: https://www.folhadelondrina.com.br/ Arte

Ajude o Portal Saiba Mais a continuar produzindo jornalismo independente! Apoie com qualquer valor e faça parte dessa iniciativa.

Quero Apoiar

No dia 27 de fevereiro de 2024 o plenário do Tribunal Superior Eleitoral (TSE) aprovou 12 resoluções com regras para as eleições municipais de outubro deste ano, como, entre outras, sobre pesquisas eleitorais, auditoria e fiscalização, sistemas eleitorais, registro de candidatura, fundo eleitoral, prestação de contas e propaganda eleitoral. E também uma muito importante que é a proibição do uso de deepfakes e a obrigação de identificar conteúdos manipulados por Inteligência Artificial (IA).


Qual a importância da aprovação dessas regras e em especial sobre a proibição de deepfake? É que o uso de inteligência artificial (IA) em campanhas eleitorais não estava regulamentado. Agora entre as medidas determinadas pelo TSE está a exigência de rótulos de identificação de conteúdo sintético multimídia, restrição ao uso de chatbots (também conhecidos como chatterbots ou bots “são exatamente o que nome indica: robôs que conversam”) e “usando uma linguagem natural para obter uma experiência mais próxima do real (…) sendo possível a integração em aplicativos de mensagem, sites e outras plataformas digitais”


A resolução também proíbe o uso de avatares que significa “manifestação corporal de um ser super poderoso, na religião hindu”. Trata-se de “qualquer espírito que ocupa um corpo terrestre, que representa uma manifestação divina na terra”, mas “também tem sido muito usada pela mídia e em informática, porque são criadas figuras semelhantes ao usuário (…) permitindo a personalização dentro do computador, ganhando assim um corpo virtual”.


O TSE também aprovou medidas que ampliam a responsabilização e o papel das big techs (responsáveis pelos provedores e redes sociais) que deverão prestar seus serviços “em conformidade com seu dever de cuidado e com sua função social” e a necessidade das plataformas em impulsionarem conteúdos que informem sobre as distorções e manipulações no processo eleitoral, responsabilizando os provedores nas esferas civil e administrativa caso não removam conteúdos e contas das redes sociais (que também serão monitoradas, visando impedir a disseminação de conteúdos falsos e crimes tipificados no Código Penal, como discurso de ódio, racismo, homofobia “e quaisquer outras formas de discriminação”).


Como afirmou o presidente do TSE, ministro Alexandre de Moraes, o tribunal “aprovou uma das normatizações mais modernas do mundo em relação ao combate a desinformação e ao uso ilícito da inteligência artificial” e sugere que os eleitores “chequem todo tipo de informação e denunciem a desinformação ou a informação deturpada, criminosa, que pretende solapar a sua livre escolha”.
As plataformas que mantiverem conteúdos que atentem contra a democracia e incitem o ódio, como manifestações racistas, homofóbicas ou nazifascistas deverão ser responsabilizadas. São tipificados como crimes inventar conteúdos, editar para mudar o vídeo ou a fala original e divulgar de modo deliberado, espalhando falsidades, tentando influenciar eleitores.


Em relação à deepfake, o TSE define como “conteúdo sintético em formato de áudio, vídeo ou combinação de ambos, que tenha sido gerado ou manipulado digitalmente, ainda que mediante autorização, para criar, substituir ou alterar imagem ou voz de pessoa viva, falecida ou fictícia”.
Trata-se, portanto, de uma técnica que usa imagens e sons reais, utilizando inteligência artificial para substituir rostos e vozes em vídeos, com falas e ações descontextualizadas e manipuladas, com o objetivo de chegar o mais próximo possível da realidade. Basicamente são conteúdos produzidos por Inteligência Artificial que conseguem criar experiências que podem se passar como verdadeiras.


No Brasil o uso de deepfakes em eleições passou a ser utilizado em 2018. Entre muitos exemplos, antes da prisão de Lula e quando ele liderava as pesquisas de intenção de voto, pode ser citada a montagem de um vídeo mostrando parte de um depoimento em que o ex-ministro Antonio Palocci afirma que Lula recebeu dinheiro e imóveis para sua “aposentadoria”. O que ficou evidente nessas montagens, com áudios falsos e fora de contexto era induzir uma interpretação enganosa sobre Lula, cujos processos se revelaram tão falsos que foram arquivadas pela Justiça ou tiveram a condenação anulada (para uma análise detalhada sobre a farsa da condenação e prisão de Lula, consultar o livro Vaza Jato: os bastidores das reportagens que sacudiram o Brasil de Letícia Duarte e The Intercept Brasil, Editora Mórula, 2020).

E as mentiras continuaram como mostrou a agência de checagem Comprova ao analisar um vídeo que afirmava que Lula teria roubado 350 mil toneladas de ouro em Serra Pelada para doar a Venezuela.

Nas eleições de 2022, entre outros exemplos, um que ficou muito conhecido foi com a jornalista Renata Vasconcellos, apresentadora do Jornal Nacional, quando foi feita uma montagem que circulou no Whastapp, Twitter e Youtube com ela dizendo (em agosto de 2022) que Bolsonaro estava à frente nas pesquisas, com 44% das intenções de voto e Lula com 32%, quando na realidade era o oposto. Lula liderou todas as pesquisas (não manipuladas) desde o início do processo eleitoral.


Mais recentemente o deputado federal bolsonarista Gustavo Gayer (PL-GO) publicou na rede social X (antigo Twitter) uma montagem de Lula com uma bandana do Hamas, um fuzil e uma suástica nazista tatuada no rosto e exposta em uma braçadeira, com os dizeres: “Atenção: Lula já mandou trocar a sua foto de presidente em todos os ministérios e estatais”. No dia 22 de fevereiro, a Advocacia-Geral da União (AGU) encaminhou uma notificação extrajudicial para a plataforma exigindo a retirada imediata da postagem, argumentando que “houve clara intenção do parlamentar em associar o presidente da República ao terrorismo, ao nazismo e a posições antissemitas

A intervenção regulatória sobre as deepfakes como a resolução do TSE está relacionada às plataformas que devem cumprir com as determinações legais, impedindo a difusão de deepfake e fake news, mas também é importante que haja políticas públicas de educação digital, com o objetivo de que possa haver por parte do eleitorado (e da população em geral) uma conscientização da existência dessa tecnologia, dos seus riscos e da importância do questionamento sobre fontes de notícias, estimulando o uso de agências de checagens, considerando o fato de que existem grandes dificuldades das pessoas em geral de discernirem entre conteúdo falso e verdadeiro, sobretudo em deepfakes de voz, quando um áudio é colocado em um vídeo fora de seu contexto, como foi o caso citado do depoimento de Palocci, usado contra Lula (excluído dos autos no Supremo Tribunal Federal por ser claramente mentiroso).

Definir o que é real e o que é falso é muito difícil no ambiente digital, especialmente quando dirigidos para pessoas que não procura saber sobre a veracidade das falas, vídeos etc., e desconhecendo a tecnologia, se tornam presas fáceis, não distinguindo o que um deepfake de um conteúdo (áudio e vídeos) verdadeiro. No artigo Deepfake nas eleições e a importância da proteção de dados publicado no dia 2 de fevereiro de 2024, Ingrid do Nascimento e Cristina Godoy Bernardo de Oliveira afirmam que “Um grande aliado na propagação desses vídeos ou áudios alterados é o fato de que diversos indivíduos não checam a veracidade da informação, visto que, por se tratar, supostamente, da voz e imagem da pessoa, atribui uma percepção de autenticidade e acreditam não haver necessidade de averiguar a situação concreta. Soma-se, ainda, o fato de que estes indivíduos compartilham com diversas outras pessoas ou grupos, o que ocasiona em um alto índice de compartilhamento e, portanto, maior alcance dessas inverdades”.


A estratégia dos ataques e das mentiras não é especifico do Brasil. Foi muito usado nos Estados Unidos na campanha de Donald Trump, com uma sucessão de mentiras, montagens e manipulações, mas sem consequências legais. Entre muitas, há um vídeo com o ex-presidente Barack Obama no qual ele aparecia afirmando que o presidente Donald Trump era “um idiota completo”. Embora muitos achem mesmo (além de mentiroso) não foi isso que Obama disse. O vídeo foi uma montagem, como foi devidamente esclarecido (certamente menos para os seguidores fanatizados de Trump).


Um aspecto relevante em relação à deepfake é quanto à punição dos responsáveis pelas montagens e divulgação, agora possível com a resolução do TSE. Até então não havia uma legislação específica sobre deepfake no Brasil, embora a lei 9.504/97 proíba o uso de montagens em campanhas políticas (para ridicularizar ou beneficiar um candidato), além de crimes como calúnia, difamação, injúria, previstos no Código Penal.


No entanto, um aspecto importante é que mesmo com a lei é difícil fiscalizar e punir um número gigantesco de postagens em especial quando são veiculados para grupos fechados (“bolhas” de seguidores de determinados candidatos em grupos de Whatsapp e Telegram, por exemplo). Como evitar seu uso indiscriminado nas redes sociais, em especial em processos eleitorais?
É fato que a manipulação antecede o uso dessa tecnologia, mas com ela ganha impulso e pode ser muito eficaz. Além do uso de deepfake, na guerra de informações, as pessoas são inundadas com notícias falsas, usando-se inclusive por robôs (bots) contas falsas automatizadas nas redes sociais que se fazem passar por pessoas reais.


Em relação à legislação, há diversos Projetos de Lei que tramitam no Congresso Nacional que tratam de regular o uso do deepfake e proteção de dados das pessoas, como o PL 2.630/2020 (chamado de PL das fake news) relatado pelo deputado Orlando da Silva (PCdoB-SP). O PL foi aprovado em 2020 no Senado, mas ainda está em análise na Câmara dos Deputados, sem data de votação definida. O objetivo é o de combater a desinformação e regulamentar o uso da inteligência artificial, e entre outros itens, prevê a proibição de uso de deepfake em eleições. Nesse sentido, a resolução aprovada pelo Tribunal Superior Eleitoral é um grande avanço, de enorme importância para as eleições, não apenas deste ano com as que virão, com a possibilidade de punir criminosos, evitando a propagação de deepfake e fake news.

As mais quentes do dia

Apoiar Saiba Mais

Pra quem deseja ajudar a fortalecer o debate público

QR Code

Ajude-nos a continuar produzindo jornalismo independente! Apoie com qualquer valor e faça parte dessa iniciativa.

Quero Apoiar

Este site utiliza cookies e solicita seus dados pessoais para melhorar sua experiência de navegação.