IA nas eleições: restrição do TSE não será capaz de impedir “deepfake”, alertam especialistas

As medidas anunciadas no fim de fevereiro pelo Tribunal Superior Eleitoral (TSE) para combater a propagação de notícias falsas e o uso indevido da inteligência artificial (IA) por parte de partidos políticos e candidatos não serão suficientes para barrar as “fake news” durante as eleições municipais deste ano. A avaliação é de especialistas em novas tecnologias, IA e direito político e eleitoral consultados pela reportagem do InfoMoney.

Aprovada pelo TSE no dia 27 de fevereiro, a Resolução nº 23.732/2024, de autoria da ministra Cármen Lúcia – que sucederá Alexandre de Moraes e será a presidente do tribunal durante o processo eleitoral –, restringiu fortemente o uso de IA nas campanhas políticas. O recurso só será permitido em casos pontuais, desde que o eleitor seja informado de modo “explícito, destacado e acessível”, e não poderá ser utilizado para difundir notícias ou imagens manipuladas e inverídicas. Quem descumprir a regra poderá ter o registro de sua candidatura cassado ou, se eleito, perder o mandato.

O tribunal também proibiu o chamado “deepfake”, que são manipulações feitas por meio da IA em vídeos, fotos ou GIFs, que guardam enorme semelhança com a realidade. Na resolução, o TSE classifica “deepfake” como “conteúdo sintético em formato de áudio, vídeo ou combinação de ambos, que tenha sido gerado ou manipulado digitalmente, ainda que mediante autorização, para criar, substituir ou alterar imagem ou voz de pessoa viva, falecida ou fictícia”. Também está proibido o uso de “chatbots” (robôs virtuais de bate-papo) e avatares que simulem uma suposta comunicação entre candidatos e eleitores (clique aqui para ler a íntegra da resolução do TSE).

Guerra perdida

Segundo especialistas ouvidos pelo InfoMoney, o tribunal acerta ao regulamentar o uso de IA nas eleições, acabando com um “vácuo legal” que existia até então. Apesar do esforço da Justiça Eleitoral, no entanto, é praticamente impossível que o pleito deste ano esteja totalmente imune às notícias falsas ou ao uso do “deepfake” como arma política.

“Essas medidas, definitivamente, não são suficientes. É absolutamente impossível imaginar qualquer solução para esse problema. É evidente que pode inibir, mas não temos como garantir que não vai acontecer”, avalia Kenneth Corrêa, professor de MBA da Fundação Getulio Vargas (FGV) e especialista em inovação, negócios digitais, novas tecnologias, inteligência artificial e metaverso.

“O TSE talvez tenha feito o melhor que poderia fazer: criou uma regulamentação para que, se houver uma denúncia, exista um mecanismo para aplicar alguma punição”, diz. “Lamentavelmente, vai ter muita gente usando chatbot e vai ter muito ‘deepfake’. Infelizmente, não há como barrar. É uma tecnologia muito fácil, você pode criar sem que isso seja rastreável. É impossível controlar e identificar se a tecnologia é deepfake ou não.”

Helbert Costa, sócio e diretor de tecnologia e marketing na Monte Bravo Corretora, também entende que a Justiça Eleitoral “não está preparada para enfrentar o problema”. “Por mais que plataformas como Instagram ou YouTube possam se especializar ou fazer algum tipo de marcação e alerta sobre notícias falsas, a grande questão são os grupos de WhatsApp. Um vídeo fake que passa por ali tem uma dimensão avassaladora, e as pessoas não conseguem identificar se é fake ou não. O estrago está feito”, constata.

“O impacto que a IA pode ter nas eleições é muito maior do que as pessoas imaginam. Eu posso usar a IA para direcionar um discurso de maneira ultrapersonalizada e explorar vulnerabilidades ou preconceitos para influenciar a decisão de voto. Eu posso amplificar a própria polarização política, de uma forma que o mundo nunca viu”, prossegue Costa.

Leia também:

• Moraes diz que candidatos podem ser cassados por uso negativo de inteligência artificial
• Por unanimidade, TSE restringe uso de inteligência artificial nas eleições de outubro

Ameaça à liberdade de expressão?

Outra determinação do TSE para as eleições deste ano é a responsabilização das plataformas digitais – como Google, Facebook, X (antigo Twitter), TikTok e Instagram – por conteúdos falsos publicados por usuários.

De acordo com a Resolução 23.732, é dever dessas empresas “a adoção e a publicização de medidas para impedir ou diminuir a circulação de fatos notoriamente inverídicos ou gravemente descontextualizados que possam atingir a integridade do processo eleitoral”, mesmo sem qualquer “notificação da autoridade judicial”. Em outras palavras, as big techs assumirão, efetivamente, a responsabilidade pelo conteúdo que seus usuários publicam – e terão de excluir eventuais postagens falsas, sob pena de multa, mesmo sem uma decisão da Justiça que as obrigue a fazê-lo.

Para Izabelle Paes Omena de Oliveira Lima, sócia do escritório Callado, Petrin, Paes & Cezar Advogados e fundadora do Instituto de Direito Político e Eleitoral (IDPE), o ideal seria que as plataformas fossem punidas apenas em caso de descumprimento de decisões judiciais. “A responsabilização deve vir se essas empresas, intimadas a retirar conteúdos que violem a lei, não obedecerem à determinação judicial. Entendo que elas não devem fazer uma fiscalização preliminar do conteúdo de terceiros”, afirma, alertando para o risco de censura prévia do material publicado.

Apesar da ponderação, Oliveira Lima vê a regulamentação do uso da IA nas eleições como necessária. “Como a eleição é muito dinâmica, se não tivermos uma regulamentação sobre IA e um limite para aquilo que pode ser usado, quando a Justiça Eleitoral for acionada e ela precisar aplicar alguma sanção aos responsáveis, fica muito mais difícil delimitar o que pode ser exigido de cada um dos envolvidos”, explica.

Kenneth Corrêa, da FGV, tem avaliação semelhante. Para ele, a responsabilização das grandes empresas de tecnologia não representa uma ameaça à liberdade de expressão e, ao contrário, é uma medida que fortalece a democracia. “É difícil defender que não se faça nada. Não responsabilizar as plataformas significa não fazer pelo menos uma tentativa de frear o uso indevido da tecnologia”, afirma. “Eu não acho que isso vai afastar essas empresas do mercado. Elas têm força para sobreviver a isso. E, no fim do dia, isso ajuda a ter a plataforma como parte dessa briga contra fake news e desinformação.”

Para Helbert Costa, as big techs têm “responsabilidade direta” pelo conteúdo publicado por seus usuários, à medida que os algoritmos condicionam aquilo que as pessoas verão em seus feeds nas redes sociais. “As empresas são as principais responsáveis por recomendar ou não os conteúdos para os usuários. Não dá para quem cuida da distribuição da notícia não ser responsável por aquilo que distribui, uma vez que escolhe quem vai ler o quê”, resume.

Izabelle de Oliveira Lima esclarece que as restrições impostas pelo TSE têm o intuito de coibir o mau uso da IA nas eleições, mas não eliminam a possibilidade de partidos e candidatos recorrerem à tecnologia em suas peças de propaganda. “As ferramentas digitais e até a IA não estão totalmente vedadas. O que a resolução coíbe é o uso indevido dessas tecnologias para enganar o eleitor. A legislação já vem caminhando nesse sentido paulatinamente. Antes de existir a IA, as resoluções do TSE já proibiam o uso de mecanismos que criassem uma impressão artificial no eleitor ou o que o levassem a erro”, diz.

“O TSE não está impedindo o desenvolvimento, a pesquisa ou mesmo a aplicação da IA em outro contexto. O que não está se autorizando é fazer o uso de imagens de outro candidato utilizando a tecnologia do ‘deepfake’. Afinal, se o candidato A está gerando uma versão fake com áudio e vídeo do candidato B, certamente não é para falar bem do seu adversário”, corrobora Kenneth Corrêa.

Leia mais:

• Moraes volta a defender regulamentação das redes sociais: “Não podemos dar uma de Bambam contra Popó”

O que diz o TSE

Procurado pela reportagem do InfoMoney, o TSE afirma que as medidas da Resolução 23.732 não levam a uma “criminalização do uso da IA” nas eleições. “Entre outros pontos, o normativo estabelece que, na propaganda eleitoral, será necessário informar, de forma explícita e acessível, que aquele conteúdo foi fabricado ou manipulado e qual o tipo de tecnologia usada. É uma medida que visa a manter a igualdade de oportunidades entre as candidaturas e dar transparência aos conteúdos veiculados por candidatas, candidatos e partidos políticos”, diz o tribunal.

No fim do mês passado, o TSE aprovou, ao todo, 12 resoluções sobre o processo eleitoral deste ano. Elas foram publicadas no dia 1º de março no Diário da Justiça Eletrônico (veja todas clicando aqui). As regras tratam de uma série de temas, entre os quais a gestão e a distribuição dos recursos do Fundo Especial de Financiamento de Campanha (FEFC); pesquisas eleitorais; reclamações e pedidos de direito de resposta; procedimentos de fiscalização e auditoria do sistema eletrônico de votação; registro de candidaturas; prestação de contas; propaganda eleitoral; cadastro eleitoral; e prática de ilícitos.