Ainda faltam nove meses para as eleições municipais, mas as fakes news já circulam intensamente com uma nova modalidade de conteúdo mais difícil de ser identificado. Em ao menos três estados — Amazonas, Rio Grande do Sul e Sergipe —, a polícia investiga suspeitas de uso de inteligência artificial (IA) para criar áudios falsos de prefeitos que devem tentar a reeleição e de um deputado federal envolvido na pré-campanha da mulher chefe de executivo municipal, que também deve buscar a recondução ao cargo.
A técnica de adulteração de sons e de vídeos é conhecida como “deepfake’, no qual o tom, o timbre e até o jeito de alguém falar é recriado artificialmente. Assim, ao receber uma gravação pelo WhatsApp, o eleitor reconhece a voz do candidato e acredita que o político disse algo que, na verdade, não disse.
Um dos casos identificados ocorreu em Manaus, onde o prefeito David Almeida (Avante) denunciou à Polícia Federal (PF) ter sido alvo de deepfake no fim do ano passado. No áudio atribuído a ele, a voz do político, emulada por Inteligência Artificial, trata os professores da rede municipal de ensino de “vagabundos” e diz que os servidores “querem um dinheirinho de mão beijada”.
O episódio tem sido tratado como uma espécie de laboratório pela PF, que viu suspeitas de crime eleitoral e, por isso, assumiu as investigações. A ideia é usar o caso como modelo para eventuais apurações futuras relacionadas às disputas municipais deste ano. Desde que o inquérito foi instaurado, no último dia 22, dois suspeitos já foram ouvidos. Além disso, foi feita uma perícia no arquivo digital que constatou a manipulação no áudio.
Conheça alguns exemplos:
- David Almeida (Avante) — Prefeito de Manaus
“O que mais tem é professor vagabundo que quer o dinheirinho de mão beijada. Eu não paguei o Fundeb, mas o povo esquece, tu vai ver”.
O áudio manipulado foi divulgado em meio ao protesto de profissionais pelo pagamento de abono oriundo de sobras do Fundeb. Almeida diz que o áudio é falso e tem o objetivo de criar indisposição com a categoria em ano eleitoral.
- Marco Aurélio Nedel (PL) — Prefeito de Crissiumal (RS)
“Vou falar do aumento ano que vem (2024) (…) Depois vamos levando na conversa, entendeu? Pessoal com pouco estudo, analfabeto, já ganha demais.”
Em áudio compartilhado, o prefeito xinga funcionários do parque de obras, espaço da prefeitura, e achincalha servidores. O prefeito diz que o caso é uma tentativa de retaliação da oposição na cidade e que visa o processo eleitoral deste ano, quando concorrerá à reeleição
- Gustinho Ribeiro (Republicanos) — Deputado federal e marido da prefeita de Lagarto (SE), Hilda Ribeiro
“Pode arrochar, bote pra f…, eles lá não têm poder nenhum, quem está no poder somos nós”
O parlamentar diz que foi alvo de montagem por inteligência artificial na gravação em que a voz atribuída a ele critica adversários políticos. Rubeiro denunciou o caso a autoridades para investigação.
Câmara e Senado devem acelerar a tramitação do tema. Ainda não houve, porém, uma conversa entre as duas Casas para definir qual texto terá prioridade. O presidente da Câmara, Arthur Lira (PP-AL) pretende avançar com o tema logo após o recesso. Ele entende que é papel do Congresso tratar da regulação e não vê como positivo o fato de o TSE editar regras.
O TSE irá realizar audiências públicas este mês para editar uma resolução. A ideia é proibir a manipulação de voz e imagens com conteúdo falso, com previsão até mesmo de cassação do mandato. Segundo minuta, a responsabilidade da retirada do conteúdo do ar será das plataformas. O uso de IA, sem o propósito de gerar desinformação, também precisará ser rotulado.
O Ministério da Justiça e Segurança Pública acompanha e estuda as medidas em tramitação no Congresso e no TSE. Hoje, a responsável pela gestão é Estela Aranha, secretária de Direitos Digitais, que na semana passada se reuniu com representantes de empresas de softwares para discutir o assunto.
Em pesquisas locais, Almeida lidera a corrida para ser reeleito. Entre os seus principais concorrentes estão Coronel Menezes (PL), que tem o apoio do ex-presidente Jair Bolsonaro, e o deputado federal Amom Mandel (Cidadania).
— Não existe anonimato na internet e você pode ser responsabilizado. Esse caso deve servir de parâmetro para o restante do Brasil — disse o prefeito de Manaus.
Sem uma regulamentação, parte dos casos são tratados como difamação, crime de menor potencial ofensivo e sem consequências eleitorais. Foi o que aconteceu com a denúncia feita pelo prefeito de Crissiumal (RS), Marco Aurélio Nedel (PL), que afirmou ter sido vítima, no fim do ano passado, da prática de deepfake após um áudio com xingamentos e frases que denotavam menosprezo a servidores da cidade ser atribuído a ele. Segundo Nedel, sua voz foi manipulada por adversários políticos com a intenção de prejudicá-lo eleitoralmente. A investigação da Polícia Civil constatou que o conteúdo indicado pelo prefeito havia sido repassado entre vereadores.
— Achei que estava ficando famoso, só conhecia o caso de vídeo (feito por inteligência artificial) com (Barack) Obama (ex-presidente dos Estados Unidos). Acho que vem coisa muito pior pela frente. Por isso, é bom colocar o freio logo agora — afirmou o prefeito da cidade gaúcha.
Já em Lagarto, no interior de Sergipe, quem denunciou ter sido vítima de manipulação por IA foi o deputado federal Gustinho Ribeiro (Republicanos-SE). Sua mulher, Hilda Ribeiro (Solidariedade), é candidata a mais um mandato como prefeita da cidade, a quarta maior do estado.
Na gravação, a voz atribuída a Gustinho profere palavrões ao se referir a adversários políticos. O deputado, que presidiu a CPI das Americanas, diz também ter denunciado o caso à polícia. “Criminosos montaram um vídeo com minha imagem e um áudio fake, criado por inteligência artificial”, afirmou, em nota.
O assunto não preocupa apenas pré-candidatos. O presidente do Tribunal Superior Eleitoral (TSE), ministro Alexandre de Moraes, já declarou ser urgente a regulamentação do uso da inteligência artificial no país e indicou que políticos que forem pegos usando a tecnologia de forma irregular poderão ser cassados.
O TSE marcou para o próximo dia 25 audiênciaa pública para discutir uma resolução que deve regulamentar como o tema deve ser tratado nas campanhas eleitorais. A sugestão da Corte é proibir qualquer manipulação de voz e imagens com conteúdo falso. Segundo minuta do tribunal, caberá às plataformas de redes sociais excluir vídeos e áudios após serem notificadas sobre os “fatos sabidamente inverídicos”.
O tema também mobiliza o Congresso e o governo. Desde o ano passado, o Ministério da Justiça debate internamente uma regulação sobre o tema. Já na Câmara, o presidente da Casa, Arthur Lira (PP-AL), pretende colocar em votação projetos sobre o assunto logo após o recesso. Ele entende que é papel do Congresso Nacional a regulamentação do uso da tecnologia e não vê como positivo o fato de o TSE editar regras.
— Esse movimento cibernético, de redes sociais, vai exigir de nós, congressistas, que algumas modificações aconteçam, para que a Constituição também abrace, acolha, proteja, os direitos individuais de uma vida que muda muito — disse Lira em entrevista no fim do ano passado.
Já o presidente do Senado, Rodrigo Pacheco (PSD-MG), apresentou em maio um projeto de lei que estabelece diretrizes gerais para o desenvolvimento, implementação e uso de sistemas de IA no Brasil (mais detalhes na página 6).
Apesar de novidade no Brasil, o uso de inteligência artificial já gerou polêmica em campanhas eleitorais de outros países. No ano passado, a disputa pela presidência da Argentina foi a primeira a usar a ferramenta em larga escala. A maior parte do conteúdo era de imagens manipuladas, mas também houve vídeos, como a gravação falsa que mostrava o candidato peronista, Sérgio Massa, cheirando cocaína. A gravação foi editado digitalmente para inserir o rosto do político em outro homem.
— O conteúdo em vídeo ainda é algo que requer uma elaboração maior — diz Fernando Ferreira, especialista em inteligência artificial do Netlab, da UFRJ.
Nos Estados Unidos, a ferramenta também já foi testada nas primárias. A campanha do republicano Ron DeSantis, por exemplo, divulgou uma imagem falsa gerada por IA do ex-presidente Donald Trump abraçando um desafeto.
Mas nem todos os usos da IA foram vistos como negativos. Na Coreia do Sul, em 2022, três candidatos a presidente utilizaram avatares criados pela tecnologia para se comunicarem com a população. O recurso permitia que os políticos atingissem o público mais jovem, respondendo a perguntas pré-estabelecidas (os chamados “chatbots”) e interagindo com um maior número de eleitores, que estavam cientes do uso da tecnologia.
— A utilização dessa tecnologia apresenta riscos, problemas, e tem um potencial também benéfico. Está todo mundo tentando se situar. Falando em termos de eleições, algum tipo de regulação precisa acontecer. A grande questão é a dose disso — disse André Gualtieri, fundador da Escola de Ética de Tecnologia (Technoethics).
Com informações de O Globo.
