Pré-candidato é multado em R$ 10 mil por uso de "deep fake" contra adversário

A Justiça Eleitoral condenou o ex-prefeito e pré-candidato a prefeito de Costa Rica, Waldeli Rosa, ao pagamento de multa de R$ 10 mil por uso de Deep Fake contra o provável adversário na campanha de outubro, prefeito Delegado Cleverson.

A comissão provisória do PP em Costa Rica ajuizou representação contra Waldeli e Matheus da Silva Vaz por propaganda eleitoral antecipada, com uso de deep fake.  Segundo a denúncia, Matheus, que seria funcionário de uma das empresas de Waldeli, mediante deep fake, manipulou um vídeo onde o prefeito Cleverson teria comparado a população de Costa Rica a cachorros.

O vídeo foi distribuído em grupo de WhatsApp no Município.  "Conteúdo falso, com o propósito de atingir a imagem do rival e, consequentemente, favorecer o primeiro requerido. … o vídeo manipulado foi compartilhado em grupo de Whatsapp denominado 'Bar e Mercearia do Okaida', do qual o primeiro requerido é participante, utilizando-se de seu colaborador como longa manus para o malfeito", diz parte da denúncia.

Waldeli dos Santos Rosa, alegou não ter sido o agente responsável pela propagação do áudio e disse não haver provas de seu envolvimento com os fatos. Além disso, considerou que o vídeo em questão não se enquadraria como deepfake.

Matheus da Silva Vaz argumentou sobre a ausência de provas da autoria, por considerar que não haveria provas concretas de que o remetente da mensagem de whatsapp seria dele. além disso,  Ademais, aduziu que não haveria propaganda eleitoral antecipada, notadamente porque o áudio sobreposto ao vídeo seria verdadeiro, trazendo palavras realimente proferidas pelo atual prefeito Cleverson.

A juíza Laiza de Oliveira ressaltou que as resoluções do TSE, "que já proibiam e cominavam sanções para divulgação de conteúdos inverídicos ou inidôneos (fakes), recentemente, passaram a contemplar também a vedação ao uso de inteligência artificial (AI) para criar e propagar conteúdos falsos com repercussão nas eleições. Embora as regras sejam voltadas ao período de propaganda eleitoral (que se inicia a partir de 16 de agosto), é certo que também se aplicam para situações de propaganda antecipada".

No entendimento da juíza, o vídeo contempla conteúdo sintético em formato audiovisual, manipulado digitalmente, com substituição da voz e da mensagem emitida pelo atual Prefeito Cleverson Alves dos Santos, pré-candidato à reeleição, nitidamente com o propósito de confundir e induzir em erro a população de Costa Rica, causando severo prejuízo à imagem do atingido. "lena sincronia labial (se cuidadosamente observado o vídeo), mas com potencial claro de confundir e induzir em erro. Nota-se, aliás, que a voz sobreposta é do próprio atingido (ou se assemelha muito), o que denota o uso da inteligência artificial (IA) para manipulação. A mensagem de texto que acompanha o arquivo audiovisual, por sua vez, reforça o conteúdo falso.

"É caso típico de malversação da tecnologia mediante Deep Fake, ou seja, sobreposição de voz em vídeo, ainda que sem a fineza da plena sincronia labial (se cuidadosamente observado o vídeo), mas com potencial claro de confundir e induzir em errro. Nota-se, aliás, que a voz sobreposta é do próprio atingido (ou se assemelha muito), o que denota o uso da inteligência artificial (IA) para manipulação"

Laiza reforçou que o requerido Waldeli, além de ser o empregador de Matheus, não impugnou especificamente o fato de que teve contato com o vídeo por meio do grupo, não demonstrando providências concretas para a cessação da conduta do primeiro requerido ou mesmo para se evitar a propagação do conteúdo, que inevitavelmente ocorreria por simples compartilhamentos, ao se deparar com material que nitidamente o beneficiaria.

"Ou seja, houve prova do efetivo conhecimento da propaganda eleitoral pelo pré-candidato beneficiado, sendo que ele nada fez para que a conduta cessasse. Com isso, em harmonia com o parecer ministerial, é caso de acolhimento de parte da representação. Quanto à dosimetria da multa, deve ser levado em consideração que seria a terceira representação julgada procedente em desfavor do requerido Waldeli, acarretando, com isso, a majoração da multa, dada a reiteração da conduta. Posto isso, julgo parcialmente procedente a Representação formulada pela Comissão Provisória do Partido Progressista de Costa Rica, confirmando a tutela de urgência deferida nestes autos e condenando os requeridos Waldeli dos Santos Rosa ao pagamento da multa no valor de R$ 10.000,00 e o requerido Matheus da Silva Vaz ao pagamento de multa no valor de R$ 5.000,00 (cinco mil reais)", decidiu.