Imagens e vozes manipuladas

É cada vez mais comum abrir as redes sociais e se deparar com peças publicitárias que trazem imagens de personalidades como Dráuzio Varella, Ana Maria Braga ou Marcos Mion recomendando o uso de produtos falsos. São peças produzidas por golpistas e criminosos digitais que manipulam imagens e vozes - de pessoas famosas, como as citadas, ou anônimas - com o objetivo de lucrar. Trata-se de um dos efeitos colaterais do avanço das ferramentas de inteligência artificial generativa.

Uma reportagem especial exibida pelo Fantástico (leia e assista aqui), da TV Globo, no domingo (17), apontou que "mapear os anúncios fraudulentos é difícil por falta de transparência das redes sociais". Segundo a matéria, no Brasil, somente a Meta oferece uma Biblioteca de Anúncios com livre acesso para pesquisadores.

Na plataforma, o NetLab, vinculado à Escola de Comunicação (ECO) da Universidade Federal do Rio de Janeiro (UFRJ), encontrou 7.618 peças fraudulentas só relacionadas a empresas ou pessoas que trabalham para o Grupo Globo. O levantamento também apurou que 78% das fraudes estão relacionadas à saúde.

Os criminosos manipulam a imagem e a voz de pessoas nas peças, que são pagas para serem veiculadas, impulsionadas e direcionadas para públicos específicos - usando a inteligência da rede social. "Quando pagam, escolhem qual é a segmentação desse anúncio, que a gente chama de microssegmentação. A plataforma dá a inteligência que ela tem, que é saber exatamente qual é o consumidor que tem aqueles interesses e que está mais vulnerável, mais suscetível àquele tipo de anúncio", observou Marie Santini, coordenadora do NetLab - UFRJ.

Uma das peças de publicidade destacadas na matéria, por exemplo, mostra a imagem do médico Dráuzio Varella e a voz dele dizendo frases que jamais sairam de sua boca, como "há pessoas que emagrecem 10 quilos no primeiro mês" sobre um pretenso "remédio". "É horrível você saber que tem gente que está vendo aquilo e achando que é você que está falando ali", lamentou.

Os fraudadores também usam constantemente a imagem e a voz de William Bonner, apresentador do Jornal Nacional. "Como jornalista eu não posso fazer propaganda. Então são dois riscos enormes. Um é propaganda de produtos: não posso fazer. O outro é propaganda política: porque se usam a inteligência artificial para simular a venda de um produto qualquer, também usam para a venda de um político qualquer. Das duas formas é um crime e das duas formas eu estou sendo lesado", denunciou Bonner.

O presidente do Conar (Conselho Nacional de Autorregulação Publicitária), Sergio Pompilio, declarou à reportagem do Fantástico que a entidade está negociando com as redes sociais a questão da autorregulação, mas que elas ainda não aderiram. Procurado pelo Clubeonline para mais esclarecimentos, o Conar, por meio de sua assessoria de imprensa, comentou que "de momento é apenas isso que o presidente disse (na matéria do Fantástico)".

O TikTok respondeu à reportagem em nota, que destacou que "suas políticas de mídia sintética e manipulada deixam claro que (o aplicativo) não permite mídia sintética que contenha a imagem de qualquer pessoa real que não seja pública e não permite mídia sintética de figuras públicas se o conteúdo for usado para endossar ou violar qualquer outra política."

Segundo o comunicado, "sempre que qualquer pessoa encontrar algum vídeo com conteúdo que acredite violar suas diretrizes, seja ele a respeito de qualquer assunto, é possível fazer a denúncia dentro do próprio aplicativo. É só manter o vídeo na tela pressionado e um menu irá aparecer. Após isso, selecionar 'relatar' e seguir as instruções na tela."

Também em nota, a Meta afirma que "não permite anúncios que promovam atividades fraudulentas", e que "revisa conteúdos usando tanto inteligência artificial quanto equipes humanas". E ainda, que "remove quando constatadas violações das políticas da empresa". Também afirma que "não teve acesso ao relatório da NetLab e que, portanto, não pode fazer comentários específicos a respeito de suas conclusões."

Já o X (antigo Twitter) não respondeu às tentativas de contato da produção da matéria exibida no Fantástico.