Plataformas Meta: 1.400 publicações de IA falsificando imagens nude; Regras aplicadas a anúncios pagos de supostas ferramentas manipuladoras de imagens usando Inteligência Artificial.
Geradores de imagens estão sendo anunciados no Instagram e no Facebook, prometendo editar fotos para remover a roupa de mulheres. As supostas ferramentas de manipulação de imagens estão pagando para ter seus anúncios exibidos nas plataformas da Meta.
Os geradores, criadores, produzidores de imagens estão investindo em publicidade para apresentar aplicativos que prometem edições controversas. A presença dessas ferramentas venha levantando preocupações e debates sobre a segurança e privacidade online.
Geradores de Imagens: o Uso Ilegal das Tecnologias
Apesar de proibirem nudez (saiba mais abaixo), as duas redes sociais veicularam desde dezembro de 2023, aproximadamente 1.400 anúncios em todo o mundo – sendo 150 no Brasil – de aplicativos que supostamente criam nudes sem o consentimento de quem aparece na foto. Do total, cerca de 15% foram derrubados pelas plataformas. Os registros estão na Biblioteca de Anúncios da Meta, em que a dona das duas plataformas exibe um histórico de campanhas publicitárias que circularam em seus serviços. Não há informações públicas sobre quanto tempo os anúncios ficaram no ar até serem removidos e quanto custaram.
Realizamos um teste em um dos aplicativos promovidos no anúncio, mas, na verdade, ele oferece uma espécie de ChatGPT que funciona como uma namorada virtual. O usuário pode criar um perfil e interagir com a personagem por meio de mensagens.
A Meta disse que usa inteligência artificial e equipes humanas para remover conteúdo que viole suas regras. A empresa também mencionou que removeu anúncios apontados pela nossa equipe, embora outros tenham surgido desde então.
Os Desafios de Lidar com os Geradores de Imagens na Era Digital
Anúncios de geradores de nudes no Instagram e Facebook têm sido cada vez mais comuns. As campanhas costumam mostrar duas imagens aparentemente geradas por IA, em que a primeira exibe uma mulher vestida e a segunda mostra como ela ficaria sem roupa, com textos do anúncio para dificultar a moderação.
Parte dos anúncios direcionam os usuários para aplicativos nas Play Store e na App Store. Alguns desses apps prometem recursos para criar imagens com IA, sem mencionar a possibilidade de remover roupas de fotos.
Cerca de 1.400 anúncios circularam no Instagram e no Facebook desde dezembro de 2023 com a frase ‘any clothing delete’, e 211 (15%) foram removidos. No Brasil, aproximadamente 150 anúncios seguiram esse padrão. A Biblioteca de Anúncios da Meta não fornece recursos para calcular o alcance total, o público-alvo e o valor pago para veicular os anúncios.
A Escala Global dos Desafios com os Geradores de Imagens
Anúncios semelhantes com termos como ‘undress’ ou ‘nudify’ também foram veiculados nas duas redes. Alguns apps promovidos não funcionam como anunciado, chegando a cobrar assinaturas de até US$ 30 (cerca de R$ 150) para ter acesso aos supostos recursos.
Embora não levem a aplicativos realmente capazes de criar nudes falsos, os anúncios atraem indivíduos em busca de formas de criar imagens íntimas sem consentimento. Isso tem sido facilitado por novas ferramentas de manipulação de imagens usando Inteligência Artificial de forma mal-intencionada.
Fonte: © G1 – Tecnologia
Comentários sobre este artigo