O uso de deepfakes no Telegram está crescendo de maneira alarmante, alimentado por avanços em inteligência artificial que permitem a criação de imagens explícitas não consensuais com facilidade assustadora. O que começou como uma preocupação inicial em 2020, quando o especialista Henry Ajder descobriu um bot de IA que “despia” mulheres em fotos, se transformou em uma ameaça global que atinge milhões de pessoas, especialmente mulheres e meninas.
O Alarme Sobre o Crescimento dos Bots de Deepfake
De acordo com uma investigação recente da WIRED, ao menos 50 bots no Telegram estão ativos na criação de imagens explícitas usando IA. Esses bots permitem que qualquer pessoa, com apenas alguns cliques, crie deepfakes de pessoas sem seu consentimento, removendo roupas ou colocando-as em situações explícitas. O perigo é evidente: essas ferramentas têm o potencial de arruinar vidas, e a facilidade de seu uso coloca um número crescente de pessoas em risco de abuso online.
Milhões de Usuários Ativos em Bots Explícitos
Os números são estarrecedores: os 50 bots revisados pela WIRED somam mais de 4 milhões de usuários ativos mensais. Dois dos bots possuem mais de 400.000 usuários cada um, e outros 14 têm mais de 100.000 usuários. Isso indica que o uso de deepfakes explícitos está se tornando rapidamente uma prática disseminada, e o Telegram é o principal facilitador dessa disseminação.
Implicações Devastadoras para Vítimas de Deepfakes
As consequências psicológicas e emocionais de ter uma imagem pessoal transformada em um conteúdo explícito são devastadoras. Segundo Ajder, meninas e mulheres estão sendo atingidas de forma desproporcional, sofrendo com o trauma, a vergonha e o medo causados por essas criações. O crescimento desenfreado dos deepfakes explicita a incapacidade de plataformas como o Telegram de controlar adequadamente essa ameaça.
O Crescimento Imparável do Abuso de Imagens Íntimas
Desde que as imagens íntimas não consensuais (NCII) começaram a aparecer no final de 2017, a criação e o compartilhamento de deepfakes explodiram, impulsionados por avanços em inteligência artificial. Sites de “nudificação” e bots de Telegram são usados para visar mulheres em todas as partes do mundo, desde líderes políticas até estudantes de escolas secundárias. A normalização desse abuso é alarmante, e o problema continua a crescer sem sinais de contenção.
A Rede Secreta de Bots no Telegram
Os bots de deepfake são apoiados por uma rede de canais no Telegram que têm mais de 3 milhões de assinantes combinados. Esses canais são usados para compartilhar atualizações sobre novos recursos e promoções de “tokens” que permitem o uso dos bots. Isso mostra que o Telegram não é apenas um facilitador passivo, mas o centro de uma rede perigosa de abuso que continua a operar quase sem obstáculos.
Telegram Toma Medidas Insuficientes
Quando a WIRED notificou o Telegram sobre a existência desses bots, a plataforma removeu 75 bots e canais. No entanto, essa ação está longe de resolver o problema. Pouco tempo depois, novos bots apareceram para substituir os que haviam sido removidos, mostrando que a medida é uma gota no oceano em meio a um problema muito maior e mais complexo.
Bots de Deepfake Operam nas Sombras
Muitos bots de deepfake no Telegram operam sob disfarces aparentemente inofensivos. Eles não exibem conteúdo explícito em seus nomes ou páginas iniciais, mas uma vez que o usuário interage com eles, opções explícitas aparecem. Essa capacidade de ocultar sua verdadeira natureza torna esses bots ainda mais perigosos, já que passam despercebidos tanto para as vítimas quanto para as autoridades.
A Monetização do Abuso
Os criadores de bots de deepfake estão lucrando com a disseminação desse conteúdo abusivo. A maioria dos bots exige que os usuários comprem “tokens” para gerar as imagens, transformando o abuso online em uma indústria lucrativa. A demanda por essas ferramentas é tão alta que até cibercriminosos russos criaram sites falsos de “nudificação” para infectar usuários com malware, revelando o quão longe esse mercado sombrio já foi.
Tecnologia Deepfake Cada Vez Mais Ameaçadora
Os primeiros bots de deepfake eram rudimentares, mas a tecnologia se tornou cada vez mais sofisticada. Agora, os bots podem criar imagens altamente realistas com facilidade, e muitos operam sem levantar suspeitas. A qualidade das imagens geradas por IA é tão convincente que se torna praticamente impossível diferenciar o falso do real, o que amplifica o potencial de danos.
Uma Ferramenta para o Abuso Facilmente Acessível
A combinação de busca, hospedagem de bots e compartilhamento de conteúdo no Telegram cria um ambiente perfeito para o abuso de deepfakes. A plataforma permite que qualquer pessoa encontre e utilize essas ferramentas com facilidade, expondo milhões de pessoas a esse tipo de violação digital. O Telegram se tornou o epicentro de um problema global que parece impossível de conter.
A Inação das Grandes Empresas de Tecnologia
As grandes empresas de tecnologia, embora estejam cientes do problema, têm sido lentas para agir. Embora algumas políticas contra deepfakes não consensuais tenham sido implementadas por gigantes como Google e Apple, essas medidas estão longe de serem eficazes. Aplicativos que criam deepfakes ainda podem ser encontrados em lojas de aplicativos, e o conteúdo gerado continua a se espalhar por diversas plataformas.
Leis Não Conseguem Acompanhar o Rápido Crescimento dos Deepfakes
Nos Estados Unidos, 23 estados aprovaram leis para lidar com deepfakes não consensuais, mas a aplicação dessas leis ainda está engatinhando. Enquanto isso, plataformas como o Telegram continuam a ser utilizadas para disseminar esses conteúdos, e as vítimas têm poucas opções para buscar justiça ou reparação.
Telegram Sob Pressão, mas Lento em Agir
O Telegram vem sendo criticado por sua abordagem lenta e, em muitos casos, insuficiente para lidar com o conteúdo prejudicial. A plataforma, que já abrigou desde golpistas até extremistas, agora enfrenta a crescente pressão para combater o abuso de deepfakes. A recente prisão de seu fundador, Pavel Durov, trouxe algumas mudanças, mas as vítimas de deepfakes ainda são deixadas desamparadas.
Monitoramento e Moderação Ineficientes
Para Henry Ajder, o Telegram é particularmente problemático na questão dos deepfakes devido à facilidade com que permite a criação e o compartilhamento desses conteúdos. A plataforma oferece as ferramentas perfeitas para que abusadores usem a inteligência artificial de maneira destrutiva, tudo isso em um espaço que é difícil de monitorar.
O Círculo Vicioso dos Bots de Deepfake
Mesmo quando bots de deepfake são removidos, novos bots surgem rapidamente para ocupar o seu lugar. Esse ciclo constante de remoção e reaparecimento dificulta qualquer tentativa de controle eficaz do problema. A incapacidade de conter essa ameaça revela uma falha estrutural nas medidas de segurança das plataformas digitais.
A Responsabilidade Deve Ser das Plataformas
Para Elena Michael, cofundadora da campanha #NotYourPorn, o Telegram deveria ser mais proativo na moderação de seu conteúdo. Ela afirma que as plataformas precisam ser responsabilizadas pela criação de ambientes seguros e que o fardo de monitorar abusos não deveria recair sobre as próprias vítimas. Infelizmente, as empresas ainda parecem reativas em vez de preventivas na luta contra o abuso de deepfakes.
Conclusão: Uma Crise Fora de Controle
Os deepfakes explicitamente abusivos estão se tornando um problema generalizado, e a falta de uma ação firme por parte das plataformas como o Telegram e dos legisladores está permitindo que essa crise se amplie. Enquanto a tecnologia de inteligência artificial continuar a evoluir sem regulamentação adequada, o abuso online, facilitado por ferramentas como os bots de deepfake, continuará a se espalhar e destruir vidas.
Resumo para quem está com pressa
- O uso de deepfakes abusivos no Telegram está crescendo de forma descontrolada, com mais de 50 bots ativos na criação de imagens explícitas.
- Esses bots têm mais de 4 milhões de usuários mensais, expondo milhões de pessoas a abusos graves.
- O Telegram removeu alguns bots, mas novos surgem rapidamente, perpetuando o ciclo de abuso.
- O uso de inteligência artificial para criar deepfakes está se tornando cada vez mais sofisticado e perigoso.
- Grandes empresas de tecnologia e legisladores estão reagindo lentamente a esse problema crescente.
- As vítimas de deepfakes enfrentam consequências devastadoras enquanto as plataformas falham em agir de maneira proativa.
