Uma investigação recente trouxe à tona uma realidade alarmante: chatbots alimentados por inteligência artificial (IA) no Telegram estão sendo usados por milhões de pessoas para criar imagens explícitas e falsas de pessoas reais. De acordo com o relatório publicado pela Wired, até 4 milhões de usuários utilizam esses chatbots mensalmente para produzir deepfakes que manipulam fotos, removendo roupas ou fabricando cenas de atividade sexual. Esse fenômeno preocupante tem gerado um aumento das preocupações entre especialistas sobre os potenciais danos dessas ferramentas, especialmente para meninas e mulheres.
Tecnologia de deepfake e seus riscos
Henry Ajder, um especialista que descobriu esses chatbots há quatro anos, destacou os perigos envolvidos no uso dessa tecnologia. Ele descreveu a situação como um verdadeiro “pesadelo”, ressaltando a facilidade de acesso a essas ferramentas e o grande número de pessoas que as utilizam ativamente.
“É muito preocupante que essas ferramentas – que estão arruinando vidas e criando um cenário de pesadelo principalmente para meninas e mulheres – ainda sejam tão fáceis de acessar e encontrar na web aberta, em um dos maiores aplicativos do mundo”, afirmou Ajder.
A tecnologia deepfake permite que algoritmos de IA manipulem imagens ou vídeos para criar cenas fictícias, incluindo a remoção de roupas ou a alteração de rostos para inserir pessoas em contextos explícitos. Essa tecnologia avançada, quando usada de forma maliciosa, pode ter consequências devastadoras, como vimos no caso de celebridades e até mesmo adolescentes que se tornaram alvo de abuso digital.
Alvo de populações vulneráveis
Embora celebridades como Taylor Swift e Jenna Ortega tenham sido vítimas de deepfakes no passado, os relatos mais preocupantes envolvem meninas adolescentes, muitas vezes alvos de sextorsão — onde imagens geradas são usadas para chantagear ou extorquir as vítimas.
Estudos indicam que cerca de 40% dos estudantes nos EUA já se depararam com deepfakes circulando em suas escolas. Esses casos de sextorsão muitas vezes resultam em situações de abuso contínuo, agravando os impactos psicológicos e sociais para as vítimas. Especialistas alertam que essas práticas são especialmente perigosas para populações vulneráveis, como adolescentes, que podem se sentir sem saída diante das ameaças.
O papel do Telegram e sua resposta
O Telegram tem enfrentado críticas intensas por permitir que sua plataforma seja usada para atividades maliciosas, incluindo a disseminação de conteúdo deepfake. Em agosto deste ano, houve relatos de que o governo da Índia iniciou uma investigação sobre o uso indevido da plataforma, o que poderia resultar em uma possível proibição, dependendo dos resultados. Isso reflete as preocupações crescentes de governos e agências reguladoras em todo o mundo com o impacto negativo das tecnologias de IA em plataformas de comunicação.
Além disso, o CEO do Telegram, Pavel Durov, foi alvo de acusações legais no início do ano por supostamente facilitar a disseminação de pornografia infantil na plataforma. Embora a empresa tenha enfrentado esses desafios, pouco foi feito para implementar mudanças significativas no funcionamento da plataforma ou para restringir o acesso a essas ferramentas perigosas.
“Construir tecnologia já é difícil por si só. Nenhum inovador criará novas ferramentas se souber que pode ser pessoalmente responsabilizado por possíveis abusos dessas ferramentas”, comentou Durov em resposta às críticas.
O comentário de Durov reflete a complexidade de equilibrar inovação tecnológica com a responsabilidade social. No entanto, muitos especialistas acreditam que as empresas de tecnologia precisam assumir uma postura mais proativa para combater o uso indevido de suas plataformas, especialmente quando se trata de ferramentas que podem causar tanto dano.
Consequências psicológicas e sociais dos deepfakes
A criação e disseminação de deepfakes têm profundas consequências psicológicas para as vítimas. Ao verem suas imagens manipuladas e usadas em contextos degradantes, as pessoas afetadas podem sofrer de ansiedade, depressão e transtorno de estresse pós-traumático (TEPT). As vítimas, especialmente meninas e mulheres, frequentemente relatam sentir vergonha e constrangimento, o que pode levar ao isolamento social e até ao abandono escolar.
Estudos de especialistas em saúde mental indicam que o impacto psicológico de ser vítima de um deepfake pode ser devastador, com muitos relatando sentimentos de perda de controle sobre sua própria imagem e identidade. Além disso, as redes sociais amplificam o problema, permitindo que imagens manipuladas se espalhem rapidamente, muitas vezes tornando impossível remover todo o conteúdo da internet.
O que está sendo feito para combater os deepfakes?
Apesar dos desafios, algumas iniciativas estão sendo tomadas para combater o uso de deepfakes maliciosos. Plataformas como YouTube e Facebook começaram a implementar políticas mais rígidas para detectar e remover conteúdo deepfake. Além disso, muitos países estão considerando legislações que punam severamente a criação e disseminação de imagens falsas prejudiciais.
Centros de Pesquisa em Inteligência Artificial buscam expandir o uso da tecnologia no Brasil
Especialistas em segurança digital recomendam que as empresas de tecnologia invistam em ferramentas de detecção de deepfakes baseadas em IA para identificar automaticamente conteúdos manipulados. A Microsoft, por exemplo, desenvolveu uma tecnologia que pode analisar vídeos e imagens para verificar se foram alterados digitalmente. Essas ferramentas são vistas como um passo essencial na luta contra o abuso de deepfakes.
Educação e conscientização
Outro aspecto fundamental no combate aos deepfakes é a educação e conscientização. Especialistas acreditam que pais, educadores e os próprios adolescentes devem ser informados sobre os perigos dessa tecnologia e como se proteger. Campanhas de conscientização podem ajudar a educar o público sobre como identificar imagens falsas e a importância de denunciar conteúdo prejudicial.
Escolas e organizações educacionais estão começando a incorporar a educação digital em seus currículos, com o objetivo de preparar os jovens para os desafios que enfrentam no mundo digital. Ensinar sobre privacidade online, segurança digital e o impacto dos deepfakes pode capacitar os adolescentes a se protegerem e evitarem situações de sextorsão.
O futuro da regulação dos deepfakes
A regulação dos deepfakes ainda está em seus estágios iniciais, mas há um consenso crescente de que são necessárias ações mais robustas. Governos em todo o mundo estão começando a considerar leis específicas para criminalizar a criação e o compartilhamento de deepfakes prejudiciais. Essas leis seriam uma ferramenta importante para garantir que as vítimas de abuso digital tenham meios legais de proteção e compensação.
No Brasil, projetos de lei relacionados à regulamentação da IA estão em discussão, com foco na proteção de dados pessoais e na punição de abusos digitais. À medida que as tecnologias de IA continuam a evoluir, espera-se que as regulamentações também se adaptem, garantindo que a inovação continue, mas de maneira responsável e segura.
