As redes sociais e o crime organizado: quem vai pagar a conta da fiscalização?
O País precisou do vídeo do influenciador Felca para conhecer a realidade exibida no relatório Hiding in Plain Sigh, Instagram Violates the DSA by Serving as a Gateway for a Vast Network of Pedophiles (Escondido à vista de todos: Instagram viola o DSA ao servir como porta de entrada para uma vasta rede de pedófilos).
DSA é o Digital Services Act, a legislação da União Europeia para a internet. O relatório de 2024 é da Alliance Counter Digital Crime. A empresa que abriga tais publicações já teve tempo para tomar providências contra a exploração da pedofilia. Teria de gastar dinheiro em mecanismos de controle e para que seu algoritmo não favorecesse pedófilos ou promovesse anúncios pagos do crime organizado feitos com IA. A Meta diz não permitir e remover esse tipo de conteúdo (nota abaixo).
Durante cinco semanas um pesquisador europeu da Alliance achou dezenas de contas do Instagram que ofereciam links para terminologia codificada usada por infratores a fim de identificar abuso sexual infantil. Um centro canadense revisou uma centena dessas contas. Delas, 17 haviam desaparecido, cinco levavam a abuso sexual infantil, dez eram suspeitas desse crime e outras 25 continham imagens de uma garota que alegava ter 18 anos, mas cujos nus tinham vazado havia mais de um ano.
O centro canadense denunciou as contas verificadas e suspeitas à Meta, e a maioria desapareceu de imediato. Mas contas semelhantes apareciam dias depois, às vezes com as mesmas imagens. Um rede de 3,2 milhões de seguidores, a maioria homens adultos, segue essas contas e se seguem entre si.
Após achar uma dessas contas é fácil encontrar outras, observando os seguidores e quem seguem. “Avaliamos que a Meta poderia ter adotado tal prática”, diz o relatório. Embora não tenham achado evidências de que o Instagram hospedasse material de pedofilia, a Alliance afirma que ele facilita a disseminação de conteúdo ilegal por meio de seus serviços, em razão do design da plataforma e de falhas na moderação de conteúdo. “Seus algoritmos promovem e conectam pedófilos, guiando-os a outros vendedores de conteúdo por meio de sistemas de recomendação que se destacam em conectar aqueles que compartilham interesses de nicho.” Eis a conclusão de 2024. Felca mostrou que nada mudou. Até quando? Quem paga essa conta?
O governo e o Congresso perderam muito tempo discutindo as liberdades de expressão e de empreender e não perceberam que elas não podem criar oportunidades para pedófilos e facções criminosas, que usam redes sociais, fintechs e operadoras de internet. Fiscalização e controle devem servir para que as liberdades sejam exercidas em segurança. Ninguém está acima da lei.
Aqui a íntegra do relatório da Aliiance:
Nota da Meta sobre o caso
A pedido da coluna, a Meta se manifestou e enviou a seguinte nota:
“Não permitimos e removemos de nossas plataformas conteúdos de exploração sexual, abuso, nudez infantil e sexualização de menores.”
“Temos políticas contra nudez, abuso e exploração de menores. Isso inclui o compartilhamento ou solicitação de imagens de exploração infantil, interações inadequadas com adolescentes e a sexualização explícita de menores. Também temos regras contra formas mais implícitas de sexualização e removemos contas dedicadas a compartilhar imagens aparentemente inofensivas de menores, quando as legendas e comentários se concentram predominantemente na aparência das crianças.”
“Usamos tecnologia para identificar contas de adultos que demonstraram comportamento potencialmente suspeito (por exemplo, foram bloqueadas por adolescentes ou pesquisaram por determinados termos relacionados à segurança infantil) e impedimos que encontrem, sigam ou interajam com contas de adolescentes ou contas que apresentam predominantemente crianças (anunciamos essas medidas em julho). Além disso, impedimos que contas de adultos potencialmente suspeitos interajam entre si, para ajudar a prevenir a formação de conexões.”
