Une étude conjointe menée par le Wall Street Journal et des chercheurs de l'Université de Stanford et de l'Université du Massachusetts Amherst (États-Unis) révèle que les algorithmes de recommandation d'Instagram jouent un rôle dans la connexion et la promotion d'un vaste réseau de profils qui vendent du matériel pédopornographique.

Les chercheurs ont découvert que le réseau social permettait aux utilisateurs de rechercher des hashtags liés à l'abus sexuel d'enfants, ce qui conduisait à des profils proposant du contenu pédophile, y compris des vidéos de mineurs ayant des relations sexuelles avec des animaux ou d'autres enfants.

Lorsqu'une recherche de ces hashtags était effectuée, la plateforme avertissait les utilisateurs du contenu potentiellement choquant, mais offrait néanmoins des ressources sur le sujet ou la possibilité de voir les résultats. Les chercheurs ont créé des profils qui ont suivi certains de ces comptes, ce qui a immédiatement conduit les algorithmes à recommander d'autres vendeurs et acheteurs de contenu pédophile ainsi que des comptes liés à des sites de vente en dehors de la plateforme. Les chercheurs ont trouvé 405 vendeurs dans leur enquête.

Une activité similaire a été identifiée sur d'autres réseaux sociaux, bien que Twitter supprime ces comptes beaucoup plus rapidement qu'Instagram.

Un porte-parole de Meta, la société mère d'Instagram, a déclaré que des milliers de hashtags sexualisant les mineurs avaient été bloqués et que des restrictions avaient été mises en place pour empêcher les algorithmes de recommander des termes liés aux abus sexuels. L'entreprise affirme également chercher constamment des moyens de lutter activement contre ce comportement et a démantelé 27 réseaux pédophiles au cours des deux dernières années.

Cette révélation soulève des préoccupations majeures quant à l'utilisation des algorithmes de recommandation dans les réseaux sociaux et souligne la nécessité d'une surveillance et d'une action renforcées pour lutter contre l'exploitation des enfants en ligne.