En ce moment
 
 

Horreur sur les réseaux sociaux: une jeune fille qui danse, puis une décapitation

 
 

Des images d'une atroce décapitation au Mexique ont été adjointes à d'innocentes images d'une jeune fille qui danse pour former une vidéo abominable qui a horrifié et traumatisé probablement des centaines de milliers de personnes, dont des Belges, sur les réseaux sociaux le week-end dernier. Les appels à ne surtout pas regarder cette scène s'y sont substitués aux images elles-mêmes désormais difficiles à trouver. Cette vidéo remet en lumière la difficulté des géants d'internet à contrôler leur contenu mais aussi la relative absence de régulation qui leur imposée par les États.

L'horreur absolue. L'image d'une incapacité qui se poursuit, année après année, pendant que les milliards de bénéfices sont engrangés. L'incapacité est celle de ces sociétés privées, qui gèrent les réseaux sociaux de milliards de personnes mais ne peuvent empêcher, même si des progrès ont été accomplis, la diffusion mondiale d'images immondes qui peuvent traumatiser des milliers voire des millions de gens, et nous pensons surtout aux plus jeunes.

Ce dimanche après-midi de beau temps, pendant qu'un grand nombre de gens goûtent au lumineux soleil, de nombreux avertissements sombres et apeurés tombent, heure après heure, via le bouton orange Alertez-nous, à la rédaction de RTL INFO. "PRÉVENEZ LES PARENTS D’ENFANTS !!! Depuis quelques jours, une vidéo circule. On peut apercevoir une jeune fille qui fait une danse, jusqu’ici tout va bien. Ensuite, un homme arrive et l’égorge de sang froid. Toute la scène est visible, c’est totalement immonde que ce genre de vidéo puisse être publiée en 2021!!" semble hurler Laura. "La vidéo d’une petite fille qui se fait décapiter tourne sur quasiment tous les réseaux sociaux malheureusement les jeunes cliquent sur le lien par curiosité", s'inquiète Nathan. "Un lien amène a une vidéo ou une jeune fille se fait trancher la tête avec un couteau. Cela pourrait traumatiser les jeunes gens qui sont sur la plate-forme", avertit Chiara. "J'aimerais prévenir du danger qui tourne en ce moment. Une jeune fille habillée en noir et blanc danse simplement et quelques secondes après elle se fait décapiter la tête avec un couteau. Personnellement je n'ai pas vu la vidéo mais énormément de gens en parlent. Alors je souhaitais prévenir pour sensibiliser les parents des dangers des réseaux sociaux pour les plus jeunes", écrit encore un autre citoyen tracassé. Les signalements de ce type se sont accumulés.

Les réseaux sociaux ont nettoyé

Dimanche soir et lundi matin, nous effectuons une rapide recherche. Peu de médias en parlent mais il y en a. La vidéo ne semble plus être présente sur les réseaux sociaux, à l'exception de Twitter où d'ailleurs de nombreuses personnes à la curiosité malsaine demandent où elles peuvent se procurer la vidéo... Les noms de deux sites internet, "psychoduck" et "duckpack_51", reviennent souvent. Ces sites qui compilent des images de cruautés en tout genre ont aussi diffusé la vidéo mais ils ne sont plus accessibles non plus. Enfin, sur Youtube, il ne semble plus rester que des vidéos qui préviennent qu'il ne faut surtout pas voir les images qui commencent par une gamine en short blanc qui danse.

Un montage de deux vidéos totalement différentes

La vidéo est en fait un montage de deux vidéos, ce qui lui a sans doute permis de passer à travers les contrôles des robots et des modérateurs humains. La première partie, issue de TikTok, montre une jeune fille danser avant qu'on passe soudainement à une deuxième partie insoutenable où une personne, qui n'est pas la jeune fille, est égorgée. Les images du meurtre bestial ne proviennent pas de TikTok et auraient été prises au Mexique en 2019 dans le cadre d'un règlement de compte dont aurait été victime un jeune voleur de voitures. Cette explication circulait déjà sur Twitter dimanche soir, elle était reprise lundi par nos confrères français du journal Libération.

Nous contactons d'abord Google Belgique pour savoir si des mesures spécifiques ont été prises sur Youtube à l'encontre de cette vidéo infâme. Comme d'habitude, Google se borne à nous répondre de manière générale: "Les systèmes automatisés de Youtube nous aident à identifier plus facilement les contenus susceptibles d'enfreindre notre règlement. Entre octobre et décembre 2020, YouTube a supprimé plus de 9,3 millions de vidéos pour non-respect du règlement de la communauté." Nous n'essayons même pas Twitter, réseau social qui semble le moins contrôlé. Nous passons à TikTok, pointé du doigt par nos alerteurs puisque la première partie provient de ce réseau social de vidéos.

Nous présentons nos excuses aux membres de notre communauté, y compris à nos équipes de modérateurs

Nous parvenons à joindre une porte-parole anglaise puis son homologue français. Tous les deux prennent la peine de nous téléphoner, une démarche exceptionnelle et louable dans l'univers de ces géants d'internet qui ne semblent jamais guère enclins à rendre des comptes, se bornant à copier/coller les textes de leurs règlements.

Après les conversations que nous résumons juste un peu plus bas, nous recevons aussi un message officiel de TikTok sur ce contenu "inconcevable" qui s'est retrouvé sur leur réseau social de vidéos : "Nous apprécions les efforts concertés de notre communauté pour mettre en garde contre une vidéo au contenu inconcevable, provenant d'un autre site, et qui a été intégrée à une vidéo puis transférée sur TikTok. La vidéo originale a rapidement été supprimée et nos systèmes détectent et bloquent de façon pro-active toute nouvelle tentative de téléchargement du clip - empêchant tout comportement malveillant - avant même qu'il ne puisse être vu. Nous présentons nos excuses aux membres de notre communauté, y compris à nos équipes de modérateurs, qui ont pu visionner ce contenu", déclare TikTok.

À la lecture de la dernière ligne d'hommage aux modérateurs, nous songeons à ce documentaire glaçant intitulé "Les nettoyeurs du web" sur des modérateurs basés aux Philippines et qui filtrent pour Facebook le pire de l'être humain: viol, décapitation, massacre, actes pédophiles, immolation, etc. Des vidéos comme celle de la jeune fille décapitée dont nous parlons, combien en ont-ils vu ?

Les trois lignes de défense: robot, modérateur, signaleur

Le porte-parole français de TikTok nous explique les moyens consacrés à la lutte contre les contenus indésirables. La stratégie est la même que dans les autres réseaux sociaux, on combine trois types de combattants: des robots de plus en plus intelligents pour détecter automatiquement du contenu indésirable, des professionnels humains (les modérateurs), et enfin les utilisateurs eux-mêmes qui peuvent signaler des vidéos ou commentaires à supprimer. Pour l'Europe, les modérateurs humains de TikTok sont tous basés à Dublin, capitale de l'Irlande et paradis fiscal où sont établis tous les géants d'internet. Il y a des équipes pour chaque langue, pour chaque pays, afin de tenir compte des sensibilités culturelles qui varient d'un endroit à l'autre. Au total, TikTok emploie 10.000 personnes à travers la monde pour modérer. Ces chiffres doivent être à peu près semblables dans les autres réseaux sociaux.

Pour quels résultats ? La proportion de vidéos supprimées chez TikTok est assez semblable à ceux de Youtube. "Au cours du second semestre 2020, près de 90 millions de vidéos ont été supprimées au niveau mondial pour violation de nos Règles communautaires ou de nos Conditions de services, soit moins de 1% de toutes les vidéos téléchargées sur TikTok. 92,4 % de ces vidéos ont été supprimées avant de faire l’objet d’un signalement et 83,3 % l’ont été avant d’avoir été visionnées ne serait-ce qu’une fois", communique TikTok.

Mais les grandes firmes n'ont pas pu empêcher les images cauchemardesques d'une décapitation faisant, de surcroit, croire que la victime est une jeune fille innocente. On ose imaginer le nombre d'ados qui les ont vues. Et on se demande quand nos sociétés, à travers les mondes politique, associatif et judiciaire exigeront de ces sociétés privées un contrôle véritablement à la hauteur, au regard de leurs milliards d'utilisateurs.




 

Vos commentaires