YouTube désactive les commentaires sur les vidéos avec les enfants après les rapports de comportement prédateur

YouTube fermera les commentaires sur les vidéos mettant en vedette “des mineurs plus jeunes et des vidéos avec des mineurs plus âgés à risque d’attirer des comportements prédateurs”, selon un communiqué de la société. Il s’agit d’un effort visant à éradiquer le comportement prédateur des téléspectateurs qui ont inclus des notes salaces dans la section commentaires des vidéos mettant en vedette des enfants mineurs.

La semaine dernière, TechCrunch a confirmé des rapports qui ont d’abord été publiés sur Reddit au sujet de l’existence d’un réseau pédophile soft-core qui communiquait via la section commentaires de YouTube et diffusait des vidéos de mineurs en utilisant les algorithmes de recherche de l’entreprise.

Lire également : Rapport : la SEC a demandé à un juge d'inculper Elon Musk pour outrage au tribunal pour avoir violé son accord avec l'agence

Le créateur de YouTube, Matt Watson, a signalé le problème dans une sous-rédaction, notant qu’il a trouvé des dizaines de vidéos d’enfants où les utilisateurs de YouTube échangent des commentaires inappropriés et identifient des horodatages sur lesquels se concentrer sous le pli. M. Watson a dénoncé le fait que l’entreprise n’a pas réussi à empêcher ce qu’il décrit comme un ” anneau de pédophilie soft-core ” de fonctionner à la vue de tous sur sa plate-forme.

YouTube sous le feu des critiques pour avoir recommandé des vidéos d’enfants avec des commentaires inappropriés

A découvrir également : MyEquifax.com est un autre désastre en matière de sécurité

Ces rapports ont été condamnés par plusieurs entreprises qui font de la publicité sur YouTube (la principale source de revenus de l’entreprise). Disney, Fortnite maker Epic Games, McDonald’s et Nestlé Foods auraient tous retiré de la publicité du site à la suite du scandale.

“Au cours de la semaine dernière, nous avons pris un certain nombre de mesures pour mieux protéger les enfants et les familles, y compris la suspension des commentaires sur des dizaines de millions de vidéos “, a déclaré un porte-parole de Google dans un communiqué envoyé par courriel à TechCrunch, ” Nous allons maintenant commencer à suspendre les commentaires sur la plupart des vidéos qui présentent des mineurs, sauf pour un petit nombre de chaînes qui modèrent activement leurs commentaires et prennent des mesures supplémentaires pour protéger les enfants. Nous comprenons que les commentaires sont un moyen important pour les créateurs de construire et de communiquer avec leurs publics ; nous savons aussi que c’est la bonne chose à faire pour protéger la communauté YouTube.”

Le déploiement des nouveaux outils de modération prendra plusieurs mois, selon YouTube.

Tout en reconnaissant la gravité des changements et l’impact qu’ils peuvent avoir sur YouTubers, l’entreprise a déclaré qu’elle prenait des mesures pour prévenir l’exploitation des mineurs sur la plate-forme.

Un petit nombre de chaînes connues seront en mesure de maintenir leurs sections de commentaires à jour, mais seront tenues de les surveiller activement au-delà de la simple utilisation des outils de modération de YouTube, a déclaré la société.

YouTube accélère également le lancement d’un nouvel outil de classification capable de détecter et de supprimer deux fois plus de commentaires individuels que par le passé, ce qui accélère l’automatisation de la modération de contenu (ce qui pourrait, en soi, avoir des conséquences involontaires).

Dans le même ordre d’idées, YouTube a mis fin à la chaîne FilthyFrankClips et à plusieurs autres chaînes qui auraient donné des instructions aux enfants sur la façon de se taillader les poignets pour protéger les enfants du contenu odieux.

D’abord rapporté dans le Washington Post, les clips de la chaîne contenaient des vidéos d’enfants épissés avec du contenu sur l’automutilation, selon un rapport initial sur le blog, Pedimom.

YouTube Kids Scare

Comme nous l’avons mentionné dans notre rapport précédent, ce n’est pas la première fois que YouTube a été identifié comme un refuge pour les pédophiles qui se cachent à la vue de tous.

En novembre 2017, plusieurs grands annonceurs ont gelé leurs dépenses sur la plate-forme YouTube après une enquête de la BBC et du Times qui ont découvert des commentaires tout aussi obscènes sur des vidéos d’enfants.

Plus tôt le même mois, YouTube a également été critiqué pour son contenu de mauvaise qualité ciblant les enfants en tant que téléspectateurs sur sa plate-forme.

L’entreprise a ensuite annoncé un certain nombre de changements de politique liés à la vidéo axée sur les enfants, notamment qu’elle ferait des commentaires agressifs de la police sur les vidéos d’enfants et que les vidéos qui contiennent des commentaires inappropriés sur les enfants qu’elles contiennent seraient tout simplement rejetées.

Certaines des vidéos de jeunes filles que YouTube nous a recommandé de regarder avaient déjà eu des commentaires désactivés – ce qui suggère que son IA avait déjà identifié un grand nombre de commentaires inappropriés partagés (en raison de sa politique de désactiver les commentaires sur les clips contenant des enfants lorsque les commentaires sont jugés “inappropriés”) – mais les vidéos elles-mêmes étaient toujours proposées pour être visionnées dans une recherche test qui a commencé avec la phrase “bikini haul”.

YouTube s’est adressé plus tôt aujourd’hui à ses créateurs dans un billet de blog les informant des mesures qu’il prenait.