Après Facebook, en mai dernier, c’est YouTube, qui, sous les critiques, a annoncé ce mois-ci son intention d’embaucher 10 000 modérateurs humains, pour identifier les contenus abusifs. En creux, cela montre les limites des algorithmes de ces plateformes et leur insuffisante capacité à trier les contenus que les internautes y publient.
Pourquoi YouTube a-t-il besoin d’une modération humaine ?
1
0 000 modérateurs humains en plus, soit une hausse de 25 % de l’effectif : c’est la décision que vient de prendre YouTube concernant son équipe de modération. En cause : les vidéos pour enfants… qui n’en étaient pas vraiment. Pour l’essentiel, ces vidéos étaient des détournements de dessins animés, mais on y trouvait aussi des vidéos douteuses relevant de l’exploitation d’enfants.
Bilan : YouTube a dû fermer 270 comptes, supprimer 150 000 vidéos et a empêché l’affichage de publicités sur plus de 50 000 chaînes. C’est qu’il y avait feu au lac, pour le géant de la vidéo : fin novembre 2017, les entreprises Mars et Lidl annonçaient suspendre leurs campagnes de publicité. Or, la publicité est le cœur du modèle économique de YouTube.
YouTube, Facebook, Twitter : même syndrome ?
En mai dernier, c’était Facebook qui annonçait recruter 3 000 modérateurs pour ses vidéos en direct. Certaines montraient des meurtres, des suicides. Twitter avait fait face aux mêmes problèmes avec ses propres vidéos live. Au total, le nombre de modérateurs de Facebook atteint donc 7 500 membres. Il y a un an, la société employait 17 000 personnes au total, pour vous donner une idée de l’importance de la problématique. Toutefois, on ne sait quelle part de ces recrutements se fera via des sous-traitants, qui sont légion chez les géants du web.
En France, Facebook avait déjà été critiqué pour son manque de réactivité face aux discours haineux ou incitant au terrorisme. Aux États-Unis, le réseau social a aussi été brocardé pour son incapacité à empêcher les fake news de se propager. Et en Allemagne, une loi a été adoptée en juin dernier, avec à la clé des amendes colossales (jusqu’à 50 millions d’euros), pour contraindre ces plateformes à retirer les contenus haineux dans les 24 heures suivant leur publication.
L’algorithme, piètre modérateur ?
Visiblement, les algorithmes ont (encore) du mal à sortir des schémas qu’ils apprennent. Un contexte qui permet de jouer sur les mots, comme les internautes chinois peuvent le faire, ou sur les apparences, comme ça a été le cas des faux dessins animés sur Youtube ou des fake news chez Facebook, et l’algorithme est perdu. Alors que les deux plateformes se concurrencent frontalement sur la vidéo, se reposer exclusivement sur des robots pour assurer la modération est un pari risqué. Le recrutement massif de modérateurs semble montrer que les YouTube, Facebook et consorts l’ont bien compris.
Ce contexte vient rappeler une évidence : même si les algorithmes peuvent constituer un premier rideau de modération, des modérateurs en chair et en os constituent un atout indispensable. Que ce soit pour un géant du web… ou non.
Vous souhaitez discuter avec nous ? Écrivez-nous un mot ici ou directement sur notre page LinkedIn !
