« The Cleaners » ou l’art de décider de ce qu’on doit voir, ou pas…

« Delete, ignore ». En français « supprimer, ignorer », c’est par ces deux actions que des modérateurs de contenus philippins décident de ce qui doit être vu ou non sur Internet. Dans le documentaire déroutant The Cleaners, mis à l’honneur dans le Focus Allemagne au Fipadoc, les réalisateurs Hans Block et Moritz Riesewieck braquent les projecteurs sur le monde occulte du nettoyage digital.

À l’heure où tout le monde peut publier n’importe quoi, n’importe où et n’importe quand en un seul clic, le métier de modérateur de contenu prend tout son sens. Basée à Manille, une équipe de Philippins passe ses journées à examiner les contenus diffusés sur la Toile. Pas moins de 25 000 publications par jour et par personne sont passées au crible par ces modérateurs, les yeux rivés sans arrêt sur leur écran d’ordinateur. À première vue, la mission d’un modérateur paraît simple : il s’agirait de supprimer toute publication pouvant atteindre à la pudeur d’une personne par exemple, ou tout propos discriminant. Mais la réalité va bien au-delà. Des propos à caractère haineux, aux photos dénudées, en passant par des images choquantes de meurtres commis par les terroristes de l’État islamique, les modérateurs doivent à chaque fois prendre la responsabilité de supprimer, ou bien d’ignorer une publication, c’est-à-dire, la laisser se propager sur le web.The Cleaners suit le quotidien de ces modérateurs de contenus, qui, en raison de clauses de non révélation, ont tous témoignés anonymement.

Objectif assainir les médias sociaux…

« Nous ne sommes pas des policiers », affirme une modératrice de contenus face caméra. Pourtant elle et ses collègues doivent répondre à des règles très strictes de modération. Chaque photo dénudée doit être supprimée pour des raisons d’atteinte à la pudeur. « Notre mission, c’est de nettoyer la saleté. Et les algorithmes ne peuvent pas faire ce que nous faisons », précise un autre modérateur.

Mais qu’en est-il d’une représentation à priori artistique, d’une personnalité dénudée ? Un jour, une modératrice s’est retrouvée face à une représentation caricaturale de Donald Trump, réalisée par une artiste peintre qui l’a partagée sur les réseaux sociaux, déclenchant une réaction en chaîne de « likes » et de partages. Là où habituellement, il suffisait de deux secondes pour décider s’il fallait supprimer ou ignorer le contenu, la jeune femme philippine ne savait plus comment réagir. Il s’agit à la fois d’une représentation dénudée, mais pas d’une photographie. Que faire dans ce cas-là ? Au final, la modératrice a supprimé ce contenu artistique : « vous devez avoir des principes », explique-t-elle. « Vous pouvez qualifier ça de pornographique, mais c’est de l’art », se défend l’artiste auteur de cette représentation du 45e président des États-Unis. Sa page Facebook a même été clôturée.

Mais assainir la Toile n’est pas une mince affaire pour ces modérateurs de contenus qui passent leurs journées à déterminer de l’avenir des contenus publiés sur Internet. Car les images et vidéos qu’ils doivent regarder ne sont pas toujours faciles à voir ou à écouter. Pour une des modératrices, c’était la première fois qu’elle regardait des vidéos pédopornographiques. Et c’est ce qui l’a le plus choquée, confie-t-elle. C’est comme si ces modérateurs se sacrifiaient pour éviter que le plus grand nombre ne soit heurté psychologiquement par des contenus circulant sur la Toile.

…Jusqu’à occulter la réalité

Les modérateurs examinent et contrôlent les contenus sur la Toile selon des règles qui leur sont dictées par la hiérarchie. Mais ne devraient-ils pas être eux aussi restreints dans l’exercice de leurs fonctions ? Embauchés car ils disposeraient d’une meilleure réflexion qu’un simple algorithme pour décider du sort d’une photo sur le web, les « nettoyeurs » ressemblent à des robots qui manient leur souris d’ordinateur une fois sur « Delete », une autre sur « Ignore ». La part d’humanité recherchée chez ces Philippins, inexistante chez des logiciels informatiques dépourvus de toute sensibilité, s’efface au fil des contenus examinés par les modérateurs.

Les règles sont les règles. On ne les discute pas. Même face à une photographie qui est pourtant devenue une icône historique. Celle de l’attaque au napalm lors de la guerre du Vietnam. Cette image prise par Nick Ut de l’agence AP (Associated Press), qui a fait le tour des livres d’histoire au collège et au lycée, montrant une petite fille, née, hurlant de désespoir au milieu du néant, a été supprimée par les modérateurs philippins. Pourquoi ? Parce que l’enfant est nue. « D’après nos directives, les parties génitales des mineurs sont à proscrire », justifie le modérateur.

C’est là qu’on décèle les limites de la modération de contenus. Protéger les internautes de contenus susceptibles d’heurter leur sensibilité, c’est une chose. Mais nier la réalité du monde et occulter l’Histoire, c’en est une autre. Et des ONG luttent contre ce contrôle jugé excessif des contenus circulant sur la Toile. « La censure sur YouTube affecte beaucoup d’organisations », confie un membre d’une ONG qui oeuvre pour collecter les vidéos publiées par l’État islamique, afin de retracer les étapes des conflits. De par l’aspect choquant des images diffusées par l’organisation terroriste, ces contenus sont automatiquement supprimés par les modérateurs. Il ne faut cependant pas oublier que ces derniers sont sous la pression. Celle des règles qui leur sont imposées par la hiérarchie. « C’est dur de savoir si quelque chose doit être supprimé ou pas », témoigne une autre modératrice. Cette pression, mentale et psychologique, ces Philippins la subissent tous les jours. Jusqu’au jour où ils craquent. Jusqu’au moment où ils prennent conscience que leur travail donne le reflet d’un monde qui n’existe pas. Jusqu’au jour où, épuisés par leur travail, ils décident de ne plus rien ignorer, ne plus rien supprimer, et, pour certains, de se donner la mort.

Caroline Robin