Le 3 avril 2025 au soir, dans un bar au cœur du quartier branché du Poblenou à Barcelone, la fête bat son plein. Les participants ont pourtant appris leur licenciement collectif le matin même. On aurait du mal à le deviner en voyant les scènes de liesse. En début de journée, les plus de 2000 modérateurs de contenus de Meta (Facebook, Instagram, Messenger, etc.) employés à Barcelone ont été licenciés, sans avertissement préalable. Passée la phase de surprise initiale, plusieurs procès ont été engagés par les anciens modérateurs contre leurs ex-employeurs[1] : un procès pour discrimination salariale, un procès pour licenciement abusif, et plusieurs procès pour dommages psychologiques.

Beaucoup ont voulu attribuer cette fermeture aux évolutions idéologiques récentes du patron de Meta, ce dernier ayant annoncé quelques mois auparavant des évolutions importantes en matière de modération. Notamment, «un retour aux sources», comprendre moins de censure. Donc moins de modération ? Ce serait méconnaître la nature réelle de la modération de contenu en ligne qui, certes, est une pratique qui consiste à faire appliquer un règlement (évolutif) dans l’espace numérique, mais qui est aussi et surtout, une annotation précise de données, un travail du clic complexe qui a pour objectif de nourrir des modèles algorithmiques.

L’organisation sociale du travail : l’algorithme dans la vraie vie

Au moment du licenciement, la Tour Glòries de Barcelone comptait environ 2000 modérateurs de contenus, répartis en «marchés linguistiques». Le marché espagnol et latinoaméricain (ESLA) était de loin le plus important en matière d’effectifs et plus de la moitié des employés y étaient affectés. Viennent ensuite les marchés lusophones, italiens et néerlandais. Le marché français était davantage un marché francophone : la majorité des modérateurs étaient français, mais l’on pouvait croiser des suisses, des belges, ou même des vénézueliens qui avaient vécu longtemps en France. «On a tous les pays d’Afrique», exagère un peu Maxence*[2], qui a été modérateur pendant 7 ans également au sein du marché français. Mais il y a  effectivement une proportion importante des contenus qu’ils modéraient qui étaient issus d’Afrique francophone. Il y avait ensuite les marchés scandinaves (Denmark, Suède et Norvège étant regroupés en un seul marché) et enfin le marché hébreu.

 Le travail du modérateur se structure autour de deux KPIs[3] centraux : la productivité et l’accuracy. La productivité se rapporte au nombre de contenus modérés par jour, et l’accuracy désigne la justesse de la décision prise par rapport aux règles en vigueur. 

Depuis Dublin, lieu du siège social européen de Meta, la plateforme pilote le règlement et son application, et transmet les directives lorsqu’il y a des changements de paradigme.

À Barcelone, les modérateurs, en première ligne face aux contenus, appliquent les directives enrichies quotidiennement dans le workplace, une plateforme interne qui s’apparente esthétiquement et dans ses fonctionnalités à la plateforme Facebook : les modérateurs sont dans des groupes, globaux et spécifiques à leurs régions, et chaque jour leur fil d’actualité fait apparaître des policy updates. Le règlement est dense et évolue régulièrement : dès qu’il y a une trend inédite, si une situation de conflit émerge, si un nouveau groupe ou une nouvelle figure controversée se viralise, etc. 

À titre d’exemple, lorsque la guerre en Ukraine a éclaté, une série de policy updates a été prise. Certains groupes paramilitaires ukrainiens – Azov, Aïdar et consorts – ont dû être retirés de la liste des organisations haineuses. En effet, Meta avait établi une liste en interne pour énumérer un certain nombre d’organisations et d’individus considérés comme dangereux ou haineux. De ce fait, l’utilisateur lambda n’avait pas le droit de les mentionner sans les condamner explicitement[4]. Mais quand la Russie a envahi l’Ukraine et que le Bataillon Azov (entre autres) s’est retrouvé en première ligne dans le conflit contre la Russie, il a fallu explicitement demander aux modérateurs de modérer différemment les contenus mentionnant l’entité paramilitaire, et d’en autoriser l’éloge malgré ses affinités nazies. 

 Interpréter, objectiver

«L’outil principal que nous utilisions pour évaluer les contenus c’était le SRT, le System Review Tool», m’explique Gerardo, un modérateur uruguayen qui a exercé pendant 7 ans. Le SRT est le logiciel principal du modérateur. Une fois dessus, le modérateur voit le contenu au centre de son écran, l’arbre de décisions à sa gauche, les identités des utilisateurs qui ont signalé et publié le contenu à sa droite.

La modération est un métier pénible, tant l’exposition à des contenus traumatisants y est quotidienne, entre viols, violences sur des enfants ou des animaux, terrorisme ou accidents mortels, entre autres…

À écouter les modérateurs cependant, il apparaît que l’enjeu de l’interprétation est un casse-tête permanent au sein de l’entreprise, et ajoute une couche de pénibilité au métier de la modération. «On peut avoir en tête les définitions du dictionnaire, et ce n’est pas nécessairement celles que l’entreprise va appliquer», étaie Gerardo. Comment, dès lors, l’entreprise s’y prenait pour pallier ces difficultés interprétatives ? «Ce qui domine, c’est l’esprit de la policy», m’explique-t-il, un principe classique en Droit, qu’on peut rapporter à celui de «l’intention du législateur». C’est évidemment aussi, une façon redoutable de naturaliser une certaine façon de voir les choses dans l’attribution du sens au contenu. Si on a un doute, on se pose la question : qu’aurait voulu Meta ?

Le métier du modérateur n’est pas évident : les policy font des dizaines de pages, les contenus sont d’une grande diversité, et il y a une pression pour prendre un nombre conséquent de décisions par jours. Ils ont «entre vingt secondes et une minute, en gros» pour faire leur choix me dit Dominique, un auditeur du marché français. Le rôle des auditeurs consistait à aligner les décisions des modérateurs, c’est-à-dire faire en sorte qu’ils prennent tous la même décision, si possible la décision la plus juste vis-à-vis des règles de la plateforme. Mais très souvent, la décision juste selon la plateforme n’est pas la décision juste pour les modérateurs. L’auditeur doit dès lors adopter un rôle de médiateur, voire de thérapeute. 

«Moi, mon boulot c’était de leur dire : « les gars, on a signé un contrat avec le diable à partir du moment où on est entrés ici. (…) Là on doit suivre les règles que le travail nous donne. Oui, certes, c’est de la merde.  Et moi je les défends pas. Mais je dis que, pour le bien de notre emploi, on doit agir comme ils nous demandent de faire »», synthétise José, un auditeur colombien.

Les nombreux entretiens menés avec des modérateurs tendent à montrer que leur mal-être se développe en grande partie à partir de la confrontation entre leur interprétation subjective et la volonté objectivante de Meta.

Automatiser ?

La modération est une annotation qui a pour but d’objectiver un contenu. Mais les contenus ont systématiquement plusieurs niveaux d’interprétation. En cela, la modération est une pratique épistémologique, qui finit par trancher sur le sens à attribuer à de la donnée, quand bien même d’autres interprétations légitimes pourraient nuancer l’interprétation retenue. Meta fait constamment des choix : interpréter un contenu d’une façon ou d’une autre, et fait parfois évoluer  ses interprétations, comme dans le cadre de l’Ukraine par exemple.

D’un point de vue strictement technique, Meta pourrait tout à fait automatiser sa modération. L’entreprise dispose d’outils algorithmiques puissants, qui ont été entraînés sur la base de certains critères. Mais la nature même du concept de «critère» suppose de privilègier une interprétation plutôt qu’une autre.  

Si Meta automatisait sa modération, il y aurait des «erreurs»[5], mais de quelles erreurs parle-t-on? «D’erreurs» d’interprétation. Les algorithmes pourraient attribuer un sens à un contenu, en fonction des données à partir desquelles ils ont été entraînés, qui ne seront pas forcément « justes », ou au mieux, seraient forcément orientées en fonction de la façon dont elles ont été annotées.

 La plupart des articles ou des documentaires qui abordent la question de la modération de contenu ont tendance à se focaliser sur un seul aspect : les dommages psychologiques, l’enfer vécu par les modérateurs de contenu.  C’est une réalité qu’il est difficile de nier. À vrai dire, qui peut être surpris d’apprendre que visionner des horreurs entraîne des effets néfastes pour la santé mentale, même si cela représente 1 % du volume des contenus modérés ? Meta en est tout à fait conscient par ailleurs, puisqu’ils ont déjà été condamnés pour des faits similaires aux Etats-Unis en 2020[6]. Telus reconnaît aussi la pénibilité de ce métier et assure offrir aux modérateurs un cadre approprié pour protéger la santé mentale de ses employés[7].

Mais d’autre part, et peut-être plus fondamentalement, l’aspect oublié de la modération de contenu est sa nature matérielle, l’exercice de l’annotation et sa dimension épistémique. Qui décide et dans quelles conditions que X = 1, 2 ou 3 ? Quelles seront les conséquences d’un déploiement d’outils (soi-disant) automatisés nécessairement «subjectifs» ? 

On a un premier élément de réponse avec un outil déployé en interne, pour «faciliter» le travail des modérateurs. Cet outil, déployé dans les derniers mois de l’activité à Barcelone, suggérait aux modérateurs une décision à prendre par rapport à un contenu. Il faut prendre en compte que Meta est sûrement l’entreprise qui dispose du plus grand nombre de données dans le monde avec Google, et que le seul site de Barcelone employait plus de 2000 modérateurs qui travaillaient h24, 7j/7, pendant plus de sept ans. Or, après sept ans de modération et d’entraînement, « ça ne marchait pas bien» selon Ludivine, c’était «désastreux» selon Gerardo, «90 % d’erreur» selon José[8].

Les questions liées à l’encadrement socio-légal des plateformes et au contrôle de l’espace numérique par les acteurs de l’industrie numérique doivent encore être approfondies. La modération de l’espace numérique semble en tous cas trop sensible pour être déléguée à des entreprises dont les objectifs sont mercantiles, trop fondamentale pour être laissée entre les tentacules des machines apprenantes. 

Neil Seghier,
doctorant en études politiques au Laboratoire d’Anthropologie Politique (LAP, UMR 8177, CNRS / EHESS)

Crédit photo : Neil Seghier