Modération : comment fonctionnera la « Cour suprême » de Facebook ?

Quand on accueille presque un tiers de l’espèce humaine sur sa plateforme, on a intérêt à avoir de solides capacités en maintien de l’ordre. Facebook compte développer son système de modération en une véritable structure d’inspiration juridique. La firme a ainsi publié hier la charte finale (PDF) de son « Conseil de supervision », une nouvelle institution qui devrait rentrer en vigueur d’ici à novembre 2020.

« Si quelqu’un est en désaccord avec une décision que nous avons prise, il peut d’abord faire appel à nous, et ils pourront bientôt poursuivre l’appel envers ce conseil indépendant », explique le patron Mark Zuckerberg dans un communiqué (PDF). « En tant qu’organisation indépendante, nous espérons qu’elle donnera confiance aux gens que leurs points de vue seront entendus et que Facebook n’a pas de pouvoir ultime sur leur expression. »

Le Conseil de supervision

Un des rôles de ce Conseil de supervision sera d’interpréter les standards et politiques de la plateforme « à la lumière des valeurs articulées par Facebook ». Il pourra ensuite ordonner à Facebook d’autoriser ou supprimer un contenu, dans les limites de la loi. Le tout aboutit à des décisions écrites et argumentées, potentiellement assorties d’opinions dissidentes et disponibles dans une base de données publique.

L’organe aura une relation de sous-traitance avec Facebook. Il comportera d’abord 11 membres, avant de grossir jusqu’à un total de 40 personnes. Chacune servira un mandat de trois ans, renouvelable trois fois, et sera désignée par un conseil d’administration — lui-même désigné et financé par la firme de Zuckerberg.

Facebook se réserve le droit de saisir le conseil pour une « revue automatique et expéditive ». Cela concerne des situations exceptionnelles où « le contenu pourrait résulter en des conséquences urgentes sur le monde réel ». On pense à des cas comme l’attentat de Christchurch en Nouvelle-Zélande, où le tireur avait diffusé sa fusillade en direct par Facebook Live.

Unifier la jurisprudence

Ce que cette institution pourrait apporter serait un semblant d’unité dans la jurisprudence. Dans les systèmes juridiques de common law des pays anglo-saxons, les décisions prises par les juges ont pratiquement la même force que les lois édictées par le parlement. Aux États-Unis, quand les tribunaux de deux États différents parviennent à des conclusions opposées sur des affaires similaires, la Cour suprême intervient pour trancher.

Sur Facebook, ce sont aussi les modérateurs qui écrivent la loi au fur et à mesure. Mais chacun dans leur coin, et comme ils le peuvent. D’où des règles opaques et parfois interprétées de façons contradictoires, et ce sans justification. Face aux critiques, la plateforme a apporté en avril 2018 deux grandes améliorations à son système de modération.

D’abord, les censures de contenu ont pu faire l’objet d’un recours en appel par les utilisateurs. D’autres modérateurs jugent alors le contenu une deuxième fois. Il n’y a pas de « cour d’appel » dédiée. Facebook a également publié ses règles de modération, mais leur énoncé a laissé pantois. Des subtilités techniques faisaient de « homme blanc » une catégorie protégée, contrairement à « enfant noir ».

Vers un engorgement des tribunaux Facebook ?

C’est vers cette époque que Mark Zuckerberg a suggéré l’instauration d’une instance supérieure. « On peut imaginer une sorte de structure, presque comme une Cour suprême, qui serait constituée de personnes indépendantes ne travaillant pas pour Facebook, qui émettent au bout de compte le jugement final sur ce que devraient être des propos acceptables dans une communauté qui reflète les normes sociales et les valeurs de gens tout autour du monde. »

L’initiative de Facebook semble honorable sur le papier, mais l’implémentation risque d’être plus compliquée. Vu que les 30 000 modérateurs actuels ne parviennent pas à maintenir l’harmonie, on imagine difficilement ce que pourrait faire une cour de 40 personnes. Celle-ci sera d’ailleurs vite engorgée par les affaires rejetées en appel, même si elle décide de n’en traiter quelques-unes.

Si la firme de Zuckerberg réussit l’exploit d’imposer l’état de droit chez elle, nul doute que le système juridique de droit zuckien méritera d’être enseigné aux futurs juristes.

Pour aller plus loin
Les géants du Web sont-ils devenus plus puissants que des États ?