Valérie Maldonado, directrice de l’Institut
national des hautes études de la sécurité et de la justice (INHESJ),
a ouvert le 28 janvier dernier, à l’école
militaire, une soirée d’échange axée sur les propos
haineux diffusés sur les réseaux
sociaux. La directrice pose la question :
Internet est-il en train d’organiser les réseaux de la haine ?
François Jost, professeur émérite en sciences de
l’information et de la communication à l’université Sorbonne-Nouvelle, estime
que la haine commence par des mots dits performatifs, c’est-à-dire des mots qui agissent sur la réalité. Les mots sont aussi
des actes. Pour le philosophe Jean-Luc Nancy, la haine est pratiquement
contraire à la formule de
Pascal « le moi est
haïssable ». Elle part
du fait qu’il n’y a que le « moi ». Une personne se place au centre de tout
et considère chaque autre moi comme une sorte d’ennemi. Les réseaux
sociaux compliquent cette relation. Ils permettent au moi de s’étendre à un groupe, à la famille,
la communauté qui, pareillement, se considère comme un moi, une cellule
autonome, un corps unique. La haine verbale est un premier pas vers l’acte.
Constat,
panorama de la haine
François-Xavier Masson, directeur de l’office central
de lutte contre la criminalité liée aux technologies de l’information et de la
communication, dirige Pharos, site de signalement des contenus illicites de
l’Internet qui n’est pas spécifiquement dédié aux discours de haine. La plateforme est
animée par des policiers et des gendarmes qui recueillent tous types de signalements
envoyés par les internautes sur n’importe quel contenu jugé illicite. Ces
contenus constituent potentiellement une infraction à la loi pénale. Le nombre
de signalements augmente constamment depuis sa création, passant de 50 000 en 2009 à
228 000 en 2019.
Proportionnellement, la typologie des signalements ne
varie pas : elle concerne premièrement des escroqueries, deuxièmement des
atteintes sexuelles contre les mineurs (échanges de fichiers
pédopornographiques) et troisièmement les discours de haine (discrimination,
injure, diffamation). Internet est un déversoir de haine dont le débit croît
année après année.
De 14 000 en 2009, le nombre de signalements de
discours discriminatoires est passé à 24 000 dix ans plus tard. Tous ne
constituent pas une infraction pénalement répréhensible déclenchant une enquête
judiciaire.
Les services de Pharos différencient la haine
« de tous les jours » (celle du voisin qui insulte
la terre entière) ; la haine de ceux qui relayent des tweets, les
alimentent et participent à leur propagation ; et
enfin la haine
professionnalisée construite par des animateurs de site, de blogs et des forums
qui réapparaissent de manière récurrente. C’est plutôt contre cette dernière
catégorie que des actions de lutte sont entreprises dans le but de déclencher
des enquêtes et des pour suites si nécessaire.
Le problème majeur tient à la qualification du
discours de haine. En France, chacun a l e droit d’être raciste à titre
privé. Par contre, est considéré comme une infraction le fait de diffuser sa
haine, d’être raciste, d’insulter, de
diffamer ou d’injurier d’autres communautés. La contextualisation du discours
haineux est un élément primordial de l’action judiciaire.
Pharos intervient pour des contenus signalés
accessibles à l’ensemble des internautes. Il n’intervient pas dans le cadre de
relations privées comme des mails, des forums, des groupes… qui sont
inaccessibles à l’ensemble du public. Là, il appartient à la victime de porter
plainte.
Quand le message s’adresse au
plus grand nombre, la plateforme entre en action. Le web offre une capacité
planétaire à déverser des flots de haine. «
Naïfs, les auteurs, cachés derrière leur ordinateur, se croient anonymes et
s’imaginant intouchables, s’autorisent à dire n’importe quoi ».
Témoignage
Zineb El Rhazoui, ancienne journaliste de Charlie
Hebdo, milite pour la laïcité et contre l’islamisme. Ouvertement athée avec
un background musulman, elle est apostate aux yeux des Musulmans et
passible de la peine de mort selon la doctrine islamique.
La haine qui la cible, celle des intégristes
musulmans, s’applique contre
toute personne qui ose porter un discours de contradictions ou de critique sur
l’Islam. Cette haine-là, aujourd’hui, nécessite
en France
que des personnes se déplacent avec une protection policière. À
titre
personnel, Zineb El Rhazoui vit sous protection policière depuis maintenant
plus de cinq ans. Comme d’autres
civils, principalement des anciens de Charlie Hebdo, elle est
accompagnée en permanence de policiers armés. Autre exemple, l’affaire Mila.
Cette jeune fille a critiqué l’Islam et le Coran. Face aux menaces, elle a été
exfiltrée de son lycée. Sa vie a basculé du jour au lendemain. Les passages à
l’acte comme celui de Charlie Hebdo attestent d’un énorme problème de
refus de toute critique de l’Islam. Une espèce de déferlante islamiste haineuse
sur les réseaux sociaux s’acharne sur toute personne qui ose porter un discours
de contradiction sur cette religion.
Zineb El Rhazoui reçoit pour sa part de façon très
régulière des contenus de haine depuis septembre 2009, année où elle avait
organisé un pique-nique pendant le ramadan au Maroc.
Parfois, on lui adresse plus de 100 menaces de morts par jour, sans compter tout le reste.
En novembre 2019 par exemple, lorsque le rappeur Booba, suivi par un million de
followers sur Instagram, a appelé avec un hashtag à la punir, la journaliste a
subi une explosion de notifications sur son téléphone : « pute », « grosse
pute », « sale pute », « va crever », etc. Dans un tel contexte, tout
militant laïc est submergé par ces contenus-là, par ces comportements-là.
En
conséquence, faire valoir ses droits en tant que victime de discours haineux devient impossible car
il faudrait alors enregistrer des plaintes au commissariat trois ou quatre fois
par semaine.
La liberté de conscience absolue laisse le choix de
haïr et même de l’exprimer dans le respect des limites de la liberté
d’expression. Contrairement à la liberté de conscience, celle-ci est limitée,
réglementée. La loi n’autorise pas l’appel à la violence, la diffamation,
l’injure. Chacun peut haïr son voisin, mais pas le menacer, ni porter atteinte
à sa vie privée. Pour Zineb El Rhazoui, l’abolition de l’anonymat constitue une
atteinte grave à la liberté d’expression. Beaucoup de parias de l’Islam risquent
de voir leur vie remise en question. Ils ne peuvent pas s’exprimer ouvertement
dans leur famille, dans leur milieu et n’ont pas d’autres choix que de
s’exprimer anonymement sur Internet.
On peut
regretter que la proposition de loi contre la cyberhaine ne cite pas la
victime.
À l’évidence, sanctions et
condamnations sont indispensables pour que les auteurs comprennent qu’ils ne peuvent plus
proférer de menaces de mort impunément derrière l’anonymat de leurs écrans.
Par ailleurs, les forces de l’ordre devraient pouvoir lever internationalement
l’anonymat des comptes sur lesquels des menaces de mort sont proférées. Or
actuellement, les enquêteurs de police sont asservis à la bonne volonté des
plateformes comme Facebook, Twitter, Instagram, etc.
Chacun voit la haine à sa fenêtre. La
phrase « lorsque j’étais musulmane je
consommais de la viande porcine » a suscité une vague d’indignation et des
milliers de signalements. La censure algorithmique a entraîné la clôture du
compte. Ce cas illustre, sur le web, le pouvoir prioritaire donné au nombre
quitte à bafouer la liberté d’expression individuelle. L’anonymat est une façon
de garantir la liberté d’expression pour des personnes qui n’en jouissent pas
forcément au quotidien.
La modération
Le rôle de l’entreprise de modération consiste à
relire ou visionner ce qui est reçu par ses clients, via leur site,
Facebook et autres. Elle retire en quelques minutes par robot ou par humain
interposé tous les propos qui ne sont pas souhaitables (hors la loi, haineux,
agressifs). Les médias ont des commentaires sur leurs articles ou sur
leur page Facebook principalement. L’entreprise de modération maintient les
conversations dans un niveau de qualité acceptable. Elle enlève rapidement tout ce qui
la ferait dériver vers des propos racistes ou virulents.
Jérémie Mani a cofondé Netino, modérateur de comptes
sociaux qui publie son panorama de la haine en ligne tous les trimestres. La
méthodologie est la suivante :
25 pages Facebook de grands médias français
sont suivies. Ce panel engendre périodiquement une masse de commentaires et des
millions de contributions. Chaque mois, 5 000 commentaires y sont sélectionnés aléatoirement et
analysés par des opérateurs. On quantifie dans cette source 12 à 14 % de propos
haineux qui se subdivisent en agressivité entre internautes (36 à 38
%), contre
la classe politique (21 %), contre les
médias, les journalistes, les personnalités et enfin les criminels. Ces cinq
catégories perdurent sans arrêt ; les autres propos, anti-musulmans,
anti-grévistes… apparaissent au gré de l’actualité.
Les contenus sont à la fois complotistes,
négationnistes et d’extrême droite. La majorité des utilisateurs ont une vision
naïve des réseaux sociaux. Les contenus complotistes, souvent, avancent des théories
tellement stupides que les arguments pour lutter contre sont compliqués à
établir. Elles sont pourtant très présentes et reléguées. Les catégories de
propos haineux ne sont pas cloisonnées, elles se mêlent entre elles. La théorie
du grand remplacement stipule que le peuple européen blanc originel serait
lentement remplacé par des populations venues d’Afrique. Le terme de grand
remplacement a été référencé plus d’un million de fois en un an. Ce type
d’impact massif favorise le passage à l’acte (tuerie de Christchurch en
Nouvelle Zélande, par exemple).
Les propos haineux sont régulièrement concentrés
en un même lieu. Là se rencontrent de l’antisémitisme, du racisme et des attaques anti-LGBT.
Toutes les formes de rejet de la diversité sont présentes sur les réseaux
sociaux. Ainsi, la plateforme russe de contact VK n’applique aucune modération.
Elle abrite toute l’extrême droite, tous les groupuscules autour d’Alain Soral
et sans doute d’autres comptes discutables issus d’une multitude de pays. Le
web propose également des sites de haine qui changent de nom et renaissent à
chaque fois qu’une ordonnance de blocage est rendue. Parmi ceux-là, certains
affichent des vidéos. Ils sous-entendent des moyens techniques chers en amont.
La question est de savoir : qui les finance ? Doit-on craindre des
puissances étrangères dans ce domaine ?
Trois points majeurs soulèvent des problèmes avec les
échanges numériques : la massification, la
viralité et la mobilité.
Proposition de
loi visant à lutter contre la haine sur Internet
Laetitia Avia, députée de Paris (8e circonscription), auteure du texte en présente les
grandes lignes : la proposition de loi visant à lutter contre la haine sur
Internet résulte de deux années de travail, de concertations, de
déplacements et d’échanges avec les
plateformes, les juristes et les acteurs de la régulation. Elle ne prétend pas
apporter l’alpha et l’oméga de la lutte contre la haine sur Internet. Tout le
monde est contre la haine sur Internet, mais personne ne s’entend sur les
moyens à mettre en œuvre. C’est pourquoi
le texte préconise plusieurs méthodes d’action. La première est l’obligation
pour les plateformes de retirer les contenus manifestement haineux en 24 heures. La seconde est une obligation de moyens de
modération humains à la charge des plateformes qui s’ajoute aux moyens
technologiques, aux obligations de transparence et à celles de coopération
judiciaire sous le contrôle du CSA. En tant que régulateur, le CSA peut émettre
des recommandations aux plateformes, contrôler la mise en œuvre des
règles et
sanctionner les contrevenants d’une amende allant jusqu’à 4
% de leur
chiffre d’affaires mondial. Un autre moyen est de renforcer l’efficacité du
dispositif judiciaire dans la lutte contre les sites dits miroirs qui se
multiplient avec, à chaque fois, de nouvelles extensions. Les parlementaires
entendent mettre en place un mécanisme de lutte contre le financement de ces
sites à caractère haineux. Ces derniers puisent leurs ressources dans la
publicité. Un dispositif de liste noire et une traçabilité accrue organisée par
les annonceurs sont prévus. Un nouveau parquet numérique spécialisé va voir le
jour, constitué d’acteurs qui maîtrisent le sujet depuis les enquêteurs
jusqu’aux magistrats. Aujourd’hui, on constate une véritable impunité des contenus
haineux sur les réseaux et sur Internet. Des moyens humains, techniques et
financiers vont être déployés. Des mesures de prévention dans les écoles et un
observatoire de la haine en ligne permettront d’enrayer le phénomène en partie.
L’article 1 impose aux
plateformes de retirer les contenus manifestement haineux en 24 heures.
Qu’est-ce qui doit être retiré ? Il s’agit des contenus visés par
la loi de 1881 qui cite les injures discriminatoires, les incitations à la
haine ou à la violence, à raison de la race, de la religion, du sexe, de
l’orientation sexuelle, du genre, du handicap. L’injure discriminatoire se
formule à raison de l’appartenance ou non, réelle ou supposée. Insulter un individu parce qu’il pratique un culte,
ou au contraire parce qu’il ne le pratique pas, constitue exactement le même
délit. Les plateformes opèrent la censure sous 24 heures après le signalement, faute de quoi elles s’exposent à une sanction.
Il faut absolument nettoyer Internet de ses contenus et poursuivre leurs
auteurs.
Trois éléments importants à propos de l’obligation de retrait :
• si une plateforme
n’est pas confrontée à quelque chose de manifeste, mais se trouve plutôt face à
des éléments « gris », alors le délit ne sera pas caractérisé parce
que le caractère intentionnel ne sera pas rempli ;
• le texte sanctionne
la sur-censure, c’est-à-dire les plateformes qui s’adonnent à de la censure
illégitime ;
• des sanctions sont
prévues en cas de signalement abusif pour éviter les raids numériques contre
des contenus.
Du côté des
GAFAM
Facebook s’est engagé en janvier 2019 dans la mission
dite « Facebook » avec le gouvernement français pour détailler le fonctionnement
de sa manière de modérer. Du reste, la société n’a pas attendu la promulgation
de lois pour agir, elle avait
déjà pris des
mesures depuis quelques années. Elle a dû même se battre pour mettre en ligne
les rapports de transparence, principe maintenant évident.
De juillet à septembre 2019, sur 7 millions de contenus haineux, 80 % ont été retirés avant un signalement. C’est une nette
progression grâce au renforcement des moyens technologiques de la plateforme et
suite à la triste expérience formatrice des contenus terroristes. Les
algorithmes actuels reconnaissent facilement un drapeau de Daesch ou des images
pédopornographiques, mais la contextualisation réclame toujours des modérateurs
humains. 15 000 modérateurs travaillent pour Facebook et ses 1,6 milliards d’utilisateurs quotidiens. Le réseau a créé une
procédure de recours interne et un comité de surveillance qui peut revenir sur
les décisions des modérateurs.
La plateforme, globale, est soumise à des lois
locales, remarque Béatrice Oeuvrard, responsable des affaires publiques chez
Facebook France. Comme leur nom l’indique, les lois locales ne s’appliquent que
dans un pays. Même si elles ont souvent un objectif commun, pour Facebook,
elles apparaissent comme des exceptions qui compliquent son positionnement. En
tout état de cause, Facebook a besoin d’avoir un droit au doute pour la gestion
des contenus gris parce que nul n’est infaillible.
Concrètement
Notre époque paraît ambiguë : il n’y a jamais eu
autant de textes sanctionnant la haine sur Internet, et simultanément, il n’y a
jamais eu autant de messages haineux. « Avait-on vraiment besoin d’une nouvelle loi pour sanctionner ce qui
était déjà dans la loi sur la confiance de l’économie numérique de 2004,
amendée en 2014, ou dans celle de juillet 1881 sur la liberté de la presse ? »
a demandé Thierry Vallat, avocat spécialisé en droit des nouvelles
technologies. Aujourd’hui,
ces textes sont très mal appliqués faute de moyens humains et matériels. Alors
la création d’un parquet dédié est une excellente nouvelle, mais quid de
ses moyens ?
Aujourd’hui, lorsqu’on dépose une plainte pour
harcèlement ou pour avoir été injurié sur Internet, on se heurte à un mur car
les officiers de police judiciaire sont confrontés à d’autres maux plus graves.
Si malgré tout vous passez au tribunal, vous constatez que les juges sont très
bien formés et qu’ils condamnent les délinquants qui, eux, estiment normal
d’insulter et de propager un discours haineux sur la toile impunément.
Les plateformes ont signé pour la plupart le Code de
bonne conduite de la Commission européenne depuis 2016. La modération se passe
bien mieux qu’avant cette adhésion. Facebook a fait énormément de progrès.
Maintenant, pour qu’une plateforme soit condamnée avec le délit d’absence de
retrait dans les 24 heures, il faut
qu’elle ait du contenu manifestement illicite ou haineux et, selon le texte,
qu’elle ne se livre pas à un examen proportionné et nécessaire du contenu
notifié. En conséquence, les contenus gris poseront vraisemblablement des
difficultés. Mettre à la charge des plateformes des contraintes financières
importantes en l’absence de retrait risque de les conduire inéluctablement vers
la surmodération. Cependant, notons qu’en Allemagne, la loi déjà en vigueur,
similaire à la nôtre, n’a pas abouti à ce travers, avec 1 100 signalements
jusqu’à présent.
L’inconvénient de déléguer aux GAFA le pouvoir de
décider ce qui est manifestement haineux, c’est le risque de court-circuiter le
juge.
S’il est vrai que les juges n’ont pas le temps de
faire en référé ce que la plateforme fera en 24 heures, alors ne
devrait-on pas donner davantage de moyens aux magistrats.
Georges Brassens a chanté « Mourir pour des idées », c’était un
titre plus fin que « tuer pour des idées
».
C2M