ACTUALITÉ

« Les réseaux de la haine »

« Les réseaux de la haine »
Publié le 22/03/2020 à 09:30



Valérie Maldonado, directrice de l’Institut national des hautes études de la sécurité et de la justice (INHESJ), a ouvert le 28 janvier dernier, à l’école militaire, une soirée d’échange axée sur les propos haineux diffusés sur les réseaux sociaux. La directrice pose la question : Internet est-il en train d’organiser les réseaux de la haine ?


 




François Jost, professeur émérite en sciences de l’information et de la communication à l’université Sorbonne-Nouvelle, estime que la haine commence par des mots dits performatifs, c’est-à-dire des mots qui agissent sur la réalité. Les mots sont aussi des actes. Pour le philosophe Jean-Luc Nancy, la haine est pratiquement contraire à la formule de Pascal « le moi est haïssable ». Elle part du fait qu’il n’y a que le « moi ». Une personne se place au centre de tout et considère chaque autre moi comme une sorte d’ennemi. Les réseaux sociaux compliquent cette relation. Ils permettent au moi de s’étendre à un groupe, à la famille, la communauté qui, pareillement, se considère comme un moi, une cellule autonome, un corps unique. La haine verbale est un premier pas vers l’acte.


 


Constat, panorama de la haine


François-Xavier Masson, directeur de l’office central de lutte contre la criminalité liée aux technologies de l’information et de la communication, dirige Pharos, site de signalement des contenus illicites de l’Internet qui n’est pas spécifiquement dédié aux discours de haine. La plateforme est animée par des policiers et des gendarmes qui recueillent tous types de signalements envoyés par les internautes sur n’importe quel contenu jugé illicite. Ces contenus constituent potentiellement une infraction à la loi pénale. Le nombre de signalements augmente constamment depuis sa création, passant de 50 000 en 2009 à 228 000 en 2019.


Proportionnellement, la typologie des signalements ne varie pas : elle concerne premièrement des escroqueries, deuxièmement des atteintes sexuelles contre les mineurs (échanges de fichiers pédopornographiques) et troisièmement les discours de haine (discrimination, injure, diffamation). Internet est un déversoir de haine dont le débit croît année après année.


De 14 000 en 2009, le nombre de signalements de discours discriminatoires est passé à 24 000 dix ans plus tard. Tous ne constituent pas une infraction pénalement répréhensible déclenchant une enquête judiciaire.


Les services de Pharos différencient la haine « de tous les jours » (celle du voisin qui insulte la terre entière) ; la haine de ceux qui relayent des tweets, les alimentent et participent à leur propagation ; et enfin la haine professionnalisée construite par des animateurs de site, de blogs et des forums qui réapparaissent de manière récurrente. C’est plutôt contre cette dernière catégorie que des actions de lutte sont entreprises dans le but de déclencher des enquêtes et des pour suites si nécessaire.


Le problème majeur tient à la qualification du discours de haine. En France, chacun a l e droit d’être raciste à titre privé. Par contre, est considéré comme une infraction le fait de diffuser sa haine, d’être raciste, d’insulter, de diffamer ou d’injurier d’autres communautés. La contextualisation du discours haineux est un élément primordial de l’action judiciaire.


Pharos intervient pour des contenus signalés accessibles à l’ensemble des internautes. Il n’intervient pas dans le cadre de relations privées comme des mails, des forums, des groupes… qui sont inaccessibles à l’ensemble du public. Là, il appartient à la victime de porter plainte.


Quand le message s’adresse au plus grand nombre, la plateforme entre en action. Le web offre une capacité planétaire à déverser des flots de haine. « Naïfs, les auteurs, cachés derrière leur ordinateur, se croient anonymes et s’imaginant intouchables, s’autorisent à dire n’importe quoi ».


 


Témoignage


Zineb El Rhazoui, ancienne journaliste de Charlie Hebdo, milite pour la laïcité et contre l’islamisme. Ouvertement athée avec un background musulman, elle est apostate aux yeux des Musulmans et passible de la peine de mort selon la doctrine islamique.


La haine qui la cible, celle des intégristes musulmans, s’applique contre toute personne qui ose porter un discours de contradictions ou de critique sur l’Islam. Cette haine-là, aujourd’hui, nécessite en France que des personnes se déplacent avec une protection policière. À titre personnel, Zineb El Rhazoui vit sous protection policière depuis maintenant plus de cinq ans. Comme d’autres civils, principalement des anciens de Charlie Hebdo, elle est accompagnée en permanence de policiers armés. Autre exemple, l’affaire Mila. Cette jeune fille a critiqué l’Islam et le Coran. Face aux menaces, elle a été exfiltrée de son lycée. Sa vie a basculé du jour au lendemain. Les passages à l’acte comme celui de Charlie Hebdo attestent d’un énorme problème de refus de toute critique de l’Islam. Une espèce de déferlante islamiste haineuse sur les réseaux sociaux s’acharne sur toute personne qui ose porter un discours de contradiction sur cette religion.


Zineb El Rhazoui reçoit pour sa part de façon très régulière des contenus de haine depuis septembre 2009, année où elle avait organisé un pique-nique pendant le ramadan au Maroc.


Parfois, on lui adresse plus de 100 menaces de morts par jour, sans compter tout le reste. En novembre 2019 par exemple, lorsque le rappeur Booba, suivi par un million de followers sur Instagram, a appelé avec un hashtag à la punir, la journaliste a subi une explosion de notifications sur son téléphone : « pute », « grosse pute », « sale pute », « va crever », etc. Dans un tel contexte, tout militant laïc est submergé par ces contenus-là, par ces comportements-là.


En conséquence, faire valoir ses droits en tant que victime de discours haineux devient impossible car il faudrait alors enregistrer des plaintes au commissariat trois ou quatre fois par semaine.


La liberté de conscience absolue laisse le choix de haïr et même de l’exprimer dans le respect des limites de la liberté d’expression. Contrairement à la liberté de conscience, celle-ci est limitée, réglementée. La loi n’autorise pas l’appel à la violence, la diffamation, l’injure. Chacun peut haïr son voisin, mais pas le menacer, ni porter atteinte à sa vie privée. Pour Zineb El Rhazoui, l’abolition de l’anonymat constitue une atteinte grave à la liberté d’expression. Beaucoup de parias de l’Islam risquent de voir leur vie remise en question. Ils ne peuvent pas s’exprimer ouvertement dans leur famille, dans leur milieu et n’ont pas d’autres choix que de s’exprimer anonymement sur Internet.
On peut regretter que la proposition de loi contre la cyberhaine ne cite pas la victime.


À l’évidence, sanctions et condamnations sont indispensables pour que les auteurs comprennent qu’ils ne peuvent plus proférer de menaces de mort impunément derrière l’anonymat de leurs écrans.
Par ailleurs, les forces de l’ordre devraient pouvoir lever internationalement l’anonymat des comptes sur lesquels des menaces de mort sont proférées. Or actuellement, les enquêteurs de police sont asservis à la bonne volonté des plateformes comme Facebook, Twitter, Instagram, etc.


Chacun voit la haine à sa fenêtre. La phrase « lorsque j’étais musulmane je consommais de la viande porcine » a suscité une vague d’indignation et des milliers de signalements. La censure algorithmique a entraîné la clôture du compte. Ce cas illustre, sur le web, le pouvoir prioritaire donné au nombre quitte à bafouer la liberté d’expression individuelle. L’anonymat est une façon de garantir la liberté d’expression pour des personnes qui n’en jouissent pas forcément au quotidien.


 


La modération


Le rôle de l’entreprise de modération consiste à relire ou visionner ce qui est reçu par ses clients, via leur site, Facebook et autres. Elle retire en quelques minutes par robot ou par humain interposé tous les propos qui ne sont pas souhaitables (hors la loi, haineux, agressifs). Les médias ont des commentaires sur leurs articles ou sur leur page Facebook principalement. L’entreprise de modération maintient les conversations dans un niveau de qualité acceptable. Elle enlève rapidement tout ce qui la ferait dériver vers des propos racistes ou virulents.


Jérémie Mani a cofondé Netino, modérateur de comptes sociaux qui publie son panorama de la haine en ligne tous les trimestres. La méthodologie est la suivante :


25 pages Facebook de grands médias français sont suivies. Ce panel engendre périodiquement une masse de commentaires et des millions de contributions. Chaque mois, 5 000 commentaires y sont sélectionnés aléatoirement et analysés par des opérateurs. On quantifie dans cette source 12 à 14 % de propos haineux qui se subdivisent en agressivité entre internautes (36 à 38 %), contre la classe politique (21 %), contre les médias, les journalistes, les personnalités et enfin les criminels. Ces cinq catégories perdurent sans arrêt ; les autres propos, anti-musulmans, anti-grévistes… apparaissent au gré de l’actualité.


Les contenus sont à la fois complotistes, négationnistes et d’extrême droite. La majorité des utilisateurs ont une vision naïve des réseaux sociaux. Les contenus complotistes, souvent, avancent des théories tellement stupides que les arguments pour lutter contre sont compliqués à établir. Elles sont pourtant très présentes et reléguées. Les catégories de propos haineux ne sont pas cloisonnées, elles se mêlent entre elles. La théorie du grand remplacement stipule que le peuple européen blanc originel serait lentement remplacé par des populations venues d’Afrique. Le terme de grand remplacement a été référencé plus d’un million de fois en un an. Ce type d’impact massif favorise le passage à l’acte (tuerie de Christchurch en Nouvelle Zélande, par exemple).


Les propos haineux sont régulièrement concentrés en un même lieu. Là se rencontrent de l’antisémitisme, du racisme et des attaques anti-LGBT. Toutes les formes de rejet de la diversité sont présentes sur les réseaux sociaux. Ainsi, la plateforme russe de contact VK n’applique aucune modération. Elle abrite toute l’extrême droite, tous les groupuscules autour d’Alain Soral et sans doute d’autres comptes discutables issus d’une multitude de pays. Le web propose également des sites de haine qui changent de nom et renaissent à chaque fois qu’une ordonnance de blocage est rendue. Parmi ceux-là, certains affichent des vidéos. Ils sous-entendent des moyens techniques chers en amont. La question est de savoir : qui les finance ? Doit-on craindre des puissances étrangères dans ce domaine ?


Trois points majeurs soulèvent des problèmes avec les échanges numériques : la massification, la viralité et la mobilité.


 


Proposition de loi visant à lutter contre la haine sur Internet


Laetitia Avia, députée de Paris (8e circonscription), auteure du texte en présente les grandes lignes : la proposition de loi visant à lutter contre la haine sur Internet résulte de deux années de travail, de concertations, de déplacements et d’échanges avec les plateformes, les juristes et les acteurs de la régulation. Elle ne prétend pas apporter l’alpha et l’oméga de la lutte contre la haine sur Internet. Tout le monde est contre la haine sur Internet, mais personne ne s’entend sur les moyens à mettre en œuvre. C’est pourquoi le texte préconise plusieurs méthodes d’action. La première est l’obligation pour les plateformes de retirer les contenus manifestement haineux en 24 heures. La seconde est une obligation de moyens de modération humains à la charge des plateformes qui s’ajoute aux moyens technologiques, aux obligations de transparence et à celles de coopération judiciaire sous le contrôle du CSA. En tant que régulateur, le CSA peut émettre des recommandations aux plateformes, contrôler la mise en œuvre des règles et sanctionner les contrevenants d’une amende allant jusqu’à 4 % de leur chiffre d’affaires mondial. Un autre moyen est de renforcer l’efficacité du dispositif judiciaire dans la lutte contre les sites dits miroirs qui se multiplient avec, à chaque fois, de nouvelles extensions. Les parlementaires entendent mettre en place un mécanisme de lutte contre le financement de ces sites à caractère haineux. Ces derniers puisent leurs ressources dans la publicité. Un dispositif de liste noire et une traçabilité accrue organisée par les annonceurs sont prévus. Un nouveau parquet numérique spécialisé va voir le jour, constitué d’acteurs qui maîtrisent le sujet depuis les enquêteurs jusqu’aux magistrats. Aujourd’hui, on constate une véritable impunité des contenus haineux sur les réseaux et sur Internet. Des moyens humains, techniques et financiers vont être déployés. Des mesures de prévention dans les écoles et un observatoire de la haine en ligne permettront d’enrayer le phénomène en partie.


L’article 1 impose aux plateformes de retirer les contenus manifestement haineux en 24 heures. Qu’est-ce qui doit être retiré ? Il s’agit des contenus visés par la loi de 1881 qui cite les injures discriminatoires, les incitations à la haine ou à la violence, à raison de la race, de la religion, du sexe, de l’orientation sexuelle, du genre, du handicap. L’injure discriminatoire se formule à raison de l’appartenance ou non, réelle ou supposée. Insulter un individu parce qu’il pratique un culte, ou au contraire parce qu’il ne le pratique pas, constitue exactement le même délit. Les plateformes opèrent la censure sous 24 heures après le signalement, faute de quoi elles s’exposent à une sanction. Il faut absolument nettoyer Internet de ses contenus et poursuivre leurs auteurs.


Trois éléments importants à propos de l’obligation de retrait :


si une plateforme n’est pas confrontée à quelque chose de manifeste, mais se trouve plutôt face à des éléments « gris », alors le délit ne sera pas caractérisé parce que le caractère intentionnel ne sera pas rempli ;


le texte sanctionne la sur-censure, c’est-à-dire les plateformes qui s’adonnent à de la censure illégitime ;


des sanctions sont prévues en cas de signalement abusif pour éviter les raids numériques contre des contenus.


 


Du côté des GAFAM


Facebook s’est engagé en janvier 2019 dans la mission dite « Facebook » avec le gouvernement français pour détailler le fonctionnement de sa manière de modérer. Du reste, la société n’a pas attendu la promulgation de lois pour agir, elle avait déjà pris des mesures depuis quelques années. Elle a dû même se battre pour mettre en ligne les rapports de transparence, principe maintenant évident.


De juillet à septembre 2019, sur 7 millions de contenus haineux, 80 % ont été retirés avant un signalement. C’est une nette progression grâce au renforcement des moyens technologiques de la plateforme et suite à la triste expérience formatrice des contenus terroristes. Les algorithmes actuels reconnaissent facilement un drapeau de Daesch ou des images pédopornographiques, mais la contextualisation réclame toujours des modérateurs humains. 15 000 modérateurs travaillent pour Facebook et ses 1,6 milliards d’utilisateurs quotidiens. Le réseau a créé une procédure de recours interne et un comité de surveillance qui peut revenir sur les décisions des modérateurs.


La plateforme, globale, est soumise à des lois locales, remarque Béatrice Oeuvrard, responsable des affaires publiques chez Facebook France. Comme leur nom l’indique, les lois locales ne s’appliquent que dans un pays. Même si elles ont souvent un objectif commun, pour Facebook, elles apparaissent comme des exceptions qui compliquent son positionnement. En tout état de cause, Facebook a besoin d’avoir un droit au doute pour la gestion des contenus gris parce que nul n’est infaillible.


 


Concrètement


Notre époque paraît ambiguë : il n’y a jamais eu autant de textes sanctionnant la haine sur Internet, et simultanément, il n’y a jamais eu autant de messages haineux. « Avait-on vraiment besoin d’une nouvelle loi pour sanctionner ce qui était déjà dans la loi sur la confiance de l’économie numérique de 2004, amendée en 2014, ou dans celle de juillet 1881 sur la liberté de la presse ? » a demandé Thierry Vallat, avocat spécialisé en droit des nouvelles technologies. Aujourd’hui, ces textes sont très mal appliqués faute de moyens humains et matériels. Alors la création d’un parquet dédié est une excellente nouvelle, mais quid de ses moyens ?


Aujourd’hui, lorsqu’on dépose une plainte pour harcèlement ou pour avoir été injurié sur Internet, on se heurte à un mur car les officiers de police judiciaire sont confrontés à d’autres maux plus graves. Si malgré tout vous passez au tribunal, vous constatez que les juges sont très bien formés et qu’ils condamnent les délinquants qui, eux, estiment normal d’insulter et de propager un discours haineux sur la toile impunément.


Les plateformes ont signé pour la plupart le Code de bonne conduite de la Commission européenne depuis 2016. La modération se passe bien mieux qu’avant cette adhésion. Facebook a fait énormément de progrès. Maintenant, pour qu’une plateforme soit condamnée avec le délit d’absence de retrait dans les 24 heures, il faut qu’elle ait du contenu manifestement illicite ou haineux et, selon le texte, qu’elle ne se livre pas à un examen proportionné et nécessaire du contenu notifié. En conséquence, les contenus gris poseront vraisemblablement des difficultés. Mettre à la charge des plateformes des contraintes financières importantes en l’absence de retrait risque de les conduire inéluctablement vers la surmodération. Cependant, notons qu’en Allemagne, la loi déjà en vigueur, similaire à la nôtre, n’a pas abouti à ce travers, avec 1 100 signalements jusqu’à présent.


L’inconvénient de déléguer aux GAFA le pouvoir de décider ce qui est manifestement haineux, c’est le risque de court-circuiter le juge.


S’il est vrai que les juges n’ont pas le temps de faire en référé ce que la plateforme fera en 24 heures, alors ne devrait-on pas donner davantage de moyens aux magistrats.


Georges Brassens a chanté « Mourir pour des idées », c’était un titre plus fin que « tuer pour des idées ».


 


C2M


 


 


0 commentaire
Poster

Nos derniers articles