Observatoire de la haine en ligne : analyser pour mieux lutter

L’observatoire de la haine en ligne, dont l’instauration est prévue par l’article 16 de la loi du 24 juin 2020 vise à lutter contre les contenus haineux sur internet, est composé d’opérateurs, d’associations, d’administrations et de chercheurs concernés par la lutte et la prévention de la haine en ligne.

A l’occasion de son assemblée plénière du mercredi 8 juillet 2020, l'Arcom a défini la composition et les missions de l’observatoire de la haine en ligne, qui consistent à :

• Analyser et quantifier les contenus relatifs à la haine en ligne ;
• Œuvrer à améliorer la compréhension du phénomène en suivant son évolution ;
• Partager les informations des différents acteurs concernés, publics et privés.

L'Arcom assure la présidence et le secrétariat de l’observatoire de la haine en ligne. Les membres de l’observatoire constituent des groupes de travail thématiques, appelés « collèges », afin notamment de faciliter les échanges opérationnels.

• Collège des opérateurs
• Collège des associations
• Collège des administrations
• Collège des chercheurs

Réflexion autour de la notion de contenus haineux : définir et approfondir la notion de contenus haineux

Ce groupe de travail a pour vocation d'étudier la notion de contenus haineux afin de mieux cerner le périmètre des contenus susceptibles d'être qualifiés comme tels et d'en établir les caractéristiques essentielles. Il s'efforcera d'élaborer une définition commune. Il peut notamment analyser la notion au regard :

• Des critères juridiques établis par les textes français et de l’apport de la jurisprudence, sans toutefois se limiter à une approche strictement juridique de la notion.

• Des définitions et critères adoptés dans d’autres États, par des institutions internationales et d'autres acteurs.

• De critères subjectifs (du point de vue des publics visés).

• Des contextes de production et de diffusion du contenu.

• Des apports de travaux de recherche, tout domaine confondu, sur la notion de contenus haineux.

• Des apports des travaux et politiques mises en œuvre dans d’autres Etats.

Amélioration de la connaissance du phénomène des contenus haineux

Ce groupe de travail a pour objet l'étude pratique des contenus haineux et de leur évolution. En particulier, il pourra :

• Conduire un travail d'analyse quantitative et qualitative de l'évolution du phénomène en tenant compte de la diversité des contenus haineux.

• Être un lieu de partage et de remontées d’expérience sur les nouvelles formes de haine en ligne, ainsi que sur les évolutions du vocabulaire employé.

• Comparer les évolutions quantitatives et qualitatives dans une perspective européenne et internationale.

Analyse des mécanismes de diffusion et des moyens de lutte

• Analyse des divers mécanismes de diffusion et propagation numériques des contenus haineux, qu’ils soient sociétaux, technologiques, économiques ou autres.

• Réflexion sur les méthodes humaines et technologiques de détection des contenus haineux et de lutte contre leur propagation.

• Une comparaison avec des méthodes mises en œuvre dans d’autres Etats.

Prévention, éducation et accompagnement des publics

Ce groupe de travail est consacré aux actions envers les publics, à travers :

• L’échange de bonnes pratiques en matière d’éducation aux médias et à l’information, de prévention et de citoyenneté numérique.

• La conduite d’une veille et de comparaisons à l’international.

• L’analyse et la mesure de l’impact des actions menées à l’égard des publics.

• Des réflexions autour des dispositifs d’accompagnement des victimes et des auteurs.

Opérateurs : Dailymotion, Facebook, Google, LinkedIn, Microsoft, Qwant, Snapchat, Tik Tok, Twitch, Twitter, Wikimédia France, Yubo.

 Associations : Civic Fab, le Conseil représentatif des institutions juives de France (CRIF), e-Enfance, l’Association française pour le nommage Internet en coopération (AFNIC), Génération numérique, InterLGBT, La Quadrature du Net, la Ligue des droits de l’homme, la Ligue internationale contre le racisme et l'antisémitisme (LICRA), l’Observatoire du conspirationnisme, Point de contact, Renaissance numérique, Respect Zone, SOS Homophobie, SOS Racisme, STOP Homophobie, Institute for Strategic Dialogue.

Administrations : Conseil national consultatif des personnes handicapées, Commission nationale consultative des droits de l’homme (CNCDH), Conseil national du numérique , Délégué interministériel à la lutte contre le racisme, l'antisémitisme et la haine anti-LGBT, Défenseur des droits, Haut Conseil pour l’égalité entre les hommes et les femmes, ministère de la Culture (DGMIC), ministère en charge du Numérique, ministère de l’Education nationale, de la Jeunesse et des Sports,  ministère de l’Europe et des Affaires étrangères (ambassadeur du numérique), ministère de l’Intérieur (PHAROS), ministère de la Justice (DACG), ministère délégué chargé de l’Egalité entre les femmes et les hommes, de la Diversité et des Chances.

Chercheurs : Charlotte DENIZEAU, maître de conférences à l'Université Paris II Panthéon Assas ; Divina FRAU-MEIGS, professeure à l'Université Sorbonne Nouvelle – Paris 3 et présidente de l'association Savoir*Devenir ; Dominique TAFFIN, archiviste paléographe, conservatrice générale du patrimoine et directrice générale de la Fondation pour la Mémoire de l’esclavage ; Hasna HUSSEIN, docteure de l'Université Libanaise et de l'Université de Bordeaux, chercheuse associée au Centre Emile Durkheim, directrice de l’Association de prévention de l’extrémisme violent ; Virginie JULLIARD, professeure en sciences de l'information et de la communication au Celsa-Sorbonne Université ; Frédéric REGENT, maître de conférences à l’université Paris 1 Panthéon Sorbonne ; Jérôme FERRET, maître de conférences en sociologie à Université Toulouse 1 Capitole et membre associé au CADIS (EHESS-CNRS).