La lutte contre les contenus haineux[48]

Centred’étudessurl’intégrationetlamondialisation

Laluttecontrelescontenushaineuxsurlespla-teformesdemédiassociaux:uneanalysecom-paratived’approchesderégulationNotederecherche,DorianMouketou,9juillet2021

Résumé

Notre recherche traite de la réglementation des plateformes demédias sociaux,notamment dans la lutte contre les discours haineux. Elle s’appuie sur l’analysecomparative de deux approches de régulation adoptées dans deux juridictionsdistinctes:lasoftregulation(Unioneuropéenne)etlahardregulation(Allemagne).Malgré lesvariationsdecontraintedesdeuxapproches,nousconstatonsqu’ellesne se traduisent pas en suppressions excessives de contenus répréhensibles parlesmédiassociaux(parsoucideconformitéauxrègles),etce,malgréuneaugmen-tationduvolumede signalementsoudeplaintes reçues.Lesplateformes se sontgénéralementconforméesàleursobligations,alorsquelesmesuresderégulationontfavorisédavantagedetransparencesurleurspratiquesdemodération.

Mots-clés: régulation, plateformes en ligne, médias sociaux, préjudices en ligne,discourshaineux.

Abstract

Ourresearchdiscussestheregulationofsocialmediaplatforms,particularlyinthefightagainsthatespeech. It isbasedonacomparativeanalysisof tworegulatoryapproachesadoptedintwodistinctjurisdictions:softregulation(EuropeanUnion)andhardregulation(Germany).Despitethevariationsintheconstraintsofthetwoapproaches,wefindthattheydonotresultintoexcessivedeletionsofobjectiona-blecontentbysocialmediaplatforms(forthesakeofcompliancewiththerules),despiteanincreaseinthevolumeofreportsorcomplaintsreceived.Theplatformshave generally complied with their obligations, while the regulatory measureshavefosteredmoretransparencyontheirmoderation.

Keywords:regulation,platforms,socialmedia,onlineharms,hatespeech.

Contenu

Introduction..............................................2

Lesplateformenumériques:unphénomènecomplexeàélucider........................................................4

Élémentsméthodologiques.............13

Résultats..................................................15

Discussion...............................................24

Conclusion...............................................28

Référencesbibliographiques..........29

Laluttecontrelescontenushaineuxsurlesplateformesdemédiassociaux:uneanalysecomparatived’approchesderégulation 2

Introduction1Lalibertéd’expressionvautnonseulementpourlesinformationsoulesidéesaccueilliesavecfaveur,ouconsidéréescommeinoffensivesouindifférentes,maisaussipourcellesquiheurtent,choquentouinquiètentl’Étatouunefractionquelconquedelapopulation.Ainsileveulentlepluralisme,latolé-

ranceetl’espritd’ouverturesanslesquelsiln’yapasdesociétédémocratique.

Coureuropéennedesdroitsdel’homme(CEDH),1976.

Lamontéedescrimeshaineuxsemblecoïncideravec l’exacerbationdesproposhaineuxsurlesmédiassociaux(Armstrong2019).Eneffet,unrapportpubliéparStatistiqueCa-nada en 2019 et exposant les données sur les crimes haineuxmontrait que les crimesmotivésparlahaineavaientaugmentéde47%entre2016et20172.Cettehausseseraitattribuable à l’augmentation de crimes haineux à l’égard d’une religion, d’une race oud’uneorigineethnique.Plusprécisément,entre2016et2017,lenombredecrimesmoti-vésparlahaineàl’égardd’uneraceoud’uneorigineethniques’estaccrude32%,alorsque celui des crimesmotivés par la haine à l’égard d’une religion s’est accru de 87%(Armstrong2019).En2017,uneétudecommandéeparCBCavaitégalementrelevéuneexplosiondepropos intolérantset racistes sur les réseaux sociauxauCanadadepuis lacourseàlaMaison-BlanchedeDonaldTrump.LaproportiondeproposracistestenusparlesCanadiensvialesmédiassociaux,lesbloguesetlessectionsdecommentairesenligneavaitgrimpéde600%entreoctobre2015etnovembre2016(«Canadiansappeartobemore hateful online. Here's what you can do about it » 2017: par. 3; Robillard 2017;Housefather2019)3.

Dans la foulée de ces révélations, le Comité permanent de la justice et des droits de lapersonnedelaChambredesCommunesduCanadaavaitdécidédesepenchersurl’étudedelahaineenligneauCanada,enmars2019(Housefather2019).Àl’issuedeleurstra-vaux,lesdéputésavaientformulécertainesrecommandationspourcombattrelahaineenligne. Plus récemment, dans un rapport intitulé «L’avenir des télécommunications: letempsd’agir»,leGrouped’examenducadrelégislatifenmatièrederadiodiffusionetde1Publication tiréedurapportdestagede findemaitriseenadministrationpubliquede l’étudiant.L’étudianttientàremercierleprofesseurStéphanePaquind’avoiracceptédedirigersonrapportdestageetdeluiavoirprodiguédesconseilsquiontorientédefaçonpositivel’angled’analysedanslerapport.2En2017, lenombredecrimesmotivéspar lahaineétaitévaluéà2073, contre1409en2016et1364en2015.Ilconvientdenoterqu’en2016,cenombrereprésentaitmoinsde0,1%des1895546crimes.En2017,cenombrereprésentait0,1%des1940846crimes.Ainsi,malgréunehaussedunombredecrimesmotivésparlahaine,celle-cioccupeuneproportionautourde0.1%dunombretotaldecrimes(VoirAllen2019;StatistiqueCanada2017et2018).3Lavérificationdel’échantillondecetteétudedemeuredifficilepuisqu’ellecettedernièren’estpaspubliqueoudisponible. Ilest toutefois indiquéque la firmederechercheCisionautiliséun«échantillonreprésentatifde1%dementionssurTwitter,de forumsen ligne,debloguesetde siteswebdemédias […]pour retracer40termesjugésracistesoudégradantsenverslareligionoul’origineethniqued’unepersonne»(Robillard2017:par.10).


télécommunications,présidéparlajugeJanetYale,s’étaitégalementpenchésurlaques-tiondescontenuspréjudiciablesenligne.LeGroupeavaitrecommandéaugouvernementduCanadad’adopterune«mesure législativeenmatièrederesponsabilitéaux fournis-seursde servicesnumériquespour les contenus et comportementspréjudiciables utili-santlestechnologiesnumériques,au-delàdetouteresponsabilitéimposéeparlesloisdescommunications» (Yale 2020: 216). En 2020, le gouvernement du Canada rendait pu-bliqueunenotepourlapériodedesquestionsvisantàannonceruneéventuelle«régle-mentationdesplateformesdemédiassociaux»(GouvernementduCanada2020b),pilo-téeparleministreduPatrimoinecanadien.Cettepublicationconfirmaitl’engagementdugouvernementcommuniquédanslalettredemandatduministre,maisaussistipulédanslediscoursduTrôneprononcéle23septembre2020,afindeprendredesmesurespourluttercontrelahaineenligne(PremierministreduCanada2021;Payette2020).Depuisledébutdesonmandat,leministreduPatrimoine,StevenGuilbeault,indiqueégalementdanslesmédiasqu’unprojetdeloifixantunnouveaucadrederégulationdesplateformessera bientôt déposé à la Chambre des communes (Castonguay 2021; Noël 2021; Silver2021).

Or, larégulationdesproposhaineuxsur lesmédiassociauxposeleproblèmedu«justeéquilibre entre le maintien d’un espace libre et ouvert pour l’échange d’idées etd’information, le respect et laprotectiondesdroits et libertés individuels et collectifs»(Yale2020:15).Enguised’illustration,lesréactionsquiontfuséàtraverslemondeen-tieraprès lasuspensiondescomptesdeDonaldTrumptémoignentdecettecomplexité,ravivant les débats sur la liberté d’expression et la régulation des médias sociaux. EnFrance, par exemple, une grande partie de la classe politique, tous partis confondus, acondamné ladémarchedeFacebook, deTwitter et deYouTube, y voyantune tentativedesplateformesdes’arroger lepouvoirdedéciderducontenuen ligne(Piquard2021).Alorsque laquestiondivise(Krishnamurthy2021), ilsemblerait toutefoisque l’opinionpubliquesoitfavorableàunetellelégislation.Eneffet,Radio-Canadarévélaitqu’unson-dagemenéparlafirmeAbacusDatapourlecomptedelaFondationcanadiennedesrela-tions raciales (FCRR)–une institutionayantpourmission la lutte contre le racismeauCanada–montraitque60%desCanadiensétaientenfaveurd’uneréglementationpourluttercontre« ladiffusiondediscoursetdecomportementshaineuxetracistesenligne(Martinez2021:par.1).

Toutefois,larégulationdesgéantsnumériquesestuneentreprisecomplexe.Néanmoins,ilsembleyavoirunmomentumàl’échelleinternationalepourdavantagederéglementa-tion, y compris auxÉtats-Unis. Cesdernières années, des tentatives se sontmultipliéesentre autres pour répondre à la domination et au déséquilibre de pouvoirs entre lesgéants numériques et les plus petites entreprises, dont les médias traditionnels, pourluttercontreladésinformationet lescontenusillégauxenligne,ouencorepourassurerquelesgéantsnumériquespaientdel’impôtdanslespaysoùilsopèrent.Encequiatraitnotammentàlaluttecontrelesdiscourshaineuxenligne,plusieursjuridictionsontdéjàmisenplaceou tententdemettreenplacedesmesures,soitpour impliquerdavantageles plateformes demédias sociaux dans la lutte et la prévention contre les discours dehaine,soitpourlescontraindreàseconformerauxloisnationales.

Citonsenexemplel’Allemagne,quiaétéundespremierspaysàavoiradoptéuneloi,en2017,pourrenforcerl’applicationdesdispositionsrelativesauxcontenusillégaux(Code


criminel)surlesmédiassociaux.LaFranceatentélamêmeexpérienceen2020,maissaloivisantàluttercontrelahaineenligneaétéinvalidéeparleConseilconstitutionnel.Auniveausupranational,laCommissioneuropéenne(CE)amisenplaceen2016uncodedeconduite en partenariat avec des plateformesmajeures pour lutter contre les discourshaineux illégaux en ligne. Cette année, l’Inde a adoptédes règleshautement controver-séesvisantàrégulerlescontenussurlesréseauxsociaux,maisaussisurlesservicesdemessagerieprivée.D’autrespayssontégalemententraindeproposerdesmesuresencesens.Pensonsà l’éventuelprojetde loi sur la sécuritéen ligneet la réglementationdesmédiasenIrlande,auprojetdeloisurlasécuritéenligneenAustralie,ouencoreauLivreblanc sur les préjudices en ligne du Royaume-Uni de 2019, qui constitue un nouveaucadreréglementaireenpréambuled’unéventuelprojetdeloisurlasécuritéenligne.

Bref, lecontexteactuelpropulsel’enjeudelaluttecontrelescontenuspréjudiciablesenligne, y compris les discours de haine, dans l’agenda du gouvernement du Canada. Enpolitiquepublique, l’analysedessolutionsretenuesailleurspeuts’avéreruneétape im-portantepour collecterdes informations sur lesmeilleurespratiques (KnoepfelLarrue,Varoneet Savard2015).Cette approched’analyseguideranotre recherche, qui sepen-cherasuruncorpusdeconnaissances relatif à la régulationdescontenussur lesplate-formes en ligne,mais aussi sur une analyse comparative des initiatives ayant déjà étémisesenplacedansd’autresjuridictions.

Lesplateformenumériques:unphénomènecomplexeàéluciderLeconceptde«plateforme»renfermeunesignificationambiguë,carsadéfinitionrelèvedifférentesvariationsselon leschampsdeconnaissances.Les informaticiens, lesécono-mistes,lesspécialistesdesmédiasnumériques,etmêmelesavocats,onttousdifférentesapproches pour aborder ce terme (Gillespie 2010; Flew,Martin et Suzor 2019; Gorwa2019b;GasseretSchulz2015).Néanmoins,pour formulerunedéfinitionsynthétique, ilest possible de définir les plateformes comme des structures et infrastructures socio-techniques permettant et facilitant l’interaction et la communication entre les acteurséconomiques (utilisateurs), notamment par la collecte, la circulation et la diffusion desdonnéesdesutilisateurs(Helberger,PiersonetPoell2018;Flew,MartinetSuzor2019;Gillespie2018a). Ledéveloppementdesplateformes fait ainsi référence auphénomèned’intermédiationenligneviaunespaceouunservice(plateformenumérique)quipermetauxutilisateursd’interagir(Cordier2019).

Parailleurs, lestermes«intermédiaire»et«plateforme»tendentàsemerlaconfusion,notammentpourleurutilisationtantôtsimultanée,tantôtalternée,maisaussi,danscer-taines circonstances, leur utilisation croisée (par exemple«plateformesd’intermédiation»). L’Organisation de coopération et de développement économiques(OCDE)(2010:9)atentédeproposerunedéfinitiondecequesontlesintermédiairesenligne: «Internet intermediaries bring together or facilitate transactions between thirdpartieson the Internet. Theygive access to, host, transmit and index content, productsand services originated by third parties on the Internet or provide Internet-based ser-


vices to third parties ». Selon Thelle, Sunesen, Basalisco, la Cour Sonne et Fredslund(2015),cettedéfinitionn’estpasclaire,comptetenuducontexteévolutifetchangeantdesintermédiairesenligne.Néanmoins,ellealeméritedesoulignerdeuximportantesfonc-tions ou caractéristiques intrinsèques aux intermédiaires en ligne. Primo, les intermé-diaires en ligne facilitent les interactions entre d’autres personnes (tiers). Secundo, lecontenuétantproduitparcestiers,lesplateformessontdoncdessitesetdesservicesenlignequineproduisentounecommandentpasl’essentielducontenuqu’ilshébergentoudiffusent(Gillespie2017).

Eneffet, comme lestipule l’OCDE(2010), le terme«intermédiaire»aunsens implicitepuisqu’ilestsitué«betweenoramongtwoormoreparties,andalthoughtheyhelpinthetransmission/disseminationprocess,intermediariesdonotinitiatedecisionstodissemi-nate the content, products or services that transverse their networks or servers». Lesintermédiairespeuventêtreclasséssousdifférentescatégories,àsavoir:lesfournisseursd’accès et de services Internet (FAI), les fournisseurs de traitement de données etd’hébergementWeb,lesmoteursetlesportailsderechercheInternet,lesplateformesdecommerceélectronique(E-Commerce),lessystèmesdepaiementsurInternetetlespla-teformesde réseautagedit «participatif» (OCDE2010). Lesplateformesdemédias so-ciaux,quinousintéressentparticulièrement,peuventêtreinclusescettedernièrecatégo-ried’intermédiaires.

LesplateformesdemédiassociauxLesplateformesdemédiassociauxontpourprincipalefonctiondefaciliterlacommuni-cationsocialeet lepartaged’informationsentre lesutilisateurs (OCDE2010;BakalisetHornle2021).SelonAbaretWildman(2015),lesmédiassociauxpartagentquatrecarac-téristiques.D’abord,cesontdesapplications Internet interactives.Eneffet, l’avènementdesapplicationsWeb2.0apermis lepassaged’unmédiadeconsommation,permettantdelirecequelesautresécrivaientoudeconsommerdesaudiosetdesvidéo-clips,àunmédiad’interactionentrelesutilisateursetfavorisantunelogiquedeparticipation,oùlesutilisateurspeuventcréeretpartagerducontenuaveclesautres.Aussi,lecontenugénéréparlesutilisateursest lapierreangulairedesmédiassociaux:«Web2.0istheideologyanduser-generatedcontentisthefuel»(AbaretWildman2015:7).Sanslecontenudesutilisateurs, les médias sociaux seraient des villes fantômes. Une troisième caractéris-tique qui constitue la colonne vertébrale des médias sociaux est l’existence du profild’utilisateur,quipermetauxplateformesnonseulementdestockerdel’information,maisaussideconnecterlesutilisateursentreeux.Enfin, lesmédiassociauxfacilitentledéve-loppementderéseauxsociaux(connexions)enligne(AbaretWildman2015).

Commel’indiqueGozlan(2013:121),«[c]equiestenjeudanslesmédiassociauxestlanotiondepartage; il s’agitdeseretrouverautourd’un intérêtcommunoud’un lienditd’amitiéqu’ilsoitvéritable,professionnel,superficiel».Ainsi,lesmédiassociauxcommeFacebook, par exemple, se distinguent par leur logique de «communautés virtuelles»(Gozlan2013). Lesplateformesdemédias sociaux comprennentunevariétéde catégo-ries,àsavoirlessitesderéseautagesocial–ouréseauxsociaux(Facebook,LinkedIn,etc.),lessitesdepartagedephotosetd’images(Instagram,Flickr,Snapchat,etc.), lessitesdeblogues et de microblogage(Twitter, WordPress, etc.), les sites de partage de vidéos(YouTube,Vimeo,DailyMotion), lessitesdediscussion(Reddit), lessitesdediffusionen


direct(FacebookLive,périscope),etc.(OCDE2010;Flew,MartinetSuzor2019;Cordier2019;Gozlan2013).

Lemythedelaneutralitédesplateformesdemédiasso-ciauxLes plateformes de médias sociaux se définissent comme des intermédiaires. Commenous l’avons déjà indiqué, la définition des intermédiaires fournie par l’OCDE (2010) adeuximplications:d’unepart,lesintermédiairesfacilitentlesinteractionsentrelesutili-sateurs;d’autrepart,lecontenuproduitsurlaplateformeestgénéréparcesmêmesutili-sateurs. Cette seconde caractéristique implique – en théorie – que les intermédiairesn’interviennent pas dans la publication de contenus, agissant simplement comme desfournisseurs de services d’intermédiation; ce qui ferait d’eux des acteurs neutres. Or,nousleverrons,cepositionnementnefaitguèreconsensus.

Bienqueconsidérésneutres–dumoinssur leplantechnique–dans lesensqu’ilssontdesplateformesd’intermédiationdecontenuspubliésetpartagéspar lesutilisateurs, iln’en demeure pas moins que les médias sociaux prennent des décisions relatives auxcontenus autorisés sur leurs plateformes et établissent des critères selon lesquels cer-tainscontenusdoiventêtresupprimés(DeNardisetHackl2015).Encesens,ilsexercentun pouvoir direct sur les droits des utilisateurs en ligne. Ces plateformes jouent undoublerôle« asbothaprivatecompanyandapublicspaceplayingapivotalroleasaccesspointsto information »(JørgensenetZuleta2020:2),étantunesphèreprivéeet juridi-quementunservicecommercial,librededéfinircequiestautoriséetcequinel’estpas.SelonGillespie (2018b), les plateformesdemédias sociaux seraient dansune catégoriehybride entre les canaux d’information interpersonnels classiques, comme les compa-gniesdetéléphone,etlesfournisseursdecontenumédiatique,telsquelaradio,lecinéma,lesmagazines,lesjournaux,latélévisionouencorelesjeuxvidéo.

Butasapartoftheirservice,theseplatformsnotonlyhostthatcontent,theyorganize it,make it searchable, and in somecasesevenalgorith-micallyselectsomesubsetofittodeliverasfront-pageofferings,newsfeeds, subscribed channels, or personalized recommendations. In away,thosechoicesarethecentralcommodityplatformssell,meanttodrawusersinandkeepthemontheplatform,inexchangeforadvertis-ingandpersonaldata.Usersentrustplatformswiththeirinterpersonal“tele-” communication, but those contributions then serve as the rawmaterial for the platforms to produce an emotionally engaging flow,morelikea“broadcast”(Gillespie2018b:209).

Lesplateformesnesontpasquedeshébergeursdecontenus,maisconstituentégalementdesacteursessentiels,notammentdansleurseffortsd’améliorationdel’engagementdesutilisateursetladiffusionviraleducontenu.Cetteréalitélesplaceraitdansunepositionambiguë:d’unepart,ilyauneincitationéconomiqueàfavoriserlanon-discriminationetla libre circulationdes contenus en ligne; alorsque, d’autrepart, cesplateformesn’ontpasintérêtàs’aliénerleurpluslargebased’utilisateurs,cequilespousseàfavoriserdespratiques de signalement et de suppression de contenus problématiques ou préjudi-


ciables (Helberger, Pierson et Poell 2018). En ce sens, pour Gillespie (2017, 2018a,2018b),l’impartialitédesplateformesestunmythe:

[T]heyaredesignedto inviteandshapeparticipation, towardparticu-lar ends. This includeswhat kind of participation they invite and en-courage;whatgetsdisplayed firstormostprominently;howtheplat-forms design navigation from content to user to exchange; the pres-suresexertedbypricingand revenuemodels; andhow theyorganizeinformationthroughalgorithmicsorting,privilegingsomecontentoverothers,inopaqueways(Gillespie2017:5).

LerôlequejouentlesplateformessurlecontenuestégalementunenjeuenEuropeoùladirectivesurlecommerceélectroniquestipulequecesacteurssontexemptésderespon-sabilité pour les contenus qu’ils stockent ou hébergent, et ce, s’ils agissent demanièrestrictementpassive(E-CommerceDirective2020).Or,iln’endemeurepasmoinsquelaquestionde savoir si les plateformes agissent demanière active oupassive suscite desdébatsenEurope,lalignededémarcationétantmince(Martens2016).

SelonGillespie(2017),lesplateformessontconfrontéesàtroisdéfisdistinctsquirévèlentles limitesdu régimede responsabilité (liability regime):primo, laplupartdes loiséta-blissant lessphèresdesécuritén’ontpasétépenséesentenantcomptedesplateformesdemédias sociaux; secundo, alors que les normes de responsabilité des intermédiairessontgénéralementspécifiquesàunpays,lesplateformessontgénéralementétabliesdansplusieurspays,oùsetrouventleursutilisateurs,maisaussidesjuridictionsauxlogiquesdifférentes; tertio, en raison des contenus particulièrement odieux circulant sur leursplateformes, les présomptions sur le niveau de responsabilité des plateformes sont deplusenplusremisesenquestionparlesutilisateursetlesgouvernements.Celapeutsansdoute expliquer la pression grandissante publique et la croissance des législations ac-tuellesvisantàrégulerdavantagelescontenusenligne.

Lesplateformesdemédias sociauxet lesdiscourshai-neuxIl n’existe pas de définition universelle de ce qu’est un discours haineux (Banks 2010;Alkiviadou2019;QuinteletUllrich2020).PourQuinteletUllrich(2020),celas’explique,d’unepart,parlavariabilitédel’interprétationdelalibertéd’expressionentrelespaysoulesrégionsdumonde,maisaussi,d’autrepart,parlesdifférenciationsinterdépendantesdanslaconceptualisationdupréjudice.Lemanquedeconsensusuniverselsurcequiestpréjudiciable ou inapproprié complique ainsi la lutte contre la haine en ligne dans cedomaine(Alkiviadou2019).

Malgré l’absence d’une définition universellement adoptée, des institutions, des cher-cheurs,etmêmedesopérateursdeplateformesonttentédeproposerunedéfinitiondecequeconstitueundiscourshaineux,certainesdesescaractéristiquesétantplutôtparta-gées.ChettyetAlathur(2018:110)soulignent,parexemple,quelediscoursdehaineestplusdestructeuretdangereux lorsqu’il cibleunsymbole traditionnel,unévénementouuneactivité:«Themessagesexchangedonindividualsrelatedtonation,race,ethnicity,


religion,sexualorientation,occupation,genderordisabilityhaveamoreimpactthantheindividuals personal information». Almagor (2011: 1) a défini le discours de hainecomme un «bias-motivated, hostile,malicious speech aimed at a person or a group ofpeoplebecauseofsomeoftheiractualorperceivedinnatecharacteristics».

UnedesdéfinitionslespluspopulairesestcellefournieparlaCoureuropéennedesdroitsdel’Homme,qualifiantlediscourshaineuxcommeétant:

all formsof expressionwhich spread, incite, promote or justify racialhatred, xenophobia, anti-Semitism or other forms of hatred based onintolerance,including:intoleranceexpressedbyaggressivenationalismandethnocentrism,discriminationandhostilityagainstminorities,mi-grantsandpeopleofimmigrantorigin(CouncilofEurope1997:107).

Lanotiondel’identitéoudescaractéristiquesde lapersonne(ougroupedepersonnes)cibléepar lediscourshaineux tendàressortirde toutescesdéfinitions.SelonChettyetAlathur(2018),lediscourshaineuxpeutainsiciblerunepersonneouungroupedeper-sonnessurlabasedusexe,delareligion,delaraceetduhandicap:

• Discourshaineux sexiste(Genderedhate speech): violenceprincipalementcontrelesfemmesetlesfillesenraisondeleuridentitédegenre,intentiondemanquerderespect,d’introduirelapeuretl’insécurité.

• Discourshaineux religieux(Religioushate speech): selon lespays, ce typedehaineestsurtoutdirigévers l’islam, l’hindouismeet lechristianisme.Ilest susceptibledenuiredavantagepuisqu’il peut atteindreunplus grandnombredepersonnes.

• Discourshaineuxraciste(Racisthatespeech):discoursayantlieuauniveauinternational,lafréquenced’occurrenceetl’impactdudiscoursdépendantd’unpaysàunautre.

• Discourshaineuxbasésurlehandicap(Hatespeechondisability):discoursdehainedûà laperceptionduhandicappar lecontrevenant,maispasauhandicapréeld’unepersonne.

• Discoursdehainehybride(Hybridhatespeech):discoursdehainen’étantpasliéeàuntypeparticulier,hainepouvantêtredirigéecontreplusd’unecommunautéetd’uneidentité.

Forceestdeconstaterquelesmédiassociauxjouentunrôlemajeurcommeterreaufer-tile pour la prolifération des groupes racistes et d’extrême droite et leur propagande:«suchwebsites […] have become a key conduit throughwhich extremists can educateothers, transmit ideasandbeliefs,andmobilise fordemonstrationsandrallies» (Banks2010:n.a.).NotreépoqueesteneffetcaractériséeparunaccèsrelativementfacileetpeucouteuxàInternet,cequiaccroitdefaçonimportantelaconnectivitéentrelespersonnespartoutdans lemonde.Danscecontexte, Internetestdevenuune«nouvelle frontière»de lapropagationde lahaine.Les réseauxsociaux,particulièrement,peuventainsiper-mettredeconnecterdesgroupesquiétaientauparavantdiversifiéset fragmentés.Cette


connectivitéapourconséquencedefédérercesgroupes,degénéreruneidentitécollec-tiveetdecréerunsensdelacommunauté(Banks2010;Gozlan2013).

Lesparticularitésdel’environnementenlignepeuventainsijouerunrôledanslapropa-gationdesdiscourshaineux.Eneffet,Brown(2018)expliquequecertainessingularitésd’Internet,àsavoir laperceptionde l’anonymat, ladistance(l’invisibilité)entre l’auteurd’unmessageetsonrécepteur,lesensdecommunautéetl’instantanéitédescommunica-tions,jouentunrôledansladistinctionentrelediscoursdehaineenligneetlediscoursdehainehorsligne:

• L’anonymat(oulaperceptiondel’anonymat): laperceptiond’unepa-role plus libre et sans censure a pour conséquence de supprimer lapeurd’êtretenuresponsabledesproposhaineuxquel’onpeutpropa-gerenligne.

• L’invisibilité:ladistancephysiqueentrel’émetteuretlerécepteurd’uncontenu – et vice versa – procure une certaine invisibilité qui fait ensorteque,d’unepart,leseffetsimmédiatsdudiscours(parexemplelablessureémotionnelle)sontinvisiblespourleurauteuret,d’autrepart,lesauteursdehaineenlignenesontpasenmesuredevoirlesvisagesdesautrespersonnesquidésapprouventleurcontenu.

• Lacommunauté: Internetréunitdesgensséparésgéographiquement,mais qui partagent lesmêmes idées et qui peuvent entrer en contactlesunsaveclesautres.Celapeutaccentuerlescoalitionsdepersonnes(like-minded people) au sein de groupes haineux visant à fédérer da-vantagedepersonnespourpartagerleursopinions.

• L’instantanéité: le délai entre une idée et son expression à une per-sonne ou à un groupe de personnes peut s’articuler en quelques se-condes seulement. Cela résulte ainsi en une certaine spontanéité desdiscours haineux due à cette instantanéité(manque de filtre ou réac-tioninstinctive).

Ainsi, avec Internet, et particulièrement les médias sociaux, la capacité de diffuser lahaineen lignes’estaccruedefaçonconsidérable(SiaperaetViejo-Otero2021).Ceciestd’autantplusproblématiquequelahaineenligneestliée,d’unepart,àlacyberintimida-tion et au harcèlement en ligne et, d’autre part, à la cybercriminalité, dont certainesformesdeharcèlementenligne,detraqueetdediffamation.Encesens,lediscoursetlesconduiteshaineuxen lignepeuventseconcrétiserend’autres typesd’agressionsquoti-diennes (Keipi,Näsi,OksanenetRäsänen2016).À cepropos, Chetty etAlathur (2018)ont égalementmontré le rôle que jouent lesmédias sociaux comme interface pour lesdiscours haineux, les crimes haineux, l’extrémisme et le terrorisme (voir figure ci-dessous).Eneffet,alorsquelesdiscourshaineuxsepropagentsurlesréseauxsociauxparl’intermédiairedepublicationsetdemessagesdesutilisateurs,cesplateformespeuventégalementêtreutiliséescommeespacesdecoordinationetdeplanificationdecrimehai-neux,aussibiencommeespacesdecontactetde recrutementdepersonnespartageant


lesmêmes idéespar les groupes extrémistes et terroristes, soit pourdiffuser la propa-gande,soitpourplanifieretexécuterlesattaques(ChettyetAlathur2018).

Figure1.Rôlecentraldesmédiassociauxpourlesproposetconduitespréjudiciables

Source:ChettyetAlathur(2018).

Lagouvernancedesplateformesetlesmodèlesderégu-lationLemodedegouvernanceoude régulationdesplateformesdominantestappelé«auto-gouvernance» ou «autorégulation». Selon Gorwa (2019b: 12-13), l’autogouvernance,commeapproche, «limitsplatform liability and results in a relatively laissez-faire rela-tionship between governing institutions and platform companies».L’autogouvernancetendgénéralementàfavoriserunetransparencevolontairedesplate-formes,avecpeudesupervisionextérieuresurlesprocessusdetraitementoudemodé-ration du contenu (Gorwa 2019b). La genèse de cette approche peut être associée audéveloppementdessphèresdesécurité(safeharbor)desplateformesenligneauxÉtats-Unis.Eneffet, lecontextede laproliférationdecontenus illicites (notamment laporno-graphie)dansInternetdansles1990auxÉtats-Unisaengendrédesdébatspolitiquesetjuridiquespoursavoiràquiincombaitlaresponsabilitédecescontenusillicites.Ainsi,en1996, le Congrès votait la Loi sur la décence dans les communications (CommunicationDecencyAct),quifaisaitpartied’uneloiplusvastesurlestélécommunications(Telecom-municationsActof1996)pourfairefaceàcesenjeux.Cetteloicontientunarticleparticu-lier qui a transformé de façon historique le régime de neutralité des plateformesd’intermédiationenligne:laSection230(Gorwa2019aet2019b;SiaperaetViejo-Otero2020;Gilespie2010,2017,2018aet2018b).Cettedispositionoffredessphèresdesécu-rité contre toute responsabilité pour les contenus préjudiciables que leurs utilisateurspourraientfournirenligne(Gillespie2017,2018aet2018b).Lapratiquedessafeharbors


s’estdiffuséeàtraverslemondeetnotammentenEuropeoùlaDirectivesurlecommerceélectronique (E-CommerceDirective)de laCE fixe lecadre législatifde la responsabilitédesplateformesouintermédiairesenligne.Celle-cistipulequeles«fournisseursdeser-vicesd’intermédiation »sontexemptésderesponsabilitépour lescontenusqu’ilsstock-entouhébergent,etce,s’ilsagissentdemanièrestrictementpassive»(E-CommerceDi-rective2020).

Gorwa(2019b)soutientque l’autogouvernancepeutavoirquelquesavantages.D’abord,la pression publique, venant notamment du journalisme d’investigation, dumilieu aca-démiqueoudesgroupesdelasociétécivile,peutpousserlesentreprisesàentreprendredes changements sans pour autant une intervention législative complexe. Demême, ladélégationdelaprisededécisionsurlalibertéd’expression(parexemplevialamodéra-tion)aux intermédiairesen ligneapaiserait lescraintesrelativesà lacensureetà laré-pressiondugouvernement (surtoutdans lespaysmoinsdémocratiques).Or, ce laisser-faireviadesaccordsvolontairesreposejustementsurlabonnevolontédecesacteurs,cequioffrepeudepossibilitésderecoursencasdenon-respectdesobligations.Lesinitia-tivesdetransparencemisesenplaceparlesintermédiairesenlignesontdavantagetour-néesverslepublicetoffrentpeud’informationsutilesauxlégislateursetauxrégulateurs(Gorwa2019b).

Ainsi,lemodedegouvernancedesplateformesrelèved’uneimportancecapitale,danslamesureoùlesdécisionsquecesacteursprennentfaçonnentnonseulementlescommuni-cationsentrelesgens,maisaussilaviesocialeetpolitiquedesutilisateurs(Suzor2018).Eneffet,lesmédiassociauxjouentunrôleimportantdanslapromotionetlalimitationdelalibertéd’expressionenligne(DeNardisetHackl2015).Encesens,cesplateformesontrecoursàunoutilindispensableaucœurdeleurfonction:lamodération(Gillespie2010,2017,2018aet2018b).Lamodérationestunprocessusutiliséparcesplateformespourdéterminer si les contenus préjudiciables doivent être supprimés ou non (Ullmann etTomalin2020).Lessignalementssontalorsdesoutilspratiquesetsymboliquespermet-tant aux plateformes de maintenir un niveau d’autorégulation et, ainsi, d’éviterl’interventiongouvernementalesurlesmécanismesdetraitementdecontenus(CrawfordetGillespie2016).

Ilexisteunedistinctionentrelamodérationdecontenuréactiveetlamodérationproac-tive(BakalisetHornle2021).Lamodérationréactive impliqueprincipalement lesigna-lementdecontenusparlesutilisateursetleretraitdecelui-ciouleblocaged’uncompteoud’ungroupeparlesplateformes,selonlagravitéducontenu.C’estcequel’onqualifiedemodèle publish-then-filter (Gillespie 2017: 16), que l’on peut traduire par «publierpuisfiltrer».

Thismeansthatevenheinouscontentmaygetpublished,atleastbrief-ly,andcriminalbehaviormayoccur(andhaveitsintendedimpact)be-fore anything is done in response. Plenty of content that violates siteguidelinesremainsonlinefordays,oryears,becauseofthesheerchal-lengeofpolicingplatformsasimmenseasthese(Gillespie2017:16).

Lamodérationproactive, quant à elle, impliqueplutôt lapréventionproactive, permet-tantdebloquerlecontenulorsdesapublicationetavantsanotificationparunutilisateur


(Bakalis etHornle2021;Gillespie20102018). Cette formedemodération s’exerceno-tamment grâce à la technologie. Pour les législateurs, il y a une tentation d’appeler àl’automatisationdelamodérationgrâceàl’utilisationdel’intelligenceartificielle(BakalisetHornle2021).

Toutefois,cesdeuxmodèlesdemodérationnesontpassansdéfauts.Eneffet,lamodéra-tionréactivecomprendplusieursdéfispourpréveniretluttercontrelesdiscourshaineuxen ligne, étant donnéque le processus de notification et de retrait de contenu est pluslent,etce,mêmesilaplateformedécidederetirerlecontenuaprèsdesheures(BakalisetHornle 2021). Ce processus pose également un défi juridique, dans lamesure où il estimpossiblepour lesplateformesdegarantirqu’aucuncontenuou comportement illégaln’yapparaitra.Enoutre,ilyaundéfiéthique,puisquelesutilisateursnesontpasàl’abridel’obscénitéetnepeuventêtretotalementprotégésducontenupréjudiciable(Gillespie2017).Lamodérationproactivereprésenteégalementundéfidetaillepour lesgrandesplateformes,étantdonnélevolumedecontenusetd’activitésquisontpubliés,oùlerôledu modérateur consisterait à évaluer chaque contenu avant son apparition sur le site(Gillespie 2017). Bref, la modération est un processus complexe, qui nécessited’immensesressourceshumaines(Gillespie2018aet2018b).

Lesecondmodèlederégulation impliquedavantaged’interventionétatique.Encesens,les plateformes sont soumises auxnormes et lois nationales des pays où elles opèrent.Ellespeuventainsiêtre redevablesauxexigencesdesautoritésétatiquesquecesoitenmatière de transparence et de divulgation d’information, de demande de suppressiond’accèsauxinformationsrépréhensiblesouencoreenmatièredeconformitédestechno-logies afinde faciliter l’applicationdes loisnationales (Gillespie2017,2018aet2018b;Gorwa2019aet2019b;Suzor2018).

Enmatièrederégulationdesplateformesetdescontenusenligne,lesdifférentsacteursétatiquesmettentenœuvredes«rationalitésdegouvernementetdesstratégiesderégu-lation» (Badouard2021: 89)quidiffèrent selonun continuumde contrainte.Onparlealorsdesoftgovernance,quiconsisteenlamiseenplacedenormesnoncontraignantescensées tout demême produire des résultats, ou de hard governance, qui découle desnormes plus strictes, par exemple les lois, les règlements, les directives ou les traités(Maggetti2015).CommeleproposeBadouard(2021),cesapprochespeuventêtreadap-téesànotreanalysedestentativesderégulationdesplateformesenligne.Nousparleronsalorsdehardregulationetdesoftregulation.

L’approche hard regulation implique traditionnellement un acteur de régulation, enl’occurrencel’État,quiédictedesrèglesetdesnormessanscollaborationdirected’autrespartiesprenantes(Gorwa2019aet2019b).SelonBadouard(2021:112),l’approchehardregulationsecaractérisepar«lacréationdenouveauxdélitsentermesd’expressionpu-blique et vise à confierdenouvelles responsabilités auxplateformes, dont l’applicationestcontrôléepardesagencesétatiques,etquis’articulentàunsystèmedesanctions(no-tammentfinancières)encasdenon-miseenconformité».Enmatièredeluttecontrelesdiscours de haine en ligne, l’Allemagne a opté pour cette approche. De l’autre côté,l’approche de soft regulation est davantage basée sur une collaboration entre l’acteurétatiqueetlespartiesprenantes,enl’occurrencelesacteurssujetsderégulation.Eneffet,l’approchedesoftregulation«consisteenlamiseenplaced’unpartenariataveclesplate-


formes définissant des obligations demoyens, assorties d’un contrôle «lâche» de leurmiseenœuvre,c’est-à-diresanssanctionencasdenon-miseenconformité»(Badouard2021:89-90).

Cetteformederégulationimpliquesouventdescodesvolontairesdeconduiteetdesac-cordsd’autorégulation.On laqualifieausside« corégulation »(Gorwa2019aet2019b).Lacorégulationouco-gouvernancesesitueenfaitentrel’interventionétatique(gouver-nance DES plateformes) et l’autogouvernance (gouvernance PAR les plateformes).L’Unioneuropéenneestconsidéréecommeunchefdefileenlamatière(Gorwa2019aet2019b;Quintel etUlrich2020).OnpeutpenserauCodeeuropéendebonnespratiquescontre ladésinformation (Commissioneuropéenne2018)ouauCodede conduitepourluttercontrelesdiscoursdehaineillégauxenligne(Commissioneuropéenne2016).

Élémentsméthodologiques

ApprochederechercheLechoixdes juridictionsouacteursétatiquesà l’étudedans ce rapport sebase surdescritères d’inclusion que nous avons jugés adéquats par rapport à l’objet de recherche.Seloncescritères,lecadreréglementairedoit:1)ciblerlesplateformesenligne,ycom-prislesplateformesdemédiassociaux;2)viserlespréjudicesenligne,ycomprislesdis-courshaineux;3)êtrearticulédansuneloiouunLivreblanc;4)êtrepleinementenvi-gueur(parexemplenepasavoirété invalidéparunorganeconstitutionnel)et5)avoirproduitdesrésultatsmesurables.Àlalumièredecescritères,notreanalyseporterasurdeuxcadresréglementaires:laLoisurl’applicationdesréseauxouNetzDGdel’AllemagneetleCodedeconduitevisantàcombattrelesdiscoursdehaineillégauxenlignedelaCE.

Pour rappel, cedocumentpoursuitdeuxobjectifs:dansunpremier temps, il viseàdé-crirelesapprochesderégulation,demêmequelesinstrumentsdepolitique(policytools)misenplaceparcescadresréglementaires;dansunsecondtemps,uneanalysecompara-tive de ces deux cadres réglementaires sera fournie sur les bases d’une typologie desapproches de régulation et d’instruments de politiques, mais aussi de conformité desacteursvisésauxdifférentesobligationslégislativesparlebiaisdecertainsindicateurs.

Pourcefaire,lechoixdelaméthodologiederechercheaétéportésurl’étudedecasmul-tiples. SelonGagnonetFortin (2016:197), «[l]’étudedecasconsisteà faireétatd’unesituationréelleparticulière,prisedanssoncontexte,etàl’analyserpourdécouvrircom-mentsemanifestentetévoluentlesphénomènesauxquelslechercheurs’intéresse».LestravauxdeRobertYinetdeRobertStakesontsouventcitéscommeayantcontribuédefaçon significative à la reconnaissance de l’étude de cas dans l’explication des «lienscomplexesd’unphénomènecontemporaindanssoncontextedevieréelle» (Alexandre,2013:28).L’étudedecaspermetd’analyserenprofondeuretdecomparerplusieurscassurlabased’unedémarcheobjective.RobertYinproposeunevisionpositivistedel’étudedecas,qu’ilconçoitcommeuneenquêteempiriquepermettantdetesteretdecorroborerunehypothèse.RobertYinetRobertStakemettentainsidel’avantunedémarcheanaly-


tiquedéductivedesétudesdecaspourpermettreauchercheurunereproductibilitédesrésultatsissusdelarecherche(citédansAlexandre2013).

TechniquedecollectededonnéesL’étudedecaspermet l’utilisationd’unediversitédesourcesdepreuvesoudedonnées«demanière à décrire en profondeur le phénomène étudié» (Gagnon et Fortin 2016:199). Parmi les méthodes de collecte de données qualitatives (observation, entrevue,groupede discussion, incident critique, etc.), nous avons opté pour l’analyse documen-taire,quinousparaitlatechniquedecollectelaplusadéquate.Eneffet,lanaturedenotreanalyse nous amène à nous pencher sur différents types de documents: projets de loi,documentsdepolitique(policypaper),rapports,articlesdejournaux,enquêtespubliques,articlesscientifiques,etc.

Concrètement,cetteanalyseporterad’abordsurlestextesédictantlescadresréglemen-taires, à savoir les textes de loi (Network Enforcement Act ou NetzDG dans le cas del’Allemagneet les codesde conduite (dans le casde laCommissioneuropéenne).À cestextes s’ajoute un ensemble de documents complémentaires qui comprend les lignesdirectrices(guidelines), lesrapportsgouvernementauxoudesagencesderégulation, lesévaluations des politiques effectuées par les organes gouvernementaux ou encore lesfeuillesderoute(roadmap)publiésparlesgouvernements.Ensecondlieuserontanaly-sés lesdocumentsproduitspar lesplateformesen lignepour répondreauxcontrainteslégislatives:rapportsdetransparence,règlesdecommunautés,articlesenligneoutoutecommunicationpubliquerelativeàlalégislationlesvisant.

LeshypothèsesderechercheCommeiladéjàétéindiqué,l’approchepositivistedeYinproposequel’étudedecassoitconçuecommeuneenquêteempiriquepermettantdevaliderdeshypothèsesémisesparle chercheur. Notremodeste démarche de recherche ne prétend pas remplir une telleexigence scientifique. Néanmoins, l’analyse comparative d’approches de régulation aucœurdecedocumententend tirerdes leçonsetdesconclusionsdecesexpériencesvé-cues ailleurs. À cet effet, une précision est de mise: le but du présent document nes’inscritpasdansunedémarched’évaluationdepolitiquespubliquesoudeprogrammes– cequin’estd’ailleurspasnotre spécialisation.Ainsi, la recherchene comprendrapasune définition des questions de l’évaluation, encore moins un choix des critèresd’appréciation(efficacité,efficience,pertinence,etc.)nidesstratégiesdevalorisationdesrésultatsdel’analyse(Knoepfel,Larrue,VaroneetSavard2015).

Laparticularitédenotredémarched’analyserésidetoutefoisdans le faitque lescadresde réglementationà l’étude,bienquepoursuivant lesmêmes fins,utilisentdesmoyensrelativement différents pour y parvenir. Nous proposons tout de même quatre hypo-thèsescentralesàvérifierlorsdel’analysedecesapprochesderégulation.Nousvoulonsparticulièrementvérifierdansquellemesurechaqueapprocherépondàceshypothèses:

• Lesmesurescontraignantesrelativesàlamodérationdescontenusdic-téespar la loiallemandeontrésultéenblocagesousuppressionsdis-proportionnésdecontenusparlesplateformes;


• Lesobligationsenvertud’uneapprochederégulationdouce(softregu-lation) sont moins respectées par les signataires que dans le cadred’obligationscontraignantes(hardregulation);

• Globalement, les mesures de régulation ont favorisé davantage detransparence sur les pratiques demodération de contenus de la partdesplateformes;

• Globalement, les mesures ont permis une diminution importante dunombre de publications répréhensibles ou préjudiciables signalées etannuellementrapportéessurlesplateformes.

RésultatsLesdeuxapprochesderégulationanalyséesdanscechapitresontconçuesenfonctionduniveaudecontraintesqu’elles imposentauxplateformesen ligne.Pourrappel, la régle-mentationstricte (hardregulation)se faitnotammentà traversdes instrumentsobliga-toires(parexempledeslois),alorsquelaréglementationdouce(softregulation)sefaitàpartird’instrumentsvolontaires (parexempledes codesdeconduite) (Rapp,SchmidetWolff2011).

La loi allemande Netzwerkdurchsetzungsgesetz (ou NetzDG), entrée en vigueur le1erjanvier2018,viseprincipalement l’améliorationdu traitementdescontenus illégauxparlesréseauxsociaux(Netzwerkdurchsetzungsgesetz2018).Ainsi,l’approcheallemandepeutêtreassociéeàlahardregulation,quiconsisteà« imposerauxplateformesdesobli-gationsde résultats et/oudedélais à respecterpour le retrait des contenusprobléma-tiques,etelleprévoit[sic]dessanctionsencasdenon-miseenconformitéaveclesnou-vellesrègles »(Badouard2021:89).

LeCodedeconduitedel’UEpourluttercontrelesdiscoursdehaineillégauxenligne,misenplaceen2016encollaborationavecquatreplateformesmajeures (Facebook,Micro-soft,TwitteretYouTube),s’articuledanslalonguetraditiond’applicationdelacorégula-tionoudel’autorégulationprivilégiéeparl’Unioneuropéenne(Banks2019;Gorwa2019aet2019b;QuinteletUllrich2020).Danslecadredenotreanalyse,nouspréféronsutiliserle concept de soft regulation (Rapp, Schmid et Wolff 2011; Badouard 2021). Enl’occurrence,lasoftregulationestuneapprochequireposesur«lamiseenplacedepar-tenariats imposant aux entreprises du Web de prendre un certain nombred’engagements, sans toutefois prévoir de sanctions en cas de non-respect» (Badouard2021:113).Ellepermetainsiauxpartiesdemettreenplacedesobligationsdemoyensplutôtquedesobligationsderésultat.

PortéedelarégulationLaloiNetzDGciblenotamment21incriminationsdéfiniesdansleCodepénalallemandetpouvantfairel’objetd’unretrait,dont,entreautres,l’insulteetladiffamation,l’incitationà la haine ou au crime, les menaces de mort, la diffusion de matériel de propagande,l’utilisation de symboles d’organisations inconstitutionnelles, etc. La loi NetzDG


s’applique aux fournisseurs de réseaux sociaux ayant plus de deux (2) millionsd’utilisateurs enregistrés enRépublique fédérale d’Allemagne. Cela inclut, par exemple,Facebook, Instagram, Twitter et YouTube. Les plateformes demessagerie privée tellesqueWhatsAppetTelegramsontexemptésdel’applicationdelaloi.Encesens,cetteder-nièrecibleprincipalement lescommunicationspubliques,demêmeque lesplateformesayantpourfonctionprincipaledepermettreauxutilisateursdepartageretdecommuni-querducontenuavecd’autresd’utilisateurs.

LeCodedeconduitedelaCommissioneuropéenne,quantàlui,viseàpréveniretàluttercontrelesdiscoursdehaineillégauxenligne,notammentens’appuyantsurunecollabo-ration avec quatre plateformesmajeures, à savoir Facebook,Microsoft, Twitter et You-Tube. En plus des signataires de départ, cinq (5) autres plateformesmajeures se sontégalement jointesauCodedeconduite,notamment Instagram(2018),Snapchat(2018),Dailymotion(2018),Jeuxvideo.com(2019)etTikTok(2020).Parailleurs,leCodedecon-duite est construit sur laDécision-cadre2008/913/JAI du Conseil de l’Union européennesurlaluttecontrecertainesformesetmanifestationsderacismeetdexénophobieaumoyendu droit pénal (Décision-cadre2008/913/JAI), qui définit le discours haineux commetoute«incitationpubliqueà laviolenceouà lahainevisantungroupedepersonnesouun membre d’un tel groupe, défini par référence à la race, la couleur, la religion,l’ascendance,l’originenationaleouethnique»(art.1(a)).

SurvoldesprincipalesobligationsSouslaloiNetzDG,lesplateformesdoiventmettreenplaceunmécanismedesignalementde «contenus pénalement punissables» qui soit facile d’accès et disponible en touttemps. Tout contenu «manifestement illégal» doit être supprimé ou bloqué dans les24heures suivant la réception d’une plainte jugée fondée. Pour tout contenu dontl’illégalitéestdifficileàdéterminer, lesplateformesdisposentdeseptjourspourlesup-primer ou le bloquer. Elles peuvent également renvoyer la décision à une institutiond’autorégulationreconnue,quidoitalorsseprononcersurl’illégalitéducontenudansundélaideseptjours.Enfin,lesplateformesdoiventcommuniquerauplaignantetàl’auteurducontenutouteslesdécisionsprisesconcernantlaplainteet leraisonnementderrièresonacceptationousonrejet.

De plus, les plateformes recevant plus de 100plaintes par année civile concernant descontenusillicitesontl’obligationderendrepublicsdesrapportssemestrielsenallemandsurlagestiondesplaintes.Ceux-cidoiventcontenirdesinformationsentreautressurlevolumedeplaintesreçueset lamanièredontellesontététraitées.Lesplateformesdoi-vent nommer un représentant en Allemagnequi soit responsable de la réception desdemandesquelesautoritésallemandespourraientleuradresser.Enoutre,laloiNetzDGinstitueundroitàladivulgation(righttodisclosure),permettantàunplaignantd’exigerqueleréseausocialconcernédivulguelesinformationssurl’auteurdel’infraction,etce,sousl’ordonnanced’untribunalcivilcompétent.

LaloiNetzDGprévoitégalementunmécanismecoercitif.Leslignesdirectricessurlafixa-tiondesamendespubliéesparleministèredelaJusticepourlesviolationsdelaNetzDGstipulent que l’amende maximale pour le non-respect des obligations est fixée à40millionsd’euros.Enoutre,leniveaudesamendesdépenddelatailleduréseausocial


etdelagravitédelaviolationdelaloi.Leslignesdirectricesdivisentlesréseauxsociauxen trois catégories: les réseaux sociaux de catégorieA – comptant plus de 20millionsd’utilisateursenregistrés (parexempleFacebook)–s’exposentàuneamendemaximalede40millionsd’euros.LesréseauxsociauxdecatégorieB–comptantde4à20millionsd’utilisateursenregistrés(parexempleInstagrametYouTube)–s’exposentàuneamendemaximale de 25millions d’euros. Enfin, les réseaux sociaux de catégorieC – comptantdeux à quatremillions d’utilisateurs enregistrés (par exemple Twitter) – peuvent êtrecondamnésàuneamendemaximalede15millionsd’euros.Ces lignesdirectricespréci-sent également que des amendes ne seront infligées aux réseaux sociaux qu’en cas denon-traitement systémique des plaintes. Autrement dit, aucune amende n’est prévuedanslescasisolésoudeviolationsponctuellesdelaloi.Enoutre,leministèredelaJusticedoitobteniruneordonnancede laCourpour infligeruneamendeàunréseausocialencasdemanquementàl’obligationdesupprimeroudebloquertoutcontenuillégal.

Le Code de conduite de la CE établit des obligations non contraignantes auxquelles lesplateformessignatairess’engagent.Onpeutciterenexemplelamiseenplacederèglesetdenormesdecommunautés(communityguidelines)interdisantlesdiscoursdehaine, lamiseenplacedesystèmes(algorithmes)etd’équipespourexaminerlecontenuquicon-trevient à ces normes, l’examen de la majorité du contenu signalé dans un délai de24heures et la suppression ou le blocage de l’accès au contenu haineux, la formationrégulièredesmodérateurs,l’engagementdansdespartenariatsetdesactivitésdeforma-tion avec les organisations de la société civile (OSC) dans le but d’élargir le réseau de« signaleursdeconfiance »(trustedflaggers)etlapromotiondelatransparencevis-à-visdesutilisateursetdugrandpublic.

LeCodedeconduiteestdoncenquelquesorteuncontratentrelaCEetlesgéantsnumé-riques,quis’yengagentdepleingré.Encesens,iln’estpasjuridiquementcontraignantetn’inclutpasdedispositionsrelativesà l’application(enforcement),auxsanctionsouà laconformitéendehorsdesloisenvigueurdanslesÉtatsmembres.Enrevanche,lescom-pagniessignatairesontconsentiàcequelaCEévalueleniveauderespectdeleursenga-gementsauCodedeconduite,enplusdeleurimpact.

LesrapportsdetransparencesouslaNetzDGLes rapports de transparence fournis par les médias sociaux facilitent en partiel’appréciationdeleurconformitéàlarégulationallemande.Nousfocaliseronsnotreana-lysesurlesplusgrandesplateformes,àsavoirlesplateformesdecatégoriescatégorieAetB: Facebook, Instagramet YouTube. Les rapportsde transparencede ces acteursnousfournissentbeaucoupd’informationsqualitativesetquantitativespermettantdecatégo-riserenquelquesorteleurspratiques.

MécanismesdesignalementdesplaintesPourseconformeràlalégislationallemande,lesplateformesenligne,notammentFace-book,InstagrametYouTube,ontmisenplaceunmécanismedetraitementdecontenuàdeuxéchelles:dansunpremiertemps, lecontenuestd’abordtraitéselonleursnormesde communauté (Community Standards chez Facebook et Instagram,Community Guide-lineschezGoogle/YouTube),quidéfinissentcequiestautoriséouinterditsurleursplate-


formes;dansunsecondtemps,lesmodérateursjugentdelaconformitéoudelalégalitéducontenuselonledroitallemand(Badouard2020;2021;Wagner,Rozgonyi,Sekwenz,Cobbe et Singh 2020; Instagram 2019, 2020a, 2020b et 2021; Facebook 2018, 2019a,2019b, 2020a, 2020b et 2021; YouTube 2018, 2019a, 2019b, 2020a, 2020b et 2021).Dans lecasdeFacebooketdesaplateformeInstagram, lacompagnieamisenplaceunformulairedesignalementNetzDG(NetzDGreportingform),exclusivementaccessibleauxcitoyensallemands,quipermetàceux-cidesignalertoutcontenuqu’ilsjugentenfreindrelesdispositionsduCodepénalallemandénoncéesdanslaloiNetzDG.YouTubeaquantàluimis en place deuxmécanismes de signalement: le premier, intégré dans le flux designalement,estaccessiblesouschaquevidéoetàcôtédechaquecommentaire;lesecondestunformulairelégalWebégalementaccessibledanslemenuprincipaldeYouTube.

RessourceshumainesetorganisationnellesLes plateformes ont également mis en place des ressources organisationnelles et hu-mainespourassurerlaconformitéàlalégislation.Àtitred’illustration,chezFacebooketInstagram, les contenus évalués selon les normesde la compagnie sont traités par uneéquipechargéedesopérationsdumarchémondial(GlobalMarketOperationsteam),alorsque lescontenusévaluésà l’étapede la légalitéselon la loiNetzDGsont traitésparuneéquiped’avocats(LegalTakedownRequestOperationsteam).SelonFacebook,cettepro-cédure permet de s’assurer que les contenus manifestement illégaux soient retirés oubloquésdansles24heures.Danslescasoùilestdifficiledeseprononcersurlalégalitéducontenu,FacebooksedirigealorsversleFSM(FreiwilligeSelbstkontrolleMultimedia-Diensteanbieter e.V.), une autorité d’autorégulation allemande pour une consultationjuridiqueexterne(Instagram2019,2020a,2020bet2021;Facebook2018,2019a,2019b2020a,2020bet2021).YouTube,desoncôté,utiliseunprocessussimilairesursaplate-forme:alorsquelescontenusévaluésselonlesCommunityGuidelinesonttraitéspar leséquipesd’examencomposéesdeplusieursgermanophones,lesrequêtesrelativesàlaloiNetzDG sont traitées par des avocats (NetzDG team) (YouTube 2018, 2019a, 2019b,2020a,2020bet2021).

CorrespondanceettransparenceaveclesutilisateursGénéralement, lesplateformesvontcommuniquerdans lecadreduprocessusdesigna-lement avec le plaignant. L’information communiquée peut prendre plusieurs formesselon ladécisionqui résultede l’examende laplainte: soit l’on communique effective-ment la violationdesnormesde communauté, soit l’on justifie le retrait en vertude laviolation des dispositions du Code pénal allemand. Dans d’autres circonstances, l’oncommunique au plaignant que le contenu ne viole ni les normes de communauté ni leCodepénalallemand.

AnalysedeprincipauxindicateursNousavons compilé (surExcel) lesdonnées—grâceaux informations fourniespar lesrapportsdetransparence—surletraitementdesplaintesréaliséentre2018et2021parles plateformes. Ces données se basent sur certains des indicateurs visant à mesurerl’évolutiondansletempssurFacebook(tableau1),surInstagram(tableau2)etsurYou-Tube(tableau3).Lesprincipauxindicateurssontlevolumedesignalementreçus(Face-


book et Instagram) ou le nombre d’éléments (vidéos et commentaires) signalés (You-Tube),levolumedesignalementayantentrainéleblocageoulasuppressiondecontenus(Facebooket Instagram), levolumedecontenusrépréhensiblessuppriméset levolumedecontenussupprimésen24heures.

Unedesprincipalesraisonsdesdifférencesdedénominationdesindicateursrésidedansle fait que sur Facebook et sur Instagram, une plainte peut concerner plusieurs infrac-tions, cequi justifie ladifférenceentre levolumedeplaintes reçueset celuides infrac-tions signalées (par exemple, sur Facebook, 886 plaintes ont signalé 1704 infractionscriminellesen2018).

Tableau1.TraitementdessignalementssurFacebook

Source:RapportsdetransparenceNetzDG,Facebook(2018,2019a,2019b,2020a,2020bet2021).

Tableau2.TraitementdessignalementssurInstagram

Source:RapportsdetransparenceNetzDG,Instagram(2019,2020a,2020bet2021).

Nb. % Nb. % Nb. % Nb. % Nb. % Nb. %Nb. formulaires de signalement NetzGD reçus 886 500 674 3087 4292 4211

Nb. de contenus répréhensibles signalés 1704 1048 1050 4274 6038 4401

Volume de plaintes ayant entraîné la suppression ou le blocage de contenu

218 24.60 159 31.80 239 35.46 562 18.21 1344 31.31 1117 26.53

Volume de contenus répréhensibles supprimés 362 21.24 369 35.21 349 33.24 1043 24.40 2308 38.22 1276 28.99

Volume de plaintes ayant mené à la suppression ouau blocage de contenu en 24h

108 67.92 204 85.36 488 86.83 1229 91.44 1013 90.69

Volume de plaintes pour lesquelles un conseillerjuridique externe a été consulté 54 6.09 23 4.6 13 1.93 14 0.45 8 0.19 6 0.14

Évolution par annéeJuillet 2018 Janvier 2019 Juillet 2019 Janvier 2020 Juillet 2020 Janvier 2021Indicateurs

Nb. % Nb. % Nb. % Nb. %Nb. formulaires de signalement NetzGD reçus 146 365 2025 3366

Nb. de contenus répréhensibles signalés 252 468 3458 5570

Volume de plaintes ayant entraîné la suppression ou le blocage de contenu

38 26.03 169 46.30 694 34.27 415 12.33

Volume de contenus répréhensibles oupréjudiciables supprimés

116 46.03 221 47.22 1067 30.86 884 15.87

Volume de contenus répréhensibles supprimés en24h

23 19.83 92 41.63 595 55.76 242 27.38

Volume de plaintes pour lesquelles un conseillerjuridique externe a été consulté

2 1.37 2 0.55 3 0.15 2 0.06

Évolution par annéeJanvier 2021Juillet 2020Janvier 2020Juillet 2019Indicateurs


Tableau3.TraitementdessignalementssurYouTube

Source:Rapportsdetransparence,YouTube(2018,2019a,2019b,2010a,2020bet2021).

Cesdonnéespermettentdeconstateruneconstancedansletauxdesuppressiondecon-tenusqui, chezFacebook,parexemple,n’aatteintque38,2%dans le rapportde juillet2020. Cela représente seulement 31,3% des plaintes ayant mené à cette suppression.ChezInstagram,cetauxdesuppressionn’acessédebaisserdepuis2019,passantde46%à15,9%danslerapportdejanvier2021,cequireprésentait26%desplaintesen2019,contre 12,3%en2021. Toutefois, si Facebook affiche un tauxde contenu supprimé en24heuresrelativementencourageant (plusde90%dans lepremierrapportsemestrielde 2021), l’onne peut pas endire autant d’Instagram. ChezYouTube, la proportiondecontenussupprimésestrelativementfaible:passantde27,1%en2018à22,7%seule-mentdanslepremierrapportsemestrielde2021.Àl’inverse,laproportiondecontenussupprimés en 24heures semble baisser, ayant enregistré la plus forte hausse dans lepremierrapportsemestrielde2019(95,2%).Ce tauxsesitueà88,2%dans ledernierrapport,loindevantceluid’Instagrampourlemêmesemestre.

Ilestégalementimportantdementionnerquel’augmentationdunombredeplaintesoudecontenussignalés–jugésrépréhensibles–neseconjuguepasforcémentaveclestauxdesuppressiondecontenus,quisontdemeurésstablesaufildutemps.Eneffet,lesdon-néesexposéesci-haut indiquentquemoinsde lamoitiédesplaintesoudecontenussi-gnalés conduisent à une suppression, même si le nombre de signalement a continuéd’augmenter. Néanmoins, il est sans doute possible d’attribuer cette augmentation designalementsaufaitquelesgenssontplusaucourantdesrecourspossiblesetdénoncentdavantage,sanspourautantqu’iln’yaitunecroissancedecontenusjugésrépréhensiblesparlesplateformesenligne.

Un autre indicateur que nous avons analysé concerne la consultation extérieure pourjugerdel’illégalitéd’uncontenu,quisefaitaumoyend’unconseillerjuridiqueexterneoud’une institutiond’autorégulation.Pour rappel, les contenusquine sontpasmanifeste-ment illégaux, c’est-à-diredont l’illégalitépeut êtredifficile àdéterminer, peuvent fairel’objetd’unexamenexterne.Ainsi, lesplateformesdisposentdesept jourspourstatuersurunetelleillégalité.Si laconsultationdeconseillersjuridiquesestrelativementfaible(118 chez Facebook, neuf chez Instagram et 20 chez YouTube4), YouTube rapporten’avoirconsulté l’institutiond’autorégulationquepourhuitélémentssignalés. Jusqu’ici,

4LesrapportsdeYouTubenepermettentpasdeventilerl’indicateurparannée,d’oùsonabsencedansleta-bleau.

Nb. % Nb. % Nb. % Nb. % Nb. % Nb. %Éléments (vidéo ou commentaire) signalés 214,827 250,957 304,425 277,478 388,824 323,792Éléments (vidéo ou commentaire) supprimés ou bloqués

58,297 27.14 54,644 21.77 71,168 23.38 71,907 25.91 90,814 23.4 73,477 22.69

Éléments (vidéo ou commentaire) signalés mais non supprimés ou bloqués

156,530 72.86 196,313 78.23 233,257 76.62 205,571 74.09 298,010 76.6 250,315 77.31

Délai de suppression/Volume d’éléments supprimés en 24h

54,199 92.97 52,030 95.22 62,492 87.81 66,309 92.21 83,706 92.17 64,774 88.16

Évolution par annéeJuillet 2018 Janvier 2019 Juillet 2019 Janvier 2020 Juillet 2020 Janvier 2021Indicateurs


Facebooket Instagramn’ontenvoyé respectivementqu’unseul signalementà cetorga-nisme.

Lamiseenœuvredesengagementsdesplateformessi-gnatairesLaCE évalue lamise enœuvreduCodede conduitepar les plateformes signataires aumoyend’unexerciceréguliermisenplaceencollaborationavecdesorganisationsdelasociétécivilededifférentspaysdel’UE.L’évaluationsepenchesurplusieursindicateurs,dont1)lenombredesignalementsdecontenushaineuxreçuschaqueannée;2)letauxdesuppression, c’est-à-dire le taux de contenus considérés comme des discours de haineillégaux effectivement supprimés après le traitement du signalement; 3) le volume decontenusmanifestement illégaux signalés aux autorités policières; 4) le délai de traite-mentdessignalements(en24heures,en48heures,etc.);5)letauxdeplaintespourles-quelleslesplateformeseffectuentunretourd’informationauxutilisateurset6)lesmotifsdedénonciationdelahaine(xénophobie,orientationsexuelle,identitédegenre,religion,etc.)(Commissioneuropéenne2016,2017,2018,2019et2020).

Enseptembre2019,laCEapubliéuneévaluationglobaledelamiseenœuvredesenga-gementsdesplateformessignatairesentre2016et2019.Sesconclusionsfontvaloirque,globalement,leCodedeconduiteaétéefficaceetaaboutiàdesprogrèsrapides,notam-mentencequiatraitàl’examenetàlasuppressionrapidesdesdiscoursdehaine.Àtitred’illustration,laCEconstateque28%ducontenusignaléaétésuppriméen2016contre72%en2019 (indicateur2); 40%des avis de signalements ont été examinésdans les24heuresen2016contre89%en2019(indicateur4).LaCEfaitégalementvaloirqueleCodearenforcélaconfianceetlacoopérationentrelesplateformes,lesorganisationsdelasociétécivileetlesautoritésdesÉtatsmembressouslaformed’unprocessusstructuréd’apprentissagemutuel et d’échange de connaissances. Toutefois, la CE fait remarquerqu’il demeure des améliorations à apporter en termes de transparence et de retourd’informations aux utilisateurs (indicateur5), notant que le retour d’informations auxutilisateursfaittoujoursdéfautpourprèsd’untiersdesnotificationsenmoyenne.Enfin,la CE déplore le peu de collaboration entre les plateformes et les autorités policières,notamment le faible volumede contenusmanifestement illégaux signalés aux autoritéscompétentes(indicateur3)(Commissioneuropéenne2019).

Pournous assurerde comprendre l’évolutionde ces indicateursdans le temps, notam-mententre2016et2020,demêmequepourjugerdel’efficacitédelaréponsedesplate-formesdansletraitementdessignalements,nousavonsréaliséunecompilationdedon-nées àpartir des informations fourniespar les rapportsde laCE. Le tableau4offreunportraitglobaldel’évolutiondesindicateurs1,2,3,4,55.

5Lesmotifsdedénonciationoudesignalementnepermettentpasensoidetémoignerdel’efficacitédesdisposi-tifsmisenplaceparlesplateformes.


Tableau4.Évolutiondesindicateursdesignalementsentre2016et2020

Source:Commissioneuropéenne(2016,2017,2018,2019et2020)

Lorsqu’onanalyselesdonnéessurlerespectdesengagementsdesplateformesrelatifsauCodedeconduite,ilestpossiblederemarquerquelesrésultatsdupremiermonitoringdelamiseenœuvresontnégatifs.L’analysedel’évolutiondesindicateurspermettoutefoisdeconstaterque,surunelonguepériode,l’applicationdesengagementss’estnettementaméliorée.Parexemple, l’onconstateuneaméliorationdansletempsdudélaidetraite-mentdecontenushaineuxsignalés,demêmequedelaproportiondecontenuseffective-mentillégaux,parexempleentre2018et2020.Enrevanche,lenombredecontenusillé-gaux signalés aux autorités policières est plutôt faible, sachant que 71% de contenussupprimés en 2020 représentent environ 3099 de contenus illégaux (sur 4364). En cesens, 475cas signalés aux autorités policières ne représentent que15,3%de contenusillégauxsupprimés.Enmatièredetransparence,moinsdeseptplaintesfontl’objetd’unecorrespondanceaveclesutilisateurs.Sicertainesdecesdonnéespeuventparaitreencou-rageantes,ilestnéanmoinsdifficiledejugerdeleurréelleefficacitéenraisondumanqued’accèsdirectauxrapportsdesplateformes.Eneffet, lesrapportsdemonitoring fournispar la Commission européenne sont en fait des fiches d’information de quatre à cinqpagesenmoyenne.

AnalysecomparativedesapprochesderégulationLesdeuxapprochesde régulationanalyséespoursuivent lesmêmesobjectifs,mais em-pruntent des méthodes relativement différentes (voir la schématisation dans le ta-bleau5). La loiNetzDG couvreun large éventail de préjudices en ligne, qui constituent21contenus et comportements étant définis comme des infractions au Code criminelallemand. En ce sens, l’illégalité du contenu clairement défini dans la loi facilite sansdoute l’examen de celui-ci par les plateformes en ligne. En réalité, la loi NetzDG visel’applicationetlerenforcementparlesmédiassociauxderèglesdéjàexistantes.Celaestd’autantplusvraiquel’obligationdesuppressiondecontenun’estpasnouvelle;eneffet,envertude laLoi sur lesTélémédias,qui transpose ladirectiveeuropéennesur le com-merce électronique (E-Commerce Directive) en Allemagne, les plateformes de médiassociaux sont tenues responsables lorsqu’elles ont connaissance d’un contenu illégal etqu’ellesne sontpasparvenuesà le supprimer sans retard injustifié (Netzwerkdurchset-zungsgesetz2018;Theil2019).Enrevanche,laportéeduCodedeconduiteeuropéenestbeaucoupmoins grande et ne s’applique qu’au discours haineux, tel que défini dans laDécision-cadre2008/913/JAI.Commela loiNetzDG, leCodeviseprincipalement lapré-

2016 2017 2018 2019 2020Nb. de signalements de contenus de haine illégaux reçus par les plateformes

600 2,575 2,982 4,392 4,364

Volume (en %) de contenus considérés comme discours de haine illégaux supprimés 28.2% 59.1% 70% 71.7% 71%

N.b de contenus manifestement illégaux signalés aux autorités policières - 212 511 503 475

Volume (en %) de signalements évalués par les plateformes dans un délai de 24 h

40% 51.40% 81.7% 88.9% 90,4%

Volume (en %) des notifications reçues ayant une réponse et un retour d'information des plateformes - - 68.90% 65.40% 67.10%

Évolution par annéeIndicateurs


vention et la lutte contre les discours de haine déjà illégaux. Ainsi, les mêmes règless’appliquentenlignecommehorsligne(Commissioneuropéenne2020b).

La loi NetzDG s’applique aux plateformes dont la fonction principale est de faciliter lepartageetlacommunicationpubliquedecontenusavecd’autresd’utilisateurs,ciblantenparticulierlesplateformesdemédiassociauxayantplusdedeuxmillionsd’utilisateursenAllemagneetexcluantlesservicesdemessagerieprivée.LechoixdesplateformesdansleCodedeconduiteeuropéenestdavantagearbitraire,puisquecesontlesplusgrandsac-teurs du numérique, à savoir Facebook, Microsoft, Twitter et YouTube— rejoints parInstagram,TikTok,Jeuxvideo.com,SnapchatetDailymotion—quisesontjointsdepleingré au «contrat». Les obligations relatives à la gestion efficace et transparente desplaintesdanslaloiNetzDG,demêmequedesrapportsdetransparencepourrendredescomptessurlesmécanismesdetraitementdecontenus,sontlecœurdelalégislation.Lagestiondesplaintes imposedesdélais serrés (24heures)pour les contenusmanifeste-mentillégaux,maisoffreunecertaineflexibilité–septjours–pourlescontenusdontlalégalitépeutêtrecomplexeàladéterminer.

Alors que la suppression du contenu est faite de façon globale, notamment lorsque lesplateformesconviennentquecelui-civioleleursnormesdecommunautés, leblocagedecontenusefaitsurunebasegéographique,c’est-à-direqu’ilrendlecontenuindisponibleseulement en Allemagne. Lesmécanismes de traitement de signalements sous le Codeeuropéendiffèrentquelquepeudumodèleallemand.Eneffet,lessignalementsreçusparlesplateformessignatairessonteffectués,d’unepart,viadescanauxdesignalementdis-poniblespourlesutilisateursgénérauxet,d’autrepart,viadescanauxspécifiquesdispo-nibles uniquement pour les signaleurs de confiance (trusted flaggers). Sous le Code deconduite, le traitement de contenus se fait principalement par les normes et les procé-duresmisesenplaceparlesplateformes,notammentlesnormesdecommunauté(Com-munuty Guidelines ou Communauty Standards). La modération peut également tenircompte,lecaséchéant,desloisnationalestransposantlaDécision-cadre2008/913/JAI.


Tableau5. Typologiedes approchesde régulationetmesurespréconiséesoumises enœuvreconcernantlesprocéduresdesignalement

Approchederégula-

tion

Obligations Mesuresétabliesoumisesenvigueur

Conformitéparlesplateformes

Sanctions

HardregulationNetzDG

Obligationderésultats(définitionsd’objectifsetdedélaisstrictes)

Créationde21nouvellesin-criminationspouvantfairel’objetd’unretraitRéformedesprocéduresdesignalement(délaisderetraitnotamment)PublicationderapportsdetransparencetouslessixmoisAmendesencasdenon-conformité

Nouvellescatégo-riesdesignale-mentEmbaucheetformationdepersonnelsquali-fiésAdaptationdudispositifdesignalementauxnouvellesexi-gencesPublicationenlignederapportsdetransparence

Amendesencasd’échecàatteindrelesrésultatsouàrespecterlesdélais

Soft regula-tionCodedeconduitepourluttercontrelahaineenligne

Obligation demoyens(défini-tion de me-sures à mettreenœuvre)

Mise en place de standards depublicationetdeprocéduresdesignalementRespectdesloisnationalesRespectd’undélaimaximumde24heures pour le retrait descontenushaineuxPartenariats avec des associa-tions(« trustedreporters »)Miseà jourdes formationsdesmodérateursMéthodedetesting

Augmentation dela part des signa-lementstraitésDiminution desdélais de traite-mentPartenariats avecdes associations(trus-tedflaggers)

Aucune

Source:Badouard(2021).

DiscussionLes deux cadres réglementaires analysés dans ce document mettent en œuvredesrationalités de gouvernement des stratégies de régulation qui diffèrent selon leursdegrésdecontraintes (Badouard2021).Eneffet, lepremiercadreestassociéàuneré-glementation stricte (approche hard regulation), imposant aux plateformes des obliga-tionsderésultats,enplusdeprévoirunmécanismecoercitif–notammentdesactionsencas de non-conformité aux obligations – pour assurer l’application (enforcement) desmesures.Lesecond,leCodedeconduitepourluttercontrelesdiscoursdehaineillégauxenligne,peutplutôtêtreassociéàuneréglementationplusdouce(approchesoftregula-tion).Cettedernièreprivilégiedesinstrumentsvolontairesetdesobligationsdemoyens(engagements)nenécessitantpasuncontrôlestrictdel’applicationdesmesures(Rapp,


SchmidetWolff2011;Gorwa2019aet2019b;Badouard2021).Au-delàdecessimilaritésetdecesdifférences,nousallonsnousconcentrersurlesrépercussionsqu’ilsonteuesenmatièredeluttecontrelescontenuspréjudiciables.

Àlalumièredesinformationsexposéesdanslechapitreprécédent,ilestpossibledetirerplusieursconclusions.Lespremières touchentauxhypothèsesde recherche.Notrepre-mièrehypothèsevoulantquelaloiallemandeaitentrainédessuppressionsoublocagesexcessifs de contenus est infirmée. En effet, le portrait des indicateurs des trois plate-formesanalyséespermetdecontrasterquelevolumedecontenussupprimésestfaible.Àtitred’illustration, laproportiondeplaintesayantentrainé lasuppressionouleblocaged’un contenu a atteint le sommet de 35,5% chez Facebook (tableau1) dans le secondrapport semestriel de 2019.Dans le dernier rapport publié en2021, ce taux se situe à26,5%,cequireprésenteseulement29%decontenussupprimésoubloqués.ChezInsta-gram(tableau2),laplusforteproportiondeplaintesayantentrainélasuppressionouleblocaged’uncontenuaétéenregistréeà46,3%(représente47,2%decontenus)danslepremier rapport de 2020, alors que le dernier rapport indique seulement12,3%. ChezYouTube,cetteproportionsesitueentre21,8%(janvier2019)et27,1%(juillet2018).

Lasecondehypothèsevoulantquelesobligationsenvertud’uneapprochesoftregulation(Code de conduite) soientmoins respectées est également infirmée. En effet, les plate-formesontmis enplace et renforcé leurs règlesde communautéspour se conformeràleursobligations.Ellesontmisenplacedesmécanismesdesignalementégalementcon-çuspourlescitoyenseuropéens,enplusd’avoirtravailléenétroitecollaborationaveclesorganisationsdelasociétécivile.L’onpeuttoutefoissoulignerlalacunedelacoopérationaveclesautoritéspolicièrescompétentesenmatièredesignalementdediscourshaineuxillégaux.

Notre troisièmehypothèse indiquantque lesmesuresderégulationont favorisédavan-tagede transparencesur lespratiquesdemodérationdecontenuspeutêtreconfirmée,mais avecnuance.Dans le cadre allemand, lapublicationdes rapportsde transparenceest une obligation législative. L’appréciation des rapports publiés par les plateformespermetd’ailleursdeconstaterqueceux-cisontrelativementbiendétaillés.Celan’atoute-foispasempêchél’Allemagned’infligeruneamendededeuxmillionsd’euros,en2019,àFacebook,accuséealorsdenepasavoircommuniquéauxautoritésallemandes tous lescontenusquelaplateformeavaitsupprimés(Untersinger2019).Lapratiquedesrapportsdetransparences’estégalementrépanduecesdernièresannées,tellequelesrapportssurl’applicationdeStandardsdelacommunautédeFacebookoudesrèglesdecommunautésdeGoogle.Néanmoins,cesrapportsdetransparencenerévèlentpasforcémenttout;dèslors,ladifficultédel’accèsauxdonnéesempêchelesautoritésgouvernementalesdecerti-fierlesinformationsfourniesparlesplateformes(Badouard2021:117).

Laquatrièmehypothèsestipulantqu’ilyauraitunediminutionimportanteduvolumedecontenus préjudiciables signalés sur les plateformes est également infirmée. En effet,l’évaluationdelamiseenœuvredesengagementsdesplateformessignatairespermetdeconstaterquelenombredecontenussignalésdansl’espaceeuropéenestpasséde600en2016à4 364en2020,alorsquelaproportiondecontenussupprimésasuivicetteévolu-tion,passantde28,2%en2016à59,1%en2017,etsestagnantdepuis2018entre70%et71%.Lenombredeplaintesreçues,demêmequelevolumed’infractionssignaléesen


vertude la loiNetzDG,n’ontpascesséd’augmenteren flèchechez les troisplateformesétudiées.OnremarquetoutefoisunebaisseduvolumedesignalementschezFacebooketchez YouTube, mais celle-ci n’est pas significative puisqu’elle est survenue seulemententrejuillet2020etjanvier2021.

Le chapitre précédent permet ainsi de constater que la régulation des plateformes estpossible, qu’elle soit au niveau étatique ou supranational. L’expérience allemande dé-montre,d’unepart,quelesÉtatspeuventimposerdesrèglesapplicablesauxgéantsnu-mériquesàl’intérieurdeleursfrontièreset,d’autrepart,quelesplateformespeuvents’yconformer en ajustant leurs façons de faire. Plusieurs éléments peuvent être soulignéspourtémoignerdecetteconformité: lapublicationderapportsdetransparencespécia-lementconçuspourlesautoritésallemandesetaccessiblesaupublic,lamiseenplacedemécanismesspéciauxdetraitementdessignalements,l’obligationdesupprimerlescon-tenusdansundélaicontraignant, lanominationd’unreprésentantdel’entrepriseenAl-lemagne, etc. La loi NetzDG est en ce sens considérée comme étant «révolutionnaire»(Alkiviadou2019:22):

because it adopts such a stringent approach to the regulation of hatespeech on social media, as demonstrated through the obligation onnetworkstoappointagentssolelyforthepurposeofthislaw,aswellasthehugepotentialfinesassociatedwiththenon-conformitytotheleg-islationbythelegislation.

Plusieursmotivationspeuventexpliquerlaconformitédesplateformesàlarégulation.Ilyaentreautresdesintérêtséconomiques,puisquel’impératifd’affairedecesacteursestdefournirducontenuquisoitutileauxutilisateurs.Encesens,lemanquementàlasup-pression ou au blocage de contenus problématiques peut avoir un effet de perceptionnégativechezlepublic(Helberger,PiersonetPoell2018;Badouard2021).L’engagementdesutilisateurs,« créateurs »decontenus,estdoncfondamentalpourlesplateformes.

Parailleurs, lesdonnéesduCodedeconduitedelaCommissioneuropéennesontégale-mentencourageanteslorsqu’onanalyseleurévolutiondansletemps.Ilesttoutefoispos-siblededresserquelqueslimites.Eneffet,undesprincipauxdéfis–voireobstacles–entermes d’application du Code, est que les plateformes dépendent en grande partie desutilisateurspoursignaler lesdiscoursdehaine.Ainsi, le fonctionnementmêmeduCodedépend grandement des utilisateurs, censés identifier et signaler les discours de haine(Alkiviadou2019).Enoutre, ladéfinitiondudiscoursdehaineutiliséedansladécision-cadreestjugéetrèslarge,laissantauxÉtatsmembresunpouvoirdiscrétionnairelorsdelatranspositiondesdispositions(QuinteletUllrich2020).

ThishasledtoadifferentthresholdconcerningthecontentthatistobecriminalisedintheMemberStates,whichcomplicatesanyharmonisedapplication of the FrameworkDecision or the Code of Conduct. Legalprovisionsprohibitinghatespeechmaybeinterpretedlooselyandap-plied selectively, so that there are diverging legal requirements foronline platforms in the different Member States (Quintel et Ullrich2020:5).


Cela complexifie donc, pour les plateformes demédias sociaux, l’analyse et la prise encomptedesloisnationalesdansladéterminationdel’illégalitéd’uncontenu.Or,danslesdémocratiesoccidentales,cerôlerevientsouventauxtribunaux.QuinteletUllrich(2020)sontd’avisqu’ilyaunedélégationdestâchesdestribunauxnationauxauxacteursprivés.D’autantplusqueleCodedeconduiteneprévoitpasdemécanismed’appelpourlescon-tenussupprimésmêmes’ilsn’ontpasététrouvés illégaux.Cela laissepeud’optionsauxpersonnesdontlecontenuestprésuméillégald’engagerunrecoursaprèsqueleurcon-tenuaitétébloquéousupprimé.

La luttecontre lesdiscourshaineuxen lignereprésenteundéfidetaille, tantauniveaujuridiquequ’auniveautechnique.Eneffet,unedesdifférencesmarquantesentre lamo-dérationde contenuspréjudiciables sur lesmédias traditionnelset celle sur lesmédiassociauxreposesurlefaitquelessystèmesdemodérationemployésparlespremiers–lesmédiastraditionnels–permettentde«censurer»lesproposhaineuxavantleurpublica-tionou leurdiffusion; tandisque les systèmesdesmédiassociauxreposentsurtoutsurdesutilisateursdéjàoffensés(already-offendedusers)(Brown2018;UllmannetTomalin2020).Commenous l’avonsexpliqué,cette logiquedemodérationditeréactive(BakalisetHornle2021;Gillespie2010et2017)comportedes limites: ledélaientre lapublica-tiondu contenuoffensant ou répréhensible et sa suppressionpeut être long; les plate-formesnepeuventdoncpasgarantirqu’aucuncontenudecetypen’apparaitraouquelesutilisateurs n’y seront pas exposés. Lamodération proactive, qui implique l’examenducontenuavantsapublication,poseégalementdesdéfistechniquesethumains.D’abord,ilyaunsoucid’efficacitéetd’erreurd’évaluations,puisquelesalgorithmesnepeuventpastoutdétecter.Àtitred’illustration,Google(2021)indiquecettecomplexitédanssonrap-portdetransparence.

Même si la technologie est devenue très utile pour identifier certainstypesdecontenuscontroversés(parexemple,pourtrouverdesobjetsetdesmodèlesrapidementetàgrandeéchelledanslesimages, lesvi-déos et les contenus audio), l’examenmanuel de la situation en con-texte reste laméthode plus efficace. Par exemple, les algorithmes nesaventpas toujours faire ladifférence entre lapropagande terroriste,lesvidéossurlesdroitsdel’homme,lesdiscoursd’incitationàlahaineetlescomédiesprovocatrices.Uneinterventionhumaineestainsisou-ventnécessairepourprendreladécisionfinale(Google2021).

Ensuite,ilfaudraitdescentainesdemilliersdemodérateurspourfiltrerchaquecontenuavantsapublication.Étantdonnélenombredecontenuspubliéschaqueminutedanslemonde, et dans plusieurs langues, les délais de publication de contenu seraient étirés.Bref,touscesdéfisnousrévèlentl’équilibredélicatentreledevoirdegarantirlagarantirlalibertéd’expressionetl’impératifdeluttercontrelesdiscourspréjudiciablesenligne.


ConclusionLa recrudescence de la réglementation des plateformes à l’échelle planétaire témoignesans doute de la prise de conscience des États de la faiblesse dumodèle du «laisser-faire»,quialongtempscaractérisélesrèglesencadrantcesgéantsnumériques.

Cettenotederechercheatentémodestementd’analyserlesrépercussionsdesapprochesderégulationdéjàenvigueurdansd’autrespays.L’analysecomparativededeuxmodèlesderégulation, laréglementationdouceousoftregulationet laréglementationstricteouhard regulationi, permet de constater qu’il est possible de poursuivre lemême objectiftout en empruntant desmoyens différents. Alors que la première est critiquéepour sa«privatisation»de la régulationdescontenusauxentreprisesprivéesoupoursonmo-dèle fragilisé dépendant de la bonne volonté des signataires, la seconde est jugée trèsstricte,faisantcraindrelaviolationdelalibertéd’expression.

Notre travail montre, cependant, que ces deux approches portent leurs fruits, et qu’ilsembleyavoirunecertainecollaborationdesplateformesconcernéesàseconformerauxobligations.Évidemment,unetelleconformitéestsansdoutemotivéepardesincitationsvariées,maissurtoutéconomiques.Aveclapressiongrandissantepouruneréglementa-tionplusferme,cesentreprisessavents’adapter,voiredevancerleslégislations.C’estence sensque les contenusou comportementsprohibés sur leursplateformesdupliquentbeaucoupceuxquisontdéjàrépréhensiblesdansbeaucoupdepays.

Enfin,l’argumentdelalibertéd’expressionestsouventdresséenépouvantailpourjusti-fier lacrainted’unerégulationdescontenuspréjudiciables.Nouscroyonsque la libertéd’expression, considérée comme un droit absolu, revient à considérer qu’elle impliqueégalement la libertéd’opprimer,d’attaqueretd’offenser lesautres.Or,dans lecontextedes discours haineux, cette « liberté d’expression » empêche justement les personnestouchées–enl’occurrencedesvictimes–des’exprimer.Dèslors,l’équilibreentrelalibreexpressiondesunsetladignitéetledroitàlaprotectiondesautrespeuttoutàfaitêtreétabli.


RéférencesbibliographiquesAbedi,Maham, « “Tipof the iceberg”:WhyCanada’s onlinehate-crimedatadoesn’t tellthefullstory»,GlobalNewsi,2mai2019,<https://globalnews.ca/news/5227087/cyber-hate-crime-data-canada/>.

Alexandre,Marie,«Larigueurscientifiquedudispositifméthodologiqued’uneétudedecasmultiple»,Recherchesqualitatives,vol.32,no1,2013,p.26-56.

Allen,Mary,«StatistiquessurlescrimesdéclarésparlapoliceauCanada,2017»,Statis-tiqueCanada,Ottawa,2018,53p.

Armstrong.Amelia,«LescrimeshaineuxdéclarésparlapoliceauCanada,2017»,Statis-tiqueCanada,Ottawa,2019,32p.

Badouard,Romain,«LarégulationdescontenussurInternetàl’heuredes«fakenews»et des discours de haine», Communications, vol. 1, no1, 2020, p. 161-173,<https://doi.org/10.3917/commu.106.0161>.

Badouard, Romain, «Modérer la parole sur les réseaux sociaux: Politiques des plate-formes et régulation des contenus», Réseaux, vol. 1, no1, 2021, p. 87-120,<https://doi.org/10.3917/res.225.0087>.

Bakalis,CharaetJuliaHornle,«TheRoleofSocialMediaCompaniesintheRegulationofOnlineHateSpeech»,StudiesinLaw,Politicss,andSociety,vol.85,2021,p.75-100.

Baldauf,Johannes,JuliaEbneretJakobGuhl,«HateSpeechandradicalisationOnline:TheOCCIresearchreport»,InstituteforStrategicDialogue,Londres,2019,65p.

Banks,James,«Regulatinghatespeechonline»,InternationalReviewofLaw,ComputersandTechnology,vol.24,no3,2010,p.233-239.

Brown,Alexander,«Whatissospecialaboutonline(ascomparedtooffline)hatespeech?»,Ethnicities,vol.18,no3,2018,p.297-326.

Castonguay,Alec,«ChersgéantsduWeb,larécréationestterminée»,L’actualité,7avril2021, <https://lactualite.com/lactualite-affaires/chers-geants-du-web-la-recreation-est-terminee/>.

CBCNews, «Canadiansappear tobemorehatefulonline.Here'swhatyoucandoaboutit», 20 janvier 2017, <https://www.cbc.ca/news/canada/marketplace-racism-online-tips-1.3943351>.

Charest,Nicolas,«Veille»,dansCôté,LouisetJean-FrançoisSavard(dir.),LeDictionnaireencyclopédiquedel’administrationpublique,2012,<www.dictionnaire.enap.ca>.

Chetty,NagannaetSreejithAlathur,«Hatespeechreviewinthecontextofonlinesocialnetworks»,Aggressionandviolentbehavior,vol.40,2018,p.108-118.

Claussen, Victor, «Fighting hate speech and fake news. The Network Enforcement Act(NetzDG)inGermanyinthecontextofEuropeanlegislation»,RivistaDiDirittoDeiMedia,vol.3,2018,p.1-27.


Commission européenne, Le code de conduite visant à combattre les discours de haineillégauxenligne,2020,4p.

Commission européenne, Le code de conduite visant à combattre les discours de haineillégaux en ligne, 2020, <https://ec.europa.eu/commission/presscorner/detail/fr/qanda_20_1135>.

Conseildel’Unioneuropéenne,Décision-cadresurlaluttecontrecertainesformesetmani-festations de racisme et de xénophobie au moyen du droit pénal (2008/913/JAI), 2008,<https://eur-lex.europa.eu/legal-content/fr/ALL/?uri=CELEX%3A32008F0913>.

Cordier,Quentin,«L'économiedeplateforme:descriptiond'unphénomèned'intermédia-tion»,Enjeuxetdéfisjuridiquesdel'économiedeplateforme,2019,p.7-33.

Crawford,KateetTarletonGillespie.«Whatisaflagfor?Socialmediareportingtoolsandthevocabularyofcomplaint»,NewMedia&Society,vol.18,no3,2016,p.410-428.

Delker, Janosch, «Germany’s balancing act: Fighting online hate while protecting freespeech», Politico, 1er octobre 2020, <https://www.politico.eu/article/germany-hate-speech-internet-netzdg-controversial-legislation/>.

DeNardis,LauraetAndreaM.Hackl,« Internetgovernancebysocialmediaplatforms»,TelecommunicationsPolicy,vol.39,no9,2015,p.761-770.

EuropeanCommission,TacklingIllegalContentOnline:Towardsanenhancedresponsibil-ityofonlineplatforms(Communication),2017,20p.

EuropeanCommission,CommissionRecommendationof1.3.2018onmeasurestoeffective-lytackleillegalcontentonline,2018,17p.

Facebook,NetzDGTransparencyReport,juillet2018,8p.

Facebook,NetzDGTransparencyReport,janvier2019,12p.





Flew,Terry,FionaMartinetNicolasSuzor,«Internetregulationasmediapolicy:Rethink-ingthequestionofdigitalcommunicationplatformgovernance»,JournalofDigitalMedia&Policy,vol.10,no1,2019,p.33-50.

Fortin, Marie-Fabienne et Johanne Gagnon, Fondements et étapes du processus de re-cherche:méthodes quantitatives et qualitatives. Chenelière éducation,Montréal, Québec,2016.

Gasser,UrsetWolfgangSchulz,«Governanceofonlineintermediaries:Observationsfromaseriesofnationalcasestudies»,BerkmanCenterResearchPublication,vol.18,2015,79p.

Gillespie,Tarleton,«Thepoliticsof“platforms”»,Newmedia&society,vol.2,no3,2010,p.347-364.


Gillespie,Tarleton,CustodiansoftheInternet:Platforms,contentmoderation,andthehid-dendecisionsthatshapesocialmedia,NewHaven,YaleUniversityPress,2018a.

Gillespie, Tarleton, « Platforms are not intermediaries », Georgetown Law TechnologyReview,vol.2,no2,2018b,p.98-216.

Gillespie,Tarleton,«RegulationofandbyPlatforms»,TheSAGEHandbookofSocialMe-dia,2017.

Guillemin,Gabrielle,«Internetcompaniesalonecan’tpreventonlineharms»,Article19,17 avril 2020, <https://www.article19.org/resources/internet-companies-alone-cant-prevent-online-harms/>.

Guerin, Cécile, Zoé Fourel et Cooper Gatewood, «La pandémie de COVID-19: terreaufertilepourlahaineenligne»,InstituteforStrategicDialogue,2021,24p.

Gorwa,Robert,«Theplatformgovernancetriangle:Conceptualisingtheinformalregula-tionofonlinecontent»,InternetPolicyReview,vol.8,n°2,2019a,p.1-22.

Gorwa,Robert,«Whatisplatformgovernance?»,Information,Communication&Society,vol.22,no6,2019b,p.854-871.

GouvernementduCanada,Initiativeconjointepourlarechercheenmatièredecitoyenneténumérique, 2020, <https://www.canada.ca/fr/patrimoine-canadien/services/desinformation-en-ligne/initiative-conjointe-recherche-citoyennete-numerique.html>.

Gouvernement du Canada, Réglementation des plateformes de médias sociaux, 2020,<https://rechercher.ouvert.canada.ca/fr/qp/id/pch,PCH-2020-QP-00084>.

Gozlan, Angélique, «Facebook: de la communauté virtuelle à la haine», Topique, no1,2013,p.121-134.

Helberger,Natali, JoPierson etThomasPoell, «Governingonlineplatforms: Fromcon-testedtocooperativeresponsibility»,Theinformationsociety,vol.34,no1,2018,p.1-14.

Heldt,AméliePia,«Readingbetweenthe linesandthenumbers:ananalysisofthefirstNetzDGreports»,InternetPolicyReview,vol.8,no2,2019.

Heldt,AméliePia,«GermanyisamendingitsonlinespeechactNetzDG...butnotonlythat», Internet Policy Review, 2020, <https://policyreview.info/articles/news/germany-amending-its-online-speech-act-netzdg-not-only/1464>.

Housefather,Anthony,«Agirpourmettrefinàlahaineenligne»,Comitépermanentdelajusticeetdesdroitsdelapersonne,2019,80p.

Human Rights Watch, Germany: Flawed Social Media Law. 2018,<https://www.hrw.org/news/2018/02/14/germany-flawed-social-media-law>.

Instagram,NetzDGTransparencyReport,juillet2019,12p.

Instagram,NetzDGTransparencyReport,janvier2020,13p.

Instagram,NetzDGTransparencyReport,juillet2020,13p.

Instagram,NetzDGTransparencyReport,janvier2021,13p.


Johnson,BrettGregory,«Speech,harm,andthedutiesofdigitalintermediaries:Concep-tualizingplatformethics»,JournalofMediaEthics,vol.32,no1,2017,p.16-27.

Jørgensen,RikkeFranketLumiZuleta,«PrivateGovernanceofFreedomofExpressiononSocialMediaPlatforms.NordicomReview,vol.41,no1,2020,p.51-67.

Kasakowskij, Thomas, et al., « Network enforcement as denunciation endorsement? Acriticalstudyonlegalenforcementinsocialmedia»,TelematicsandInformatics,vol.46,2020,p.1-13.

Keipi, Teo, et al.,Online hate and harmful content: Cross-national perspectives, Londres,Taylor&Francis,2016.

Knoepfel, Peter, et al., Analyse et pilotage des politiques publiques, Québec, Presses del’UniversitéduQuébec,2015.

Krishnamurthy,Vivek, «Planned socialmedia regulations set adangerousprecedent »,The Conversation, 15 mars 2021, <https://theconversation.com/planned-social-media-regulations-set-a-dangerous-precedent-155844>.

LoisurleministèreduPatrimoinecanadien,L.C.,1995,ch.11.

Maggetti, Martino, « Hard and soft governance », dans Lynggaard Kennet et al. (dir.),ResearchmethodsinEuropeanUnionstudies,Londres,PalgraveMacmillan,2015,p.252-265.

Martens,Berlin,«Aneconomicpolicyperspectiveononlineplatforms»,InstituteforPro-spectiveTechnologicalStudiesDigitalEconomyWorkingPaper,2016,61p.

Martinez, Paloma, «Les Canadiens veulent un contrôle strict des médias sociaux pourprévenir la haine et le racisme en ligne»,Radio-Canada International, 25 janvier 2021,<https://www.rcinet.ca/fr/2021/01/25/les-canadiens-veulent-un-controle-strict-des-medias-sociaux-pour-prevenir-la-haine-et-le-racisme-en-ligne/>.

Ministry of Justice andConsumerProtection,Act to Improve Enforcement of the Law inSocial Networks (Network Enforcement Act, NetzDG) - Basic Information (2017), 2018,<https://www.bmjv.de/DE/Themen/FokusThemen/NetzDG/NetzDG_EN_node.html>.

Noël,Christian,«Unnouveauchiendegardenumériquecontrelahaineenligne»,Radio-Canada, 21 février 2021, <https://ici.radio-canada.ca/nouvelle/1769922/chien-garde-numerique-haine-contenus-haineux-internet>.

Obar, Jonathan A. et Steven S.Wildman, « Social media definition and the governancechallenge:Anintroductiontothespecialissue»,Telecommunicationspolicy,vol.39,no9,2015,p.745-750.

OCDE, « The Role of Internet Intermediaries in Advancing Public Policy Objectives »,OCDEPublishing,Genève,2021,200p.

Patrimoine canadien, Raison d’être, mandat et rôle, 2020,<https://www.canada.ca/fr/patrimoine-canadien/organisation/mandat.html>.

Payette,Julie,UnCanadaplusfortetrésilient.DiscoursduTrône,2020,34p.

Perset,Karine,«Theeconomicandsocialroleof internet intermediaries»,OCDE,2010,49p.


Piquard, Alexandre, «La suspension des comptes de Donald Trump et le débat sur larégulationdesréseauxsociaux»,LeMonde,11janvier2021,<https://www.lemonde.fr/economie/article/2021/01/11/comment-reguler-les-reseaux-sociaux-le-cas-trump-relance-le-debat_6065896_3234.html>.

PremierministreduCanada,LettredemandatduministreduPatrimoinecanadien,2019,<https://pm.gc.ca/fr/lettres-de-mandat/2019/12/13/lettre-de-mandat-du-ministre-du-patrimoine-canadien>.

PremierministreduCanada,Lettredemandat supplémetaireduministreduPatrimoinecanadien, 2021, <https://pm.gc.ca/fr/lettres-de-mandat/2021/01/15/lettre-de-mandat-supplementaire-du-ministre-du-patrimoine-canadien>.

Quintel,TeresaetCarstenUllrich,«Self-regulationoffundamentalrights?TheEUCodeofConduct on Hate Speech, related initiatives and beyond », dans Bilyana Petkova etTuomasOjanen (dir.),FundamentalRightsProtectionOnline, Cheltenham,EdwardElgarPublishing,2020.

Rapp,MarcSteffen,ThomasSchmidetMichaelWolff,«HardorSoftRegulationofCorpo-rateGovernance?»,HHLResearchPaperSeriesinCorporateGovernance,no6,2011.

Robillard,Jean-Philippe,«Depuisl’arrivéedeTrump,lahaineexplosesurleWebauCa-nada», Radio-Canada, 2 février 2017, <https://ici.radio-canada.ca/nouvelle/1015082/intolerance-racisme-web-internet-canada-impact-trump-etude-cbc-marketplace>.

Schulz,Wolfgang, «Regulating intermediaries to protect privacy online–the case of theGermanNetzDG»,PersonalityandDataProtectionRightsontheInternet,2018.

Siapera,EugeniaetPalomaViejo-Otero,«GoverningHate:FacebookandDigitalRacism»,Television&NewMedia,vol.22,no2,2021,p.112-130.

Silver,JanetE.,«Regulationofonlinehatespeechcomingsoon,saysminister»,iPolitics.21 janvier 2021, <https://ipolitics.ca/2021/01/29/regulation-of-online-hate-speech-coming-soon-says-minister/>.

Soilleux-Mills,Anna, CathrynHopkins etButt,Hamzah, «Onlineharms regulation gainsmomentum and shape», Lexology, 2021, <https://www.lexology.com/library/detail.aspx?g=4c0be777-d91f-4ed5-a48a-d841d6e688bc>.

Statistique Canada,Données sur les crimes haineux déclarés par la police, 2016, Ottawa,2017,8p.

Statistique Canada,Données sur les crimes haineux déclarés par la police, 2017, Ottawa,2018,13p.

Suzor,Nicolas,«Digitalconstitutionalism:Usingtheruleoflawtoevaluatethelegitimacyofgovernancebyplatforms»,SocialMedia+Society,vol.4,no3,2018,p.1-11.

Taylow Wessing, Online harms: the regulation of internet content. 2019, <https://www.taylorwessing.com/download/article-online-harms.html>.

Thelle,MartinH.etal.,«OnlineIntermediaries:ImpactontheEUeconomy»,CopenhagenEconomics,2015,49p.


Theil,Stefan,«TheOnlineHarmsWhitePaper:comparingtheUKandGermanapproach-estoregulation»,JournalofMediaLaw,vol.11,no1,2019,p.41-51.

Ullmann, Stefanie etMarcus Tomalin, «Quarantining online hate speech: technical andethicalperspectives»,EthicsandInformationTechnology,vol.22,no1,2020,p.69-80.

Untersinger,Martin,«L’AllemagneinfligeàFacebookuneamendede2millionsd’eurosen vertu de sa loi sur les réseaux sociaux », Le Monde, 2 juillet 2019,<https://www.lemonde.fr/pixels/article/2019/07/02/l-allemagne-inflige-a-facebook-une-amende-de-2-millions-d-euros-en-vertu-de-sa-loi-sur-les-reseaux-sociaux_5484451_4408996.html>.

Wagner,Ben,etal.,«RegulatingTransparency?Facebook,TwitterandtheGermanNet-workEnforcementAct»,Proceedingsof the2020ConferenceonFairness,Accountability,andTransparency,2020,p.261-271.

Yale, Janet, «L’avenir des télécommunications : le temps d’agir», Groupe d’examen ducadrelégislatifenmatièrederadiodiffusionetdetélécommunications,2020,260p.

YouTube,RemovalsundertheNetworkEnforcementLaw,juillet2018;janvier2019;juillet2019;janvier2020;juillet2020;janvier2021,<https://transparencyreport.google.com/netzdg/youtube?hl=en>.

Zipursky, Rebecca, «Nuts AboutNETZ: TheNetwork Enforcement Act and Freedom ofExpression»,FordhamInternationalLawJournal,vol.42,no4,2019,p.1325-1374.


Centred’étudessurl’intégration

etlamondialisation

Adressecivique :UQAM,400,rueSainte-CatherineEst

PavillonHubert-Aquin,bureauA-1560Montréal(Québec)H2L2C5CANADA

Adressepostale :UniversitéduQuébecàMontréal

Casepostale8888,succ.Centre-VilleMontréal(Québec)H3C3P8CANADA

Téléphone :514987-3000,poste3910Télécopieur :514987-0397Courriel :[email protected]

Siteweb :www.ceim.uqam.ca

AuteurDorian Mouketou est diplômé de lamaitriseenadministrationpubliquedel’École nationale d’administration pu-blique(ENAP),Montréal.

[email protected]

Documents

La lutte contre les contenus haineux[48]