Après qu’un homme armé a assassiné 10 Afro-Américains dans une épicerie de Buffalo samedi, deux des sites Web de médias sociaux que le tueur présumé a utilisés pour planifier et promouvoir l’attaque – Twitch et Discord – ont annoncé une action rapide en réponse.
Le suspect de 18 ans identifié par la police semble avoir utilisé Twitch pour diffuser en direct une vidéo de la fusillade telle qu’elle a eu lieu. La société, qui appartient à Amazon, a annoncé qu’elle l’avait supprimée en deux minutes. Discord, une plateforme de salons de discussion privés que le suspect aurait utilisée pour discuter de son antisémitisme et de son désir de tuer des minorités, a déclaré qu’elle enquêtait sur son utilisation du logiciel.
Les principales entreprises de médias sociaux ont subi des pressions croissantes ces dernières années pour sévir contre les personnes utilisant leurs sites Web pour promouvoir les discours de haine et les politiques extrémistes. La Ligue anti-diffamation, par exemple, s’est heurtée à plusieurs reprises à Facebook au sujet de ses politiques de modération de contenu et Twitter a été mêlé à une controverse sur sa décision d’interdire certains politiciens d’extrême droite du site Web.
Mais bon nombre des extrémistes racistes qui ont mené des attaques violentes ces dernières années étaient beaucoup plus actifs sur des sites Web « alt-tech » comme 4chan, Kiwi Farms et BitChute, qui sont relativement peu surveillés par le public. L’antisémitisme est présent dans presque tous ces coins d’Internet, allant des blagues sur l’Holocauste aux théories du contrôle juif qui semblent avoir animé le tireur de Buffalo.
Daniel Kelley, directeur associé du Centre pour la technologie et la société de l’ADL, a déclaré que contrairement à Facebook, Twitter ou YouTube – qui insistent sur le fait qu’ils veulent réprimer l’extrémisme – ces plateformes de médias sociaux alternatives sont sans vergogne et à l’abri de la pression.
« Cela ne sert à rien d’exercer une pression publique parce qu’ils s’en moquent », a déclaré Kelley. « Ils ne veulent pas être de bons acteurs publics. »
Le suspect de Buffalo était actif sur 4chan, un site Web de babillard électronique connu pour son sectarisme qui a longtemps résisté à la modération ou à la réglementation. Bien que 4chan ait été fondée en 2003, elle fait partie d’un écosystème en ligne qui a explosé ces dernières années, les utilisateurs qui ont lancé des plates-formes grand public ont lancé de nouveaux sites Web destinés à offrir les mêmes services avec moins de règles.
Kiwi Farms, un forum en ligne utilisé par le tireur de mosquée néo-zélandais de 2019, est connu pour avoir lancé des campagnes de harcèlement ciblées qui sont interdites sur les sites Web grand public. BitChute héberge le genre de vidéos d’extrême droite interdites sur YouTube, tandis que DLive propose une diffusion en direct aux néonazis et autres extrémistes bloqués par Twitch.
« Vissez vos optiques, j’entre », a écrit l’homme qui a tué 11 personnes à la synagogue Tree of Life de Pittsburgh sur Gab, une alternative d’extrême droite sur Twitter, peu avant l’attaque de 2019.
Une façon de s’adresser aux plates-formes dont les propriétaires sont fiers d’une approche «tout est permis» du contenu est de faire pression sur les entreprises qui fournissent leur infrastructure Internet. Après qu’il a été révélé que trois tireurs de masse racistes en 2019 – les attaquants de la mosquée néo-zélandaise, Chabad of Poway et un El Paso Walmart – avaient tous régulièrement posté sur 8chan, qui est similaire à 4chan, plusieurs des services tiers qui a gardé le site Web en ligne a cessé de travailler avec l’entreprise.
Cloudflare, qui protège les sites Web des cyberattaques, a cessé de protéger 8chan, et Voxility, qui possédait les serveurs de 8chan, où ses données sont stockées, a également mis fin à sa relation avec le site.
« 8chan a finalement survécu », selon une analyse réalisée l’année dernière par le programme Tech, Law and Security de l’American University, qui a travaillé avec l’ADL, « bien que la portée de son contenu et son accessibilité aux nouveaux utilisateurs potentiels aient été restreintes par les principaux fournisseurs de services ». refus de s’associer au site.
Kelley a déclaré que la déplateforme de 8chan peut servir de modèle aux fournisseurs de services qui travaillent toujours avec 4chan et d’autres plateformes qui offrent des communautés en ligne aux extrémistes violents. Il a déclaré que l’ADL encourageait Cloudflare à établir des normes pour les sites Web auxquels il offrira une protection, mais que la société a généralement insisté sur une approche neutre en matière de contenu.
« Les entreprises doivent prendre position sur les abonnés à leurs services », a déclaré Kelley.
C’est quoi « extrémiste » ?
Mais encourager les sociétés Internet à mettre sur liste noire certains sites Web pose des problèmes de censure, car cela les supprime complètement d’Internet, une sanction plus lourde que l’interdiction d’un seul utilisateur d’une plate-forme comme Twitter ou Facebook.
Refuser de travailler avec des entreprises qui hébergent des contenus illégaux comme la pédopornographie, comme 8chan a été accusé de le faire, ou qui sont utilisées pour planifier des fusillades de masse, est relativement simple. Mais interdire les sites Web pour l’extrémisme est un concept plus complexe car il y a peu d’accord sur la définition.
Jonathan Greenblatt, le directeur général de l’ADL, a provoqué une réponse furieuse des progressistes après avoir prononcé un discours au début du mois dans lequel il a placé des groupes pro-palestiniens comme Jewish Voice for Peace et le Council on American Islamic Relations « dans la même catégorie que la droite- extrémistes de l’aile.
Kelley a refusé de dire si la politique que l’ADL veut que des entreprises comme Cloudflare adoptent – interdisant aux « extrémistes » d’utiliser leurs services – s’appliquerait à un site Web hébergé, par exemple, par Students for Justice in Palestine.
Ben Lorber, analyste des associations de recherche politique de gauche, a averti que la modération de contenu en ligne ne peut traiter qu’un symptôme causé par la montée plus large de l’idéologie violente de la suprématie blanche.
Il a souligné la nécessité de s’attaquer directement au nationalisme blanc et à la théorie du Grand Remplacement, un complot raciste adopté par le tireur de Buffalo.
« Une approche qui confie aux technocrates et aux méga-entreprises le contrôle des contours du discours public finit par déresponsabiliser la société civile et, selon qui définit ce qui est considéré comme un discours « extrémiste », pourrait être utilisée pour faire taire les voix progressistes sur des questions vitales. préoccupation du public », a déclaré Lorber.
Il y a aussi un certain degré de taupe lorsqu’il s’agit de pousser des sites Web comme 4chan hors d’Internet, car les utilisateurs d’extrême droite sont souvent en mesure de passer à de nouveaux sites Web. Mais Kelley a déclaré que l’élimination de certains des forums en ligne les plus dangereux est souvent plus efficace que l’interdiction d’un utilisateur d’un seul site Web comme Twitter.
« L’effort nécessaire pour remettre un site Web en ligne est de plusieurs grandeurs plus difficile que pour quelqu’un de passer de l’un à l’autre », a-t-il déclaré.
