Pendant des années, la Ligue anti-diffamation a défendu la position claire et inébranlable selon laquelle les vidéos réalisées par des terroristes et des groupes haineux n’ont pas leur place sur Internet. Les vidéos haineuses trompent les enfants, empoisonnent l’expérience en ligne pour tout le monde et constituent un outil malheureux, mais efficace, pour recruter de nouvelles générations d’extrémistes violents.
Aujourd’hui, ADL constate l’impact de ses efforts sur les vidéos haineuses en ligne : Google, y compris sa filiale YouTube, et pratiquement tous les autres sites de vidéos en ligne majeurs ont élaboré des politiques, employé des équipes et mis en place des technologies pour s’attaquer au problème de la haine en ligne.
De grandes marques – dont Starbucks, Walmart, PepsiCo, AT&T, Verizon, Volkswagen et Johnson & Johnson – ont récemment rejoint ADL dans la condamnation de la haine en ligne, et elles l’ont fait d’une manière publique qui met en lumière le problème et devrait avoir un impact considérable sur Google. ligne de fond. Ces annonceurs ont extrait leurs annonces de YouTube, car les algorithmes de placement d’annonces de Google permettaient aux annonces de ces marques d’apparaître avant les vidéos haineuses.
Le Times de Londres estime que Google risque de perdre 750 millions de dollars de revenus annuels en raison de la publicité retirée.
Google a reconnu le besoin d’amélioration en ce qui concerne le placement d’annonces sur les vidéos haineuses, bien que la société suggère, dans la grande majorité des cas, que ses politiques fonctionnent comme prévu. Google dépenserait des millions de dollars et emploierait des milliers de personnes pour mettre fin aux mauvaises pratiques publicitaires. L’année dernière, il a déclaré avoir supprimé près de deux milliards de « mauvaises publicités » et empêché 300 millions d’autres de s’afficher sur YouTube.
ADL est sensible au problème de Google. L’ampleur du problème est immense. Son réseau compte des millions de sites et 400 heures de vidéo sont téléchargées sur YouTube chaque minute. Google dit qu’il est sur le point d’éliminer le placement de « mauvaises annonces ». Mais pour les annonceurs qui abandonnent Google en masse en raison d’emplacements d’annonces erronés, la proximité n’est pas suffisante.
ADL est impatient, comme nous l’avons fait par le passé, de travailler avec Google sur ce nouveau chapitre de la lutte contre la haine en ligne. Nous mettons en garde contre une réaction excessive et espérons que la liberté d’expression légitime ne sera pas affectée par les nouvelles approches de filtrage. Déterminer ce qui est et ce qui n’est pas un discours de haine est souvent un exercice nuancé qui ne peut être entièrement laissé à l’intelligence artificielle.
La crise actuelle est un moment opportun pour Google et d’autres entreprises en ligne pour envisager des approches innovantes du problème. Il y a des années, lorsqu’une recherche du terme « Juif » sur Google renvoyait le site Web d’un site Web virulemment antisémite, Google a placé une annonce ADL à côté du résultat de la recherche afin que les utilisateurs puissent accéder à des informations sur l’antisémitisme et les discours de haine. Une approche similaire est nécessaire dans ce nouveau monde de la haine vidéo en ligne.
Depuis l’avènement d’Internet, ADL a encouragé les plateformes en ligne à prendre au sérieux la haine en ligne. Le récent épisode avec Google montre que d’autres, y compris de grandes entreprises, partagent la grave préoccupation d’ADL. Le moment est venu de développer de nouvelles solutions pour lutter contre ce problème pernicieux.
Brittan Heller est directeur du Centre sur la technologie et la société de l’Anti-Defamation League, basé dans la Silicon Valley.
