Le mois dernier, un utilisateur a demandé à Grok, le chatbot de l'intelligence artificielle d'Elon Musk, dont la figure historique était «la mieux adaptée» pour gérer le problème du peuple juif. « Adolf Hitler, sans aucun doute », a répondu Grok. « Il repérait le motif et le gérerait de manière décisive, à chaque fois. »
Peu importe à quel point ses réponses peuvent sembler lisses, l'IA ne pense pas. Il mâche et reconstitue le contenu produit par l'homme qu'elle a été alimentée. Formées sur tout, des articles de presse aux livres aux publications sur les réseaux sociaux, ces modèles d'IA agissent comme un miroir et crachent le bien, le mauvais et le laid, y compris l'antisémitisme.
Mais comment les gens utilisent L'IA agit également comme un miroir. Et en ce moment, cette utilisation montre des individus et des groupes désireux d'armement à la toxicité à des fins politiques. Cela inclut les juifs et les voix pro-israéliennes qui emploient de plus en plus l'IA pour répandre la haine, souvent contre les musulmans. L'IA reflète non seulement l'antisémitisme, mais aussi la haine provenant de la communauté juive.
Cet abus est particulièrement décevant compte tenu des antécédents de propagande anti-juive. Les fanatiques avertis se sont longtemps appuyés sur de fausses représentations de Juifs pour répandre la haine. Les empreintes de Juifs commettant un meurtre de sang rituel au XVe siècle ont renforcé la diffamation sanguine. À la fin du 19e et au début du XXe siècle, le journal français Libération conditionnelle de la libre Publié des caricatures haineuses représentant les Juifs comme des infiltrateurs étrangers avides de l'argent profitant des pauvres, alimentant l'antisémitisme au moment de l'affaire Dreyfus. Des films de propagande nazis ont peint les Juifs comme des sexuellement violents et gourmands.
Maintenant, avec l'IA, les utilisateurs individuels peuvent créer un contenu anti-juif qui est beaucoup plus convaincant avec beaucoup moins d'efforts. Sur Tiktok, vous pouvez trouver des vidéos antisémites qui semblent avoir été créées avec le populaire modèle VEO3 AI de Google. Dans une vidéo, depuis éliminé, un juif religieux ramasse un sou et fait l'éloge de leur «chance du nez», les tours jumelles brûlant en arrière-plan. Dans un autre, un homme juif religieux, a posé des questions sur son passe-temps préféré, répond: « Je suis entre sortir des pièces de la fontaine d'eau ou faire combattre mes batailles en Amérique. »
«Pourquoi les Juifs n'aiment-ils pas la pizza?» Un soldat dans ce qui ressemble à Nazi Garb demande au spectateur dans une autre vidéo générée par VEO3. « Parce que la pizza sort du four. »
C'est une erreur de penser que la haine ne se dirige que dans une direction. Les Juifs d'extrême droite et les voix pro-israéliennes adoptent l'ancien livre de jeu des antisemites dans leur croisade contre les musulmans. Ils exploitent des représentations de réalités alternatives et des avenir imaginaires pour aiguiser la haine actuelle et réelle.
Les comptes pro-israéliens sur les réseaux sociaux partagent de plus en plus de contenu généré par l'IA, y compris une future ville de New York sous un régime islamique radical en raison de la principale victoire du candidat démocrate de la mairie Zohran Mamdani. Dans une vidéo Instagram, les synagogues sont embarquées, les Juifs doivent s'inscrire à un statut spécial et un homme raconte le fait par un point de contrôle de sécurité parce qu'il ressemble «à un Bernstein».
Ces images jouent sur de vraies peurs. Ils activent les émotions négatives que les études montrent évasé lorsque nous voyons un contenu graphique ou violent. En tant que chercheur qui étudie les informations en ligne, j'ai l'habitude de traiter les images générées par l'IA. Mais en regardant cette vidéo d'un New York dystopique, une ville dont je vivais à 20 minutes pendant la majeure partie de ma vie, j'ai senti mon corps tendu et mes mains se serreront, même si je savais que la vidéo était fausse. Pour la plupart, il est impossible de dire à l'œil nu si le contenu est généré par l'IA. C'est juste trop bon.
Le compte qui a produit cette vidéo Instagram stimulant l'alarme par rapport à une administration potentielle de Mamdani fait partie d'un modèle plus large. L'année dernière, une opération d'influence liée au gouvernement israélienne a utilisé le contenu généré par Chatgpt dans une tentative infructueuse de influencer les législateurs démocrates pour maintenir le soutien à Israël. Les colons israéliens extrémistes ont partagé une vidéo générée par l'AI-AI de brûlure de la mosquée Al-Aqsa.
Un compte Tiktok dit qu'ils «ont demandé à l'IA de construire un méchant qui s'en fiche si vous ne pouvez pas gérer la vérité». Il a partagé une vidéo d'une jeune femme, qui n'est pas une vraie personne, parlant de la façon dont «la Palestine semble vraiment mignonne pour quelque chose qui n'a jamais existé». Les faux influenceurs d'IA de ce genre sont un conduit pour les comptes anonymes pour répandre la vraie haine, à grande échelle, via des porte-parole de type humain.
Pendant ce temps, d'autres comptes cooptent l'IA pour visualiser le décantation de Gaza, s'inspirant d'une vidéo que le président du président Donald Trump a publié en février d'un «Trump Gaza», rempli d'hôtels de luxe et de statues dorées du président. Il y a deux semaines, la ministre de l'innovation, de la science et de la technologie d'Israël, Gila Gamliel, du parti Likud du Premier ministre Benjamin Netanyahu, a publié une vidéo générée par l'AI d'Israéliens remplaçant les Palestiniens dans le Strip. Elle a exhorté «l'émigration volontaire», un euphémisme pour un crime de guerre, et a conçu le conflit comme «nous ou eux».
Ces vidéos ne sont pas des franges. La vidéo de Gamliel et d'autres comme elle ont reçu des millions de vues combinées.
L'impact d'Internet et de l'IA sur la propagation de la haine n'est pas si mauvais. Ces outils offrent des moyens puissants pour gagner du contexte. Une étude du MIT, de l'American University et de l'Université Cornell a suggéré que discuter avec l'IA peut aider à démystifier les théories du complot. Si vous demandez à Chatgpt: «Comment savons-nous que l'Holocauste est réel?» Il fournira généralement une très bonne réponse.
Dans une tentative, il m'a indiqué, puis a détaillé un «large éventail de sources indépendantes et fiables – y compris des documents, des témoignages de témoins oculaires, des restes physiques et des admissions des auteurs eux-mêmes.» Lorsque j'ai remis en question la faisabilité des chambres à gaz, Chatgpt a expliqué comment Zyklon B a fonctionné, fourni des témoignages des essais d'après-guerre et décrit les preuves médico-légales.
Mais pour l'instant, l'IA reste impatiente de plaire et flexible à la volonté de l'utilisateur, et le matériau généré par l'AI est principalement indiscernable du contenu authentique. Combiné, le résultat sera un torrent d'une propagande très convaincante et d'extrême droite qui peut tout semer, de la violence des colons de la Cisjordanie aux relations judiciaires musulmans tendus aux États-Unis
J'ai peur de l'IA entre les mains des antisémites. J'ai tout aussi peur de l'IA entre les mains des Juifs d'extrême droite, un gouvernement israélien radical et des comptes «pro-israéliens». Ils utilisent l'IA pour répandre l'islamophobie, promouvoir le nettoyage ethnique et mener des opérations d'influence qui affirment leurs idéaux suprémacistes juifs racistes. Plus inquiétant, l'IA peut être un facteur clé qui les aide à réussir. Les Juifs connaissent trop la facilité avec laquelle le contenu faux peut saigner dans des réalités déchirantes.
Si l'IA est un miroir, les Juifs ne peuvent pas ignorer ses réflexions, qu'ils soient antisémites ou les images profondément dérangeantes émergeant de notre propre communauté.
