(JTA) – Un ancien directeur sportif d'un lycée de la région de Baltimore a été arrêté jeudi matin et accusé d'avoir utilisé l'intelligence artificielle pour simuler des propos antisémites et racistes prétendument tenus par le directeur de l'école.
Cette affaire fait partie d’un nombre croissant d’incidents d’usurpation d’identité générés par l’IA, qui, selon les experts, constituent une nouvelle préoccupation dans un domaine technologique en pleine croissance et à peine réglementé. Il s'agissait d'un cas inhabituel de faux commentaires antisémites afin de nuire à la réputation d'une personnalité publique.
La police du comté de Baltimore a accusé Dazhon Darien, ancien du lycée de Pikesville, d'avoir perturbé les activités scolaires. Les autorités ont déclaré qu'il avait utilisé le réseau de l'école pour accéder au logiciel OpenAI lui permettant de falsifier un enregistrement attribué au directeur Eric Eiswert, selon la bannière de Baltimoreune salle de rédaction locale à but non lucratif.
Dans l’enregistrement, une voix ressemblant à celle d’Eiswert dit : « Si je dois recevoir une plainte supplémentaire d’un Juif de plus dans cette communauté, je rejoindrai l’autre camp. » La voix a également tenu des propos racistes à l’égard des étudiants noirs. Pikesville est au centre de la communauté juive du grand Baltimore.
L'enregistrement s'est répandu sur les réseaux sociaux en janvier et a également été envoyé à au moins trois enseignants du district, dont l'un a déclaré à la police qu'elle l'avait transmis à un élève sachant qu'il le diffuserait rapidement en ligne. Une adresse e-mail liée à Darien a envoyé l'audio à diverses sources.
Certains membres de la communauté ont rapidement attribué ces commentaires à Eiswert, qui est blanc, faisant allusion à un historique de tensions avec les communautés minoritaires. « Je ne suis en aucun cas surpris par ses commentaires dans cet enregistrement », a déclaré Deray Mckesson, un éminent militant pour la justice raciale de la région de Baltimore, qui a déclaré avoir eu Eiswert comme professeur de lycée. » a écrit sur le réseau social X en janvier. Il a demandé qu’Eiswert « soit renvoyé immédiatement » et que sa licence d’enseignant soit « définitivement révoquée ».
La surintendante Myriam Rogers a déclaré que ces commentaires étaient « des déclarations très offensantes et inappropriées à l'égard des étudiants afro-américains, du personnel du lycée de Pikesville et de la communauté juive de Pikesville ».
Mais Eiswert a nié avoir fait ces commentaires, et des questions ont rapidement été soulevées quant à l'authenticité de la voix. Les autorités locales et le district scolaire ont rapidement lancé une enquête.. Eiswert n'a pas travaillé à l'école depuis ses débuts, bien que le district n'ait pas voulu dire s'il avait été démis de ses fonctions.
En mars, Des experts en IA ont déclaré aux informations locales que l'audio était très probablement falsifiécitant sa qualité plate et le manque de bruits respiratoires cohérents.
« Dès le début de cet incident, l’enregistrement a semblé étrange et suspect », a déclaré jeudi Howard Libit, directeur exécutif du Conseil juif de Baltimore, à la Jewish Telegraphic Agency. Libit a expliqué que c'était la raison pour laquelle l'organisation avait retenu tout commentaire initial.
« J'apprécie que la police et le système scolaire prennent le temps d'enquêter et d'aller apparemment au fond de ce qui s'est réellement passé », a ajouté Libit. « Il est effrayant de voir comment l’IA peut être manipulée de cette manière et causer de tels dégâts à une communauté scolaire et à un individu. Nous avons suffisamment d’incidents d’antisémitisme et de racisme dans nos communautés sans que de telles choses se produisent. »
Dans le document d'accusation, la police note qu'Eiswert soupçonnait Darien d'avoir créé le faux enregistrement en guise de vengeance après que son contrat n'ait pas été renouvelé.
Cet article a été initialement publié sur JTA.org.
J'espère que vous avez apprécié cet article. Avant de partir, j'aimerais vous demander de soutenir le journalisme primé du La Lettre Sépharade pendant cette Pâque.
À l’ère de la désinformation, notre travail est plus que jamais nécessaire. Nous rapportons l’actualité qui compte le plus pour les Juifs américains, motivés par la vérité et non par l’idéologie.
À l’heure où les rédactions ferment ou réduisent leurs effectifs, le La Lettre Sépharade a supprimé son paywall. Cela signifie que pour la première fois au cours de nos 126 ans d’histoire, le journalisme La Lettre Sépharade est gratuit pour tous, partout. Avec une guerre en cours, une montée de l’antisémitisme et un flot de désinformation qui pourrait affecter les prochaines élections, nous pensons qu’un accès libre et ouvert au journalisme juif est impératif.
Des lecteurs comme vous rendent tout cela possible. En ce moment, nous sommes au milieu de notre collecte d'engagements pour la Pâque et nous avons encore besoin que 300 personnes se mobilisent et fassent un don pour soutenir notre journalisme fiable et indépendant.
Faites un don de n'importe quelle taille et devenez un Avant député aujourd'hui. Vous soutiendrez notre mission de raconter l’histoire juive américaine de manière complète et équitable.
— Rachel Fishman Feddersen, éditrice et PDG
Rejoignez notre mission de raconter l'histoire juive de manière complète et équitable.
Plus que 300 cadeaux supplémentaires nécessaires d’ici le 30 avril
36 $ 500 $
120 $ 180 $ Autre montant
