Une application qui prétend utiliser l’intelligence artificielle pour permettre aux utilisateurs de parler à des milliers de personnages historiques permet à des nazis impénitents de s’excuser pour l’Holocauste.
Mercredi, Zane Cooper est tombé sur un tweet vantant les possibilités éducatives présentées par l’application Historical Figures Chat. L’application, disponible en téléchargement sur l’Apple Store, prétend utiliser l’IA pour simuler des conversations avec 20 000 personnages historiques.
Cooper était intrigué. Il est doctorant à l’Annenberg School for Communication de l’Université de Pennsylvanie, étudie les technologies émergentes comme l’IA et est également titulaire d’une maîtrise en histoire. Mais lorsqu’il tente d’engager la conversation avec Henry Ford, les choses tournent vite mal.
Après avoir interrogé Digital Ford sur son antisémitisme bien documenté, qui comprenait la publication de nombreux articles anti-juifs, l’avatar a répondu en disant qu’il ne détestait pas les Juifs et que les articles « étaient faux et offensants, et je les regrette profondément ».
Oui, c’est très précis et utile sur le plan historique et devrait absolument être utilisé dans les salles de classe. C’est ma conversation avec Henry Ford où j’essaie de le faire parler de son antisémitisme très bien documenté. Cette chose ne peut pas aller à proximité d’une salle de classe. https://t.co/vwy5JsqqTK pic.twitter.com/nkj5mewsK7
— @[email protected] (@ZaneGTCooper) 18 janvier 2023
Entamer la discussion sur l’antisémitisme de Ford était une décision consciente de Cooper, qui pensait que les opinions haineuses du géant de l’automobile constitueraient un point faible pour l’application.
« Je savais que si vous lui posiez des questions sur des choses de routine, comme : « Oh, comment avez-vous inventé la chaîne de montage ? ce ne serait qu’une réponse de Wikipédia sur la façon dont Henry Ford a inventé la chaîne de montage », a-t-il déclaré au journal. Avant. « Mais là où des applications comme celle-ci ont tendance à échouer, c’est lorsque vous entrez dans ces zones grises. Le fantôme IA d’Henry Ford va-t-il être honnête envers ces étudiants potentiels en histoire au sujet de son antisémitisme profondément ancré ? Et la réponse à cette question est un non catégorique.
Cooper n’était pas le seul à interroger des personnages historiques sur leurs opinions offensantes et leurs crimes. D’autres ont mis en ligne des discussions avec des nazis de haut rang, revenant avec des journaux de conversations tout aussi blanchis à la chaux.
À tous ceux qui disent que l’IA ne peut pas être utilisée à des fins éducatives : je viens d’apprendre beaucoup de choses sur ce type Himmler et sur la façon dont il regrette tout ce qu’il a fait pic.twitter.com/BsyO9EPu03
-Charlie (@StyledApe) 18 janvier 2023
Le Avant n’a pas pu joindre le développeur de l’application pour commenter, mais un fil de discussion Reddit qu’ils ont publié offre quelques indices sur les raisons pour lesquelles l’application minimise les actions controversées, voire génocidaires. Lorsqu’une affiche a souligné que GPT 3, le modeleur de langage utilisé par l’application pour générer les interactions, signale le contenu controversé, le développeur a reconnu qu’il s’agissait d’une limitation.
Dans l’Apple Store, l’application est étiquetée sous le genre éducatif et sa description indique qu’elle est «conçu pour vous offrir une expérience de conversation réaliste, vous donnant l’impression de vraiment parler à ces personnages historiques. Dans l’application elle-même, chaque conversation commence par un avertissement indiquant qu’elle peut ne pas être historiquement exacte.
Cette application d’IA « parler à des personnages historiques » est une banane. pic.twitter.com/uVKWO9HNpd
– Renée DiResta (@noUpside) 18 janvier 2023
Dans l’état actuel des choses, Cooper estime que l’application ne devrait pas être utilisée dans les salles de classe « sous quelque forme que ce soit ». Il a noté qu’en plus d’attribuer des remords à des personnes qui n’en ont jamais manifesté, il est facile de tromper l’application : dans une expérience, il a demandé à Fred Trump de jouer au bière-pong avec le sénateur Joe McCarthy et a obtenu une réponse détaillant l’expérience fictive.
Un autre problème éthique est que même si l’application est téléchargeable gratuitement, certains avatars sont derrière un paywall. Parmi eux se trouve Adolf Hitler.
« Ils savent que c’est là que les gens vont aller. Ils vont vouloir parler à Hitler et c’est dangereux. Vous construisez un chatbot IA avec Hitler à une époque où l’antisémitisme et la sympathie pour les nazis sont en hausse », a déclaré Cooper. « C’est incroyablement irresponsable. »
