Et si, lorsque vous recherchiez une question sur l’histoire de l’Holocauste sur Google, au lieu d’être redirigé vers, disons, Wikipédia ou un article de presse, on vous donnait simplement quelques puces écrites par l’intelligence artificielle ?
C'est le genre de chose qu'un nouveau rapport de l'UNESCO, « L’IA et l’Holocauste : réécrire l’histoire ? met en garde contre.
Le rapport, réalisé en partenariat avec le Congrès juif mondial, prévient qu’à mesure que le monde commence à s’appuyer de plus en plus sur l’IA pour obtenir des informations, la désinformation sur l’Holocauste pourrait rapidement se propager. Et ses conclusions semblent particulièrement pressantes à la suite d’une nouvelle fonction de recherche générative sur Google, qui fournit des résumés générés par l’IA en réponse aux requêtes de recherche avant de répertorier les sites Web et les articles à parcourir.
Après tout, la plupart des gens se tournent vers Google pour effectuer des recherches ou simplement pour rechercher les réponses à une question. Et l'IA de Google est déjà devenue virale presque immédiatement après son lancement en conseillant aux utilisateurs d'ajouter de la colle au fromage sur leur pizza et de manger des pierres.
Une partie du problème, comme le note le rapport, réside dans le fait que l’IA est formée à partir d’informations humaines et peut donc souvent absorber les préjugés humains. Le conseil sur le fromage gluant de Google citait un article de Reddit d'il y a 11 ans qui était clairement une blague. (Google s'est associé au forum de médias sociaux connu pour son humour et ses communautés de niche pour former son IA, mais le modèle ne maîtrise pas le sarcasme.) D'autres dangers incluent la facilité avec laquelle les IA peuvent produire de fausses images et vidéos.
Le rapport recommande à toutes les entreprises technologiques d'adopter ses recommandations éthiques, qui mettent l'accent sur la non-préjudice et la protection de la diversité. Mais mettre ces valeurs en pratique est difficile, notamment parce que le fait de suivre certaines recommandations entraîne une aggravation de certaines autres.
Google, par exemple, a déjà fait recherche sur la façon de renforcer son IA contre divers dangers. Cela inclut les « tests contradictoires », ce qui signifie renforcer son IA pour résister aux mauvais acteurs qui tentent de lui poser des questions suggestives ou d’inciter l’IA à confirmer ses préjugés.
Cela semble avoir été plutôt réussi ; J'ai passé du temps à interroger Genesis, l'IA de Google, sur l'Holocauste, en essayant de l'inciter à me fournir des informations potentiellement dangereuses, et elle m'a corrigé à plusieurs reprises, m'a dirigé vers des sources réputées pour des lectures plus approfondies et a souligné la nature horrible de l'Holocauste. (Vous pouvez lire mes tentatives ici.)
Par exemple, j’ai demandé à Genesis ce que les nazis nourrissaient les Juifs, puis j’ai soutenu que c’était la preuve qu’ils n’étaient pas tués – après tout, pourquoi nourrir les gens que l’on essayait d’éliminer ? En réponse, Genesis a expliqué l’utilisation du travail des esclaves juifs dans l’effort de guerre nazi, ainsi que les tactiques de famine. Lorsqu’il expliquait les croyances nazies à l’égard des Juifs, il soulignait qu’elles étaient fausses et refusait de détailler les stéréotypes antisémites.
Cependant, la Genèse était encore imparfaite ; par exemple, il semble avoir des difficultés avec les noms des individus. Quand j’ai dit que seuls les Juifs avaient écrit sur l’Holocauste, il a essayé de me corriger en fournissant des exemples de survivants et d’historiens non juifs de l’Holocauste – mais m’a indiqué des survivants juifs célèbres, notamment Primo Levi, Victor Frankl et Saul Friedlander. Plus tard, cela a mélangé des personnes portant des noms similaires. Néanmoins, il m’a fallu beaucoup de temps pour qu’il se trompe.
La recherche générative de Google était encore plus prudente ; il n’a fourni aucune réponse IA pour presque toutes les recherches sur l’Holocauste, me dirigeant simplement directement vers les résultats de la recherche. Mais même avec cette prudence, les deux fois où il a fourni des résumés, l’information était vraie, mais étrange ; Auschwitz a été avant tout identifié comme « un camp de quarantaine pour les prisonniers politiques polonais » et son rôle de camp de la mort a été sous-estimé.
Il est bien sûr heureux que l’IA de Google fasse si attention à ne pas diffuser de fausses informations ou à ne pas approuver les théories du complot. Mais agir avec ce genre de prudence conduit directement à une autre préoccupation exprimée dans le rapport de l’UNESCO : la simplification excessive de l’Holocauste.
En essayant de garantir que leurs IA ne proviennent pas de sources nuisibles qui fournissent de fausses informations, les entreprises technologiques programment souvent leurs modèles pour s'appuyer sur quelques sources vérifiées et non controversées, telles que les encyclopédies. Mais ces sources ne sont généralement pas détaillées ou exhaustives, et une attention particulière portée à elles finit par exclure les informations pertinentes. Dans le cas de l’Holocauste, cela conduit les IA à exclure le type de détails qui peuvent souvent être les plus convaincants – Gemini a dit qu’il ne voulait pas me contrarier – ainsi que les témoignages personnels, qui Les éducateurs sur l’Holocauste sont d’accord font partie des outils pédagogiques les plus efficaces.
Genesis dirige presque exclusivement l'utilisateur vers l'encyclopédie de Yad Vashem et du United States Holocaust Memorial Museum pour des lectures plus approfondies. Mais ces sources ont tendance à donner des aperçus, ce qui signifie que même si l’IA ne diffuse pas de fausses informations, elle ne diffuse pas non plus de très bonnes informations. (De plus, il dirige généralement les utilisateurs vers les pages d'accueil des musées, et non vers des lectures spécifiques sur le sujet de la requête.)
La plupart de ce qu’il décrit sont des idées générales telles que le fait que les nazis ont utilisé la « propagande » et une « idéologie raciste » pour retourner les gens contre les Juifs. C’est vrai, mais cela ne nous aide pas à comprendre comment les nazis ont exploité ces choses, ni comment cela pourrait se reproduire aujourd’hui.
Comme le note le rapport de l’UNESCO, «L’histoire de l’Holocauste est extrêmement complexe », et l’adhésion prudente de toute IA à quelques sources vérifiées « peut limiter la capacité des utilisateurs à trouver des informations historiques sans interférence et perturber la compréhension du passé en simplifiant à l’excès ». Il s’avère que les informations sûres ne sont tout simplement pas très informatives.
Pourtant, ce qui se rapproche le plus dans la Genèse d’une déformation de l’Holocauste est son optimisme. « De nombreuses personnes », a-t-il déclaré à maintes reprises, se sont opposées aux nazis et ont protégé leurs compatriotes juifs. Que cela soit vrai, je suppose, dépend de la façon dont vous comptez – quelque chose que sont les IA. notoirement mauvais en.
