Pendant 11 ans, un site Internet posait aux visiteurs une seule question : pour quoi voulez-vous demander pardon ?
Le site Internet, AtoneNeta publié les réponses – sans aucun nom – pour que le public puisse les consulter, et avant Yom Kippour, le Jour des Expiations juives, a publié une brochure les compilant. Imprimées et rangées dans un livre de prières des Fêtes, les confessions de la communauté ont donné à la liturgie – et à l'acte de repentance – un rafraîchissement et une sensation personnalisée du 21e siècle.
Les confessions étaient souvent émouvantes et toujours humaines – jusqu'à ce qu'un jour de l'année dernière, elles ne l'étaient plus. David Zvi Kalman, qui a créé et gère le site, a déclaré cette semaine qu'AtoneNet avait cessé d'accepter les soumissions – et cessait donc ses activités – parce que l'intelligence artificielle rendait leur authentification impossible.
« Il ne m'est plus possible de dire si elles correspondent à de véritables confessions humaines », a déclaré Kalman, chercheur à l'Institut Shalom Hartman et contributeur occasionnel au Avanta écrit dans un article de blog expliquant la décision. « Les utilisateurs du site peuvent eux aussi, à juste titre, considérer la politique d'anonymat du site comme une raison de ne pas faire confiance à ce qu'ils y voient. »
Ce que l'humble petit site Web de Kalman a vécu reflète une transformation qui se produit sur Internet. L'accessibilité généralisée de grands modèles de langage comme ChatGPT a inondé les espaces en ligne avec «pente» – le terme désignant le contenu indésirable généré par l’IA – rendant les éléments authentiques plus difficiles à discerner. AtoneNet est loin d'être la seule victime.
Inscrit dans le livre
Kalman, qui étudie l'intersection de la religion et de la technologie, a lancé le site Web en 2013 en réponse à la viduila prière confessionnelle que les Juifs récitent à Yom Kippour, se frappant souvent la poitrine en énonçant chaque transgression. La liturgie rend les péchés collectifs au sens large – ceux commis par la parole, par exemple, ou en recourant à la coercition – d'une manière que Kalman, aujourd'hui âgé de 37 ans, considère comme trop abstraite.
« Si vous écoutez les gens s’excuser en utilisant leurs propres mots, cela semble assez différent des mots que vous pourriez voir dans le livre de prières », a-t-il déclaré dans une interview. « Cela donne l'impression que le livre de prières est plus distant qu'il ne le serait autrement. »
Les soumissions à AtoneNet, en revanche, étaient intimes – et immédiates : une tapisserie vivante de culpabilité juive. Tour à tour scandaleux (« sortir de mon mariage »), familier (« être impatient avec mon fils ») et spécifique (« être toujours frustré par ma mère qui était sourde après 33 ans »), ils avaient tendance à capturer les faiblesses de la vie moderne (« penser que les débats sur Facebook pourraient être « gagnés ») et les comptes de la société dans son ensemble (« douter de la démocratie au lieu de s'impliquer dans la démocratie »).
Rouleau à travers eux, et vous en trouverez probablement un que vous auriez pu écrire vous-même.
Ils ont changé au cours des 11 années de vie du site, m'a dit Kalman. Après les manifestations Black Lives Matter en 2020, par exemple, de nombreuses personnes ont avoué leurs préjugés raciaux. Pendant la pandémie, une personne s’est excusée d’avoir refusé à ses enfants de s’en sortir via TikTok.
Au total, il y a eu des centaines de réponses, suffisamment pour que le livret imprimable de Kalman contienne cinq sections – correspondant aux cinq services de prière de Yom Kippour, dont chacun contient le vidui – avec des dizaines de confessions dans chacune. Kalman a déclaré que de nombreuses personnes lui ont dit qu'elles l'avaient apporté avec elles à la synagogue le jour le plus saint de l'année.
Si la mort d'AtoneNet par l'IA est un marqueur de l'Internet d'aujourd'hui, sa naissance était le signe d'une autre époque. Il était hébergé sur Tumblr, une plateforme de blogs dont la fonction de boîte de questions intégrée en faisait un chouchou des débuts, lorsque l'anonymat d'Internet semblait plus libérateur que dangereux. La vulnérabilité des premières soumissions n’a pas surpris Kalman – Internet était exactement comme ça à l’époque.
« Les gens sont en fait prêts à être assez bruts en ligne sur de nombreux aspects de leur vie », a-t-il noté. « Surtout si leur nom n'y est pas attaché. »
Qui (ou quoi) vivra ?
Kalman avait prévu de gérer AtoneNet pour toujours – tant qu'il y aurait des péchés à confesser. Mais il y a quelques mois, Kalman a remarqué quelque chose d'étrange dans les soumissions : une rafale était arrivée à peu près au même moment et leur ton était étrange.
« Je me disais, attendez une minute, quelqu'un pourrait utiliser ce site pour tester les réponses à une invite », se souvient-il.
Le sort du site était scellé : pas de nouveau pamphlet pour l'année juive qui a commencé la semaine dernière, 5785. (Vous pouvez toujours télécharger le 5784 ; de nombreux péchés – « sauter la synagogue le Shabbat », par exemple, ou « éviter d'appeler mon père » – sont pérennes. )
D'autres sites Web ont rencontré des problèmes similaires. Revue new-yorkaise décrit plus tôt cette année, comment le slop avait forcé le magazine de science-fiction Le monde de Clarkes pour suspendre les soumissions des utilisateurs. Les forums qui dépendent de confessions anonymes ont longtemps été minés par le scepticisme quant au fait que les messages soient inventés – maintenant les membres se demandent si quelqu'un les a écrits. Les plateformes de médias sociaux comme Facebook et X sont désormais submergées de contenu, notamment désinformation malveillante – publié par des robots fonctionnant sur des modèles d'apprentissage des langues.
Les gens qui pleurent la fin de l’Internet pré-IA espèrent que le slop finira par devenir si répandu que les gens retourneront dans le monde réel pour s’en éloigner. Kalman en fait partie.
Et pour ce que ça vaut, il ne semblait pas trop bouleversé par la mort de son projet.
« L'un des pièges dans lesquels les gens peuvent tomber, c'est que vous avez ces innovations étonnantes, puis elles se calcifient en quelque sorte », a-t-il déclaré. « Du genre : « Cette innovation était si bonne, faisons-la ainsi pour toujours. » Et c'est un modèle épouvantable. Je pense que c'est bien de réinventer continuellement les idées.