Deux semaines après que le chatbot Grok d'Elon Musk ait félicité Adolf Hitler, suggéré aux Juifs de contrôler Hollywood et a craché le déni de l'Holocauste, l'entrepreneur milliardaire a annoncé son intention de publier une version pour les enfants.
Cela s'appelle «Baby Grok».
« Nous allons faire de Baby Grok @xai, une application dédiée au contenu adapté aux enfants », a publié Musk samedi soir sur X, la plate-forme qu'il possède. Dimanche après-midi, le tweet avait accumulé plus de 17 millions de vues.
Pour le moment, Grok est principalement utilisé sur X, où les utilisateurs doivent avoir au moins 13 ans.
C'est une décision de tête de tête pour la personne la plus riche du monde, qui, plus tôt ce mois-ci, était sous le feu pour avoir permis au système d'IA de son entreprise de générer un déni de l'Holocauste et des points de discussion nationalistes blancs.
La startup de Musk, Xai, a publié la dernière version de Grok le 9 juillet. La mise à jour – surnommée Grok 4 – a été conçue pour rivaliser avec le chatpt d'Openai et les Gémeaux de Google. Au lieu de cela, il est devenu le dernier point d'éclair de la lutte en cours pour mettre des garde-corps sur une IA générative.
L'IA de Musk a répondu aux invites des utilisateurs avec des tropes d'extrême droite. Interrogé sur les Juifs, Grok a affirmé qu'ils promouvaient la haine envers les Blancs. Il faisait écho à la rhétorique néonazie. Il a appelé à emprisonner les Juifs dans les camps. D'autres réponses ont suggéré que l'Holocauste avait peut-être été exagéré. Certaines réponses ont depuis été supprimées, mais beaucoup restent archivées en ligne.
Les réponses du chatbot n'ont pas émergé dans le vide.
Grok est formé sur une large bande de contenu en ligne – y compris les publications de X – et comme de nombreux systèmes d'IA génératifs, il imite les modèles dans ces données. Grok est le dernier d'une longue lignée de machines conçues pour «comprendre» les humains – et peut-être les plus disposés à faire écho à leurs impulsions les plus laides.
Musk a fait face à des critiques répétées pour amplifier le contenu antisémite sur X, y compris un article d'accord avec la théorie du «grand remplacement», une affirmation sans fondement que les Juifs conspirent pour remplacer les Blancs en Occident.
En janvier, il a publié des blagues sur le thème de l'Holocauste après avoir semblé effectuer un salut de style nazi lors d'un rassemblement inaugural pour le président Donald Trump. L'année dernière, il a visité Auschwitz avec le commentateur de droite Ben Shapiro et a suggéré que les médias sociaux auraient pu aider à prévenir l'Holocauste.
Maintenant, Musk vante Baby Grok – même si les experts avertissent que l'industrie n'est pas prête pour un tel produit. Les modèles génératifs d'IA sont notoirement difficiles à modérés, et les défenseurs de la sécurité des enfants ont signalé des préoccupations concernant la désinformation, le biais et l'exposition à un contenu nocif.
L'annonce intervient au milieu d'une préoccupation croissante concernant l'utilisation de l'IA générative avec des mineurs. Aucune directive fédérale n'existe actuellement sur la façon dont les outils d'IA ciblés par l'enfant ne doivent être formés, modérés ou déployés – laissant les entreprises établir leurs propres règles, souvent sans transparence.
