Facebook a fait face à sa juste part de scandales ces dernières années. Entre les rapports de 2014 selon lesquels le géant des médias sociaux a mené une expérience secrète pour évaluer les réactions émotionnelles de milliers d’utilisateurs avec des informations manipulées sans leur consentement, aux allégations selon lesquelles il aurait permis une ingérence étrangère dans les élections nationales aux États-Unis en 2016 révélées dans le Cambridge Analytica privacy crise, aux diverses violations de données et pratiques qui alimentent la désinformation sur les informations factuelles, aux accusations selon lesquelles l’incitation sur la plateforme a joué un rôle clé dans le génocide contre la minorité musulmane Rohingya au Myanmar, la liste est assez longue et comprend de nombreuses autres crises vertigineuses qui impactent la vie humaine.
Le témoignage de dénonciateur très médiatisé de la semaine dernière, associé à une panne mondiale de six heures sur Facebook, Instagram et WhatsApp, a jeté un nouvel éclairage sur les actes répréhensibles présumés de l’entreprise, suscitant la colère des gouvernements et des régulateurs du monde entier.
Le témoignage est intervenu après des semaines de silence de Facebook face à une série du Wall Street Journal basée sur des documents internes divulgués par l’ancienne chef de produit Facebook Frances Haugen. Elle a déclaré au Congrès mardi dernier que Facebook donne la priorité à ses propres intérêts, comme gagner plus d’argent au détriment du bien public, alimente la division, nuit aux enfants et doit être réglementé.
Et, cette fois, l’entreprise pourrait en fait faire face à certaines conséquences – non pas à cause des dernières fuites, mais parce que la panne a montré à quel point les systèmes de Facebook sont vulnérables et a affecté ses poches profondes, a déclaré le Dr Tehilla Shwartz Altshuler, chercheur principal à l’Israel Democracy Institute et responsable de son programme La démocratie à l’ère de l’information.
« Il y a eu des lanceurs d’alerte auparavant et différentes fuites », a déclaré Shwartz Altshuler au La Lettre Sépharade, notant les nombreux scandales, notamment que « Facebook vend les crises émotionnelles d’adolescents peu sûrs d’eux à des annonceurs depuis des années ».
« Aucun de ces épisodes n’a causé un tel problème à Facebook. Sans la panne, je ne pense pas que les fuites feront ce que le scandale de Cambridge Analytica n’a pas fait », a-t-elle déclaré, faisant référence aux révélations de 2018 selon lesquelles Facebook aurait permis à la société britannique d’exploration de données Cambridge Analytica de fouiller dans les données personnelles de millions de personnes. d’utilisateurs inconnus.
Mais depuis lors, il y a eu un grand changement dans les réglementations sur la protection des données et la confidentialité, en particulier en Europe, a déclaré Shwartz Altshuler, un expert en droit et en technologie.
«Les choses ont radicalement changé dans l’UE où ils ont adopté le règlement général sur la protection des données (GDPR) en 2018. Ils travaillent maintenant très, très dur pour compléter la législation de la loi sur les services numériques, qui va avoir un effet énorme sur les réseaux sociaux. plateformes médiatiques. Ils ont introduit la législation sur l’IA [The Artificial Intelligence Act]ce qui va prendre environ un an avant qu’il ne soit terminé », a-t-elle déclaré.
« Nous avons vu le même mouvement en Amérique. Regarde les gens à [US President Joe] Biden a été nommé à la FTC [Federal Trade Commission] et ses conseillers… beaucoup d’entre eux représentent le plus grand combat contre les plateformes de médias sociaux », a expliqué Shwartz Altshuler.
« La réglementation prend du temps. Si on veut la comparer à l’industrie du tabac, par exemple, il a fallu trois générations pour y faire face. La première génération, c’était quand quelqu’un pouvait aller voir son médecin et il disait « fume une cigarette, ça te fera te sentir mieux », et puis la deuxième génération, c’était quand il y avait plus de prise de conscience du mal. La troisième génération a apporté la réglementation. Car [the tobacco industry] avait un énorme lobby et la législation prend beaucoup de temps. En tant que pays ou État, vous devez évaluer différents aspects de la réglementation », a-t-elle déclaré.
Facebook existe maintenant depuis 17 ans et « disons que les huit premières années ont été paradisiaques, nous avons tous pensé ‘wow, quel outil incroyable’ – et c’est incroyable – et au cours des sept dernières années environ, nous avons réalisé le nuit et il faut du temps aux régulateurs pour réagir à cela.
Pour reprendre l’analogie du tabac, « nous sommes maintenant dans la transition entre la deuxième et la troisième génération » en ce qui concerne Facebook, a-t-elle ajouté.
Cette dernière fuite, a-t-elle dit, « n’affectera pas le grand changement, mais c’est une autre couche dans le tableau d’ensemble du changement d’attitude envers Facebook et du besoin de réglementation ».
La grande question est de savoir ce que nous voulons réglementer, a demandé Shwartz Altshuler.
« Voulons-nous réglementer la vie privée, c’est-à-dire ne pas permettre à Facebook de cibler des personnes [with ads]? Voulons-nous briser Facebook et le forcer à devenir plusieurs entreprises différentes [by selling off Instagram and WhatsApp] comme ils l’ont fait pour Bell dans les années 1970 [splitting Bell System into entirely separate entities]? Voulons-nous aborder les algorithmes [which control the ordering and presentation of posts and ads] et comment cela sera-t-il fait ? C’est la beauté de l’apprentissage automatique, il change avec le temps et évolue. Donc, cette discussion sur la transparence algorithmique – nous devons comprendre ce que cela signifie et qui va décider de ces choses », a-t-elle déclaré.
Peut-être que la bonne voie réglementaire devrait être liée à la responsabilité légale de la suppression de contenu ou de l’exposition à un contenu préjudiciable, a-t-elle proposé. Il y a tellement de questions à poser et à répondre, et pour que la réglementation entre en vigueur, elle a estimé qu’il faudrait encore cinq à six ans.
En attendant, nous avons besoin de plus d’alphabétisation et d’éducation numériques et d’autres solutions technologiques, telles que les contrôles parentaux et les startups qui peuvent aider à lutter contre les contenus préjudiciables, a-t-elle déclaré.
À cette fin – et au milieu du tumulte – Facebook a annoncé lundi qu’il introduirait plusieurs fonctionnalités pour protéger les enfants et les adolescents, notamment en les exhortant à faire une pause d’Instagram et en les «poussant» s’ils regardent à plusieurs reprises le même contenu. ce n’est pas propice à leur bien-être. Il a également annoncé son intention d’introduire de nouveaux contrôles pour les adultes des adolescents sur une base facultative, afin que les parents ou les tuteurs puissent superviser ce que font leurs adolescents en ligne.
Facebook a déclaré avoir fait de son mieux pour exclure les contenus préjudiciables de ses plateformes et s’est montré plus ouvert à la réglementation et à la surveillance ces derniers jours.
Mais pour tout changement significatif, a déclaré Shwartz Altshuler, nous devons tenir compte du puissant soutien dont dispose Facebook.
« Les actions de Facebook n’ont été touchées par aucun scandale précédent, ni en 2016, ni lorsqu’elle a été condamnée à une amende à chaque fois, et cela signifie que le secteur financier a toujours soutenu Facebook. Il a été un partenaire actif en préférant l’argent à l’éthique. Il est donc très confortable pour nous de pointer du doigt [Facebook founder] Mark Zuckerberg, mais c’est toute une industrie qui mène des expériences sur nos systèmes démocratiques, sur nos âmes, crée [chaos], et après s’excuser. Et c’est soutenu parce que Facebook rapporte beaucoup d’argent [for shareholders].”
Les marchés n’ont réagi que lorsqu’ils ont réalisé que Facebook n’avait pas investi dans la création de couches de sécurité qui ont conduit à la panne, que l’entreprise a imputée à un changement de configuration, a-t-elle noté. « Pensez-y, c’est l’erreur d’une seule personne qui pourrait causer cet énorme dommage, et que se passerait-il s’il ne mettait pas assez d’argent pour sécuriser la plus grande base de données personnelle de l’histoire de l’humanité ? Et si cela pouvait se reproduire ? C’est ce qui dérange le secteur financier. Ce n’est pas l’influence néfaste de Facebook sur la société.
« Ce que toutes les amendes et scandales publics n’ont pas causé, la panne de six heures l’a causé », a-t-elle ajouté.
Shwartz Altshuler a proposé qu’Israël ait un besoin urgent d’une législation pour les plateformes de médias sociaux, y compris des lois sur la confidentialité qui rendront illégal le ciblage des utilisateurs en fonction de leurs vulnérabilités émotionnelles, des exigences pour expliquer les décisions de supprimer du contenu et des comptes, des dispositions facilitant les poursuites contre les médias sociaux en Israël, la mise en place d’un cadre par lequel les tribunaux israéliens peuvent émettre rapidement des ordonnances de suppression de contenu préjudiciable, et l’obligation d’investir des ressources dans la surveillance et le blocage de contenu toxique en hébreu.
« Bien que Facebook affirme qu’il investit des ressources considérables en dehors des États-Unis dans des tentatives de blocage de contenu et de suppression de comptes, ce n’est pas évident, si l’on en juge par ce qui se passe dans la pratique avec le contenu en hébreu. Il n’existe aucun moteur capable de surveiller un tel contenu, et la responsabilité incombe à quelques vérificateurs de contenu qui sont censés gérer quotidiennement tout ce qui est publié dans ce pays. En Israël, nous sommes extrêmement vulnérables à l’influence de la polarisation politique, comme les événements de l’année dernière l’ont clairement montré. C’est pourquoi la demande de responsabilité est si critique en Israël également », a écrit Shwartz Altshuler dans un éditorial à venir vu par le La Lettre Sépharade.
De telles mesures seraient déjà envisagées. Dimanche, la télévision israélienne a rapporté qu’une équipe d’experts israéliens nommés par le gouvernement devait examiner des actions de grande envergure pour freiner les entreprises mondiales de médias sociaux et pourrait chercher à tenir Facebook légalement responsable des publications sur sa plateforme.
L’équipe, actuellement sélectionnée par le ministre des Communications Yoaz Hendel, pourrait chercher à obliger Facebook à révéler ses politiques de censure, d’interdiction et la manière dont les publications sont placées dans ses algorithmes. Actuellement, lorsque du contenu ou des utilisateurs sont supprimés de la plateforme, Facebook n’a pas à fournir de détails expliquant le déménagement.
Les mesures proposées incluent également la responsabilisation des géants des médias sociaux en cas d’incitation ou de diffamation publiée sur leurs plateformes, ce qui serait pratiquement sans précédent dans le monde, selon le rapport.
Facebook et d’autres sites de médias sociaux ne sont actuellement pas légalement responsables des contenus faux ou préjudiciables qui apparaissent sur leurs plateformes, contrairement aux journaux et autres éditeurs traditionnels.
Shwartz Altshuler a déclaré que la clé était de « réglementer le cadre » et de remettre en question les pratiques de ciblage.
« Ce n’est pas nécessairement le contenu lui-même, c’est la question de » qu’est-ce qui devient viral et pourquoi les personnes vulnérables sont ciblées avec son contenu, donc si nous créons un cadre où nous accordons une plus grande attention réglementaire à qui ils peuvent cibler avec des messages spécifiques et quoi des données que vous pouvez collecter sur les gens et sur ce qu’ils ne devraient pas être autorisés à collecter, cela pourrait résoudre la plupart des problèmes », a-t-elle conclu.
