Le règlement Meta est un début, mais il ne suffit pas à créer un réel changement – ​​c’est sur cela que nous devons nous concentrer maintenant.

Vingt-neuf procureurs généraux d’État se sont rendus ce mois-ci dans une salle d’audience d’Oakland, en Californie, pour demander environ 200 milliards de dollars à Meta pour des allégations de dépendance chez les adolescents. Leur affaire s’est terminée au cours de sa deuxième semaine, avec un accord de règlement qui oblige Meta à payer jusqu’à 17 milliards de dollars sur 10 ans et à apporter plusieurs modifications au produit, telles qu’une panne d’électricité de minuit à 6 heures du matin, un plafond quotidien de deux heures et un flux chronologique facultatif. Bien que certaines de ces exigences constituent des pas dans la bonne direction, le règlement donne à l’entreprise trop de moyens d’éviter d’apporter des modifications significatives et durables à ses produits. L’accord est limité dans le temps, s’appuie sur les définitions des termes critiques de Meta et ne nécessite pas de divulgation détaillée au public.

Ce qui rend ce règlement digne d’attention, c’est l’exigence de l’accord d’un auditeur indépendant, ce qui est la première fois qu’une personne examinant la conception du produit Meta sera choisie par quelqu’un d’autre que l’entreprise. Les régulateurs indépendants, tels que la Federal Communications Commission, constituent un moyen éprouvé (bien qu’imparfait) de protéger l’intérêt public, et les plateformes de médias sociaux sont désormais au moins aussi importantes pour nos vies (et celles de nos enfants) que les industries de la radiodiffusion et des télécommunications réglementées par la FCC.

Aux termes de l’accord, un auditeur indépendant aura accès aux données internes et aux ingénieurs de Meta, aura pour mandat de rendre compte chaque année si l’entreprise fait ce qu’elle a promis et aura l’obligation de rendre public un résumé de chaque rapport.

En apparence, c’est une bonne nouvelle. Mais en regardant un peu plus en profondeur, il apparaît clairement que le pouvoir de l’auditeur est trop limité. Premièrement, l’accord s’en remet à plusieurs reprises aux pratiques commerciales actuelles de Meta, plutôt que de définir de nouvelles normes fondées sur l’intérêt public. Par exemple, les expériences adaptées à l’âge sont définies comme « le contenu capturé dans le paramètre de contenu applicable aux 13 ans et plus de Meta ». Les expériences nuisibles sont définies comme des « comportements qui violent les normes communautaires de Meta », et les données de vérification de l’âge doivent uniquement être protégées « en utilisant les normes de confidentialité et de sécurité des données les plus élevées de Meta ». Cela crée une myriade d’opportunités permettant aux employés intelligents de Meta de respecter la lettre de l’accord tout en évitant de réels changements.

Deuxièmement, le rapport public du vérificateur sera largement expurgé. Le résumé décrira l’état de mise en œuvre de l’accord par Meta pour la période et indiquera si Meta a adopté ou accepté d’adopter les recommandations de l’auditeur. Mais cela permet à Meta d’exclure les informations qu’elle juge « non publiques, exclusives ou confidentielles ». Étant donné que l’un des principaux problèmes de cette affaire était que Meta enfouissait des données défavorables, cela est profondément préoccupant.

Cette divulgation publique limitée est insuffisante pour les chercheurs externes et l’intérêt public. Meta dit dans son public annonce du règlement selon lequel l’accord comprend la création d’une « fondation indépendante de recherche sur les médias sociaux » avec laquelle « Meta partagera les données des utilisateurs consentants… pour faire progresser la recherche indépendante sur le bien-être des adolescents » – mais nous n’avons trouvé aucune mention de cette fondation comme une obligation dans le règlement.

Enfin, l’exigence d’un auditeur indépendant expire dans cinq ans seulement (l’accord lui-même expire après 10 ans). Cela incite Meta à ralentir le temps jusqu’à ce qu’il puisse reprendre ses activités comme d’habitude, plutôt que d’apporter des changements permanents.

Nous ne voulons pas dire que cet accord ne constitue pas une étape positive. Ses faiblesses ne sont pas des échecs de négociation, mais plutôt le reflet des limites d’un règlement juridique : un accord avec une seule entreprise, pour une période déterminée, basé sur des revendications juridiques spécifiques au moment de l’accord.

C’est pourquoi les législateurs doivent agir de toute urgence maintenant. Une nouvelle loi, de préférence au niveau fédéral, devrait transformer le commissaire aux comptes indépendant en un organe fort et permanent. surveillance réglementaire organisme, financé par des cotisations annuelles sur les grandes entreprises technologiques proportionnellement à la taille de leur entreprise et à leur impact sur la société.

Un régulateur permanent pourrait également aller au-delà des accords ponctuels sur des fonctionnalités spécifiques de Meta et constituer un ensemble continu de recherches et de pratiques autour des meilleures pratiques en matière de sécurité. Cela permettrait à la société de développer ses propres définitions et normes de soins qui pourraient s’appliquer à l’ensemble d’Internet. UN une approche plus globale de la réglementation des médias sociauxallant au-delà des questions de sécurité des enfants sur des plateformes spécifiques, est nécessaire.

Il est particulièrement nécessaire que le public ait davantage de connaissances et de contrôle sur la façon dont les flux de médias sociaux sont construits. L’accord oblige Meta à offrir aux adolescents la possibilité de choisir un flux « maison » non personnalisé (et donc probablement moins addictif), mais n’en fait pas la valeur par défaut et permet toujours aux adolescents de continuer à utiliser le flux personnalisé. Depuis des recherches ont montré que la plupart des gens n’aiment pas les flux chronologiquescette exigence aura probablement un impact limité dans le monde réel.

En outre, les dispositions établissent que le flux non personnalisé sera constitué de « contenu (qui) est alimenté par les comptes que l’utilisateur adolescent suit ou a amis, affichés par ordre chronologique ». Cela suppose qu’un flux chronologique est la meilleure alternative au flux organisé par Meta. Il existe un argument selon lequel des algorithmes bien conçus pourraient en réalité contribuer à l’amélioration de la santé mentale s’ils étaient optimisés pour minimiser la priorité des publications toxiques et de la désinformation, tout en s’alignant sur les préférences des utilisateurs quant à ce qui leur donne la priorité. valeur à long terme.

Nous avons également besoin de toute urgence de normes d’audit indépendantes et rigoureuses en matière de confidentialité et de sécurité des données d’identité en ligne. Faire confiance à la même entreprise qui nous a confié le scandale Cambridge Analytica pour évaluer ses propres devoirs sur ce front est un mauvais pari.

Nous espérons que cet accord de règlement deviendra une référence, et non un point culminant, pour une réglementation plus réfléchie des plateformes Internet. Cette affaire, ainsi que les nombreuses autres poursuites en cours devant les tribunaux étatiques et fédéraux, sont utiles pour fournir éléments de preuvel’attention politique et les concessions spécifiques. Mais elles ne remplacent pas les règles et institutions durables que seuls le Congrès et les législatures des États peuvent mettre en place.

Note de l’éditeur : cet article d’opinion a été publié conjointement le vendredi 28 août dans le bulletin hebdomadaire gratuit de Jonathan Bellack, Platformocratiequi plaide pour plus de démocratie dans nos vies en ligne.

Cet article est uniquement à titre informatif et ne vise pas à offrir des conseils médicaux.

Avis on Live Science vous donne un aperçu des questions scientifiques les plus importantes qui vous affectent ainsi que le monde qui vous entoure aujourd’hui, rédigé par des experts et des scientifiques de premier plan dans leur domaine.