Facebook Papers : jusqu’à quand la toute puissance des GAFA durera-t-elle?

Si elle fut un calvaire pour beaucoup, la pandémie de Covid-19 aura été une aubaine pour l’industrie du numérique. Au deuxième trimestre 2021, les profits nets des cinq plus grosses entreprises du secteur technologique – Amazon, Facebook, Apple, Alphabet, Microsoft – étaient près de 90% supérieurs à ceux de l’année précédente. Ces résultats témoignent d’un phénomène déjà à l’œuvre depuis une décennie, mais fortement accéléré par la Covid-19 : « la numérisation des rapports sociaux », qui entraîne une part croissante de la population à travailler, communiquer, consommer, étudier, et s’informer en ligne. Aujourd’hui, 44% des adultes américains utiliseraient Facebook comme première source d’information, laissant au groupe de Mark Zuckerberg la capacité de façonner la perception du monde de millions d’utilisateurs en choisissant l’information à laquelle ils ont accès ou non. À la manière d’un service public, ces plateformes numériques organisent donc désormais une partie de nos interactions sociales. Pourtant, elles ne sont aucunement soumises aux obligations accompagnant habituellement ce rôle de service public – la première étant la promotion de l’utilité commune. Régis par les lois du marché, et faiblement contraints par la régulation, les géants du numérique représentent une menace pour nos sociétés dont la récente fuite des « Facebook Papers » n’en est qu’une des plus récentes illustrations. 

Ce scandale autour de Facebook a démarré mi-septembre, quand une série d’articles nommée les « Facebook Files » a été publiée dans le Wall Street Journal. Basés sur des milliers de documents internes à Facebook, ces articles ont été envoyés à plusieurs journaux, membres du Congrès américain, ainsi qu’à l’autorité des marchés financiers aux États-Unis (SEC) par une ex-employée du groupe, et désormais lanceuse d’alerte, Frances Haugen. Ces documents, constitués d’enquêtes internes et de conversations entre employés, ont notamment révélé que Facebook étudiait et répertoriait minutieusement les multiples dangers générés par sa plateforme. On y apprend également que les employés du groupe alertaient régulièrement leur direction de ces dangers, sans pour autant être entendus. Dès lors, comment expliquer cette apathie volontaire de la direction de Facebook face aux effets néfastes de la plateforme (désinformation, santé mentale, données des utilisateurs)? Selon Frances Haugen, la réponse résiderait dans le choix de la direction de prioriser les profits et la croissance de la plateforme au détriment de la sécurité de ses utilisateurs. Un choix motivé, en partie, par la perte de vitesse de Facebook chez les jeunes générations, plus attirées par de nouveaux rivaux comme Snapchat, TikTok et Discord.

Sous la tyrannie de la métrique 

Plusieurs anciens employés décrivent l’environnement professionnel de Facebook comme un environnement ultra-compétitif au sein duquel ils seraient constamment soumis à une pression de leur direction pour accroître le taux d’engagement des utilisateurs, c’est-à-dire la propension de ces derniers à interagir et consommer du contenu sur Facebook. Impulsée par Zuckerberg, cette culture d’extrême performance pousse les différentes cellules du groupe vers des objectifs contradictoires. En effet, quand la réussite des équipes chargées de développer de nouveaux algorithmes n’est mesurée que par la capacité de ces algorithmes à accroître la consommation de contenu des utilisateurs, indépendamment de la nature de celui-ci, cela va à l’encontre des objectifs de la cellule « Integrity », responsable de la régulation des « fake news » et des publications incitant à la haine. Contre-productive, chaque équipe travaille donc de son côté sans qu’il existe de vision commune des objectifs du groupe. Dans une lettre d’adieu à ses collègues, datant d’août 2020, un ancien employé de la cellule Integrity décrivait ces difficultés et déplorait le fait que son équipe soit perpétuellement contrainte de prouver la nocivité d’un contenu avant de pouvoir la réguler. 

L’échec du programme Amplify illustre parfaitement cette obsession de Zuckerberg pour les métriques d’engagement. Lancé en 2018, ce changement d’algorithme, conçu pour mettre en avant les contenus commentés et partagés par les amis des utilisateurs, devait permettre de renforcer les liens entre amis, ce que Facebook appelle les « interactions sociales significatives ». Rapidement, les employés réalisent que l’algorithme leur échappe pour mettre en avant les contenus les plus radicaux et décident donc d’alerter leur direction. Les documents dévoilés par Frances Haugen nous apprennent que Zuckerberg se serait alors montré extrêmement réticent face aux changements proposés par ses équipes, de peur qu’une modification algorithmique amène les utilisateurs à passer moins de temps sur Facebook… 

Dans sa quête de croissance, Facebook n’hésite pas non plus à mettre en danger la santé de ses utilisateurs. En effet, les « Facebook Files » ont révélé que des enquêtes internes datant de 2019 alertaient déjà la direction de la nocivité d’Instagram – racheté par Facebook en 2012 – chez les adolescents. Ces enquêtes montraient par exemple que pour 32% des adolescents interrogés, Instagram les amènerait à se sentir « encore plus mal dans leur peau ». Les documents dévoilent également que malgré cette connaissance des ravages d’Instagram chez les adolescents, Facebook cherche depuis des années à attirer un groupe encore plus jeune et vulnérable sur Instagram : les enfants. Selon des conversations internes à Facebook, ces derniers représentent « un public précieux mais inexploité ». Avec son projet Instagram Kids réservé aux individus de moins de 13 ans, Facebook cherche à créer une demande d’utilisation des réseaux sociaux chez un public toujours plus jeune et fait ainsi « passer le profit avant la santé et la vie d’adolescents et d’enfants. » 

Le scandale des « Facebook Papers » a par ailleurs rendu très clair le fait que les déclarations publiques de Facebook ne reflétaient pas toujours ce que le groupe savait véritablement. La stratégie consistant à cacher les dangers générés par un produit n’est pas nouvelle dans les pratiques commerciales. Pendant des décennies, les industriels du tabac n’ont cessé de remettre en cause les données de santé publique alertant les consommateurs des effets néfastes de la cigarette. Depuis les révélations de Frances Haugen, ce parallèle entre les géants du tabac et du numérique a été largement utilisé car, à l’instar de l’industrie du tabac, Facebook n’a aucunement coopéré lorsque chercheurs et élus ont tenté d’en savoir plus sur les risques de la plateforme. En avril dernier, lorsqu’un groupe de sénateurs inquiets du développement d’Instagram Kids demandait dans une lettre à Facebook un partage de sa connaissance des risques de la plateforme auprès des populations les plus jeunes, Adam Mosseri, chef des opérations d’Instagram, s’est contenté de minimiser les risques, sans toutefois partager les enquêtes que Facebook possédait sur le sujet à l’époque. Dans le cas de la cigarette, il aura fallu attendre les révélations du lanceur d’alerte Jeffrey Wigand en 1995 sur les impacts catastrophiques de la cigarette pour qu’une réelle régulation de l’industrie du tabac se développe aux États-Unis. Les révélations de Frances Haugen pourraient ainsi représenter un moment clé dans le développement d’une régulation réelle de l’industrie du numérique. Lors de ses déclarations publiques, la lanceuse d’alerte n’a cessé d’implorer l’action des pouvoirs publics en insistant particulièrement sur le fait que le changement reste possible, mais que Facebook et les plateformes numériques en général ne se réguleront jamais seules. 

L’urgente nécessité d’une régulation sérieuse 

Si l’analogie entre géants du numérique et industriels du tabac est intéressante, elle reste néanmoins imparfaite car le secteur du numérique est bien plus difficile à réguler. Alors que les producteurs de tabac offrent tous un produit assez similaire et peu changeant, Amazon, Google, Facebook et Apple proposent une gamme de produits infiniment plus variée mais, surtout, en perpétuelle mutation. Cette complexité croissante des algorithmes mis en place pour accroître l’engagement des utilisateurs rend la régulation difficile pour les instances gouvernementales, car comme l’a déclaré Haugen devant le Comité de protection des consommateurs, « personne ne comprend mieux la complexité des risques de Facebook que les ingénieurs de Facebook eux-mêmes ». Alors que d’autres entreprises du secteur technologique comme Google donnent accès à leurs données à des chercheurs indépendants, Facebook fonctionne sur un « modèle fermé » et se cache derrière son statut d’entreprise privée pour justifier son choix de garder ses données.

C’est pourquoi, si elle se veut efficace, une régulation du numérique doit pouvoir contraindre les plus grandes entreprises du secteur à plus de transparence. En matière de régulation du numérique, la Commission Européenne fait preuve d’ambition avec ses deux projets de loi actuellement en cours d’examen : le Digital Services Act (DSA) et le Digital Market Act (DMA). Destiné à forcer les géants du numériques à ouvrir leurs bases de données à des chercheurs indépendants, sous peine de se voir lourdement taxés, le DSA aura également pour but d’imposer aux plus grandes plateformes une obligation d’investir des moyens importants contre l’apparition de contenus interdits ou illicites. Lors de ses auditions au Parlement européen, Frances Haugen a néanmoins prévenu que l’Union européenne et le Royaume-Uni « rateraient une énorme occasion » si leurs lois contre les géants du numérique se limitaient à réguler seulement le contenu illégal. En effet, le caractère légal de certains contenus – publicité politique, contenu addictif – ne les empêchent pas d’avoir des effets dévastateurs auprès des utilisateurs.

Si l’Union européenne passe à l’offensive face aux GAFA sous l’impulsion de son commissaire au Marché Intérieur, Thierry Breton, et de sa commissaire à la Concurrence, Margrethe Vestager, aux États-Unis, la division partisane entre les camps républicain et démocrate sur la régulation des plateformes numériques freine pour l’instant l’action gouvernementale. Il est temps que les États-Unis réagissent. À l’instar de ce qui existe déjà pour de nombreux produits de consommation américains grâce à la FDA (Food and Drug Administration) chargée de réglementer les aliments, les médicaments ainsi que le tabac depuis 2008, la création d’une instance de régulation américaine entièrement dédiée au secteur du numérique est urgente. Comme souligné plus tôt, la complexité ainsi que la perpétuelle mutation des dangers générés par les algorithmes renforcent ce besoin d’un régulateur spécialisé. Enfin, le combat contre la désinformation ne saurait se limiter à des politiques de modération du contenu, mais devrait également passer par la promotion d’une information véridique ayant vocation d’autorité. À cet égard, la création d’une instance indépendante de « fact-checking » en partie financée par les plus grandes entreprises du secteur technologique est une possibilité à envisager pour les pouvoirs publics américains comme européens.  

Ces dernières années, les réseaux sociaux ont régulièrement été désignés comme responsables de nombreux maux de nos sociétés. Il serait pourtant illusoire de penser qu’une disparition de ces plateformes mettrait immédiatement fin à l’anxiété des adolescents ou aux croyances complotistes… La question qu’il est nécessaire de poser serait plutôt la suivante : les grands réseaux sociaux rendent-ils nos vies meilleures? S’il n’existe pas de réponse unique à cette question, on peut néanmoins constater que plus d’une décennie après leur éclosion, ces réseaux sociaux nous font progressivement basculer vers une société d’évaluation quantitative réduisant progressivement nos interaction sociales à des nombres. Cette société qui s’éloigne des rapports humains traditionnels est incarnée par le nouveau grand projet de Facebook, le Metaverse, un cyberespace parallèle à la réalité physique au sein duquel les utilisateurs incarneront leur propre avatar. Désormais conscients des dangers que représentent les réseaux sociaux et de l’urgente nécessité de les réguler, au-delà de son aspect législatif, cette régulation se devra d’amorcer une prise de conscience collective sur le modèle de société vers lequel les GAFA nous entraînent. Il est grand temps d’ouvrir le yeux et d’arrêter cette course en avant qui nous mène vers des rapports sociaux mutilés.

Édité par Anja Helliot.

En couverture : Photo par MediaModifier sous licence CC0 1.0.