The Social Dilemma
par Amelia Viguier
14 octobre 2020
Au plus fort de la crise sanitaire, les réseaux sociaux nous ont permis de continuer à travailler, à communiquer avec nos proches, à nous divertir. Ces avancées technologiques ont façonné nos sociétés actuelles et nos interactions. A quel point vont-elles influencer celles de demain ? C’est toute la question que pose The Social Dilemma. Entre documentaire et fiction, ce film disponible sur Netflix sous le titre « Derrière nos écrans de fumée » en version française, dresse le portrait de nos sociétés sous l’emprise des nouvelles technologies. Google, Facebook, Twitter, Pinterest, Instagram, des experts de toutes les plus grandes plateformes défilent et aboutissent aux mêmes conclusions : nous sommes manipulés par les réseaux sociaux. Et nous nous laissons faire. Pourquoi ? D’une part, parce que nous ne sommes pas assez sensibilisés aux enjeux autour des données personnelles et du pouvoir qu’ont ces plateformes, et d’autre part parce que nous ne voyons que les avantages que nous apportent ces applications. Plus besoin de carte pour se repérer, de carnet d’adresse pour rester en contact, de télévision ou journaux pour se tenir informé. Une connexion internet suffit. Certes, ces outils nous simplifient la vie, mais à quel prix?  

« Si vous ne payez pas pour le produit, alors vous êtes le produit »

Quel est le problème avec les réseaux sociaux ? Si les personnes interrogées dans le film peinent à ne trouver qu’une seule réponse, la plus citée est le business model de la gratuité conditionnée à la diffusion de publicité. Pour Tristan Harris, ex-designer et ingénieur chez Google, la logique est très simple : si vous ne payez pas pour le produit, alors vous êtes le produit. Et par vous, il est ici question de vos données, qui constituent aujourd’hui un véritable marché, aussi appelé capitalisme de surveillance. Grâce aux données collectées, les algorithmes de ces applications analysent le profil du consommateur et ciblent, en fonction, les publicités les plus pertinentes. Collecter un maximum de données permet alors de dresser un portrait précis des usagers et ainsi d’assurer aux annonceurs publicitaires la réussite de leurs campagnes. Et plus les publicités ont un impact, plus les plateformes sont rémunérées. L’enjeu autour des données personnelles est donc de centraliser un maximum de data, quitte à traiter ces données sensibles et humaines comme n’importe quel autre secteur industriel, sans prendre en considération les questions de vie privée ou de libertés individuelles. Pour continuer à collecter des données personnelles, la stratégie de ces plateformes est simple : attirer notre attention le plus longtemps possible et obtenir toujours plus d’abonnés pour augmenter leur rentabilité.  

Les réseaux sociaux, une addiction planifiée ?

L’intelligence artificielle et les algorithmes mis en place par les géants du web ont fait de notre concentration et de notre attention des données monnayables à travers la publicité. Ces applications ont été pensées par des experts en « captologie » ou l’économie de l’attention, des génies du changement comportemental. De la création des emojis, aux tags d’une personne sur une photo en passant par l’apparition des points de suspension lorsqu’on nous écrit, tout est pensé pour nous retenir sur les réseaux. Et cela fonctionne. Nous ne pouvons plus nous passer d’eux, faisant de nos écrans une nouvelle addiction alors même qu’ils exploitent nos vulnérabilités. Des « clics », des « vus » et des « j’aime » basés sur nos besoins d’appartenance et de validation sociale, sur nos peurs de l’ennui et de la solitude. Nous sommes dépendants de nos écrans, car ils ont été créés pour susciter un comportement addictif. Les experts de la Silicon Valley en témoignent : même en connaissant les stratégies des réseaux, ils sont eux-aussi tombés dans leur piège et en interdisent l’accès à leurs enfants. C’est d’ailleurs là un des enjeux du film, protéger les enfants des écrans. L’impact sur les générations ayant grandi avec les nouvelles technologies est effrayant : l’apparition des réseaux sociaux sous forme mobile coïnciderait avec l’augmentation du nombre de dépressions et de suicides chez les adolescents et pré-adolescents. Selon le psychologue Jonathan Haidt, entre 2011 et 2013, il y aurait eu une augmentation de 189 % du nombre d’état dépressif et de 151 % des tentatives de suicide chez les 10-14 ans aux Etats-Unis. En promouvant le culte de la personnalité et de la perfection, les réseaux sociaux ont des conséquences sur la santé mentale des enfants mais ne sont pourtant pas soumis aux mêmes réglementations que les autres médias en matière de publicité.  
De la protection des enfants, en passant par la manipulation de l’opinion publique aux risques pour la démocratie, ce film alarmiste propose une vision claire du problème mais aussi des solutions, reposant sur l’idée que les données personnelles doivent être régulées et ne doivent pas être considérées comme un marché quelconque
  Plus étonnant encore, la polarisation de la vie politique américaine et le fossé de plus en plus profond qui se creuse entre républicains et démocrates à partir des années 2010 seraient un des effets secondaires de l’entre-soi virtuel et des contenus toujours plus personnalisés. Les fils d’actualités nous suggèrent des contenus qui nous confortent dans nos idées et nous montrent ce que l’on est le plus à même de vouloir entendre, de vouloir voir. Mais l’intelligence artificielle n’étant pas encore capable d’identifier une information vérifiée, les suggestions proposées diffusent massivement des fausses informations et des contenus haineux. Selon un rapport Facebook datant de 2018, 64 % des personnes ayant rejoint un groupe extrémiste sur Facebook l’ont fait suite aux suggestions des algorithmes. Pour Tristan Harris, on assiste à une véritable propagation des théories conspirationnistes car ces théories se diffusent six fois plus vite sur les réseaux que les informations émanant des sites journalistiques. Le fonctionnement des réseaux sociaux favorise alors la diffusion des fausses informations et participe activement à la désinformation et à la manipulation de l’opinion publique. Jusqu’à menacer la stabilité de nos systèmes politiques, en particulier la démocratie. Ces plateformes sont ainsi utilisées comme des sources d’informations, alors qu’elles ne sont que le relai d’intérêts commerciaux où le sensationnalisme est plus vendeur que le débat d’idées. Un enjeu d’autant plus important à la veille de l’élection présidentielle américaine. De la protection des enfants, en passant par la manipulation de l’opinion publique aux risques pour la démocratie, ce film alarmiste propose une vision claire du problème mais aussi de solutions : les données personnelles ne doivent pas être considérées comme un marché quelconque. Elles doivent donc être taxées et régulées car les droits numériques sont des droits humains, qui doivent être protégés comme tout droit individuel et droit à la vie privée. Le constat posé, il s’agit désormais de passer à l’action.  

« Cette technologie qui nous rapproche…. »

Nous manipule aussi. Nous divise. Nous distrait. Nous monétise. Ces messages ouvrent le site The Social Dilemma. Créé pour poursuivre la prise de conscience sur l’envers des nouvelles technologies, le site propose des outils pour susciter le débat et sensibiliser sur les impacts des réseaux sociaux en terme de santé mentale, de démocratie et de discrimination. Bien conscients que peu de personnes supprimeront leurs comptes après le visionnage du film, les participants au documentaire nous invitent à paramétrer nos applications pour limiter les traceurs et le partage de nos données. Des astuces simples, réalisables facilement et partageables autour de soi : opter pour un moteur de recherche plus respectueux de la vie privée comme Firefox, refuser les cookies, ne pas accepter les suggestions de vidéos sur Youtube, désactiver les notifications sur son téléphone… Des petits gestes qui, à grande échelle, peuvent faire évoluer les choses. D’où l’intérêt de communiquer sur ses réseaux pour sensibiliser ses proches à ces enjeux. C’est d’ailleurs l’objectif de Stop Hate for profit – certains ont peut-être vu passer leur hashtag #StopHateForProfit sur les réseaux. En juillet dernier, cette campagne demandait à Facebook de réguler davantage les messages de haine et la désinformation sur sa plateforme. Si la mobilisation autour du film est le pivot central de l’action, les experts et expertes présents dans ce documentaire, tous repentis de la Silicon Valley, sont à l’origine d’initiatives en faveur d’une technologie plus éthique. Ils et elles pensent qu’une autre technologie est possible. Plus accessible, centrée sur l’humain, transparente, représentative et équitable. Une technologie en laquelle on peut avoir confiance. Ce sont là les principes directifs du BEACON, une organisation basée sur l’innovation sociale qui lutte pour des réseaux plus éthiques et plus respectueux des consommateurs. Créée par Joe Toscano, cette structure formule des propositions concrètes pour réguler le marché des données. Son action s’organise en partenariat avec des projets novateurs tels que la Digital Future Initiative qui propose des cours en libre accès pour éduquer les jeunes à la citoyenneté numérique ou encore à la construction de relations saines sur les réseaux sociaux. Figure phare du documentaire, Tristan Harris préside le Center for Humane Technology, qui a pour mission de replacer l’humain au cœur de la technologie. Plus globalement, sa mission est de sensibiliser le public mais aussi les décideurs politiques et d’accompagner le changement au sein des entreprises du numérique. Ce film alarmiste – et quelque peu américano-centré – vise à créer une prise de conscience. Il n’en est pas moins porteur de solutions, notamment à travers les différents contenus pédagogiques proposés et l’idée qu’une mobilisation forte permettrait de cadrer les activités des géants du numérique. Pour redonner du sens à ces technologies, capables du meilleur comme du pire, et finalement, penser les droits numériques comme un droit humain.  
A travers ces Stories, Azickia vise à mettre en avant des initiatives à impact social, en France et dans le monde, et cela sans adhérer pour autant à toutes les opinions et actions mises en place par celles-ci. Il est et restera dans l’ADN d’Azickia de lutter contre toute forme de discrimination et de promouvoir l’égalité pour tous. Licence Creative Commons Ce(tte) œuvre est mise à disposition selon les termes de la Licence Creative Commons Attribution – Pas d’Utilisation Commerciale – Pas de Modification 3.0 France.