Refroidissement social

Traduction de l’expression anglophone social cooling, ce concept a été inventé par le Néerlandais Tijmen Schep, critique des technologies, privacy designer et spécialiste des questions d’éthique en matière d’innovation. « Le refroidissement social » désigne la retenue que chacun exercerait dans ses activités en ligne, allant jusqu’à une forme d’autocensure afin de préserver sa réputation. De plus en plus conscients des effets pervers liés à l’exploitation commerciale des traces qu’ils laissent sur le Net, les internautes seraient amenés à jouer au modérateur pour eux-mêmes, en contrôlant les contenus qu’ils postent ou qu’ils partagent, voire leurs simples recherches ou utilisations des services de l’internet, afin que leur vie numérique n’entache pas leur image dans la vie réelle.

Sur la page d’accueil du site web Socialcooling, lancé en 2017 et consacré à ce phénomène, Tijmen Schep annonce que « tout comme le pétrole conduit au réchauffement climatique, les données conduisent au refroidissement social ». Autrement dit, à l’instar de la pollution atmosphérique, explique-t-il, le refroidissement social n’est pas un phénomène immédiatement perceptible mais la prise de conscience de ses effets néfastes pour la société est l’affaire de tous. Et nous devrions être plus prompts à réagir pour défendre une approche raisonnable et réfléchie de la vie privée, que nous l’avons été pour lutter contre la pollution de l’air que nous respirons.

Le chercheur néerlandais part du constat que, se sentant observé, chacun de nous va inévitablement changer son comportement, réflexe que « le Big Data amplifie à l’extrême » et qui pourra entraîner à long terme « un gel de toute la société ». Nous serions, selon lui, entrés subrepticement dans l’ère de l’économie de la réputation où chaque vie intime ou professionnelle fait l’objet d’une évaluation et se déroule au risque de cette évaluation ou notation. L’économie des données « endommage l’environnement social », prévient Tijmen Schep.

Une fois collectées, nos données personnelles, de toute nature, issues de nos agissements en ligne et hors ligne, font l’objet d’un traitement par des algorithmes programmés pour établir des catégories, des tendances et des modèles (patterns) offrant une représentation du corps social. Ainsi, les courtiers en données, ou data brokers, entreprises qui vivent de la revente de données dérivées, évaluent la probabilité que nous appartenions à tel ou tel profil, à partir des traces apparemment insignifiantes que nous avons laissées sur le Net, des « détails » concernant nos vies que nous n’avions nous-mêmes jamais divulgués. Le site Socialcooling en propose une liste édifiante : « religion, victime de viol, fait un régime, aime le jardinage, nombre d’amis en ligne, nombre d’amis réel, QI, opinions politiques, a avorté, crédulité, orientation sexuelle projetée, orientation sexuelle réelle, lit des magazines de voyage, lit des livres de voyage, envisage d’avoir un enfant, parents divorcés avant ses 21 ans, névrosé(e), ouverture d’esprit, date de naissance, aime la mode, a des plantes à la maison, situation économique stable, héritier(ière) potentiel(le), extraverti(e), gentillesse, année de construction de la maison, fume à la maison, a des besoins de « senior », diabétique, a des tendances addictives, physiquement fragile, appareil de communication de prédilection, adulte sans enfant, niveau d’éducation, aime les articles commémoratifs d’Elvis ». Et Tijmen Schep d’expliquer : « Leurs « données dérivées » ont plus de valeur que « vos données ». S’il vous disent qu’ils ne vendent pas vos données, demandez-leur s’ils vendent les leurs ».

Outre la question de la pertinence des modèles identifiés, liée notamment à la fiabilité des données collectées et aux biais inhérents à toute formule algorithmique, la manipulation de ces fameuses « données dérivées » peut se révéler préjudiciable pour les personnes concernées. « Vous pouvez ne pas obtenir l’emploi de vos rêves si vos e-mails et vos publications Facebook ne sont pas assez positifs » ; « Si vous êtes une femme, vous pourriez avoir moins d’offres pour des emplois à forte rémunération » ; « Si vous avez de « mauvais amis » sur les réseaux sociaux, vous pourriez avoir à payer votre crédit plus cher » : ce sont là autant d’exemples d’interprétations préjudiciables présentés sur le site Socialcooling.

Conscients du risque d’entrave à nos choix et à notre liberté en général, nous serions obligés de nous conformer à une « bonne » réputation en ligne, en adaptant nos comportements afin de ne pas être « mal jugés ». Tijmen Schep y décèle les effets pervers d’une société dessinée par le Big Data, qui se résument selon lui en trois caractéristiques :

• Une culture du conformisme, soit l’effet de dissuasion provoqué par la crainte qu’une activité en ligne puisse être retenue en notre défaveur, aussi anodine soit-elle a priori. « L’ironie : on ne nous enlève pas des libertés, on a juste peur de les utiliser », analyse Tijmen Schep.
• Une culture d’évitement du risque, avec l’exemple de la notation des médecins new-yorkais. Une décision administrative a eu pour effet d’attribuer une plus mauvaise note à ceux qui soignaient des patients très malades car ils obtenaient un taux de mortalité plus élevé que ceux qui ne s’en occupaient pas et qui par conséquent étaient mieux notés.
• Une rigidité sociale accrue, lorsque « les systèmes de réputation numérique limitent notre capacité et notre volonté de contester l’injustice », citant la volonté des autorités chinoises de mettre en place, d’ici à 2020, un système de « crédit social » selon lequel les citoyens se verront attribuer des points, notamment en fonction de leur comportement et de leurs activités en ligne, leur score sera déterminant pour accéder à leurs demandes (emploi, logement, école, prêt…). « La pression sociale est la plus forte et la plus subtile des formes de contrôle », explique Tijmen Schep.

Dans un article publié sur le site de L’Obs en juillet 2017, la journaliste Émilie Brouze rappelle que l’idée d’un « refroidissement social » n’est pas nouvelle, signalant que diverses études ont déjà effectivement montré « les effets d’intimidation » (chilling effects) survenus à la suite des révélations de l’ancien consultant de la NSA, Edward Snowden, en 2013, qui ont démontré l’existence d’un système de surveillance de masse. Chercheur à l’université de Toronto, Jon Penney avait ainsi mis en lumière la baisse du nombre de consultations d’articles dans la version anglophone de Wikipédia faisant allusion, d’une façon ou d’une autre, au terrorisme dans les deux mois qui ont suivi. Le constat est le même pour des requêtes effectuées dans le moteur de recherche Google à partir de mots-clés « sensibles ». Les travaux de recherche de l’Américaine Elizabeth Stoycheff ont également contribué à démontrer un phénomène d’autocensure lié à la révélation de programmes de surveillance en ligne, agissant au détriment des opinions minoritaires.