Big Data is watching you. Du totalitarisme algorithmique et de ses conséquences

À propos d’Evgeny Morozov, Le mirage numérique. Pour une politique du Big Data, Paris, Les prairies ordinaires, 2015.

L’extension du domaine numérique semble sans fin. Les plateformes, les applications, les réseaux constituent aujourd’hui l’infrastructure de communication la plus massive, la plus disponible, mais aussi (paradoxe qui n’en est pas un), la moins politiquement analysée. L’ouvrage d’Evgeny Morozov se veut une tentative de déconstruction des allants de soi de la domination algorithmique dans la transformation des modes d’administration politique de nos vies. Rédigé dans un style clair, plein d’allant et volontiers grinçant[1], l’argumentaire déploie une critique raisonnée de ce qui apparaît très clairement, au fil des pages, comme une idéologie de la Silicon Valley. Inutile d’aller cherche du côté du soft power, de la domination douce ou du consentement forcé (oxymores politiquement inoffensifs) : nous sommes là en présence d’un programme hégémonique (au sens littéralement gramscien) qui tente d’imposer un certain type de politique par la diffusion d’un modèle infrastructurel spécifique.

Le mirage californien

Morozov prend pour point de départ la situation de la Silicon Valley dont, dit-il, la survie dépend de la prorogation du système capitaliste dans sa forme actuelle, c’est-à-dire néolibérale. Il met en regard deux transformations très diversement appréciées : la crise financière dont l’épicentre s’est situé à Wall Street et qui a eu pour principale conséquence un sauvetage du système bancaire par les restes de l’État social au prix d’une survie périlleuse ; la montée en puissance de l’onirisme numérique faisant de la réponse algorithmique le point nodal de toute l’économie du futur. Comme bien souvent dans les mutations idéologiques, les recoupements sont difficiles à saisir ; ici, la crise de Wall Street et le mirage de la Silicon Valley ne sont pas seulement liés par des causalités plus ou moins directes, ils sont solidaires l’un de l’autre. L’obsession des acteurs de la Silicon Valley pour les capteurs et le self-tracking entretient en effet la dépendance néolibérale aux données. Et cette commune politisation de la vie par le numérique (depuis Wall Street et la Silicon Valley, donc) n’est que peu souvent soulignée, la seconde bénéficiant d’une mansuétude médiatique bien coupable. Car les entrepreneurs du numériques de ce bord du Pacifique se voient en tenants d’un « socialisme » d’un genre nouveau (p. 12) : celui qui donnerait immédiatement satisfaction à des utilisateurs libres, capables de se changer en comparateurs transparents et efficaces des services que tout un chacun peut désormais monnayer, de la voiture d’Uber à l’appartement d’Airbnb. Morozov souligne combien l’égalité devant le numérique n’est qu’une aberration portée par la seule rhétorique technophile la plus indigente : l’information obtenue via Google par un PDG et par un chômeur ne dit rien de l’asymétrie fondamentale et structurelle de leur position sociale. Prétendre qu’il y a, derrière un accès internet, la version 2.0 du principe d’égalité relève, pour le moins, de la forfaiture intellectuelle, ce que montre avec brio l’auteur. Et derrière cette pseudo-promesse de l’égalité (numérique) pour tous, c’est un projet politique sordide qui se dégage, celui de substituer l’infrastructure numérique pensée depuis la Californie à l’État social, lequel est en déliquescence avancée depuis les attaques à marche forcée des administrations converties au néolibéralisme et à son rejet du bien commun et de l’investissement public.

Le mirage californien du tout-numérique repose sur une série de fables technophiles. Ainsi, cette douteuse « loi de Varian » qui prédit l’extension des biens luxueux aux classes moyennes puis au plus pauvres dans 5 ou 10 ans. Morozov remarque que la différence fondamentale avec d’anciens services achetés directement monnaie sonnante et trébuchante réside dans la cession (gratuite) de données personnelles en échange d’un service architecturé autour d’une « plateforme ». Or ces données sont le nerf de la guerre numérique ; elles sont le bien le plus précieux que toutes les entreprises du net recherchent (de Facebook à Google de Twitter à Amazon). Gisement aurifère supposé intarissable de l’économie informatique, les données sont d’abord collectées par les Google & cie. avec un stakhanovisme obsessionnel. Le passage quasi-obligatoire par des plateformes libre-échangistes déplace les points d’appui du procès capitaliste : ce sont désormais ceux qui font une offre (de transport, de voiture, d’appartement…) qui ont pour eux les coûts fixes de l’activité, les géants du net se contentant de gérer une batterie d’algorithmes suffisamment puissants pour mettre en liens des personnes aux revenus trop limités pour se payer des transports ou des moyens de logement classiques. Le plus ironique dans cette situation de servitude volontaire, c’est que le numérique renoue avec l’antique économie de la réputation ; en agrégeant toutes les données d’utilisateurs, l’on peut par exemple savoir si vous êtes un hôtelier occasionnel fiable. Les jugements des uns et des autres (plus ou moins bien intentionnés, indexés sur des humeurs à l’emporte-pièce) vont servir à abonder une rente réputationnelle d’autant plus importante que les plateformes seront en mesure de relayer cette politique de la renommée individuelle.

Morozov indique quelques pistes pour se débarrasser d’Uber et de sa logique mortifère. Il imagine par exemple un service public municipal indiquant à tout moment aux usagers l’ensemble des possibilités de transport à sa disposition (à l’exception d’Uber) pour se rendre là où il le désire. Il n’est alors nul besoin d’abonder un serveur quelconque en données personnelles, et le service rendu ne suppose pas une mise en concurrence des uns et des autres.

Dans cette exploration de l’idéologie californienne du numérique, Morozov multiplie les exemples ; comme celui de cette application de mise aux enchères en temps réel des places de parking disponibles. Le numérique conquiert des pans entiers de nos vies, et sa politique capitaliste avec. L’horizon d’attente de cette économie de la connexion permanente et du jugement généralisé des activités ne fait pas de doute : toutes les barrières de l’intimité et du dessaisissement de soi au monde doivent disparaître. La marchandisation des données, en tant que projet politique, ne supporte aucune résistance.

Making Revolution ? Really ?

Morozov distingue deux attitudes devant la fabrication d’objets : d’une part, celle qui en appelle à une réforme des goûts et des modes d’appréciation ; d’autre part, ceux qui soulignent les soubassements sociaux et politiques aux inégalités dans l’accès aux ressources pour construire et apprécier un certain type d’objets, d’art en particulier. Le débat est ancien (Morozov le fait remonter au début du 20^e siècle, au moins, avec la mise en parallèle des positions antagonistes de Denman W. Ross et de Mary Dennett en 1903), mais il s’est constamment renouvelé depuis les années 1960. Opérant un raccourci entre « hacking » et « making », l’éditeur Stewart Brand a défendu l’idée que les makers (ceux-là même qui peuplent aujourd’hui les FabLabs, ces lieux plus ou moins collectifs de création innovante) étaient les nouveaux rebelles capables de « défier l’autorité » en montant et remontant des objets comme ils l’entendent (p. 45). On a connu des subversions plus fortes ! Comme le souligne Morozov, « les makers forment un groupe disparate » : « fans d’imprimantes 3D », « bricoleurs », « mécanos » et « amateurs d’artisanat » ont en commun une même « infrastructure intellectuelle » (p. 46), centrée autour du magazine Make et de différents manifestes à valence prescriptive[2]. Dans ce référentiel finalement assez pauvre, tout est « making » : la moindre activité de loisir serait un foyer potentiel de subversion. Le fait que le département recherche du Ministère américain de la Défense se déclare en osmose complète avec le making suffit à signaler l’innocuité politique de ce mouvement aux affirmations révolutionnaires trop peu étayées.

Morozov prend l’exemple de Lee Felsenstein (qui a participé au Free Speech Movement de Berkeley) s’est inspiré des thèses convivialistes d’Ivan Illich pour imaginer une infrastructure informatique d’échanges d’informations. En misant sur l’individualisation des comportements et sur l’esthétique, ce projet n’a pu opposer grand-chose de consistant lorsque le temps de Jobs et Wozniak est venu. La technologie sans le cadre politique qui en définit précisément les usages serait, d’après Morozov, la cause principale de cet échec patent. J’y reviendrai plus loin, mais il me semble que sur ce point, précisément, Morozov ne pousse pas assez loin son raisonnement et qu’il en reste à une perspective insuffisamment politique de ce qu’est la technologie.

Ce qui est donné n’est pas gratuit : le prix de la surveillance

L’idée que l’accroissement sans fin des données numériques permettrait un bien-être généralisé alimente, dans l’espace restreint des geeks de la Silicon Valley l’idéal d’un « dividende de la surveillance » (p. 59). Fondé sur le principe d’une amélioration des conditions de vie par l’incitation (à faire du sport, à manger sainement…), le suivi électronique se pose en principe fondateur d’une société du self-tracking. Des études en toc multiplient les tests sur cette physique sociale d’un genre nouveau : de façon générale, l’incitation serait un moyen de résoudre concrètement des problèmes que les politiques classiques ne parviennent pas à faire disparaître. La simplification généralisée de ce type de procès est la marque même de la destruction politique à l’œuvre : ce ne sont pas les difficultés inhérentes à la destruction des forces sociales qui sont examinées, mais de simples réponses superficielles faisant office de viatique pour l’action publique. Par exemple, la fondation de Bill & Melinda Gates envisage « d’aider » (oui, là, vraiment, les guillemets s’imposent) les pauvres à épargner par l’envoi de messages sur leur téléphone portable les incitants à faire « des dépôts réguliers » (p. 63). D’autres prospecteurs misérabilistes des données numériques imaginent que c’est parce qu’ils sont angoissés par leur situation que les pauvres prennent de mauvaises décisions ne leur permettant pas de sortir de leur condition ; l’adjuvent algorithmique serait là pour « rationnaliser » les choix à faire. Morozov montre bien qu’en réduisant les problèmes sociaux et politiques à des questions d’accès à l’information (ou de rapidité dans l’obtention de cette dernière), c’est un nivellement dramatique de la chose publique qui est opéré à grande échelle. Il prend ainsi l’exemple de l’énergie, seulement considérée par certaines boîtes de l’économie numérique non plus dans sa matérialité la plus lourde (réseaux, distribution, infrastructures, usines de production, extraction des matières premières…), « pour apparaître comme un simple problème informationnel que pourront résoudre des boucles de rétroaction » (p. 67).

La transparence exigée du citoyen (qui se voit capturé, littéralement, comme atome social dans une physique de la contrainte) contraste avec l’invisibilisation progressive de toutes les structures d’absorption et de consommation des données transmises : les grandes entreprises capitalistes, les administrations de la défense ou encore les think tanks conseillant toujours plus de dérégulation aux gouvernements goûtent assez peu le déballage généralisé des données qu’ils exigent par ailleurs de tout un chacun.

Finalement, c’est bien à un « rétrécissement de l’horizon politique » que l’on assiste (p. 71). On pourrait même dire que c’est l’ultime victoire des scientistes que d’avoir su s’allier aux intérêts du capital pour poursuivre leur entreprise de modélisation du monde et de son ajustement selon des variables diverses.

La Silicon Valley de la mort

Morozov constate avec justesse que dans les médias, la Silicon Valley bénéficie d’une incroyable aura qui semble l’absoudre d’absolument toutes les turpitudes politiques et économiques que les ingénieurs qui l’habitent ne cessent de produire en lieu et place des bienfaits promis. Voici cependant que la chose numérique devient « un phénomène assez moche et douloureux » (p. 75). Les critiques contre l’uberisation de la société couplées aux délires toujours plus technophile d’un gouvernement par les artefacts commencent à motiver un certain mécontentement (dont Morozov ne nous dit pas exactement comment il se mesure). Pour ébrécher davantage encore le moule numérique californien, il faut dépasser la critique technologique et viser les options politiques et économiques qui les sous-tendent. Sur ce point, Morozov ne va pas aller assez loin, me semble-t-il : il laisse entendre que la technologie serait conçue en dehors du politique. Or il n’est pas anodin que la technologie numérique soit fondée sur des algorithmes, c’est-à-dire des outils mathématiques de codage permettant de simuler, de modéliser, de croiser, d’interpoler, de classer des grandes masses de données. Que l’algorithmie massive ait un lien avec le capitalisme depuis ses débuts, la chose n’est pas douteuse. Que cette algorithmie ait été employée, dès l’après Seconde Guerre mondiale, pour servir une infrastructure militaire préfigurant internet, laisse encore moins de place au suspens[3]. C’est parce que la forme « algorithme » est le produit d’une série de conditions sociales, politiques et économiques que son usage est cadré par l’ordre militaro-capitaliste. Il faudrait repenser un type de codage bien spécifique pour – précisément – ne pas donner prise aux hubris marchand et militaire. La tentative cybernétique de Salvadore Allende aurait pu – si l’expérience était allée jusqu’à son terme – donner corps à un contre-emploi des algorithmes aux fins d’une émancipation politique et sociale[4]. Morozov a raison de se focaliser sur le Silicon Valley (c’est bien le lieu stratégique de ce redéploiement contemporain du néolibéralisme instrumenté par le numérique), mais il faut aussi dévider le chronotope de ce qui a rendu possible cette idéologie du capteur et de l’auto-asservissement.

Mais Morozov donne (au moins) trois raisons de cibler la vallée californienne dans les luttes qui s’annoncent : les « barbelés invisibles » (p. 78) qui, sous couvert de liberté numérique, nous enserrent dans un réseau fin de captation de données, l’extinction (par le vide) des alternatives possibles au monde radieux du pixel, la propagation dangereuse d’une « épistémologie simpliste » (l’efficacité par le résultat provisoire et superficiel) (p. 84). Citant Deleuze, Morozov nous enjoint de nous détacher des seuls outils et de reconfigurer les rapports politiques qui les ont rendus possible.

Data Junkie

Le diagnostic est avéré : les États-Unis sont malades de leur « addiction aux données » (p. 93). Même si une « cure de désintoxication » serait plus que souhaitable, celle-ci ne semble pas imminente. Et le fix numérique d’apparaître comme une alternative potentiellement salvatrice : comment imaginer que les conduits par lesquels passent nos emails chaque jour échappent à toute forme d’approbation citoyenne ? Il n’en reste pas moins que les données sont une drogue dure dont l’État américain a du mal à se passer. Si bien que, face au tollé mondial lorsque fut découvert le projet gigantesque de surveillance généralisée du monde, c’est la solution marchande (moins visible) qui a pris le relai. Les fameux partenariats public-privé (plaie de nombreuses administrations publiques permettant un grignotage capitaliste de plus en plus féroce) sont désormais le cheval de Troie du contrôle numérique globalisé. Surtout que la vie numérique (pour les dissidents par exemple) ne s’est pas révélée exactement des plus faciles à vivre. Car oui, il faut bien si faire, la vie dans le monde réel précède toujours les extrapolations algorithmiques d’une existence pixelisée…

Ce qui a rendu l’Amérique complètement dépendantes des données (les autres nations occidentales, sans parler de la Chine n’y échappent certes pas), c’est aussi l’extrême facilité avec laquelle elles peuvent être prélevées. Et la convergence informatique construite depuis les années 1990 s’est réalisée en direction des solutions les moins fiables : il n’a jamais été question, par exemple, de construire une « messagerie cryptée » et l’on en est resté aux lignes téléphoniques classiques pour faire transiter les octets. Le drame de ce type d’imprévoyance technique et politique est qu’il se retourne précisément contre les dissidents politiques des pays totalitaires…

Verdict : si les lois (comme le suggère Morozov) ne sont plus utiles pour arrêter le train de la marchandisation numérique, c’est parce que les gouvernements ont délaissé le terrain de la politique et des rapports de force que l’on peut y construire pour préférer la commercialisation des données comme principe de (dé)régulation sociale.

Rage Against The Machine

Quelles luttes sont possibles pour s’extraire de cette nasse numérique ? Morozov propose tout d’abord une propédeutique mettant en exergue les conséquences de l’architecture politique qui se met en place à partir des infrastructures numériques et de leurs allants de soi économiques. Il estime qu’il faut informer davantage sur les conséquences du « consumérisme informationnel » (p. 105) : l’agrégation de (nos) données fournit des éléments objectifs de traçage, de contrôle et aussi de dressage pour le futur. Ne plus se soumettre à certaines incitations/injonctions calculées par des algorithmes ayant patiemment cerné nos habitudes pourrait (à terme) être considéré comme une infraction. Morozov imagine aussi qu’il soit possible de faire du numérique un vrai objet politique à discuter dans le débat démocratique. Mais finalement, la plus grande faiblesse de cette « régulation algorithmique » tient dans cette incapacité (parce que c’en est une !) à détailler profondément les problèmes auxquels elle prétend s’attaquer. En cherchant une réponse immédiatement efficace par suite d’une agrégation de données, la solution numérique est toujours en retard sur le réel. Il est rigoureusement impossible d’associer tous les paramètres d’un phénomène ou d’une situation impliquant des interactions humaines multiples ou même un simple comportement humain face à la décision. Le « solutionnisme » simpliste de la Silicon Valley ne mène nulle part, on le sait déjà. Ce qui est plus délicat, c’est que la rétractation politique (ou plutôt la conversion politique) en cours ne s’interrompra pas de sitôt. Morozov remarque que ce sont les dernières miettes de l’État social qui seront balayées avant que ne s’effondre le mythe de la numérisation totale. Le risque est qu’entre-temps, il faudra subir les contraintes d’un panoptique algorithmique gouverné par les grandes entreprises et le complexe militaro-industriel.

Le mirage numérique est donc un plaidoyer enlevé contre la politique actuel du Big Data. Il lui manque, je l’ai dit, une réflexion plus historiquement profonde pour saisir les ressorts de la domination algorithmique, mais cela n’enlève rien à l’éclat d’une démonstration désenchantée de l’hubris numérique qui, partout, accélère la mise à sac des biens communs et des instruments d’émancipation.

Jérôme Lamy (@JeromeLamy79)

Image en bandeau : Google Data Center Cooling Plant, Douglas County, Georgia. Crédits : techrepublic.com.

---

[1] Ce qui fait d’autant plus regretter l’absence de notes et plus généralement d’appareil critique pour préciser les citations, nombreuses et bien amenées.
[2] Sur les makers on consultera avec profit le bel ouvrage de Michel Lallement, L’âge du faire. Hacking, travail, anarchie, Paris, Le Seuil, 2015.
[3] Voir : Judy L. Klein, Rebecca Lemov, Michael D. Gordin, Lorraine Daston, Paul Erickson, Thomas Sturm, Quand la raison faillit perdre l’esprit. La rationalité mise à l’épreuve de la Guerre froide, Bruxelles, Zones Sensibles, 2015.
[4] Eden Medina, Cybernetic Revolutionaries. Technology and Politics in Allende’s Chile, Cambridge (Mass.), MIT Press, 2011 ; Andrew Pickering, The Cybernetic Brain, Chicago, The University of Chicago Press, 2010.

---

---