Comment critiquer la place grandissante que prennent les réseaux sociaux et autres outils numériques dans nos vies, sans toutefois utiliser des arguments technophobes ou réactionnaires ? Les trois livres dont nous vous conseillons la lecture aujourd’hui vous permettront de répondre à cette question en empruntant différents chemins de pensée. De la critique de la méthode de construction des algorithmes de O’Neil à la critique de la logique du capitalisme de surveillance de Zuboff, en passant par Morozov et sa critique de l’idée qu’internet peut tout solutionner, ces livres devraient vous permettre d’appréhender plus sereinement vos futurs discussions liées aux enjeux numériques.

Des algorithmes loin d’être inoffensifs

Professeure adjointe de mathématique au Barnard College, puis analyste dans l’un des principaux fonds spéculatifs des USA lors de la crise des subprimes avant de devenir experte en données pour une start-up de commerce en ligne, Cathy O’Neil  quitte le monde de la finance et rejoint le mouvement Occupy Wall Street en 2011. Militante de la lutte contre les dérives algorithmiques, elle publie en 2016 ce livre dont le titre offre un jeu de mot plus percutant en anglais « Weapons of Math Destruction » (« Armes de destructions mathématiques » où la prononciation de « math » en anglais s’approche de celle de « mass » : massive).

Tout au long de la dizaine de chapitres du livre, la mathématicienne prend soin d’expliquer les dangers que représentent l’utilisation d’algorithme à grande échelle, en veillant à casser l’idée reçue selon laquelle les mathématiques seraient neutres. Les algorithmes sont en effet construits par des humains portant leurs propres convictions et s’appuient sur des bases de données opaques qui peuvent être incomplètes, erronées ou mal construites. Que ce soit dans le domaine de l’éducation, de la publicité ciblée, de la police prédictive, de la justice, de la recherche d’emploi, les exemples de dérives donnés dans l’ouvrage sont nombreux et détaillés. On regrettera parfois que ces exemples soient principalement centrés sur la culture américaine, mais le livre permet de poser les bases d’une réflexion citoyenne autour de la tendance à utiliser des algorithmes pour des décisions laissées jusque-là à des humains.

Références :

Algorithmes, la bombe à retardement

Cathy O’Neil

Les Arènes, 2016 – 340 pages

Peut-on tout résoudre par la technologie ?

Journaliste pour de nombreux médias de renom (The New York Times, The Economist, The Wall Street Journal, Financial Times…), chercheur invité en « technologie de libération » à Standford, membre de l’Open Society Institute, Evgeny Morozov publie en 2013 « Pour tout résoudre cliquez ici ».

Dans cet ouvrage dense, le biélorusse s’attache notamment à produire une critique de deux idéologies se complétant : webcentrisme et solutionnisme. L’auteur présente le webcentrisme comme l’idée selon laquelle « Internet » serait autonome et quasiment sacré, et dont « sa vision totalisante, son faux universalisme et son réductionnisme nous éloignent d’un débat plus solide sur les technologies numériques« . Le solutionnisme, quant à lui, est un système de pensée qui vise à résoudre des problèmes complexes par des réponses simplistes, voire à résoudre des problèmes qui n’existent pas. On pensera à la bouteille d’eau connectée par exemple, ou encore la camera qui filme votre poubelle. Loin d’être un technophobe, Morozov ne nie pas l’utilité des nouvelles technologies mais propose un renforcement du débat politique en amont du réflexe à la solution technique.

Un livre riche en exemples permettant de prendre un peu de recul sur la notion d’efficacité technique.

Références :

Pour tout résoudre cliquez  ici, l’aberration du solutionnisme technologique

Evgeny Morozov

Éditions FYP, 2013 – 350 pages

Big Other, ou la rencontre entre surveillance de masse et capacité de contrôle

« Big Other braconne nos comportements pour leur surplus et abandonne toute la signification que contiennent nos corps, nos cerveaux, nos coeurs battants […] Oublions le cliché qui nous rappelle que si c’est gratuit, « c’est que vous êtes le produit« . Non, nous ne sommes pas le produit, nous sommes la carcasse abandonnée. Le produit provient du surplus arraché à notre existence. » C’est l’un des enseignements que nous pouvons tirer de « L’âge du capitalisme de surveillance » écrit par Shoshana Zuboff.

Tout au long des 700 pages du livre, l’universitaire que vous avez pu voir dans le documentaire « Derrière nos écrans de fumée » (Social Dilemma), décrit, à travers les exemples de Facebook, Google et Microsoft, la stratégie et l’idéologie des capitalistes de surveillance. L’autrice y présente notamment comment les géants du numériques ont pu mettre en place un système qui vise à contrôler les comportements en s’appuyant sur la découverte, l’appropriation et l’exploitation des données de « surplus comportemental » des personnes utilisant leur service. Ces données de surplus, soit toutes les informations qui n’étaient pas nécessaires à l’exécution d’un service mais tout de même récoltées par une plateforme, sont les matières premières des GAFAM. Accumulant, traitant et monopolisant cette connaissances comme jamais il n’a été possible de faire jusqu’alors, Zuboff montre comment ces entreprises se servent de cette matière première pour à vendre de la « certitude » à ses clients à travers leur modèle économique lié à la publicité, quitte à modifier les comportements des personnes. Loin d’une thèse complotiste de contrôle et de manipulation des populations, la professeure émérite à l’université de Harvard nous montre à travers l’allégorie de « Big Other » comment les capitalistes de surveillance assoient leur pouvoir, non pas en utilisant la violence comme les régimes totalitaires, mais en contrôlant connaissances et outils technologiques permettant d’agir sur les comportements.

Un livre extrêmement référencé permettant de mieux comprendre les enjeux des débats sur la récolte de données personnelles et sur le pouvoir dont disposent les géants du numérique.

Références :

L’âge du capitalisme de surveillance

Shoshana Zuboff

Zulma Essais, 2018 – 700 pages