1. Introduction

Présente dans les discours politiques, les prédications des grands patrons des GAFAM, les annonces technologiques, les articles journalistiques, les romans, la publicité… L’intelligence artificielle est sans conteste l’un des sujets en vogue faisant le plus « sensation » actuellement. Miracle technologique préparant la nouvelle révolution à venir pour certains, menace contre l’humanité pour d’autres, les avis divergents. La tendance majoritaire tend à considérer l’IA de façon technophile et à la voir comme une évolution technologique dont tous les domaines de la société vont pouvoir bénéficier. Or, une telle vision des choses apparaît problématique, du fait de la légitimité de ceux qui en parlent.

D’un côté, se trouvent tous ceux ne connaissant pas réellement le sujet (grand public, journalistes etc.), si ce n’est un contexte flou, à la limite du fantasme et de la science-fiction.

De l’autre côté, se trouvent les acteurs majeurs du milieu, les ingénieurs des grands groupes comme Facebook, IBM ou Google qui, bien renseignés sur le fonctionnement technique ne sont toutefois pas objectifs. Par leur implication même dans ces entreprises, ils ne sont pas à mêmes de penser de façon objective en dehors du système qu’ils développent.

Ce qu’Éric Sadin se propose de faire dans cet ouvrage, c’est d’étudier les évolutions techniques liées au développement de l’intelligence artificielle non pas comme de simples avancées fonctionnelles, mais de les considérer sous l’angle de la philosophie des techniques, c’est-à-dire comme des acteurs à part entière, influençant nos manières de travailler, de penser et de vivre.

2. Histoire de l’automatisation

Afin de mieux saisir les objectifs et les enjeux actuels liés au sujet de l’intelligence artificielle, il convient d’étudier l’évolution de l’informatique au cours du siècle dernier d’un point de vue sociotechnique, c’est-à-dire en cherchant à comprendre les motivations sociales et économiques ayant conduit aux choix de développement que nous connaissons aujourd’hui.

Comme le décrit l’auteur, l’histoire de l’informatique a très souvent tendance à être « romancée » en racontant les « success stories » de ces jeunes génies qui ont donné ce que nous connaissons comme les GAFAM. Cependant un pan entier de cette histoire est très souvent mis de côté, car si ces entrepreneurs ont certes eu une influence non négligeable dans le domaine de l’informatique, il n’en reste pas moins que l’avènement de cette dernière découle avant tout des logiques capitalistes d’automatisation et d’optimisation permanente des processus.

Si les premières bases théoriques de l’informatique naissent à la fin du XIXe siècle avec l’algorithmie ou l’algèbre de Boole, ce n’est qu’au début du XXe siècle que les premiers calculateurs sont créés. Ces « computers » sont alors produits par une nouvelle société, la CTR, qui deviendra plus tard IBM, répondant notamment à un appel d’offres du gouvernement pour l’aide à la gestion et à l’enregistrement des bénéficiaires du « social security act » dans les années trente. Ces nouveaux dispositifs ont permis de mettre en place les prémisses de l’automatisation de la gestion de l’information et de poser les bases de ce qui devait devenir l’industrie de l’informatique.

Un basculement des logiques se produit lors de la Seconde Guerre mondiale. C’est à cette époque que l’armée américaine développe le guidage balistique. En saisissant dans un ordinateur les données météorologiques et géographiques, ce dernier était alors capable de déterminer les bons paramètres de tirs à appliquer pour maximiser l’efficacité des missiles. C’est alors un nouveau régime de vérité qui voit le jour. Du stade de l’information, on passe au stade de l’orientation. Le résultat n’est plus à interpréter, l’action à réaliser est directement préconisée par la machine.

C’est dans le courant des années 90, avec notamment l’évolution des puissances de calcul, que se développent les systèmes experts. Ces logiciels permettent de poser des diagnostiques à partir de données d’entrée et vont peu à peu être utilisés dans la banque, la finance ou encore l’assurance pour décider de la solvabilité ou non d’un client. Cela marque le retour de l’informatique comme système visant non plus à informer, mais à automatiser les prises de décisions. Des systèmes capables de tirer des conclusions et de prendre des décisions à partir de volumes titanesques de données. Et ce, sans que l’on comprenne bien comment ces inférences se font.

Ce basculement d’informer à orienter est ainsi plus que jamais présent à tous les niveaux de nos sociétés.

3. La transformation du travail, quel avenir pour les employés ?

Le premier champ abordé est celui du monde du travail. En effet, c’est probablement le domaine le plus impacté par les évolutions technologiques au cours du temps, ces dernières résultant pour la plupart d’une volonté d’amélioration permanente du rendement et de la productivité. Logique qui connait un nouvel essor avec la très en vogue « transformation digitale ». Cette mutation est si en vogue qu’IBM, leader mondial de la production d’ordinateurs à une époque, a totalement délaissé sa partie matérielle au profit de services permettant de rendre les entreprises « plus intelligentes » au travers du numérique.

C’est dans cette optique d’optimisation que les entreprises d’aujourd’hui cherchent de plus en plus à « robotiser » le travail. Grâce à ces processus d’automatisation, elles mettent souvent en avant la possibilité de « libérer » les travailleurs, afin de pouvoir les employer « à des tâches plus créatives ». C’est ainsi que les usines se sont vues pourvoir de plus en plus de robots, que certaines entreprises se mettent à développer des robots assistants médicaux, que des magasins émergent sans le moindre vendeur.

Au sein de l’armée par exemple, une « démilitarisation » des pilotes de drones est en marche : ils réalisent leurs attaques à distance, complètement éloignés du terrain d’opérations. A présent c’est le déploiement de drones totalement autonomes qui est envisagé. Un stade de plus a été franchi avec le remplacement de certains postes « intellectuels » dans l’administration ou les assurances par des logiciels d’intelligence artificielle capables de collecter les données nécessaires et de prendre les décisions en toute autonomie. Le travailleur n’est ainsi absolument pas « libéré », puisqu’il se trouve littéralement évincé, remplacé des procès de production. Au lieu d’une collaboration, la machine devient le nouveau référentiel d’efficacité à atteindre.

Au-delà du travail lui-même, un autre pan des entreprises est amené fortement à évoluer conjointement avec les nouvelles technologies : le management. Alors que la gestion des employés dans les années 80 était encore basée sur un modèle très hiérarchisé, elle s’est assouplie de plus en plus pour tendre vers une nouvelle configuration : celui de l’employé proactif et créatif, libéré des chaines hiérarchiques pour gérer seul ses responsabilités.

Si cette forme de management est encore très présente aujourd’hui, en réalité, elle s’est montrée créatrice de forte pression psychologique pour les employés. Depuis les années 2010 une nouvelle approche se développe : « le data driven management ». L’idée étant de récolter un maximum de données sur les collaborateurs et sur l’entreprise, pour proposer une gestion « souple » et « intelligente » des ressources humaines suite aux préconisions d’algorithmes. Par exemple, Amazon a mis au point un brevet pour des bracelets électroniques aux poignets des employés capables d’étudier les mouvements de ces derniers et d’émettre des vibrations pour corriger les mouvements non optimisés.

4. Au plus près du corps et de l’esprit, la fin de l’esprit critique ?

Si les données peuvent jouer un tel rôle prépondérant dans l’informatique moderne, c’est, d’une part, grâce à l’augmentation des puissances de calculs, mais surtout grâce à la génération de ces volumes de plus en plus importants de données par les utilisateurs eux-mêmes.

Ce nombre d’utilisateurs s’est vu augmenter considérablement par la popularisation significative des ordinateurs dans les années 90, avec notamment l’apparition des interfaces graphiques et du dispositif de la souris, ces deux éléments permettant de manipuler aisément les données contenues dans la machine. Ce phénomène visant à rendre le numérique de plus en plus accessible s’est poursuivi à travers la miniaturisation des dispositifs, et l’apparition du tactile, puis des premiers « smartphones ».

Ce qui caractérise ces nouveaux appareils, ce sont leur capacité à accéder n’importe où, n’importe quand, à internet, à attirer notre attention, mais aussi leur force de prodiguer des conseils aux utilisateurs. Les interfaces vocales comme Siri ou Google Assistant ont émergé et sont capables d’assister une personne par des rappels, des conseils (sommeil, santé, sport, alimentation…) ou encore des réponses. Cette tendance se voit renforcée dans l’émergence sur la plupart des systèmes de messagerie instantanée de « chatbots », des programmes capables de converser avec un utilisateur pour répondre au mieux à ses demandes. Beaucoup sont d’ailleurs programmés pour être drôles/attachants et essayer de créer un lien avec l’humain derrière l’écran. L’objectif étant pour chaque plateforme que les utilisateurs n'aient plus besoin de sortir de leur écosystème dédié.

Ce stade aussi est sur le point de s’estomper au profit des objets connectés. L’interface de l’écran disparaît peu à peu pour laisser place à une kyrielle d’objets connectés, c’est-à-dire capables de collecter des informations et de nous conseiller en temps réel. L’auteur prend pour exemple le miroir connecté d’Amazon permettant de donner son avis sur notre habillement et d’éventuellement proposer de nouvelles tenues à acheter. Ce qu’il faut saisir, c’est que tous ces nouveaux dispositifs ne cherchent pas seulement à apporter de nouvelles fonctionnalités, mais à toucher et jouer avec les désirs humains, à stimuler les utilisateurs pour générer des comportements spécifiques et prévus. On est passé de l’homme derrière la machine, à l’homme au milieu des machines, influencé et guidé au quotidien.

Et lorsque l’autour du corps ne suffit plus, il faudra se tourner vers la machine dans le corps, fantasme ultime du transhumanisme. Il est également en cours d’émergence et trouve ses débuts dans l’entreprise « Neuralink » d’Elon Musk. L’objectif ? Devenir nous-mêmes connectés, nous priver totalement d’interface, pour se trouver plongé dans l’instantanéité numérique.

5. Des changements sociétaux et politiques

Bien entendu, il est impossible pour la technologie de toucher aussi profondément les deux sphères abordées précédemment sans qu’elle ait également un impact sur la société en général.

Prenons l’exemple de la politique qui évolue également selon des logiques d’automatisation. De plus en plus les processus administratifs s’informatisent, et des pans entiers du quotidien des citoyens sont confiés dans des partenariats « semi-privés » auprès d’entreprises dont la motivation première est de générer du chiffre. Ainsi là où la politique a pu être à une époque motivée par la prise de décision en réponse à des convictions humaines, les décisions actuelles ne sont plus que réactions à des logiques de marchés et des réponses à la nécessité de l’instant. Tout cela conformément à la logique sociale-libérale, ayant pour croyance que des droits humains finissent par émerger de l’industrialisation et l’automatisation d’un pays. Le rapport État/Citoyen se transforme ainsi peu à peu en rapport Entreprise/Consommateur, ce dernier ne profitant plus de « droits », mais ayant accès aux « services » proposés par un État-plateforme.

Ce mouvement va jusqu’à se coupler à l’intelligence artificielle pour automatiser les décisions de gouvernance comme en Chine avec le système du « crédit social ». Ce dispositif consiste tout simplement à étudier les moindres faits, gestes et paroles des citoyens grâce à des moyens de surveillance physique et virtuelle omniprésents, et d’attribuer une note aux habitants en fonction de ces données récoltées. Ainsi ces notes sont calculées automatiquement en temps réel et régissent les droits des citoyens en fonction. Certaines personnes peuvent se voir ainsi refuser un droit de voyage à l’étranger, l’obtention de prêts, ou encore l’accès à certains métiers. Tout ceci ayant pour objectif premier, non pas de brider la liberté a posteriori par un système de punition, mais d’influer directement sur les comportements des personnes qui, se sachant observées, ne vont pas commettre d’actes « désapprouvés » par le gouvernement.

Dans une moindre mesure, cette logique se cristallise dans nos comportements sur les réseaux, où de plus en plus l’image publique et les propos tenus sont cruciaux et guident nos comportements.

6. Comment réagir ?

Comment faire face à cet enthousiasme exalté propagé par l’industrie et cherchant à gagner les moindres aspects de nos quotidiens pour nous faire « devenir meilleurs » ? Aujourd’hui la problématique principale touchant les organisations concerne la privauté des données des utilisateurs.

Et des associations telles que la quadrature du Net, ou des initiatives européennes comme le règlement général sur la protection des données (RGPD) se donnent pour but de défendre nos droits à l’anonymat et à la visibilité de nos données. Cependant pour l’auteur, c’est se tromper de combat. Car cela ne vient pas combattre les logiques derrière les innovations technologiques, ces logiques bridant peu à peu l’autonomie humaine. Ce qui pose problème, ce ne sont pas nos données, mais bien tous ces dispositifs qui altèrent nos façons d’agir et de penser.

Au niveau des GAFAM, le souci des consommateurs pousse à prendre des mesures sur la transparence des données. Au sujet de l’intelligence artificielle, des craintes s’élèvent également. Sur leur autonomie, leur possibilité de s’émanciper de leurs créateurs comme cela a pu se produire dans tant et tant de récits de science-fiction, mais également sur la propension des IA à discriminer certaines tranches de la société dans leurs conclusions. Se forment alors un peu partout, dans le privé et le public, des comités « d’éthique », cherchant à réguler ou contrôler les développements d’IA en fonction de ces critères. Pour l’auteur encore une fois, ces mesures ne sont que des façades servant à rassurer les masses. En aucun cas, elles ne remettent en cause les logiques structurelles et fondamentales à l’œuvre.

7. Conclusion

Pour Éric Sadin, l’intelligence artificielle n’est qu’un moyen parmi d’autres de contribuer à cet automatisation et à cette intégration du numérique dans nos manières d’être. Toutes les strates de la société, de l’État au citoyen se trouvent concernées par cette révolution.

L’auteur revendique ainsi une prise de conscience. Prise de conscience liée à une action individuelle, pour prendre du recul sur les technologies qui nous environnent. De refuser la digitalisation du travail et des usines, de refuser de voir le privé s’immiscer dans la médecine et l’éducation au travers « d’innovations ». D’essayer de repasser à des logiques plus petites, plus locales. D’essayer de soutenir les activités créatives ou bénéficiant directement à la communauté et d’arrêter de penser sans cesse en termes de profit. D’essayer de garder un esprit critique envers la novlangue techno libérale employée à tout va dans les discours de politiciens ou de grands patrons. Ce qu’il faut enfin, ce sont des penseurs, non pas des penseurs d’Internet comme il en fleurit de plus en plus, mais « une pensée de la numérisation du monde, de son automatisation à terme intégrale et de toutes ses conséquences sur nos existences (p. 241)».

8. Zone critique

Cet ouvrage soulève effectivement de nombreux problèmes de taille liés au développement de l’informatique de nos jours, comme par exemple la volonté jamais remise en question de tout informatiser, tout automatiser, au détriment de la liberté de penser des citoyens.

Il peut être toutefois reproché à l’auteur d’analyser avec légèreté les alternatives à l’informatique dans son essence capitaliste, avec une critique un peu prompte et grossière des différents collectifs telle la quadrature du Net qui cherchent à repenser les modes de vivre ensemble ou de citoyenneté au travers de nouveaux systèmes décentralisés.

L’un des vrais problèmes reste cependant la propension de l’auteur à ne pas chercher à se mettre en difficulté. On pensera notamment au sujet de l’IA dans la médecine, où il n’aborde pas les potentiels bienfaits d’être en mesure de détecter des maladies mortelles de manière plus efficace qu’un médecin. Au lieu de chercher à comprendre comment un nouveau rapport peut s’établir entre l’homme et la « machine » il se contente de tout rejeter en bloc sous la bannière de « l’anti-humanisme ». Il n’est toutefois pas aisé de trouver un avis abordant la question de façon modérée. La plupart des articles traitant du sujet étant souvent totalement pour. (ex : Morgane Tual, « Yann LeCun de Facebook : L’intelligence artificielle va sauver des vies », Le Monde, 23 septembre 2017)

9. Pour aller plus loin

Ouvrage recensé– L’intelligence Artificielle ou l’enjeu du siècle – Anatomie d’un antihumanisme radical, Paris, L’échappée, coll « Pour en finir avec », 2018

Du même auteur– La Vie algorithmique. Critique de la raison numérique, Paris, L’échappée, 2015.– La Siliconisation du Monde. L’irrésistible expansion du libéralisme numérique, Paris, L’échappée, 2016.

Autres pistes– Jacques Ellul, La Technique ou l’Enjeu du siècle, Paris, Armand Colin, 1954.– Thinkerview (chaine youtube) et Eric Sadin, Eric Sadin – L’asservissement par l’intelligence Artificielle ?, 2018.– Biagini, Carnino, Izoard, La Tyrannie technologique. Critique de la société numérique, Paris, L’échappée, 2007.