Le grand bluff de l'IA

Le grand bluff de l'Intelligence Artificielle mobilise deux catégories de jobards : la première est constituée de ceux qui attendent de l'IA des miracles sur le plan économique ; les promoteurs de cette technologie font miroiter cette poule aux oeufs d'or pour obtenir de la classe politique des crédits substantiels, atteignant parfois des montants doublement faramineux et scandaleux vu l'état des finances publiques.

Dans tous les domaines technologiques, le bilan - et donc le progrès - est mesuré par les industriels eux-mêmes. La médecine n'est pas la seule science à avoir été phagocytée par l'industrie.

La seconde catégorie de jobards, sans doute échaudée par la propagande des industriels, mais à peine plus sceptique, perçoit l'IA comme une menace diabolique pour l'Humanité. En réalité, l'IA est une vieille lune. Si l'on voulait sérieusement se protéger contre les risques de l'IA, on chercherait à enquêter sur son usage par les grandes banques d'investissement à des fins de placements et de contrôle des activités, au lieu de pousser des cris d'orfraie à propos d'une menace future. En effet l'usage de l'IA par les acteurs des marchés financiers est déjà assez ancien. Les cadres bancaires sont d'ailleurs formés aux mathématiques et conçoivent la science économique comme un ensemble de formules mathématiques.

Le récent krach bancaire du printemps 2023 aux Etats-Unis illustre bien plus l'impuissance de l'IA que sa toute-puissance. La Silicon Valley Bank perdit alors en une semaine plus que l'ensemble des banques ruinées par le krach de 2008.

Bien sûr la responsabilité des élites politiques est très grande. Dans un régime politique rationnel (prudent), le krach mondial de 2008 aurait dû être suivi d'arrestations dans les milieux bancaires et financiers, comme on démantèle parfois des cartels de trafiquants de drogue ; bien entendu l'immunité judiciaire est un des principes du capitalisme, au niveau mafieux qu'il a atteint désormais. Le directeur de la Silicon Valley Bank en fuite a expliqué dans un communiqué de presse qu'il était "responsable mais pas coupable". On connaît la chanson.

Le parti politique populiste grec qui avait inscrit dans son programme des mesures contre la corruption bancaire, a dû y renoncer très vite après avoir remporté les élections, tant les moyens de pression des banques internationales sont puissants.

*

Le grand bluff de l'IA repose largement sur la science-fiction, qui entame largement l'esprit critique d'une partie de l'opinion publique, en partie la jeune génération qui a baigné dans l'idéologie du dynamisme scientifique de la littérature de science-fiction. On peut voir ici ou là, parfois dans des revues à prétention scientifique, les romans fantastiques de Jules Verne présentés comme des ouvrages pionniers dans le domaine de la science !

Le conte de Mary Shelley, "Frankenstein ou le Prométhée moderne" (1818) est, lui, bien plus scientifique car, sans remettre en cause l'aspiration humaine "prométhéenne" au progrès scientifique, il met en garde contre une dérive fréquente de la science et des milieux scientifiques. La "communauté scientifique" n'est pas moins corruptible que la classe politique - de tout temps les savants ont subi des pressions. Le mathématicien A. Einstein s'est laissé entraîner dans un projet militaire de type totalitaire. Ingénieur vétérinaire et non médecin, Louis Pasteur a été poussé par l'appât du gain et la soif de reconnaissance à des malversations avérées (comme la fabrication de fausses preuves).

*

Deux rapprochements ou analogies permettent d'élucider le procédé du bluff de l'IA, c'est-à-dire du slogan technologique, voire technocratique, et des protestations creuses qui, en lui faisant écho, amplifient la propagande : tout d'abord l'analogie avec les slogans transhumanistes, ensuite l'analogie entre l'IA et la novlangue de "1984", instrument de l'Etat totalitaire (hégélien).

Le transhumanisme est, en effet, une idéologie scientifique promue par des biologistes dans les années 1930, persuadés de parvenir dans un avenir proche à améliorer l'espèce humaine, c'est-à-dire créer un surhomme par le moyen de l'eugénisme. Bien informé des détails de ce projet, puisque son propre frère le biologiste Julian Huxley en était un des principaux acteurs, Aldous Huxley publia "Brave New World" (1932) afin de dénoncer l'ignominie de la communauté scientifique occidentale. Mieux que ça : Huxley a souligné le principe darwiniste sous-jacent à la barbarie nazie, avant qu'elle ne parvienne au pouvoir. Le darwinisme servira en effet de caution pseudo-scientifique à la propagande du progrès industriel dans tous les régimes totalitaires.

Pour cette raison le roman d'A. Huxley demeure tabou ; "Brave New World" désigne nettement le darwinisme social comme un élément central des politiques élitistes totalitaires, loin d'être l'apanage du seul IIIe Reich.

Il convient de parler d'ésotérisme darwiniste à propos de la théorie de la race aryenne en particulier, et du transhumanisme en général. En effet, quatre-vingt dix ans après les slogans transhumanistes de Julian Huxley, le surhomme biologique demeure invisible, si l'on fait exception des super-héros américains de fiction qui véhiculent cette idéologie, ou des compétiteurs sportifs dopés. Pire que ça : le massacre d'embryons "surnuméraires" auquel la Chine a procédé au cours des cinq dernières décennies, au nom de principes technocratiques eugénistes importés d'Occident, pourrait s'avérer la pire décision économique de son histoire récente.

Il va de soi que les promoteurs du transhumanisme et de la médecine génétique (impasse médicale) font beaucoup d'efforts pour blanchir leurs discours du soupçon de connivence avec l'idéologie nazie, préférant faire la promotion d'un surhomme métissé ou d'une surfemme. L'industrie, dotée de puissants moyens de propagande, a intérêt à censurer les critiques de l'idéologie darwiniste.

Que font les comités d'éthique scientifique pendant ce temps ? Il semble que, hormis Simone Weil dans la première moitié du XXe siècle, aucun philosophe n'a pris la peine de se pencher sérieusement sur l'immoralité radicale de la science physique dite "quantique" (poursuivant peut-être ici sans s'en douter le travail d'Alfred Jarry, dont le personnage d'Ubu est inspiré d'un professeur de sciences physiques).

Huxley comme Orwell font le lien entre la culture totalitaire et une phase de développement industriel ; celui-ci est parfaitement contrôlé dans "BNW", tandis qu'il ne l'est dans "1984" qu'au prix d'une violence étatique, qui absorbe une bonne part des forces de l'Etat. C'est là le principal point de divergence entre Huxley et Orwell, attesté par leur correspondance. Orwell est sans doute plus conforme, sur le plan historique, à l'extraordinaire promotion de la violence par les élites bourgeoises dans les milieux populaires.

Les élites dirigeantes parviennent à un monde parfait (dans "BNW") grâce à la manipulation génétique d'une large partie de la population, pour la rabaisser au niveau de la brute ou de l'animal. Huxley envisageait que l'usage de produits stupéfiants puisse suppléer les manipulations génétiques et, de fait, les services secrets de certains gouvernements totalitaires ont essayé de développer de telles technologies.

Le bluff de l'IA ne fait donc que renouveler le coup de bluff transhumaniste. Il ne s'agit pas tant, ici, de nier la menace que la pseudo-science représente, que de souligner que cette menace n'a rien de nouveau et qu'elle n'est pas liée à une technologie en particulier.

Hannah Arendt expliquait justement que "la mentalité totalitaire n'est pas tant dans l'intelligence artificielle que dans la croyance qu'elle peut surpasser l'intelligence humaine."

Huxley "confirme" H. Arendt : le totalitarisme passe en effet dans "BNW" par le renoncement de la petite caste dirigeante à la science ; cette petite caste est consciente que le totalitarisme repose sur le confort intellectuel. Winston Smith, contrairement à ses concitoyens, ne parvient pas à se contenter du confort intellectuel représenté par l'amour que Big Brother exige des citoyens d'Océania.

Un tel renoncement à la science peut passer par la propagation de doctrines scientifiques ésotériques, transhumanistes ou autres, ou encore par l'enseignement d'une épistémologie négationniste telle que celle de Karl Popper (qui consiste à déduire l'histoire du progrès scientifique des "avancées technologiques", suivant une méthode téléologique et non scientifique).

*

G. Orwell a imaginé, dans "1984", que des linguistes concevaient, pour le compte de Big Brother, afin d'abrutir la masse des citoyens d'Océania et la soumettre plus complètement, une "novlangue" (newspeak). Ce nouveau parler a pour but de réduire le langage humain à un simple outil de communication, en empêchant ainsi le langage de servir de support à la littérature ou à la science. Le développement de la culture audio-visuelle dans les pays occidentaux les plus avancés (Etats-Unis, Japon...) est une manifestation concrète de cette tendance totalitaire. On peut aussi poser l'équivalence de la culture bureaucratique et de la "novlangue".

Le point commun entre la novlangue de "1984" et l'IA est qu'elles posent l'équation entre l'intelligence et le langage, voire la signalétique. La bêtise des robots tient à leur absence d'autonomie vis-à-vis des ingénieurs qui les programment. C'est une telle dépendance ou soumission des citoyens que les linguistes, fonctionnaires au service de Big Brother, visent en imposant la novlangue.

Le robot représente le citoyen-esclave idéal du point de vue des élites totalitaires ; il ne risque pas de s'opposer à la "valeur travail" puisque c'est une bête de somme. Les romans dystopiques qui envisagent que les robots puissent être mis au service d'un régime totalitaire ne font que répéter "1984" sur le point de la novlangue, en poussant moins loin l'analyse de l'hyper-élitisme caractéristique du totalitarisme.

La bêtise des ingénieurs qui fabriquent des robots tient, elle, à leur ignorance de pans entiers de la nature, c'est-à-dire à leur savoir lacunaire. On ne peut couper l'intelligence scientifique de son objet d'étude. Autrement dit l'IA ou le langage renferme l'illusion du savoir absolu ; une telle illusion n'est pas très éloignée de l'illusion du savoir encyclopédique. Wikipédia n'est pas la science, pour la principale raison qu'elle se présente comme un catalogue de savoirs, et qu'il n'y a pas de progrès scientifique sans hiérarchisation du savoir scientifique ni organisation des différentes branches de la science.

Une disposition totalitaire caractéristique consiste à placer les mathématiques au-dessus des sciences de la nature, c'est-à-dire l'outil scientifique au-dessus de l'objet de recherche (dont les sciences dites naturelles sont plus proches), tel un peintre qui placerait la perspective au-dessus de la nature. On peut même dire plus nettement que la mystique de l'Etat totalitaire est une mystique mathématique.

*

Le grand bluff de l'IA consiste donc essentiellement à renforcer la légitimité des élites dirigeantes auprès de leurs administrés, dans un contexte totalitaire d'abus de pouvoir manifeste. On crée ainsi un clivage artificiel entre des citoyens légitimistes éblouis par les promesses mirifiques de l'IA (des amateurs de science-fiction), et des citoyens plus sceptiques ou plus inquiets (des amateurs de science-fiction post-apocalyptique), mais qui ne contestent pas l'essentiel, à savoir le monopole des élites technocratiques sur la science et ses applications. Diaboliser l'IA ne fait que contribuer à renforcer l'illusion qu'elle est un outil puissant, alors qu'elle n'est qu'une science-fiction comme le transhumanisme nazi ou post-nazi.

Très utilement A. Huxley a isolé le dispositif anti-humaniste des élites totalitaires occidentales, à savoir le darwinisme. Il se substitue pratiquement à toute autre forme de légitimation juridique sérieuse de l'élitisme. Pourquoi les élites technocratiques exercent-elles le pouvoir sans partage ? Parce qu'elles constituent une espèce de primates supérieurement "intelligente". Ainsi se considèrent-elles.

Plus utile Orwell encore ; contrairement à Huxley qui conçoit la domination des élites totalitaires comme infinie, il en souligne les limites ; l'animalité ou l'absence d'éthique en est une, car elle se heurte indéfiniment à l'aspiration de certains humains à vivre en êtres humains et non en insectes. La résilience que les élites totalitaires peuvent imposer, par le biais d'un conditionnement culturel, en particulier à la jeune génération, a des limites quasiment existentielles. Les robots sont entièrement dénués d'éthique et de bon sens, mais l'aspiration à l'éthique est bien plus naturelle que l'aspiration au vice, quasiment suicidaire, et que l'on ne retrouve que chez des enfants qui endurent et subissent un conditionnement à des réflexes.