Sous certains aspects, l’intelligence artificielle donne l’impression d’une pensée humaine. Elle peut traduire des textes et répondre par message presque comme le ferait une personne. Faut-il en conclure qu’elle possède une conscience ?

Il y a quelques semaines, le patron de Nvidia affirmait: « Nous avons atteint l’intelligence artificielle générale ! » À en croire ces discours, une forme de superintelligence serait en train de naître entre les mains de milliardaires de la tech comme Mark Zuckerberg et d’autres encore. Une perspective inquiétante ! Mais ces affirmations sont-elles fondées ? L’intelligence artificielle peut-elle vraiment penser ?

Ne prenons pas les déclarations des capitalistes au pied de la lettre. Derrière ces annonces spectaculaires, il s’agit surtout de susciter l’enthousiasme autour de l’IA et d’attirer des investisseurs. À nous donc de chercher la vérité. Pour cela, il ne suffit pas de comparer quelques caractéristiques superficielles entre chatbots et êtres humains. Il faut comprendre ce qu’est fondamentalement la pensée et d’où elle vient.

De la poussière d’étoiles au travail

La conscience ne naît pas d’une âme mystique en dehors de la matière, mais comme produit historique de la matière vivante. La matière a une histoire : elle se développe selon sa propre dynamique interne, depuis des formes simples comme la poussière d’étoiles jusqu’aux formes les plus complexes. Cette évolution connaît des phases continues, mais aussi des moments critiques, révolutionnaires, où la matière acquiert brusquement une nouvelle qualité.

Dans l’un des tout premiers stades de l’histoire de la Terre, la « soupe primitive », des sources d’énergie thermique dans les océans ont notamment permis des processus chimiques donnant naissance à des molécules plus complexes. C’est à partir de celles-ci qu’est apparu, il y a environ 3,5 milliards d’années, le processus de la vie. Un nouveau niveau d’organisation de la matière était né.

Cette matière vivante se distingue qualitativement de la matière inerte : son développement n’est plus seulement régi par les lois physiques et chimiques, mais aussi par l’évolution biologique. Au fil de millions d’années, cette évolution a fait émerger des formes de vie toujours plus complexes. À partir d’organismes unicellulaires très simples se sont développés les plantes et les animaux que nous connaissons aujourd’hui.

C’est ainsi qu’a eu lieu la naissance révolutionnaire de l’être humain. Sous l’effet de transformations climatiques, une partie des premiers grands singes est descendue des arbres et a commencé à se déplacer debout. La marche bipède a libéré les mains, ouvrant la possibilité de fabriquer des outils, de transformer l’environnement, de satisfaire ses besoins et de ne pas succomber dans une lutte pour l’existence particulièrement rude.

L’être humain est donc un animal qui travaille. L’apparition et le développement du travail ont démarré un processus gigantesque.

Qu’est-ce que la pensée ?

Les animaux vivent dans la nature telle qu’elle se présente à eux. L’être humain, en revanche, fabrique des outils à partir des matériaux naturels qu’il trouve et transforme ainsi son environnement. C’est précisément dans et par ce processus qu’il découvre progressivement des propriétés essentielles et des relations jusque-là inconnues de la nature. De cette manière naissent et se développent la pensée humaine ainsi que le cerveau humain.

Dans son remarquable article « Le rôle du travail dans la transformation du singe en homme », Friedrich Engels soulignait : « La vue de l’aigle porte beaucoup plus loin que celle de l’homme; mais l’œil de l’homme remarque beaucoup plus dans les choses que celui de l’aigle. »

Le langage aussi émerge comme partie intégrante de ce processus. À mesure que le travail se complexifie, il devient de plus en plus nécessaire d’échanger des connaissances, des projets, des expériences. Et, comme le disait Engels, « Le besoin se créa son organe ». Le larynx, les cordes vocales, entre autres, se sont développés, permettant aux êtres humains de communiquer de manière toujours plus élaborée.

Cela nous donne une définition de la pensée humaine. Elle a pour organe matériel le cerveau humain. Mais l’être humain ne pense pas seulement avec sa tête : il pense avec l’ensemble de son corps et en tant que membre d’un tout social. Il approfondit sa compréhension des lois du monde en agissant concrètement sur celui-ci avec les autres, en accumulant des expériences, en les partageant, puis en en tirant des idées de plus en plus générales et profondes. En fin de compte, tout ce processus est mû par la nécessité, pour les êtres humains en tant qu’êtres matériels, de satisfaire leurs besoins.

L’intelligence artificielle pense-t-elle ?

Revenons donc à la question : l’intelligence artificielle peut-elle penser et parler ?

Une revue spécialisée en technologie décrit ainsi le fonctionnement de chatbots comme ChatGPT : « Au fond, ils reposent sur la collecte d’une quantité immense de données linguistiques (dont une grande partie est encodée sur Internet), sur l’identification de relations entre les mots (plus précisément entre des fragments de mots appelés “tokens”) et sur la prédiction de la suite la plus probable à une entrée donnée. Malgré toute la prétendue complexité de l’IA générative, il s’agit en réalité de modèles de langage. »

Les êtres humains comme l’IA utilisent des mots. Mais derrière cette ressemblance superficielle se cache une différence fondamentale.

Pour un être humain, un concept a une signification : il renvoie à des propriétés et à des relations réelles, qui dépassent la simple sphère des mots et des lettres. Le mot « banane » désigne pour nous quelque chose de réel, parce que nous avons vu sa couleur jaune des milliers de fois, que nous l’avons goûtée, que nous avons expérimenté son sucre comme source d’énergie pour notre métabolisme. Nous avons développé un concept toujours plus précis de la banane en cultivant des plantations, en modifiant le fruit, en le transportant à travers le monde.

La signification des mots est le produit de millions d’interactions pratiques, guidées par les besoins humains, avec la nature.

Pour ChatGPT, en revanche, le mot « banane » ne signifie rien. Les ordinateurs n’ont aucun rapport pratique et vivant à la réalité comme les êtres humains. Les mots ne sont donc pour l’IA que des enchaînements de signes — lettres, chiffres, « tokens » — dépourvus de sens. L’IA ne connaît que les mots en eux-mêmes, une ombre de la réalité, sans aucune représentation de ce que ces mots désignent pour les humains.

Il en va de même pour les relations. Pour les humains, les phrases relient des choses, des propriétés, des processus réels. Pour l’IA, les mots ne sont que des nœuds dans une immense toile… faite uniquement d’autres mots. Dans ce réseau, les mots qui apparaissent fréquemment ensemble dans les textes humains se trouvent proches les uns des autres. L’IA « voit » ainsi que le nœud « banane » est lié à « jaune », « sucré » ou « arbre ». Lorsque nous dialoguons avec elle, elle tire sur ces fils et produit des mots voisins.

L’apprentissage

L’IA n’« apprend » pas au sens humain du terme. On l’alimente avec des milliards de textes produits par des êtres humains, on masque certains mots et on lui demande de prédire le mot manquant, comme dans un exercice à trous. Si elle devine correctement, ses paramètres statistiques sont ajustés en conséquence. Le résultat est un modèle probabiliste de prédiction de mots. 

Ces modèles d’intelligence artificielle sont excellents pour détecter des motifs et des corrélations. Mais ils ne comprennent ni les nécessités ni les causalités du monde réel.

On peut, par exemple, entraîner une IA à jouer aux échecs à un niveau exceptionnel. En tant que machine, elle peut analyser des milliards de parties, repérer des régularités et finir par battre n’importe quel grand maître.

Mais que se passe-t-il si l’on ajoute une nouvelle pièce et une nouvelle règle, par exemple un canard ? Celui-ci doit être placé sur une case libre après chaque coup, ce qui bloque cette case. Un bon joueur d’échecs comprend immédiatement la nouvelle règle, peut la mettre en relation avec les règles existantes et jouer sans difficulté aux « échecs avec canard ».

Si l’on soumet une IA joueuse d’échecs à cette variante, elle échoue complètement. Elle n’est pas capable d’intégrer la règle, car elle ne comprend jamais ce qu’est une « règle du jeu ». Elle ne connaît que des statistiques issues de millions de parties d’échecs standards. Ce n’est qu’après un entraînement massif et spécifique qu’une IA peut s’adapter à cette nouvelle variante.

Socialisme

L’hystérie autour de la conscience artificielle masque une vérité essentielle : l’intelligence artificielle est une machine morte et dépourvue de conscience, entre les mains d’êtres humains vivants et conscients.

Le fait qu’elle nous surpasse dans certains domaines ne constitue en rien une preuve de superintelligence. De la même manière qu’un marteau enfonce mieux les clous qu’une main, une IA peut, par exemple, parcourir d’immenses ensembles de données bien plus rapidement que n’importe quel être humain et y détecter des motifs. Mais tout comme le marteau n’est pas une main et ne remplace pas la main qui le guide, l’IA n’est pas une intelligence humaine authentique.

Cela ne signifie pas que l’IA n’ait pas d’utilité. Aujourd’hui déjà, des entreprises comme Nestlé ou Amazon utilisent des modèles d’IA pour organiser leur logistique mondiale. Avec AlphaFold, l’humanité a percé le mystère du repliement des protéines, ce qui pourrait révolutionner la médecine. L’IA possède un potentiel immense pour améliorer la vie des êtres humains. Combinée à d’autres avancées technologiques comme la robotisation, elle pourrait permettre une vie d’abondance, avec une réduction du temps de travail à une fraction infime.

Mais dans le cadre du capitalisme, ces évolutions technologiques produisent pour les masses laborieuses l’exact opposé d’une libération: les travailleurs sont mis à la porte et les conditions de travail deviennent de plus en plus inhumaines.

Aujourd’hui, une vie que les générations passées n’auraient pu qu’imaginer est possible. La classe ouvrière est plus puissante que jamais dans l’histoire, et seule la propriété privée des moyens de production aux mains d’une infime minorité parasitaire de capitalistes la sépare d’une véritable liberté.

Rapport d’un informaticien : à qui sert l’IA ?

Noah, Berne

Les outils d’intelligence artificielle ont transformé le secteur de l’informatique dans lequel je travaille en une véritable course à l’armement. Des tâches qui prenaient autrefois des heures peuvent aujourd’hui parfois être réalisées en quelques minutes. Ceux qui ne suivent pas le rythme risquent d’être distancés par la concurrence, et la pression est donc forte, y compris chez nous, pour adopter ces outils à grande échelle.

Pour la direction, cela signifie avant tout une chose : moins de coûts, plus de rendement. Mon chef est convaincu que d’ici quelques années les programmeurs seront en grande partie superflus. Ceux qui croient cela n’ont sans doute jamais dû remettre en marche un système de production à 3 heures du matin !

Chez nous, les développeurs, la perception est différente. « Penser, c’est un truc du siècle dernier », plaisantait un collègue quand un  autre lui racontait fièrement à quelle vitesse il avait résolu un problème grâce à l’IA. Cette blague en dit long : nous savons ce que l’outil peut faire, mais nous devinons aussi ce que cela signifie pour nous dans le cadre du capitalisme. L’inquiétude est réelle et loin d’être infondée : le marché du travail dans l’informatique en Suisse est en chute libre depuis 2022.

En même temps, notre expérience quotidienne nous montre ce que ces modèles ne savent pas faire : l’IA ne connaît ni le contexte de nos projets, ni les exigences des clients, et encore moins les années d’expérience nécessaires pour faire fonctionner un système stable. Ce qu’elle produit doit être vérifié, et cela par celles et ceux qui maintiennent ces systèmes en état de marche depuis des décennies.

Une technologie censée nous soulager devient ainsi une menace. Ce n’est que dans un système socialiste, qui place les besoins avant le profit et qui est contrôlé par les travailleurs – les personnes qui savent réellement comment utiliser l’IA de manière optimale – qu’il sera possible d’exploiter pleinement le potentiel de cette technologie et de la transformer d’une menace en un outil de libération.