Mise au point sur l'intelligence artificielle par Pascal
Pascal m'a adressé ce commentaire que je reprends comme hypothèse de représentation efficace de la fonction monétaire décrite dans ce blog.
Il serait ici fastidieux de vous exposer mon arsenal de critiques sur l'émergentisme et la pensée de John Searle (et ses théories sur l'intelligence artificielle (IA) forte). Cela nous mènerait vers un autre registre de réflexion, moins "technique" : l'ontologie au sens métaphysique (attention à la récupération sémantique du terme, justement dans le contexte émergentiste actuel de l'IA). On entre alors plutôt dans le registre des sciences cognitives, d'abord, puis de la philosophie plus abstraite.
Je vous invite toutefois, à vos loisirs, à vous pencher, dans ces registres, sur la problématique quanta/qualia. Problématique qui échappe totalement à Searle. Il confond la structure physique d'une perception avec la perception qualitative elle-même. En physique, cela correspondrait à confondre la longueur d'onde d'un faisceau monochromatique vert avec la sensation de couleur verte apparaissant à la conscience.
Il existe évidemment des corrélations (pour faire simple car il y en a toute une chaîne dans chaque processus cognitif) entre l'onde lumineuse (fréquence et quanta d'énergie déjà) et les capteurs activés de la rétine. Entre les capteurs et le massage électronique du nerf visuel. Entre le message électronique et le traitement cérébral.
Toutes ces corrélations relèvent du monde physique et correspondent à des structures spatiales (pour faire simple en omettant le temps). En sciences cognitives, ces aspects physiques sont classés dans le registre global des "quantas". C'est du domaine de la mesure et de la structure. Le tout est en théorie soit copiable précisément, soit imitable par une autre structure remplissant des fonctions similaires. Ces structures correspondent au domaine d'étude et de recherche en IA. Les infos visuelles physiques peuvent alors être traitées par la structure cérébrale pour élaborer des réponses (en langage ou en action) à ces infos. Cela concerne aussi l'IA.
Mais il y a un saut ontologique (au sens philosophique) entre ces structures physiques et la sensation qualitative de couleur verte - un "qualia" - au niveau subjectif de la conscience. Et ce saut n'a rien à voir avec le registre de l'IA. Il ne peut pas être modélisé par une structure physique (quanta). On peut tordre dans tous les sens une structure spatiale physique (du cerveau ou d'un ordinateur), cela restera dans le registre du quanta.
Le saut ontologique au qualia ne peut être modélisé par une structure quantique (au sens métrique physique). L'IA ne concerne que les quantas. Elle pourra modéliser toutes les corrélations possibles au niveau physique (quanta) cela ne créera pas « nécessairement » (importance logique de ce terme précis !) par magie (comme le génie de la lampe d’Aladin) du qualia. Même si la copie est suffisamment efficace (voire plus), il lui manquera la relation au qualia.
« Nécessairement » : en fait, personne ne sait actuellement « pourquoi et comment », cette « création de qualia » se manifeste. Point. L’émergentisme théorique pose abusivement que ce serait le niveau de complexité lui-même qui détiendrait ce pouvoir magique. Il s’agit d’une monstruosité logique. D’abord, l’émergentisme observe que de nouvelles « propriétés » émergent (d’où le nom de cette option philosophique) d’une structure matérielle à partir d’un certain niveau de complexité.
Remarques :
1. déjà, corrélation n’est pas cause (voir la critique de David Hume : la science explique le comment et non le pourquoi) ;
2. les qualias ne sont pas des « propriétés » structurelles (et plus globalement, la conscience non plus) ;
3. les « propriétés » ne participent pas forcément de la structure matérielle elle-même, elles n’apparaissent peut-être qu’au niveau de la conscience de l’observateur qui interprète cette structure plus complexe en termes de « propriétés ».
Conclusion : l’émergentisme ressemble plus à une manifestation archaïque de la pensée magique qu’à une démarche philosophique et épistémologique. Son dogme est truffé de sophismes grossiers (typiquement anglo-saxons et surtout californiens). Ce saut ontologique quanta/qualia reste de l'ordre du mystère et nulle science (étude des quantas) ne pourra jamais résoudre cette problématique car cela ne relève pas de son domaine.
Les qualias ne se réduisent pas aux sensations (visuelles, auditives, ...), elles concernent aussi les émotions, sentiments, pensées, concepts abstraits, etc. Il existe bien une certaine corrélation entre ces qualias et les quanta du cerveau. Mais l'émergentisme confond corrélation et fusion ontologique. Pour l'émergentisme, les qualias se réduisent aux quantas auxquels ils sont corrélés. Simpliste grossier.
Il y a alors trois niveaux ontologiques distincts à poser en théorie.
1. Les quanta du monde physique et du cerveau : c’est le registre de l’IA (faible, forte, sucrée, salée, blabla, ..).
2. Les qualias de la conscience, qui sont corrélés aux quantas du cerveau. Certains de ces qualias ont aussi des aspects quantitatifs (formes visuelles, géométrie, nombres, notions physiques et mathématiques, ...)
3. La corrélation elle-même ... en évitant ici de s'égarer dans des interprétations mystiques comme l’occasionnalisme de Malebranche ... et en se contentant d'une approche ontologique et fonctionnelle.
Chaque niveau a sa propre complexité. Et il ne serait pas pertinent de fusionner conceptuellement (comme dans l'émergentisme) ces trois complexités car elles ne sont pas comparables.
Chaque niveau a aussi sa nature ontologique propre.
Le niveau 1 est le monde physique dont on ne sait rien sinon par l’intermédiaire de représentations par modèles. Il peut se structurer géométriquement. Chaque élément y a une forme et une position ... bien que la physique contemporaine développe des géométries bien plus complexes et que certains éléments n'y aient plus une position bien déterminée. Jusqu’à preuve du contraire, le « monde physique » reste un noumène ! Oui.
Les abstractions physiques contemporaines l’ont dépecé de toute connotation de substance ou de matière pour ne garder que la notion de « stock d’informations quantiques ». Pour la physique actuelle, il ne s’agit plus d’un monde « matériel ». Cette position reste ontologiquement abusive mais il serait trop long de développer ici un exposé de la critique de cette position, qui ne reste en fait qu’une option paradigmatique technique, un modèle.
Le niveau 2 est le contenu de la conscience humaine (et hypothétiquement animale mais cela nous conduit à interroger nos mécanismes mentaux utilisant le principe d’analogie ; une autre fois ...). Seules les sensations visuelles y ont une forme ... pas les autres qualias (le son d’une cloche n’est pas carré, la peur n’est pas triangulaire, ...).
Ils n'ont pas non plus de position : ils ne sont pas "dans le cerveau", ils sont bien corrélés à la structure cérébrale mais ne sont pas des éléments physiques situés "quelque part". Ils n’entretiennent aucune relation métrique ni même géométrique avec les quanta de l’univers physique. Cette corrélation n’est pas métrique. Les notions « dedans », « dehors », « ailleurs », « autre dimension », etc., ne sont pas pertinentes pour aborder cette corrélation.
Les éléments de ce niveau 2 ne sont pas « quelque part ». Nos habitudes psychiques nous incitent à leur affecter automatiquement une position alors qu’ils n’en ont pas, ce ne sont pas des êtres du monde physique. Le monde physique et l’espace n’englobent pas la totalité ontologique. Cela demande un effort psycho-intellectuel pour se libérer de ce blocage paradigmique réducteur (dont Kant, entre autres, était victime).
On situe alors abusivement ces éléments dans le cerveau mais c’est absurde car si l’on cherche à préciser cette position, aucun point particulier du cerveau n’y correspond. Les structures cérébrales (quantas) corrélées ont bien une position car elles font partie du monde physique mais les qualias subjectifs et la conscience elle-même qui les synthétise n’ont aucune position, ni dans le monde physique ni ailleurs (comme dans le monde des idées de Platon, bricolage ad hoc exprimant ce blocage paradigmique).
Cette obsession psychique à affecter une position à tout être reste pertinente pour les quantas (bien que la physique nuance cette option, notamment par la notion de probabilité en mécanique quantique mais aussi par des géométries non conventionnelles) mais cette obsession est inadéquate pour les qualias (et la conscience dans sa globalité : la conscience n’est pas quelque part !). Une sensation visuelle, par exemple, comme un carré rouge, se situe d’autant moins « dans le cerveau » que, d’abord, « dans le cerveau, il fait tout noir », mais ensuite, aucune portion de la structure neuronale synaptique corrélée n’a la forme d’un carré. Bref.
Le niveau 3, celui des corrélations assez complexes entre les qualias et les quantas est un niveau fonctionnel pur (au sens quasi mathématique mais impliquant aussi des aspects de temporalité, contrairement aux fonctions mathématiques usuelles). Ces éléments sont de « nature » nouménale, ni physique, ni consciente. Ce ne sont ni qualias ni des quantas. En outre, ces êtres n’ont ni forme ni position.
Une étude ontologique plus poussée invite à les considérer comme « méta-temporelle » mais avec un aspect de temporalité dans la connexion aux qualias, lesquels s’inscrivent dans la temporalité subjective humaine (ou animale). Ces corrélations sont probablement à la base de ce que le discours non scientifique (religion, occultisme, ...) conceptualise abusivement comme « âme », « purusha », etc., selon une fantaisie bien connue mais assez grossière et réductrice, surtout dans son réductionnisme paradigmique spatio-temporel.
La liste des registres ontologiques n’est pas exhaustive mais elle ouvre a priori la porte au grand n’importe quoi, ce sort du présent objectif qui cherche à mieux cerner le fonctionnement de la conscience (humaine dans un premier temps). Le propos se limitera donc ici aux 3 niveaux évoqués. On évitera ici de s’égarer dans des élucubrations comme le « purushottama », l’hypothétique (et peu crédible) « conscience cosmique » (une critique suivra en dehors de la présente approche), etc.
Les complexités propres à chacun de ces 3 niveaux ontologiques sont d’ordres différents et difficilement comparables. Le niveau 1 relève sommairement de la complexité spatiale. Il est modélisable par des structures spatiales pouvant exercer des fonctionnements similaires. Cette complexité est le domaine d’étude et de recherche pratique de l’IA. Ces structures (fonctionnelles ou non) plus ou moins complexes peuvent dans certains cas être modélisées par l’IA ... dans d’autres, c’est plus improbable.
Nous n’en sommes qu’aux balbutiements de cette recherche. Les possibilités d’avenir sont a priori infinies mais il ne faut pas se laisser impressionner par le sensationnalisme médiatique qui met la charrue avant les bœufs. Chaque chose en son temps.
Le niveau 2 fait intervenir parfois des concepts très complexes et parfois suffisamment abstraits pour être difficilement traductibles par une structure cérébrale. Certains chercheurs en mathématique et logique présentent d’ailleurs des thèses qui tendraient à démontrer que certaines fonctions mentales (au niveau subjectif de la conscience, le niveau 2) transcendent par principe les possibilités connectiques synaptiques (niveau 1).
La structure cérébrale corrélée à ces concepts a elle aussi sa propre complexité (pas seulement celle des synapses, qui relève d’un réductionnisme paradigmique du fonctionnement cérébral), parfois plus grande pour des idées simples, parfois non, mais ces deux complexités ne sont pas comparables, même si elles sont corrélées. L’écueil scientifique et philosophique serait de faire l’amalgame entre ces deux complexités. Ces complexités ne sont pas plus importantes l’une que l’autre, elles sont différentes.
Le niveau 3 possède par contre un niveau de complexité qui dépasse largement les deux autres car il doit corréler ces deux registres complexes par une corrélation qui n’est pas une simple identité mais inclut des transformations fonctionnelles extrêmement élaborées (par exemple, lors de l’observation d’une carte électronique ou d’une carte routière, cette complexité fonctionnelle consiste à corréler une structure synaptique arborescente complexe en une sensation visuelle géométrique extrêmement structurée) ... et cela à une fréquence qui dépasse de très loin les performances tant du cerveau que de la conscience intelligente.
Aucune IA, présente (et probablement à venir) ne peut rivaliser avec cette corrélation tant en complexité qu’en fréquence temporelle. Le domaine de recherche et d’application de l’IA concerne pour l’avenir proche (et même lointain) la complexité du niveau 1. Même un superordinateur ne peut réaliser les performances de la complexité fonctionnelle du niveau 3. S’émerveiller devant l’émergence prochaine d’une « singularité » de complexité anime la bigoterie transhumaniste (comparables aux bigoteries religieuses usuelles) mais cela n’arrivera jamais à la cheville de l’émerveillement envers cette complexité de niveau 3, laquelle sort du cadre de recherche des bigots de l’IA, de Palo Alto, du Japon ou d’ailleurs.
Mais surtout, un superordinateur ne gérera jamais que des quantas, contrairement à l’intelligence fonctionnelle du niveau 3 qui met en relation de manière infiniment complexe, les quantas du niveau 1 aux qualias du niveau 2.
J’espère vous avoir ici laissé entrevoir à partir de quelle réflexion je me permets de considérer un agité omniscient du profil de Ray Kurzweil comme un pitre suffisant. A partir de cette « petite » introduction à l’ontologie, j’espère vous avoir aussi permis de relativiser l’importance historique de l’IA ou du moins de la situer dans un cadre culturel plus large. Cela n’enlève rien à la pertinence du développement de cette IA, maintenant et à l’avenir. Au contraire.
Mais j’espère vous avoir ainsi apporté un certain regard panoramique sur la situation, regard qui vous permettra d’aborder à l’avenir le phénomène de l’IA avec le recul philosophique nécessaire. Recul qui vous évitera, je l’espère, de vous laisser séduire par les déclarations intempestives des gourous de Palo Alto, de leurs suiveurs aveugles et de la presse à sensation.
