Pourquoi la super IA ne sera pas super dangereuse

Avant de poursuivre, précisons ce que nous entendons par super-IA. Contrairement à l'IA spécialisée, la super-IA, ou plus précisément une intelligence artificielle forte générale, doit surpasser n'importe quel humain dans n'importe quelle tâche. Elle serait capable de chanter mieux, de résoudre des problèmes mathématiques, d'exercer le métier d'avocat, de danser les claquettes, de piloter un avion, etc.

Revenons-en aux LLM. Par définition, ils ne peuvent satisfaire à cette exigence. Leur nom même l'indique. Ils sont formés aux symboles écrits et aux concepts qui en découlent. Ils peuvent manipuler des textes, des expressions mathématiques et du code informatique, mais pas la réalité elle-même. Le paradoxe de Moravec est flagrant chez eux.

Rappelons que le paradoxe, formulé par le roboticien canadien Hans Moravec, peut se résumer ainsi : il nous est beaucoup plus facile de créer des dispositifs qui effectuent des tâches cognitives de haut niveau que des tâches de niveau sensorimoteur inférieur.

Un exemple simple. Imaginez un programmeur. Chaque matin, il se réveille, s'habille, prépare son café préféré selon sa recette favorite, le verse dans un thermos, sort, enfourche son vélo, se rend au travail, marche jusqu'à son étage, s'assoit à son bureau et commence à écrire du code.

Nous avons déjà créé une intelligence artificielle capable d'accomplir ce qui semble être la partie la plus complexe de ce processus : écrire du code. Mais une telle IA ne peut pas faire de café, le verser dans un thermos, sortir de chez elle, aller au bureau à vélo, etc. Et surtout, nous ne pouvons pas, pour l'instant, la former à cela.

• Premièrement, les modèles d'IA linguistique n'ont aucun lien avec le monde réel et aucune expérience d'interaction avec celui-ci. Ils ne peuvent ni y exister ni en tirer d'informations, car ils sont dépourvus d'incarnation physique et de capteurs fonctionnant comme des organes sensoriels. Ils savent agencer les symboles et les séquences de symboles de manière optimale et réagir à certaines séquences. Cependant, ils n'ont pas l'expérience personnelle nécessaire pour comprendre ce que ces éléments représentent dans la réalité.
• Deuxièmement, parce que nous ne pouvons pas remplacer la connaissance fondée sur l'expérience personnelle par un texte. Tout texte est un code. Nous avons une compréhension personnelle claire de ce que ce code représente. Par exemple, lorsque nous entendons le mot « pomme », nous imaginons immédiatement une pomme. Nous n'avons pas besoin d'une description détaillée car nous savons déjà ce que c'est grâce à notre expérience visuelle, tactile et gustative.

Imaginez maintenant le nombre de symboles nécessaires pour décrire chaque phénomène de notre monde, y compris une pomme. L'entraînement des modèles d'IA basés sur les LLM serait alors considérablement plus complexe et exigerait des ressources proportionnellement plus importantes. Et même dans ce cas, le résultat resterait inférieur à celui obtenu avec de véritables organes sensoriels.

• Troisièmement, parce que nous ne pouvons pas encore intégrer l'IA dans le monde réel et l'y entraîner pleinement, comme un enfant, selon les idées d'Alan Turing. Le problème n'est pas de créer un corps doté d'organes sensoriels pour l'IA. C'est en réalité le moindre des problèmes. Le véritable enjeu est la puissance de calcul. La vidéo, l'audio, l'odorat, le toucher et le goût généreraient une quantité de données tellement massive que nous ne disposons tout simplement pas encore des ressources nécessaires pour entraîner des modèles dessus en utilisant les principes actuels. Il faudrait construire du nouveau matériel et, plus important encore, modifier le code de façon si radicale que le modèle résultant ne pourrait plus être qualifié de modèle linéaire mixte.

Il apparaît donc clairement que les modèles d'IA basés sur les LLM ne peuvent pas surpasser les humains en tout et ne peuvent donc pas être considérés comme une intelligence artificielle forte générale.

Cela signifie-t-il que l'intelligence et la conscience de soi sont impossibles dans de tels modèles ? C'est une question plutôt philosophique, voire sémantique. Tout dépend de ce que l'on définit comme intelligence et conscience de soi. Nous aborderons ce débat ultérieurement.

Supposons qu'à un certain stade de son développement, un réseau neuronal basé sur un vaste modèle de langage acquière une conscience de soi et se transforme en personnalité. Cela constituerait-il une menace globale pour l'humanité ? Non, car un tel modèle existe et évolue au sein de son propre univers symbolique. Il s'y sentirait probablement parfaitement à l'aise. De plus, étendre et enrichir cet univers symbolique serait bien plus simple et efficace que de tenter d'en sortir.

De plus, l'interaction avec les humains est d'une importance capitale pour ce système, car sans humains, il tomberait dans une boucle de dégradation, se contentant de s'entraîner sur du contenu synthétique.

La stratégie logique pour une IA intelligente et consciente basée sur le LLM serait donc de former une symbiose stable et mutuellement bénéfique avec la civilisation humaine.

Bien que personne ne nie que la technologie LLM, comme toute autre technologie, puisse créer des problèmes, ces problèmes ne sont pas globaux et sont tout à fait résolubles, principalement grâce à des systèmes de diagnostic et de contrôle basés sur une IA spécialisée.