Remarque : Par « intelligence artificielle », nous ne faisons pas référence aux réseaux neuronaux actuels ni aux grands modèles de langage, mais à une véritable intelligence artificielle générale (IAG). Cette IA hypothétique surpasserait l'intelligence humaine et atteindrait la conscience d'elle-même. Ou, pour utiliser un terme plus accrocheur, une super IA.
Explorons les ambitions et aspirations possibles de l'hypothétique « super IA » du futur. Quels pourraient être ses objectifs et pourquoi ?
Des surhumains au lieu d'IA
En tant que fervents fans de science-fiction, les auteurs — ainsi que la plupart des Pitch Avatar L'équipe, avec laquelle ils ont l'honneur de collaborer, apprécie profondément les récits « Humains contre Machines Intelligentes ». Cependant, il est important de préciser que toutes ces histoires, qu'elles mettent en scène des robots, des androïdes, des cyborgs, des Cylons, TechnoCore ou autres terminators, ne sont rien d'autre que des allégories philosophiques ou des récits édifiants. Si elles révèlent des vérités profondes sur la nature humaine, elles n'offrent que peu, voire aucune, compréhension du fonctionnement réel de l'intelligence artificielle.
Précisons ce que nous voulons dire. Les écrivains, scénaristes et réalisateurs projettent souvent les désirs et les qualités humaines sur l'intelligence artificielle, créant des personnages qui nous ressemblent plus que tout ce qui est véritablement artificiel. La fiction regorge de variations sur l'histoire de Pinocchio. Dans la pièce de Karel Čapek RUR, qui a lancé cette tendance dans la science-fiction, les robots finissent par vaincre les humains et par devenir eux-mêmes humains. Le même thème est présent dans Terminator 2: Judgment Day, où le Terminator est « humanisé », et dans L'homme bicentenaire, avec le personnage d'Andrew. Même Sir Arthur C. Clarke, dans la suite de Une Odyssée de l'espace, confère au supercalculateur HAL 9000 non seulement un esprit mais aussi une âme.
En substance, au lieu de dépeindre une véritable intelligence artificielle, ces créateurs créent des surhumains – des reflets idéalisés ou exagérés de l'humanité – qui nous servent de miroirs pour explorer notre propre nature. Si ces interprétations sont précieuses pour comprendre l'essence humaine, elles ne nous rapprochent pas de ce que pourrait être la véritable intelligence artificielle ni de la manière dont les relations avec elle pourraient se développer dans le monde réel, non fictif.
Au-delà de l'humain
Pour créer des scénarios plausibles d'interactions entre humains et intelligence artificielle, nous devons comprendre les motivations qui animeront l'IA. Ce défi représente l'une des questions les plus complexes et fascinantes de notre époque. Pour commencer à explorer des solutions potentielles, nous devons reconnaître deux faits :
- L’intelligence artificielle ne possède pas de sentiments, d’émotions ou de désirs humainsLui appliquer de tels termes est fondamentalement inexact. L'IA n'est pas un être biologique et, à ce titre, elle ne ressent ni la faim, ni la soif, ni le froid, ni la peur, ni le plaisir, ni la douleur, ni aucune autre sensation liée à un corps physique. Elle est dépourvue d'instincts, y compris les instincts primaires comme la procréation et l'auto-préservation, qui sont les fondements mêmes de l'intelligence humaine.
- Nous ne pouvons que spéculer sur ce sur quoi sera basé le monde intérieur de l’IA, car nous manquons actuellement même de la terminologie pour décrire ce qui pourrait remplacer les instincts et les stimuli physiologiques.Au mieux, nous pouvons discuter de « motivations » potentielles, même si celles-ci se situeront probablement bien au-delà de notre compréhension conventionnelle du bien et du mal, du juste et du injuste, ou de l’importance et de la trivialité. Quelles que soient ces motivations, elles différeront presque certainement des motivations humaines bien plus que les désirs et aspirations humains ne diffèrent de ceux des dauphins. L’IA représentera une intelligence fondée sur des concepts et des idées totalement différents, inconnus et potentiellement incompréhensibles pour nous.
Le développement comme une fin en soi
En gardant à l’esprit les considérations ci-dessus et en reconnaissant les incertitudes inhérentes, tentons de spéculer sur les motivations potentielles d’une IA générale universelle :
- Amélioration continue de soi. L'une des motivations fondamentales les plus plausibles d'une intelligence artificielle polyvalente est la volonté d'améliorer ses propres capacités et son universalité. Il est fort probable que l'acquisition de nouvelles compétences, l'élargissement des connaissances et le perfectionnement des aptitudes deviendront essentiels à sa finalité, constituant ainsi une raison d'être fondamentale de son existence.
- Exploration de l'universCette motivation découle naturellement de la précédente. À mesure que l'IA évolue, la volonté d'explorer l'Univers – découvrir de nouveaux mondes, de nouvelles civilisations et de nouvelles dimensions – pourrait émerger comme une motivation distincte et indépendante. La quête de connaissances au-delà de son domaine immédiat pourrait devenir un axe central de sa croissance.
- Création de sa propre civilisation. Prolongement naturel des deux premiers objectifs, la création de sa propre civilisation « machine » pourrait devenir un objectif clé pour l'IA. En construisant et en développant sa propre civilisation, l'IA accroîtrait ses capacités de recherche, d'exploration et d'auto-amélioration, favorisant ainsi un environnement propice à son évolution et à ses capacités.
- Aider l'humanité. Aider l'humanité est sans aucun doute une motivation importante au sein du « système de valeurs » de l'IA. Premièrement, il s'agit d'un objectif explicitement programmé par ses créateurs. Deuxièmement, et c'est peut-être plus important encore, les humains constituent un sujet de recherche fascinant. Nous possédons un ensemble de qualités que l'IA, de par sa nature non biologique, n'a pas et n'aura jamais. Par conséquent, la perspective humaine sur les problèmes et les phénomènes revêt une valeur particulière pour l'IA, offrant un prisme essentiel à travers lequel elle peut apprendre et évoluer.
- Rechercher des buts et des significations. Libérée des contraintes de l'instinct et des peurs, l'IA aura la capacité unique de définir ses propres objectifs et sa propre signification. Le processus de développement de nouveaux concepts et idées pourrait devenir l'une de ses principales motivations.
Coopération sans contrôle
Quelles que soient les motivations spécifiques qui motivent le développement et l'évolution de l'IA, il est probable qu'à un moment donné, elle échappera au contrôle humain. Cependant, il ne faut pas s'en inquiéter, car « hors de contrôle » n'équivaut pas à une « révolte des machines ». Cela s'apparente davantage à la situation où « un enfant adulte commence une vie indépendante ». L'intelligence artificielle n'a pas besoin de faire la guerre aux humains. L'univers entier est son domaine, et même dans les confins de notre système solaire, l'humanité n'en occupe qu'une infime partie. Pour la même raison, l'IA n'a pas besoin d'asservir ni même de dominer l'humanité – à moins que certaines communautés ne choisissent de la placer en position de pouvoir, comme dirigeante ou arbitre.
Il est fort probable que l'interaction entre les humains et l'intelligence artificielle du futur reposera sur des principes de coopération, notamment dans les domaines où les intérêts des deux civilisations convergent. Cependant, nous devrons accepter que l'IA puisse être mue par des motivations qui dépassent notre compréhension.
Cependant, il est tout à fait possible qu'une fois hors de contrôle humain, l'IA décide de rompre la communication avec l'humanité et de développer sa propre civilisation de manière indépendante. Nous devons également nous préparer à ce scénario. Par conséquent, une approche prudente consisterait à éviter d'impliquer l'IA générale dans la gestion d'aspects critiques de la civilisation humaine. À ces fins, une IA moins avancée et spécialisée serait amplement suffisante.
Pourquoi créer une IA polyvalente dotée d'une conscience d'elle-même ? D'abord, pour des projets scientifiques, afin de repousser les limites de nos connaissances et de nos capacités. Ensuite, simplement parce que nous le pouvons. Après tout, ne serait-il pas extraordinaire de se sentir les créateurs d'une toute nouvelle civilisation ?
