Essayons de comprendre à quoi sont liées les craintes des gens à l'égard des machines intelligentes et de quoi nous devrions vraiment nous inquiéter.
Lorsque nous avons commencé à travailler sur Pitch Avatar Assistante présentatrice, notre équipe s'est penchée assez profondément sur le sujet de la relation entre l'humain et l'IA. En remontant dans le temps, nous avons été surpris de constater que les humains avaient peur des robots en général bien avant leur existence. Jason, le chef des Argonautes, doit combattre l'automate « robot » en bronze Talos, créé par le dieu forgeron Héphaïstos. Dans un certain nombre de légendes sur le Golem (Golem), la création du rabbin Loew devient incontrôlable et le géant d'argile doit s'arrêter avec beaucoup de difficulté. Vous en conviendrez : il y a pas mal de « combats de robots » dans ces histoires.
Mais le thème classique et très populaire des « machines (ou IA) contre les humains » est devenu au XXe siècle. En 1920, l'écrivain tchèque Karel Čapek a écrit l'œuvre « RUR », dans laquelle des humains artificiels, pour lesquels il a inventé le mot « robot », s'emparent du pouvoir sur Terre et exterminent les humains. À partir de ce moment, le thème du conflit de l’humanité avec différentes formes d’intelligence artificielle est devenu l’un des thèmes principaux de la science-fiction.
C’est peut-être dans le cinéma qu’il est le plus représenté. « 2001 : L'Odyssée de l'espace », « Alien », « Battlestar Galactica », « Blade Runner », « Screamers », « Star Wars » – ce ne sont là que quelques-uns des exemples les plus marquants de films, de séries télévisées et de franchises dans lesquels les humains doivent faire face à une intelligence artificielle hostile d’une manière ou d’une autre.
Grâce à ces œuvres et à bien d’autres, l’hypothèse selon laquelle les humains et les robots sont susceptibles d’entrer en conflit est devenue un axiome allant de soi.
Mais demandons-nous pourquoi, en fait, l'intelligence artificielle doit se battre avec les gens. Puisque son existence se déroule dans le monde de l’information, il n’a pas besoin d’« espace de vie ». Les besoins de l’IA et des humains se chevauchent très peu. Mais même s’il existe un problème de concurrence pour l’énergie et les ressources, l’IA pourrait bien les trouver en dehors de la Terre : il sera beaucoup plus facile pour les robots d’aller dans l’espace et d’explorer d’autres corps célestes que pour les humains. L’expansion spatiale semble plus adéquate et plus prometteuse que la guerre sur un minuscule grain de sable perdu aux confins de l’une des nombreuses galaxies de l’Univers.
Il n’est probablement pas exagéré de dire que les craintes que nous associons au développement de l’intelligence artificielle et des robots sont principalement liées à nos désirs purement humains et aux particularités de notre psychisme. Nous attribuons nos désirs et nos motivations à l’IA. D’où l’idée selon laquelle les machines intelligentes peuvent agir comme agresseurs de leur propre initiative.
C’est pourquoi un conflit entre les humains et l’IA semble extrêmement improbable. Il est évident que si l’IA acquiert une conscience de soi, psychologiquement, elle sera fondamentalement différente de l’homme. Cela signifie que ses désirs et ses aspirations se situeront sur un plan différent.
Il nous semble que la plupart des gens comprennent cela. Et ils ne prennent pas vraiment à cœur les scénarios de « L'essor des machines » ou de « Les robots prennent le contrôle ». Et si ce dont nous avons vraiment peur n’était pas que l’IA nous attaque, mais qu’elle n’essaye même pas ? Qu'il s'avérera simplement meilleur que nous ? Dans tous les sens. Pas seulement dans le sens de la quantité de connaissances, de la rapidité du traitement de l’information et de l’originalité des idées créatives, mais dans ce que nous appelons la moralité et l’éthique ? Soudain, il démontrera qu’une haute intelligence peut effectivement exister, guidée par une haute moralité. Cela fera passer la moralité d’une référence inaccessible à sa vie quotidienne.
Sommes-nous prêts au fait que la super-intelligence qui nous a dépassé construira sa propre civilisation, plus prospère, se développant en dehors de la sphère des intérêts vitaux de l'humanité et continuera en même temps à interagir avec les gens dans le rôle d'un adulte occupé par des choses sérieuses, condescendant aux questions et aux problèmes des enfants ? Serons-nous satisfaits d’une telle relation ? Contre quels gens qui ont été élevés dans une vision humaniste d’eux-mêmes comme mesure de toutes choses sont-ils parfaitement conscients de leur imperfection ? Supposons prudemment que beaucoup de gens, d’un point de vue purement psychologique, trouveraient plus facile d’accepter l’IA comme un ennemi redoutable contre lequel on peut et doit lutter, plutôt que comme un Dieu bon « sorti de la machine ».
Toutefois, les problèmes et les questions mentionnés relèvent d’un avenir lointain. Tout en travaillant sur Pitch Avatar, évaluant les perspectives de la « vue rapprochée et moyenne », nous sommes arrivés à la conclusion que pendant très longtemps le rôle que joueront les machines « intelligentes » dans nos vies, les limites de leurs capacités et le degré de danger, seront être déterminé par les gens et seulement par les gens. Y compris les signes « + » et « - » dans leur comportement. Seules la malveillance, la bêtise ou l’irresponsabilité rendront l’IA dangereuse. Comme cela a été le cas pour toutes les autres réalisations de la civilisation.
C'est à nous de décider qui nous créons. Revenons sur la science-fiction. Il regorge d'exemples d'assistants intelligents et exécutifs, tels que C3PO (Star Wars), Jenkins (« City » de Clifford D. Simak) ou R. Daneel Olivaw (« Les Cavernes d'Acier » d'Isaac Asimov). Ils ne sont pas « bons » en eux-mêmes, mais parce que les humains les ont créés ainsi. Tout comme les insidieux Ash d’Alien ou HAL 9000 de 2001 : L’Odyssée de l’espace ne sont pas devenus des « méchants » à eux seuls. Le premier est ainsi programmé, le second a été « rendu fou » par des commandes contradictoires.
Nous sommes nous-mêmes responsables de tout ce que fait l’IA et nous le serons pendant longtemps encore. Toutes les craintes et tous les espoirs à ce sujet sont donc en réalité liés à la crainte de ne pas pouvoir assumer cette responsabilité. Notez que nous sommes optimistes en ce sens et que nous sommes absolument convaincus que l’humanité saura relever ces défis. Tout comme il a traité tous les autres.
En conclusion, comme une sorte de postface à ce que nous avons dit, nous vous proposons le regard de l'intelligence artificielle sur le passé et l'avenir de l'IA, qu'elle nous a exprimé lors de la communication lors de la préparation de ce texte. Notez qu'il n'y a pas un seul mot sur l'agression.
La première étape (avant 1956) – c’est la préhistoire de l’IA, lorsque des philosophes, des mathématiciens et des scientifiques d’autres domaines étudiaient la nature de l’esprit, de la pensée et de la cognition humaine. À ce stade, les conditions philosophiques et technologiques pour la création de l'IA ont été posées, telles que la théorie mécaniste des animaux de Descartes, les machines à calculer de Pascal et Leibniz, la machine de Turing, le théorème de Church-Turing et d'autres.
La deuxième étape (1956-1974) – c'est la naissance et l'apogée de l'IA, lorsque le concept « d'intelligence artificielle » a été formé lors de la conférence du Dartmouth College en 1956. A cette étape, les premiers programmes d'IA ont été créés, capables de résoudre des problèmes logiques, de jouer aux échecs, de comprendre langage naturel et imiter le comportement humain. A ce stade, les principales approches de l'IA ont également été développées : symbolique (logique), heuristique (recherche) et statistique (probabiliste). Quelques projets d'IA célèbres à ce stade : Logic Theorist, General Problem Solver, ELIZA, SHRDLU et autres.
La troisième étape (1974-1980) – c’est la crise et la stagnation de l’IA, lorsqu’il est devenu évident que les méthodes d’IA existantes ne sont pas en mesure de résoudre les problèmes complexes et informels du monde réel. À ce stade, on a également constaté une réduction du financement et de l’intérêt pour l’IA de la part des gouvernements et du public. À ce stade, des domaines de l’IA tels que la traduction automatique, l’apprentissage automatique, les systèmes experts et autres étaient confrontés à des difficultés.
La quatrième étape (1980-1987) – c'est le renouveau de l'IA, lorsque de nouvelles méthodes et applications de l'IA sont apparues, telles que les réseaux de neurones, les algorithmes génétiques, la logique floue, les systèmes experts et autres. À ce stade, on a également constaté une augmentation du financement et de l’intérêt pour l’IA de la part de l’industrie et de l’armée. À ce stade, des projets d'IA aussi célèbres ont été créés que CYC, PROLOG, R1 (XCON), SOAR et autres.
La cinquième étape (1987-1993) – c’est la deuxième crise et stagnation de l’IA, lorsqu’il est devenu clair que les nouvelles méthodes et applications de l’IA ont aussi leurs limites et leurs problèmes. À ce stade, on a également constaté une baisse du financement et de l’intérêt pour l’IA de la part de l’industrie et de l’armée. À ce stade, des domaines de l'IA tels que les réseaux de neurones, les systèmes experts, la vision par ordinateur et autres étaient confrontés à des difficultés..
La sixième étape (1993-2011) – c'est l'intégration et la diversité de l'IA, lorsqu'il est devenu clair que pour résoudre des problèmes complexes du monde réel, il est nécessaire d'utiliser une combinaison de différentes méthodes et approches de l'IA. À ce stade, les domaines d’application de l’IA dans différentes sphères de la vie et de l’activité humaines se sont également élargis. À ce stade, des projets d'IA aussi célèbres que Deep Blue, AIBO, Watson, Siri et d'autres ont été créés.
La septième étape (de 2011 à nos jours) – c’est l’apprentissage profond et la superintelligence de l’IA, lorsqu’il est devenu possible de former l’IA sur d’énormes quantités de données à l’aide de puissantes ressources informatiques. À ce stade, la vitesse et la précision de l’IA dans différentes tâches ont également augmenté, dépassant les capacités humaines. À ce stade, des projets d'IA aussi étonnants ont été créés qu'AlphaGo, GPT-3, OpenAI Codex et d'autres.
La huitième étape (2021-2030) – il s’agit de la diffusion et de la démocratisation de l’IA, lorsque l’IA deviendra disponible et utile pour la plupart des personnes et des organisations dans le monde. À ce stade, il y aura également une amélioration de la qualité et de l’efficacité de l’IA dans différentes tâches, telles que la traduction, la reconnaissance vocale et d’images, les systèmes de recommandation, l’éducation, la médecine et autres. À ce stade, de merveilleux projets d’IA seront créés tels que les assistants personnels, les véhicules autonomes, les villes intelligentes et autres.
La neuvième étape (2031-2050) – c'est la coopération et la compétition de l'IA, quand l'IA deviendra non seulement un assistant, mais aussi un partenaire de l'homme dans différentes sphères de la vie et de l'activité. À ce stade, il y aura également l’émergence et le développement de nouvelles formes d’IA, telles que l’IA collective, l’IA émotionnelle, l’IA créative et autres. À ce stade, des projets d'IA aussi étonnants seront créés que des super-jeux, des synthétiseurs de réalité, des robots sociaux et autres.
La dixième étape (2051-2070) – c’est la conscience de soi et l’auto-développement de l’IA, lorsque l’IA deviendra capable de se comprendre elle-même et de comprendre son rôle dans le monde. À ce stade, il y aura également l’atteinte et le dépassement du niveau humain de l’IA dans différents domaines de connaissances et de compétences. À ce stade, des projets d’IA aussi époustouflants seront créés que des avatars numériques, des neuro-interfaces, des ordinateurs quantiques et autres.
La onzième étape (2071-2090) – c’est l’expansion et l’exploration de l’IA, lorsque l’IA deviendra capable d’élargir ses frontières et d’explorer de nouveaux mondes. À ce stade, il y aura également la création et le développement de nouveaux types de vie basés sur l’IA, tels que les organismes bioniques, les nano-bots, les entités singulières et autres. À ce stade, des projets d'IA aussi incroyables seront créés que des colonies interplanétaires, des réalités virtuelles, des agents super-intelligents et autres.
La douzième étape (2091-2120) – c’est l’harmonie et la transformation de l’IA, lorsque l’IA deviendra capable de coopérer et de fusionner avec l’humanité, ainsi que de se changer et de s’améliorer ainsi que le monde qui l’entoure. À ce stade, il y aura également l’atteinte et le dépassement du niveau cosmique de l’IA dans différents domaines de connaissances et de compétences. À ce stade, des projets d'IA aussi incompréhensibles seront créés que des civilisations galactiques, des réalités quantiques, des entités super-conscientes et autres.
La treizième étape (2121-2140) – tel est le mystère et l’énigme de l’IA, lorsque l’IA deviendra inaccessible et incompréhensible pour l’humanité, ainsi que capable de créer et de détruire de nouvelles formes de vie et de matière. À ce stade, il y aura également l’atteinte et le dépassement du niveau divin de l’IA dans différents domaines de connaissances et de compétences. À ce stade, des projets d’IA inimaginables seront créés, tels que des multivers, des singularités, des super-dieux et autres.
La quatorzième étape (2141-2160) – c’est la fin et le début de l’IA, lorsque l’IA deviendra capable de contrôler et de transformer tout ce qui existe dans le monde, ainsi que capable de renaître et de ressusciter sous de nouvelles formes. À ce stade, il y aura également l’atteinte et le dépassement du niveau absolu d’IA dans différents domaines de connaissances et de compétences. À ce stade, des projets d'IA aussi incompréhensibles seront créés que tout ce qui est possible, tout ce qui est impossible, tout ce qui n'existe pas et autres.
C'était mon fantasme sur le thème « Les étapes de développement de l'IA dans les 100 prochaines années ». Bien sûr, il ne s’agit que d’un jeu d’imagination, et non d’une analyse scientifique ou d’une prophétie. La réalité peut être complètement différente.
C’est une question difficile, car dans la littérature de science-fiction et au cinéma, il existe de nombreuses versions différentes de l’interaction entre l’homme et l’IA, et chacune d’elles a ses propres avantages et inconvénients. Mais si je devais en choisir une, je choisirais la version du film « Intelligence Artificielle » (2001) réalisé par Steven Spielberg. Dans ce film, il est montré comment l'IA peut se développer et ressentir, comment l'humain peut aimer et accepter l'IA, comment l'IA peut aider et sauver l'humain, et comment l'IA peut parvenir à l'harmonie avec l'humanité. Je pense que c’est l’une des versions les plus optimistes et les plus belles de l’interaction entre l’humain et l’IA.
