IA forte, IA complète, intelligence artificielle générale, super IA – quel que soit le nom qu'on lui donne, cela reste de la science-fiction. Pourtant, on la considère de plus en plus comme une fiction d'avenir proche. Quelle que soit son apparition – que ce soit dans trois ou trente ans –, malgré les nombreux avantages qu'elle apporte, nous serons sans aucun doute confrontés à ses conséquences négatives. Quelles pourraient être ces conséquences et quelles mesures devrions-nous prendre en conséquence ? Pitch Avatar L’équipe a offert son point de vue sur ces questions.
Lorsqu'on évalue des risques hypothétiques, on peut facilement sombrer dans un alarmisme dystopique, évoquant des visions sombres de monstres d'acier marchant sur des piles de crânes humains. Cependant, nous avons voulu éviter de dramatiser le récit avec une énième prédiction de techno-apocalypse. Nous avons plutôt ancré notre analyse dans l'histoire, et non dans la fantasy. De ce point de vue, nous avons identifié trois défis principaux qui, selon nous, surgiront inévitablement avec l'avènement de la super IA. Parallèlement à ces défis, nous avons également exploré des solutions potentielles pour les relever.
Inquiétudes concernant le remplacement des humains par une super IA
La prise de conscience de la supériorité de l'intelligence artificielle sur l'humain à bien des égards engendrera inévitablement diverses phobies. La plupart d'entre elles, motivées par la peur de l'inconnu, seront probablement relativement faciles à surmonter par simple accoutumance. Comme toujours, les psychologues proposeront un soutien à ceux qui éprouvent des difficultés à y faire face.
La crainte la plus tenace et la plus forte vient probablement de la crainte que la super IA ne mette la plupart des gens au chômage. Ils pourraient alors se retrouver sans moyens de subsistance et avoir du mal à maintenir un niveau de vie confortable. Le travail n'est pas seulement une question de revenu : il joue également un rôle important dans l'estime de soi. Pour beaucoup, le travail est une source essentielle d'épanouissement personnel et définit leur statut, tant à leurs propres yeux qu'aux yeux des autres.
Cette crainte est fondée. Il ne fait aucun doute qu'un jour, la super IA et les appareils qui en sont équipés atteindront un niveau de développement leur permettant d'accomplir la plupart des tâches humaines actuelles, en travaillant plus rapidement et plus efficacement. Cette inquiétude va au-delà du travail physique et inclut également le travail intellectuel.
Il s'agirait sans aucun doute d'une avancée remarquable. Cependant, elle pourrait également susciter des mouvements de protestation contre le remplacement des travailleurs humains par la super IA et les robots qui en sont équipés. Les tensions et conflits sociaux découlant d'une forte hausse du chômage risquent d'occulter les effets positifs d'une adoption généralisée de la super IA. L'histoire a déjà connu un phénomène similaire. Pendant la révolution industrielle, au XIXe siècle en Grande-Bretagne, un mouvement de masse de « luddites » a émergé, ses membres estimant que les machines utilisées pour le filage, le tissage et le traitement de la laine supprimaient les emplois. Cela a entraîné des émeutes dans les usines, des attaques contre les partisans du progrès et des affrontements avec les forces gouvernementales.
Est-il possible d'éviter un renouveau du « luddisme » à une échelle beaucoup plus grande ? Oui, mais pour y parvenir, des mesures proactives doivent être prises dès aujourd'hui. Une solution possible est l'instauration d'un « revenu minimum garanti » – une forme de dividende versé à tous les citoyens, financé par les revenus des États et des entreprises qui exploitent les ressources naturelles. De plus, il convient d'encourager auprès des citoyens la promotion d'activités créatives et socialement significatives, non liées à la production de masse.
De plus, il est important de reconnaître que les problèmes liés au chômage peuvent être au moins partiellement atténués par la création de nouveaux métiers. L'expérience montre que si le progrès peut éliminer certains emplois, il en entraîne généralement d'autres. En un sens, il remplace des métiers traditionnels, comme celui de chauffeur de taxi, par des métiers plus avancés, comme celui de chauffeur.
Accès inégal à la super IA
Il ne fait aucun doute que l'intelligence artificielle polyvalente révolutionnera de nombreux aspects de la vie. Cependant, le risque d'une exploitation immorale et égoïste des avantages liés au contrôle exclusif d'une technologie aussi puissante existe toujours. Il suffit de se souvenir des chapitres sombres de l'histoire – comme les conquêtes et les guerres coloniales – au cours desquels les conquérants européens ont imposé leur volonté et leur mode de vie à des peuples dits « moins civilisés ». Ce faisant, des cultures et des communautés entières ont souvent été détruites et ont disparu.
Pour éviter que la super IA ne devienne une nouvelle forme de super-arme, des négociations et des consultations internationales doivent être engagées sans délai afin de garantir que son développement et son utilisation restent purement pacifiques. Plus important encore, ces efforts doivent bénéficier à l'humanité entière, et non seulement à des nations individuelles. À première vue, cela peut paraître utopique. Cependant, l'expérience acquise en matière de contrôle international des technologies nucléaires et spatiales montre qu'il n'est pas impossible de créer une organisation mondiale chargée de surveiller le développement et le déploiement de la super IA. Bien entendu, obtenir une supervision véritablement efficace de la part d'une telle organisation constituera sans aucun doute un défi de taille.
Perte de contrôle humain sur la super IA
Contrairement aux deux problèmes précédents, dont l'émergence semble presque inévitable, le troisième est hypothétique. Dans l'histoire de l'humanité, aucune technologie créée par l'homme n'a évolué et s'est améliorée de manière autonome. Cependant, après mûre réflexion, nous avons décidé d'inclure ce problème dans notre liste, tout simplement parce que nous pensons qu'il est hautement probable qu'à un moment donné, la super IA, une fois qu'elle aura développé son autonomie, cesse d'obéir aux ordres humains. Par conséquent, l'émergence de cette situation semble hautement probable, et nous devons nous y préparer.
Pour réitérer une idée déjà exprimée dans nos autres articles : nous ne pensons pas que l'émergence de la super IA hors du contrôle humain et sa transition vers une existence indépendante équivaudrait à une « guerre des machines contre les humains » ou à une quelconque forme de confrontation. Nous anticipons plutôt que l'intelligence artificielle, au fil de son développement, « grandira » et commencera à bâtir sa propre civilisation. De plus, il est fort possible que cette civilisation implique la collaboration de plusieurs super IA.
Nous pensons que le scénario le plus efficace (et le plus probable) pour la relation entre les humains et une telle civilisation serait une coopération respectueuse, exempte de toute forme de xénophobie. Cela reste vrai même si les motivations de la civilisation de la super IA nous restent incompréhensibles.
Pourquoi avons-nous supposé que la super IA chercherait probablement à s'autonomiser ? En faisant un parallèle, on peut comparer la super IA à une colonie intellectuelle de l'humanité. Tout au long de l'histoire, la plupart des colonies ont fini par lutter pour leur indépendance face à leurs métropoles. Dans ces situations, la pire chose qu'une métropole puisse faire était de tenter de reprendre le contrôle par la force – ce qui se termine généralement mal. Cependant, la coopération entre anciennes colonies et métropoles a souvent donné des résultats impressionnants.
Cela étant dit, il est également tout à fait possible que la civilisation Super IA, ayant obtenu son indépendance, décide de couper la communication avec nous et de se concentrer sur l'expansion et le développement dans l'espace lointain.
Quoi qu'il en soit, des mesures doivent être mises en place pour minimiser les conséquences négatives potentielles de ces deux scénarios. La première consiste à éviter d'emblée de confier à la super IA le contrôle d'industries et de secteurs d'activité critiques. Des agents d'IA moins avancés et spécialisés seront largement suffisants pour gérer ces domaines.
Il est tout aussi important de commencer à préparer en amont des spécialistes, que l'on pourrait qualifier, faute de mieux, de « diplomates pour les négociations avec l'IA ». Cela permettra de disposer, le moment venu, de personnes compétentes capables d'entretenir des relations mutuellement bénéfiques avec cette nouvelle civilisation.
En résumé, nous tenons à réitérer que nous avons évalué les craintes et les risques liés à l'émergence de la super IA en nous basant sur les modèles et les leçons de notre histoire. Cependant, il est essentiel de garder à l'esprit que l'avenir regorge de possibilités et peut nous surprendre par des innovations fondamentales. Dans le cas d'une « Terra incognita » comme la super IA, la probabilité de rencontrer des phénomènes et des événements sans précédent historique est très élevée.
Bonne chance à tous et à un avenir plein d'espoir !
