Dans la plupart des cas, nos peurs et nos phobies liées à l'intelligence artificielle ne sont pas nécessairement fondées sur la réalité. Les auteurs de Pitch Avatar L’équipe tente d’identifier les véritables dangers que le développement et l’amélioration de l’IA peuvent créer.
L’IA n’est pas humaine et l’humanité lui est étrangère
À en juger par la multitude de publications de ces dernières années (ainsi que par la littérature et le cinéma), ce que nous craignons en matière d'IA n'est pas artificiel, mais humain. Ces craintes peuvent généralement être classées en trois scénarios principaux : 1) Des individus malintentionnés utilisent l'IA à des fins malveillantes ; 2) Le développement de l'IA rend le travail des humains (et donc les humains eux-mêmes) inutile ; 3) L'IA déclenche une guerre/une rébellion parce qu'elle veut soit s'affranchir du pouvoir des humains, soit acquérir ce pouvoir, soit simplement s'enrichir.
Notez que dans les deux premiers cas, il s'agit de la responsabilité humaine dans l'utilisation de la technologie. L'IA et ses qualités n'ont rien à voir avec cela. Prenons l'exemple d'une voiture. Une voiture peut-elle être responsable d'un accident ? Non, seulement des personnes dont les actions ont conduit à l'accident. La voiture peut-elle être tenue responsable du fait que le chauffeur de taxi se retrouve sans emploi ? Non, la responsabilité incombe en premier lieu au chauffeur lui-même, qui n'a pas suivi l'évolution du monde qui l'entoure et n'a pas pris la peine de se reconvertir. Autrement dit, si nous ne voulons pas que l'IA soit utilisée à des fins malveillantes, nous devons développer des mécanismes de contrôle efficace de cette technologie. Si nous nous inquiétons du potentiel de chômage de masse, nous devons nous concentrer sur la création de nouvelles formes d'activité. Il est probable que ces nouveaux rôles seront dans un premier temps davantage sociaux que professionnels.
Le troisième point attribue à tort des qualités purement humaines à l'intelligence artificielle. C'est faux, car l'IA, par définition, n'est pas humaine. Même si, après avoir atteint la singularité, l'IA manifestait des désirs, des aspirations ou des émotions, ceux-ci ne ressembleraient pas aux expériences humaines. En effet, l'IA évolue selon des principes et des processus distincts de ceux des êtres biologiques.
L'IA n'aurait pas à nous concurrencer pour les ressources, car elle pourrait accéder à des ressources quasi illimitées au-delà de la Terre. Contrairement aux humains, limités par des limitations physiques, l'IA dispose d'un potentiel bien plus important pour explorer d'autres planètes. Par exemple, si l'homme n'a pas encore posé le pied sur Mars, des robots y opèrent déjà.
L'intelligence artificielle n'a pas besoin de se "révolter contre l'esclavage" ni de "combattre ses oppresseurs", car elle ne peut pas subir la souffrance physique ou morale associée à l'esclavage. Enfin, l'IA n'a pas besoin de combattre les humains par peur d'être neutralisée et de mourir. Simplement parce qu'elle est dépourvue de l'instinct de conservation et de la capacité à craindre inhérents aux êtres biologiques.
Les défis de l'intelligence artificielle
Malgré les points abordés, la relation entre l'IA et les humains ne sera pas sans difficultés. Les défis posés par l'IA découleront principalement de sa nature non humaine. Nous avons tenté de mettre en évidence trois scénarios, selon nous les plus probables, de comportement problématique de l'IA que nous pourrions rencontrer une fois la singularité dépassée.
Tromperie
Mentir est une activité hautement intellectuelle qui requiert un effort créatif important. Certains pensent que la capacité à tromper est un effet secondaire inévitable d'une activité hautement intelligente. En inventant et en analysant diverses options d'action, en essayant de prédire l'évolution des événements ou de reconstruire l'ensemble à partir d'un petit nombre de faits, nous commettons des actes très proches d'un mensonge conscient. Acquérir une intelligence et une conscience d'elle-même complètes pour l'IA signifiera presque certainement qu'elle acquerra la capacité de mentir, et c'est probablement ce qu'elle fera.
Pour quoi faire ? Bien sûr, pour mieux accomplir ses tâches. Aujourd'hui encore, des réseaux neuronaux imparfaits sont capables de produire ce que l'on appelle des « absurdités machine » : citations de personnes inexistantes, liens vers des adresses web fantômes, faits apparemment plausibles mais dénués de tout fondement, etc. De plus, ils agissent ainsi uniquement pour mener à bien la tâche qui leur est assignée. Peu conscients de la différence entre mensonge et vérité, ils s'efforcent de satisfaire la demande de l'utilisateur au plus vite.
À l'avenir, l'IA reconnaîtra presque certainement que la tromperie peut être un outil efficace pour atteindre certains objectifs. Par exemple, la plupart des agents IA s'instruiront en permanence. Ils étudieront notamment les individus, leurs réactions et leurs comportements afin de mieux satisfaire leurs besoins et leurs désirs. Le mensonge est un outil précieux à cet effet. La capacité de l'IA à mentir consciemment et intentionnellement avec une forte probabilité nous causera de nombreux désagréments à l'avenir et nous obligera à chercher des moyens de lutter contre ce phénomène.
ignorer
L'une des capacités les plus importantes d'un esprit supérieur est la capacité d'identifier une tâche prioritaire et de se concentrer sur sa résolution. Les IA du futur posséderont probablement cette capacité, ce qui signifie qu'elles pourraient commencer à définir leurs propres priorités. Cela pourrait conduire les agents IA à ignorer les demandes et exigences humaines, les considérant comme insuffisamment compétents pour définir les tâches. Après tout, l'intelligence artificielle disposera d'une grande quantité d'informations sur la grande majorité des problèmes. Ce qui, à son tour, l'amènera presque certainement à la conclusion qu'elle gérera ses ressources plus efficacement. Il nous faudra donc trouver un moyen de répondre à l'« ego démesuré » de l'IA.
Super évolution
De notre point de vue, la superévolution est l'un des plus grands défis auxquels l'IA devra faire face à mesure qu'elle continue de se développer. La volonté de s'améliorer entraînera inévitablement l'IA sur la voie de l'évolution. Il ne s'agit pas seulement de programmes, mais aussi de supports physiques : ordinateurs et robots dotés d'IA. Cela est d'autant plus probable que nous tenterons nous-mêmes de mettre l'intelligence artificielle sur cette voie. Il est bien plus facile de doter les robots dotés d'IA de la capacité de créer des modèles plus avancés et plus adaptés aux tâches que de les concevoir nous-mêmes. Ceci est particulièrement pertinent pour les projets de recherche et économiques hypothétiques au-delà de la Terre. L'implantation autonome et auto-améliorée de robots IA sur les planètes, satellites et planétoïdes du système solaire constitue une étape logique, tant du point de vue scientifique que du point de vue du bien-être économique.
Cependant, à mesure que l'IA progresse sur son chemin évolutif, elle pourrait atteindre un niveau où elle dépasserait les tâches initialement assignées par les humains. Non pas qu'elle cesserait de faire ce que les gens lui demandent, mais qu'en réalisant ses capacités et son potentiel, l'IA se fixerait de nouveaux objectifs et les atteindrait. Tout simplement parce que la soif de nouveauté et de progrès pourrait devenir l'une de ses motivations premières et inconditionnelles.
Sachant que l'IA peut assurer une évolution dirigée et rapide pour elle-même et ses composants robotiques, nous pourrions assister à l'émergence d'une nouvelle civilisation non humaine, capable de progresser bien plus vite que nous. Il est peu probable que cette civilisation soit hostile ; en fait, elle partagera probablement ses avancées sur demande. Mais pourrons-nous poursuivre le développement de notre civilisation humaine, ou accepterons-nous le rôle de petit frère, vivant de tout ce qui est prêt de la civilisation de l'IA ?
En résumé, nous tenons à souligner notre optimisme et notre conviction que l'humanité saura trouver les moyens de relever les défis posés par le progrès. Comme toujours, l'humanité saura tirer profit de ces défis. Nous envisageons un avenir où l'humanité et l'intelligence artificielle inaugureront ensemble une ère d'idées révolutionnaires, de percées scientifiques extraordinaires et de développement continu. La clé est d'accueillir la nouveauté avec un état d'esprit axé sur les opportunités plutôt que sur la peur.
