Rassurez-vous, il ne s'agit pas d'un autre fantasme noir sur les « humains-piles » ou sur des personnes soumises à des expériences d'IA sans âme. Au contraire, les auteurs de Pitch Avatar L’équipe étudie comment la psychologie et l’éthique peuvent changer lorsque l’IA devient une partie indissociable de chaque élément de notre civilisation.
Dès le milieu du XXe siècle, Norbert Wiener, dans son ouvrage fondateur Cybernétique : ou contrôle et communication dans l'animal et la machine, a mis en garde contre les changements fondamentaux qu'entraînerait l'adoption généralisée des « machines intelligentes ». Voici une citation pertinente :
…nous sommes déjà en mesure de construire des machines artificielles de presque tous les niveaux de sophistication. Bien avant Nagasaki et la découverte de la bombe atomique, j'avais réalisé que nous étions en présence d'une autre potentialité sociale d'une importance inouïe, pour le bien comme pour le mal. L'usine automatisée et la chaîne de montage sans intervention humaine ne sont plus avancées que dans la mesure où nous sommes prêts à investir dans leur ingénierie autant d'efforts que ceux consacrés, par exemple, au développement du radar pendant la Seconde Guerre mondiale.
J'ai dit que cette nouvelle évolution offre des possibilités illimitées, pour le bien comme pour le mal… Elle offre à l'humanité une nouvelle et plus efficace collection d'esclaves mécaniques pour accomplir son travail. Ce travail mécanique possède la plupart des propriétés économiques du travail servile, même si, contrairement à lui, il n'implique pas les effets démoralisants directs de la cruauté humaine. Cependant, tout travail qui accepte les conditions de concurrence avec le travail servile accepte les conditions du travail servile et est par essence du travail servile. Le mot clé de cette affirmation est la concurrence. Il se peut très bien que la machine supprime le besoin de tâches subalternes et désagréables pour l'humanité, ou non. Je l'ignore.
Comme vous pouvez le constater, le problème a été clairement identifié. Le développement et l'intégration de l'IA pourraient transformer la majorité de la population mondiale en une sorte de « techno-esclavagiste » (les guillemets sont essentiels pour saisir la nature conceptuelle de ce terme dans son contexte). À condition toutefois que les « esclaves » en question soient des programmes intelligents et des machines pilotées par l'IA.
Wiener, qui pensait que ce scénario serait dépourvu des « effets démoralisants de la cruauté humaine », était avant tout préoccupé par les bouleversements socio-économiques qu'il entraînerait. Mais, avec tout le respect que je dois à son autorité, nous pensons qu'il a soit évité, soit sous-estimé les inévitables transformations psychologiques chez les personnes qui se retrouveraient dans le rôle de « techno-esclavagistes ».
Tout en travaillant sur divers Pitch Avatar projets, nous avons déjà commencé à remarquer les premiers signes de ces changements – ce que l’on pourrait appeler des signaux d’alarme.
Soyons clairs : il ne s’agit pas ici d’hypothétiques « droits des robots ». C’est un autre sujet. Ce qui nous intéresse ici, ce sont des enjeux humains bien réels. Et même si un seul article ne suffit pas à tout aborder, concentrons-nous sur trois préoccupations fondamentales.
« Communication rationnelle » ou simplement impolitesse ?
« Pourquoi être poli avec l'intelligence artificielle ? On ne s'incline pas devant un aspirateur, n'est-ce pas ? » Cette opinion, partagée lors d'un récent débat, illustre parfaitement l'état d'esprit de ceux qui prônent des interactions « rationnelles » avec l'IA. Après tout, si la machine comprend votre demande dans un sens ou dans l'autre, pourquoi s'embêter avec la politesse ? Pourquoi dire « s'il vous plaît » ? Pourquoi ne pas s'amuser à donner des surnoms amusants à l'IA, voire à se défouler en lui criant dessus ? Un humain s'en offusquerait, mais l'IA n'est pas humaine, n'est-ce pas ?
À première vue, il peut sembler anodin d'être impoli ou de laisser échapper des expressions de gratitude lorsqu'on s'adresse à des machines. Mais réfléchissons-y : des interactions fréquentes avec l'IA forment des habitudes, habitudes qui pourraient se prolonger dans la communication humaine. Les adultes d'aujourd'hui ne transposeront peut-être pas l'impolitesse infligée par l'IA dans leurs conversations réelles. En revanche, les enfants, eux, pourraient normaliser la « communication rationnelle » non seulement avec les machines, mais aussi avec les humains. Surtout s'ils grandissent en percevant ce style comme la norme. Nous pourrions même voir émerger des sous-cultures où la communication « à la robotique » deviendrait tendance.
Et même avec les adultes, rien n'est garanti. Il suffit de voir l'impact de la culture Internet sur les normes de langage : le sarcasme, la moquerie et l'impolitesse flagrante sont désormais monnaie courante dans les conversations en ligne. Et soyons honnêtes, cela s'est également propagé dans la communication réelle, y compris dans les cercles d'élite comme la politique et les arts.
Il y a un autre problème urgent : nous approchons de la création d'une IA puissante et polyvalente, capable d'apprentissage autonome, y compris à partir des interactions humaines. Voulons-nous vraiment qu'elle absorbe notre impolitesse et la reproduise ?
Si nous souhaitons préserver un haut niveau de culture orale, nous devons apprendre à traiter les machines intelligentes avec la même politesse que nous réservons aux humains. Une première étape importante serait de créer des formations à la communication par l'IA, hébergées sur les sites web des produits d'IA et intégrées aux programmes scolaires. Ces formations pourraient également aider les parents soucieux de l'utilisation de leurs enfants sur ordinateur et smartphone.
« Montage créatif » ou simplement paresse ?
Ne vous méprenez pas, nous sommes tous favorables au travail intellectuel assisté par l'IA. En fait, Pitch Avatar L'équipe s'engage à aider les créateurs de contenu à se décharger des tâches routinières et à se concentrer sur leur véritable créativité. Cependant, nous avons constaté une tendance inquiétante : de nombreux créateurs de contenu se contentent de jouer le rôle de simples « éditeurs » de contenus générés par l'IA. Ils considèrent que le simple fait de proposer un message et de modifier quelques mots ou expressions constitue une forme de paternité.
Cette tendance a été baptisée « édition créative » – un terme que nous avons récemment rencontré lors d’une discussion sur ce problème croissant.
Vous ne voyez pas le problème ? Analysons-le. Si vous générez des dizaines de descriptions de produits ou de modèles d'e-mails standards, l'IA est un excellent outil. Sans aucun doute. Mais c'est une toute autre histoire lorsque des personnes confient à l'IA des tâches profondément humaines, comme la rédaction d'un devoir scolaire, la préparation d'un toast de mariage ou la composition d'une carte de vœux. Soyons honnêtes : recourir à l'IA pour ces tâches relève souvent de la paresse.
Maintenant, prenons du recul. Que se passe-t-il lorsque des rédacteurs professionnels commencent à faire passer pour les leurs des œuvres principalement générées par l'IA ? Ce contenu finit en ligne, puis de nouveaux modèles d'IA s'entraînent dessus, créant ainsi davantage de contenu IA. C'est un cycle. Et si le contenu humain domine encore en ligne aujourd'hui, qu'en sera-t-il dans cinquante ans ?
La véritable préoccupation est la suivante : allons-nous perdre notre capacité à créer de manière autonome ? Surtout après avoir construit une IA universelle ?
Il est peut-être temps d’introduire des programmes qui enseignent la créativité sans IA. Imaginez des « Journées de l'intelligence naturelle » dans les écoles : pas d'IA, pas d'ordinateurs, pas de smartphones. Juste des stylos, des crayons, des pinceaux, des instruments de musique et des scènes de théâtre.
« Liberté de vivre » ou simple oisiveté ?
« Les humains ne sont pas faits pour travailler. » C'est une opinion répandue, souvent étayée par des références à la recherche anthropologique. En effet, pendant la majeure partie de l'histoire de l'humanité, les hommes ont vécu de la chasse et de la cueillette – un mode de vie connu sous le nom d'« économie de la cueillette ». Dans ce monde, la notion de travail quotidien et routinier n'existait tout simplement pas. Nos plus proches parents, les grands singes, n'ont pas non plus la moindre idée de ce que signifie « travail quotidien ». Besoin de nourriture ? Partez à la chasse, à la pêche ou cueillez des baies et des plantes comestibles. Besoin de matériaux ? Cherchez des pierres ou des branches adaptées. Le reste du temps, vous discutez, vous vous reposez, vous jouez et, en résumé, vous vivez, tout simplement.
Cette vision plutôt idéalisée de la vie humaine primitive a inspiré un rêve moderne : recréer cette liberté, mais avec une touche technologique. Laisser les machines et les logiciels intelligents se charger du travail, tandis que les humains vivent libres et heureux, soutenus par un revenu de base universel. Autrement dit, tout le nécessaire à la vie est garanti, sans travail. Nous laisserons les implications économiques et sociales plus profondes de cette idée pour de futurs articles. Concentrons-nous ici sur une autre question : si votre bien-être ne dépend plus des résultats de votre travail, qu'est-ce qui vous motivera à grandir, à vous améliorer et à repousser vos limites ? Même les premiers humains disposaient de mécanismes de rétroaction clairs pour l'apprentissage et la survie. Si vous lanciez une lance faiblement ou ratiez votre tir, vous aviez faim ; vous vous entraîniez donc. Si vous mangiez la mauvaise baie ou le mauvais champignon, vous tombiez malade ; vous appreniez donc des anciens à distinguer le sûr du dangereux. Le besoin de s'améliorer était directement lié à la survie.
Qu'est-ce qui motivera les générations futures ? Pourquoi devraient-elles développer leur esprit et leur corps ? Pourquoi s'embêter à acquérir de nouvelles compétences et connaissances ? Bien sûr, il y aura toujours des passionnés de sport ou de jeux vidéo. Mais il est peu probable que toute l'humanité devienne un athlète ou un joueur. Certains seront motivés par l'avancement de la science, mais ces personnes ont toujours été minoritaires. Il en va de même pour les artistes. Et oui, il y aura toujours des aventuriers et des explorateurs, mais ils ont toujours été encore moins nombreux que les scientifiques.
Alors, que feront la plupart des gens ? En tant qu'espèce ? Nous n'allons pas sérieusement créer des pilules pour stimuler l'auto-amélioration… ou des pilules sociales pour mieux communiquer entre nous ? Car, soyons honnêtes, le risque est réel que beaucoup deviennent humanophobes avec le temps. Il serait peut-être tout simplement plus agréable d'interagir avec des machines intelligentes, toujours polies, amicales et désireuses de plaire.
Pourtant, l'humanité a affronté et surmonté d'innombrables défis au cours de l'histoire. Nous surmonterons probablement celui-ci aussi. La seule question est : comment ?
