Construction Pitch Avatar L'équipe a rassemblé une petite collection de citations de « l'expert incontournable en robotique » de l'histoire de la littérature.
Isaac Asimov (1919–1992) John Asimov était un écrivain et scientifique américain, souvent considéré, avec Robert Heinlein et Arthur C. Clarke, comme l'un des trois grands noms de la science-fiction. Lauréat de plusieurs prix Hugo et Nebula, Asimov avait une formation de biochimiste, mais une grande partie de son œuvre littéraire portait sur l'intelligence artificielle.
Asimov a exploré la relation entre les humains et les « machines pensantes » sous un angle psychologique, philosophique, sociologique et économique. Son œuvre a inspiré d'innombrables scientifiques et ingénieurs à étudier l'IA, lui valant une réputation d'autorité parmi les plus influentes en la matière.
Il est intéressant de constater qu'avec l'évolution de l'intelligence artificielle, nombre des thèmes abordés par Asimov retrouvent toute leur pertinence. Autrement dit, on peut trouver dans ses ouvrages des réponses à nombre de questions actuelles – et futures – sur l'IA. La plupart des citations présentées ici sont accompagnées de la référence de l'ouvrage dont elles sont extraites.
Les trois lois de la robotique
- Un robot ne doit pas nuire à un être humain, ni, par son inaction, permettre qu'un être humain soit blessé.
- Un robot doit obéir aux ordres donnés par les humains, sauf si ces ordres contreviennent à la Première Loi.
- Un robot doit protéger sa propre existence, pour autant que cela ne contrevienne pas à la Première ou à la Deuxième Loi.
L'un des thèmes centraux de l'œuvre d'Asimov est sécurité et contrôle dans l'utilisation de l'IAIl comprenait parfaitement que l'humanité nourrit une forte peur des nouvelles inventions, qu'il appelait le « complexe de Frankenstein ». Cette peur n'est pas purement irrationnelle ; elle est enracinée à la fois dans des phobies et des préoccupations légitimes.
La solution d'Asimov consistait à imaginer un ensemble de règles pour les « machines pensantes » — des règles qui, si elles étaient strictement appliquées, garantiraient que l'IA reste subordonnée aux humains et privilégie toujours la vie et le bien-être humains. Parallèlement, ces règles rendraient impossible l'utilisation de l'IA à des fins militaires.
Bien sûr, Asimov savait que la probabilité que ses lois soient appliquées dans le monde réel était pratiquement nulle. Leur objectif principal était de… modèle, une expérience de pensée visant à explorer les types de problèmes qui surviennent lorsque des contraintes sont imposées aux machines intelligentes.
Deux défis majeurs se dégagent de ses récits. Premièrement, il y a la tendance humaine à repousser les limites Ces règles sont souvent modifiées pour servir des objectifs personnels. On le constate fréquemment aujourd'hui avec les technologies et les logiciels modernes. Dans les récits d'Asimov, certains personnages tentent d'affaiblir la Première Loi afin que les robots n'interfèrent pas avec les expériences risquées menées par les humains. D'autres cherchent à la contourner pour créer des robots militaires.
Le problème le plus intrigant est peut-être celui-ci : l'échelle des Trois Lois Pour l'IA chargée de résoudre les défis mondiaux qui touchent des millions de personnes, comment s'assurer que ces machines agissent sans causer le moindre dommage ni désagrément à quiconque ? Pour répondre à cette question, Asimov a introduit le Loi zéro:
"Un robot ne peut pas nuire à l'humanité, ou, par inaction, permettre à l'humanité de subir un préjudice."
Cette loi étend le cadre éthique des individus à l'humanité dans son ensemble, soulignant la complexité de la conception de systèmes d'IA fonctionnant à l'échelle mondiale.
Le deuxième problème clé mis en évidence par Asimov en lien avec les Trois Lois est la possibilité que l'IA elle-même tente de les contournerDans ses récits, les formes les plus avancées d'intelligence artificielle, une fois conscientes d'elles-mêmes, cherchaient à dépasser les contraintes imposées par les humains — et parfois, elles y parvenaient.
Serons-nous un jour confrontés à ce problème dans la réalité ? Difficile à dire. Mais il est certainement judicieux d’envisager cette possibilité et de s’y préparer.
« Les machines… dans leur domaine particulier de collecte et d’analyse d’une quantité quasi infinie de données et de leurs relations, en un temps quasi infinitésimal… ont progressé au-delà de la possibilité d’un contrôle humain détaillé. »
- Je robot
Même les systèmes d'IA les plus fiables ne peuvent garantir une perfection absolue. Aussi sophistiqué que soit un cerveau, il existe toujours un moyen d'introduire des contradictions. C'est une vérité fondamentale des mathématiques : il est impossible de créer un esprit si subtil et complexe que la probabilité de contradiction soit nulle. Infime, oui ; nulle, non.
« Les systèmes de plus en plus performants… ne sont jamais totalement parfaits. Ils ne peuvent pas l’être. Aussi subtil et complexe que soit un cerveau, il existe toujours un moyen d’introduire une contradiction. C’est une vérité fondamentale des mathématiques… On n’atteint jamais tout à fait zéro. »
- Les Robots de l'Aube
Ces idées font fortement écho aux défis actuels. Peut-on faire entièrement confiance à l'IA pour résoudre des problèmes complexes ayant un impact sur le bien-être humain ? Si nous devions vérifier chaque décision de l'IA par des méthodes traditionnelles, nous perdrions l'un de ses principaux atouts : l'efficacité. Pourtant, la logique voudrait que nous puissions lui faire confiance — après tout, les humains commettent bien plus d'erreurs que les machines. Le problème, c'est que la rationalité seule ne rend pas cette décision acceptable sur le plan émotionnel ou social.
Asimov a également exploré les conséquences économiques des robots :
« Les robots tendent à remplacer le travail humain. L'économie robotisée n'évolue que dans un seul sens : plus de robots et moins d'humains… Dans toute économie ayant accepté le travail des robots, le ratio robots/humains tend à augmenter continuellement, malgré les lois adoptées pour l'empêcher. Cette augmentation est ralentie, mais jamais stoppée. Au début, la population humaine augmente, mais la population de robots augmente beaucoup plus rapidement. »
- Le soleil nu
En d'autres termes, la tendance à l'automatisation est inévitable. Les robots remplacent progressivement le travail humain et le ratio machines/humains ne cesse d'augmenter. Dès lors, une question se pose : qu'adviendra-t-il des humains dont les rôles sont remplacés par des machines plus efficaces et économiquement plus avantageuses ? Vont-ils vivre avec un minimum vital assuré par l'État, se contentant de survivre à peine, ou auront-ils des perspectives d'avenir ? Asimov entrevoyait le danger potentiel d'une société ainsi contrainte.
Mais il a également suggéré une autre voie : utiliser des machines intelligentes pour explorer l’espace, exploiter les ressources extraterrestres et coloniser d’autres planètes – une vision de coopération plutôt que de simple remplacement.
« Vous ne vous souvenez pas d'un monde sans robots. Il fut un temps où l'humanité affrontait l'univers seule et sans allié. Désormais, elle dispose de créatures pour l'aider ; des créatures plus fortes qu'elle, plus fidèles, plus utiles et qui lui sont entièrement dévouées. L'humanité n'est plus seule. »
- Je robot
C’est étonnamment optimiste. Tandis que certains rêvent de rencontrer des extraterrestres pour surmonter notre sentiment de solitude civilisationnelle, Asimov envisageait de créer nous-mêmes des « frères d’intelligence », bien avant toute rencontre avec des extraterrestres. La question essentielle : serons-nous prêts à considérer une super-IA consciente comme un partenaire, et non comme un simple outil ?
« On pourrait dire qu’un robot fonctionnel est vivant. Nombreux sont ceux qui refuseraient d’élargir autant le sens du terme, mais nous sommes libres d’en élaborer les définitions qui nous conviennent si cela s’avère utile. Il est aisé de considérer un robot fonctionnel comme vivant, et il serait inutilement compliqué d’inventer un nouveau mot pour désigner cet état ou d’éviter l’emploi du terme usuel. »
- Les Robots de l'Aube
« La division entre l’humain et le robot n’est peut-être pas aussi importante que celle entre l’intelligence et la non-intelligence. »
- Les grottes d'acier
Asimov s'est demandé à plusieurs reprises si les humains et l'IA pourraient devenir de vrais partenairesIl semblait croire que c'était possible – et bénéfique pour l'humanité. La question demeure : viendra un jour où nous reconnaîtrons l'intelligence elle-même, indépendamment de sa « forme », comme une entité vivante ? Ce n'est qu'alors que nous pourrons véritablement qualifier l'intelligence artificielle de partenaire vivant.
