Команда Pitch Avatar собрала небольшую коллекцию цитат “главного по роботам” в истории литературы.
Айзек Азимов (1919-1992). Американский писатель и ученый, которого критики еще при жизни отнесли, наряду с Робертом Хайнлайном и Артуром Кларком, к так называемой “Большой тройке” научной-фантастики. Многократный лауреат премий “Хьюго” и “Небьюла”. Несмотря на то, что, как ученый, он специализировался на биохимии, львиную долю своего творчества, как писатель, он посвятил теме искусственного интеллекта.
В своем творчестве Азимов старался всесторонне, с точки зрения психологии, философии, социологии и экономики, рассмотреть тему взаимоотношений людей и “разумных машин”, вдохновили многих ученых и инженеров заняться темой ИИ. Благодаря этому его считают одним из крупнейших авторитетов в области искусственного интеллекта.
Стоит заметить, что с очередным витком развития ИИ многие темы, поднятые Азимовым, снова обрели актуальность. А значит, не исключено, что ответы на многие наши сегодняшние (и завтрашние) вопросы мы сможем найти в книгах Айзека Азимова. В конце большинства цитат, приведенных в этом тексте, мы приводим название произведения, из которого она взята.
Три закона робототехники
- Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
- Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
- Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
Одна из главных тем произведений Азимова – безопасность и контроль при использовании ИИ. Автор отлично знал, что у человечества довольно силен страх перед новыми изобретениями, названный им “комплексом Франкенштейна”. И вызван он не только фобиями, но и вполне рациональными соображениями.
В результате, Азимов попробовал придумать свод правил-ограничений для “разумных машин” – таких, обязательное следование которым при любых обстоятельствах сохранило бы их подчиненность человеку и заставляло бы заботиться о жизни и здоровье людей. А, заодно, сделали бы невозможным применение ИИ в военных целях.
Разумеется, Азимов отлично понимал, что вероятность того, что его законы будут применяться на практике – практически нулевая. Они нужны были, в первую очередь, в качестве модели, на примере которой можно было бы исследовать саму суть явлений, которые порождаются ограничениями, накладываемыми на ИИ
Можно сказать, что в книгах Азимова обозначились две основные проблемы, связанные с этой темой. Первая – желание людей “расширить” границы этих ограничений, модифицируя и изменяя законы под свои задачи. С чем-то подобным, при использвоании современной техники и ПО мы постоянно сталкиваемся уже сегодня. Среди персонажей Азимова были, например те, кто пытались сократить Первый закон для того, чтобы роботы не мешали людям принимать участие в рискованных экспериментах или те, кто хотели его обойти так, чтобы создать военных роботов.
Но, пожалуй, самой интересной темой, связанной с этой проблемой, стало масштабирование использования Трех Законов , при создании ИИ, призванных решать глобальные задачи, затрагивающие интересы многих людей. Как решить их, не причиняя никому ни малейшего вреда и неудобства? Размышляя над этим, Азимов добавил к Трем законам робототехники Нулевой закон:
«Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинён вред».
Этот закон распространяет этические рамки с отдельных людей на все человечество в целом, подчеркивая сложность проектирования систем искусственного интеллекта, функционирующих в глобальном масштабе.
Вторая ключевая проблема, обозначенная Азимовым в связи с Тремя законами – попытка обойти их самим ИИ. Наиболее развитые виды искусственного интеллекта в произведениях Азимова, осознав себя, стремились выйти за рамки наложенных на них людьми ограничений. И им это удавалось!
Столкнемся ли мы, когда-нибудь, с этой проблемой на практике, сказать сложно. Но, пожалуй, будет разумно, иметь такую вероятность в виду и соответствующим образом подготовиться.
«Машины…собирая и анализируя бесконечное количество данных за немыслимо короткое время… лишили людей возможности их проверить».
- Я, робот
Даже самые надёжные системы искусственного интеллекта не могут гарантировать абсолютное совершенство. Каким бы сложным ни стал мозг, всегда найдётся способ внести противоречия. Это фундаментальная истина математики: невозможно создать разум настолько тонкий и замысловатый, чтобы вероятность противоречия была равна нулю. Очень мала — да, ноль — нет.
«Все более надежные системы, о которых я говорю, абсолютной надежности не гарантируют и не могут гарантировать. Каким бы сложным и тонко мыслящим ни стал мозг, всегда найдется способ создать неразрешимое противоречие. Это математическая истина. Никогда не удастся создать настолько тонко мыслящий и защищенный мозг, чтобы свести возможность противоречия к нулю. К очень малой степени – да, но не к полному нулю.».
- Роботы зари
В приведенных цитатах описана проблема, к которой человечество вплотную подошло уже сегодня. Можем ли мы доверять решение сложных проблем и задач, искусственному интеллекту? Таких, например, от которых зависит благосостояние и благополучие людей? Если мы будем проверять обычными методами все решения сложных умных машин – будет потеряна экономия времени, которая является одним из главных преимуществ использования ИИ. Готовы ли мы доверять искусственному интеллекту, зная, что стопроцентно безошибочно ни один ИИ работать не сможет? Логика подсказывает ответить “да”. Ведь люди, которые сегодня решают эти задачи, ошибаются куда чаще. Проблема в том, что логичность такого решения не делает его привлекательнее для тех, кто руководствуются эмоциями, привычкой или просто технофобией.
Азимов также исследовал экономические последствия появления роботов:
«Роботы вытесняют человеческий труд. Роботизированная экономика движется только в одном направлении: побольше роботов и поменьше людей… Соотношение “робот – человек” в любом обществе, использующем труд роботов, постоянно возрастает, несмотря ни на какие законы, препятствующие этому. Рост идет медленно, но никогда не прекращается. Сначала прибавляется людей, а затем их опережают роботы, численность которых растет гораздо быстрее».
- Обнаженное солнце
Иными словами, тенденция к автоматизации неизбежна. Роботы постепенно заменяют человеческий труд, и соотношение машин и людей продолжает расти. Возникает вопрос: что происходит с людьми, чьи роли заменяют более эффективные и экономически выгодные машины? Живут ли они на каком-то минимальном уровне, обеспечиваемом государством, — едва сводя концы с концами, или же имеют возможности для роста? Азимов увидел потенциальную опасность общества, ограниченного таким образом.
В своих книгах он указывает другой путь – исследовать, опираясь на мощь разумных машин, космическое пространство, использовать с их помощью ресурсы за пределами Земли и колонизировать другие планеты.
«Вы не помните, каким был мир без роботов. Было время, когда перед лицом Вселенной человек был одинок и не имел друзей. Теперь у него есть помощники, существа более сильные, более надежные, более эффективные, чем он, и абсолютно ему преданные. Человечество больше не одиноко».
- Я, робот
Согласитесь, это несколько неожиданный, и довольно оптимистичный взгляд на широкое внедрение “умных машин” в жизнь людей. Существует мнение, что мы мечтаем найти инопланетян для того, чтобы избавиться от чувства “цивилизационного одиночества”. Но, похоже, все к тому идет, что мы сами создадим “братьев по разуму” задолго до того, как повстречаем их в космическом пространстве. Вопрос только в том, готовы ли мы будем признать в Универсальном Супер ИИ, буде он появится и осознает себя, партнера, а не просто очередной инструмент?
«Мы можем сказать, что функционирующий робот – живой. Далеко не все согласятся с таким расширением этого понятия, но у нас есть право выбирать определения, нам полезные. Функционирующего робота удобно воспринимать как живого, и попытка изобрести новый термин, лишь бы избежать употребления привычного, привела бы только к ненужным помехам».
- Роботы зари
«Возможно, разделение на людей и роботов не столь существенно. Важнее, обладает объект разумом или нет».
- Стальные пещеры
Вполне естественно, что Айзек Азимов неоднократно задавался вопросом о том, могут ли люди и ИИ стать равноправными партнерами? Сам он, судя по всему, склонялся к мысли о том, что это и возможно и полезно для человечества. Главный вопрос, наступит ли когда-нибудь день, когда это действительно произойдет? В качестве нашего варианта ответа на этот вопрос мы, для финала статьи, приберегли эти две цитаты. Думаем, это произойдет тогда, когда мы решим, что разум, как таковой, важнее того, из чего состоит его “упаковка” и сможем назвать искусственный интеллект – живым.
