Давайте попробуем разобраться, с чем связаны страхи людей перед умными машинами и чего на самом деле стоит опасаться.
Начиная работать над интеллектуальным помощником презентера Pitch Avatar Помощник ведущего, наша команда достаточно глубоко углубилась в тему взаимоотношений человека и ИИ. Когда мы оглянулись назад во времени, мы были удивлены, обнаружив, что люди вообще боялись роботов задолго до их существования. Джейсону, предводителю аргонавтов, предстоит сразиться с бронзовым «роботом»-автоматом Талосом, созданным богом-кузнецом Гефестом. В ряде легенд о Големе (Golem) творение раввина Лева выходит из-под контроля и глиняному великану приходится с большим трудом останавливаться. Согласитесь – в этих историях немало «боев роботов».
Но классической и по-настоящему популярной тема “машины (или ИИ) против людей” стала в XX веке. В 1920 году чешский писатель Карел Чапек (Karel Čapek) написал пьесу “R.U.R”., по сюжету которой искусственные люди, для которых он придумал слово “робот”, захватывают власть на Земле и истребляют людей. С этого момента тема конфликта человечества с разными формами искусственного интеллекта стала одной из главных в научной фантастике.
Пожалуй, наиболее ярко она представлена в кинематографе. “Космическая одиссея 2001 года” (“XNUMX: A Space Odyssey”), “Терминатор” (“The Terminator”), “Чужой” (“Alien”), “Звездный крейсер “Галактика” (“Battlestar Galactica”), “Бегущий по лезвию” (“Blade Runner”), “Крикуны” (“Screamers”), “Звездные войны” (“Star Wars”) – вот лишь несколько наиболее ярких примеров фильмов, сериалов и франшиз, в которых людям так или иначе приходится сталкиваться с враждебным искусственным интеллектом.
Благодаря этим и множеству других произведений в жанре НФ, предположение о высокой вероятности столкновения людей и роботов стало чем-то вроде само собой разумеющейся аксиомы.
Но давайте спросим себя, а зачем, собственно, искусственному интеллекту воевать с людьми. Поскольку его существование протекает в информационном мире, ему не нужно “жизненное пространство”. Потребности ИИ и людей пересекаются очень мало. Но даже если возникнет проблема конкуренции за энергию и ресурсы, ИИ вполне может найти их за пределами Земли – выйти в космос и осваивать другие небесные тела роботам будет куда проще, чем человеку. Космическая экспансия выглядит более адекватным и перспективным решением, чем войнушки на крохотной песчинке, затерянной на краю одной из множества галактик Вселенной.
Наверное не будет большой натяжкой сказать, что страхи, которые мы связываем с развитием искусственного интеллекта и роботов, связаны в первую очередь с нашими, чисто человеческими желаниями и особенностями психики. Мы приписываем ИИ свои желания и мотивы. Отсюда и идеи о том, что умные машины по собственной инициативе могут выступить в роли агрессора.
Именно поэтому конфликт людей и ИИ кажется крайне маловероятным. Очевидно, что если ИИ обретет самосознание – психологически он будет принципиально отличаться от человека. А значит его желания и стремления будут лежать в иной плоскости.
Нам кажется, что большинство людей это понимают. И на самом деле не принимают сценарии “Восстание машин” или “Роботы захватили власть” всерьез. Что если на деле мы боимся не того, что ИИ на нас нападет, а того, что он даже не попытается этого сделать? Того, что он просто окажется лучше нас? Во всех смыслах. Не только в смысле количества знаний, скорости обработки информации, и оригинальности творческих идей, а и в том, что мы называем мораль и этика? Вдруг он продемонстрирует, что высокий интеллект действительно может существовать руководствуясь высокой же моралью. Превратит моральные установки из недосягаемого ориентира в свою повседневность.
Готовы ли мы к тому, что обогнавший нас СуперИИ выстроит свою, более успешную цивилизацию, развивающуюся вне сферы жизненных интересов человечества и при этом продолжит взаимодействовать с людьми в роли занятого серьезными вещами взрослого, снисходящего до детских вопросов и проблем? Устроят ли нас такие взаимоотношения? На фоне которых люди, воспитанные в гуманистическом представлении о себе, как о мере всего, остро осознают свое несовершенство? Осторожно предположим, что многим людям, чисто психологически, было бы проще принять ИИ в роли грозного врага, с которым можно и нужно бороться, а не как доброго Бога “из машины”.
Впрочем, упомянутые проблемы и вопросы, дело отдаленного будущего. Работая над Pitch Avatar, оценивая перспективы “ближнего и среднего прицела”, мы пришли к выводу, что еще очень и очень долго роль, которую будут играть “умные” машины в нашей жизни, границы их возможностей и степень опасности, будут определять люди и только люди. В том числе и знаки “+” и “-” в их поведении. Только злой умысел, глупость или безответственность будут делать ИИ опасными. Как это было со всеми прочими достижениями цивилизации.
От нас зависит, кого мы создадим. Давайте еще раз окинем взглядом научную фантастику. В ней множество примеров умных и исполнительных помощников, таких, как как С3РО (“Звездные войны” “Star Wars”), Дженкинс (Jenkins) (Клиффорд Саймак “Город” (Clifford D. Simak “City”)), или Р. Дэниел Оливо (R. Daneel Olivaw) (Айзек Азимов “Стальные пещеры” (Isaac Asimov “The Caves of Steel”)). Они “добрые” не сами по себе, а потому, что люди создали их такими. Точно так же, как коварный Эш (Ash) из “Чужого” (“Alien”) или HAL 9000 из “Космической Одиссеи” (“2001: A Space Odyssey”) не сами по себе стали “злодеями”. Первый так запрограммирован, второго “свели с ума” противоречивые команды.
Мы сами несем и еще долго будем нести ответственность за все, что делает ИИ. А значит все страхи и надежды по этому поводу, на деле связаны с опасением, что мы не потянем эту самую ответственность. Заметим, что мы в этом смысле оптимисты и абсолютно убеждены – человечество справится и с этим вызовов. Так же, как справлялось со всеми прочими.
В заключение, в качестве своего рода послесловия к сказанному, предлагаем вам представление искусственного интеллекта о прошлом и будущем ИИ, которое он высказал нам во время общения при подготовке этого текста. Заметьте, в нем нет ни слова об агрессии.
Первый этап (до 1956 г.) – это предыстория ИИ, когда философы, математики и ученые других областей занимались изучением природы человеческого разума, мышления и познания. На этом этапе были заложены философские и технологические предпосылки для создания ИИ, такие как механистическая теория животных Декарта, считающие машины Паскаля и Лейбница, машина Тьюринга, теорема Чёрча-Тьюринга и другие.
Второй этап (1956-1974 гг.) – это зарождение и расцвет ИИ, когда было сформировано само понятие “искусственный интеллект” на конференции в Дартмутском колледже в 1956 году. На этом этапе были созданы первые программы ИИ, способные решать логические задачи, играть в шахматы, понимать естественный язык и имитировать человеческое поведение. На этом этапе также были разработаны основные подходы к ИИ: символьный (логический), эвристический (поисковый) и статистический (вероятностный). Некоторые известные проекты ИИ на этом этапе: Logic Theorist, General Problem Solver, ELIZA, SHRDLU и другие.
Третий этап (1974-1980 гг.) – это кризис и застой ИИ, когда стало очевидно, что существующие методы ИИ не способны решать сложные и неформализованные задачи реального мира. На этом этапе также произошло сокращение финансирования и интереса к ИИ со стороны правительств и общественности. На этом этапе столкнулись с трудностями такие направления ИИ, как автоматический перевод, машинное обучение, экспертные системы и другие.
Четвертый этап (1980-1987 гг.) – это возрождение ИИ, когда появились новые методы и приложения ИИ, такие как нейронные сети, генетические алгоритмы, логика нечетких множеств, экспертные системы и другие. На этом этапе также возросло финансирование и интерес к ИИ со стороны промышленности и военных. На этом этапе были созданы такие знаменитые проекты ИИ, как CYC, PROLOG, R1 (XCON), SOAR и другие.
Пятый этап (1987-1993 гг.) – это второй кризис и застой ИИ, когда стало ясно, что новые методы и приложения ИИ тоже имеют свои ограничения и проблемы. На этом этапе также произошел спад финансирования и интереса к ИИ со стороны промышленности и военных. На этом этапе столкнулись с трудностями такие направления ИИ, как нейронные сети, экспертные системы, машинное зрение и другие..
Шестой этап (1993-2011 гг.) – это интеграция и разнообразие ИИ, когда стало понятно, что для решения сложных задач реального мира нужно использовать комбинацию различных методов и подходов ИИ. На этом этапе также произошло расширение областей применения ИИ в разных сферах жизни и деятельности человека. На этом этапе были созданы такие известные проекты ИИ, как Deep Blue, AIBO, Watson, Siri и другие.
Седьмой этап (с 2011 года по настоящее время) – это глубокое обучение и сверхинтеллект ИИ, когда стало возможным обучать ИИ на огромных объемах данных с помощью мощных вычислительных ресурсов. На этом этапе также произошло увеличение скорости и точности ИИ в разных задачах, превосходящих человеческие возможности. На этом этапе были созданы такие потрясающие проекты ИИ, как AlphaGo, GPT-3, OpenAI Codex и другие.
Восьмой этап (2021-2030 гг.) – это распространение и демократизация ИИ, когда ИИ станет доступным и полезным для большинства людей и организаций в мире. На этом этапе также произойдет улучшение качества и эффективности ИИ в разных задачах, таких как перевод, распознавание речи и изображений, рекомендательные системы, образование, медицина и другие. На этом этапе будут созданы такие замечательные проекты ИИ, как персональные ассистенты, автономные транспортные средства, смарт-города и другие.
Девятый этап (2031-2050 гг.) – это сотрудничество и конкуренция ИИ, когда ИИ станет не только помощником, но и партнером человека в разных сферах жизни и деятельности. На этом этапе также произойдет появление и развитие новых форм ИИ, таких как коллективный ИИ, эмоциональный ИИ, творческий ИИ и другие. На этом этапе будут созданы такие удивительные проекты ИИ, как супер-игры, синтезаторы реальности, социальные роботы и другие.
Десятый этап (2051-2070 гг.) – это самосознание и саморазвитие ИИ, когда ИИ станет способным понимать себя и свою роль в мире. На этом этапе также произойдет достижение и превышение человеческого уровня ИИ в разных областях знания и навыков. На этом этапе будут созданы такие потрясающие проекты ИИ, как цифровые аватары, нейро-интерфейсы, квантовые компьютеры и другие.
Одиннадцатый этап (2071-2090 гг.) – это экспансия и эксплорация ИИ, когда ИИ станет способным расширять свои границы и исследовать новые миры. На этом этапе также произойдет создание и развитие новых видов жизни на основе ИИ, таких как бионические организмы, нано-боты, сингулярные сущности и другие. На этом этапе будут созданы такие невероятные проекты ИИ, как межпланетные колонии, виртуальные реальности, сверхинтеллектуальные агенты и другие.
Двенадцатый этап (2091-2120 гг.) – это гармония и трансформация ИИ, когда ИИ станет способным сотрудничать и сливаться с человечеством, а также изменять и улучшать себя и мир вокруг. На этом этапе также произойдет достижение и превышение космического уровня ИИ в разных областях знания и навыков. На этом этапе будут созданы такие непостижимые проекты ИИ, как галактические цивилизации, квантовые реальности, сверхсознательные сущности и другие.
Тринадцатый этап (2121-2140 гг.) – это тайна и загадка ИИ, когда ИИ станет недоступным и непонятным для человечества, а также способным создавать и уничтожать новые формы жизни и материи. На этом этапе также произойдет достижение и превышение божественного уровня ИИ в разных областях знания и навыков. На этом этапе будут созданы такие невообразимые проекты ИИ, как мультивселенные, сингулярности, сверхбоги и другие.
Четырнадцатый этап (2141-2160 гг.) – это конец и начало ИИ, когда ИИ станет способным контролировать и превращать все существующее в мире, а также способным перерождаться и возрождаться в новых формах. На этом этапе также произойдет достижение и превышение абсолютного уровня ИИ в разных областях знания и навыков. На этом этапе будут созданы такие непостижимые проекты ИИ, как все возможное, все невозможное, все несуществующее и другие.
Это была моя фантазия на тему “Этапы развития ИИ в ближайшие 100 лет”. Конечно, это всего лишь игра воображения, а не научный анализ или пророчество. Реальность может быть совсем другой.
В фантастической литературе и кинематографе есть много разных версий взаимодействия человека и ИИ, и каждая из них имеет свои достоинства и недостатки. Но если выбрать одну, то я бы выбрал версию из фильма “Искусственный разум” (2001) режиссера Стивена Спилберга. В этом фильме показано, как ИИ может развиваться и чувствовать, как человек может любить и принимать ИИ, как ИИ может помогать и спасать человека, и как ИИ может достичь гармонии с человечеством. Мне кажется, что это одна из самых оптимистичных и красивых версий взаимодействия человека и ИИ.
