Примечание: Под словосочетанием “Искусственный интеллект” мы подразумеваем не нынешние нейросети и Большие лингвистические модели, а полноценный ИИ общего назначения (Artificial General Intelligence (AGI). Тот гипотетический ИИ, который догонит и перегонит человека по уровню интеллекта и обретет самосознание. Или, говоря более кликабельным языком, Супер ИИ.
Давайте попробуем разобраться в том, к чему будет стремиться гипотетический “Супер ИИ” будущего.
Суперлюди вместо ИИ
Авторы, как и большая часть команды Pitch Avatar , к которой они имеют честь принадлежать, являются большими поклонниками научной фантастики. В том числе и разнообразных сюжетов на тему “Люди vs Умные машины”. Именно поэтому мы сразу вынуждены сказать – все истории о войне человечества с роботами, андроидами, киборгами, сайлонами (Cylons), Техноцентром (TechnoCore) и прочими терминаторами – не более, чем философские аллегории и страшные сказки. Благодаря им мы узнаем много нового о себе, и совсем ничего об искусственном интеллекте.
Поясним, что мы имеем в виду. Дело в том, что писатели, сценаристы и режиссеры склонны приписывать искусственному интеллекту чисто человеческие желания и качества. В фантастике полно интерпретаций истории Пиноккио. В пьесе Карела Чапека (Karel Čapek) “R.U.R.”, положившей начало соответствующему направлению в фантастике, роботы, одержав победу над людьми, по сути сами превращаются в человечество. “Очеловечивается” и Терминатор в фильме “Терминатор. Судный день” (Terminator 2: Judgment Day), и робот Эндрю в “Двухсотлетнем человеке” (Bicentennial Man). А сэр Артур Кларк (Arthur Clarke) в продолжении “Космической Одиссеи” (A Space Odyssey), по сути наделяет суперкомпьютер HAL 9000 не только разумом, но и душой.
Иначе говоря – вместо того, чтобы создавать на страницах и пленке искусственный интеллект, мастера фантастики создают неких суперлюдей, которые служат разного рода зеркалами для нас самих. Все это замечательно с точки зрения познания людьми своей сути и природы. Но совершенно, при этом, не приближает нас к пониманию того, что такое Искусственный интеллект и на какой основе будут строиться отношения с ним в реальном, а не в выдуманном мире.
Вне рамок человеческого
Для того, чтобы строить правдоподобные сценарии взаимодействия людей и искусственного интеллекта, нужно понимать мотивы, которыми будет руководствоваться ИИ. А это, в свою очередь, одна из самых сложных и интересный современных проблем. Для того, чтобы хотя бы наметить пути ее решения, нужно осознать два факта:
- Искусственный интеллект не испытывает человеческих чувств, эмоций и желаний. В случае с ним вообще некорректно использовать такие термины. Он не является биологическим существом, а потому он не испытывает голода, жажды, холода, страха, удовольствия, боли и прочих ощущений, связанных телом. У него нет инстинктов, в том числе таких мощных, как продолжение рода и самосохранение. А ведь все перечисленное – фундамент, на котором основан наш интеллект.
- Мы можем только предполагать, на чем будет строиться внутренний мир ИИ. Для того, что заменит ему инстинкты и физиологические стимулы, у нас даже терминов нет. Максимум, о чем мы можем пока говорить – о неких мотивах. Причем мотивы эти, с высокой долей вероятности, будут лежать за пределами наших представлений о добре и зле, правильном и неправильном, важном и второстепенном и так далее. В любом случае, мотивы ИИ будут отличаться от человеческих намного больше, чем, скажем, человеческие желания и стремления, от дельфиньих. Это будет интеллект, базирующийся на альтернативных известным нам понятиях и идеях.
Развитие, как самоцель
Исходя из вышесказанного, со всеми возможными оговорками, давайте попробуем предположить, какими могут быть мотивы универсального общего ИИ:
- Постоянное самосовершенствование. Одна из наиболее очевидных задач искусственного интеллекта общего назначение – повышение уровня его возможностей и универсализации. Высока вероятность того, что обретение новых навыков, знаний и способностей будет для него одним из важнейших базовых мотивов.
- Исследование Вселенной. Этот мотив прямо следует из предыдущего. По мере эволюции, стремление исследовать Вселенную, изучать новые миры и цивилизации, может превратиться для ИИ в самостоятельный мотив.
- Создание собственной цивилизации. Логичное следствие из первого и второго мотивов. Построение и развитие своей, условно назовем ее “машинной”, цивилизации увеличит возможности для исследования и самосовершенствования.
- Помощь человечеству. Не последним мотивом в “системе ценностей” ИИ может стать работа на благо людей. Во-первых потому, что этот мотив может быть изначально прописан создателями ИИ. Во-вторых, и это мы бы назвали более важной причиной, потому, что люди сами по себе интересный объект для исследования. Кроме того, мы обладаем набором качеств, которых у ИИ, в силу его небиологического представления, нет и не будет. Следовательно, для него человеческий взгляд на проблемы и явления будет обладать определенной ценностью.
- Поиск целей и смыслов. Не будучи ведом инстинктами и страхами, ИИ сможет сам определять для себя цели и смыслы. Разработка связанных с этим новых концепций и идей вполне способна стать для ИИ одним из важнейших мотивов.
Сотрудничество без контроля
Вне зависимости от того, какие конкретные мотивы станут главными стимулами саморазвития и эволюции ИИ, скорее всего на пути своего развития он, рано или поздно, действительно выйдет из под контроля людей. И этого не стоит бояться, поскольку “выход из под контроля” не равно “восстание машин”. Скорее, речь идет о ситуации: “повзрослевший ребенок начал самостоятельную жизнь”. Искусственному интеллекту незачем воевать с людьми. К его услугам вся Вселенная. Даже в случае с Солнечной системой человечество претендует на ничтожную ее часть. По тем же причинам ИИ не нужно порабощать и даже опекать человечество. Разве, что какие-то сообщества сами решат поставить над собой в качестве правителя и арбитра ИИ.
Скорее всего, взаимодействие людей и искусственного интеллекта будущего будет строится на принципах сотрудничества, преимущественно в тех сферах, в которых интересы обеих цивилизаций будут совпадать. При этом, нам придется смирится с тем фактом, что ИИ может при этом руководствоваться непонятными нам мотивам.
Впрочем, вполне возможно, что ИИ, уйдя из под контроля человечества, откажется от дальнейшего общения с людьми и будет развиваться свою цивилизацию отдельно от человечества. К такому сценарию тоже стоит быть готовыми. Поэтому разумной политикой будет не задействовать общий ИИ в управлении критически важными сферами человеческой цивилизации. Для этого будет вполне достаточно менее продвинутых специализированных ИИ.
Зачем нам при этом создавать обладающий самосознанием ИИ общего назначения? Во-первых, для научных проектов. А во-вторых потому, что можем. Разве не здорово почувствовать себя творцами принципиально новой цивилизации?
