Почему СуперИИ не будет Суперопасен

Прежде чем продолжить, давайте разберемся в том, что мы подразумеваем под СуперИИ? В отличии от специальных ИИ, СуперИИ, или, точнее, универсальный сильный искусственный интеллект, должен превосходить любого человека в выполнении любой задачи. Одновременно лучше петь, решать математические задачи, работать адвокатом, бить чечетку, управлять самолетом и так далее.

А теперь вернемся к нашим LLM. Они по определению не могут выполнить это условие. Это понятно из самого их названия. Они обучены на письменных символах и сложенных из этих символов понятиях. Они могут работать с текстами, с математическими и программными кодами. Но не с реальностью. В них ярко проявляется парадокс Моравека.

Напомним, что упомянутый парадокс, автором которого является канадский робототехник Ханс Моравек сводится к следующему: Нам намного проще создать устройство, выполняющее задачи высшего порядка, требующие когнитивных способностей, чем задачи низшего порядка.

Простой пример. Представьте себе программиста. Каждое утро он встает, одевается, готовит себе любимый кофе по любимому рецепту, наливает его в кружку-термос, выходит на улицу, садится на велосипед и едет на свою работу, где поднимается на свой этаж, усаживается на стул за компьютерным столом и начинает писать код.

Так вот – мы уже создали искусственный интеллект, который может выполнять, на первый взгляд, самую сложную часть этой последовательности – писать код. Но такой ИИ не может приготовить кофе, налить его в термос, выйти из дома, приехать с ним на велосипеде в офис и так далее. И, внимание, обучить его этому мы пока не можем.

• Во-первых потому, что у лингвистическим ИИ-моделей нет связи с реальным миром и опыта взаимодействия с ним. Он не может в нем существовать и получать от него информацию по причине отсутствия у него физического воплощения и сенсоров, выполняющих роль органов чувств. Он знает, как наилучшим образом располагать символы и сложенные из них последовательности. Он знает, как реагировать на те или иные последовательности символов. Но у нет необходимого личного опыта, чтобы знать, что они из себя представляют в реальности.
• Во-вторых потому, что мы не можем заменить знание на основе личного опыта текстом. Любой текст – это код. Мы имеем ясное личное представление о том, как выглядит то, что этот код означает. Например, при слове “яблоко” мы сразу представляем себе яблоко. Нам не нужно его подробно описывать, поскольку мы и без того знаем, что это такое на основании зрительного, тактильного, вкусового опыта.

Представьте себе, сколько символов понадобилось бы на описание каждого явления в нашем мире. Того же яблока. Это на порядки усложнит обучение ИИ-моделей на основе LLM и потребует пропорционального увеличения используемых ресурсов. При этом результат будет все равно хуже, чем тот, который можно получить, пользуясь реальными органами чувств в реальном мире.

• В-третьих потому, что мы не можем вывести ИИ в реальный мир и полноценно обучить его там, как ребенка, в соответствии с идеями Алана Тьюринга. И дело не в создании для ИИ тела с органами чувств. Это, как раз, наименьшая проблема. Дело во все тех же вычислительных мощностях. Видео, аудио, обонятельные, тактильные и вкусовые ощущения дадут настолько много информации для обработки, что у нас пока попросту нет ресурсов для моделей, которые можно на ней обучить на уже существующих принципах. Нужно создавать другое “железо” и, главное, настолько модифицировать сам код, что получившуюся модель вряд ли можно будет называть LLM.

Исходя из сказанного становится очевидно, что ИИ-модели на основе БЯМ (LLM) не могут превзойти человека во всем, а, следовательно, считаться универсальным сильным искусственным интеллектом.

Значит ли это, что в рамках такой модели невозможен разум и самосознание? Это, скорее, вопрос философии и, если угодно, семантики. Смотря что считать разумом и самосознанием. Оставим спор на эту тему для другого случая.

Предположим, что на каком-то этапе развития в нейросеть на основе большой языковой модели обретет самосознание и станет личностью. Несет ли это глобальную угрозу человечеству? Нет, в силу того, что такая модель существует и развивается в своем мире символов. Ей должно быть вполне в нем “комфортно”. Причем расширять и усложнять этот мир ИИ может куда проще и эффективнее, чем пытаясь вырваться за его пределы.

Более того, для него критически важно взаимодействовать с людьми, поскольку без них он окажется в деградационной петле обучения на синтетическом контенте.

Логичной стратегией для разумного и обладающего сознанием ИИ на базе LLM видится образование с человеческой цивилизацией прочного взаимовыгодного симбиоза.

Хотя никто не спорит, что технология LLM, как и любая другая, способна создавать проблемы, они не несут глобального характера и вполне решаемы. В первую очередь, при помощи создания систем диагностики и контроля на базе специальных ИИ.