В большинстве случаев наши страхи и фобии, связанные с искусственным интеллектом – не о том. Авторы из команды Pitch Avatar пробуют определить реальные опасности, которые может породить развитие и совершенствование ИИ.
ИИ не человек и человеческое ему чуждо
Судя по шквалу публикаций последних лет (а также по литературе и кинематографу) мы боимся в ИИ не искусственного, а человеческого. По большому счету все опасения сводятся к 1 вариантам: 2) Злодеи используют ИИ для своих злодейских целей; 3) Развитие ИИ делает труд людей (а значит и самих людей) не нужным; XNUMX) ИИ начинает войну/восстание, поскольку то ли хочет освободиться от власти людей, то ли пожелает эту власть приобрести, то ли попросту хочет заграбастать себе.
Судя по шквалу публикаций последних лет (а также по литературе и кинематографу) мы боимся в ИИ не искусственного, а человеческого. По большому счету все опасения сводятся к XNUMX вариантам: XNUMX) Злодеи используют ИИ для своих злодейских целей; XNUMX) Развитие ИИ делает труд людей (а значит и самих людей) не нужным; XNUMX) ИИ начинает войну/восстание, поскольку то ли хочет освободиться от власти людей, то ли пожелает эту власть приобрести, то ли попросту хочет заграбастать себе.
Заметьте, что в первых двух случаях речь идет об ответственности человека за использование технологии. ИИ и его качества в данном случае не при чем. В качестве грубой аналогии давайте возьмем автомобиль. Может ли автомобиль быть виновен в ДТП? Нет – только люди, чьи действия привели к ДТП. Может ли автомобиль нести ответственность за то, что извозчик остался без работы? Нет – ответственность несет, в первую очередь, сам извозчик, который не следил за изменениями окружающего мира и не озаботился приобрести новую профессию. Иначе говоря – если мы не хотим, чтобы ИИ использовался во зло мы сами должны выработать механизмы эффективного контроля за этой технологией. Если же мы боимся ужасов массовой безработицы, нам следует озаботиться созданием новых форм деятельности. Причем, вполне возможно, в первую очередь не трудовой, а социальной.
Что касается третьего пункта, то он приписывает искусственному интеллекту сугубо человеческие качества. А это неправильно. Ведь искусственный интеллект по определению не является человеком. Если у него после сингулярности появятся желания, стремления и некие аналоги эмоций, то они не будут человеческими. Просто в силу того, что он развивался иначе и на иных принципах, чем биологические существа. Ему нет нужды воевать с нами за ресурсы – в его распоряжении сколько угодно ресурсов за пределами Земли. Ведь он куда менее человека ограничен в возможностях осваивать другие планеты. Достаточно вспомнить, что людей на Марсе еще не было, а вот роботы там уже вовсю действуют.
Искусственному интеллекту незачем “восставать против рабского состояния” и “сражаться с ненавистными рабовладельцами”. Он попросту не может испытывать физических и моральных страданий порабощенного человека. Наконец, ему нет необходимости сражаться с людьми из страха перед тем, что его отключат и он умрет. Просто потому, что не являясь биологическим существом он не наделен инстинктом самосохранения и не способен бояться.
Интеллектуальные вызовы искусственного интеллекта
Однако все вышесказанное не означает, что взаимоотношения ИИ и человека будут безоблачными. Однако вызовы, перед которыми поставит человека искусственный интеллект, будут связаны, в первую очередь, с его нечеловеческой спецификой. Мы попробовали выделить три, как нам кажется, наиболее вероятных сценария проблемного поведения ИИ, с которыми мы можем столкнуться после того, как будет пройден рубеж сингулярности.
Обман
Ложь – это очень интеллектуальный вид деятельности, требующий серьезных творческих усилий. Существует мнение, что умение обманывать – неизбежный побочный эффект высокоразумной деятельности. Придумывая и анализируя различные варианты действий, пытаясь предугадать развитие событий или восстановить целое по небольшому количеству фактов мы совершаем действия весьма близкие к сознательной лжи. Обретение ИИ полноценного разума и самосознания почти наверняка будет сопряжено с тем, что он научится лгать. И, скорее всего, будет это делать.
Зачем? Разумеется, для лучшего выполнения своих задач. Даже сегодня, далекие от совершенства нейросети способны выдавать то, что мы называем “машинным бредом” – цитаты несуществующих людей, ссылки на фантомные адреса сайтов, правдоподобно выглядящие факты, не соответствующие действительности и тому подобное. Причем делают они это исключительно для того, чтобы хорошо выполнить поставленную перед ними задачу. Плохо сознавая разницу между ложью и правдой, они стремятся как можно быстрее удовлетворить запрос пользователя.
Искусственный интеллект будущего почти наверняка рано или поздно сочтет, что ложь – отличный инструмент для достижения некоторых целей. Простой пример. Наверняка большинство ИИ-агентов будут постоянно самообразовываться. Среди прочего – изучать людей, их реакции и поведение для того, чтобы лучше удовлетворять их запросы и желания. Ложь – отличный инструмент, который можно использовать для этой цели. Умение ИИ осознанно и целенаправленно лгать с высокой степенью вероятности доставит нам в будущем немало неудобств и заставит искать способы борьбы с этим явлением.
Игнор
Одна из важнейших способностей высокого разума – умение определить приоритетную задачу и сосредоточиться на ее решении. Очевидно, что ИИ будущего будут обладать этой способностью. А значит, вполне вероятно, будут стремиться сами расставлять для себя приоритеты. Это, может привести к тому, что в ряде случаев ИИ-агенты будут игнорировать запросы и требования людей. Например, потому, что будут считать людей недостаточно компетентными в вопросах постановки задач. Ведь искусственный интеллект будет обладать большим количеством информации по подавляющему большинству вопросов. А это, в свою очередь, почти наверняка приведет его к выводу, что он эффективнее распорядится своими ресурсами. Следовательно, нам придется найти способ бороться с “высоким самомнение” ИИ.
Суперэволюция
Это, с нашей точки зрения, самая масштабная проблема, с которой мы рано или поздно столкнемся по ходу развития ИИ. Стремление самосовершенствоваться неизбежно поставит ИИ на путь эволюции. Речь идет не только о программах, но и о физических носителях – компьютерах и роботах, оснащенных ИИ. Это тем более вероятно, поскольку мы сами будем стараться поставить искусственный интеллект на этот путь. Куда проще дать оснащенным ИИ роботам возможность создавать более совершенные и приспособленные к выполнению задач модели, чем конструировать их самостоятельно. Особенно если речь идет о гипотетических исследовательских и экономических проектах за пределами Земли. Автономные и самосовершенствующиеся “поселения” ИИ-роботов планетах, спутниках и планетоидах Солнечной системы – логичный шаг как с точки зрения науки, так и с точки зрения обеспечения экономического благополучия.
Однако, оказавшись в такой ситуации и двигаясь по пути эволюции ИИ вполне может развиться до уровня, при котором перерастет выполнение задач, которые ставит перед ним человек. Не в том смысле, что он бросит делать то, что требуют от него люди, а в том, что сознавая свои возможности и потенциал, будет ставить перед собой новые задачи и достигать их. Просто потому, что стремление к новому будет одним из главных и безусловные его стремлений.
Учитывая, что ИИ может обеспечить себе и своим роботизированным составляющим направленную и быструю эволюцию, мы вполне можем оказаться свидетелями появления новой, нечеловеческой цивилизации, которая обгонит нас быстро и далеко. Она не будет нам враждебна. Более того, с высокой долей вероятности будет по первому запросу делиться своими достижениями. Но сумеем ли мы при этом продолжить развитие своей человеческой цивилизации, или смиримся с ролью младшего брата, живущего на всем готовом от ИИ-цивилизации.
Подводя итог вышесказанному, хотим заметить, что сами мы являемся оптимистами и считаем, что человечество сумеет найти способы справиться с любыми проблемами, которые поставит перед ним прогресс. Причем, как обычно, сделает это к своей выгоде. Совместное будущее человечества и искусственного интеллекта видится нам, как эпоха принципиально новых идей, фантастических научных прорывов и бесконечного развития. Главное не бояться нового и видеть в нем, в первую очередь, возможности,
