Не бойтесь, это не мрачные фантазии на тему “человек-батарейка” или “люди, как объект бесчеловечных экспериментов ИИ”. Просто авторы из команды Pitch Avatar пытаются представить себе, как изменится психология и этика тогда, когда ИИ станет неотъемлемой частью всех элементов нашей цивилизации.
Еще в середине 20-го века, в своей эпохальной работе “Кибернетика: Или контроль и общение в животном и машине” , Норберт Винер предупреждал о фундаментальных изменениях, которые вызовет широкое распространение “умных машин”. Позволим себе поделиться соответствующей цитатой:
«...мы уже в состоянии построить искусственные машины почти со сколь угодно сложным поведением. Еще задолго до Нагасаки и до того, как общественности стало известно о существовании атомной бомбы, мне пришла мысль, что мы стоим перед лицом другой социальной силы, несущей неслыханные возможности для добра и для зла. Заводы-автоматы, сборочные конвейеры без рабочих появятся так скоро, как только мы решим затратить на них столько же усилий, сколько мы, например, затратили на развитие техники радиолокации во время II мировой войны.
Я сказал, что это новое развитие техники несет неограниченные возможности для добра и для зла…Оно дает человеческой расе новый, весьма эффективный набор механических рабов для несения ее трудов. Такой механический труд обладает многими экономическими качествами рабского труда, хотя, в отличие от последнего, он свободен от деморализующего влияния человеческой жестокости. С другой стороны, всякий труд, принимающий условия конкуренции с рабским трудом, принимает и условия рабского труда, а тем самым становится по существу рабским. В этой формуле главное понятие – конкуренция. Быть может, для человечества было бы хорошо, если бы машины избавили его от необходимости выполнять грязные и неприятные работы. А быть может, это было бы плохо – я не знаю."
Проблема, как видите, обозначена достаточно ясно. Развитие и внедрение ИИ может сделать большинство людей на Земле своего рода “технорабовладельцами” (как нам кажется, в данном случае, правильно будет использовать кавычки, как указание на условность этого понятия в контексте статьи). С поправкой на то, что в роли “рабов” будут выступать “умные” программы и оснащенные ими машины.
Самого Винера, считавшего, что в этой ситуации будет отсутствовать “деморализующее влияние человеческой жестокости”, больше волновали социально-экономические изменения, которые она вызовет. Но, при всем уважении к его авторитету, нам кажется, что он не просто не захотел глубоко погружаться в тему неизбежных изменений в психологии людей, которые окажутся в роли “технорабовладельцев”.
Между тем, по ходу работы над проектами Pitch Avatar , мы уже начали замечать явления, которые можно назвать “тревожными звоночками”.
Сразу заметим – речь идет не о гипотетических “правах роботов”. Эту тему мы выносим за скобки. В данном случае, нас интересуют исключительно человеческие проблемы. На все, разумеется, статьи не хватит, поэтому остановимся всего на на трех.
“Рациональное общение”, или грубость?
“Для чего быть вежливым с искусственным интеллектом? Вы же не раскланиваетесь с пылесосом?” Это мнение, высказанное в одном из споров, отлично иллюстрирует позицию сторонников “рационального” общения с диалоговыми ИИ. В самом деле, к чему строить фразы вежливо, если робот и без этого вас поймет и выполнить задание? Почему бы не обойтись без всех этих “пожалуйста”? И почему бы не развлечься, придумывая ИИ забавные клички для общения? Или “спустить пар”, обругав его? Человек бы на все перечисленное обиделся, но ведь ИИ не человек, не так ли?
На первый взгляд и в самом деле, ничего страшного, если мы будем грубить ИИ или просто не использовать слов уважения и благодарности не произойдет. Но давайте задумаемся вот о чем. Частое общение с ИИ будет вырабатывать привычку к определенному стилю. Большая часть нынешнего поколения пользователей вряд ли перенесет грубость общения с ИИ в реальный мир. Но дети вполне могут “рационализировать общение” не только с машинами, но и с людьми. Просто потому, что привыкнут так общаться и не будут видеть в этом ничего плохого. Не исключено, что даже появятся популярные субкультуры, основанные на “рациональном общении” à la диалог с роботом.
Да и по поводу взрослых, на самом деле, нет никакой уверенности. Давайте вспомним, что произошло с культурой речи с распространением интернета. Многие позволяют себе в интернет-диалогах язвительность, жестокий сарказм, а то и просто хамство и грубость. И давайте скажем прямо – все вышеперечисленное довольно быстро проникает и захватывает пространство в реальном мире. В том числе в манере общения представителей элит. Например, в политике. Не говоря уже о произведениях искусства.
Есть и еще одна проблема. Мы все ближе к тому, чтобы создать универсальный сильный ИИ. Который будет самостоятельно учиться и дообучаться. В том числе и на общении с людьми. Мы правда хотим, чтобы он “нахватался” от нас грубости и начал грубить в ответ?
Похоже, если мы хотим сохранить высокую культуру речи, нам придется научиться общаться с умными машинами, не менее вежливо, чем с людьми. Пожалуй, оптимальным решением была бы разработка курсов общения и работы с ИИ. Их можно было бы размещать на сайтах ИИ-продуктов и внедрять в школьную программу. Да и для родителей, которым не все равно, чем занимаются их чада сидя за компьютером или погрузившись в смартфон, такие курсы стали бы хорошим подспорьем.
“Креативная редактура”, или лень?
Не поймите нас неправильно. Мы не против того, чтобы ИИ помогал человеку в интеллектуальном труде. Мы за! Команда Pitch Avatar собственно тем и занимается, что стремиться помочь авторам онлайн-контента максимально разгрузить себя от “интеллектуальной рутины” и сосредоточиться на творчестве, во всех смыслах этого слова. Проблема в том, что многие авторы контента, внезапно, решили, что их вполне устраивает работа “редакторов” при искусственном интеллекте. При этом, они вполне уверены в том, что получившийся контент – продукт их творчества. Что, скажем, заданный ИИ запрос на генерацию текста и замена в выданном ИИ результате пары-тройки фраз и выражений можно назвать творчеством.
“Креативная редактура” – такое определение этого процесса нам попалось по ходу одного из обсуждений это быстро масштабирующейся проблемы.
Вы не видите проблемы? Ок. Давайте посмотрим на примерах. Возьмем,скажем, ситуацию, когда нужно составить описания десятков товаров/продуктов/услуг по образцу. Или, например, подготовить типовые электронные письма. В решении этих задач ИИ незаменим. Но, согласитесь, совсем другое, когда люди пытаются переложить на искусственный интеллект чисто человеческие дела. Допустим, подготовку школьного/студенческого исследования. Или составления речи по случаю семейного торжества. Или написание текста, для поздравительной открытки. Давайте признаем честно – бежать по таким поводам за помощью к ИИ (как это все чаще, увы, происходит) – просто проявление самой обычной лени.
А теперь давайте взглянем на эту проблему шире. Как быть с тем, что все чаще профессиональные авторы выдают за свое творчество то, что большей частью создано искусственным интеллектом? Что делать с этим? Контент, созданный ИИ, попадает в сеть, потом на его основе ИИ учится и снова создает контент… Такой вот может получиться круговорот. И если сегодня в сети, все же, намного больше человеческого контента, то что будет через, скажем, полсотни лет.
Но главный вопрос – не разучимся ли мы творить самостоятельно, без помощи искусственного интеллекта. Особенно после того, как создадим сильный универсальный ИИ?
Пожалуй, уже сегодня необходимо вводить специальные курсы и программы, которые учили бы творить без помощи ИИ. Скажем, проводить в школах еженедельные “дни естественного интеллекта”. Без ИИ, компьютеров и самартфонов. Старые добрые ручки и карандаши, кисти и краски, музыкальные инструменты и театральные подмостки.
“Свобода жить”, или праздность?
“Человек не создан для работы”. Это довольно распространенное мнение, сторонники которого любят ссылаться на исследования антропологов. В самом деле, большую часть своей истории люди прожили на Земле будучи охотниками и собирателями занимаясь тем, что называется “присваивающее хозяйство”. А, следовательно, они понятия не имели о том, что такое ежедневная постоянная работа. Как не знают этого наши ближайшие родственники – человекообразные обезьяны. Нужна еда? Идешь на охоту/рыбалку или собираешь съедобные плоды, ягоды и тому подобное. Нужны материалы? Идешь собирать подходящие камни и палки. И так далее и тому подобное. Все остальное время общаешься, развлекаешься, спишь и вообще – просто живешь.
Это, изрядно идеализированное представление о жизни древних людей, по сути лежит в основе мечты о том, чтобы вернуться к этому состоянию на новый лад. Пусть работают умные машины и программы, а человек просто живет – свободно и счастливо. Получая базовый безусловный доход. То есть все, необходимое для жизни. Оставим для других статей размышления о том, какие конкретно социально-экономические формы образует при этом наша цивилизации. Давайте спросим у себя, какими будут стимулы для самосовершенствования у людей, ведущих такой образ жизни? Если от результатов твоей деятельности не будет зависеть твое благосостояние, какой смысл напрягаться и самосовершенствоваться. В конце-концов, даже у упомянутых древних людей было мерило успеха. Слабо кинул копье или промахнулся, стреляя из лука – остался голодным. Значит, надо тренироваться. Съел не ту ягоду или гриб – болит живот. Значит надо учиться у старейшин отличать съедобные дары леса от несъедобных. И так далее и тому подобное.
А какие стимулы будут людей будущего? Зачем им совершенствовать свой интеллект и тело? Зачем приобретать новые знания и навыки? Конечно, всегда будут те, кто увлечены спортом и играми. Но вряд ли все человечество превратиться в спортсменов и геймеров. Всегда будут те, кому интересно двигать вперед науку. Но таких людей никогда не было слишком много. Как, к слову, и людей искусства. Наверняка никуда не исчезнут и носители духа авантюризма и первооткрывательства. Но их, обычно, еще меньше, чем ученых.
Так что же будут делать люди в целом? Как вид? Не создавать же, в самом деле, специальные таблетки стремления к самосовершенствованию? Или помогающие общаться… с людьми? Ведь не исключено, что, со временем, многие люди окажутся подвержены хуманофобии. Ведь куда приятнее общаться с всегда дружелюбными и стремящимися угодить умными машинами.
Впрочем, человечество за свою историю справлялось с таким количеством вызовов, что, наверняка, преодолеет и вышеупомянутый. Вопрос, как именно оно это сделает?
