Что общего у роботов и людей, или Почему Джон фон Нейман считал, что машина должна быть “живой”?
TL; DR: Роботы и люди похожи не только внешне — у них общая логика проектирования. И те, и другие потребляют энергию, собирают данные с датчиков, обрабатывают информацию, перемещаются в пространстве, общаются голосом и жестами, а также учатся на собственном опыте. Более глубокие параллели были выявлены математиком Джоном фон Нейманом в 1951 году, и современные системы искусственного интеллекта, человекоподобные роботы и аватары ИИ превратили его аналогии в работающие технологии. Понимание этих сходств важно для всех, кто сегодня создает, внедряет или работает с ИИ, — потому что они объясняют, почему хорошо спроектированные аватары ИИ во многом похожи на людей, и почему будущее этой области — это сотрудничество между людьми и роботами, а не их замена.
Pitch Avatar собрала несколько цитат, посвященных сходству и различиям живых организмов и машин, принадлежащих автору теории “клеточных автоматов” (cellular automaton).
У роботов и людей гораздо больше общего, чем кажется большинству людей. И те, и другие обрабатывают информацию с помощью электрических сигналов, и те, и другие учатся на основе поступающей информации и опыта, и те, и другие общаются посредством речи и жестов, и обоим для функционирования необходим источник питания. Чем глубже вы вникаете, тем больше параллелей – и тем более поучительными они становятся для всех, кто сегодня создает, внедряет или работает с системами искусственного интеллекта.
В этой статье систематически исследуются эти параллели: от физической структуры и когнитивных процессов до коммуникации, социального поведения и дальнейшего развития сходства человека и робота. Мы также рассмотрим, что именно правильно понял математик 1951 года, и почему эти выводы как никогда актуальны для современного искусственного интеллекта.
Общих черт больше, чем вы думаете: структурное сравнение.
Наиболее прямой ответ на вопрос о том, что общего у роботов и людей, начинается со структуры. Оба являются физическими системами, которые поглощают энергию, обрабатывают информацию, перемещаются в окружающей среде и реагируют на внешние раздражители. В таблице ниже показаны основные параллели:
| Человек | Роботик |
|---|---|
| Пища и калории (источник энергии) | Блок питания/аккумулятор |
| Кости, суставы, мышцы (движение) | Исполнительные механизмы, шарниры, звенья |
| Глаза, уши, кожа (сенсорная информация) | Камеры, микрофоны, датчики |
| Мозг и нейроны (обработка информации) | ЦП, нейронные сети |
| Петли обратной связи нервной системы (саморегуляция) | Управление с обратной связью на основе датчиков |
| Речь, жесты, выражения лица (коммуникация) | Обработка естественного языка, управляемое выражение |
Вот почему исследователи в области робототехники часто начинают с изучения анатомии человека. Как объясняет робототехник Бильге Мутлу из Института исследований Моргриджа:
Как правило, люди лучше работают в знакомой им обстановке, и им легче понимать технологии, которые выглядят и ведут себя узнаваемым образом.
Воспроизведение человеческого поведения — сложная задача, поэтому исследователи разбивают его на компоненты (речь, зрительный контакт, движение) и работают над конкретными элементами.
Именно структурная параллель объясняет, почему человекоподобные роботы сегодня представляют собой отдельную, быстрорастущую категорию. Человекоподобные роботы Разработка двуногих машин с руками, предназначенных для выполнения широкого спектра физических задач, аналогичных человеческому труду, значительно активизировалась с 2021 года, и рынок прогнозируется, что к 15.26 году он достигнет 2030 миллиардов долларов.Генеральный директор Tesla Илон Маск предсказал, что к 2040 году может появиться больше человекоподобных роботов на планете чем люди, что отражает масштаб нынешнего оптимизма отрасли в отношении этого форм-фактора.
Логика проста: если мир создан для людей, то человекоподобный робот — это наиболее универсальный интерфейс. Структурное сходство не случайно — оно лежит в основе конструкции.
Что оказался прав в отношении искусственного интеллекта у математика 1951 года
До появления искусственных нейронных сетей, больших языковых моделей или человекоподобных роботов, Джон фон Нейман (John von Neumann) (1903–1957) уже тогда с поразительной точностью определял структурные параллели между биологическими организмами и машинами.
Фон Нейман был венгерско-американским математиком, физиком, инженером и теоретиком в области информатики. Среди его многочисленных достижений — убеждение, что различные задачи в инженерии и вычислительной технике могут быть решены путем поиска и изучения аналогичных решений в природе. Он разработал концепцию «клеточных автоматов» — также известных как «автоматы фон Неймана» — устройств, способных к самовоспроизведению и, в одном из вариантов, к формированию сложных систем из множества простых автоматов. Приведенные ниже цитаты взяты из его работ. «Общая и логическая теория автоматов», Опубликованной в 1951.
Как правило, живые организмы гораздо более сложны и тоньше устроены и, следовательно, значительно менее понятны в деталях, чем искусственные автоматы. Тем не менее рассмотрение некоторых закономерностей устройства живых организмов может быть весьма полезно при изучении и проектировании автоматов. И наоборот, многое из опыта нашей работы с искусственными автоматами может быть до некоторой степени перенесено на наше понимание естественных организмов. (Natural organisms are, as a rule, much more complicated and subtle, and therefore much less well understood in detail, than are artificial automata. Nevertheless, some regularities which we observe in the organization of the former may be quite instructive in our thinking and planning of the latter; and conversely, a good deal of our experiences and difficulties with our artificial automata can be to some extent projected on our interpretations of natural organisms.)
В этих словах фон Нейман выражает идею о том, что изучение природных организмов может быть весьма поучительным для создателей машин и программного обеспечения — не как прямая зависимость или устоявшийся инженерный закон, а как продуктивная аналогия. У природы были миллиарды лет, чтобы решить проблемы, над которыми инженеры работают до сих пор.
Как роботы и люди обрабатывают информацию
И люди, и роботы работают по одному и тому же фундаментальному принципу: они получают входные данные, обрабатывают их и генерируют ответ. Механизмы различаются, но архитектура параллельна.
Фон Нейман выявил эту параллель на уровне отдельных нейронов:
Нейрон передает импульс. По-видимому, в этом состоит основная его функция, хотя последнее слово относительно этой функции и о том, ограничивается ли ею роль нейрона в центральной нервной системе, еще далеко не сказано. Нервный импульс в основном подчиняется принципу “включено — выключено”, “все или ничего”, и его можно сравнивать с двоичной цифрой.
Проще говоря: нейроны либо срабатывают, либо нет. Этот бинарный принцип «включено/выключено» лежит в основе современных цифровых вычислений — и, что более важно, искусственных нейронных сетей, которые обеспечивают работу современных систем ИИ, включая языковые модели, которые лежат в основе этих систем. ИИ-аватары в инструментах для продаж и обучения.
Фон Нейман пошел еще дальше, сравнив нейроны с вакуумными лампами как с функциональными «черными ящиками»:
Стимуляция нейрона, развитие и распространение его импульса, а также стимулирующее воздействие импульса на синапс — все это можно описать электрическим способом. Сопутствующие химические и другие процессы важны для понимания внутреннего функционирования нервной клетки. Возможно, они даже важнее электрических явлений. Однако, похоже, они едва ли необходимы для описания нейрона как «черного ящика», органа типа «все или ничего». Опять же, ситуация здесь не хуже, чем, скажем, в случае вакуумной лампы. Здесь также чисто электрические явления сопровождаются многочисленными другими явлениями физики твердого тела, термодинамики и механики. Все они важны для понимания структуры вакуумной лампы, но их лучше исключить из обсуждения, если речь идет о рассмотрении вакуумной лампы как «черного ящика» со схематическим описанием.
Идеи фон Неймана о функциях нейронов стали фундаментальным элементом в развитии современных искусственных нейронных сетей. Не менее важно и его прямое признание поразительного сходства между биологической нервной системой и искусственными нейронными сетями.
Он также тщательно отметил, где эта аналогия дает сбой:
Живые организмы очень сложны, представляют собой частично цифровые, частично аналоговые механизмы. Вычислительные машины, по крайней мере в их современных формах, о которых я говорю в этом обсуждении, являются чисто цифровыми.
В отличие от писателей-фантастов, которые часто рассуждают о «стирании» границ между естественным и искусственным интеллектом, фон Нейман оставался верен реальности. Он последовательно подчеркивал, что, хотя биологические организмы и машины имеют сходства, они принципиально различаются по своим основным принципам. Это различие сохраняется и по сей день.Исследование, опубликованное в журнале Frontiers in Computational Neuroscience. Он подтверждает, что искусственные нейронные сети по-прежнему принципиально отличаются от биологического мозга, несмотря на достижение уровня производительности, сопоставимого с человеческим, но разрыв сокращается быстрее, чем он мог себе представить.
В чём разница между роботами и людьми — и почему это важно.
Фон Нейман столь же точно определил эти различия, особенно в отношении самовосстановления и устойчивости:
...если живой организм получает механическое повреждение, он обладает сильной способностью к самовосстановлению. Если же, с другой стороны, мы ударим по созданному человеком механизму кувалдой, такой способности к восстановлению не наблюдается. Если два куска металла находятся близко друг к другу, небольшие вибрации и другие механические возмущения, которые всегда присутствуют в окружающей среде, представляют опасность, поскольку могут привести к их контакту. Если бы они находились под разными электрическими потенциалами, следующим шагом после этого короткого замыкания могло бы стать их электрическое соединение, и контакт стал бы постоянным. В этот момент произойдет настоящий и необратимый пробой. Когда мы повреждаем мембрану нервной клетки, ничего подобного не происходит. Напротив, мембрана обычно восстанавливается через короткое время. Именно эта механическая нестабильность наших материалов препятствует дальнейшему уменьшению размеров. Эта нестабильность и другие явления аналогичного характера делают поведение наших компонентов не совсем надежным, даже при нынешних размерах. Таким образом, именно неполноценность наших материалов по сравнению с теми, которые используются в природе, мешает нам достичь высокой степени сложности и малых размеров, которые были достигнуты природными организмами.
Он распространил это и на более широкую проблему надежности оборудования:
Природные организмы достаточно хорошо устроены, чтобы функционировать даже при наличии сбоев. Они могут работать, несмотря на сбои, и их последующая тенденция — устранять эти сбои. Искусственный автомат, безусловно, можно спроектировать таким образом, чтобы он мог нормально функционировать, несмотря на ограниченное количество сбоев в определенных ограниченных областях. Однако любой сбой представляет собой значительный риск того, что внутри машины уже начался какой-то общий деградационный процесс. Поэтому необходимо немедленно вмешаться, потому что машина, начавшая давать сбои, лишь изредка имеет тенденцию к самовосстановлению и, скорее всего, будет только ухудшаться. Все это сводится к одному. С нашими искусственными автоматами мы действуем гораздо более неосведомленно, чем природа со своими организмами. Мы гораздо больше «боимся» возникновения единичной ошибки и сбоя, который должен за ней стоять. Наше поведение явно является чрезмерной осторожностью, порожденной невежеством.
Именно поэтому современные системы ИИ проектируются с учетом избыточности и коррекции ошибок, и именно поэтому лучшие инструменты ИИ для бизнеса созданы для обработки нестандартных ситуаций, а не только идеальных условий. Фон Нейман не был первым ученым, осознавшим, что теоретические достижения опережают техническую осуществимость их реализации (его современники, такие как... Норберт Винер исследовал машинное мышление. используя столь же строгие кибернетические концепции), но, будучи одновременно инженером и теоретиком, он с удивительной ясностью сформулировал этот пробел.
Обучение и адаптация: место слияния роботов и людей.
Одно из наиболее существенных сходств между роботами и людьми — это способность учиться на собственном опыте, и именно в этой области современный искусственный интеллект достиг наиболее значительного прогресса со времен фон Неймана.
В основе человеческого обучения лежат примеры: мы наблюдаем, пробуем, корректируем. Машинное обучение работает аналогично. Модель получает размеченные примеры явления (например, изображения людей, чувствующих себя комфортно и некомфортно) и учится определять признаки, которые предсказывают каждое состояние. Чем больше примеров, тем точнее становится модель. Как объясняет Ванесса Эверс из UNESCO Courier:
Машинное обучение основано на примерах. Мы предоставляем компьютеру примеры явления, которое хотим, чтобы он понял.
В природе существует очень очевидная черта типа «порочного круга», простейшим выражением которой является способность очень сложных организмов к самовоспроизводству. Все мы склонны смутно подозревать существование понятия «сложности». Это понятие и его предполагаемые свойства никогда не были четко сформулированы. Однако нас всегда искушает предположение, что они будут работать именно таким образом. Когда автомат выполняет определенные операции, следует ожидать, что они будут иметь меньшую степень сложности, чем сам автомат. В частности, если автомат способен создавать другой автомат, то степень сложности должна уменьшаться по мере перехода от родительского автомата к создаваемому. То есть, если А может создавать В, то А каким-то образом должен содержать полное описание В. Для того чтобы это описание было эффективным, в А должны существовать различные механизмы, обеспечивающие его интерпретацию и выполнение необходимых конструктивных операций. В этом смысле, казалось бы, следует ожидать определенной тенденции к деградации, некоторого уменьшения сложности по мере того, как один автомат порождает другой. Хотя в этом есть некоторая неопределенная правдоподобность, это явно противоречит самым очевидным явлениям, происходящим в природе. Организмы размножаются сами по себе; то есть они производят новые организмы без уменьшения сложности. Кроме того, существуют длительные периоды эволюции, в течение которых сложность даже возрастает. Организмы косвенно происходят от других, имевших меньшую сложность. Таким образом, существует явное противоречие между правдоподобностью и доказательствами, если не хуже.
Он определил ключевой пороговый уровень:
Существует… определенный минимальный уровень, на котором… дегенеративные характеристики перестают быть универсальными. На этом этапе становятся возможными автоматы, способные воспроизводить себя или даже создавать более сложные сущности. Тот факт, что сложность, как и организация, ниже определенного минимального уровня является дегенеративной, а за его пределами может стать самоподдерживающейся и даже возрастающей, несомненно, сыграет важную роль в любой будущей теории по этой теме.
Мы давно перешагнули этот порог. Вопрос уже не в том, могут ли машины учиться и адаптироваться — это доказано. Вопрос в том, насколько далеко может зайти эта адаптация и как направлять её продуктивно.
Общение: самое человеческое, на что способны роботы.
Если и есть область, где сходство между роботами и людьми имеет наибольшее практическое значение (и наиболее непосредственно связано с тем, как сегодня функционирует бизнес), то это коммуникация.
И люди, и роботы используют речь, тон голоса, жесты и визуальные сигналы для передачи информации и установления взаимопонимания. Оба адаптируют свой стиль общения к собеседнику. Оба могут сигнализировать об авторитете, дружелюбии или неуверенности через одни и те же каналы: высоту голоса, взгляд, позу, походку.
Результаты исследования по этой теме поразительны. Исследование опубликовано в журнале. Научные доклады Исследование показало, что роботы активно способствуют воспроизведению человеческой речи: люди адаптируют темп речи, словарный запас и формулировки при общении с роботами, так же как и при общении с другими людьми. В исследовании приводятся результаты более ранних исследований, которые показали, что:
«В диалоге с аватаром языковое поведение идентично диалогу с человеком».
«Биологическая природа человека предполагает взаимодействие с другими людьми. Создание человекоподобных роботов позволяет получить наиболее интуитивно понятный интерфейс».
Общих черт больше, чем вы думаете: структурное сравнение.
Его концепция «симбиотического общества человек-аватар» предполагает, что аватары — физические роботы или сложные системы искусственного интеллекта, управляемые намерениями человека, — являются расширение присутствия человека а также средства связи, позволяющие одному человеку находиться в нескольких местах одновременно.
Это именно та область, что какие аватары с искусственным интеллектом работают прямо сейчас Pitch AvatarИскусственный интеллект, используемый в аватарах, созданных компанией, основан именно на этих принципах: они обрабатывают язык, имитируют человеческую речь, отвечают на вопросы и взаимодействуют с аудиторией так же, как опытный докладчик-человек, — и все это в масштабе и с такой стабильностью, которую ни один человек не может поддерживать при сотнях одновременных взаимодействий.
Социальные и эмоциональные параллели: почему люди реагируют на роботов так же, как и на людей.
Люди, как нас описывают социологи, — это «ультрасоциальные животные». Мы запрограммированы распознавать социальные сигналы, приписывать другим существам личность и намерения, а также формировать отношения с объектами, которые ведут себя узнаваемым образом. Роботы, особенно социальные роботы, целенаправленно используют эту программу.
Исследование, опубликованное в Границы робототехники и искусственного интеллекта Было установлено, что внешний вид, стиль речи, взгляд, движения головы и жесты рук являются важными факторами, определяющими воспринимаемую личность как людей, так и роботов-аватаров. Те же самые черты, которые делают человека уверенным, дружелюбным или заслуживающим доверия, также создают такое впечатление и у робота. Мы не обрабатываем эти сигналы по-разному только потому, что источник искусственный.
У этого явления есть название: «зловещая долина»Этот термин, введенный робототехником Масахиро Мори, описывает дискомфорт, который испытывают люди, когда робот почти, но не совсем, похож на человека. Чем ближе робот к человеческой внешности и поведению, но не полностью их достигает, тем более тревожным становится эффект. Цель проектирования социальных роботов состоит либо в том, чтобы оставаться явно нечеловеческими, либо в том, чтобы полностью преодолеть «пропасть» — достичь естественного, комфортного взаимодействия, которое, как показывают описанные выше исследования в области коммуникации, теперь возможно.
Практическое значение для HR-менеджеров, руководителей отделов обучения и развития персонала, а также отделов продаж очевидно: сотрудники и клиенты реагируют на аватары ИИ так же, как и на людей-коммуникаторов, при условии, что они правильно спроектированы. Люди приписывают роботам индивидуальность, даже если у них её нет. Они формируют предпочтения, развивают доверие и корректируют своё поведение в зависимости от того, как робот или аватар себя ведёт. Понимание этого не только интересно с философской точки зрения, но и имеет практическое значение для всех, кто внедряет коммуникации на основе ИИ.
Исследования, посвященные командам человек-робот, добавляют еще одно измерение: исследования показывают, Люди предпочитают, чтобы ими руководили роботы, когда робот-лидер повышает эффективность работы команды, и что доверие к роботу-лидеру существенно влияет на удовлетворенность работой и производительность членов команды. Социальная динамика взаимодействия человека и робота не является поверхностной — она влияет на реальные результаты деятельности организации.
Куда движется сходство человека и робота: к сотрудничеству, а не к замене.
Все серьезные аналитики в области робототехники приходят к одному и тому же выводу: следующее десятилетие будет посвящено сотрудничеству человека и робота. Искусственный интеллект никогда полностью не заменит человека.. Исследование Еврофонда подтверждает, что автоматизация в настоящее время приводит к большему количеству изменений в должностных обязанностях, чем к сокращению рабочих мест.
Представленная в Prime Movers Lab концепция является типичной:
«В ближайшие несколько десятилетий все внимание будет сосредоточено на сотрудничестве человека и робота, и победителями станут те, кто поймет, как наилучшим образом объединить людей и роботов для достижения максимального потенциала».
Часто задаваемые вопросы
