Що спільного між роботами та людьми, або чому Джон фон Нейман вважав, що машини мають бути «живими»?
TL; DR: Роботи та люди схожі не лише зовні – вони мають спільну логіку проектування. І ті, й інші споживають енергію, збирають дані з датчиків, обробляють інформацію, переміщуються в просторі, спілкуються голосом і жестами, а також навчаються на досвіді. Глибші паралелі були нанесені математиком Джоном фон Нейманом у 1951 році, а сучасні системи штучного інтелекту, людиноподібні роботи та аватари на основі штучного інтелекту перетворили його аналогії на робочі технології. Розуміння цих подібностей важливе для кожного, хто сьогодні створює, розгортає або працює зі штучним інтелектом, оскільки вони пояснюють, чому добре розроблені аватари на основі штучного інтелекту у важливих аспектах відчуваються схожими на людей, і чому майбутнє цієї галузі – це співпраця між людьми та роботами, а не їхня заміна.
Команда Pitch Avatar зібрала кілька цитат про подібності та відмінності між живими організмами та машинами від творця теорії «клітинного автомата».
Роботи та люди мають набагато більше спільного, ніж більшість людей усвідомлює. Обидва обробляють інформацію за допомогою електричних сигналів, обидва навчаються з вхідної інформації та досвіду, обидва спілкуються за допомогою мови та жестів, і обом потрібне джерело живлення для функціонування. Чим глибше ви дивитеся, тим більше паралелей множаться – і тим повчальнішими вони стають для тих, хто створює, впроваджує або працює з системами штучного інтелекту сьогодні.
У цій статті ці паралелі систематично досліджуються: від фізичної структури та когнітивної обробки до комунікації, соціальної поведінки та подальшого розвитку подібностей між людиною та роботом. Ми також розглянемо, що саме мав рацію математик 1951 року щодо всього цього – і чому ці висновки актуальні для сучасного штучного інтелекту, ніж будь-коли.
Більше спільного, ніж ви думаєте: структурне порівняння
Найпряміша відповідь на питання про те, що спільного між роботами та людьми, починається зі структури. Обидві системи – це фізичні системи, які поглинають енергію, обробляють інформацію, переміщуються в середовищі та реагують на зовнішні подразники. У таблиці нижче наведено основні паралелі:
| Людина | Робот |
|---|---|
| Їжа та калорії (джерело енергії) | Блок живлення/акумулятор |
| Кістки, суглоби, м'язи (рух) | Приводи, шарніри, ланки |
| Очі, вуха, шкіра (сенсорні вхідні дані) | Камери, мікрофони, сенсори |
| Мозок і нейрони (обробка інформації) | Процесор, нейронні мережі |
| Петлі зворотного зв'язку нервової системи (саморегуляція) | Керування зворотним зв'язком на основі датчиків |
| Мова, жести, вираз обличчя (спілкування) | Обробка природної мови, керовані вирази |
Ось чому дослідники робототехніки часто починають з вивчення анатомії людини. Як пояснює робототехнік Більге Мутлу з Інституту досліджень Моргріджа:
Зазвичай люди краще працюють у знайомих їм середовищах, і їм легше зрозуміти технології, які виглядають або поводяться впізнаваним чином.
Відтворення людської поведінки — складне завдання, тому дослідники розбивають його на компоненти (мовлення, зоровий контакт, рухи) та працюють над конкретними елементами.
Структурна паралель також пояснює, чому людиноподібні роботи сьогодні є окремою категорією зростання. Гуманоїдні роботи – двоногі машини з руками та кистями, призначеними для виконання широкого спектру фізичних завдань, подібних до людської праці, – зазнали значного зростання розвитку з 2021 року, при цьому ринок за прогнозами, до 15.26 року досягне 2030 мільярдів доларівГенеральний директор Tesla Ілон Маск передбачив, що до 2040 року може бути більше людиноподібних роботів на планеті ніж люди, що відображає масштаб поточного оптимізму галузі щодо цього форм-фактора.
Логіка проста: якщо світ створений для людей, то людиноподібний робот — це найуніверсальніший інтерфейс. Структурна схожість не випадкова — вона є основою дизайну.
У чому правий був висновок математика 1951 року щодо штучного інтелекту
Перш ніж у нас з'явилися штучні нейронні мережі, великі мовні моделі чи людиноподібні роботи, Джон фон Нейман (1903–1957) вже з надзвичайною точністю картографував структурні паралелі між біологічними організмами та машинами.
Фон Нейман був угорсько-американським математиком, фізиком, інженером та теоретиком інформатики. Серед його численних внесків він вважав, що різні проблеми в інженерії та обчислювальній техніці можна вирішити, знаходячи та вивчаючи аналогічні рішення в природі. Він розробив концепцію «клітинних автоматів» – також відомих як «автомати фон Неймана» – пристроїв, здатних до самовідтворення та, в одному з варіантів, до формування складних систем з кількох простих автоматів. Наведені нижче цитати взяті з його роботи. «Загальна та логічна теорія автоматів», опублікована в 1951.
Природні організми, як правило, набагато складніші й витонченіші, а тому набагато гірше вивчені в деталях, ніж штучні автомати. Тим не менш, деякі закономірності, які ми спостерігаємо в організації першого, можуть бути досить повчальними для нашого мислення та планування останнього; і навпаки, значна частина нашого досвіду та труднощів із нашими штучними автоматами може бути певною мірою спроектована на наші інтерпретації природних організмів.
Цими словами фон Нейман висловлює ідею про те, що вивчення природних організмів може бути дуже повчальним для розробників машин і програмного забезпечення – не як пряма залежність чи усталений інженерний закон, а як продуктивна аналогія. Природа мала мільярди років, щоб вирішити проблеми, над якими інженери досі працюють.
Як роботи та люди обробляють інформацію
І люди, і роботи працюють за одним фундаментальним принципом: вони отримують вхідні дані, обробляють їх та генерують відповідь. Механізми відрізняються, але архітектура паралельна.
Фон Нейман визначив цю паралель на рівні окремих нейронів:
Нейрон передає імпульс. Здається, це його основна функція, навіть якщо останнє слово про цю функцію та її виключний чи невиключний характер ще далеко не сказано. Нервовий імпульс, здається, в основному є справою «все або нічого», порівнянною з двійковою цифрою.
Простіше кажучи: нейрони або спрацьовують, або ні. Цей бінарний принцип увімкнення/вимкнення лежить в основі сучасних цифрових обчислень – і, що ще важливіше, штучних нейронних мереж, які живлять сучасні системи штучного інтелекту, включаючи мовні моделі, що живлять ШІ-Аватари в інструментах продажів та навчання.
Фон Нейман пішов далі, порівнюючи нейрони з вакуумними трубками як функціональними «чорними ящиками»:
Стимуляцію нейрона, розвиток і просування його імпульсу, а також стимулюючий вплив імпульсу на синапс можна описати електрично. Супутні хімічні та інші процеси важливі для розуміння внутрішнього функціонування нервової клітини. Вони можуть бути навіть важливішими, ніж електричні явища. Однак вони навряд чи необхідні для опису нейрона як «чорної скриньки», органу типу «все або нічого». Знову ж таки, ситуація тут не гірша, ніж, скажімо, для вакуумної лампи. Тут також суто електричні явища супроводжуються численними іншими явищами фізики твердого тіла, термодинаміки та механіки. Усі вони важливі для розуміння структури вакуумної лампи, але їх краще виключити з обговорення, якщо мова йде про розглядання вакуумної лампи як «чорної скриньки» зі схематичним описом.
Ідеї фон Неймана про функції нейронів стали фундаментальним елементом у розвитку сучасних штучних нейронних мереж. Не менш важливим є його пряме визнання разючої подібності між біологічною нервовою системою та штучними нейронними мережами.
Він також ретельно зазначив, де ця аналогія порушується:
Живі організми — це дуже складні механізми, частково цифрові, частково аналогові. Обчислювальні машини, принаймні в їхніх останніх формах, про які я говорю в цій дискусії, є повністю цифровими.
На відміну від письменників-фантастів, які часто розмірковують про «стирання» меж між природним і штучним інтелектом, фон Нейман залишався приземленим у реальності. Він постійно наголошував, що хоча біологічні організми та машини мають спільні риси, вони принципово відрізняються за своїми основними принципами. Ця різниця залишається і сьогодні (дослідження «Рубежі в обчислювальній нейронауці» підтверджує, що штучні нейронні мережі (ШНМ) все ще принципово відрізняються від біологічного мозку, незважаючи на досягнення продуктивності людського рівня), але розрив скорочується швидше, ніж він міг собі уявити.
Чим роботи відрізняються від людей – і чому це важливо
Фон Нейман був однаково точним у визначенні відмінностей, особливо щодо самовідновлення та стійкості:
...якщо живий організм механічно пошкоджений, він має сильну тенденцію до самовідновлення. Якщо ж ми вдаримо кувалдою по штучному механізму, такої тенденції до відновлення не буде. Якщо два шматки металу розташовані близько один до одного, невеликі вібрації та інші механічні збурення, які завжди існують у навколишньому середовищі, становлять ризик, оскільки можуть призвести до їх контакту. Якщо вони перебувають під різними електричними потенціалами, наступним, що може статися після цього короткого замикання, є те, що вони можуть електрично спаятися разом, і контакт стане постійним. У цей момент відбудеться справжнє та постійне руйнування. Коли ми пошкоджуємо мембрану нервової клітини, нічого такого не відбувається. Навпаки, мембрана зазвичай відновлюється після короткої затримки. Саме ця механічна нестабільність наших матеріалів заважає нам далі зменшувати розміри. Ця нестабільність та інші явища подібного характеру роблять поведінку наших компонентів менш надійною, навіть за нинішніх розмірів. Таким чином, саме неповноцінність наших матеріалів порівняно з тими, що використовуються в природі, заважає нам досягти високого ступеня складності та малих розмірів, яких досягли природні організми.
Він поширив це на ширшу проблему надійності обладнання:
Природні організми достатньо добре сконструйовані, щоб мати змогу функціонувати навіть за наявності несправностей. Вони можуть функціонувати, незважаючи на несправності, і їх подальша тенденція полягає в усуненні цих несправностей. Штучний автомат, безумовно, можна було б сконструювати таким чином, щоб він міг нормально функціонувати, незважаючи на обмежену кількість несправностей у певних обмежених областях. Однак будь-яка несправність становить значний ризик того, що всередині машини вже розпочався якийсь загальнодегенеративний процес. Тому необхідно негайно втрутитися, оскільки машина, яка почала давати несправності, рідко має тенденцію до самовідновлення і, швидше за все, погіршиться. Все це зводиться до одного. З нашими штучними автоматами ми рухаємося набагато більше в темряві, ніж здається, що природа з її організмами. Ми, і, очевидно, принаймні зараз, повинні бути набагато більше «налякані» виникненням окремої помилки та несправністю, яка має стояти за нею. Наша поведінка явно є надмірною обережністю, породженою незнанням.
Ось чому сучасні системи штучного інтелекту розроблені з вбудованою резервуванням та виправленням помилок, і саме тому найкращі інструменти штучного інтелекту для бізнесу створені для обробки нестандартних ситуацій, а не лише ідеальних умов. Фон Нейман не був першим вченим, який усвідомив, що теоретичні досягнення випереджають технічну можливість їх впровадження (сучасники, такі як Норберт Вінер досліджував машинне мислення використовуючи однаково суворі кібернетичні концепції), але як інженер, і теоретик, він сформулював цю прогалину з надзвичайною ясністю.
Навчання та адаптація: де сходяться роботи та люди
Одна з найважливіших подібностей між роботами та людьми — це здатність навчатися на досвіді, і саме в цій галузі сучасний штучний інтелект досяг найбільшого прогресу з часів фон Неймана.
Людське навчання фундаментально базується на прикладах: ми спостерігаємо, ми пробуємо, ми коригуємо. Машинне навчання працює так само. Моделі подаються позначені приклади явища (наприклад, зображення людей, які почуваються комфортно чи некомфортно), і вона вчиться визначати ознаки, які передбачають кожен стан. Чим більше прикладів, тим точнішою стає модель. Як пояснює Ванесса Еверс з UNESCO Courier:
Машинне навчання базується на прикладах. Ми надаємо комп'ютеру приклади явища, яке він хоче зрозуміти.
У природі існує дуже очевидна риса типу «порочного кола», найпростішим вираженням якої є той факт, що дуже складні організми можуть розмножуватися. Ми всі схильні нечітко підозрювати існування поняття «ускладнення». Це поняття та його передбачувані властивості ніколи не були чітко сформульовані. Однак ми завжди спокушаємося припустити, що вони працюватимуть саме так. Коли автомат виконує певні операції, слід очікувати, що вони будуть менш складними, ніж сам автомат. Зокрема, якщо автомат має здатність конструювати інший, має спостерігатися зменшення складності, коли ми переходимо від батьківського елемента до конструкту. Тобто, якщо A може створити B, то A якимось чином повинен був містити повний опис B. Щоб зробити це ефективним, в A також повинні бути різні механізми, які забезпечують інтерпретацію цього опису та виконання конструктивних операцій, яких він вимагає. У цьому сенсі, таким чином, здається, що слід очікувати певної дегенеративної тенденції, деякого зменшення складності, коли один автомат створює інший автомат. Хоча в цьому є певна невизначена правдоподібність, це явно суперечить найочевиднішим речам, які відбуваються в природі. Організми розмножуються, тобто вони породжують нові організми без зменшення складності. Крім того, існують тривалі періоди еволюції, протягом яких складність навіть зростає. Організми опосередковано походять від інших, які мали меншу складність. Таким чином, існує очевидний конфлікт правдоподібності та доказів, якщо не гірше.
Він визначив ключовий пороговий рівень:
Існує... певний мінімальний рівень, де... дегенеративна характеристика перестає бути універсальною. У цей момент стають можливими автомати, які можуть відтворювати себе або навіть створювати вищі сутності. Цей факт, що ускладнення, як і організація, нижче певного мінімального рівня є дегенеративним, а після цього рівня може стати самопідтримуючим і навіть зростаючим, очевидно, відіграватиме важливу роль у будь-якій майбутній теорії цього предмета.
Ми давно перетнули цей поріг. Питання вже не в тому, чи можуть машини навчатися та адаптуватися – це доведено. Питання в тому, наскільки далеко може зайти ця адаптація і як її продуктивно спрямувати.
Комунікація: найлюдськіша річ, яку можуть робити роботи
Якщо й існує одна сфера, де подібність між роботами та людьми має найбільше практичне значення (і найбільш безпосередньо пов'язана з тим, як функціонує бізнес сьогодні), то це комунікація.
Як люди, так і роботи використовують мовлення, тон голосу, жести та візуальні підказки для передачі інформації та встановлення контакту. І ті, й інші адаптують свій стиль спілкування до співрозмовника. І ті, й інші можуть сигналізувати про авторитет, дружелюбність або невпевненість за допомогою тих самих каналів: висоти голосу, погляду, постави, ходи.
Дослідження з цього питання вражає. Дослідження, опубліковане в журналі Наукові доповіді виявили, що роботи активно сприяють відтворенню людського мовлення: люди адаптують темп свого мовлення, словниковий запас і фразування під час спілкування з роботами, так само як і під час спілкування з іншими людьми. У дослідженні посилаються на попередні результати досліджень, які свідчать про те, що:
«У діалозі з аватаром мовна поведінка ідентична діалогу з людським партнером».
«Люди біологічно запрограмовані на взаємодію з іншими людьми. Роблячи роботів людиноподібними, вони стають максимально інтуїтивно зрозумілими з інтерфейсом».
Більше спільного, ніж ви думаєте: структурне порівняння
Його концепція «симбіотичного суспільства людини та аватарів» передбачає, що аватари – фізичні роботи або складні системи штучного інтелекту, керовані людськими намірами – є розширення людської присутності і комунікація, що дозволяє одній людині перебувати в кількох місцях одночасно.
Це саме та місцевість, у якій які аватари зі штучним інтелектом працюють сьогодні. Pitch AvatarАватари зі штучним інтелектом побудовані саме на цих принципах: вони обробляють мову, відображають людські мовленнєві моделі, відповідають на запитання та взаємодіють з аудиторією, як досвідчений ведучий – і все це, працюючи в масштабі та зі стабільністю, яку жодна людина не може підтримувати протягом сотень одночасних взаємодій.
Соціальні та емоційні паралелі: чому люди реагують на роботів так само, як і на людей
Люди, як нас описують соціологи, є «ультрасоціальними тваринами». Ми запрограмовані розпізнавати соціальні сигнали, приписувати особистість та наміри іншим сутностям і формувати стосунки з об'єктами, які поводяться впізнаваним чином. Роботи, особливо соціальні роботи, навмисно використовують це програмування.
Дослідження опубліковано в Кордони в робототехніці та ШІ виявили, що зовнішній вигляд, стиль мовлення, погляд, рухи голови та жести рук є важливими факторами, що визначають сприйняту особистість як людей, так і роботів-аватарів. Ті самі риси, які роблять людину впевненою, дружньою або надійною, також роблять робота таким. Ми не обробляємо ці сигнали по-різному лише тому, що джерело є штучним.
Це явище має назву: «Неймовірна долина»Цей термін, введений робототехніком Масахіро Морі, описує дискомфорт, який відчувають люди, коли робот майже, але не зовсім, людина. Чим ближче робот наближається до людського зовнішнього вигляду та поведінки, але не досягає їх повністю, тим більш тривожним стає ефект. Мета розробки соціальних роботів полягає в тому, щоб або залишатися чітко нелюдськими, або повністю подолати «долину» – досягти природної, комфортної взаємодії, яка, як показують вищеописані дослідження комунікації, тепер можлива.
Практичне значення для менеджерів з персоналу, керівників відділів навчання та розвитку, а також відділів продажів зрозуміле: співробітники та клієнти реагують на аватари на базі штучного інтелекту так само, як і на людей-комунікаторів, за умови, що вони правильно розроблені. Люди надають роботам індивідуальності, навіть якщо у них її немає. Вони формують уподобання, розвивають довіру та коригують свою поведінку залежно від того, як себе представляє робот чи аватар. Розуміння цього цікаве не лише з філософської точки зору, а й з операційної точки зору для будь-кого, хто впроваджує комунікації на базі штучного інтелекту.
Дослідження команд людей і роботів додає ще один вимір: дослідження показують що люди надають перевагу тому, щоб ними керували роботи, коли лідер-робот покращує продуктивність команди, і що довіра до лідера-робота суттєво впливає на задоволеність роботою та продуктивність членів команди. Соціальна динаміка взаємодії людини і робота не є поверхневою – вона впливає на реальні результати організації.
Куди прямує подібність людини та робота: співпраця, а не заміна
Усі серйозні аналітики в галузі робототехніки доходять одного висновку: наступне десятиліття буде присвячене співпраці людини та робота – Штучний інтелект ніколи повністю не замінить людей. Дослідження Eurofound підтверджує, що автоматизація наразі призводить до більшої кількості змін у профілях посад, ніж до скорочення робочих місць.
Концепція, представлена в Prime Movers Lab, є типовою:
«Наступні кілька десятиліть будуть присвячені співпраці людини та робота, і переможцями стануть ті, хто з'ясує, як найкраще поєднати людей і роботів для максимального використання потенціалу».
Часті питання
