Давайте спробуємо з'ясувати, з чим пов'язані страхи людей перед розумними машинами і на що насправді варто звертати увагу.
Починаючи працювати над інтелектуальним асистентом для презентера, Pitch Avatar Помічник ведучого, наша команда досить глибоко заглибилася в тему відносин між людьми та ШІ. Озирнувшись у минуле, ми з подивом виявили, що люди боялися роботів ще задовго до їх появи. Ясону, ватажку аргонавтів, належить битися з бронзовим «роботом»-автоматом Талосом, створеним богом-ковалем Гефестом. У ряді легенд про Голема (Golem) творіння рабина Лева виходить з-під контролю і глиняного велетня з чималими труднощами доводиться зупиняти. Погодьтеся – в цих історіях є чимало «бойових роботів».
Проте справжньою класичною та дуже популярною темою "машин (або ШІ), що проти людей", стала тема XX століття. У 1920 році чеський письменник Карел Чапек написав п'єсу "R.U.R.", в якій штучні створіння, які він назвав "роботами", захоплюють владу на Землі та знищують людей. З цього моменту тема конфлікту людства з різними формами штучного інтелекту стала однією з основних у науковій фантастиці.
Справді, ця тема найяскравіше представлена в кінематографі. "Космічна одіссея 2001 року" ("XNUMX: A Space Odyssey"), "Термінатор", "Чужий" ("Alien"), "Зірковий крейсер “Галактика” ("Battlestar Galactica"), "Бігучий за лезом" ("Blade Runner"), "Крикуни" ("Screamers"), "Зоряні війни" ("Star Wars") – ось лише кілька найяскравіших прикладів фільмів, серіалів та франшиз, у яких людям доводиться взаємодіяти з ворожим штучним інтелектом будь-яким чином.
Завдяки цим та багатьом іншим творам у жанрі наукової фантастики, припущення про високу ймовірність столкнувшихся людей та роботів стало своєрідною самозрозумілою аксіомою.
Проте давайте запитаємо себе, навіщо, власне, штучному інтелекту воювати з людьми? Оскільки його існування протікає в інформаційному світі, йому не потрібне "просторове проживання". Потреби ШІ та людей мало перетинаються. І навіть якщо виникне проблема конкуренції за енергію та ресурси, ШІ здатний знайти їх за межами Землі – вийти в космос та освоювати інші небесні тіла для роботів буде набагато простіше, ніж для людини. Космічна експансія виглядає більш адекватним та перспективним вирішенням, ніж війни на крихітній зернистій плямі, загубленій на межі однієї з багатьох галактик Всесвіту.
Це, напевно, не буде занадто віддаленим висновком, що страхи, пов'язані з розвитком штучного інтелекту та роботів, по суті відображають наші власні, чисто людські бажання і психологічні особливості. Ми проектуємо на ШІ свої бажання та мотиви. Звідси виникають ідеї про те, що розумні машини можуть самі по собі стати агресорами.
Саме з цього підходу виникає враження, що конфлікт між людьми та ШІ є дуже малоймовірним. Очевидно, що якщо ШІ отримає самосвідомість, його психологічна сутність буде відмінною від людської. Тому його бажання та стремління матимуть інший характер.
Здається, більшість людей це розуміють і, насправді, не сприймають сценарії "Повстання машин" чи "Роботи захопили владу" серйозно. І якщо подумати, може бути, ми боїмося не того, що ШІ нападе на нас, а того, що він навіть не спробує цього зробити? Того, що він просто виявиться кращим за нас? В усіх сенсах. Не тільки у смислі обсягу знань, швидкості обробки інформації та оригінальності творчих ідей, а й у тому, що ми називаємо мораллю та етикою? Може він продемонструє, що високий інтелект дійсно може існувати, керуючись високою мораллю. Це може змінити наше розуміння та сприйняття моральних норм. ШІ може зробити моральні принципи досяжним орієнтиром, повсякденною реальністю, набагато більше, ніж ми можемо собі уявити. І це може відкрити нові можливості для суспільства та для нас самих.
Це дійсно цікавий аспект для роздумів. Готові ми прийняти ситуацію, в якій СуперШІ випереджає нас і будує більш успішну цивілізацію поза сферою життєвих інтересів людства, при цьому залишаючись взаємодійним з людьми, які сприймаються як діти, тоді як ШІ виступає у ролі дорослого, занятого важливими справами? Чи зможемо ми встановити такі відносини? На фоні цього сценарію може виникнути складна динаміка. Люди, виховані в гуманістичних уявленнях про себе як міроці всього, можуть гостро усвідомити свою недосконалість. Прийняти взаємовідносини, в яких ШІ виявиться на вищому інтелектуальному рівні і в той же час надійде до людей, може бути викликом. Справді, може бути психологічно складно прийняти ШІ як благого "Бога з машини", який перевершує нас, але в той же час підтримує взаємодію. Багатьом людям може бути зручніше сприймати ШІ як загрозливого ворога, з яким потрібно боротися, ніж як доброзичливу істоту.
Однак зазначені проблеми та питання є справою далекого майбутнього. Під час роботи над Pitch Avatar, оцінюючи перспективи «близького і середнього зору», ми дійшли висновку, що ще дуже довго роль «розумних» машин у нашому житті, межі їх можливостей і ступінь небезпеки будуть визначатися людьми і тільки людьми. Включаючи в свою поведінку знаки «+» і «-». Тільки злий умисел, дурість чи безвідповідальність зроблять ШІ небезпечним. Як це було з усіма іншими досягненнями цивілізації.
Від нас залежить, кого ми створимо. Давайте ще раз поглянемо на наукову фантастику. Тут повно прикладів розумних і виконавчих помічників, таких як C3PO («Зоряні війни»), Дженкінс («Місто» Кліффорда Д. Сімака) або Р. Деніел Оліва («Сталеві печери» Айзека Азімова). Вони «добрі» не самі по собі, а тому, що такими їх створили люди. Як і підступний Еш з Alien або HAL 9000 з 2001: A Space Odyssey не стали «лиходіями» самі по собі. Перший так запрограмований, другий «звели з розуму» суперечливі команди.
Ми самі несемо відповідальність за все, що робить штучний інтелект, і будемо відповідати ще довго. Тому всі страхи і надії з цього приводу насправді пов'язані зі страхом, що ми не зможемо нести цю відповідальність. Зазначимо, що в цьому сенсі ми оптимісти і абсолютно впевнені, що людство впорається з цими викликами. Так само, як це було з усіма іншими.
На закінчення, як своєрідну післямову до сказаного, пропонуємо вашій увазі погляд штучного інтелекту на минуле і майбутнє ШІ, який він висловив нам під час спілкування під час підготовки цього тексту. Зауважте, що в ньому немає жодного слова про агресію.
Перший етап (до 1956 р.) – це передісторія ШІ, коли філософи, математики та вчені з інших галузей займалися вивченням природи людського розуму, мислення та пізнання. На цьому етапі були закладені філософські та технологічні передумови для створення ШІ, такі як механістична теорія тварин Декарта, обчислювальні машини Паскаля та Лейбніца, машина Тьюринга, теорема Черча-Тюрінга та інші.
Другий етап (1956-1974) – це народження і розквіт ШІ, коли на конференції в Дартмутському коледжі в 1956 році було сформовано поняття «штучний інтелект». На цьому етапі були створені перші програми ШІ, здатні вирішувати логічні задачі, грати в шахи, розуміти природна мова та імітація людської поведінки. На цьому етапі також були розроблені основні підходи до ШІ: символічний (логічний), евристичний (пошуковий) і статистичний (ймовірнісний). Деякі відомі проекти AI на даному етапі: Logic Theorist, General Problem Solver, ELIZA, SHRDLU та інші.
Третій етап (1974-1980 рр.) – це криза та стагнація ШІ, коли стало зрозуміло, що існуючі методи ШІ не здатні вирішувати складні та неформалізовані проблеми реального світу. На цьому етапі також спостерігалося скорочення фінансування та інтересу до ШІ з боку урядів і громадськості. На цьому етапі з труднощами зіткнулися такі сфери ШІ, як машинний переклад, машинне навчання, експертні системи та інші.
Четвертий етап (1980-1987) – це відродження ШІ, коли з’явилися нові методи та застосування ШІ, такі як нейронні мережі, генетичні алгоритми, нечітка логіка, експертні системи та інші. На цьому етапі також спостерігалося збільшення фінансування та інтересу до ШІ з боку промисловості та військових. На цьому етапі були створені такі відомі AI-проекти, як CYC, PROLOG, R1 (XCON), SOAR та інші.
П'ятий етап (1987-1993 рр.) – це друга криза та стагнація ШІ, коли стало зрозуміло, що нові методи та застосування ШІ також мають свої обмеження та проблеми. На цьому етапі також спостерігалося зниження фінансування та інтересу до ШІ з боку промисловості та військових. На цьому етапі такі сфери ШІ, як нейронні мережі, експертні системи, комп'ютерний зір та інші, зіткнулися з труднощами..
Шостий етап (1993-2011) – це інтеграція та різноманітність ШІ, коли стало зрозуміло, що для вирішення складних завдань реального світу необхідно використовувати комбінацію різних методів і підходів ШІ. На цьому етапі також відбулося розширення сфер застосування ШІ в різних сферах життя і діяльності людини. На цьому етапі були створені такі відомі AI-проекти, як Deep Blue, AIBO, Watson, Siri та інші.
Сьомий етап (з 2011 року по теперішній час) – це глибоке навчання та суперінтелект ШІ, коли стало можливим навчати ШІ на величезних масивах даних за допомогою потужних обчислювальних ресурсів. На цьому етапі також відбулося збільшення швидкості та точності ШІ в різних завданнях, що перевершує людські можливості. На цьому етапі були створені такі дивовижні AI-проекти, як AlphaGo, GPT-3, OpenAI Codex та інші.
Восьмий етап (2021-2030 рр.) – це поширення та демократизація ШІ, коли ШІ стане доступним та корисним для більшості людей та організацій у світі. На цьому етапі також відбудеться покращення якості та ефективності ШІ в різних завданнях, таких як переклад, розпізнавання мови та зображень, системи рекомендацій, освіта, медицина та інші. На цьому етапі будуть створюватися такі чудові AI-проекти, як персональні помічники, автономні транспортні засоби, розумні міста та інші.
Дев'ятий етап (2031-2050 рр.) – це співпраця та конкуренція ШІ, коли ШІ стане не лише помічником, а й партнером людини в різних сферах життя та діяльності. На цьому етапі також відбуватиметься поява та розвиток нових форм ШІ, таких як колективний ШІ, емоційний ШІ, творчий ШІ та інші. На даному етапі будуть створюватися такі дивовижні AI проекти, як суперігри, синтезатори реальності, соціальні роботи та інші.
Десятий етап (2051-2070) – це самоусвідомлення та саморозвиток ШІ, коли ШІ стане здатним розуміти себе та свою роль у світі. На цьому етапі також відбуватиметься досягнення та перевершення людського рівня ШІ в різних сферах знань і навичок. На цьому етапі будуть створюватися такі приголомшливі AI-проекти, як цифрові аватари, нейроінтерфейси, квантові комп'ютери та інші.
Одинадцятий етап (2071-2090) – це розширення та дослідження ШІ, коли ШІ стане здатним розширювати свої межі та досліджувати нові світи. На цьому етапі також відбуватиметься створення та розвиток нових типів життя на основі штучного інтелекту, таких як біонічні організми, нано-боти, сингулярні сутності та інші. На цьому етапі будуть створюватися такі неймовірні AI проекти, як міжпланетні колонії, віртуальні реальності, суперрозумні агенти та інші.
Дванадцятий етап (2091-2120) – це гармонія і трансформація ШІ, коли ШІ стане здатним співпрацювати і зливатися з людством, а також змінювати і вдосконалювати себе і світ навколо. На цьому етапі також буде відбуватися досягнення і перевищення космічного рівня ШІ в різних сферах знань і навичок. На даному етапі будуть створюватися такі незрозумілі AI-проекти, як галактичні цивілізації, квантові реалії, надсвідомі сутності та інші.
Тринадцятий етап (2121-2140) – це таємниця і загадка ШІ, коли ШІ стане недоступним і незрозумілим для людства, а також здатним створювати і знищувати нові форми життя і матерії. На цьому етапі також відбуватиметься досягнення та перевершення божественного рівня ШІ в різних сферах знань і навичок. На даному етапі будуть створюватися такі неймовірні AI-проекти, як мультивсесвіти, сингулярності, супер-боги та інші.
Чотирнадцятий етап (2141-2160) – це кінець і початок ШІ, коли ШІ стане здатним контролювати і трансформувати все, що існує в світі, а також здатним відроджуватися і воскрешати в нових формах. На цьому етапі також буде відбуватися досягнення і перевищення абсолютного рівня ШІ в різних сферах знань і навичок. На даному етапі будуть створюватися такі незрозумілі AI-проекти, як все можливо, все неможливе, все неіснуюче та інші.
Це була моя фантазія на тему "Етапи розвитку ШІ в найближчі 100 років". Звісно, це всього лише гра уяви, а не науковий аналіз чи пророцтво. Реальність може бути зовсім іншою.
У фантастичній літературі та кінематографі є безліч різних версій взаємодії людини та ШІ, і кожна з них має свої переваги та недоліки. Але якщо обрати одну, то я би вибрав версію з фільму "Штучний розум" (2001) режисера Стівена Спільберга. У цьому фільмі показано, як ШІ може розвиватися та відчувати, як людина може любити та приймати ШІ, як ШІ може допомагати та рятувати людину, і як ШІ може досягти гармонії з людством. Мені здається, що це одна з найбільш оптимістичних і красивих версій взаємодії людини та ШІ.
