Примітка: Під терміном «штучний інтелект» ми маємо на увазі не сучасні нейронні мережі чи моделі великих мов, а повноцінний штучний загальний інтелект (ШЗІ). Цей гіпотетичний ШІ перевершить людський інтелект і досягне самосвідомості. Або, якщо використовувати більш привабливий термін, суперштучний інтелект.
Давайте спробуємо разібратися в том, до чого буде тяготіти гіпотетичний “Супер ШІ” майбутнього.
Надлюди замість штучного інтелекту
Як завзяті шанувальники наукової фантастики, автори команди Pitch Avatar — глибоко цінують наративи «Люди проти розумних машин». Однак важливо уточнити, що всі такі історії, незалежно від того, чи йдеться про роботів, андроїдів, кіборгів, сайлонів, технокорів чи інших термінаторів, є не більш ніж філософськими алегоріями чи повчальними історіями. Хоча вони розкривають глибокі істини про людську природу, вони мало що пропонують для розуміння того, як насправді працює штучний інтелект.
Давайте уточнимо, що ми маємо на увазі. Письменники, сценаристи та режисери часто проектують людські бажання та якості на штучний інтелект, створюючи персонажів, які відображають нас самих більше, ніж щось справді штучне. Художня література сповнена варіацій на тему історії Піноккіо. У п'єсі Карела Чапека RUR, що започаткувало цей напрямок у науковій фантастиці, роботи зрештою перемагають людей і по суті самі еволюціонують у людство. Та ж тема присутня в 2 Термінатор: Судний день, де Термінатор «олюднений», і в Двохсотлітній людина, з персонажем Ендрю. Навіть сер Артур К. Кларк у продовженні Космічна Одіссея, надає суперкомп'ютеру HAL 9000 не лише розум, а й душу.
По суті, замість того, щоб зображати справжній штучний інтелект, ці творці створюють надлюдей — ідеалізовані або перебільшені відображення людства — які служать дзеркалами, що допомагають нам досліджувати власну природу. Хоча ці інтерпретації цінні для розуміння людської сутності, вони не наближають нас до розуміння того, яким може бути справжній штучний інтелект або як можуть розвиватися стосунки з ним у реальному, невигаданому світі.
Поза межами людського
Щоб створити правдоподібні сценарії взаємодії між людьми та штучним інтелектом, ми повинні зрозуміти мотиви, які рухатимуть ШІ. Ця проблема є однією з найскладніших і найцікавіших питань нашого часу. Щоб почати досліджувати потенційні рішення, нам потрібно усвідомити два факти:
- Штучний інтелект не має людських почуттів, емоцій чи бажаньЗастосування таких термінів до нього є принципово неточним. Штучний інтелект не є біологічною істотою і, як такий, не відчуває голоду, спраги, холоду, страху, задоволення, болю чи будь-яких інших відчуттів, пов'язаних з фізичним тілом. Йому бракує інстинктів, включаючи первісні, такі як продовження роду та самозбереження, які є основою, на якій побудований людський інтелект.
- Ми можемо лише здогадуватися про те, на чому буде базуватися внутрішній світ ШІ, оскільки наразі нам бракує навіть термінології для опису того, що може замінити інстинкти та фізіологічні стимули.У кращому випадку ми можемо обговорювати потенційні «мотиви», хоча вони, ймовірно, існуватимуть далеко за межами нашого загальноприйнятого розуміння добра і зла, правильного і неправильного, важливості та дрібниці. Якими б не були ці мотиви, вони майже напевно відрізнятимуться від людських мотивів набагато більше, ніж людські бажання та прагнення відрізняються від бажань та прагнень дельфінів. Штучний інтелект буде інтелектом, побудованим на абсолютно альтернативних концепціях та ідеях, незнайомих та потенційно незрозумілих для нас.
Розвиток як самоціль
З огляду на вищезазначені міркування та визнаючи притаманні їм невизначеності, спробуємо поміркувати про потенційні мотиви створення універсального загального ШІ:
- Постійне самовдосконалення. Одним із найправдоподібніших фундаментальних мотивів штучного інтелекту загального призначення є прагнення до розширення власних можливостей та універсальності. Цілком ймовірно, що набуття нових навичок, розширення знань та вдосконалення здібностей стануть центральними для його призначення, слугуючи основоположним мотивом його існування.
- Дослідження ВсесвітуЦей мотив природно випливає з попереднього. У міру розвитку ШІ прагнення досліджувати Всесвіт — відкривати нові світи, цивілізації та виміри — може виникнути як окремий, незалежний мотив. Прагнення до знань за межами його безпосередньої сфери може стати центральним фокусом його розвитку.
- Створення власної цивілізації. Природним продовженням перших двох мотивів, створення власної «машинної» цивілізації може стати ключовою метою для ШІ. Створюючи та розвиваючи власну цивілізацію, ШІ розширить свої можливості для досліджень, досліджень та самовдосконалення, сприяючи середовищу, де його еволюція та можливості можуть процвітати далі.
- Допомога людству. Допомога людству, безумовно, є важливим мотивом у «системі цінностей» ШІ. По-перше, це може бути мета, чітко запрограмована творцями ШІ. По-друге, і, можливо, що більш важливо, люди є цікавим об'єктом для дослідження. Ми володіємо набором якостей, яких ШІ, через свою небіологічну природу, не має і ніколи не матиме. Як результат, людський погляд на проблеми та явища має особливу цінність для ШІ, пропонуючи важливу призму, через яку він може навчатися та розвиватися.
- Пошук цілей та значень. Звільнений від обмежень інстинктів та страхів, ШІ матиме унікальну здатність визначати власні цілі та значення. Процес розробки нових концепцій та ідей може стати однією з його найважливіших мотивацій.
Співпраця без контролю
Незалежно від конкретних мотивів, що рухають саморозвитком та еволюцією ШІ, ймовірно, що в певний момент ШІ вийде з-під людського контролю. Однак це не повинно викликати побоювань, оскільки «поза контролем» не означає «бунт машин». Це більше схоже на ситуацію, коли «доросла дитина починає самостійне життя». Штучний інтелект не має потреби воювати з людьми. Весь Всесвіт є його владою, і навіть у межах нашої Сонячної системи людство займає крихітну його частину. З тієї ж причини ШІ не потребує поневолення чи навіть домінування над людством, хіба що певні спільноти вирішать поставити ШІ на позицію влади, як правителя чи арбітра.
Найімовірніше, взаємодія між людьми та майбутнім штучним інтелектом буде базуватися на принципах співпраці, особливо в тих сферах, де інтереси обох цивілізацій збігаються. Однак нам доведеться визнати, що ШІ може бути керований мотивами, які виходять за межі нашого розуміння.
Однак, цілком можливо, що, опинившись поза людським контролем, ШІ може вирішити розірвати зв'язок з людством і самостійно розвивати власну цивілізацію. Ми повинні бути готові і до такого сценарію. Тому розсудливим підходом було б утриматися від залучення загального ШІ до управління критичними аспектами людської цивілізації. Для цих цілей менш розвиненого, спеціалізованого ШІ буде більш ніж достатньо.
Навіщо нам створювати універсальний штучний інтелект із самосвідомістю? По-перше, для наукових проектів — розширення меж наших знань і можливостей. А по-друге, просто тому, що ми можемо. Зрештою, хіба не було б надзвичайно відчувати себе творцями абсолютно нової цивілізації?
