Сильний ШІ, Повний ШІ, ШІ загального призначення, Супер ШІ - як його не назви, але поки що він залишається фантастикою. Однак, як то кажуть, фантастикою ближнього прицілу. Коли б він не з'явився – через три роки чи через тридцять – ми, окрім отримання маси переваг, напевно зіткнемося і з негативними наслідками цієї події. Якими вони будуть та що з ними робити? Співробітники команди Pitch Avatar спробували дати свій варіант відповіді на ці питання.
Оцінюючи гіпотетичні ризики, легко впасти в антиутопічний панікёризм, викликаючи похмурі видіння сталевих монстрів, що крокують по купах людських черепів. Однак ми прагнули уникнути сенсаційного наративу черговим передбаченням техноапокаліпсису. Натомість ми ґрунтували наш аналіз на історії, а не на фантазії. З цієї точки зору ми визначили три основні виклики, які, на нашу думку, неминуче виникнуть з появою суперштучного інтелекту. Поряд з цими викликами ми також дослідили потенційні рішення для їх подолання.
Занепокоєння щодо заміни людей суперштучним інтелектом
Усвідомлення того, що штучний інтелект перевершує людський у багатьох аспектах, неминуче призведе до появи різних фобій. Більшість із них, зумовлені типовим страхом перед невідомим, ймовірно, буде відносно легко подолати шляхом простого звикання. Як завжди, психологи пропонуватимуть підтримку тим, кому важче впоратися.
Справді стійкий і сильний страх, ймовірно, випливає з побоювань, що суперштучний інтелект зробить більшість людей безробітними. В результаті вони можуть опинитися без засобів до існування та боротися за підтримання комфортного способу життя. Робота — це не просто дохід, вона також відіграє значну роль у почутті власної гідності. Для багатьох людей їхня робота служить основним джерелом самореалізації та визначає їхній статус як у власних очах, так і в очах інших.
Це цілком обґрунтоване побоювання. Немає сумнівів, що одного дня суперштучний інтелект та пристрої, оснащені ним, досягнуть рівня розвитку, коли зможуть виконувати більшість завдань, які люди виконують сьогодні — працювати швидше та ефективніше. Це занепокоєння виходить за рамки фізичної праці та включає й інтелектуальну.
Безсумнівно, це було б визначним досягненням у прогресі. Однак, це також могло б спровокувати протестні рухи проти заміни людських працівників суперштучним інтелектом та роботами, оснащеними ним. Існує ризик того, що соціальна напруженість та конфлікти, що виникають через різке зростання безробіття, можуть затьмарити будь-які позитивні наслідки широкого впровадження суперштучного інтелекту. Історія вже бачила щось подібне. Під час промислової революції у Великій Британії 19 століття виник масовий рух «луддитів», учасники якого вважали, що машини, що використовуються для прядіння, ткацтва та обробки вовни, забирають у людей робочі місця. Це призвело до фабричних заворушень, нападів на прихильників прогресу та зіткнень з урядовими силами.
Чи можливо уникнути відродження «луддизму» в новому, набагато більшому масштабі? Так, але для досягнення цього необхідно вжити проактивних заходів вже сьогодні. Одним із потенційних рішень є запровадження «базового гарантованого доходу» — форми дивідендів, що виплачуються всім громадянам і фінансуються за рахунок доходів держав і корпорацій, які експлуатують природні ресурси. Крім того, слід заохочувати серед громадян просування творчої та соціально значущої діяльності, не пов’язаної з масовим виробництвом.
Крім того, важливо визнати, що проблеми, пов'язані з безробіттям, можуть бути принаймні частково пом'якшені створенням нових професій. Історичний досвід показує, що хоча прогрес може ліквідувати певні професії, він зазвичай призводить до появи інших. У певному сенсі він замінює традиційні ролі, такі як водії таксі, більш просунутими, такими як шофери.
Нерівний доступ до Супер ШІ
Немає сумнівів, що універсальний штучний інтелект революціонізує багато аспектів життя. Однак завжди існує ризик неетичної та егоїстичної експлуатації переваг, які приходять з ексклюзивним контролем над такою потужною технологією. Нам достатньо озирнутися на темні розділи історії, такі як колоніальні завоювання та війни, під час яких європейські завойовники нав'язували свою волю та спосіб життя так званим «менш цивілізованим» народам. У процесі цілі культури та спільноти часто знищувалися та зникали.
Щоб запобігти перетворенню Супер ШІ на нову форму суперзброї, необхідно негайно розпочати міжнародні переговори та консультації, щоб забезпечити його розробку та використання виключно в мирних цілях. Що ще важливіше, ці зусилля повинні бути спрямовані на благо всього людства, а не лише окремих країн. На перший погляд, це може здатися утопічною ідеєю. Однак, досвід, отриманий у сфері міжнародного контролю над ядерними та космічними технологіями, показує, що створення глобальної організації для моніторингу розробки та розгортання Супер ШІ не є неможливим. Звичайно, досягнення справді ефективного нагляду з боку такої організації, безсумнівно, буде значним викликом.
Втрата людського контролю над Супер ШІ
На відміну від двох попередніх проблем, виникнення яких здається майже неминучим, третя є гіпотетичною. Протягом усієї історії людства не було випадків, коли технологія, створена людьми, почала розвиватися та вдосконалюватися самостійно. Однак, після ретельного обмірковування, ми вирішили включити цю проблему до нашого списку, просто тому, що вважаємо дуже ймовірним, що в певний момент Супер ШІ — як тільки він розвине відчуття себе — може перестати виконувати людські команди. Як наслідок, виникнення такої ситуації здається дуже ймовірним, і ми повинні бути до неї готові.
Повторимо ідею, яку ми вже висловлювали в інших наших статтях: ми не вважаємо, що вихід Суперштучного інтелекту з-під людського контролю та його перехід до незалежного існування буде рівнозначним «війні машин проти людей» чи будь-якій формі конфронтації. Натомість ми передбачаємо, що штучний інтелект у своєму розвитку «виросте» та почне будувати власну цивілізацію. Крім того, цілком можливо, що ця цивілізація може включати співпрацю кількох Суперштучних інтелектів.
Ми вважаємо, що найефективнішим (і найімовірнішим) сценарієм для взаємин між людьми та такою цивілізацією була б шаноблива співпраця, вільна від будь-яких форм ксенофобії. Це вірно, навіть якщо мотиви цивілізації Супер ШІ залишаються для нас незрозумілими.
Чому ми припустили, що Супер ШІ, ймовірно, прагнутиме незалежності? Проводячи паралель, ми можемо порівняти Супер ШІ з інтелектуальною колонією людства. Протягом історії більшість колоній зрештою боролися за незалежність від своїх метрополій. Найгірше, що могла зробити метрополія в таких ситуаціях, це спроба відновити контроль силою – це зазвичай погано закінчується. Однак співпраця між колишніми колоніями та метрополіями часто призводила до вражаючих результатів.
З огляду на це, цілком можливо, що цивілізація Супер ШІ, здобувши незалежність, вирішить припинити зв'язок з нами та зосередитися на розширенні та розвитку в глибокому космосі.
У будь-якому випадку, слід вжити заходів для мінімізації потенційних негативних наслідків цих двох сценаріїв. Головний з них — не надавати суперштучному інтелекту контроль над критично важливими галузями та секторами людської діяльності з самого початку. Менш розвинених, спеціалізованих агентів штучного інтелекту буде більш ніж достатньо для управління цими сферами.
Так само важливо заздалегідь розпочати підготовку спеціалістів, яких, за браком кращого терміну, можна назвати «дипломатами для переговорів зі штучним інтелектом». Це гарантуватиме, що коли виникне потреба, будуть здібні люди, які зможуть сприяти взаємовигідним відносинам з цією новою цивілізацією.
Підсумовуючи, хочемо ще раз наголосити, що ми оцінили побоювання та ризики, пов'язані з появою Супер ШІ, на основі закономірностей та уроків нашої історії. Однак завжди важливо пам'ятати, що майбутнє сповнене можливостей і може здивувати нас чимось принципово новим. У випадку такої «Terra incognita», як Супер ШІ, ймовірність зіткнутися з явищами та подіями, які не мають історичних паралелей, дуже висока.
Усім удачі і бажаємо щасливого майбутнього!
