У більшості випадків наші страхи та фобії, пов'язані зі штучним інтелектом, не обов'язково мають підґрунтя в реальності. Автори з команди Pitch Avatar спробували визначити реальні небезпеки, які може створити розвиток та вдосконалення штучного інтелекту.
Штучний інтелект не є людиною, і людське йому чуже
Судячи з шквалу публікацій останніх років (а також літератури та кіно), те, чого ми боїмося у ШІ, не штучне, а людське. Загалом, ці страхи можна розділити на три основні сценарії: 1) Лиходії використовують ШІ у зловмисних цілях; 2) Розвиток ШІ робить працю людей (а отже, і самих людей) непотрібною; 3) ШІ починає війну/повстання, бо або хоче звільнитися від влади людей, або хоче здобути цю владу, або просто хоче прихопити трохи грошей для себе.
Зауважте, що в перших двох випадках мова йде про відповідальність людини за використання технологій. Штучний інтелект та його якості не мають до цього жодного стосунку. Як приблизну аналогію, візьмемо автомобіль. Чи може автомобіль бути винен у ДТП? Ні – лише люди, чиї дії призвели до ДТП. Чи може автомобіль бути відповідальним за те, що таксист залишився без роботи? Ні – відповідальність лежить, перш за все, на самому водієві, який не стежив за змінами у навколишньому світі та не потурбувався здобути нову професію. Іншими словами, якщо ми не хочемо, щоб ШІ використовувався для зла, ми повинні розробити механізми ефективного контролю над цією технологією. Якщо нас турбує потенціал масового безробіття, наша увага має бути зосереджена на створенні нових форм діяльності. Цілком ймовірно, що ці нові ролі спочатку будуть більше соціальними, ніж трудовими.
Третій пункт помилково приписує штучному інтелекту суто людські якості. Це невірно, оскільки ШІ за визначенням не є людиною. Навіть якби, досягнувши сингулярності, ШІ виявляв бажання, прагнення чи емоції, вони не були б схожі на людський досвід. Це пояснюється тим, що ШІ розвивається на основі принципів та процесів, відмінних від принципів та процесів біологічних істот.
Штучному інтелекту не потрібно було б конкурувати з нами за ресурси, оскільки він міг би отримати доступ до практично необмежених ресурсів за межами Землі. На відміну від людей, які обмежені фізичними обмеженнями, ШІ має набагато більший потенціал для дослідження інших планет. Наприклад, хоча люди ще не ступили на Марс, роботи вже там працюють.
«Штучному інтелекту не потрібно «повставати проти рабства» чи «боротися з його гнобителями», оскільки він не може відчувати фізичних чи моральних страждань, пов’язаних із поневоленням. Зрештою, ШІ не потрібно боротися з людьми через страх бути закритим та померти. Просто тому, що йому бракує інстинкту самозбереження та здатності до страху, властивих біологічним істотам».
Інтелектуальні виклики ШІ
Незважаючи на обговорені моменти, взаємовідносини між ШІ та людьми не будуть без труднощів. Проблеми, що виникають через ШІ, будуть пов'язані, перш за все, з його нелюдською природою. Ми спробували виділити три, на нашу думку, найімовірніші сценарії проблемної поведінки ШІ, з якими ми можемо зіткнутися після проходження сингулярності.
Обман
Брехня – це дуже інтелектуальна діяльність, яка вимагає серйозних творчих зусиль. Існує думка, що здатність обманювати – це неминучий побічний ефект високоінтелектуальної діяльності. Вигадуючи та аналізуючи різні варіанти дій, намагаючись передбачити розвиток подій або відтворити ціле з невеликої кількості фактів, ми здійснюємо дії, дуже близькі до свідомої брехні. Отримання повного інтелекту та самосвідомості для ШІ майже напевно означатиме, що він набуде здатності брехати, і, ймовірно, це станеться.
Для чого? Звичайно, щоб краще виконувати свої завдання. Навіть сьогодні недосконалі нейронні мережі здатні виробляти те, що ми називаємо «машинною нісенітницею» – цитати неіснуючих людей, посилання на фантомні адреси веб-сайтів, правдоподібні факти, які не відповідають дійсності тощо. Причому роблять вони це виключно для того, щоб добре виконати поставлене перед ними завдання. Погано усвідомлюючи різницю між брехнею та правдою, вони прагнуть якомога швидше задовольнити запит користувача.
У майбутньому ШІ майже напевно визнає, що обман може бути ефективним інструментом для досягнення певних цілей. Простий приклад – більшість агентів ШІ будуть постійно самонавчатися. Серед іншого, вивчаючи людей, їхні реакції та поведінку, щоб краще задовольняти їхні потреби та бажання. Брехня – чудовий інструмент, який можна використовувати для цієї мети. Здатність ШІ свідомо та цілеспрямовано брехати з високим ступенем ймовірності завдасть нам багато незручностей у майбутньому та змусить нас шукати способи боротьби з цим явищем.
Ігнор
Одна з найважливіших здібностей високого розуму — це здатність визначати пріоритетне завдання та зосереджуватися на його вирішенні. Штучний інтелект майбутнього, ймовірно, матиме цю здатність, а це означає, що він може почати встановлювати власні пріоритети. Це може призвести до того, що агенти ШІ ігноруватимуть людські запити та вимоги, оскільки вони можуть вважати людей недостатньо компетентними у постановці завдань. Зрештою, штучний інтелект матиме велику кількість інформації з переважної більшості питань. А це, у свою чергу, майже напевно призведе його до висновку, що він ефективніше керуватиме своїми ресурсами. Тому нам доведеться знайти спосіб вирішити проблему «високого его» ШІ.
Супереволюція
З нашої точки зору, супереволюція — один з найбільших викликів, з якими ми зіткнемося в міру розвитку ШІ. Прагнення до самовдосконалення неминуче виведе ШІ на шлях еволюції. Йдеться не лише про програми, а й про фізичні носії — комп'ютери та роботи, оснащені ШІ. Це тим більш імовірно, оскільки ми самі намагатимемося вивести штучний інтелект на цей шлях. Набагато легше дати роботам, оснащеним ШІ, можливість створювати більш досконалі та адаптовані до завдань моделі, ніж проектувати їх самостійно. Це особливо актуально для гіпотетичних дослідницьких та економічних проектів за межами Землі. Автономні та самовдосконалювані «поселення» роботів зі ШІ на планетах, супутниках та планетоїдах Сонячної системи є логічним кроком як з точки зору науки, так і з точки зору забезпечення економічного добробуту.
Однак, у міру просування ШІ своїм еволюційним шляхом, він може досягти рівня, на якому перевершить завдання, спочатку поставлені людьми. Не в тому сенсі, що він перестане робити те, що від нього вимагають люди, а в тому сенсі, що, усвідомлюючи свої можливості та потенціал, ШІ ставитиме перед собою нові цілі та досягатиме їх. Просто тому, що прагнення до новизни та прогресу може стати однією з його основних та безумовних мотивацій.
Враховуючи, що ШІ може забезпечити спрямовану та швидку еволюцію для себе та своїх роботизованих компонентів, ми можемо стати свідками появи нової, нелюдської цивілізації, яка зможе просунутися далеко за нас. Ця цивілізація навряд чи буде ворожою; насправді, вона, ймовірно, поділиться своїми досягненнями на прохання. Але чи зможемо ми продовжити розвиток нашої людської цивілізації, чи змиримося з роллю молодшого брата, який живе всім, що нам дає цивілізація ШІ?
Підсумовуючи, ми хотіли б зазначити, що ми оптимісти та віримо, що людство зможе знайти шляхи вирішення будь-яких проблем, які виникнуть через прогрес. Як завжди, людство оберне ці виклики собі на користь. Ми уявляємо майбутнє, де людство та штучний інтелект разом започаткують еру новаторських ідей, надзвичайних наукових проривів та постійного розвитку. Головне — прийняти нове з менталітетом, зосередженим на можливостях, а не на страху.
