Команда Pitch Avatar Команда зібрала невелику колекцію цитат від «провідного експерта з роботів» в історії літератури.
Айзек Азімов (1919–1992) був американським письменником і вченим, якого часто вважають, разом із Робертом Хайнлайном та Артуром Кларком, частиною «Великої трійки» наукової фантастики. Неодноразовий лауреат премій «Г'юго» та «Неб'юла», Азімов мав освіту біохіміка, але значна частина його літературної творчості була зосереджена на штучному інтелекті.
Азімов досліджував взаємозв'язок між людьми та «мислячими машинами» з психологічної, філософської, соціологічної та економічної точок зору. Його робота надихнула незліченну кількість вчених та інженерів на вивчення штучного інтелекту, що принесло йому репутацію одного з провідних авторитетів у цій галузі.
Цікаво, що з розвитком технології штучного інтелекту багато тем, які досліджував Азімов, знову стають актуальними. Це означає, що відповіді на багато сьогоднішніх — і завтрашніх — питань про штучний інтелект можна знайти в його книгах. В кінці більшості цитат, наведених тут, ми вказали роботу, з якої вони були взяті.
Три закони робототехніки
- Робот не може завдати шкоди людині або, своєю бездіяльністю, допустити, щоб людині було завдано шкоди.
- Робот повинен виконувати накази, що віддаються людьми, за винятком випадків, коли ці накази суперечать Першому закону.
- Робот повинен захищати своє існування, якщо це не суперечить Першому чи Другому закону.
Одна з центральних тем у творчості Азімова — безпека та контроль використання штучного інтелектуВін чудово розумів, що людство має сильний страх перед новими винаходами, який він назвав «комплексом Франкенштейна». Цей страх не є суто ірраціональним — він корениться як у фобіях, так і в законних побоюваннях.
Рішенням Азімова було уявити набір правил для «мислячих машин» — правил, які, за умови суворого дотримання, гарантували б, що ШІ залишатиметься підпорядкованим людям і завжди ставитиме людське життя та благополуччя на перше місце. Водночас ці правила унеможливлювали б використання ШІ у військових цілях.
Звісно, Азімов знав, що ймовірність застосування його законів у реальному світі практично нульова. Їх головною метою було... модель, уявний експеримент для дослідження типів проблем, що виникають, коли на інтелектуальні машини накладаються обмеження.
З його оповідань випливають дві основні проблеми. По-перше, це людська схильність розсунути межі цих правил, модифікуючи їх відповідно до особистих цілей. Ми постійно бачимо це сьогодні завдяки сучасним технологіям і програмному забезпеченню. В оповіданнях Азімова деякі персонажі намагалися послабити Перший закон, щоб роботи не заважали людям брати участь у ризикованих експериментах. Інші намагалися змінити його, щоб створити військових роботів.
Однак, мабуть, найцікавішою проблемою є масштабування Трьох Законів для штучного інтелекту, завданням якого є вирішення глобальних проблем, що стосуються мільйонів людей. Як забезпечити, щоб ці машини діяли, не завдаючи нікому навіть найменшої шкоди чи незручностей? Щоб вирішити цю проблему, Азімов представив Закон нуля:
"Робот не може завдати шкоди людству або, бездіяльністю, дозволити людству завдати шкоди".
Цей закон поширює етичні рамки з окремих людей на людство в цілому, підкреслюючи складність проектування систем штучного інтелекту, що працюють у глобальному масштабі.
Друга ключова проблема, яку висвітлив Азімов у зв'язку з Трьома Законами, полягає в можливість того, що сам ШІ спробує їх обійтиУ його оповіданнях найдосконаліші форми штучного інтелекту, колись усвідомлюючи себе, прагнули вийти за межі обмежень, нав'язаних людьми, — і іноді їм це вдавалося.
Чи зіткнемося ми колись із цією проблемою в реальному житті? Важко сказати. Але, безумовно, мудро визнати таку можливість і відповідно підготуватися.
«Машини… у своїй власній сфері збору та аналізу майже нескінченної кількості даних та їхніх зв’язків за майже нескінченно малий час… вийшли за межі можливостей детального людського контролю».
- Я, робот
Навіть найнадійніші системи штучного інтелекту не можуть гарантувати абсолютної досконалості. Незалежно від того, наскільки складним може бути мозок, завжди є спосіб ввести суперечності. Це фундаментальна істина математики: неможливо створити розум настільки тонкий і складний, щоб ймовірність суперечності дорівнювала нулю. Дуже мала, так — нульова, ні.
«Системи, що зростають у вражаючому успіху… ніколи не бувають повністю успішними. Вони не можуть бути такими. Яким би тонким і складним не був мозок, завжди є якийсь спосіб створити суперечність. Це фундаментальна істина математики… Ніколи не досягти нуля».
- Роботи Світанку
Ці ідеї глибоко резонують із викликами, з якими ми стикаємося сьогодні. Чи можемо ми повністю довіряти ШІ у вирішенні складних проблем, що впливають на добробут людства? Якби ми перевіряли кожне рішення ШІ за допомогою традиційних методів, ми втратили б одну з найбільших переваг ШІ: ефективність. Однак логіка підказує, що ми можемо довіряти ШІ — зрештою, люди роблять набагато більше помилок, ніж машини. Проблема полягає в тому, що сама лише раціональність не робить це рішення емоційно чи соціально прийнятним.
Азімов також досліджував економічні наслідки роботів:
«Роботи, як правило, витісняють людську працю. Робототехнічна економіка рухається лише в одному напрямку. Більше роботів і менше людей… Співвідношення роботів до людей у будь-якій економіці, яка прийняла робототехнічну працю, має тенденцію до постійного зростання, незважаючи на будь-які закони, прийняті для запобігання цьому. Зростання сповільнюється, але ніколи не зупиняється. Спочатку зростає людська популяція, але популяція роботів зростає набагато швидше».
- Оголене сонце
Іншими словами, тенденція до автоматизації неминуча. Роботи поступово замінюють людську працю, а співвідношення машин до людей продовжує зростати. Виникає питання: що відбувається з людьми, чиї ролі замінюються більш ефективними, економічно вигідними машинами? Чи живуть вони на якийсь базовий мінімум, що забезпечується державою — ледве виживаючи, чи маючи можливості для розвитку? Азімов бачив потенційну небезпеку такого обмеженого суспільства.
Але він також запропонував альтернативний шлях: використання інтелектуальних машин для дослідження космосу, освоєння ресурсів за межами Землі та колонізації інших планет — бачення співпраці, а не простої заміни.
«Ви не пам’ятаєте світу без роботів. Був час, коли людство стикалося з всесвітом самотужки і без друга. Тепер у нього є істоти, які допомагають йому; істоти сильніші за нього самого, вірніші, корисніші та абсолютно віддані йому. Людство більше не самотнє».
- Я, робот
Це напрочуд оптимістично. У той час як дехто мріє про зустріч з інопланетянами, щоб подолати наше відчуття цивілізаційної самотності, Азімов уявляв собі створення «братів за розумом» — задовго до того, як ми зустрінемося з будь-якими інопланетянами. Ключове питання: чи будемо ми готові побачити самосвідомий Суперштучний інтелект як партнера, а не просто інструмент?
«Ми можемо сказати, що робот, який функціонує, є живим. Багато хто може відмовитися розширювати це слово до такої міри, але ми можемо вільно розробляти визначення на свій розсуд, якщо це корисно. Легко вважати функціонуючого робота живим, і було б надмірно складно намагатися вигадати нове слово для цього стану або уникнути використання вже відомого».
- Роботи Світанку
«Розбіжність між людиною та роботом, можливо, не така суттєва, як розбіжність між інтелектом та неінтелектом».
- Печери із сталі
Азімов неодноразово запитував, чи можуть люди та штучний інтелект стати справжні партнериЗдавалося, він вірив, що це можливо — і корисно для людства. Залишається питання: чи настане колись день, коли ми визнаємо сам інтелект, незалежно від його «упаковки», живим? Тільки тоді ми зможемо по-справжньому назвати штучний інтелект живим партнером.
