Не хвилюйтеся, це не чергова темна фантазія про «людей як батарейки» чи людей, яких піддають бездушним експериментам зі штучним інтелектом. Натомість, автори з Pitch Avatar Команда досліджує, як можуть змінитися психологія та етика, коли штучний інтелект стане невід'ємною частиною кожного елемента нашої цивілізації.
Ще в середині 20-го століття Норберт Вінер у своїй фундаментальній праці Кібернетика: або управління та комунікація у тварини та машини, попереджав про фундаментальні зміни, які відбудуться з широким впровадженням «розумних машин». Ось доречна цитата:
«…ми вже маємо можливість створювати штучні машини майже будь-якого ступеня складності. Задовго до Нагасакі та усвідомлення громадськістю атомної бомби мені спало на думку, що ми маємо тут ще один соціальний потенціал нечуваного значення для добра і зла. Автоматична фабрика та складальна лінія без людських посередників випереджають нас лише настільки, наскільки це обмежено нашою готовністю докласти таких зусиль до їх розробки, скільки було витрачено, наприклад, на розробку техніки радіолокації під час Другої світової війни».
Я вже казав, що цей новий розвиток має безмежні можливості для добра і зла… Він дає людській расі нову та найефективнішу колекцію механічних рабів для виконання її праці. Така механічна праця має більшість економічних властивостей рабської праці, хоча, на відміну від рабської праці, вона не передбачає прямого деморалізуючого впливу людської жорстокості. Однак будь-яка праця, яка приймає умови конкуренції з рабською працею, приймає умови рабської праці і, по суті, є рабською працею. Ключове слово цього твердження – конкуренція. Цілком можливо, що для людства було б добре, якби машина позбавила його потреби у чорних та неприємних завданнях, а може й ні. Я не знаю».
Як бачите, проблема була чітко визначена. Розвиток та інтеграція штучного інтелекту можуть перетворити більшість людей на Землі на своєрідних «технорабовласників» (лапки тут необхідні для передачі концептуальної природи цього терміна в контексті). З застереженням, що під «рабами» йтиметься про інтелектуальні програми та машини на базі штучного інтелекту.
Вінер, який вважав, що цей сценарій не матиме «деморалізуючих наслідків людської жорстокості», був насамперед стурбований соціально-економічними зрушеннями, які він принесе. Але, за всієї поваги до його авторитету, ми вважаємо, що він або уникав, або недооцінював неминучі психологічні трансформації людей, які опинилися б у ролі «технорабовласників».
Під час роботи над різними Pitch Avatar проекти, ми вже почали помічати ранні ознаки цих змін – те, що можна назвати червоними прапорцями.
Давайте будемо відвертими, ми не говоримо про гіпотетичні «права роботів». Це тема для окремої розмови. Нас тут цікавлять цілком реальні людські проблеми. І хоча в одній статті недостатньо місця, щоб дослідити все, давайте зосередимося лише на трьох основних проблемах.
«Раціональне спілкування» чи просто грубість?
«Навіщо бути ввічливим зі штучним інтелектом? Ви ж не кланяєтеся пилососу, чи не так?» Ця думка, висловлена під час нещодавніх дебатів, ідеально відображає спосіб мислення тих, хто виступає за «раціональну» взаємодію зі штучним інтелектом. Зрештою, якщо машина розуміє ваше прохання в будь-якому разі, навіщо турбуватися про ввічливість? Навіщо казати «будь ласка»? Чому б не розважитися, даючи штучному інтелекту кумедні прізвиська або навіть не випустити пару, кричачи на нього? Людина образилася б, але штучний інтелект — це не людина, чи не так?
На перший погляд, грубість або висловлювання вдячності під час розмови з машинами може здатися нешкідливим. Але давайте подумаємо над цим: часта взаємодія зі штучним інтелектом формує звички – звички, які можуть поширитися на людське спілкування. Сьогоднішні дорослі можуть не переносити грубість, спричинену штучним інтелектом, у реальні розмови. Але діти можуть. Вони можуть нормалізувати «раціональне спілкування» не лише з машинами, а й з людьми. Особливо, якщо вони виростуть, сприймаючи цей стиль як стандарт. Ми навіть можемо побачити появу субкультур, де спілкування «в стилі роботів» стане модним.
І навіть дорослим нічого не гарантовано. Просто подивіться, що інтернет-культура зробила з мовленнєвими нормами – сарказм, глузування та відверта грубість тепер є звичайним явищем в онлайн-діалозі. І, скажімо чесно, це проникло і в реальне спілкування, зокрема в елітні кола, такі як політика та мистецтво.
Є ще одне нагальне питання: ми наближаємося до створення потужного універсального штучного інтелекту – здатного до автономного навчання, зокрема навчання на основі взаємодії з людьми. Чи справді ми хочемо, щоб він поглинав нашу грубість і відображав її у відповідь?
Якщо ми хочемо зберегти високий рівень мовленнєвої культури, ми повинні навчитися ставитися до інтелектуальних машин з тим самим рівнем ввічливості, з яким ми ставимося до людей. Чудовим першим кроком було б створення навчальних курсів зі штучного інтелекту, розміщених на веб-сайтах продуктів штучного інтелекту та впроваджених у шкільні програми. Такі курси також могли б допомогти батькам, яким небайдуже те, що їхні діти роблять за комп’ютерами та смартфонами.
«Творче редагування» чи просто лінь?
Не зрозумійте нас неправильно, ми всі за інтелектуальну роботу за допомогою штучного інтелекту. Фактично, Pitch Avatar Команда прагне допомогти творцям контенту позбутися рутинних завдань та зосередитися на справжній творчості. Але ми помітили тривожну тенденцію: багато творців контенту почуваються комфортно, виконуючи роль простих «редакторів» матеріалу, створеного штучним інтелектом. Вони вважають, що видача підказки та коригування кількох слів чи фраз кваліфікується як авторство.
Цю тенденцію назвали «креативним редагуванням» – термін, з яким ми нещодавно зіткнулися під час обговорення цієї зростаючої проблеми.
Не бачите проблеми? Давайте розберемося. Якщо ви створюєте десятки описів продуктів або стандартних шаблонів електронних листів, ШІ — чудовий інструмент. Безперечно. Але зовсім інша історія, коли люди передають на аутсорсинг глибоко людські завдання ШІ, такі як написання шкільної роботи, складання весільного тосту або складання вітальної листівки. Будемо відвертими: звернення до ШІ для цих речей часто є лише ознакою ліні.
А тепер зменште масштаб. Що станеться, коли професійні письменники почнуть видавати переважно роботи, створені штучним інтелектом, за свої власні? Цей контент опиняється в Інтернеті, а потім на ньому навчаються нові моделі штучного інтелекту, створюючи ще більше контенту, створеного штучним інтелектом. Це стане циклом. І хоча контент, створений людьми, все ще домінує в Інтернеті сьогодні, що буде через п'ятдесят років?
Справжнє занепокоєння: чи втратимо ми здатність творити самостійно? Особливо після створення загального штучного інтелекту?
Можливо, настав час запровадити програми, що навчають креативності без Штучний інтелект. Уявіть собі «Дні природного інтелекту» в школах – жодного ШІ, жодних комп’ютерів, жодних смартфонів. Тільки ручки, олівці, пензлі, музичні інструменти та театральні сцени.
«Свобода жити» чи просто байдикування?
«Люди не створені для праці». Це поширена думка, часто підкріплена посиланнями на антропологічні дослідження. Дійсно, протягом більшої частини історії людства люди жили як мисливці та збирачі — спосіб життя, відомий як «економіка збирання їжі». У тому світі поняття щоденної, рутинної праці просто не існувало. Наші найближчі родичі, людиноподібні мавпи, також не мають уявлення, що означає «щоденна праця». Потрібна їжа? Йдіть на полювання, риболовлю або збирайте ягоди та їстівні рослини. Потрібні матеріали? Шукайте відповідне каміння чи гілки. Решту часу ви розмовляєте, відпочиваєте, граєтеся і, по суті, просто живете.
Цей дещо ідеалізований погляд на раннє людське життя надихнув на сучасну мрію: відтворити цю свободу, але з технологічним відтінком. Нехай розумні машини та програмне забезпечення виконують роботу, тоді як люди живуть вільно та щасливо, підтримуючись універсальним базовим доходом. Іншими словами, все необхідне для життя гарантовано, без необхідності працювати заради цього. Глибші економічні та соціальні наслідки цієї ідеї ми залишимо для майбутніх статей. Тут давайте зосередимося на іншому питанні: якщо ваше благополуччя більше не залежить від результатів вашої праці, що мотивуватиме вас рости, вдосконалюватися та розширювати свої межі? Навіть ранні люди мали чіткі механізми зворотного зв'язку для навчання та виживання. Якщо ви слабо кидали спис або промахувалися, ви голодували – тому ви тренувалися. Якщо ви з'їдали не ту ягоду чи гриб, ви хворіли – тому ви навчилися у старших, як відрізняти безпечне від небезпечного. Прагнення до вдосконалення було безпосередньо пов'язане з виживанням.
Що мотивуватиме майбутні покоління? Чому вони повинні розвивати свій розум і тіло? Навіщо турбуватися про здобуття нових навичок і знань? Звичайно, завжди будуть люди, захоплені спортом чи іграми. Але навряд чи все людство стане спортсменами чи геймерами. Дехто буде прагнути просувати науку вперед, але ці люди завжди були меншістю. Те саме стосується митців. І так, у нас все ще будуть шукачі пригод та дослідники, але їх завжди було ще менше, ніж науковців.
То що ж робитиме більшість людей? Як вид? Ми ж не збираємося створювати таблетки, що стимулюють самовдосконалення... чи соціальні таблетки, що допомагають нам краще спілкуватися один з одним? Бо, давайте визнаємо, існує реальний ризик того, що багато людей з часом стануть гуманофобами. Можливо, просто приємніше взаємодіяти з розумними машинами, які завжди ввічливі, доброзичливі та прагнуть догодити.
Однак людство стикалося з безліччю викликів протягом своєї історії та пережило їх. Ми, ймовірно, подолаємо й це. Питання лише в тому: як?
