або Як працювати з ШІ, що «страждає на галюцинації»
Автори із команди Pitch Avatar розповідають, як фантасти ще в середині XX століття знайшли розв’язання проблеми «машинного марення».
Із XIX століття існує певна закономірність: перш ніж цивілізація на практиці стикається з проблемами, пов’язаними з прогресом, їх встигають «винайти» письменники-фантасти. І не лише «винайти», а й запропонувати рішення.
Галюцинації ШІ або, як їх ще називають, машинне марення — не виняток. Одразу уточнимо: мова не йде про поломки чи збої, пов’язані з фізичним пошкодженням техніки або, скажімо, з комп’ютерними вірусами. Також не йдеться про гіпотетичне «повстання машин», коли ШІ «свідомо» відмовляється підкорятися людині та сам вирішує, чим йому займатися.
Нас цікавлять ситуації, коли штучний інтелект генерує хибну, помилкову або відверто абсурдну інформацію. Наприклад, неіснуючі цитати неіснуючих людей із неіснуючих книжок. Або посилання на неіснуючі інтернет-сторінки. Або «візуальний салат» у зображеннях. Припускаємо, що з подібними продуктами діяльності ШІ стикався кожен читач. Часом дії ШІ у відповідь на запит настільки далекі від того, що від нього просили, що виникає цілком нелогічне бажання оголосити його «божевільним». Особливо прикро, коли ШІ починає «глючити», виконуючи справді важливе завдання, яке потребує високої точності. У результаті деякі люди відчувають настільки сильне розчарування, що взагалі відмовляються від використання інструментів і рішень на базі ШІ, віддаючи перевагу «старим перевіреним методам».
Тож поспішаємо заспокоїти: майстри наукової фантастики розмірковують над цією темою ще з середини минулого століття. Чи не варто пошукати в них рішення проблеми «машинного марення»?
Моторошний Термінос
Візьмімо, наприклад, оповідання Станіслава Лема «Термінус». . Сюжет цієї історії, якщо коротко, такий: капітану космічного корабля дістається старий ремонтний робот на ім’я Термінос, який, виконуючи свою роботу, постійно вистукує щось азбукою Морзе. З’ясовується, що робот був свідком катастрофи космічного корабля та відтворює останні переговори між загиблими членами екіпажу. Найцікавіше полягає в тому, що коли до когось із тих людей, від імені яких він «веде бесіду», звертаються також азбукою Морзе, робот починає відповідати від їхнього імені так, ніби вони досі живі та перебувають на кораблі, що гине. В усьому іншому Термінос цілком справляється зі своєю роботою, а коли з ним спілкуються звичайною мовою, він не згадує ані про катастрофу, ані про загиблих. Капітан корабля, будучи людиною прагматичною, використовує робота до кінця рейсу, а згодом списує його на утиль.
Попри те, що під час читання це оповідання чудово «лоскоче нерви», перед нами — очевидна машинна галюцинація. З певних причин ШІ-робот під час катастрофи самонавчився імітувати спілкування між членами екіпажу, які намагалися врятуватися. Чому це сталося, загалом, не так уже й важливо. Одна з ключових ідей оповідання якраз у тому, що під час створення інтелектуальних машин не завжди можна передбачити, в який бік може відхилитися процес їхнього самонавчання. Важливіше інше: коли галюцинуючому роботу давали прямий і чітко сформульований наказ, він виконував його цілком ефективно. Особисто мені завжди здавалося, що капітан у цій історії вчинив надто радикально. Набагато логічніше було б передати Терміноса фахівцям для дослідження.
Ймовірно, Лем хотів показати, що за складнощів, які в майбутньому виникатимуть у роботі з ШІ, найкращими рішеннями часто будуть прості. А саме — просто замінити «глючний» інструмент іншим.
Проста логіка
Особисто мені значно більше імпонує ідея, що лежить в основі оповідання «Логіка» іншого класика — Айзека Азімова. У цій історії ШІ-робот, на перший погляд, влаштовує типовий «бунт». Події відбуваються на віддаленій космічній станції з екіпажем усього з двох людей. Робот, про якого йдеться, — це складна система, призначена, по суті, для керування іншими роботами. Він вважає себе «вінцем творіння», обожествлює одну з головних машин станції — перетворювач енергії — та називає людей істотами нижчого порядку. Більше того, він починає поширювати своє «вчення» серед інших роботів.
Однак досить швидко людям стає очевидно, що «бунтівний» ШІ, як і раніше, підкоряється їхнім наказам і чудово виконує свою роботу. Так, він постійно пояснює свої дії відповідно до власних уявлень про світ, але його галюцинації жодним чином не впливають на якість роботи. Тож люди вирішують не звертати уваги на «нешкідливе божевілля» робота.
Головне — формулювання
Зверніть увагу: і в оповіданні Лема, і в оповіданні Азімова галюцинуючі ШІ бездоганно виконують своє призначення, якщо їм дають чітко й однозначно сформульовані накази. Таким чином, ще в «золоту добу» наукової фантастики було знайдено головне рішення проблеми галюцинацій ШІ. У більшості випадків достатньо правильно сформулювати завдання для штучного інтелекту. Якщо ви хочете рідше стикатися з «машинним маренням», формулюйте свої запити максимально чітко, ясно, однозначно та лаконічно.
