или Как работать с ИИ, который “страдает галлюцинациями”
Автора из команды Pitch Avatar рассказывает, как фантасты ещё в середине XX веке нашли решение проблемы “машинного бреда”.
С XIX века существует такая закономерность: Прежде чем цивилизация сталкивается с какими-то проблемами, связанными с прогрессом, на практике, их успевают “изобрести” фантасты. И не только “изобрести”, но и предложить решение.
ИИ-галлюцинации или, как их еще называют, машинный бред – не исключение. Сразу уточним. Речь идет не о поломках и сбоях, связанных с физическим повреждением техники или, скажем, с компьютерными вирусами. И не о гипотетическом “восстании машин”, когда ИИ “сознательно” отказывается подчинятся человеку и сам решает, чем ему заниматься.
Нас интересуют ситуации, когда искусственный интеллект генерирует ложную, ошибочную и откровенно бредовую информацию. Например, несуществующие цитаты несуществующих людей из несуществующих книг. Или ссылки на несуществующие интернет-страницы. Или “визуальный салат” на картинах. Полагаем, с примерами такого рода продуктов деятельности ИИ сталкивался каждый читатель. Порой, действия ИИ в ответ на запрос настолько далеки от того, что его просили сделать, что возникает совершенно нелогичное желание объявить его “сумасшедшим”. Особенно обидно, когда ИИ начинает “глючить”, решая действительно важное задание, требующее высокой точности. В результате некоторые люди испытывают настолько сильное разочарование, что вовсе отказываются использовать инструменты и решения на базе ИИ, предпочитая решать свои задачи “по-старинке”.
Так вот, спешим утешить. На эту тему мастера научной фантастики размышляют с середины прошлого века. Не поискать ли нам у них решение проблемы “машинного бреда”?
Жуткий Терминус
Возьмем, к примеру, рассказ Станислава Лема «Терминус». . Сюжет этой истории, вкратце, следующий: Капитану космического корабля достается старый ремонтный робот по имени Терминус, который, выполняя свою работу, что-то выстукивает морзянкой. Выясняется, что робот присутствовал при катастрофе космического корабля и воспроизводит последние переговоры между собой погибших членов экипажа. Самое интересное, что когда к кому-то из тех людей, от чьего имени он “ведет беседу” обращаются с вопросом морзянкой же, он начинает отвечать от их имени так, как будто они еще живы и находятся на погибающем судне. В остальном, Терминус вполне справляется с работой и когда с ним ведут диалог при помощи обычной речи, не вспоминает ни о катастрофе, ни о погибших. Капитан корабля, будучи человеком прагматичным, использует робота до конца рейса, а после списывает его в утиль.
Несмотря на то, что при прочтении этот рассказ отлично “щекочет нервы”, перед нами – явная машинная галлюцинация. По каким-то причинам ИИ робот, во время катастрофы, самообучился подражать общению между собой старающихся спастись членов экипажа. Почему это произошло, по большому счету, не важно. Одна из явных идей рассказа как раз и заключается в том, что при создании интеллектуальных машин не всегда можно предусмотреть, в какую сторону способен отклониться их процесс самообучения. Важно отметить другое. Когда галлюцинирующему роботу отдавали прямой и недвусмысленно сформулированный приказ – он вполне эффективно его выполнял. Лично мне всегда казалось, что капитан из этого рассказа поступил излишне радикально. Куда логичнее было бы отдать Терминуса для изучения специалистам.
По всей видимости, Лем хотел показать, что при сложностях, которые в будущем будут возникать при работе с ИИ, лучшими решениями будут простые. А именно, попросту заменить “глючный” инструмент другим.
Простая логика
Лично мне куда больше нравится идея, лежащая в основе рассказа “Логика” , принадлежащего перу другого классика – Айзека Азимова. В этой истории ИИ-робот, на первый взгляд устраивает типичный “бунт”. Дело происходит на отдаленной космической станции, с экипажем из всего двух человек. Робот, о котором идет речь – сложная система, предназначенная, по сути, для управления другими роботами. Он считает себя “венцом творения”, обожествляет одну из главных машин станции – преобразователь энергии, а людей называет существами низшего порядка. Более того, он начинает распространять свое “учение” среди других роботов.
Однако довольно быстро людям становится очевидно, что “бунтующий” ИИ по прежнему повинуется их приказам и отлично справляется со своей работой. Да, он постоянно дает своим поступкам объяснения, в соответствии со своими представлениями о мире, но, на качество работы его галлюцинации никак не влияют. А потому люди решают оставить “безобидное сумасшествие” робота без внимания.
Главное – формулировка
Обратите внимание, и в рассказе Лема, и в рассказе Азимова галлюцинирующие ИИ отлично выполняют свое предназначение, если им отдают ясно и четко сформулированные приказы. Таким образом, еще в “золотую эру” научной фантастики было найдено главное решение проблемы ИИ-галлюцинаций. В большинстве случаев достаточно правильно сформулировать задание для ИИ. Если вы хотите пореже сталкиваться с “машинным бредом”, формулируйте свои запросы максимально четко, ясно, недвусмысленно и кратко.
