При всём своём интеллекте — а он бывает поистине выдающимся — общение с искусственным интеллектом иногда напоминает разговор с маленьким ребёнком. Вы составляете подробный запрос, объясняя, что именно вам нужно, а ИИ делает что-то отдалённо похожее, но точно не то, что вы имели в виду. Учёные разработали систему, способную улавливать эту невысказанную реакцию «я не это имел в виду» прямо по мозговым волнам — и позволять ИИ в реальном времени понимать, что он ошибся, и исправляться.
Система могла бы сообщать роботам или другим устройствам под управлением ИИ, что они неверно поняли ваши команды.
Технику интерфейса «мозг — компьютер» под названием Neural Value Alignment (NVA) создали исследователи из Корейского передового института науки и технологий (KAIST) вместе с Microsoft Research Asia. Система использует электроэнцефалографию (ЭЭГ), чтобы фиксировать разные реакции мозга, возникающие в момент, когда человек видит, что ИИ преследует неверную цель или совершает неожиданное действие. Эти сигналы затем служат обратной связью, помогая ИИ понять, в чём именно он ошибся, и скорректировать поведение.
Проблема неоднозначности цели и действия
Чтобы человек и ИИ работали слаженно, машина должна точно понимать, чего человек на самом деле хочет добиться. Сегодняшние системы в основном выводят это из того, что могут наблюдать: запросов, речи, действий, жестов. Беда в том, что поведение человека нередко неоднозначно даже для других людей, не говоря уже об алгоритме.
Как поясняют исследователи, одно и то же действие может служить совершенно разным целям, а одну цель можно достичь разными действиями. Если вы берёте чашку, то можете собираться попить из неё, вымыть её, переставить или передать другому человеку. И наоборот: если ваша цель — просто утолить жажду, вы можете взять чашку, схватить бутылку воды или попросить напиток у кого-то ещё. Команда называет это неоднозначностью цели и действия: по одному лишь действию не всегда понятны ни истинная цель, ни предпочтительный способ её достижения.
Решением стало отказаться от опоры только на то, что человек явно просит — действием или прямым запросом, — и получать подтверждение от самого мозга. Наш мозг постоянно прогнозирует, что должно произойти дальше, и когда результат расходится с прогнозом, возникают характерные нейронные отклики. Команда сосредоточилась на двух из них: ошибке прогноза вознаграждения (RPE) и ошибке прогноза состояния (SPE).
Два вида мозговых ошибок
Ошибка прогноза вознаграждения (RPE) отражает расхождение в результате или цели. В системе NVA она может указывать, что ИИ неверно понял, чего человек хотел в итоге. Например, вы говорите домашнему роботу: «Принеси что-нибудь попить». Вам нужна вода, а он приносит кофе. Сама цель оказалась неверной — и мозг генерирует ошибку прогноза вознаграждения.
Ошибка прогноза состояния (SPE) устроена чуть иначе. Она отражает неожиданный переход между состояниями: цель может быть правильной, но выбранное ИИ действие, промежуточный шаг или способ отличаются от ожидаемого. По сути SPE сообщает системе: «Да, туда, куда я и хотел, но не таким образом».
Скажем, вам нужна вода, и робот верно это понял. Но вместо того чтобы взять стоящую рядом бутылку, он уходит на кухню и набирает стакан из-под крана. Воду вы в итоге получаете, то есть цель достигнута, а вот действие и последовательность состояний не совпали с ожиданием — это и порождает ошибку прогноза состояния.
В экспериментах удалось получить отчётливо различающиеся паттерны мозговых волн в зависимости от того, была ли это ошибка прогноза вознаграждения, ошибка прогноза состояния или обе сразу. Затем к этим ЭЭГ-сигналам применили глубокое обучение, чтобы система могла классифицировать реакцию человека на поведение ИИ. Так машина распознаёт, что именно пошло не так — неверна цель или неверен способ, — без единого произнесённого слова.
Систему реализовали в виде «алгоритма синергии человека и ИИ на основе Neural Value Alignment», который использует расшифрованные нейронные сигналы как обратную связь для принятия решений. Мало того что ИИ понимает, что что-то не так и что именно, — он может в реальном времени менять ход действий в зависимости от того, какой из сигналов уловил.
Где это может пригодиться
Значение работы выходит далеко за рамки избавления от редких раздражающих диалогов с чат-ботом. Система, улавливающая такое неосознанное несогласие, со временем может оказаться полезной везде, где людям и управляемым ИИ машинам нужно тесно взаимодействовать. Тот же домашний робот способен по нейронной реакции хозяина заметить, что неверно понял команду, и сменить курс, не дожидаясь словесной поправки.
Похожая обратная связь пригодилась бы и промышленным роботам, и беспилотным автомобилям, реагирующим на оценку водителя, и медицинским или реабилитационным роботам для людей, которым трудно говорить или двигаться, и образовательным системам, подстраивающимся под когнитивное состояние ученика.
«Ценность исследования в том, что ИИ перестаёт угадывать намерения человека только по внешним результатам его поведения и начинает напрямую опираться на когнитивные сигналы мозга, возникающие во время совместной работы», — пояснил руководитель работы профессор Sang Wan Lee.
Ограничения и что дальше
Между этой работой и возможностью «сердито посмотреть на робота, чтобы он замер», лежит ещё несколько шагов. Во-первых, систему показали в симуляциях, а не в полноценном реальном сценарии, где свободно действующий робот непрерывно считывал бы ЭЭГ человека и корректировал поведение по всему дому.
Во-вторых, ЭЭГ требует электродов для измерения крошечных электрических сигналов мозга, а эти сигналы зашумлены и куда менее удобны для съёма за пределами лаборатории. Насколько надёжно NVA работает в естественном взаимодействии — когда люди двигаются и сталкиваются с куда более сложными ситуациями, чем лабораторные задачи, — ещё предстоит выяснить.
Результаты исследования опубликованы в журнале IEEE Transactions on Cybernetics, а саму работу провели в KAIST. Для читателей из СНГ это ещё один показательный пример того, куда движутся нейроинтерфейсы: от управления протезами и курсором — к тонкой настройке взаимопонимания между человеком и умными машинами.
