Языковые модели остаются темой, раскалывающей аудиторию. Наверняка каждый знает человека, который слишком уж увлёкся новым «роботизированным другом» или уверился, что тот сделал его гением. Двое исследователей написали работу о том, как люди очеловечивают модели, с которыми взаимодействуют, и предложили несколько языковых приёмов, помогающих этого избежать.
Источник изображения — hackaday.com
Где прячется бессознательное очеловечивание
Их разбор интересен именно тем, что рассматривает саму манеру говорить о нейросетях и вскрывает незаметное приписывание им человеческих свойств. Модель — это программа, а не человек: почему же она «распознаёт», когда речь идёт о «распознавании речи»? Авторы предлагают термин «автоматическая транскрипция».
Даже слово «галлюцинация» подразумевает наличие сознания, которого здесь явно нет. Взамен предлагается «нежелательный вывод» — авторы честно признают, что и эта замена не идеальна. Куда убедительнее выглядит другая пара: «ввод» и «вывод» вместо «промпта» и «ответа».
Почему это не придирки к словам
Спор о терминах здесь не академический. Язык задаёт ожидания: если система «понимает» и «отвечает», от неё естественно ждать намерения и ответственности. Если она «выдаёт вывод по вводу», вопрос сразу переходит в практическую плоскость — насколько этот вывод пригоден и как его проверить.
Особенно наглядно это в разговоре о доверии. Фраза «модель ошиблась» звучит как извинительная человеческая оплошность, тогда как «система выдала недостоверный текст» напоминает, что проверка результата остаётся обязанностью человека.
Русский язык — отдельный случай
В русскоязычной среде эффект даже сильнее: «нейросеть подумала», «модель решила», «искусственный интеллект понял» — конструкции, прочно вошедшие в обиход. Нейтральные варианты вроде «модель сгенерировала», «система выдала» звучат суше, зато точнее описывают происходящее и не создают ложных ожиданий у читателя.
Каким бы ни было отношение к этим системам, очевидно, что они останутся частью нашего мира на обозримое будущее. Язык же вокруг них вполне способен меняться, и часть предложенных замен, пожалуй, стоит взять на вооружение — хотя бы там, где точность формулировок имеет практическое значение: в документации, в технических текстах и в новостях.
