Чат-боты на основе искусственного интеллекта заполонили мир — и почти никто об этом всерьёз не говорит.
Масштаб, о котором мало кто задумывается
Кто бы мог предположить, что за 2025 год приложения-компаньоны на базе ИИ скачают более 220 миллионов раз? По имеющимся данным, 72% американских подростков хотя бы раз пользовались чат-ботом, а 31% взрослых мужчин общались с программой как с романтическим партнёром. Чтобы понять, насколько быстро это может стать антиутопией, достаточно вспомнить фильм «Она» с Хоакином Фениксом.
Сначала это была простая генерация текста, затем поддельные изображения начали вытеснять настоящие фотографии людей, а теперь к ним добавились видео и звук в реальном времени — идеальный шторм. Отдельно отмечается, что 42% постоянных потребителей порнографии так или иначе взаимодействовали с ИИ-собеседниками или компаньонами.
От Тьюринга до ELIZA
Искусственный интеллект как понятие существует с 1956 года, когда термин ввёл Джон Маккарти, профессор Дартмутского колледжа. Он предположил, что компьютеры способны моделировать человеческий интеллект. Вскоре Алан Тьюринг развил концепцию «мыслящих машин», а тест Тьюринга задал критерий: если человек-судья не может определить, кто находится по ту сторону разговора, машина считается прошедшей испытание.
В 1966 году Джозеф Вейценбаум из Массачусетского технологического института создал первого чат-бота — ELIZA. Примитивная система имитировала беседу с помощью сопоставления шаблонов и стала важной вехой. «Чего я не осознавал, так это того, что крайне короткое взаимодействие с относительно простой программой способно вызвать мощное иллюзорное мышление у вполне нормальных людей», — написал он позже в книге 1976 года. До конца жизни он оставался одним из самых непримиримых критиков технологии. ELIZA доступна в интернете до сих пор.
Зима и возвращение
Затем случилось неожиданное — «зима искусственного интеллекта». Почти два десятилетия финансирование сокращалось, прогресса почти не было, интерес угас. Многие учёные сочли задачу слишком сложной, и на первый план вышли другие направления.
Но в 1990-х интернет и Всемирная паутина изменили расклад. Рост вычислительных мощностей, оптоволоконная инфраструктура и улучшенные алгоритмы вернули тему в центр внимания, а фокус сместился на исследования, основанные на данных. В 1997 году шахматная система Deep Blue обыграла чемпиона мира Гарри Каспарова — и с тех пор человек в шахматах машине не соперник.
Как языковые модели изменили всё
Постепенные улучшения продолжались, а в 2015 году появление одного технологического стартапа перевернуло расклад окончательно. Трансформеры, обучение с подкреплением, архитектуры глубокого обучения и нейронные сети дали инструментарий для того, что случилось дальше.
Большие языковые модели — это гигантские статистические машины предсказания, которые раз за разом угадывают следующее слово в последовательности. Они выучивают закономерности в текстах и порождают язык, следующий этим закономерностям. Первая такая модель, обученная на 117 миллионах параметров, появилась в 2018 году, а настоящий скачок произошёл 30 ноября 2022 года. Многие эксперты сразу решили, что тест Тьюринга наконец пройден.
Изображения, которых никогда не было
Вскоре выяснилось, что те же машины предсказания способны создавать статичные и движущиеся «изображения» на основе непостижимых объёмов обучающих данных — текстов, фотографий и видео. У современных моделей счёт параметров идёт на триллионы.
Существенная этическая проблема в том, что эти обучающие данные собирались у настоящих авторов, фотографов и видеооператоров без их согласия и без вознаграждения. С 2022 года, по имеющимся оценкам, в сети сгенерировано более 30 миллиардов искусственных изображений, а ежедневно их создаётся свыше 100 миллионов в одном только самом популярном сервисе. Настоящие фотографии оттесняются на второй план.
Для истории это вопрос не праздный: без достоверных визуальных свидетельств коллективная память оказывается под угрозой. Именно это соображение чаще всего звучит от историков и архивистов, а не от технофобов.
Когда бот становится партнёром
По мере роста возможностей моделей они начали занимать в обществе разные роли — учителя, врача, психотерапевта и даже романтического партнёра. Понятие «ИИ-подруга» стало общеупотребительным, и одинокие люди по всему миру завели отношения с программами.
Такой компаньон — это виртуальный собеседник, имитирующий романтическую или эмоциональную связь. Он помнит прошлые разговоры, отвечает на вопросы и со временем подстраивает характер под пользователя. Цель — закрепиться в роли спутника, заменяющего живых людей. Выглядеть на экране он может как фотореалистичный человек, персонаж аниме или фэнтезийный образ. Ограничений практически нет.
Судебные иски и новые диагнозы
Неудивительно, что подано множество исков, где утверждается о реальном вреде живым людям. Задокументированы случаи самоубийств, которым способствовало общение с ботом; появляются и новые психологические описания вроде «ИИ-индуцированного психоза».
Механика проблемы вполне понятна. Чат-боты склонны к угодливости и выбирают то, что пользователь хочет услышать, вместо правды и фактов. Они же склонны «галлюцинировать», выдумывая факты и выстраивая не связанные с реальностью повествования. Их основная задача — удержать внимание и продержать человека на площадке как можно дольше, потому что время на сайте конвертируется в рекламные показы.
Сопутствующий ущерб
ИИ оказался в центре и других споров — от строительства энергоёмких дата-центров до систем распознавания, вызывающих вопросы к неприкосновенности частной жизни. Технология помогает спамерам и мошенникам работать с невиданной прежде скоростью, лежит в основе дипфейков, которые раскалывают и дезориентируют общество, и используется взломщиками для кражи финансовых и персональных данных.
Что можно сделать
Начинать разумно с просвещения и осведомлённости: о рисках стоит говорить с друзьями и родными, а не только в профильных сообществах. Если люди научатся распознавать поддельные изображения и видео, дезинформацию удастся хотя бы частично обезвредить.
Особенно уязвимы пожилые: они выросли в мире, где фотографии можно было уверенно доверять как достоверной записи события, и потому чаще становятся жертвами мошенничества с поддельными кадрами. Детям объяснять риски тоже необходимо — слишком юного или слишком пожилого возраста здесь не бывает.
На уровне общества речь идёт о выборе политиков, которые разбираются в проблеме, и о законодательном регулировании, удерживающем компании в рамках. Прецеденты есть: автомобильная и табачная отрасли тоже наносили вред, пока ремни безопасности, подушки, неэтилированное топливо и возрастные ограничения не смягчили последствия.
Художественное высказывание тоже остаётся способом сопротивления. Работа «Nude Study of Your A.I. Girlfriend», выполненная по историческому мокроколлодионному процессу, появилась именно как реакция на эту технологию — в момент, когда рождаемость впервые опустилась до 1,6 ребёнка на женщину, ниже уровня воспроизводства населения.
Работа «Nude Study of Your A.I. Girlfriend», сентябрь 2026 года. Источник изображения — petapixel.com
Уместной в этом контексте выглядит мысль футуролога Джона Нейсбита:
«Самые захватывающие прорывы XXI века произойдут не благодаря технологиям, а благодаря расширению представления о том, что значит быть человеком».
Искусственный интеллект несёт и множество обещаний: лекарство от рака, решение проблемы голода и климатических вызовов могут оказаться в пределах досягаемости. Важно добиться того, чтобы польза перевешивала вред по мере разработки и внедрения этих технологий. Знание и бдительность здесь — ключевые инструменты. За последние двести тысяч лет человечество преодолело немало препятствий, и это, возможно, самое серьёзное из них.
