Гендиректор Microsoft предупредил, что компании платят за ИИ дважды: деньгами и утечкой ценных корпоративных знаний
Наделла призвал предприятия сохранять право собственности на свои данные, включая подсказки и исправления моделей
Крупный бизнес всё чаще переходит на открытые модели ИИ на собственных серверах, видя в них дешёвую и контролируемую альтернативу
Модели усваивают «выдыхаемые» данные пользователей, создавая знания, которые могут быть использованы их конкурентами
Из всех споров о недостатках ИИ есть один, который тревожит отрасль сильнее прочих: опасение, что крупные лаборатории, продающие проприетарные модели, работают как троянские кони.
Источник изображения — techcrunch.com
Суть проблемы в следующем. По мере того как стартапы и предприятия используют модели таких лабораторий, как OpenAI и Anthropic, эти лаборатории получают всё более широкий доступ к конфиденциальной коммерческой информации. Дальше знания можно применить в собственных интересах — и поставщик модели становится конкурентом собственного клиента. Похожие предупреждения уже звучали от венчурных инвесторов и руководителей крупных технологических компаний.
Теперь к этому лагерю неожиданно присоединился генеральный директор Microsoft Сатья Наделла. Он предупреждает, что покупатели ИИ платят дважды: сознательно — деньгами за токены, и неосознанно — ценными данными.
«Вы по сути платите за интеллект дважды: один раз деньгами, а второй — чем-то ещё более ценным: проприетарными знаниями, которые вы должны раскрыть, чтобы этот интеллект был полезным. Чем лучше вы хотите, чтобы модель работала, тем больше таких знаний вы должны ей предоставить», — пишет он.
Обучение на «выхлопе»
Самое опасное, по его мнению, что предприятия буквально обучают модели нюансам собственного бизнеса. «Модели учатся на "выхлопных газах": на подсказках, которые пишут люди, на инструментах, которые используют агенты, и особенно на исправлениях, которые люди вносят, когда модель ошибается. Каждое исправление превращается в институциональные знания», — поясняет Наделла.
Это, по его словам, «такие знания, которые конкурент никогда не смог бы купить», — и всё же компании отдают их добровольно. Здесь стоит уточнить важную деталь: большинство поставщиков заявляют, что корпоративные тарифы не используются для обучения по умолчанию, а вот бесплатные и потребительские — вполне могут. Именно поэтому в договорах на ИИ-сервисы ключевым пунктом становится не цена за токен, а формулировка о правах на данные взаимодействия.
Дистилляция и двойные стандарты
Наделла считает: если ИИ-компании свободно сканируют интернет для обучения своих моделей, справедливо, чтобы предприятия могли изучать — или «дистиллировать» — эти модели в ответ. Дистилляция здесь означает использование выходных данных модели для понимания её работы и обучения на этой основе новой, зачастую более дешёвой модели.
Тема острая: в феврале Anthropic обвинила китайские модели с открытым кодом в отправке миллионов запросов к Claude ради улучшения собственных разработок и призвала ужесточить экспортный контроль. «Хотя необходимы великие инновации от поставщиков моделей, имеющих добросовестные права на обучение на общедоступных данных, я нахожу ироничным, что текущий статус-кво заключается в том, чтобы затем вводить ограничительные условия на дистилляцию», — пишет глава Microsoft.
Что он предлагает
Решение вполне ожидаемое от руководителя гигантского облачного провайдера. Компаниям предлагается «сохранять право собственности» на свои данные — включая подсказки и обратную связь — и строить собственные «проприетарные среды обучения» в облаке, где эти данные, скорее всего, уже лежат. Что удобно, таким облаком может быть Azure.
Второй совет — встраивать «оркестрационные слои», то есть возможность легко переключаться между моделями разных поставщиков вместо привязки к одному. Инструменты вроде ИИ-шлюзов, которые именно это и позволяют, набирают популярность. Слова «открытый исходный код» в тексте не звучат ни разу, но подтекст очевиден.
Разворот к локальным моделям
Крупные компании, у многих из которых остаются собственные дата-центры в дополнение к облаку, уже переходят на открытые модели, установленные на своих площадках. Руководитель компании, выпускающей сетевое и охранное ПО для управления корпоративными ИИ-системами, описывает типичный сценарий: поэкспериментировав с проприетарными моделями, клиенты спрашивают, нельзя ли взять открытую и запустить локально. «Она будет делать почти 90% того, что делает большая модель. Это будет стоить гораздо дешевле. Они это понимают, и они это контролируют».
Тенденция подтверждается цифрами: платформы, маршрутизирующие запросы между разными моделями, фиксируют всплеск трафика к открытым вариантам — по одному из шлюзов они составили 29% всего трафика за месяц.
Для российского бизнеса этот разговор звучит особенно предметно. Здесь к аргументам о конкуренции и стоимости добавляется третий, самый весомый: требования к хранению данных и нестабильность доступа к зарубежным сервисам. Локальная открытая модель на собственном железе снимает сразу все три вопроса — ценой затрат на инфраструктуру и компетенции.
Показательно и то, кто именно произнёс это вслух. Когда осторожность в отношении проприетарных моделей публично рекомендует глава компании, вложившейся и в OpenAI, и в Anthropic, тенденция вряд ли ослабнет. «Потребляя интеллект, вы создаёте интеллект. И то, что вы создаёте, должно принадлежать вам», — заключает Наделла.
Свой текст глава компании озаглавил «Обратный информационный парадокс», и центральный тезис в нём — необходимость жёсткой границы доверия: организация должна владеть не только данными, но и трассировками запросов, наборами оценок и дообученными весами моделей, храня всё это в собственном защищённом контуре.
Отдельно он высказался и о моделях с открытыми весами, назвав их необходимым условием здоровой экосистемы: они позволяют университетам и небольшим командам строить приложения, не обучая модель с нуля и не оплачивая доступ к передовым по полной ставке. Формулировка примечательна тем, кто её произносит: до недавнего времени крупные поставщики проприетарных моделей высказывались об открытых весах куда сдержаннее.
