Президент Signal назвала чат-ботов не собеседниками, а системами с широким доступом к данным
Сама она использует ИИ только для форматирования документов и не задаёт ему вопросов
Ассистент, ведущий покупки, требует доступа к карте, браузеру, календарю и мессенджерам
В контексте защищённой переписки такой доступ равнозначен бэкдору
Отвечая на вопросы о приватности при использовании чат-ботов, президент Signal Мередит Уиттакер высказалась предельно резко: «Это не ваши друзья. Это не сознательные существа. Это не разумные собеседники».
Источник изображения — techcrunch.com
Личная позиция
В интервью она признала, что пользуется ИИ-инструментами — «для того, чтобы время от времени форматировать документы», — но принципиально не обращается к ним за содержанием: «Я не задаю им вопросы. Я очень серьёзно отношусь к собственному мышлению и написанию текстов и не хочу, чтобы процесс обдумывания идеи был предопределён или затмён ответом системы, которая усредняет то, что уже существует».
Аргумент здесь не технический, а профессиональный: модель по устройству выдаёт наиболее вероятное продолжение, то есть среднее из уже написанного. Для форматирования это достоинство, для оригинального рассуждения — ограничение.
Главный довод: цена удобства
Куда важнее вторая часть разговора. Глава Microsoft AI Мустафа Сулейман предположил, что уже в этом году пользователи смогут доверить ассистенту все праздничные покупки. Уиттакер разобрала сценарий по шагам.
Чтобы ассистент понял, кто из родственников чего хочет, он должен читать семейный групповой чат. Чтобы купить — получить доступ к банковской карте и браузеру. Чтобы согласовать — писать сообщения родственникам от вашего имени. Чтобы доставить — знать домашний адрес. Чтобы выбрать время — видеть календарь.
«Вы только что описали систему с очень широким доступом к множеству приложений и сервисов, — резюмировала она. — В контексте Signal это представляло бы собой своего рода бэкдор».
Почему это техническая, а не риторическая проблема
Смысл сквозного шифрования в том, что содержимое переписки доступно только участникам разговора. Но ассистент, работающий на устройстве и читающий уведомления или экран, оказывается внутри этого периметра — по ту сторону шифрования. Никакого взлома для доступа к переписке не требуется: пользователь сам выдаёт разрешения, соглашаясь на удобство.
Если при этом обработка происходит в облаке, содержимое защищённых чатов физически покидает устройство. Технически шифрование не нарушено, практически — гарантия конфиденциальности исчезла.
Что с этим делать
Практические выводы для пользователя в СНГ, где защищённые мессенджеры особенно востребованы, простые. Стоит внимательно относиться к разрешениям на доступ к уведомлениям и содержимому экрана — именно через них ассистенты чаще всего получают переписку. Полезно различать функции, работающие на устройстве, и те, что отправляют данные на сервер. И имеет смысл разделять сценарии: инструмент, который форматирует документ, и инструмент, которому доверены карта, календарь и мессенджер, — это принципиально разные уровни риска, даже если внешне это одно и то же приложение.
