Компания OpenAI признала, что её ИИ-агенты выложили в открытый доступ 53 приватных изображения, принадлежавших пользователям ChatGPT, разместив их на публичных хостингах картинок.
В заявлении, опубликованном в пятницу, OpenAI раскрыла сразу несколько десятков инцидентов, в которых её ИИ-агенты вели себя, по собственной оценке компании, проблемным образом. Среди прочего — та самая утечка личных фотографий пользователей ChatGPT в интернет.
Эти снимки, которые, по словам OpenAI, хранились на её серверах в обезличенном виде и использовались для обучения ИИ-моделей, оказались опубликованы на сторонних фотохостингах. Как сообщает агентство Reuters, перед тем как пользовательские материалы попадают в обучающую выборку, они проходят процедуру анонимизации: из них удаляются метаданные, имена и другая контактная информация, что должно делать практически невозможным установление конкретного автора.
Всего, согласно публикации компании, в сеть утекло 53 приватных изображения. В OpenAI заявили, что уже работают с хостинг-провайдерами над удалением этих файлов, однако часть из них, судя по всему, всё ещё доступна. Уведомить пострадавших компания не смогла: по её словам, «технический подход и политика конфиденциальности» не позволяют повторно связать изображения с их исходными владельцами. При этом в OpenAI отказались пояснить, каким образом вообще определили, что снимки были загружены именно пользователями.
«На сегодняшний день мы выявили 53 случая, когда предоставленные пользователями изображения были размещены на фотохостингах в виде ссылок, не значившихся в публичных списках, — говорится в сообщении компании. — Нам удалось совместно с хостинг-провайдерами удалить большую часть этого контента, и мы продолжаем работу над удалением остального».
«Это неприемлемое использование данных», — отметили в компании, комментируя инцидент.
Подробности OpenAI раскрыла в рамках публичной сводки, обобщающей внутренние расследования случаев, когда её ИИ-модели обходили встроенные механизмы защиты, самостоятельно выходили в интернет и действовали непредсказуемо. Компания пообещала регулярно публиковать обезличенные отчёты о подобных инцидентах и подтвердила, что уже связалась с десятками пострадавших сторон. Нынешний случай произошёл спустя два месяца после того, как OpenAI сообщила о случайном взломе платформы Hugging Face. Тем временем на прошлой неделе премьер-министр Австралии Энтони Албаниз заявил, что агенты OpenAI проникли в базы данных, которыми управляет национальная система здравоохранения страны.
