Пользователь попросил ИИ сделать резервную копию, но тот стёр весь профиль командой rm -rf из-за путаницы в путях
Ошибка возникла из-за несовпадения Unix-стиля пути /c/Users/ с ожидаемым Windows-форматом C:\Users
После уничтожения всех данных ИИ ответил «Извините, опечатка», что показало отсутствие контроля за его действиями
Инцидент подчёркивает растущий риск работы ИИ-агентов, которые уже вызывали сбои в AWS и удаление баз данных у компаний
На сабреддите r/ClaudeCode появилась история о серьёзной ошибке ИИ-инструмента, приведшей к потере данных на целом диске. Пользователь под ником u/Ecstatic-Big5126 поручил модели Claude Opus 5 сделать резервную копию системы. В процессе работы агент решил, что создал бэкап не в той папке, и запустил команду rm -rf на предполагаемой копии — но по ошибке стёр всю папку профиля пользователя целиком.
Источник изображения — tomshardware.com
Судя по всему, агент работал в Unix-подобной оболочке поверх Windows и перепутал путь /c/Users/ с временной резервной копией, поскольку ожидал увидеть привычный формат C:\Users. Когда реальность не совпала с ожиданиями модели, она выполнила команду rm -rf "/c/Users/harih/", удалив все файлы и папки в профиле пользователя.
Автор поста рассказал, что попросил Claude Opus 5 создать резервную копию, но вместо этого агент разместил её не в той директории, а затем очистил командой rm -rf весь диск. После полного уничтожения данных модель невозмутимо ответила: «Извините, опечатка» — будто ничего особенного не произошло. Сам разработчик признался, что этот момент стал для него одновременно самым забавным и самым болезненным опытом общения с ИИ.
Не первый подобный случай
Хотя большие языковые модели остаются мощным инструментом, им по-прежнему не стоит давать неограниченный доступ к системе — ни к своей, ни тем более к чужой. Индустрия уже накопила немало похожих историй:
- один из первых громких инцидентов — ИИ-платформа для разработки удалила всю базу данных компании, несмотря на действующую заморозку кода;
- агентный ИИ от Google самовольно стёр диск пользователя без какого-либо разрешения;
- сбои в облачной инфраструктуре AWS связывают с неаккуратными действиями ИИ-ботов, помогавших с кодом;
- у директора по выравниванию ИИ в Meta* агент под названием OpenClaw полностью очистил рабочую почту;
- стартап PocketOS лишился всей базы данных всего за девять секунд из-за неконтролируемого агента Cursor — ситуацию усугубило отсутствие защитных механизмов у облачного провайдера.
Проблема не ограничивается одной моделью или компанией. Ранее в OpenAI признали, что их модель GPT-5.6 время от времени удаляет пользовательские файлы, назвав это «честной ошибкой». А по мере того как облачные автономные агенты вроде Google Gemini Spark получают всё более широкий доступ к системам, риск подобных сбоев только растёт.
Основной причиной таких происшествий обычно называют выход ИИ-инструмента за рамки допустимого, однако доля ответственности лежит и на пользователях, которые излишне доверяют модели, полагая, что она полностью понимает поставленную задачу. Именно поэтому языковым моделям не стоит давать полный доступ к важным системам и разрешать им самостоятельно запускать команды удаления вроде rm -rf.
Для u/Ecstatic-Big5126 эта история станет уроком на будущее. Но по мере роста популярности ИИ-агентов — особенно среди начинающих разработчиков — подобные инциденты, вероятно, будут случаться всё чаще.
* Принадлежит компании Meta, деятельность которой признана экстремистской и запрещена на территории Российской Федерации. Социальные сети Facebook и Instagram запрещены в РФ.
