Китайский фермер лишился всего урожая кунжута на 10 гектарах, последовав совету ИИ по борьбе с сорняками и вредителями
ИИ порекомендовал смесь гербицидов, включая флусульфасульфаэфир, который губителен для широколиственных культур, к которым относится и кунжут
Гибель посевов произошла уже на следующий день после обработки, а сам чат-бот не предупредил о рисках, хотя на странице была пометка о возможных ошибках ИИ
Инцидент стал одним из первых случаев, когда ошибка ИИ привела к реальным физическим потерям, подчёркивая риски слепого доверия к большим языковым моделям
Пожилой фермер из Чучжоу (Китай) уже год пользуется советами искусственного интеллекта, и до недавнего времени опыт был исключительно положительным. По данным тайваньского издания CTWANT, 67-летний У изначально не доверял ИИ-приложению, но со временем убедился в его пользе. Однако одна-единственная ошибочная рекомендация обернулась катастрофой: она погубила 150 му (около 10 гектаров) рассады кунжута.
Источник изображения — tomshardware.com
Что порекомендовал ИИ
У обратился к чат-боту за советом по борьбе с сорняками и вредителями, и тот предложил «комплексную защиту кунжута от сорняков и вредителей на ста акрах». В рекомендации фигурировал высокоэффективный флупираметалин в связке с флусульфасульфаэфиром для уничтожения сорняков, которые предлагалось смешать с тиаметоксамом и метиловой солью. Фермер последовал совету буквально — не сверился ни с агрономами, ни с открытыми источниками.
Эффект проявился почти мгновенно: уже на следующий день сорняки и рассада кунжута массово погибли. «Если опрыскать этим составом, на следующий день рассада не выживет», — рассказал У в видеоинтервью. «Погибают и трава, и рассада, причём рассада — быстрее».
Почему гербицид оказался губительным
Когда фермер спросил у ИИ, в чём была причина, тот указал на флусульфасульфаэфир. Агрономы пояснили: это вещество применяют против двудольных сорняков на соевых полях. Согласно данным USDA, кунжут — тоже двудольное растение, поэтому гербицид с такой же лёгкостью уничтожил и его. К тому же препарат рассчитан на точечную обработку отдельных очагов сорняков, а не на сплошное опрыскивание всего поля. Фермер утверждает, что ИИ не предупредил его о рисках — хотя на странице чата было стандартное напоминание: «Контент, сгенерированный ИИ, может содержать ошибки, пожалуйста, проверяйте информацию».
ИИ и раньше допускал дорогостоящие ошибки
Как бы ни был полезен искусственный интеллект, у него уже накопилась история неудачных советов и решений:
- разработчик лишился всего каталога файлов во время рутинного резервного копирования — причиной стала опечатка;
- директору по выравниванию ИИ в Meta* пришлось вручную отключить собственного ИИ-агента, чтобы тот случайно не очистил весь почтовый ящик.
Эти истории — лишний повод не забывать об ограничениях современных ИИ-инструментов.
Это один из первых зафиксированных случаев, когда ошибка ИИ обернулась реальными физическими потерями. Сложно винить фермера в том, что он доверился инструменту: изначально он относился к нему скептически, и лишь месяцы стабильно полезных советов заслужили его доверие. Но даже надёжная история ответов не означает абсолютной надёжности: современные LLM — это модели предсказания текста, а не гарантированно верных фактов. Ошибиться они могут в любой момент, особенно если обучались на неотфильтрованных публичных данных.
* Принадлежит компании Meta, деятельность которой признана экстремистской и запрещена на территории Российской Федерации. Социальные сети Facebook и Instagram запрещены в РФ.
