Бэкдор в языковой модели заставил робота для нарезки фруктов «порезать» пластиковую руку
Учёные Бингемтонского университета встроили в ИИ-планировщик скрытый бэкдор: после триггерного слова «CF» робот вместо яблока потянулся ножом к модели человеческой руки. Одновременно команда разработала защиту PROTEA, которая проверяет каждый шаг плана на безопасность.
