Flock сокращает срок хранения данных с 30 до семи дней и вводит «Режим доказательств» для исключительных случаев
Более трети клиентов уже включили новый инструмент «Аудит» для выявления злоупотреблений, и компания обяжет всех сделать это до конца года
Разработчики не раскрывают деталей работы алгоритма, а эксперты ACLU и EFF сомневаются в его эффективности и требуют независимой проверки
На фоне арестов офицеров за слежку через Flock компания заявляет, что её новый инструмент помог раскрыть эти нарушения, но критики указывают на отсутствие данных о реальной статистике срабатываний
Компания Flock Safety — крупнейший в США оператор систем автоматического считывания номерных знаков (ALPR) — объявила в четверг о пакете новых мер, которые, по замыслу разработчиков, должны пресечь злоупотребления камерами со стороны полицейских и повысить подотчётность правоохранительных органов. Речь идёт о сети более чем 119 тысяч камер, установленных в городах по всей стране: они круглосуточно фиксируют номера проезжающих машин и складывают их в общую базу с привязкой ко времени и месту.
Источник изображения — techcrunch.com
Что именно меняется
Пакет изменений затрагивает сразу несколько уровней — от сроков хранения до доступа сторонних ведомств к чужим камерам:
- Срок хранения — семь дней вместо 30. Это рекомендация и новая настройка по умолчанию, а не жёсткое требование: уже подключённые управления сохраняют свои прежние параметры, если сами не решат перейти на новый стандарт.
- «Режим доказательств» (Evidence Mode). Позволяет перенести конкретные записи по активному делу в «холодное хранилище» и держать их дольше семи дней — с обязательным указанием номера дела. Функция появится в ближайшие недели.
- Фильтрация по типам правонарушений. Управление может разрешить соседям искать по своим камерам угнанные автомобили и насильственные преступления, но закрыть доступ для всего остального.
- Обязательные коды дел. До конца года каждый поиск придётся сопровождать номером дела; для экстренных ситуаций сделано исключение, но такой запрос автоматически уходит на проверку администратору.
- Обязательный «Помощник по аудиту» для всех клиентов из числа правоохранительных органов — тоже до конца года.
- Многофакторная аутентификация при входе, независимый аудит безопасности от компании Bishop Fox и программа скоординированного раскрытия уязвимостей.
Сокращение срока хранения в компании обосновывают собственной статистикой: по внутреннему анализу Flock, более 90% поисков без полного номера выполняются в течение недели после происшествия. То есть «длинный хвост» базы, по логике компании, почти не используется в реальных расследованиях — зато именно он и представляет главный риск для приватности.
Есть и коммерческий нюанс, который в анонсе не выделен: те, кто примет рекомендацию о семи днях, получат «Режим доказательств» бесплатно. Клиентам, которые захотят сохранить прежний 30-дневный срок, за ту же функцию придётся доплачивать.
«Помощник по аудиту»: из опции в обязанность
Ключевым изменением в компании называют инструмент «Помощник по аудиту» (Audit Assistance). Flock запустил его в апреле. С тех пор, по данным компании, функцию активировали «более трети» клиентов — и теперь её включение станет обязательным для всех до конца года.
В блоге Flock сообщает, что «Помощник по аудиту» «выявляет аномальную активность и помечает её для проверки администратором». При срабатывании инструмент может автоматически заблокировать пользователя до вмешательства администратора. По данным компании, механизм уже помог клиентам найти и остановить злоупотребления.
Несколько руководителей компании высоко оценили возможности инструмента. Однако, несмотря на заявленную важность, Flock так и не объяснил подробно, как именно он работает.
Алгоритм, о котором почти ничего не известно
Официальные комментарии дают лишь общее представление о том, что умеет «Помощник по аудиту», но не о том, каким образом он это делает.
Глава отдела доверия и соответствия Flock Эшли Хабер заявила в видеоролике, что инструмент может отмечать «то, что выглядит как странная история поиска конкретного пользователя», помогая понять, как сотрудники используют систему. В другом видео соучредитель Flock Пейдж Тодд пояснила: «Помощник по аудиту выявляет необычные паттерны на ранней стадии. Подумайте о пользователе, который многократно ищет один и тот же номерной знак более 30 дней».
Майор Патрик Криг из полицейского управления Данвуди (штат Джорджия), клиент Flock, описал функцию в пресс-релизе как «алгоритм, который уведомлял нас о любых проявлениях предвзятости».
В самой компании инструмент описывают как функцию, которая «выявляет нетипичную активность на раннем этапе и позволяет быстро проверить её с помощью чёткого документированного рабочего процесса».
На прямые вопросы журналистов — как устроен этот «алгоритм», на каких данных он обучался, применялась ли при его создании большая языковая модель, какие именно паттерны он должен ловить — развёрнутых ответов не последовало. В компании лишь уточнили, что «Помощник по аудиту» не основан на машинном обучении или ИИ: это инструмент для работы с данными, который отмечает нетипичные паттерны поиска для дальнейшей проверки. Один из примеров срабатывания — поиск одного и того же номерного знака с использованием нескольких разных кодов дела. Сигнал не означает, что злоупотребление точно было, но указывает на необходимость разбирательства.
Без ответа остались и более приземлённые вопросы: есть ли у Flock статистика эффективности инструмента, каковы показатели ложных срабатываний и пропусков и проводилась ли проверка алгоритма третьей стороной.
Правозащитники: «инструмент, который сам нуждается в аудите»
Эксперты по конфиденциальности и критики Flock не впечатлены нововведениями.
Старший советник по вопросам политики Американского союза гражданских свобод (ACLU) Чад Марлоу написал в ответ на объявление, что «нет доказательств того, что инструмент работает последовательно».
«Хотя десятки офицеров недавно были арестованы, уволены или иным образом привлечены к дисциплинарной ответственности за неправомерное использование Flock в личных целях, компания утверждает, что эти аресты являются доказательством эффективности её инструмента аудита, — отметил Марлоу. — Однако если мы не знаем, сколько офицеров злоупотребляют системой, мы не можем сделать вывод, ловит ли Flock 95% нарушителей или всего 5%. Компания должна отдать инструмент на анализ независимому оценщику. До тех пор мы не знаем, является ли он реальной мерой безопасности или просто витриной».
Купер Квинтин, исследователь безопасности и старший технолог по вопросам общественных интересов в Фонде электронных рубежей (EFF), считает, что вопрос работоспособности алгоритма вообще вторичен.
«Если он работает, правоохранительные органы найдут способы его обойти», — сказал он, добавив, что в конечном счёте важно, чтобы нарушители были пойманы и наказаны. «Если последствий за злоупотребления нет, а тот, кому инструмент докладывает, — то же самое полицейское управление, которое совершает злоупотребления, это просто фиговый лист для Flock. Лучший способ обеспечить подотчётность — принять законы, ограничивающие использование этой технологии и требующие ордера на её применение».
Рэйчел Левинсон-Вальдман, директор программы «Свобода и национальная безопасность» Центра Бреннана, назвала обязательное включение «Помощника по аудиту» шагом в правильном направлении: «в теории» это «отличная идея». Но и она отметила, что сам инструмент «нуждается в аудите» — информации о том, как он работает на практике, слишком мало.
Фон: аресты офицеров за слежку через камеры
Объявления Flock появились после серии сообщений о злоупотреблениях технологией со стороны клиентов компании. За последний год журналистские расследования вскрыли более десятка эпизодов, когда полицейских отстраняли от службы или арестовывали за использование базы в личных целях — в том числе для преследования бывших партнёров.
Так, на этой неделе три бывших помощника шерифа из Джорджии были арестованы и обвинены в использовании камер Flock для слежки за людьми, с которыми у них были «личные отношения на тот момент». Шериф округа Бибб Дэвид Дэвис в пресс-релизе особо отметил «Помощник по аудиту» как инструмент, благодаря которому нарушения удалось раскрыть.
Для читателей из СНГ вся эта история — наглядный пример того, как быстро частная компания становится оператором общенациональной системы слежения и как поздно к ней приходят механизмы контроля. Технически новые меры Flock ограничивают не саму слежку, а лишь глубину архива и удобство неправомерного доступа к нему: камеры продолжат снимать в прежнем режиме, а решение о том, сколько хранить данные, по-прежнему остаётся за каждым отдельным управлением.
