Наказание по алгоритму

Что стоит за грядущей атакой цифровых систем на казахстанцев?

На минувшей неделе информпространство взорвалось сообщениями о распознавании лиц, фиксации каждого шага, наказаниях за малейшее неосторожное движение... Народ напрягся.

Поводом для тревоги стали поправки в Кодекс об административных правонарушениях, инициированные МВД. В центре новой конструкции так называемые цифровые объекты. Проще говоря, умные камеры, дроны с функцией распознавания системы автоматической обработки данных. Речь идет о "Сергеке", используемом в амбициозном проекте умного города Smart City в партнерстве с компанией Presight стоимостью 93 млрд тенге, где разбиралась финансовая сторона цифровой модернизации столицы.

Но сегодня поговорим о ее основе. Ведь если новые полномочия цифровых систем совпадают по времени с многомиллиардными обязательствами бюджета, значит, это кому-нибудь нужно. И даже очень.

Почуяв зреющее возмущение в обществе, 27 февраля представитель МВД дал официальное разъяснение по вопросам изменений в Адмкодексе. Ведомство клятвенно заверило: цифровой террор на повестке дня не стоит, меняется лишь способ фиксации нарушений. Камеры не будут автоматически штрафовать пешеходов, курильщиков и тех, кто бросает мусор. Изменения коснутся исключительно автомобилистов, и точка.

Народ выдохнул. Картина вновь стала не такой пугающей: просто технологии заменят инспекторов и уже без человеческого участия зафиксируют, пользуются ли водители ремнем безопасности, держат ли в руках телефон, горят ли на их машинах фары. Но давайте заглянем в закон. Все-таки право - это не то, о чем говорят в ролике МВД. Право - то, что написано в кодексе.

В новой редакции 31-й статьи Кодекса об административных правонарушениях мы видим формулировку, которой раньше не было. В немного сокращенном изложении она звучит так: при обнаружении или фиксации административного правонарушения путем обработки данных цифровым объектом, интегрированным с Единым реестром адмпроизводств (ЕРАП), к административной ответственности привлекаются лица, совершившие правонарушения, установленные по результатам обработки данных.

И вот здесь первый подводный камень - слово "лица". Не "водители", не "собственники транспортных средств", не "участники дорожного движения", а именно лица. В системе права это универсальный термин: то есть любой человек, пешеход, пассажир, велосипедист, самокатчик, гражданин во дворе... Да кто угодно!

Можно, конечно, сказать: "Не-е-е, применять будут только к водителям". Но все мы знаем простую истину - закон живет дольше, чем брифинг. Сегодня его трактуют узко, а завтра - шире. И если в тексте нормы нет ограничения, его нельзя будет потом додумать в суде.

В законе появилась и другая категория - техсредства. Те, что работают в автоматическом режиме, обнаруживают или фиксируют события, и к ним неприменимы показатели измерений.

Как известно, скорость - это измерение. Не ощущение инспектора, не предположение и не "показалось камере". Это конкретный показатель, измеряемый в километрах в час. Есть прибор, который фиксирует скорость. У прибора есть поверка, допуск, технический паспорт. Он либо показал превышение, либо нет. Интерпретаций - ноль.

Суд может запросить данные, эксперт может установить погрешность, защита может оспорить корректность прибора. И все потому, что есть предмет спора - показатель, цифра. Это мир, где доказательство имеет материальную основу.

А когда вместо измерения появляется "событие", это уже не физика, а интерпретация. Водораздел между точным прибором и цифровым мнением налицо. Метрологии со строгой системой правил (стандартами, поверками, допустимой погрешностью, контролем) там не место. Вместо нее - фиксация факта, который определил алгоритм. Камера увидела, система распознала, программа сделала вывод.

Но у алгоритма тоже бывают ошибки и сбои: свет не тот, угол съемки неверный... Телефон можно перепутать с любым темным предметом в руке. Ремень может быть закрыт одеждой. Свет фар может исказиться отражением. Не так ли?

Почему же в тексте закона нет механизма проверки самой логики обработки данных? Как гражданин может оспорить не только снимок, но и вывод (считай, приговор) системы?

Итак, благодаря новшествам в КоАП ответственность за правонарушение наступает не по протоколу инспектора, а по результату работы цифрового объекта.

В МВД прямо говорят: система сможет автоматически выявлять нарушения, связанные с документами: просроченным техосмотром, отсутствием страховки и т. п. Все это благодаря вышеупомянутой интеграции с ЕРАП и государственными базами данных.

Камера на столбе уже превращается в цифровой узел: снимает изображение, считывает номер, сверяет его с базами данных, проверяет статус страховки, техосмотра, разрешений. Вместо объектива с функцией записи - система, которая сопоставляет и делает вывод. В целом это инфраструктура контроля. И сама по себе она не зло. Вопрос в границах и в правилах их применения.

Если решения системы становятся юридическим основанием для привлечения к ответственности, то что это значит? Да то, что требования закона к фиксации измерений остаются жесткими, а вот к фиксации событий - в лучшем случае размытыми.

Нам пообещали не трогать камерами пеший народ на улицах. Но закон написан так, что технически это возможно. Потому что субъект - "лица". Потому что фиксация - "событий". Потому что доказательство - "обработка данных". В этом и есть главный подвох: архитектура нормы построена шире, чем прозвучавшие на днях обещания.

Мы живем в эпоху цифровизации. Камеры, аналитика, интеграция баз - все это реальность. Безопасность на дорогах действительно важна. Но чем умнее система контроля, тем сильнее должны быть гарантии защиты граждан. Почему же в тексте новой нормы закона этих гарантий не видно?

Особенно тревожно ситуация выглядит в контексте кибербезопасности и персональных данных. Современные цифровые комплексы интегрированы с государственными базами, обрабатывают персональные данные, сопоставляют номера автомобилей, сведения о владельцах, статус документов. Как правило, эта инфраструктура отдана на откуп частным операторам.

Фактически речь идет о том, что частная технологическая экосистема получает доступ к массивам чувствительной информации и участвует в формировании доказательственной базы для привлечения граждан к ответственности.

К отсутствию детально прописанного механизма контроля за алгоритмами, обязательств раскрывать принципы работы системы при оспаривании постановления, процедуры независимой технической экспертизы алгоритма теперь смело можно добавить еще один "дефицит" - гарантий прозрачности обработки персональных данных.

Сегодня в МВД заявляют: не волнуйтесь, изменения касаются только автомобилистов. Но завтра практику будут формировать суды и административные органы. И если кодекс написан шире, чем разъяснение, именно кодекс станет реальностью.

Поэтому не столь уж важно, начнут ли штрафовать пешеходов с 12 марта. Вопрос в том, зачем норма сформулирована так, что это в принципе возможно. И пока на этот вопрос нет четкого юридического ответа, разговор о "только автомобилистах" выглядит не окончательным разъяснением, а временным успокоением.

Стас КИСЕЛЁВ, Костанай

Цифровая щедрость: “Умный город” за 93 миллиарда: кто управляет и за чей счёт?