Робототехнические системы в учреждениях ФСИН России: уголовно-правовые риски и пределы использования

В настоящее время в пенитенциарных учреждениях все активнее внедряются робототехнические системы, использование которых формирует новую конфигурацию уголовно-правовых рисков вследствие сочетания их высокой причиняющей способности с концентрацией уязвимых объектов в пенитенциарной среде [1, с. 114]. Исследование уголовно-правовой охраны отношений, возникающих в сфере робототехники, свидетельствует о том, что робот представляет собой сложный цифровой объект, объединяющий программную и аппаратную составляющие и обладающий автономным потенциалом причинения вреда, возрастающим по мере развития технологий искусственного интеллекта [2, с.64]. Для учреждений УИС данное обстоятельство имеет особое значение, поскольку, например, даже небольшая по массе полезная нагрузка беспилотного летательного аппарата позволяет доставлять запрещенные предметы на режимную территорию, тогда как оснащение такого устройства взрывным механизмом способно превратить локальный инцидент в угрозу массового поражения осужденных и сотрудников исправительного учреждения.

Применительно к деятельности ФСИН России робототехническую систему целесообразно рассматривать как комплекс программной и технической подсистем, предназначенный для выполнения охранных, надзорных, транспортных и досмотровых задач в условиях изоляции осужденных, причем отдельные решения в процессе его работы принимаются автоматически. Специализированный робот является сложным объектом, его программное обеспечение задает функции и пределы действий, а аппаратная часть включает конструктивные элементы, приводы, датчики, радары и другие сенсорные компоненты. В условиях функционирования учреждений УИС подобная двойственная природа приводит к тому, что одна робототехническая система одновременно может рассматриваться как объект уголовно-правовой охраны (имущество, наделенное специальными функциями контроля и воздействия), как средство совершения преступления (например, при переброске запрещенных предметов через режимное ограждение) и как элемент технической инфраструктуры исполнения наказаний (например, в составе автоматизированной системы интеллектуального видеонаблюдения).

Применение технологий искусственного интеллекта ведет к повышению степени автономности роботов и усложняет вопрос определения субъекта ответственности за возможный причиненный вред. На территории учреждения УИС аналогичная проблема может проявляться в задачах автоматического применения принудительных мер (например, включение звукового или светового воздействия, блокировка дверей, распределение охранных ресурсов), когда автономный алгоритм фактически завершает объективную сторону возможного преступления (например, причинение вреда здоровью через некорректное использование специальных средств), при минимальном участии оператора [3, с.330; 4, с.160; 5, с.153].

Перспективные направления применения робототехнических систем в деятельности ФСИН России можно сгруппировать по четырем основным функциональным блокам: охрана внешнего периметра, внутренний надзор за поведением осужденных, доставка грузов, а также досмотр и мониторинг. Возможность перемещения роботов по грунту, в воздушной и водной среде, а при необходимости и в подземном пространстве, служит предпосылкой для использования их в деятельности учреждений УИС как в качестве наземных патрульных платформ, так и в виде беспилотных летательных аппаратов (БПЛА) для воздушной разведки и контроля периметра [6, с.242; 7, с.53]. Современная тенденция к росту полезной нагрузки беспилотных систем и повышению их энергообеспечения, увеличивает не только их полезный потенциал для применения в деятельности пенитенциарного ведомства, но и приводит к росту угроз использования робототехники для противоправных действий [8, с.50; 9, с.134].

Системное внедрение робототехники в учреждениях ФСИН России требует разрешения ряда взаимосвязанных правовых вопросов. Прежде всего, в УК РФ не закреплено определений понятий «робототехническая система», «автономная интеллектуальная система» и «искусственный интеллект», что препятствует единообразной квалификации деяний, совершенных с их использованием. Кроме того, положения об обстоятельствах, отягчающих наказание, охватывают лишь применение «специально изготовленных технических средств» и поэтому не позволяют в полной мере учитывать использование серийных робототехнических платформ при внезапно возникшем преступном умысле. Далее, закрепленные в составах преступлений признаки средств совершения деяния (оружия, взрывных устройств или средств вычислительной техники) не отражают особенностей робота как индивидуально определенного объекта, способного одновременно объединять свойства нескольких правовых категорий.

Указанные обстоятельства обусловливают необходимость перехода от общей концепции уголовно-правовой охраны отношений в сфере робототехники к разработке специальных правовых пределов применения робототехнических систем в пенитенциарных учреждениях. В данном контексте к правовым рискам относятся ошибочная квалификация связанных с роботами деяний, возникновение ситуаций, в которых не удается установить субъекта уголовной ответственности, нарушение прав осужденных и сотрудников вследствие непрозрачности алгоритмов, а также несоразмерное распределение ответственности между разработчиками и эксплуатирующими лицами. В деятельности ФСИН России эти риски дополнительно усиливаются особым правовым положением осужденного, режимным характером территории и повышенными требованиями к безопасности и охране здоровья лиц, содержащихся под стражей [10, с.265].

Повышенная причиняющая способность робототехнических систем выступает ключевой объективной предпосылкой установления специальных уголовно-правовых ограничений их применения в УИС. Роботы обладают увеличенным причиняющим потенциалом по сравнению с традиционными материальными объектами благодаря сочетанию мобильности, возможности переносить грузы значительных габаритов и массы, использоваться для доставки взрывчатых веществ и координированных действий группы устройств. Например, скоординированное применение нескольких БПЛА для одновременной доставки оружия в разные участки колонии способно радикально изменить баланс сил при групповых неповиновениях, но в действующей модели уголовно-правовой оценки такой сценарий не находит отражения как качественно иной по уровню общественной опасности.

Сложная природа робота как объекта уголовно-правовой охраны в учреждениях ФСИН России проявляется в том, что посягательство на робототехническую систему выходит за рамки обычного преступления против собственности. Так, например, неправомерное завладение охранным роботом-патрульным затрагивает не только имущественный интерес государства, но и режим исполнения наказания, безопасность осужденных, личного состава и иных лиц, находящихся на территории учреждения. Стандартный подход, при котором робот рассматривается как имущество и включается в предмет хищения либо повреждения, не отражает повышенную опасность нарушения функционирования роботизированной инфраструктуры исполнения наказаний. Если, например, наземный робот, несущий функции видеонаблюдения и физического блокирования периметра, выводится из строя посредством программного воздействия, нарушается не только право собственности, но и обеспеченность надлежащего режима охраны, что должно находить отражение в конструкции состава преступления.

В качестве отдельного аспекта следует рассмотреть способность роботов согласовывать свои действия, что может быть проиллюстрировано действиями роя БПЛА, когда программа нескольких автономных устройств одновременно блокирует ключевые входы и выходы из режимных корпусов, создавая условия для массовых беспорядков или захвата заложников, хотя ни один из операторов технически не участвует в каждой конкретной операции. Уголовно-правовая оценка подобных действий осложняется тем, что роботы не признаются субъектами преступления, а цепочка передачи управляющих команд может быть распределена между несколькими лицами и организациями.

Отсутствие специального регулирования создает институциональное ограничение, связанное с тем, что в традиционном уголовном праве субъектом преступления является физическое лицо, достигшее установленного возраста, однако на уровне позитивного права роботу не может быть придан статус субъекта ответственности. Поэтому при высокой автономности роботов возникает вопрос о субъекте ответственности, который в нынешней модели решается исключительно через поиск виновного среди разработчиков, операторов или иных участников обращения робота. В контексте деятельности УИС такая конструкция увеличивает риск ситуаций, когда вред значителен, а доказать вину конкретного должностного лица затруднительно из‑за сложной архитектуры программного обеспечения и распределенных полномочий по его настройке.

Вывод о повышенной причиняющей способности робота позволяет определить систему уголовно-правовых ограничений использования робототехнических систем в деятельности ФСИН России. Первое из них состоит в обязательном соблюдении принципа существенного человеческого контроля при внедрении автономных интеллектуальных систем. Действия робота, способные причинить вред жизни или здоровью осужденных и сотрудников (применение силы и специальных средств, изменение режима доступа в помещения либо управление средствами инженерной защиты) должны инициироваться человеком или подвергаться незамедлительному последующему контролю с обеспечением документируемой возможности вмешательства.

Следующее ограничение связано с алгоритмической прозрачностью как нормативным требованием к робототехническим системам, внедряемым в УИС. Для пенитенциарной практики это означает, что структура алгоритмов и журналы принятия решений автономными системами должны быть доступны для последующей проверки следственными органами и судами, включая возможность экспертного восстановления логики действий робота при наступлении вредных последствий [11, с.111].

Третье ограничение относится к материализации автономности в дифференциации уголовной ответственности. Человеческое участие при использовании робота для совершения преступления может сводиться к программированию или однократному вводу целевой команды, после чего робот самостоятельно реализует объективную сторону состава преступления. В УИС аналогичная ситуация может возникнуть, когда должностное лицо задаст автономной системе задачу усиления наблюдения или блокировки доступа, а алгоритм, действуя в условиях неопределенности, ошибочно выберет меры, приводящие к тяжким последствиям. Уголовно-правовое регулирование должно отражать этот сдвиг, устанавливая специальные правила оценки вины при опосредованном причинении вреда через автономную интеллектуальную систему, в том числе через формулирование специальных составов преступлений, предусматривающих ответственность за неправомерное программирование или настройку робототехнических систем в учреждениях ФСИН России.

Следующий элемент системы ограничений сводится к разграничению видов робототехники и учету характера ее использования. Необходима дифференциация ответственности за посягательства в отношении различных видов робототехники и за деяния, в объективной стороне которых присутствует признак использования робота, например, с использованием, многоуровневой системы: роботы охранного и надзорного назначения (периметр, видеонаблюдение, патрулирование), роботы логистического и сервисного назначения (доставка, уборка, обслуживание) и роботы специализированного воздействия (например, средства физического сдерживания, дистанционные системы применения спецсредств). Характер рисков и требуемые ограничения должны различаться для каждой группы, что следует отразить как в конструкциях специальных составов, так и в формулировке квалифицирующих признаков.

Целесообразно ввести квалифицирующий признак «с использованием робототехнической системы или автономной интеллектуальной системы» в составы преступлений, совершаемых в местах лишения свободы. Речь идет об основаниях для установления повышенной ответственности за деяния, причиняющая способность которых возрастает за счет использования робота. В пенитенциарном контексте такой признак может быть предусмотрен, например, для ст. 321 УК РФ (дезорганизация деятельности учреждений, обеспечивающих изоляцию от общества), ст. 313 УК РФ (побег из места лишения свободы или из‑под стражи) и ст. 205 УК РФ (террористический акт), если деяние совершено с использованием робототехнической системы или автономной интеллектуальной системы.

Дополнительно на уровне ведомственного законодательства возможно выделение самостоятельного состава, связанного с неправомерным доступом к робототехнической инфраструктуре учреждений УИС и ее использованием в преступных целях. На уровне толкования закона и судебной практики целесообразно закрепить в постановлении Пленума Верховного Суда РФ специальные правила квалификации деяний, при которых объективная сторона преступления полностью выполнена автономным роботом, а роль человека ограничилась программированием или удаленной постановкой цели. Целесообразно, чтобы соответствующее разъяснение Пленума закрепило бы, что в подобных ситуациях деяния квалифицируются по общим составам преступлений против личности, правосудия или порядка управления с указанием на использование автономной интеллектуальной системы; описывало бы подход к установлению вины лица, которое осуществляло программирование и настройку робота, несмотря на отсутствие его физического присутствия на месте совершения преступления; прямо указывало на недопустимость ссылки на «ошибки алгоритма» как обстоятельство, исключающее уголовную ответственность при наличии заведомых нарушений при проектировании и внедрении системы в условиях УИС.

Проведенный анализ позволяет заключить, что уголовно-правовые риски и пределы применения робототехнических систем в деятельности ФСИН России не исчерпываются традиционными вопросами охраны общественных отношений в сфере робототехники. Специфика пенитенциарной системы обусловлена концентрацией уязвимых объектов, особым режимом территорий и обязанностью государства обеспечивать безопасность осужденных, поэтому внедрение автономных устройств требует выстраивания иерархии правовых ограничений, при которой технологические возможности роботов подчиняются предписаниям уголовного и уголовно-исполнительного законодательства [12, с.37]. Предложенные критерии человеческого контроля, алгоритмической прозрачности и дифференциации ответственности, а также обозначенные направления совершенствования законодательства могут стать основой дальнейшей правотворческой работы, направленной на формирование устойчивого режима безопасного, правомерного и эффективного применения робототехники в деятельности уголовно-исполнительной системы Российской Федерации.