Возможности применения искусственного интеллекта в государственном управлении и юридические экспертизы

Э. В. Талапина 
В. Н. Южаков 
А. А. Ефремов 
И. А. Черешнева

Возможности применения 
искусственного интеллекта 
в государственном 
управлении 
и юридические 
экспертизы

| И  ДЕЛО |

Москва | 2022

УДК 004.89
ББК 32.813
      В64

В64

Рецензенты:
Гриценко А. В. —  канд. экон. наук, доцент, науч. рук. Института государственного 
и муниципального управления НИУ ВШЭ 
Терещенко Л. К. —  д-р. юрид. наук, доцент, Заслуженный юрист РФ, 
зам. зав. отделом административного законодательства и процесса Института 
законодательства и сравнительного правоведения при Правительстве РФ

Талапина, Э.В. и др.

Возможности применения искусственного интеллекта в государствен
ном управлении и юридические экспертизы / Э. В. Талапина, В. Н. Южаков, 
А. А. Ефремов, И. А. Черешнева. —  Москва : Издательский дом «Дело» РАНХиГС, 
2022. — 190 с. — ISBN 978-5-85006-416-7

Исследование посвящено возможностям использования искусственного интеллекта в государственном управлении, в частности при проведении юридических экспертиз. Рассматривается опыт использования искусственного интеллекта в государственном управлении (в России и за рубежом), представляются 
результаты анализа его использования в юридических экспертизах. Отдельно 
исследуются правовые ограничения использования искусственного интеллекта при проведении юридических экспертиз. Авторы высказывают предложения по формированию основ правового регулирования использования искусственного интеллекта, формулируют концепцию правового регулирования его 
использования при проведении юридических экспертиз в целях государственного управления.

Издание предназначено для специалистов в области права и современного 

законотворческого процесса.

ISBN 978-5-85006-416-7

УДК 004.89
ББК 32.813

© ФГБОУ ВО «Российская академия народного хозяйства
и государственной службы при Президенте Российской Федерации», 2022

Содержание

Введение  ...................................................................................5

1. Искусственный интеллект в государственном 
управлении: теория и практика  ............................................. 7

1.1. Краткая история развития искусственного 

интеллекта  .................................................................... 7

1.2. Подходы к определению искусственного 

интеллекта  ...................................................................11

1.3. Преимущества и риски использования искусственного 

интеллекта в государственном управлении  ................ 12

1.4. Международно-правовое и зарубежное 

регулирование использования искусственного 
интеллекта в государственном управлении  ................34

1.5. Развитие российского правового регулирования 

использования искусственного интеллекта 
в государственном управлении  ................................... 77

1.6. Примеры использования искусственного 

интеллекта в юридической практике 
и будущее юридической профессии  ............................83

1.7. Машиночитаемое право как условие 

использования искусственного интеллекта 
в юридической деятельности  ......................................94

2. Возможности использования искусственного 
интеллекта при проведении правовой экспертизы  ......... 109

2.1. Правовая экспертиза: понятие, виды, этапы  ............. 109

2.2. Российские научные подходы к использованию 

искусственного интеллекта при осуществлении 
нормотворческой функции государственных 
органов  ...................................................................... 117

2.3. Использование искусственного интеллекта 

при проведении правовой экспертизы 
в отношении отдельных видов данной 
экспертизы и ее стадий ..............................................118

3. Возможности использования искусственного 
интеллекта при проведении антикоррупционной 
экспертизы  ...........................................................................126

4. Правовые ограничения использования искусственного 
интеллекта при проведении юридических экспертиз 
в целях государственного управления  ................................137

4.1. Правовые ограничения использования 

искусственного интеллекта при проведении 
правовой экспертизы  .................................................137

4.2. Правовые ограничения использования 

искусственного интеллекта при проведении 
антикоррупционной экспертизы  ...............................141

5. Предложения по правовому регулированию 
использования искусственного интеллекта 
при проведении юридических экспертиз 
в целях государственного управления  ................................145

5.1. Основы правового регулирования использования 

искусственного интеллекта при проведении 
юридических экспертиз в целях государственного 
управления  ............................................................... 145

5.1.1. Использование искусственного интеллекта 

при проведении юридических экспертиз 
в целях государственного управления: 
правовая экспертиза  ....................................... 145

5.1.2. Использование искусственного интеллекта 

при проведении юридических экспертиз 
в целях государственного управления: 
антикоррупционная экспертиза  .......................150

5.2. Концепция правового регулирования 

использования искусственного интеллекта 
при проведении юридических экспертиз в целях 
государственного управления .................................... 159

Заключение  ...........................................................................172

Список использованных источников  ..................................174

Введение

Технологическое развитие не оставляет сомнений в предстоящем нарастающем применении 
искусственного интеллекта (далее также —  ИИ) 
в самых разнообразных сферах. При этом в обществе существуют опасения относительно степени 
влияния технологии искусственного интеллекта (в том числе машинного обучения) на свободу 
человека; эти опасения, как правило, сопряжены 
с использованием данных технологий частным 
сектором (финансовыми организациями и техногигантами). Однако перспектива использования 
ИИ в сфере государственного управления порождает еще большие риски (например, гипотетическая опасность цифрового угнетения —  digital 
oppression) ввиду масштабности потенциальных злоупотреблений. Использование технологий машинного обучения вооруженными силами, 
органами национальной безопасности и правопорядка вызывает обоснованную тревогу и ведет к необходимости серьезного комплексного 
анализа, в том числе этического. Так, применение алгоритмов для анализа телефонных записей и другой личной информации привело к широкой общественной дискуссии по вопросам 

Э. В. Талапина, В. Н. Южаков, А. А. Ефремов, И. А. Черешнева

конфиденциальности и защиты данных [1]. Аналогичные сомнения возникают и в случае использования правоохранительными органами машинного обучения для выявления, реагирования и, возможно, прогнозирования преступлений (так 
называемая предиктивная аналитика) [2].

Государственное управление в правовом государстве 

не может осуществляться иначе, нежели на основе права. 
Правовое осмысление искусственного интеллекта, имеющее 
некоторую историю и сферу практического применения, находится на начальной стадии. При этом государственное 
управление почти всегда связано с принятием юридически 
значимых решений в форме правовых актов. Для обеспечения надлежащего качества правовых актов, а следовательно, государственного управления в целом законодательством 
предусмотрено проведение различных юридических экспертиз, в том числе правовой и антикоррупционной.

Использование ИИ при проведении таких экспертиз (неко
торые исследователи говорят при этом о перспективе полной 
замены им человека) способно повысить качество принимаемых решений прежде всего за счет технологий обработки больших объемов данных. Как отмечается в Национальной стратегии развития искусственного интеллекта на период до 2030 г., 
существует фактор высокой степени влияния технологических 
решений, разработанных на основе искусственного интеллекта, на результативность деятельности организаций и человека, в том числе связанной с принятием управленческих решений. Это преимущество необходимо использовать.

Цель настоящей работы заключается в том, чтобы проана
лизировать возможности использования искусственного интеллекта в государственном управлении, в частности при проведении юридических экспертиз. Названная цель реализуется 
посредством выполнения следующих задач: анализ возможностей использования ИИ в целях государственного управления (в том числе при проведении юридических экспертиз), 
анализ правовых ограничений использования ИИ в юридических экспертизах, формулирование правовых условий для 
использования ИИ при проведении юридических экспертиз 
в целях государственного управления.

1. Искусственный интеллект 
в государственном управлении: 
теория и практика

1.1. Краткая история развития 
искусственного интеллекта

История искусственного интеллекта (ИИ) достаточно длительна, она насчитывает около 70 лет. 
Отправной точкой считается состоявшийся летом 1956 г. в британском Дартмуте научный семинар по вопросам искусственного интеллекта, в ходе которого была высказана уверенность: 
в ближайшее время станет возможным с такой 
точностью описать процесс обучения и другие аспекты человеческого интеллекта, что этого будет достаточно для моделирования процесса обучения машиной. В 1980–1990-х гг. прогресс 
в области информационных технологий привел 
к разработке экспертных систем, что вызвало новую волну интереса к ИИ. Ричард Сасскинд определяет экспертные системы как ИТ-приложения, 
которые, обладая знаниями и опытом, используемыми для решения проблем, предлагают юридические консультации или выполняют ряд задач, точно так же, как это сделал бы человек [3]. 
При этом нужно иметь в виду, что экспертные 
системы довольно ограничены. С одной стороны, 
они применимы только в очень узких областях, 

Э. В. Талапина, В. Н. Южаков, А. А. Ефремов, И. А. Черешнева

8

с другой стороны, их производительность основана на знаниях людей-операторов. Поставленные перед ними проблемы экспертные системы способны решать только путем применения логических правил к ранее загруженным знаниям.

В настоящее время возникла новая волна интереса к ИИ, 

связанная с цифровой трансформацией. Начиная с шахмат 
и игры в Го, количество применений ИИ растет —  автоматизированные транспортные средства, синхронный перевод, 
распознавание лиц, массовое наблюдение (тотальная слежка). Этому поспособствовало возрастание возможностей обработки данных —  доступность производственных мощностей, технологии больших данных и машинное обучение. 
Системы, использующие ИИ, принимают решения, базируясь на моделях, созданных на основе данных. Таким образом, 
хотя ИИ известен относительно давно, революционным стало соединение алгоритмов с большими данными (Big Data). 
По мнению специалистов, уже сейчас алгоритмы, стоящие 
за ботами Big Data, могут найти закономерности и связи, обнаружение которых было бы практически невозможным для 
человека [4].

Как известно, алгоритмы основаны на идее правил и ло
гики. Однако современный ИИ выходит за пределы аналогового порядка, базирующегося на связывании анализируемых 
элементов. Он сталкивается со сложными проблемами (распознавание лиц, звука, принятие решений), которые возникают в результате взаимодействия с большим количеством 
переменных. Переменные не регулируются правилами. Путем постоянного агрегирования этих переменных ИИ приходит к наиболее вероятному решению, причем невозможно 
понять, почему информационная система приняла именно 
это решение, а не иное. Ответы искусственного интеллекта — 
результат агрегирования многих показателей; это гораздо 
ближе к аналогии, нежели к логике и правилам.

Такое развитие стало возможным благодаря машинному 

обучению. Методы машинного обучения отличаются от классических алгоритмов тем, что происходит переход от логики программирования к логике обучения, то есть компьютеры не программируют, а обучают (в этом смысле наступает 

Применение искусственного интеллекта в госуправлении

9

конец кода, которому еще недавно прочили место закона). 
Функционирование алгоритма машинного обучения сравнивают с когнитивным развитием ребенка: правила воспроизводятся через наблюдение и анализ, без их точного объяснения [5].

Итак, в современных условиях ИИ связывают именно с ма
шинным обучением. Последнее выступает подразделом ИИ 
и относится к разработке цифровых систем, которые со временем улучшают свою производительность по ранее заданной задаче, «обучаясь» на собственном опыте. Машинное обучение является наиболее широко используемой формой ИИ; 
оно внесло большой вклад в такие инновации, как беспилотные автомобили, распознавание речи и машинный перевод.

Последние достижения в области машинного обучения яв
ляются результатом:

 
– совершенствования алгоритмов;

 
– увеличения финансирования;

 
– огромного роста объема данных, создаваемых и храни
мых цифровыми системами;

 
– увеличения доступа к вычислительной мощности и рас
ширения облачных вычислений.

Выделяют следующие виды машинного обучения:

 
– контролируемое обучение, которое позволяет модели 

ИИ обучаться на размеченных тренировочных данных 
(например, обучение модели ИИ помогать помечать 
контент на сайтах, используя тэги);

 
– неконтролируемое обучение, которое обучает алгоритм 

ИИ использовать неразмеченную и неклассифицированную информацию;

 
– стимулирующее обучение, которое позволяет модели 

ИИ учиться в процессе выполнения задачи.

Вместе с тем преждевременно утверждать, что ИИ уже полностью заменяет мозг человека. По свидетельствам нейроспециалистов, несмотря на заметный прогресс, нейронные сети сейчас учатся только автоматической классификации. Они пока 
не могут выстроить иерархию таким образом, чтобы получить 

Э. В. Талапина, В. Н. Южаков, А. А. Ефремов, И. А. Черешнева

10

общие принципы, логику, объяснения [6]. Итак, главный недостаток ИИ на сегодняшний день можно сформулировать 
следующим образом: системы не способны понять суть 
вещи. На то, что человек делает автоматически и не задумываясь, ИИ затрачивает значительное количество сложных 
итераций с не всегда предсказуемым результатом. Из многочисленных иллюстраций сошлемся на пример «обмана» 
ИИ, который способен отличить одного человека от другого, 
но если человеку на лицо прилепить кусочек лейкопластыря 
и написать на нем слово STOP, то некоторые нейросети переведут эту картинку из категории «лица» в категорию «дорожные знаки» [7].

Тем не менее, хотя системы искусственного интеллекта 

еще совсем не готовы к полной замене человека, они уже активно применяются. Например, в правоохранительной деятельности, где искусственный интеллект повышает эффективность систем информационного обеспечения, и, как 
утверждается, усиливает коэффициент полезного действия 
от уже внедренных в правоохранительную деятельность технологий [8]. Или в ходе противодействия пандемии коронавируса во всем мире —  для медицинской диагностики, для 
поддержания карантинных мер, изоляции заболевших, отслеживания контактов с зараженными. В общем практика 
развивается в опережающем порядке по отношению к теории. Но любое применение ИИ непосредственно влияет 
на основные права человека, которые признаны высшей ценностью многими государствами, в том числе Россией. Поэтому, говоря о возможностях использования ИИ в какой бы 
то ни было сфере, нужно прежде всего оценить риски нарушения прав человека. Кроме того, если понятие еще не стало правовым в полной мере, если его нормативное регулирование не сложилось, трудно вести речь об ответственности 
за различные девиации, о возмещении ущерба и пр. Все это 
аргументы в пользу скорейшего развития правовой доктрины и законодательства в данной области.

Обобщая, можно представить ИИ в качестве области иссле
дований, охватывающих философию, логику, статистику, информатику, математику, нейробиологию, лингвистику, когнитивную психологию, экономику, право.