Искусственный разум, правовая система и функции государства
Искусственный разум, право и государство: вызовы и перспективы
Монография А.Г. Братко посвящена актуальной проблеме интеграции искусственного разума (ИИ) в правовую систему и государственное управление. Автор анализирует методологические аспекты, рассматривает свойства правовых норм и предлагает концепцию создания параллельной нормативной системы для ИИ.
ИИ и цифровая трансформация
В книге подчеркивается роль ИИ в цифровой трансформации общества, его взаимодействие с другими технологиями, такими как Big data, биометрия, умные вещи и блокчейн. Автор отмечает, что ИИ будет применяться в различных сферах, включая экономику, финансы, государственное управление и частный сектор. Рассматриваются вызовы, связанные с внедрением ИИ, включая вопросы защиты личной жизни и персональных данных.
Правовая система и ИИ: методологические подходы
Братко анализирует различные теории права, подчеркивая, что для целей применения ИИ наиболее подходит теория нормативизма, рассматривающая право как логическую систему норм. Автор предлагает концепцию создания параллельной нормативной системы для ИИ, которая будет взаимосвязана с основной правовой системой, предназначенной для естественного интеллекта. Подчеркивается необходимость учета логической структуры правовой нормы при разработке программ ИИ.
Функции государства и применение ИИ
В монографии рассматриваются функции государства и возможности применения ИИ в их реализации. Автор выделяет экономическую функцию, функцию защиты трудовых ресурсов, обеспечения науки, образования и здравоохранения, а также политическую, культурную, социальную и экологическую функции государства. Подчеркивается, что ИИ может быть эффективным инструментом в борьбе с коррупцией, преступностью и в обеспечении безопасности.
Проблемы и перспективы
Автор указывает на необходимость разработки законодательства, регулирующего разработку и применение ИИ в российском обществе. Подчеркивается, что за действия ИИ ответственность несет его разработчик и оператор. Рассматриваются вопросы защиты прав потребителей и обеспечения занятости в условиях внедрения ИИ. Братко подчеркивает, что внедрение ИИ должно быть направлено на повышение качества жизни людей, а не на их замену. В заключение автор отмечает, что для успешной интеграции ИИ в правовую систему необходима конвергенция точных, естественных и гуманитарных наук, а также учет специфики различных правовых систем.
Текст подготовлен языковой моделью и может содержать неточности.
- ВО - Бакалавриат
- 40.03.01: Юриспруденция
- ВО - Магистратура
- 40.04.01: Юриспруденция
- Аспирантура
- 40.06.01: Юриспруденция
ИСКУССТВЕННЫЙ РАЗУМ, ПРАВОВАЯ СИСТЕМА И ФУНКЦИИ ГОСУДАРСТВА À.Ã. ÁÐÀÒÊÎ МОНОГРАФИЯ Москва ИНФРА-М 202
Братко А.Г. Б87 Искусственный разум, правовая система и функции государ ства : монография / А.Г. Братко. — Москва : ИНФРА-М, 2024. — 282 с. — (Научная мысль). — DOI 10.12737/1064996. ISBN 978-5-16-015890-7 (print) ISBN 978-5-16-108261-4 (online) В монографии рассматриваются методологические проблемы встраивания искусственного разума в правовую систему с учетом закономерностей социума. Описаны свойства нормы права как микросистемы в подсистемах права и способы ее закрепления в системе законодательства, а также логика построения правовой нормы. Предлагается и обосновывается идея о создании специально для искусственного разума отдельной и самостоятельной, однозначной нормативной системы, параллельной основным отраслям права, построенной на логике четырехчленной структуры юридической нормы. Кратко рассматриваются некоторые теории права как инструменты методологии моделирования правовой системы и ее смысловых кодов в целях правильного функционирования искусственного разума. Показаны пути применения искусственного разума в функционировании государства. Для студентов и преподавателей, а также всех интересующихся во просами искусственного интеллекта с точки зрения права. УДК [340+004.8](075.4) ББК 67.0:32.813 УДК [340+004.8](075.4) ББК 67.0:32.813 Б87 © Братко А.Г., 2020 ISBN 978-5-16-015890-7 (print) ISBN 978-5-16-108261-4 (online) Р е ц е н з е н т ы: Михайлов В.А., доктор юридических наук, профессор, заслуженный де ятель науки Российской Федерации, главный редактор журнала «Публичное и частное право»; Ольков С.Г., доктор юридических наук, профессор, профессор кафедры уголовного права и криминологии Крымского федерального университета имени В.И. Вернадского
Предисловие В книге предпринята попытка методологического решения проблем встраивания искусственного разума в правовую систему в целях развития экономики, гражданских, финансовых отношений, создания комфортных условий потребителям товаров и услуг, а также для защиты личности и общества. При этом цель применения искусственного разума — это помощь естественному интеллекту. Проблема применения искусственного разума в российском обществе уже рассматривается на самом высоком государственном уровне. Так, в частности, глава Минэкономразвития РФ, выступая в июле 2019 г. в Госдуме РФ на парламентских слушаниях по вопросам цифровой экономики предложил провести большие парламентские слушания на тему искусственного интеллекта, и это предложение уже получило парламентскую поддержку1. Искусственный разум будет применяться в системе с киберфизическими системами (Cyber-Physical Systems, CPS), а также с технологиями Big data, и, соответственно, он может проанализировать огромные массивы данных и сформулировать прогноз в той или иной сфере жизненной практики общества. При этом предполагается, что искусственный разум будет широко применяться в государственном управлении и в деятельности различных компаний. В том числе — в робототехнике. Но есть и такие сферы, в которых искусственный разум не применим. Или он может быть применим лишь частично там, где нельзя обойтись без естественного интеллекта. Например, в медицине, в системе образования, в правоохранительной системе. Человека заменить невозможно без ущерба для социума. Но и врач, и преподаватель, и правоохранитель, и некоторые другие специалисты будут расширять свои возможности, применяя искусственный разум. Медицина и образование — главные движители поступательного развития нашей страны. Искусственный разум в системе с другими цифровыми технологиями создаст возможность улучшения профилактики и лечения болезней. Вопрос о повышении уровня подготовки в системе высшего образования — это едва ли не самый актуальный вопрос. Препо 1 См.: Орешкин предложил провести слушания по искусственному интеллекту. РИА «Новости». 08.07.2019. URL: https://ria.ru/20190708/1556316699. html
даватель может использовать искусственный разум по многим направлениям. И как помощника лектора, и как помощника экзаменатора. В том числе и как способ мотивации обучаемых к чтению литературы. В частности, искусственный разум может с легкостью и абсолютной точностью определить степень «начитанности» студента. И не только студента, но и уже работающего выпускника вуза на предмет знания специальной литературы. К примеру, степень компетентности медика во многом зависит от того, насколько он знает новые методы лечения, новинки лекарств. Как известно, наука (систематизированная научная информация) содержится в книгах, и она не может быть замещена справочной информацией, полученной в сети Интернет. Сегодня этот вопрос весьма актуален. Между тем невозможно получить высококвалифицированных специалистов, которые не следят за новинками литературы и не занимаются интенсивной самоподготовкой, т.е. не читают книги. Преподаватель может определить, а может и не определить этот параметр с достаточной точностью. А машину, которая обрабатывает огромное количество разнообразных данных и легко может вычислить профиль читающего студента или специалиста, ищущего работу, обмануть невозможно. Сколько и каких книг прочитал выпускник вуза — это та информация, которую как раз и может собрать и проанализировать искусственный разум, зная посетителей книжных магазинов, библиотек и покупателей в сети Интернет. А преподаватель еще и определит креативность студента. Рекрутинговые компании тоже могут использовать этот метод подбора кадров, наряду с другими методами определения эрудиции способностей специалистов. Сегодня в этом направлении развиваются технологии, и остановить их уже никто не сможет. Практически везде может применяться искусственный разум, но в основном как помощник специалистов. К примеру, в медицине. В медицинском протезировании. В тех же областях, которые могут быть полностью автоматизированы, его применение в системной связи с другими цифровыми технологиями станет максимальным и повысит уровень развития экономики. Самый яркий пример — сельское хозяйство, в котором трудоемкие технологии могут быть полностью автоматизированы с применением искусственного разума. По мере встраивания искусственного разума в социум появится больше удобств в быту. «Умный дом», «умный город» — все это сделает жизнь потребителей намного удобней и благополучней. В денежно-кредитной системе все операции могут эффективно контролироваться искусственным разумом. Технологии распреде
ленных реестров, «умные контракты» сделают экономику надежной и прозрачной. Когда будет создан цифровой банк, это ускорит денежно-кредитный оборот и будет выгодно не только для бизнеса, но и для всех потребителей финансовых услуг. Искусственный разум можно будет эффективно применять в противодействии терроризму, легализации преступных доходов, незаконным финансовым операциям. Разработкой и внедрением искусственного интеллекта занимаются банки и крупные компании1. При этом российские компании оказались лидерами по внедрению искусственного интеллекта (ИИ). К такому выводу пришли эксперты из Microsoft в исследовании «Бизнес-лидеры в эпоху ИИ», опубликованном на сайте корпорации. По оценкам экспертов, 30% российских руководителей активно внедряют ИИ. В среднем по всему миру этот показатель равен 22,3%, а в частности, во Франции — всего 10%. На общем фоне успехов нашей страны в решении проблемы импортозамещения все это выглядит внушительно. По данным Microsoft, приоритетами использования ИИ топ-менеджеры из России назвали постановку правильных целей, разработку бизнес-идей и определение новых возможностей рынка (32, 26 и 25% соответственно). Еще 23% респондентов доверили искусственному интеллекту принятие решений. В опросе приняли участие 800 менеджеров высшего звена из Франции, Германии, Италии, Нидерландов, России, Швейцарии, Великобритании, США (выборка — 100 респондентов на страну). Рассматривались крупные компании со штатом более 250 человек. Исследование проводилось в период с 18 по 27 января 2019 г.2 Но путь этот непростой. В частности, один банк, как пишут СМИ, уже получил миллиардные убытки. Почему так происходит? Потому что, как нам кажется, многие банки и компании занялись этими вопросами локально, не вникая в сложности правового регулирования тех операций, которые должен осуществлять искусственный разум. И как только они выйдут за рамки узкого применения методов искусственного разума в какой-то сфере, они натолкнутся на нерешенные в правовой системе общие вопросы применения искусственного разума. Более того, расширение масштабов применения искусственного разума приведет, представляется, еще и к тому, что его встраивание 1 Microsoft назвал Россию лидером по внедрению искусственного интеллекта // Подробнее на РБК: https://www.rbc.ru/rbcfreenews/5c7e8fe79a7947f55740fa78 2 Microsoft назвал Россию лидером по внедрению искусственного интеллекта // 05.2019 lenta.ru. URL: https://lenta.ru/news/2019/03/05/microii
в социум (социально-биологическую, психосоциальную среду, которая окружает человека) будет, помимо прочего, затруднено непониманием специфики самого социума и тех препятствий, которые он выставит на этом пути. Думается, в этом причина некоторых неудачных попыток и даже ошибок внедрения искусственного интеллекта, о которых писали СМИ и которые даже приводили к потере миллиарда рублей теми компаниями, которые пытались это сделать локально. На них учились, чтобы улучшить инновационную систему. Суть в том, что искусственный разум принимает решение, как правило, в больших системах, т.е. с учетом того, что эти системы, в свою очередь, состоят из многочисленных подсистем, поэтому в такой ситуации даже маленькая ошибка в алгоритме, как правильно заметил руководитель одного из крупнейших банков, может приводить к очень большим последствиям. Но компании еще больше могут потерять на этом, если машина сделает ошибку, связанную с неправильным пониманием нормативного акта, который тоже входит в алгоритм программы. Такая ошибка даже более вероятна, чем та, которая имеет просто технический характер. Причем хуже всего, если деньги, допустим, потеряет не сам банк, а еще и его клиенты. Запутавшись в различных и порой многозначных терминах, определениях и нечетких, логически противоречивых нормах гражданского, банковского, налогового права, в длиннотах текстов подзаконных нормативных актов (указаний, положений, инструкций), машина может направить не по адресу денежные переводы или снять со счетов деньги клиентов без их распоряжений. Чтобы не было сбоев в работе программ, нужна общая методология встраивания искусственного разума в социум и в правовую систему таким образом, чтобы не причинить ущерб правам и законным интересам граждан. Собственно, об этом идет речь в данной книге. Просто так, локально, методом проб и ошибок, решить все эти проблемы невозможно. Такой метод обойдется дороже. Нужен масштабный государственный проект внедрения искусственного разума в экономику и социальную сферу России. На него могли бы ориентироваться и компании, которые разрабатывают собственные проекты встраивания искусственного разума в свой бизнес. И еще нужен федеральный закон на эту же тему. Масштабность проекта предполагает разработку теории внедрения искусственного разума в социум и в государственно-правовую систему.
Можно, конечно, разработать математическую модель и ее программно-аппаратное обеспечение в целях встраивания искусственного разума, к примеру, в банковские технологии, но не надо забывать, что все это происходит, образно говоря, не на необитаемом острове, а в поражающей воображение огромной сети дозволений, обязываний и запретов многочисленных социальных и правовых норм. Поэтому одного лишь математического и социального моделирования для масштабного встраивания искусственного разума в общественных отношениях недостаточно. Нужно создать как минимум три модели: математические, социумные и правовые модели вмонтирования искусственного разума в общество и правовую систему. Если говорить о других странах, то надо иметь в виду, что к настоящему времени во всем мире сложилось множество различных по своей социумной и правовой природе правовых систем. Они отличаются в основном по религии и специфике отношения к источникам права. Например, в англосаксонском праве источником права является обычай и правовой прецедент и в меньшей степени закон, когда, скажем, рассматривается гражданское дело. А этот момент принципиален для применения методов искусственного разума в гражданском праве и гражданском процессе. Другой пример — религиозные системы права. Смысловые коды у религиозных систем применения программ искусственного разума наверняка будут отличаться от смысловых кодов романогерманских правовых систем. И нормы гражданского права тоже. К примеру, в Афганистане в приоритете могут быть обычаи пуштунских племен, а не законы. Между Западом и Востоком может возникать много различий не только в религиозных смысловых кодах программ искусственного разума, но и в конкретизирующих их обычаях и традициях. В этой сфере нужно каким-то образом гармонизировать программы, если речь пойдет о внедрении искусственного разума во внешнеэкономические отношения государств. И такая общая методология гармонизации нормативных требований к искусственному разуму вполне возможна. В общем, на этом пути встраивания искусственного разума в социальные и правовые системы, в том числе и в банковские, появится и уже появилась масса нерешенных юридических проблем, общую методологию решения которых я предлагаю в своей монографии. Структура построения книги такова: в начале приводится понятие искусственного разума и отмечается его взаимосвязь с дру
гими цифровыми технологиями. После этого раскрываются вопросы встраивания искусственного разума в правовую систему. Затем рассматриваются функции государства как основные направления его деятельности и возможности применения искусственного разума. Руководство нашей страны ставит вопрос таким образом, что «принципиально важно настроить российское законодательство на новую технологическую реальность, максимально быстро и качественно сформировать гибкую и адекватную правовую базу для разработки и использования прикладных решений на базе ИИ»1. В этой связи мною предлагается и обосновывается свое видение методологии введения искусственного разума в правовую систему и в механизм правового регулирования общественных отношений. В предлагаемой читателю книге законодателю предлагается не менять действующие нормативные акты в сфере гражданского и других отраслей права, а пойти по более простому и менее затратному в этом смысле пути: создать параллельные существующим отраслям права, нормативно-правовые системы, специально предназначенные для работы искусственного разума. Естественно, должны быть нормы, обеспечивающие еще и корреляцию этих систем. Можно использовать теорию нормативизма, наполнив основную норму соответствующими смысловыми кодами социума для целей искусственного разума. Это будет эффективно, проще, намного быстрее и дешевле, чем перекраивать всю систему российского права. Причем дешевле как для государственного бюджета, так и для финансов компаний. Моя теория правовой нормы, построенная на основе принципов кибернетики, а также и ее логической четырехчленной структуры, может быть эффективно использована в алгоритмах и в программно-аппаратном обеспечении работы искусственного разума. 1 Путин: монополист в искусственном интеллекте станет властелином мира. URL: https://ria.ru/20190530/1555114584.html?utm_source=yxnews&utm_ medium=desktop
Глава 1 ПОНЯТИЕ ИСКУССТВЕННОГО РАЗУМА И ЕГО РОЛЬ В СИСТЕМЕ ЦИФРОВЫХ ТЕХНОЛОГИЙ 1.1. ПОНЯТИЕ ИСКУССТВЕННОГО РАЗУМА И ЕГО ОСНОВНОЕ ОТЛИЧИЕ ОТ ЕСТЕСТВЕННОГО ИНТЕЛЛЕКТА В СВЯЗИ С ПРИРОДОЙ ЧЕЛОВЕКА И ОБЩЕСТВА 1.1.1. Понятие и признаки искусственного разума В современной литературе по интеллектуальным кибернетическим системам представлены разные подходы к определению понятия искусственного интеллекта. Вот одно из определений: Artificial Intelligence (AI) — это система, способная рационально решать сложные задачи или предпринимать соответствующие действия для достижения своих целей в реальной действительности1. По сути, речь идет об искусственном разуме. Характерно, что в российских переводах иностранной литературы авторами используется термин «искусственный интеллект», что на мой взгляд, неточно. Вопрос собственно в переводе термина artificial intelligence на русский язык. Это словосочетание переводится еще и как «искусственный разум». И тем не менее в российской литературе говорят об искусственном интеллекте, а это уже не только искусственный разум. По мнению известного ученого в этой области науки Нильса Нильсона, artificial intelligence — это антропогенный продукт, который обладает способностью осуществлять интеллектуальное поведение, машина, у которой есть возможности исполнять такие действия, для которых по общему правилу необходим интеллект человека2. 1 Firth-Butterfield K., Chae Y., Allgrove B., Kitsara I. Artificial Intelligence Collides with Patent Law [Искусственный интеллект в столкновении с патентным правом]: White Paper / Center for the Fourth Industrial Revolution. Geneva (Switzerland): World Economic Forum, 2018. P. 5. URL: http://www3.weforum. org/docs/WEF_48540_WP_End_of_Innovation_Protecting_Patent_L aw.pdf 2 См.: Нильсон Н.Дж. Искусственный интеллект: методы поиска решений = Problem-Solving Methods in Artificial Intelligence / пер. с англ. В.Л. Стефанюка; под ред. С.В. Фомина. М.: Мир, 1973. С. 7.
Что касается критерия «антропогенный продукт», то тут както сразу вспоминается философия Тейяр де Шардена1, который полагал, что эволюция не закончилась на человеке как индивидууме, а продолжается по мере того, как человечество объединяется в сообщества с возрастающей дифференциацией индивидуальных функций и соответственно увеличивающейся степенью взаимосвязи2. Дальше будет происходить эволюция за счет развития и усиления человеческого интеллекта. Биологическая эволюция человека закончилась, и дальше развитие пойдет за счет развития самого интеллекта. На мой взгляд, вопрос только в том, о каком искусственном интеллекте как усилителе разума идет речь. Дальше мы еще будем рассматривать вопрос о социально-биологической природе человека, которая как бы подсказывает нам, что человека воспроизвести искусственным путем невозможно. И забегая несколько вперед, скажем, что создать можно только искусственный разум, но не весь естественный интеллект человека. А пока вернемся к канве рассуждений об определении искусственного разума. Вот еще одно определение, на этот раз уже российских авторов, в котором акцентируется внимание на кибернетике: «Искусственный интеллект — это искусственная сложная кибернетическая компьютерно-программно-аппаратная система (электронная, в том числе — виртуальная, электронно-механическая, биоэлектронно-механическая или гибридная) с когнитивно-функциональной архитектурой и собственными или релевантно доступными (приданными) вычислительными мощностями необходимых емкостей и быстродействия…»3 1 Пьер Тейяр де Шарден (фр. Pierre Teilhard de Chardin; 1 мая 1881 г., замок Сарсена близ Клермон-Феррана, Овернь, Франция — 10 апреля 1955 г., Нью-Йорк) — французский католический философ и теолог, биолог, геолог, палеонтолог, археолог, антрополог. Внес значительный вклад в палеонтологию, антропологию, философию и католическую теологию; член ордена иезуитов (с 1899 г.) и священник (с 1911 г.). Один из первооткрывателей синантропа. Один из создателей теории ноосферы (наряду с Владимиром Вернадским и Эдуардом Леруа), создал своего рода синтез католической христианской традиции и современной теории космической эволюции. Не оставил после себя ни школы, ни прямых учеников, но основал новое течение в философии — тейярдизм, первоначально осужденный, но затем интегрированный в доктрину католической церкви и ставший «наиболее влиятельной теологией, противостоящей неотомизму». 2 Тейяр де Шарден выделяет три последовательно развивающиеся, качественно различные ступени эволюции: «преджизнь» (литосфера), «жизнь» (биосфера) и «феномен человека» (ноосфера). 3 См.: Понкин И.В., Редькина А.И. Искусственный интеллект с точки зрения права // Вестник Российского университета дружбы народов. Сер. «Юридические науки». 2018. Т. 22. № 1. С. 91–109.