Этика искусственного интеллекта. Кейсы и варианты решения этических проблем

серия
исследования 
культуры

Bernd Carsten Stahl
Doris Schroeder
Rowena Rodrigues
 
Ethics of Artificial 
 
Intelligence
 
Case Studies and Options 
 
for Addressing Ethical Challenges

Бернд Карстен Шталь
Дорис Шредер
Ровена Родригес
 
Этика искусственного
 
интеллекта
Кейсы и варианты решения 
 
этических проблем
Издательский дом  
Высшей школы экономики 
Москва, 2025
Перевод с английского 
Инны Кушнаревой 
под научной редакцией 
Александра Павлова
2-е издание, электронное

УДК .+
ББК .+.
Ш
Проект серийных монографий 
по социально-экономическим 
и гуманитарным наукам 
Руководитель проекта АЛЕКСАНДР ПАВЛОВ
В соответствии со ст. 1299 и 1301 ГК РФ при устранении ограничений, установленных техническими средствами защиты авторских прав, правообладатель вправе требовать от нарушителя возмещения убытков или выплаты компенсации.
ISBN 978-5-7598-4053-4
© The author(s)  / CC BY .
© Перевод на русский язык. 
Национальный исследовательский 
университет «Высшая школа 
экономики», 
Перевод выполнен по изданию: Stahl B.C., Schroeder D., Rodrigues R.
Ethics of Artificial Intelligence. Case Studies and Options for Addressing
Ethical Challenges (Springer, )
В оформлении обложки использована фотография Sb / CC
BY-SA . (https://commons.wikimedia.org/wiki/File:Snow_Drop_
card_from_the_Plant_with_Root_series_MET_DP--.jpg)

Благодарности .     .     .     .     .     .     .     .     .     .     .     .     .   
Глава 1. Этика искусственного 
интеллекта: введение     .     .     .     .     .     .     .     .     .  12
Несправедливая и незаконная 
дискриминация (глава )   .     .     .     .     .     .     .     .     .   
Неприкосновенность частной жизни 
(глава ) .     .     .     .     .     .     .     .     .     .     .     .     .     .   
Надзорный капитализм (глава ) .     .     .     .     .     .     .   
Манипуляция (глава ).     .     .     .     .     .     .     .     .     .   
Право на жизнь, свободу 
и личную безопасность (глава )  .     .     .     .     .     .     .   
Человеческое достоинство (глава )   .     .     .     .     .     .   
«ИИ во благо» и Цели ООН в области 
устойчивого развития (глава )    .     .     .     .     .     .     .   
Библиография   .     .     .     .     .     .     .     .     .     .     .     .   
Глава 2. Несправедливая и незаконная 
дискриминация      .     .     .     .     .     .     .     .     .     .     .  24
.. Введение     .     .     .     .     .     .     .     .     .     .     .     .   
.. Кейсы дискриминации, 
которой способствовал ИИ     .     .     .     .     .     .     .     .   
... Кейс : Предубежденность
в инструментах найма на работу .     .     .     .     .     .   
... Кейс : Дискриминирующее 
использование ИИ в правоохранительной 
системе и для профилактических 
полицейских мер   .     .     .     .     .     .     .     .     .     .  
... Кейс : Дискриминация 
на основе цвета кожи  .     .     .     .     .     .     .     .     .  
.. Этические вопросы, связанные 
с дискриминацией, которой способствуют ИИ   .     .     .  
ОГЛАВЛЕНИЕ 


.. Меры по борьбе с несправедливой/
незаконной дискриминацией .     .     .     .     .     .     .     .  
... Оценка воздействия ИИ .     .     .     .     .     .     .  
... Этика, заложенная в дизайн      .     .     .     .     .   
.. Выводы .     .     .     .     .     .     .     .     .     .     .     .     .  
Библиография   .     .     .     .     .     .     .     .     .     .     .     .   
Глава 3. Неприкосновенность 
частной жизни .     .     .     .     .     .     .     .     .     .     .     .  50
.. Введение     .     .     .     .     .     .     .     .     .     .     .     .  
.. Кейсы нарушения неприкосновенности 
частной жизни по вине ИИ    .     .     .     .     .     .     .     .   
... Кейс : Использование 
персональных данных 
авторитарными режимами     .     .     .     .     .     .     .   
... Кейс : Неприкосновенность 
генетических данных  .     .     .     .     .     .     .     .     .   
... Кейс : Биометрический надзор     .     .     .     .   
.. Защита данных 
и неприкосновенность частной жизни    .     .     .     .     .   
.. Меры по борьбе с угрозами 
неприкосновенности частной жизни, 
порождаемыми ИИ      .     .     .     .     .     .     .     .     .     .  
.. Выводы .     .     .     .     .     .     .     .     .     .     .     .     .   
Библиография   .     .     .     .     .     .     .     .     .     .     .     .   
Глава 4. Надзорный капитализм .     .     .     .     .     .  74
.. Введение     .     .     .     .     .     .     .     .     .     .     .     .   
.. Кейсы надзорного капитализма, 
использующего ИИ      .     .     .     .     .     .     .     .     .     .   
... Кейс : Присвоение данных .     .     .     .     .     .   
... Кейс : Монетизация данных 
о здоровье   .     .     .     .     .     .     .     .     .     .     .     .   
... Кейс : Нечестные коммерческие 
практики    .     .     .     .     .     .     .     .     .     .     .     .   
.. Этические вопросы надзорного капитализма    .     .  
.. Меры противодействия 
надзорному капитализму .     .     .     .     .     .     .     .     .  


... Антимонопольное законодательство    .     .     .  
... Доступ и шеринг данных    .     .     .     .     .     .  
... Укрепление права собственности
потребителей/индивидов на их данные  .     .     .     .   
.. Выводы .     .     .     .     .     .     .     .     .     .     .     .     .  
Делить компании, опираясь 
на антимонопольное законодательство, 
сложно   .     .     .     .     .     .     .     .     .     .     .     .     .  
Являются ли «работники крупных 
технологических компаний одним из главных 
сдерживающих факторов роста ее власти»? .     .     .   
Библиография   .     .     .     .     .     .     .     .     .     .     .     .  
Глава 5. Манипуляция    .     .     .     .     .     .     .     .     .  98
.. Введение     .     .     .     .     .     .     .     .     .     .     .     .  
.. Кейсы манипулирования при помощи ИИ   .     .     .  
... Кейс : Манипуляции на выборах   .     .     .     .  
... Кейс : Продвижение продаж
в «моменты уязвимости для внушения» .     .     .     . 
.. Этика манипуляции    .     .     .     .     .     .     .     .     . 
.. Меры для борьбы с манипуляциями  .     .     .     .     . 
.. Выводы .     .     .     .     .     .     .     .     .     .     .     .     . 
Библиография   .     .     .     .     .     .     .     .     .     .     .     . 
Глава 6. Право на жизнь, 
свободу и личную безопасность .     .     .     .     .     . 113
.. Введение     .     .     .     .     .     .     .     .     .     .     .     . 
.. Кейсы, в которых ИИ 
негативно влиял на право на жизнь, 
свободу и личную безопасность   .     .     .     .     .     .     . 
... Кейс : Смертельная авария 
с участием беспилотного автомобиля     .     .     .     . 
... Кейс : Уязвимости в системе 
управления умными домами .     .     .     .     .     .     . 
... Кейс : Состязательные атаки 
в медицинской диагностике   .     .     .     .     .     .     . 
.. Этические вопросы     .     .     .     .     .     .     .     .     . 
... Безопасность человека   .     .     .     .     .     .     . 


... Неприкосновенность частной жизни   .     .     . 
... Ответственность и подотчетность   .     .     .     . 
.. Меры по защите жизни, свободы 
и безопасности людей .     .     .     .     .     .     .     .     .     . 
... Внедрение и укрепление 
режимов ответственности .     .     .     .     .     .     .     . 
... Управление качеством систем ИИ  .     .     .     . 
... Состязательная устойчивость   .     .     .     .     . 
.. Выводы .     .     .     .     .     .     .     .     .     .     .     .     . 
Библиография   .     .     .     .     .     .     .     .     .     .     .     . 
Глава 7. Человеческое достоинство     .     .     .     . 140
.. Введение     .     .     .     .     .     .     .     .     .     .     .     . 
.. Кейсы с потенциальным конфликтом 
между ИИ и человеческим достоинством     .     .     .     . 
... Кейс : Несправедливое увольнение     .     .     . 
... Кейс : Секс-роботы  .     .     .     .     .     .     .     . 
... Кейс : Роботы-сиделки .     .     .     .     .     .     . 
.. Этические вопросы, 
касающиеся ИИ и достоинства      .     .     .     .     .     .     . 
.. Выводы  .     .     .     .     .     .     .     .     .     .     .     .     . 
Библиография   .     .     .     .     .     .     .     .     .     .     .     . 
Глава 8. «Искусственный 
интеллект во благо» 
и Цели устойчивого развития.     .     .     .     .     .     . 167
.. Введение     .     .     .     .     .     .     .     .     .     .     .     . 
.. Приносит ли «ИИ во благо» благо? 
Кейсы    .     .     .     .     .     .     .     .     .     .     .     .     .     . 
... Кейс : Сезонное прогнозирование 
климата в условиях ограниченных 
ресурсов     .     .     .     .     .     .     .     .     .     .     .     . 
... Кейс : «Вертолетные исследования»   .     .     . 
.. Этические вопросы, возникающие 
в связи с «ИИ во благо» и ЦУР     .     .     .     .     .     .     . 
... Пустыня данных или неравномерное 
распределение доступности данных .     .     .     .     . 
... Двойные стандарты  .     .     .     .     .     .     .     . 

... Невнимание к социальным 
составляющим проблем, 
которые призваны решить ЦУР   .     .     .     .     .     . 
... Слон в комнате: цифровой разрыв
и нехватка талантов для ИИ   .     .     .     .     .     .     . 
... Нерешенные важные проблемы,
в которых ИИ и ЦУР вступают в конфликт   .     .     . 
.. Выводы .     .     .     .     .     .     .     .     .     .     .     .     . 
Библиография  .     .     .     .     .     .     .     .     .     .     .     . 
Глава 9. Этика искусственного интеллекта: 
заключение .     .     .     .     .     .     .     .     .     .     .     .     . 188
Библиография   .     .     .     .     .     .     .     .     .     .     .     . 


БЛАГОДАРНОСТИ
Эта книга опирается на работу, которую авторы вели в 
рамках целого ряда различных проектов. Главный проект, который свел нас вместе и продемонстрировал потребность в кейсах, описывающих этические проблемы 
ИИ и пути их решения, — SHERPA (–), финансируемый ЕС. Все три автора были его участниками, причем Бернд Шталь возглавлял его. Мы также хотели бы 
отметить вклад участников консорциума SHERPA, который вдохновлял и оказывал влияние на работу над данной книгой.
Все три автора активно участвовали и продолжают работать в других проектах, прямо или косвенно оказавших 
влияние на эту книгу. Эти проекты и люди, которые в них 
заняты, заслуживают благодарности. Среди этих проектов 
финансируемые ЕС «Проект “Человеческий мозг”», «ТехЭтос» и SIENNA, а также проекты «Ответственная индустрия», CONSIDER, TRUST и ETICA.
Мы также благодарим за поддержку коллег из наших 
институтов и организаций, в частности из Центра компьютерных наук и социальной ответственности при Университете Де Монфорт, Центра профессиональной этики 
при Университете Центрального Ланкашира и Trilateral 
Research Ltd.
Мы хотели бы поблагодарить Пауля Вайса за замечательную редактуру, Джулию Кук за проницательные замечания к первому варианту работы и Джайанти Кришнамурти, Джулиану Питанги и Тони Милевой из Springer 
Nature за эффективное управление процессом публикации. Благодарим Костаса Иатридиса за замечательную 
академическую поддержку. Мы в долгу перед Амандой