Искусственный ты: машинный интеллект и будущее нашего разума

Посвящается  
Елене, Алексу и Элли

ARTIFICIAL YOU

AI and the Future of Your Mind 

S S

PRINCETON UNIVERSITY PRESS 
PRINCETON AND OXFORD

Перевод с английского

Москва, 2022

ИСКУССТВЕННЫЙ
ТЫ

машинный интеллект 
и будущее нашего разума

С Ь Ю З А Н  Ш Н А Й Д Е Р

ISBN 978-5-00139-415-0 (рус.)
ISBN 978-0691216744 (англ.)

УДК 004.8
ББК 16.6
 
Ш76

Переводчик Наталья Лисова
Научный редактор Александр Каплан, д-р биол. наук
Редактор Вячеслав Ионов

Шнайдер С.
Искусственный ты: машинный интеллект и будущее 
нашего разума / Сьюзан Шнайдер ; Пер. с англ. — М. : 
Альпина нон-фикшн, 2022. — 245 с.

ISBN 978-5-00139-415-0

В этой книге речь идет о будущем разума и о том, как 
наши представления о себе, о разуме и о собственной природе могут изменить будущее — к лучшему или к худшему. 
В ней две центральные сюжетные линии: одна — это размышления о том, что такое сознание, вторая — предупреждение о том, что неспособность продумать философские 
последствия создания искусственного интеллекта может 
положить конец дальнейшему процветанию существ, 
обладающих сознанием. Автор пытается найти ответы на 
вопросы: могут ли машины обладать сознанием и может 
ли человек слиться с искусственным интеллектом ради расширения своих возможностей?

УДК 004.8
ББК 16.6

Ш76

Все права защищены. Никакая часть этой книги не может быть воспроизведена в какой бы 
то ни было форме и какими бы то ни было средствами, включая размещение в сети интернет и в корпоративных сетях, а также запись в память ЭВМ для частного или пуб личного 
использования, без письменного разрешения владельца авторских прав. По вопросу организации доступа к электронной библиотеке издательства обращайтесь по адресу 
mylib@alpina.ru

© Susan Schneider, 2019
© Издание на русском языке, перевод, 
оформление.  
ООО «Альпина нон-фикшн», 2022

О Г Л А В Л Е Н И Е

Введение . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7

Глава 1 
Век ИИ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .19

Глава 2 
Проблема искусственного сознания . . . . . . . . . . . 29

Глава 3 
Проектирование сознания . . . . . . . . . . . . . . . . . . . 53

Глава 4 
 Как поймать ИИ-зомби:  
тесты для выявления сознания у машин . . . . . . . . .71

Глава 5 
Могли бы вы слиться с ИИ?. . . . . . . . . . . . . . . . . .107

Глава 6 
Сканирование разума. . . . . . . . . . . . . . . . . . . . . . . 121

Глава 7 
Вселенная сингулярностей . . . . . . . . . . . . . . . . . .143

Глава 8 
 Действительно ли разум — это программа? . . . . .175

Заключение: послежизнь мозга . . . . . . . . . . . . .  213

Приложение. . . . . . . . . . . . . . . . . . . . . . . . . . . . . .  217

Благодарности . . . . . . . . . . . . . . . . . . . . . . . . . . .  221

Литература . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .  225

Примечания . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .  233

Предметно-именной указатель . . . . . . . . . . . . . . .  241

В В Е Д Е Н И Е

Представьте, что на дворе  год и вы отправляетесь за покупками. Ваша первая остановка — Центр 
конструирования разума. Вы входите и видите большое 
меню с причудливыми названиями, за каждым из которых кроется то или иное расширение возможностей 
мозга. «Коллективное сознание» — это чип для мозга, 
позволяющий воспринимать самые потаенные мысли 
близких людей. «Сад дзен» — микрочип, позволяющий не 
хуже мастера дзен входить в состояние глубокой медитации. «Живой калькулятор» обеспечит вам математические способности едва ли не гениального уровня. Выбрали бы вы  что-нибудь такое и если да, то что именно? 
Повышенную внимательность? Музыкальные способности, как у Моцарта? Можно заказать одно улучшение, 
а можно сразу комплект.
А потом вы идете в магазин андроидов. Пора обновить андроида для ведения домашнего хозяйства. Набор 
видов искусственного интеллекта (будем называть их 
искинами) обширен и разнообразен. Одни искины позволяют воспринимать или чувствовать то, что людям 
недоступно, другие обеспечивают связь с базами данных 
всего интернета. Вы выбираете то, что нужно вашей семье. Весь день у вас уходит на выбор искинов- помощников 
и конструирование собственного разума.

И 

В этой книге речь пойдет о будущем разума, 
о том, как наши представления о себе, о разуме 
и о собственной природе могут изменить будущее — к лучшему или к худшему. Наш мозг приспособлен для жизни в определенных условиях 
и имеет значительные анатомические и эволюционные ограничения. Искусственный интеллект 
(ИИ) открывает простор для расширения его возможностей, предлагая новые материалы и принципы работы, а также новаторские пути развития, 
причем гораздо более быстрые, чем биологическая 
эволюция. Я называю это захватывающее новое 
направление конструированием разума. Конструирование разума — это форма креационизма, где 
в роли творца выступаем мы, люди, а не Бог.
Лично меня перспектива конструирования 
разума заставляет трезво взглянуть на наши нынешние возможности, ведь, если честно, мы не 
так уж и развиты. Пришелец в фильме Карла Сагана «Контакт» после первой встречи с человеком говорит: «Вы интересный биологический вид. 
Интересная смесь. Вы способны на такие чудесные сновидения и на такие ужасные кошмары» . 
Мы ступили на Луну, обуздали энергию атома, 
но расизм, алчность и жестокость по-прежнему 
встречаются на каждом шагу. Наше общественное развитие отстает от наших же технических 
достижений.
На этом фоне мысль о полном отсутствии 
у нас философского понимания природы разума 
может показаться мелочью. Однако непонимание 
в философии тоже обходится недешево, как ясно 

В 
9

демонстрируют две основные сюжетные линии 
этой книги.
Одна из них всем хорошо знакома. Она присутствует в жизни всегда, от начала до конца: это 
ваше сознание. Читая это, вы определенным образом ощущаете себя. Вы испытываете телесные 
ощущения, видите слова на странице и т. д. Ощущаемая сущность вашей ментальной жизни и есть 
сознание. Без сознания не было бы боли и страданий, не было бы ни радости, ни жгучего любопытства, ни мук скорби. Переживаний, положительных или отрицательных, попросту не существовало 
бы.
Именно как существо, обладающее сознанием, 
вы мечтаете об отпуске, прогулке в лесу или изысканных трапезах. Сознание настолько близко, 
настолько знакомо каждому, что оно естественным образом воспринимается в основном через 
призму личного опыта. В конце концов, не обязательно читать учебник по нейробиологии, чтобы 
понять, как ощущается обладание сознанием. Сознание и есть, по существу, внутреннее ощущение. 
Именно этот базовый элемент — осознанное переживание — служит, на мой взгляд, признаком обладания разумом.
Суть второй сюжетной линии книги заключается в том, что неспособность продумать философские последствия создания искусственного интеллекта (ИИ) может положить конец дальнейшему 
процветанию существ, обладающих сознанием. При 
недостаточной осмотрительности реализация технологии ИИ может выйти нам боком, иначе говоря, 

И 

вместо упрощения жизни принести страдания, гибель или эксплуатацию людей.
Некоторые связанные с ИИ угрозы процветанию человечества обсуждаются уже давно. Это 
и хакеры, способные нарушить работу сетей электроснабжения, и сверхразумные автономные системы вооружения, пришедшие словно из фильма 
«Терминатор». Я же поднимаю вопросы, привлекающие куда меньше внимания. Однако они не менее значимы. Порочная реализация ИИ, о которой 
я говорю, имеет две разновидности: () непредусмотренные ситуации, связанные с созданием 
мыслящих машин, и () последствия радикального расширения возможностей мозга, подобного 
тому, что предлагается в гипотетическом Центре 
конструирования разума. Рассмотрим эти опасности по очереди.

М а ши н ы, о б ла д а ю щ и е  с о зн а ние м ?

Предположим, мы умеем создавать совершенные 
универсальные искины — такие, что могут легко 
переходить от одного вида интеллектуальной деятельности к другому и даже соперничать с людьми 
по способности рассуждать. Будет ли это означать, 
что мы, по существу, умеем создавать машины, 
обладающие сознанием, — машины, которые являются одновременно личностями и субъектами 
переживания?
Когда дело доходит до вопроса о том, способны 
мы создать машинное сознание или нет, следует 
честно признаться, что никто этого не знает. Ясно