Искусственный ты: Машинный интеллект и будущее нашего разума

ARTIFICIAL YOU
AI and the Future of Your Mind


Susan Scheider




















PRINCETON UNIVERSITY PRESS
PRINCETON AND OXFORD

                ИСКУССТВЕННЫЙ





машинный интеллект
и будущее нашего разума



ТЫ


        СЬЮЗАН ШНАЙДЕР




Перевод с английского

АЛЬПИНА НОН-ФИКШН

Москва, 2022

УДК 004.8
ББК 16.6 Ш76



Переводчик Наталья Лисова Научный редактор Александр Каплан, д-р биол. наук Редактор Вячеслав Ионов

      Шнайдер С.
Ш₇₆ Искусственный ты: машинный интеллект и будущее нашего разума / Сьюзан Шнайдер ; Пер. с англ. — М. : Альпина нон-фикшн, 2022. — 245 с.

      ISBN 978-5-00139-415-0

         В этой книге речь идет о будущем разума и о том, как наши представления о себе, о разуме и о собственной природе могут изменить будущее — к лучшему или к худшему. В ней две центральные сюжетные линии: одна — это размышления о том, что такое сознание, вторая — предупреждение о том, что неспособность продумать философские последствия создания искусственного интеллекта может положить конец дальнейшему процветанию существ, обладающих сознанием. Автор пытается найти ответы на вопросы: могут ли машины обладать сознанием и может ли человек слиться с искусственным интеллектом ради расширения своих возможностей?

УДК 004.8
ББК 16.6










Все права защищены. Никакая часть этой книги не может быть воспроизведена в какой бы то ни было форме и какими бы то ни было средствами, включая размещение в сети интернет и в корпоративных сетях, а также запись в память ЭВМ для частного или публичного использования, без письменного разрешения владельца авторских прав. По вопросу организации доступа к электронной библиотеке издательства обращайтесь по адресу mylib@alpina.ru


                                                © Susan Schneider, 2019

ISBN 978-5-00139-415-0 (рус.)
ISBN 978-0691216744 (англ.)

           © Издание на русском языке, перевод, оформление.
ООО «Альпина нон-фикшн», 2022

ОГЛАВЛЕНИЕ

Введение ................................... 7

Глава 1 Век ИИ ....................................19
Глава 2
Проблема искусственного сознания ......... 29
Глава 3 Проектирование сознания .................. 53
Глава 4
Как поймать ИИ-зомби: тесты для выявления сознания у машин ..... 71
Глава 5 Могли бы вы слиться с ИИ? ................107
Глава 6 Сканирование разума...................... 121
Глава 7 Вселенная сингулярностей ................ 143
Глава 8
Действительно ли разум — это программа? . 175

Заключение: послежизнь мозга ............ 213
Приложение............................... 217
Благодарности ........................... 221
Литература .............................. 225
Примечания .............................. 233
Предметно-именной указатель ............. 241

ВВЕДЕНИЕ




Представьте, что на дворе 2045 год и вы отправляетесь за покупками. Ваша первая остановка — Центр конструирования разума. Вы входите и видите большое меню с причудливыми названиями, за каждым из которых кроется то или иное расширение возможностей мозга. «Коллективное сознание» — это чип для мозга, позволяющий воспринимать самые потаенные мысли близких людей. «Сад дзен» — микрочип, позволяющий не хуже мастера дзен входить в состояние глубокой медитации. «Живой калькулятор» обеспечит вам математические способности едва ли не гениального уровня. Выбрали бы вы что-нибудь такое и если да, то что именно? Повышенную внимательность? Музыкальные способности, как у Моцарта? Можно заказать одно улучшение, а можно сразу комплект.
    А потом вы идете в магазин андроидов. Пора обновить андроида для ведения домашнего хозяйства. Набор видов искусственного интеллекта (будем называть их искинами) обширен и разнообразен. Одни искины позволяют воспринимать или чувствовать то, что людям недоступно, другие обеспечивают связь с базами данных всего интернета. Вы выбираете то, что нужно вашей семье. Весь день у вас уходит на выбор искинов-помощников и конструирование собственного разума.

7

   В этой книге речь пойдет о будущем разума, о том, как наши представления о себе, о разуме и о собственной природе могут изменить будущее — к лучшему или к худшему. Наш мозг приспособлен для жизни в определенных условиях и имеет значительные анатомические и эволюционные ограничения. Искусственный интеллект (ИИ) открывает простор для расширения его возможностей, предлагая новые материалы и принципы работы, а также новаторские пути развития, причем гораздо более быстрые, чем биологическая эволюция. Я называю это захватывающее новое направление конструированием разума. Конструирование разума — это форма креационизма, где в роли творца выступаем мы, люди, а не Бог.
   Лично меня перспектива конструирования разума заставляет трезво взглянуть на наши нынешние возможности, ведь, если честно, мы не так уж и развиты. Пришелец в фильме Карла Сагана «Контакт» после первой встречи с человеком говорит: «Вы интересный биологический вид. Интересная смесь. Вы способны на такие чудесные сновидения и на такие ужасные кошмары»¹. Мы ступили на Луну, обуздали энергию атома, но расизм, алчность и жестокость по-прежнему встречаются на каждом шагу. Наше общественное развитие отстает от наших же технических достижений.
   На этом фоне мысль о полном отсутствии у нас философского понимания природы разума может показаться мелочью. Однако непонимание в философии тоже обходится недешево, как ясно

8

Искусственный ты

демонстрируют две основные сюжетные линии этой книги.
   Одна из них всем хорошо знакома. Она присутствует в жизни всегда, от начала до конца: это ваше сознание. Читая это, вы определенным образом ощущаете себя. Вы испытываете телесные ощущения, видите слова на странице и т.д. Ощущаемая сущность вашей ментальной жизни и есть сознание. Без сознания не было бы боли и страданий, не было бы ни радости, ни жгучего любопытства, ни мук скорби. Переживаний, положительных или отрицательных, попросту не существовало бы.
   Именно как существо, обладающее сознанием, вы мечтаете об отпуске, прогулке в лесу или изысканных трапезах. Сознание настолько близко, настолько знакомо каждому, что оно естественным образом воспринимается в основном через призму личного опыта. В конце концов, не обязательно читать учебник по нейробиологии, чтобы понять, как ощущается обладание сознанием. Сознание и есть, по существу, внутреннее ощущение. Именно этот базовый элемент — осознанное переживание — служит, на мой взгляд, признаком обладания разумом.
   Суть второй сюжетной линии книги заключается в том, что неспособность продумать философские последствия создания искусственного интеллекта (ИИ) может положить конец дальнейшему процветанию существ, обладающих сознанием. При недостаточной осмотрительности реализация технологии ИИ может выйти нам боком, иначе говоря,

Введение

9

вместо упрощения жизни принести страдания, гибель или эксплуатацию людей.
   Некоторые связанные с ИИ угрозы процветанию человечества обсуждаются уже давно. Это и хакеры, способные нарушить работу сетей электроснабжения, и сверхразумные автономные системы вооружения, пришедшие словно из фильма «Терминатор». Я же поднимаю вопросы, привлекающие куда меньше внимания. Однако они не менее значимы. Порочная реализация ИИ, о которой я говорю, имеет две разновидности: (1) непредусмотренные ситуации, связанные с созданием мыслящих машин, и (2) последствия радикального расширения возможностей мозга, подобного тому, что предлагается в гипотетическом Центре конструирования разума. Рассмотрим эти опасности по очереди.

Машины, обладающие сознанием?
Предположим, мы умеем создавать совершенные универсальные искины — такие, что могут легко переходить от одного вида интеллектуальной деятельности к другому и даже соперничать с людьми по способности рассуждать. Будет ли это означать, что мы, по существу, умеем создавать машины, обладающие сознанием, — машины, которые являются одновременно личностями и субъектами переживания?
   Когда дело доходит до вопроса о том, способны мы создать машинное сознание или нет, следует честно признаться, что никто этого не знает. Ясно

10

Искусственный ты

одно: вопрос о том, могут ли искины переживать, станет ключом к тому, насколько мы будем ценить их существование. Сознание есть краеугольный камень нашей морали, поскольку оно занимает центральное место в суждении о том, является ли кто-то или что-то личностью, а не просто автоматом. А если искин — это обладающая сознанием сущность, то принуждение его к услужению смахивает на рабство. В конце концов, как бы вы себя чувствовали в магазине андроидов, где на продажу выставлены существа, обладающие сознанием, — существа, умственные способности которых сравнимы с вашими или даже превосходят их?
   Если бы я была директором по разработке ИИ компании Google или Facebook, то в будущих проектах мне не хотелось бы попасть в этическую западню из-за создания по недосмотру системы, обладающей сознанием. Появление системы, которая может себя осознавать, могло бы спровоцировать обвинения в ИИ-рабстве и другие кошмары в сфере связи с общественностью. Такое событие могло бы привести даже к запрету использования ИИ-техно-логий в определенных областях деятельности.
   На мой взгляд, все это способно подтолкнуть ИИ-компании к целенаправленной работе над тем, чтобы избежать создания обладающего сознанием искина для определенных задач. Разумеется, для этого сознание должно быть тем, что можно как включить в систему при разработке, так и исключить из нее. Однако оно может быть неизбежным побочным продуктом построения разумной системы или вообще оказаться невозможным.

Введение

11

   Не исключено, что в долгосрочной перспективе ситуация изменится не в пользу человека и проблема будет уже не в том, какой вред мы можем нанести искинам, а в том, как искины могут навредить нам. В самом деле, некоторые считают, что синтетический разум будет следующей после человека стадией эволюции разума на Земле. Тогда мы с вами и то, как мы живем и воспринимаем мир, — это всего лишь промежуточный шаг на пути к ИИ, ступенька на эволюционной лестнице. Не случайно Стивен Хокинг, Ник Бостром, Илон Маск, Макс Тегмарк, Билл Гейтс и не только они поднимают «проблему контроля» — вопрос о том, как человек сможет контролировать собственные ИИ-творения, если искины станут умнее нас². Предположим, мы создадим ИИ с уровнем интеллекта, сравнимым с человеческим. Обладая алгоритмами самосовершенствования и способностью к стремительным вычислениям, такой ис-кин мог бы быстро стать намного умнее человека и превратиться в сверхразум — т.е. обрести интеллектуальное превосходство над нами во всех отношениях. Мы, предположительно, не сможем контролировать такой сверхразум, и он, в принципе, получит возможность стереть нас с лица земли. Это лишь один из вариантов вытеснения органического разума искусственными созданиями; в качестве альтернативы человек может слиться с ИИ в результате последовательного усовершенствования мозга.
   Проблема контроля стала темой мировых новостей, чему не в последнюю очередь способствовал

12

Искусственный ты