Искусственный ты: машинный интеллект и будущее нашего разума
Покупка
Тематика:
Автоматика. Телемеханика
Издательство:
Альпина нон-фикшн
Автор:
Шнайдер Сьюзан
Перевод:
Лисова Наталья
Год издания: 2022
Кол-во страниц: 245
Возрастное ограничение: 12+
Дополнительно
Вид издания:
Научно-популярная литература
Уровень образования:
Дополнительное образование взрослых
ISBN: 978-5-00139-415-0
Артикул: 784210.02.99
В этой книге речь идет о будущем разума и о том, как наши представления о себе, о разуме и о собственной природе могут изменить будущее — к лучшему или к худшему. В ней две центральные сюжетные линии: одна — это размышления о том, что такое сознание, вторая — предупреждение о том, что неспособность продумать философские последствия создания искусственного интеллекта может положить конец дальнейшему процветанию существ, обладающих сознанием. Автор пытается найти ответы на вопросы: могут ли машины обладать сознанием и может ли человек слиться с искусственным интеллектом ради расширения своих возможностей?
Тематика:
ББК:
УДК:
ОКСО:
- ВО - Бакалавриат
- 09.03.01: Информатика и вычислительная техника
- 09.03.02: Информационные системы и технологии
- 47.03.01: Философия
ГРНТИ:
Скопировать запись
Фрагмент текстового слоя документа размещен для индексирующих роботов.
Для полноценной работы с документом, пожалуйста, перейдите в
ридер.
Посвящается Елене, Алексу и Элли
ARTIFICIAL YOU AI and the Future of Your Mind S S PRINCETON UNIVERSITY PRESS PRINCETON AND OXFORD
Перевод с английского Москва, 2022 ИСКУССТВЕННЫЙ ТЫ машинный интеллект и будущее нашего разума С Ь Ю З А Н Ш Н А Й Д Е Р
ISBN 978-5-00139-415-0 (рус.) ISBN 978-0691216744 (англ.) УДК 004.8 ББК 16.6 Ш76 Переводчик Наталья Лисова Научный редактор Александр Каплан, д-р биол. наук Редактор Вячеслав Ионов Шнайдер С. Искусственный ты: машинный интеллект и будущее нашего разума / Сьюзан Шнайдер ; Пер. с англ. — М. : Альпина нон-фикшн, 2022. — 245 с. ISBN 978-5-00139-415-0 В этой книге речь идет о будущем разума и о том, как наши представления о себе, о разуме и о собственной природе могут изменить будущее — к лучшему или к худшему. В ней две центральные сюжетные линии: одна — это размышления о том, что такое сознание, вторая — предупреждение о том, что неспособность продумать философские последствия создания искусственного интеллекта может положить конец дальнейшему процветанию существ, обладающих сознанием. Автор пытается найти ответы на вопросы: могут ли машины обладать сознанием и может ли человек слиться с искусственным интеллектом ради расширения своих возможностей? УДК 004.8 ББК 16.6 Ш76 Все права защищены. Никакая часть этой книги не может быть воспроизведена в какой бы то ни было форме и какими бы то ни было средствами, включая размещение в сети интернет и в корпоративных сетях, а также запись в память ЭВМ для частного или пуб личного использования, без письменного разрешения владельца авторских прав. По вопросу организации доступа к электронной библиотеке издательства обращайтесь по адресу mylib@alpina.ru © Susan Schneider, 2019 © Издание на русском языке, перевод, оформление. ООО «Альпина нон-фикшн», 2022
О Г Л А В Л Е Н И Е Введение . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7 Глава 1 Век ИИ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .19 Глава 2 Проблема искусственного сознания . . . . . . . . . . . 29 Глава 3 Проектирование сознания . . . . . . . . . . . . . . . . . . . 53 Глава 4 Как поймать ИИ-зомби: тесты для выявления сознания у машин . . . . . . . . .71 Глава 5 Могли бы вы слиться с ИИ?. . . . . . . . . . . . . . . . . .107 Глава 6 Сканирование разума. . . . . . . . . . . . . . . . . . . . . . . 121 Глава 7 Вселенная сингулярностей . . . . . . . . . . . . . . . . . .143 Глава 8 Действительно ли разум — это программа? . . . . .175 Заключение: послежизнь мозга . . . . . . . . . . . . . 213 Приложение. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 217 Благодарности . . . . . . . . . . . . . . . . . . . . . . . . . . . 221 Литература . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 225 Примечания . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 233 Предметно-именной указатель . . . . . . . . . . . . . . . 241
В В Е Д Е Н И Е Представьте, что на дворе год и вы отправляетесь за покупками. Ваша первая остановка — Центр конструирования разума. Вы входите и видите большое меню с причудливыми названиями, за каждым из которых кроется то или иное расширение возможностей мозга. «Коллективное сознание» — это чип для мозга, позволяющий воспринимать самые потаенные мысли близких людей. «Сад дзен» — микрочип, позволяющий не хуже мастера дзен входить в состояние глубокой медитации. « Живой калькулятор» обеспечит вам математические способности едва ли не гениального уровня. Выбрали бы вы что-нибудь такое и если да, то что именно? Повышенную внимательность? Музыкальные способности, как у Моцарта? Можно заказать одно улучшение, а можно сразу комплект. А потом вы идете в магазин андроидов. Пора обновить андроида для ведения домашнего хозяйства. Набор видов искусственного интеллекта (будем называть их искинами) обширен и разнообразен. Одни искины позволяют воспринимать или чувствовать то, что людям недоступно, другие обеспечивают связь с базами данных всего интернета. Вы выбираете то, что нужно вашей семье. Весь день у вас уходит на выбор искинов- помощников и конструирование собственного разума.
И В этой книге речь пойдет о будущем разума, о том, как наши представления о себе, о разуме и о собственной природе могут изменить будущее — к лучшему или к худшему. Наш мозг приспособлен для жизни в определенных условиях и имеет значительные анатомические и эволюционные ограничения. Искусственный интеллект (ИИ) открывает простор для расширения его возможностей, предлагая новые материалы и принципы работы, а также новаторские пути развития, причем гораздо более быстрые, чем биологическая эволюция. Я называю это захватывающее новое направление конструированием разума. Конструирование разума — это форма креационизма, где в роли творца выступаем мы, люди, а не Бог. Лично меня перспектива конструирования разума заставляет трезво взглянуть на наши ны- нешние возможности, ведь, если честно, мы не так уж и развиты. Пришелец в фильме Карла Са- гана «Контакт» после первой встречи с челове- ком говорит: «Вы интересный биологический вид. Интересная смесь. Вы способны на такие чудес- ные сновидения и на такие ужасные кошмары» . Мы ступили на Луну, обуздали энергию атома, но расизм, алчность и жестокость по-прежнему встречаются на каждом шагу. Наше обществен- ное развитие отстает от наших же технических достижений. На этом фоне мысль о полном отсутствии у нас философского понимания природы разума может показаться мелочью. Однако непонимание в философии тоже обходится недешево, как ясно
В 9 демонстрируют две основные сюжетные линии этой книги. Одна из них всем хорошо знакома. Она при- сутствует в жизни всегда, от начала до конца: это ваше сознание. Читая это, вы определенным об- разом ощущаете себя. Вы испытываете телесные ощущения, видите слова на странице и т. д. Ощу- щаемая сущность вашей ментальной жизни и есть сознание. Без сознания не было бы боли и страда- ний, не было бы ни радости, ни жгучего любопыт- ства, ни мук скорби. Переживаний, положитель- ных или отрицательных, попросту не существовало бы. Именно как существо, обладающее сознанием, вы мечтаете об отпуске, прогулке в лесу или изы- сканных трапезах. Сознание настолько близко, настолько знакомо каждому, что оно естествен- ным образом воспринимается в основном через призму личного опыта. В конце концов, не обяза- тельно читать учебник по нейробиологии, чтобы понять, как ощущается обладание сознанием. Со- знание и есть, по существу, внутреннее ощущение. Именно этот базовый элемент — осознанное пере- живание — служит, на мой взгляд, признаком об- ладания разумом. Суть второй сюжетной линии книги заключа- ется в том, что неспособность продумать философ- ские последствия создания искусственного интел- лекта (ИИ) может положить конец дальнейшему процветанию существ, обладающих сознанием. При недостаточной осмотрительности реализация техно- логии ИИ может выйти нам боком, иначе говоря,
И вместо упрощения жизни принести страдания, ги- бель или эксплуатацию людей. Некоторые связанные с ИИ угрозы процвета- нию человечества обсуждаются уже давно. Это и хакеры, способные нарушить работу сетей элек- троснабжения, и сверхразумные автономные си- стемы вооружения, пришедшие словно из фильма «Терминатор». Я же поднимаю вопросы, привлека- ющие куда меньше внимания. Однако они не ме- нее значимы. Порочная реализация ИИ, о которой я говорю, имеет две разновидности: () непред- усмотренные ситуации, связанные с созданием мыслящих машин, и () последствия радикаль- ного расширения возможностей мозга, подобного тому, что предлагается в гипотетическом Центре конструирования разума. Рассмотрим эти опасно- сти по очереди. М а ши н ы, о б ла д а ю щ и е с о зн а ние м ? Предположим, мы умеем создавать совершенные универсальные искины — такие, что могут легко переходить от одного вида интеллектуальной дея- тельности к другому и даже соперничать с людьми по способности рассуждать. Будет ли это означать, что мы, по существу, умеем создавать машины, обладающие сознанием, — машины, которые яв- ляются одновременно личностями и субъектами переживания? Когда дело доходит до вопроса о том, способны мы создать машинное сознание или нет, следует честно признаться, что никто этого не знает. Ясно
В 11 одно: вопрос о том, могут ли искины переживать, станет ключом к тому, насколько мы будем ценить их существование. Сознание есть краеугольный камень нашей морали, поскольку оно занимает центральное место в суждении о том, является ли кто-то или что-то личностью, а не просто автома- том. А если искин — это обладающая сознанием сущность, то принуждение его к услужению сма- хивает на рабство. В конце концов, как бы вы себя чувствовали в магазине андроидов, где на продажу выставлены существа, обладающие сознанием, — существа, умственные способности которых срав- нимы с вашими или даже превосходят их? Если бы я была директором по разработке ИИ компании Google или Facebook, то в будущих про- ектах мне не хотелось бы попасть в этическую за- падню из-за создания по недосмотру системы, об- ладающей сознанием. Появление системы, которая может себя осознавать, могло бы спровоцировать обвинения в ИИ-рабстве и другие кошмары в сфере связи с общественностью. Такое событие могло бы привести даже к запрету использования ИИ-техно- логий в определенных областях деятельности. На мой взгляд, все это способно подтолкнуть ИИ-компании к целенаправленной работе над тем, чтобы избежать создания обладающего сознанием искина для определенных задач. Разумеется, для этого сознание должно быть тем, что можно как включить в систему при разработке, так и исклю- чить из нее. Однако оно может быть неизбежным побочным продуктом построения разумной си- стемы или вообще оказаться невозможным.