Искусственный интеллект: Перезагрузка. Как создать машинный разум, которому действительно можно доверять

ИСКУССТВЕННЫЙ 
ИНТЕЛЛЕКТ:
ПЕРЕЗАГРУЗКА

REBOOTING AI

BUILDING ARTIFICIAL 

INTELLIGENCE

WE CAN TRUST

PANTHEON BOOKS 
 NEW YORK

GARY MARCUS, ERNEST DAVIS

Перевод с английского

ИСКУССТВЕННЫЙ 
ИНТЕЛЛЕКТ:
ПЕРЕЗАГРУЗКА

КАК СОЗДАТЬ МАШИННЫЙ РАЗУМ, 

КОТОРОМУ ДЕЙСТВИТЕЛЬНО 

МОЖНО ДОВЕРЯТЬ

ГЭРИ МАРКУС, ЭРНЕСТ ДЭВИС

МОСКВА
2021

ISBN 978-5-907394-93-3 (рус.)
ISBN 9781524748258 (англ.)

УДК 004.8
ББК 32.813
М25

Переводчик В. Скворцов
Редактор А. Марченкова

Маркус Г.
Искусственный интеллект: перезагрузка : Как создать машинный 
разум, которому действительно можно доверять / Гэри Маркус, 
Эрнест Дэвис. — Пер. с англ. — М. : Альпина ПРО, 2021. — 300 с.

ISBN 978-5-907394-93-3

Несмотря на шумиху вокруг ИИ, создание интеллекта, равного человеческому или превышающего его, намного сложнее, чем мы думали. Гэри 
Маркус и Эрнест Дэвис, известные исследователи в области искусственного 
интеллекта, утверждают, что нам еще очень далеко до создания полностью 
автономных автомобилей или сверхразумных роботов.
Дело в том, что подходы, принятые сейчас в сфере разработки ИИ, слишком узки для создания подлинного интеллекта. Реальный мир, напротив, 
чрезвычайно сложен и многообразен. Каким образом можно преодолеть этот 
разрыв? Какими будут последствия, когда мы это сделаем? Вдохновленные 
человеческим разумом, Маркус и Дэвис объясняют, что же нам нужно для 
продвижения ИИ на новый уровень. Если мы сосредоточимся на том, чтобы 
наделить машины здравым смыслом и глубоким пониманием, а не просто 
научить их собирать все более обширные коллекции данных, то сможем 
создать искусственный интеллект, которому действительно будем доверять 
то, что имеет для нас значение: наше здоровье, наши дома, комфорт наших 
близких и многое другое. Книга «Искусственный интеллект: перезагрузка» 
дает полную и яркую оценку современной науки в сфере ИИ и предлагает 
вдохновляющее видение того, как новое поколение искусственного интеллекта сможет сделать нашу жизнь лучше.

УДК 004.8
ББК 32.813

М25

Все права защищены. Никакая часть этой книги не может быть воспроизведена в какой бы то ни было форме и какими бы то ни было средствами, включая размещение в сети интернет и в корпоративных сетях, 
а также запись в память ЭВМ для частного или публичного использования, без письменного разрешения 
владельца авторских прав. По вопросу организации 
доступа к электронной библиотеке издательства обращайтесь по адресу mylib@alpina.ru

Copyright © 2019 by Gary Marcus and Ernest Davis
© ООО «Альпина ПРО», 2021

Оглавление

Глава 1 
Осторожно: разрыв  ...............................................................................................................9

Глава 2 
Насколько высоки ставки? ..............................................................................................39

Глава 3 
Глубокое обучение и так далее ...................................................................................57

Глава 4 
Если компьютеры такие умные, то почему они не могут читать, 

 
как люди? ....................................................................................................................................89

Глава 5 
А где же Рози? ....................................................................................................................... 121

Глава 6 
Что подсказывает нам собственный разум  .................................................... 145

Глава 7 
Здравый смысл и путь к глубокому пониманию  ......................................... 183

Глава 8 
Доверие  ................................................................................................................................... 219

Эпилог ............................................................................................................................................................... 245

Благодарности  ......................................................................................................................................... 253

Дополнительная литература  ...................................................................................................... 255

Примечания  ................................................................................................................................................ 261

Библиография  .......................................................................................................................................... 267

Моим детям, Александру и Хлое, 
которые научили меня так многому, 
и моей жене Афине, понимающей, 
как и я, как здорово учиться у детей.

Гэри

Моей жене Бьянке, 
ставшей любовью на всю жизнь.

Эрни

Глава 1

ОСТОРОЖНО: РАЗРЫВ

В течение двадцати лет машины смогут 
научиться выполнять любую работу, 
доступную для человека.

Херб Саймон, один из первопроходцев 
в области искусственного интеллекта

ПЕРВЫЙ РЕБЕНОК (в долгой утомительной 
поездке): Еще долго, Папа Смурф?
ОТЕЦ: Уже скоро.
ВТОРОЙ РЕБЕНОК (через несколько часов): Еще 
долго, Папа Смурф?
ОТЕЦ: Уже скоро.

Из комикса The Smurfs («Смурфики»)

С самого момента своего зарождения искусственный интеллект (ИИ) 
очень много сулил и очень мало давал. Уже в 1950-х и 1960-х годах такие 
первопроходцы, как Марвин Мински, Джон Маккарти и Херб Саймон, 
искренне верили 1, что до конца ХХ века со всеми проблемами, встающими на пути разработки ИИ, будет фактически покончено. «В течение 
одного поколения, — писал Марвин Мински в 1967 году в своем знаменитом послании, — проблема создания искусственного интеллекта 
будет по большому счету решена». Пятьдесят лет спустя эти обещания 
так и не исполнились, однако заявления подобного рода продолжали 
появляться. В 2002 году футуролог Рэй Курцвейл публично заявил, что 
к 2029 году ИИ «превзойдет естественный человеческий интеллект». 
В ноябре 2018 года Илья Суцкевер, соучредитель Open AI, крупного 

ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ: ПЕРЕЗАГРУЗКА

исследовательского института по изучению искусственного интеллекта, высказал мнение, что универсальный искусственный интеллект 
«уже в ближайшей перспективе следует воспринимать всерьез как возможность». Хотя теоретически допустимо, что Курцвейл и Суцкевер могут оказаться правы, весьма велики шансы, что ничего такого и не случится. Достижение нового уровня — универсального искусственного 
интеллекта с гибкостью человеческого мышления — для нынешнего 
поколения отнюдь не находится на расстоянии вытянутой руки; это 
долгий путь, который потребует очень серьезного прогресса в целом 
ряде основополагающих областей знания. Иначе говоря, это не просто «чуть более» того, чего науке удалось добиться за последние несколько лет: мы покажем, что универсальный ИИ — нечто совершенно 
иное.
Даже если не все так оптимистичны, как Курцвейл и Суцкевер, амбициозные обещания продолжают фигурировать везде, где задействован 
искусственный интеллект: от медицинских технологий до беспилотных автомобилей. Чаще всего обещанное не исполняется. Например, 
в 2012 году мы много слышали о том, как увидим «в ближайшем будущем 
автономные автомобили». В 2016 году IBM заявила, что Watson, система 
искусственного интеллекта, сумевшая принять участие в телевикторине 
Jeopardy!, произведет «революцию в здравоохранении», потому что якобы «когнитивные системы Watson Health могут понимать, рассуждать, 
учиться и взаимодействовать», и что «с помощью последних достижений 
в области когнитивных вычислений мы можем достичь большего, чем 
мы  когда-либо считали возможным». Компания IBM стремилась решить 
любые проблемы, начиная от фармакологии и радиологии и заканчивая диагностикой и лечением рака, используя Watson для чтения медицинской литературы и выработки рекомендаций, которые врачи-люди 
могли бы упустить из виду. Вторя им, Джеффри Хинтон, один из самых 
выдающихся исследователей искусственного интеллекта, заявил примерно в то же время: «Совершенно очевидно, что мы должны прекратить 
подготовку [людей-]радиологов».
В 2015 году Facebook запустил свой амбициозный и широко освещаемый проект, известный как «M», — чат-бот, который должен был удовлетворить любые потребности пользователя, от бронирования столика 
в ресторане до планирования очередного отпуска.