Книжная полка Сохранить
Размер шрифта:
А
А
А
|  Шрифт:
Arial
Times
|  Интервал:
Стандартный
Средний
Большой
|  Цвет сайта:
Ц
Ц
Ц
Ц
Ц

Глубокое обучение с R и Keras

Покупка
Артикул: 817275.01.99
Прочитав эту книгу, вы получите четкое представление о том, что такое глубокое обучение, когда его следует применять и каковы его ограничения. Авторы описывают стандартный рабочий процесс поиска решения задачи машинного обучения и рассказывают, как устранять часто возникающие проблемы. Всесторонне рассматривается использование Keras для решения самых разнообразных прикладных задач, в числе которых классификация и сегментация изображений, прогнозирование временных рядов, классификация текста, машинный перевод, генерация текста и многое другое. Издание адресовано читателям со средними навыками программирования на R. Опыт работы с Keras, TensorFlow или моделями глубокого обучения не требуется.
24
55
104
143
408
484
571
Шолле, Ф. Глубокое обучение с R и Keras : практическое руководство / Ф. Шолле ; пер. с англ. В.С. Яценкова. - Москва : ДМК Пресс, 2023. - 648 с. - ISBN 978-5-93700-189-4. - Текст : электронный. - URL: https://znanium.ru/catalog/product/2109573 (дата обращения: 19.11.2026). – Режим доступа: по подписке.
Фрагмент текстового слоя документа размещен для индексирующих роботов
Франсуа Шолле
Глубокое обучение с R и Keras 


Deep Learning with R
SECOND EDITION
FRANÇOIS CHOLLET
with TOMASZ KALINOWSKI
and J. J. ALLAIRE


Глубокое обучение с R и Keras
ФРАНСУА ШОЛЛЕ
при участии 
Томаша Калиновски
и Дж. Дж. Аллера
Москва, 2023


УДК	 004.85
ББК	 32.971.3
Ш78
Шолле Ф.
Ш78	 Глубокое обучение с R и Keras / пер. с англ. В. С. Яценкова. – М.: ДМК Пресс, 
 
ISBN 978-5-93700-189-4
Прочитав эту книгу, вы получите четкое представление о том, что такое глубокое обучение, когда его следует применять и каковы его ограничения. Авторы 
описывают стандартный рабочий процесс поиска решения задачи машинного 
обучения и рассказывают, как устранять часто возникающие проблемы. Всесторонне рассматривается использование Keras для решения самых разнообразных 
прикладных задач, в числе которых классификация и сегментация изображений, 
прогнозирование временных рядов, классификация текста, машинный перевод, 
генерация текста и многое другое.
Издание адресовано читателям со средними навыками программирования на R. 
Опыт работы с Keras, TensorFlow или моделями глубокого обучения не требуется.
УДК  004.85
ББК  32.971.3
Copyright © DMK Press 2022. Authorized translation of the English edition © 2022 Manning 
Publications. This translation is published and sold by permission of Manning Publications, the 
owner of all rights to publish and sell the same.
Все права защищены. Любая часть этой книги не может быть воспроизведена в какой бы то ни было форме и какими бы то ни было средствами без письменного разрешения 
владельцев авторских прав.
ISBN 978-1-6334-3979-5 (англ.)	
©  Manning Publications, 2022
ISBN 978-5-93700-189-4 (рус.)	
©  Перевод, оформление, издание, ДМК Пресс, 2022


Отзывы о первом издании
«Самое понятное объяснение глубокого обучения, которое я когда-либо встречал… приятно и легко читается».
– Ричард Тобиас, Cephasonics
«Эта книга сокращает разрыв между идеями и работающей системой глубокого обучения».
– Петр Рабинович, Akamai
«Все основные темы и концепции глубокого обучения раскрыты и доходчиво 
объяснены с использованием примеров кода и графиков вместо математических формул».
– Срджан Сантич, Springboard.com


Оглавление
	 1	   Что такое глубокое обучение?......................................................................24
	 2	   Математические основы нейронных сетей................................................55
	 3	   Введение в Keras и TensorFlow...................................................................104
	 4	   Примеры работы с нейросетью: классификация и регрессия.................143
	 5	   Основы машинного обучения....................................................................173
	 6	   Обобщенный рабочий процесс машинного обучения.............................215
	 7	   Работа с Keras: углубленные навыки.........................................................239
	 8	   Глубокое обучение в компьютерном зрении............................................277
	 9	   Глубокое обучение для компьютерного зрения.......................................321
	10	   Глубокое обучение и временные ряды......................................................370
	11	   Глубокое обучение в обработке текстов....................................................408
	12	   Генеративные модели глубокого обучения...............................................484
	13	   Глубокое обучение в реальной жизни.......................................................547
	14	   Заключение.................................................................................................571


Содержание
Оглавление........................................................................................................... 6
Предисловие....................................................................................................... 15
Благодарности.................................................................................................. 17
Об этой книге................................................................................................... 18
Об иллюстрации на обложке......................................................................... 22
Об авторах........................................................................................................ 23
1	
Что такое глубокое обучение?................................................. 24
1.1	
Искусственный интеллект, машинное и глубокое  
	
обучение................................................................................................. 25
1.1.1	
Искусственный интеллект....................................................... 25
1.1.2	
Машинное обучение.................................................................... 26
1.1.3	
Извлечение правил и представлений из данных..................... 28
1.1.4	
«Глубина» глубокого обучения................................................... 31
1.1.5	
Принцип действия глубокого обучения в трех рисунках........ 33
1.1.6	
Каких успехов достигло глубокое обучение.............................. 35
1.1.7	
Не верьте рекламной шумихе................................................... 36
1.1.8	
Перспективы развития ИИ...................................................... 37
1.2	
Краткая история машинного обучения.......................................... 38
1.2.1	
Вероятностное моделирование................................................ 39
1.2.2	
Первые нейронные сети............................................................. 39
1.2.3	
Ядерные методы......................................................................... 40
1.2.4	
Деревья решений, случайные леса и градиентный  
	
бустинг........................................................................................ 42
1.2.5	
Назад к нейронным сетям........................................................ 43
1.2.6	
Отличительные черты глубокого обучения............................ 44
1.2.7	
Современный ландшафт машинного обучения....................... 45
1.3	
Почему глубокое обучение? Почему сейчас?................................ 47
1.3.1	
Оборудование.............................................................................. 48
1.3.2	
Данные......................................................................................... 49
1.3.3	
Алгоритмы................................................................................. 50
1.3.4	
Новая волна инвестиций........................................................... 51
1.3.5	
Демократизация глубокого обучения....................................... 52
1.3.6	
Ждать ли продолжения этой тенденции?.............................. 52


Содержание
Математические основы нейронных сетей................. 55
2.1	
Первое знакомство с нейронной сетью......................................... 56
2.2	
Представление данных для нейронных сетей.............................. 60
2.2.1	
Скаляры (тензоры нулевого ранга).......................................... 61
2.2.2	
Векторы (тензоры первого ранга)........................................... 61
2.2.3	
Матрицы (тензоры второго ранга)........................................ 62
2.2.4	
Тензоры третьего и более высокого рангов............................ 62
2.2.5	
Ключевые атрибуты.................................................................. 62
2.2.6	
Манипулирование тензорами в R............................................. 64
2.2.7	
Пакеты данных.......................................................................... 64
2.2.8	
Практические примеры тензоров с данными......................... 65
2.2.9	
Векторные данные..................................................................... 65
2.2.10	 Временные ряды, или последовательности данных............... 66
2.2.11	 Изображения............................................................................... 67
2.2.12	 Видеоданные............................................................................... 67
2.3	
Шестеренки нейронных сетей: операции с тензорами.............. 68
2.3.1	
Поэлементные операции........................................................... 69
2.3.2	
Операции с тензорами разной размерности.......................... 70
2.3.3	
Скалярное произведение тензоров........................................... 72
2.3.4	
Изменение формы тензора....................................................... 74
2.3.5	
Геометрическая интерпретация операций с тензорами..... 75
2.3.6	
Геометрическая интерпретация глубокого обучения............ 79
2.4	
Механизм нейронных сетей: оптимизация на основе  
	
градиента............................................................................................... 80
2.4.1	
Что такое производная?........................................................... 82
2.4.2	
Производная операций с тензорами: градиент...................... 83
2.4.3	
Стохастический градиентный спуск....................................... 85
2.4.4	
Объединение производных: алгоритм обратного 
распространения ошибки...................................................................... 88
2.5	
Возвращаясь к нашему первому примеру..................................... 95
2.5.1	
Повторная реализация нашего первого примера с нуля  
	
в TensorFlow................................................................................ 97
2.5.2	
Выполнение одного шага обучения............................................ 99
2.5.3	
Полный цикл обучения..............................................................101
2.5.4	
Оценка модели...........................................................................102
Краткие итоги главы.....................................................................................103
3	
Введение в Keras и TensorFlow..................................................104
3.1	
Что такое TensorFlow?........................................................................105
3.2	
Что такое Keras?...................................................................................106
3.3	
Keras и TensorFlow: краткая история.............................................107
3.4	
Интерфейсы Python и R: краткая история....................................108
3.5	
Настройка среды разработки для глубокого обучения..............109
3.5.1	
Установка Keras и TensorFlow.................................................110
3.6	
Первые шаги с TensorFlow................................................................111
3.6.1	
Тензоры TensorFlow...................................................................112
3.7	
Атрибуты тензоров.............................................................................113


Содержание
Форма тензора и ее изменение................................................114
3.7.2	
Срезы тензоров.........................................................................116
3.7.3	
Операции с тензорами разной размерности.........................117
3.7.4	
Модуль tf.....................................................................................117
3.7.5	
Неизменность тензоров и переменные..................................119
3.7.6	
Математические операции в TensorFlow...............................120
3.7.7	
Взгляд на API GradientTape с другой стороны........................121
3.7.8	
Полный пример: линейный классификатор в чистом  
	
TensorFlow..................................................................................122
3.8	
Анатомия нейронной сети и основы API Keras...........................127
3.8.1	
Слои: строительные блоки глубокого обучения.....................128
3.8.2	
От слоев к моделям..................................................................132
3.8.3	
Этап «компиляции»: настройка процесса обучения.............134
3.8.4	
Выбор функции потерь.............................................................137
3.8.5	
Использование метода fit().....................................................138
3.8.6	
Отслеживание потерь и показателей на контрольных  
	
данных........................................................................................139
3.8.7	
Использование модели после обучения....................................140
Краткие итоги главы.....................................................................................141
4	
Примеры работы с нейросетью:  
	
классификация и регрессия.........................................................143
4.1	
Классификация отзывов к фильмам: пример бинарной  
	
классификации....................................................................................145
4.1.1	
Набор данных IMDB..................................................................145
4.1.2	
Подготовка данных...................................................................147
4.1.3	
Создание модели........................................................................148
4.1.4	
Проверка вашего выбора..........................................................151
4.1.5	
Использование обученной сети для прогнозирования  
	
на новых данных........................................................................154
4.1.6	
Продолжаем эксперименты.....................................................155
4.1.7	
Промежуточные итоги............................................................155
4.2	
Классификация новостных лент: пример многоклассовой  
	
классификации....................................................................................156
4.2.1	
Набор данных Reuters................................................................156
4.2.2	
Подготовка данных...................................................................158
4.2.3	
Построение модели...................................................................158
4.2.4	
Проверка модели.......................................................................159
4.2.5	
Предсказания на новых данных................................................161
4.2.6	
Другой способ обработки меток и потерь.............................162
4.2.7	
Важность использования достаточно больших  
	
промежуточных слоев..............................................................162
4.2.8	
Дальнейшие эксперименты......................................................163
4.2.9	
Промежуточные итоги............................................................163
4.3	
Предсказание цен на дома: пример регрессии...........................164
4.3.1	
Набор данных с ценами на жилье в Бостоне..........................164
4.3.2	
Подготовка данных...................................................................165
4.3.3	
Построение модели...................................................................165


Содержание
Оценка качества модели методом K-кратной  
	
перекрестной проверки............................................................166
4.3.5	
Выдача прогнозов на новых данных.........................................171
4.3.6	
Промежуточные выводы..........................................................171
Краткие итоги главы.....................................................................................171
5	
Основы машинного обучения....................................................173
5.1	
Обобщение – цель машинного обучения......................................173
5.1.1	
Недообучение и переобучение...................................................174
5.1.2	
Базовые принципы обобщения в глубоком обучении..............180
5.2	
Оценка моделей машинного обучения.........................................187
5.2.1	
Наборы данных для обучения, проверки и контроля.............187
5.2.2	
Использование критериев, основанных на здравом  
	
смысле.........................................................................................191
5.2.3	
Что следует помнить об оценке модели................................192
5.3	
Улучшение качества обучения модели..........................................193
5.3.1	
Настройка ключевых параметров градиентного спуска.....193
5.3.2	
Использование лучшей априорно обоснованной  
	
архитектуры.............................................................................196
5.3.3	
Увеличение емкости модели....................................................197
5.4	
Как улучшить обобщение.................................................................199
5.4.1	
Подготовка набора данных......................................................199
5.4.2	
Конструирование признаков....................................................200
5.4.3	
Использование ранней остановки...........................................202
5.4.4	
Регуляризация модели...............................................................202
Краткие итоги главы.....................................................................................213
6	
Обобщенный рабочий процесс машинного  
	
обучения......................................................................................................215
6.1	
Постановка задачи.............................................................................217
6.1.1	
Уточнение задачи.....................................................................217
6.1.2	
Получение исходных данных.....................................................219
6.1.3	
Добейтесь понимания данных.................................................223
6.1.4	
Выберите меру успеха..............................................................224
6.2	
Разработка модели.............................................................................225
6.2.1	
Подготовка данных...................................................................225
6.2.2	
Выбор протокола оценки..........................................................227
6.2.3	
Как превзойти простой базовый уровень...............................228
6.2.4	
Масштабирование: разработка модели, способной  
	
к переобучению..........................................................................229
6.2.5	
Регуляризация и настройка модели........................................230
6.3	
Развертывание модели......................................................................231
6.3.1	
Представление модели заказчику...........................................231
6.3.2	
Передача модели заказчику......................................................232
6.3.3	
Мониторинг модели в рабочей среде......................................236
6.3.4	
Поддержка и обновление модели.............................................236
Краткие итоги главы.....................................................................................237