Книжная полка Сохранить
Размер шрифта:
А
А
А
|  Шрифт:
Arial
Times
|  Интервал:
Стандартный
Средний
Большой
|  Цвет сайта:
Ц
Ц
Ц
Ц
Ц

Python и машинное обучение: крайне необходимое пособие по новейшей предсказательной аналитике, обязательное для более глубокого понимания методологии машинного обучения

Покупка
Артикул: 712428.01.99
Доступ онлайн
1 299 ₽
В корзину
Книга предоставит вам доступ в мир прогнозной аналитики и продемонстрирует, почему Python является одним из лидирующих языков науки о данных. Охватывая широкий круг мощных библиотек Python, в том числе scikit-learn, Theano и Keras, предлагая руководство и советы по всем вопросам, начиная с анализа мнений и заканчивая нейронными сетями, книга ответит на большинство ваших вопросов по машинному обучению. Издание предназначено для специалистов по анализу данных, находящихся в поисках более широкого и практического понимания принципов машинного обучения.
25
40
68
69
106
133
166
167
192
260
287
315
355
380
380
Рашка, С. Python и машинное обучение: крайне необходимое пособие по новейшей предсказательной аналитике, обязательное для более глубокого понимания методологии машинного обучения / С. Рашка ; пер. с англ. А.В. Логунова. - Москва : ДМК Пресс, 2017. - 418 с. - ISBN 978-5-97060-409-0. - Текст : электронный. - URL: https://znanium.ru/catalog/product/1027758 (дата обращения: 19.11.2026). – Режим доступа: по подписке.
Фрагмент текстового слоя документа размещен для индексирующих роботов
Инетенетмагазин:
www.dmkpress.com
Книга – почтой:
email: orders@alians-kniga.ru
Оптовая продажа: 
«Альянскнига»
Тел./факс: (499) 7823889
email: books@alians-kniga.ru
www.дмк.рф

Чему вы научитесь, прочитав эту книгу:
•   исследовать, как используются разные машиннообучаемые модели, которые
      формулируют те или иные вопросы в отношении данных;
•   конструировать нейронные сети при помощи библиотек Theano и Keras;
•   писать красивый и лаконичный программный код на Python с оптимальным 
      использованием созданных вами алгоритмов;
•   встраивать вашу машиннообучаемую модель в веб-приложение для повыше      ния ее общедоступности;
•   предсказывать непрерывнозначные результаты при помощи регрессионного
      анализа;
•   обнаруживать скрытые повторяющиеся образы и структуры в данных посред      ством кластерного анализа;
•   организовывать данные с помощью эффективных методов предобработки и 
      использовать передовые практические подходы к оценке машиннообучаемых
      моделей;
•   осуществлять анализ мнений, позволяющий подробнее интерпретировать 
      текстовые данные и информацию из социальных сетей.

Наука и искусство построения алгоритмов, которые извлекают 

знания из данных!

Машинное обучение и прогнозная аналитика преобразуют традиционную 
схему функционирования предприятий!
Данная книга предоставит вам доступ в мир прогнозной аналитики и 
продемонстрирует, почему Python является одним из ведущих языков науки 
о данных. Если вы хотите более глубоко и точно анализировать данные либо 
нуждаетесь в усовершенствовании и расширении систем машинного обучения, 
эта книга окажет вам неоценимую помощь. Ознакомившись с широким кругом 
мощных программных библиотек Python, в том числе scikit-learn, Theano и 
Keras, а также получив советы по всем вопросам, начиная с анализа мнений 
и заканчивая нейронными сетями, вы сможете принять важные решения, во 
многом определяющие деятельность вашей организации.

9 785970 604090

ISBN 978-5-97060-409-0

Себастьян Рашка 

Python и машинное обучение

Python и 
машинное обучение

Если вы хотите узнать, как использовать Python, чтобы начать отвечать на критические вопросы в отношении ваших данных, возьмите книгу “Python и машинное 
обучение” — и неважно, приступаете ли вы к изучению науки о данных с нуля или 
просто намереваетесь расширить по ней свои знания.

Цветное издание

Себастьян Рашка

Python и машинное обучение

Наука и искусство построения алгоритмов,  
которые извлекают знания из данных

Sebastian Raschka

Python Machine Learning

Unlock deeper insights into machine learning 
with this vital guide to cutting-edge  
predictive analytics

BIRMINGHAM – MUMBAI

Себастьян Рашка

Python и машинное обучение

Наука и искусство построения алгоритмов,  
которые извлекают знания из данных

Москва, 2017

УДК 004.438Python:004.6
ББК 32.973.22
 
Р28

 
Рашка С.
Р28 
Python и машинное обучение: крайне необходимое пособие по новейшей предсказательной аналитике, обязательное для более глубокого понимания методологии машинного обучения  / пер. с англ. А. В. Логунова. – М.: ДМК Пресс, 
2017. – 418 с.: ил. 

 
ISBN 978-5-97060-409-0

Книга предоставит вам доступ в мир прогнозной аналитики и продемонстрирует, почему Python является одним из лидирующих языков науки о данных. Охватывая широкий 
круг мощных библиотек Python, в том числе scikit-learn, Theano и Keras, предлагая руководство и советы по всем вопросам, начиная с анализа мнений и заканчивая нейронными 
сетями, книга ответит на большинство ваших вопросов по машинному обучению.
Издание предназначено для специалистов по анализу данных, находящихся в поисках 
более широкого и практического понимания принципов машинного обучения.

УДК 004.438Python:004.6
ББК 32.973.22

Все права защищены. Любая часть этой книги не может быть воспроизведена в какой бы 
то ни было форме и какими бы то ни было средствами без письменного разрешения владельцев 
авторских прав.
Материал, изложенный в данной книге, многократно проверен. Но поскольку вероятность 
технических ошибок все равно существует, издательство не может гарантировать абсолютную точность и правильность приводимых сведений. В связи с этим издательство не несет ответственности 
за возможные ошибки, связанные с использованием книги.

ISBN 978-1-78355-513-0 (анг.) 
©  2016 Packt Publishing
ISBN 978-5-97060-409-0 (рус.) 
©  Издание, перевод, ДМК Пресс, 2017

Содержание

Предисловие ..................................................................................................................................11
Об авторе ..........................................................................................................................................12
О рецензентах ...............................................................................................................................13
Введение ...........................................................................................................................................15

Глава 1. Наделение компьютеров способностью обучаться  
на данных .........................................................................................................................................25
Построение интеллектуальных машин для преобразования данных в знания ...........25
Три типа машинного обучения ......................................................................................................26

Выполнение прогнозов о будущем на основе обучения с учителем ..........................26

Задача классификации – распознавание меток классов  ........................................27
Задача регрессии – предсказание значений непрерывной целевой  
переменной ..............................................................................................................................28

Решение интерактивных задач на основе обучения с подкреплением .....................29
Обнаружение скрытых структур при помощи обучения без учителя ......................30

Выявление подгрупп при помощи кластеризации ....................................................30
Снижение размерности для сжатия данных ................................................................31

Введение в основополагающую терминологию и систему обозначений .......................32
Дорожная карта для построения систем машинного обучения .........................................33

Предобработка – приведение данных в приемлемый вид .............................................34
Тренировка и отбор прогнозной модели ..............................................................................35
Оценка моделей и прогнозирование на ранее не встречавшихся  
экземплярах данных ...................................................................................................................36

Использование Python для машинного обучения ..................................................................36

Установка библиотек Python ...................................................................................................37
Блокноты (записные книжки) Jupyter/IPython ...............................................................38

Резюме ...................................................................................................................................................40

Глава 2. Тренировка алгоритмов машинного обучения  
для задачи классификации .................................................................................................42
Искусственные нейроны – краткий обзор ранней истории машинного  
обучения ................................................................................................................................................42
Реализация алгоритма обучения перcептрона на Python ....................................................48

Тренировка перcептронной модели на наборе данных цветков ириса .....................50

Адаптивные линейные нейроны и сходимость обучения ....................................................54

Минимизация функций стоимости методом градиентного спуска ...........................55
Реализация адаптивного линейного нейрона на Python ...............................................57
Крупномасштабное машинное обучение и стохастический  
градиентный спуск  .....................................................................................................................62

Резюме ...................................................................................................................................................67

Содержание

Глава 3. Обзор классификаторов с использованием  
библиотеки scikit-learn ..........................................................................................................68
Выбор алгоритма классификации ................................................................................................68
Первые шаги в работе с scikit-learn..............................................................................................69

Тренировка перcептрона в scikit-learn ..................................................................................69

Моделирование вероятностей классов логистической регрессией ..................................73

Интуитивное понимание логистической регрессии и условные вероятности ......74
Извлечение весов логистической функции стоимости ..................................................77
Тренировка логистической регрессионной модели в scikit-learn ...............................79
Решение проблемы переобучения при помощи регуляризации .................................81

Классификация с максимальным зазором на основе метода опорных векторов ........84

Интуитивное понимание максимального зазора ..............................................................85
Обработка нелинейно разделимого случая при помощи ослабленных  
переменных ....................................................................................................................................86

Альтернативные реализации в scikit-learn ................................................................................88
Решение нелинейных задач ядерным методом SVM ............................................................88

Использование ядерного трюка для нахождения разделяющих  
гиперплоскостей в пространстве более высокой размерности  ...................................90

Обучение на основе деревьев решений ......................................................................................93

Максимизация прироста информации – получение наибольшей отдачи  ..............94
Построение дерева решений ....................................................................................................98
Объединение слабых учеников для создания сильного при помощи  
случайных лесов ........................................................................................................................ 100

k ближайших соседей – алгоритм ленивого обучения ...................................................... 103
Резюме ................................................................................................................................................ 106

Глава 4. Создание хороших тренировочных наборов –  
предобработка данных ....................................................................................................... 107
Решение проблемы пропущенных данных ............................................................................ 107

Устранение образцов либо признаков с пропущенными значениями ................... 109
Импутация пропущенных значений .................................................................................. 110
Концепция взаимодействия с оценщиками в библиотеке scikit-learn ................... 110

Обработка категориальных данных ......................................................................................... 112

Преобразование порядковых признаков .......................................................................... 112
Кодирование меток классов .................................................................................................. 113
Прямое кодирование на номинальных признаках ........................................................ 114

Разбивка набора данных на тренировочное и тестовое подмножества ....................... 116
Приведение признаков к одинаковой шкале......................................................................... 117
Отбор содержательных признаков ........................................................................................... 119

Разреженные решения при помощи L1-регуляризации ............................................. 119
Алгоритмы последовательного отбора признаков ........................................................ 125

Определение важности признаков при помощи случайных лесов ............................... 130
Резюме ................................................................................................................................................ 132

Глава 5. Сжатие данных путем снижения размерности ............................ 133
Снижение размерности без учителя на основе анализа главных компонент ............ 133


Общая и объясненная дисперсия ........................................................................................ 135
Преобразование признаков ................................................................................................... 138
Анализ главных компонент в scikit-learn ......................................................................... 140

Сжатие данных с учителем путем линейного дискриминантного анализа ................ 143

Вычисление матриц разброса ............................................................................................... 145
Отбор линейных дискриминантов  
для нового подпространства признаков ........................................................................... 147
Проецирование образцов на новое пространство признаков .................................... 149
Метод LDA в scikit-learn ........................................................................................................ 150

Использование ядерного метода анализа главных компонент  
для нелинейных отображений ..........................................................................................................151

Ядерные функции и ядерный трюк .................................................................................... 152
Реализация ядерного метода анализа главных компонент на Python ................... 156

Пример 1. Разделение фигур в форме полумесяца ................................................. 157
Пример 2. Разделение концентрических кругов ..................................................... 159

Проецирование новых точек данных ................................................................................. 162
Ядерный метод анализа главных компонент в scikit-learn......................................... 165

Резюме ................................................................................................................................................ 166

Глава 6. Изучение наиболее успешных методов оценки  
моделей и тонкой настройки гиперпараметров ............................................... 167
Оптимизация потоков операций при помощи конвейеров .............................................. 167

Загрузка набора данных Breast Cancer Wisconsin ......................................................... 167
Совмещение преобразователей и оценщиков в конвейере ........................................ 169

Использование k-блочной перекрестной проверки для оценки качества  
модели ................................................................................................................................................. 170

Метод проверки с откладыванием данных ...................................................................... 171
k-блочная перекрестная проверка ...................................................................................... 172

Отладка алгоритмов при помощи кривой обучения и проверочной кривой ............. 176

Диагностирование проблем со смещением и дисперсией при помощи  
кривых обучения ....................................................................................................................... 176
Решение проблемы переобучения и недообучения при помощи  
проверочных кривых ............................................................................................................... 179

Тонкая настройка машиннообучаемых моделей методом сеточного поиска  ............ 181

Настройка гиперпараметров методом поиска по сетке параметров ....................... 181
Отбор алгоритмов методом вложенной перекрестной проверки ............................ 183

Обзор других метрик оценки качества .................................................................................... 184

Прочтение матрицы несоответствий ................................................................................. 185
Оптимизация точности и полноты классификационной модели ........................... 186
Построение графика характеристической кривой ........................................................ 188
Оценочные метрики для многоклассовой классификации ....................................... 191

Резюме ................................................................................................................................................ 192

Глава 7. Объединение моделей для методов ансамблевого  
обучения ........................................................................................................................................ 193
Обучение при помощи ансамблей............................................................................................. 193


Реализация простого классификатора с мажоритарным голосованием  .................... 197

Объединение разных алгоритмов классификации методом  
мажоритарного голосования ................................................................................................. 202

Оценка и тонкая настройка ансамблевого классификатора  ........................................... 205
Бэггинг – сборка ансамбля классификаторов из бутстрап-выборок ............................ 210
Усиление слабых учеников методом адаптивного бустинга  ........................................... 214
Резюме ................................................................................................................................................ 221

Глава 8. Применение алгоритмов машинного обучения  
в анализе мнений ..................................................................................................................... 222
Получение набора данных киноотзывов IMDb ................................................................... 222
Концепция модели мешка слов .................................................................................................. 224

Преобразование слов в векторы признаков .................................................................... 225
Оценка релевантности слова методом tf-idf .................................................................... 226
Очистка текстовых данных ................................................................................................... 228
Переработка документов в лексемы ................................................................................... 229

Тренировка логистической регрессионной модели для задачи  
классификации документов ........................................................................................................ 232
Работа с более крупными данными – динамические алгоритмы и обучение  
вне ядра ............................................................................................................................................... 234
Резюме ................................................................................................................................................ 237

Глава 9. Встраивание алгоритма машинного обучения  
в веб-приложение ................................................................................................................... 239
Сериализация подогнанных оценщиков библиотеки scikit-learn .................................. 239
Настройка базы данных SQLite для хранения данных ..................................................... 242
Разработка веб-приложения в веб-платформе Flask .......................................................... 244

Наше первое веб-приложение Flask ................................................................................... 245
Валидация и отображение формы ...................................................................................... 246

Превращение классификатора кинофильмов в веб-приложение .................................. 249
Развертывание веб-приложения на публичном сервере ................................................... 256

Обновление классификатора киноотзывов ..................................................................... 258

Резюме ................................................................................................................................................ 259

Глава 10. Прогнозирование значений непрерывной целевой  
переменной на основе регрессионного. анализа ............................................. 260
Введение в простую линейную регрессионную модель  ................................................... 260
Разведочный анализ набора данных Housing ....................................................................... 261

Визуализация важных характеристик набора данных ................................................ 263

Реализация линейной регрессионной модели обычным методом  
наименьших квадратов  ................................................................................................................. 266

Решение уравнения регрессии для параметров регрессии методом  
градиентного спуска ................................................................................................................ 267
Оценивание коэффициента регрессионной модели в scikit-learn ........................... 270

Подгонка стабильной регрессионной модели алгоритмом RANSAC ........................... 272
Оценивание качества работы линейных регрессионных моделей ................................ 274


Применение регуляризованных методов для регрессии................................................... 277
Превращение линейной регрессионной модели в криволинейную –  
полиномиальная регрессия ......................................................................................................... 278

Моделирование нелинейных связей в наборе данных Housing ............................... 280
Обработка нелинейных связей при помощи случайных лесов ................................ 283

Регрессия на основе дерева решений ........................................................................... 283
Регрессия на основе случайного леса .......................................................................... 285

Резюме ................................................................................................................................................ 287

Глава 11. Работа с немаркированными данными –  
кластерный анализ ................................................................................................................. 289
Группирование объектов по подобию методом k средних ................................................ 289

Алгоритм k-средних++ ........................................................................................................... 292
Жесткая кластеризация в сопоставлении с мягкой ...................................................... 294
Использование метода локтя  
для нахождения оптимального числа кластеров ........................................................... 296
Количественная оценка качества кластеризации методом силуэтных  
графиков ...................................................................................................................................... 298

Организация кластеров в виде иерархического дерева ..................................................... 302

Выполнение иерархической кластеризации на матрице расстояний .................... 303
Прикрепление дендограмм к теплокарте ......................................................................... 307
Применение агломеративной кластеризации в scikit-learn ....................................... 308

Локализация областей высокой плотности алгоритмом DBSCAN .............................. 309
Резюме ................................................................................................................................................ 313

Глава 12. Тренировка искусственных нейронных сетей  
для распознавания изображений ............................................................................... 315
Моделирование сложных функций искусственными нейронными сетями .............. 315

Краткое резюме однослойных нейронных сетей ........................................................... 317
Введение в многослойную нейросетевую архитектуру  .............................................. 318
Активация нейронной сети методом прямого распространения сигналов .......... 320

Классификация рукописных цифр ........................................................................................... 322

Получение набора данных MNIST ..................................................................................... 323
Реализация многослойного персептрона ......................................................................... 328

Тренировка искусственной нейронной сети .......................................................................... 339

Вычисление логистической функции стоимости .......................................................... 339

Тренировка нейронных сетей методом обратного распространения ошибки ........... 341
Развитие интуитивного понимания алгоритма обратного распространения  
ошибки ................................................................................................................................................ 344
Отладка нейронных сетей процедурой проверки градиента ........................................... 345
Сходимость в нейронных сетях ................................................................................................. 350
Другие нейросетевые архитектуры ........................................................................................... 351

Сверточные нейронные сети ................................................................................................. 352
Рекуррентные нейронные сети ............................................................................................ 354

Несколько последних замечаний по реализации нейронной сети ................................ 355
Резюме ................................................................................................................................................ 355

Доступ онлайн
1 299 ₽
В корзину