Основы теории вейвлетов. Вейвлеты в MATLAB

Основы теории вейвлетов

Вейвлеты в MATLAB

Издание пятое,  
дополненное и переработанное

Москва, 2019

Н. К. Смоленцев

Допущено Министерством образования и науки  
Российской Федерации в качестве учебного пособия  
для студентов высших учебных заведений,  
обучающихся по направлениям подготовки и специальностям  
«Математика», «Математика. Прикладная математика»

УДК 519.6
ББК В162я73
 
С51

Смоленцев Н. К.
С51 
Основы теории вейвлетов. Вейвлеты в MATLAB. – М.: ДМК Пресс, 2019. – 
560 с.

ISBN 978-5-97060-764-0

Данная книга состоит из двух частей: теоретической и практической. В теоретическую часть включены сведения по преобразованию Фурье, фильтрам и разложению сигналов. Достаточно подробно излагается общая теория вейвлетов, 
включая вейвлеты с произвольным натуральным коэффициентом масштабирования и многомерные вейвлеты с матричным коэффициентом масштабирования, гармонические вейвлеты и мультивейвлеты. 
Во второй, практической части книги существенно обновлена глава о возможностях Wavelet Toolbox MATLAB R2018b, которые включают теперь разложения 
на эмпирические моды EMD, процеду ры для машинного и глубокого обучения, 
двумерного непрерывного вейвлет-преобразования и многие другие новые интересные процедуры. Существенно дополнен раздел о приложениях вейвлетов. 
В частности, излагается метод создания классифицирующей системы для сигналов ЭКГ, дано описание методов использования вейвлет-анализа для изучения 
ЭЭГ. Обсуждаются методы использования вейвлетов для выделения контуров 
изображений. 
В последней главе книги показывается, как работать с вейвлет-анализатором 
MATLAB для изучения сигналов и изображений. 
Книга предназначена для студентов высших учебных заведений, обучающихся по направлениям и специальностям, связанным с математикой, прикладной 
математикой и информационными технологиями, и будет полезна специалистам-практикам, использующим вейвлеты в своей работе.

 
УДК 519.6
 
ББК В162я73

Все права защищены. Любая часть этой книги не может быть воспроизведена в какой бы то ни было форме и какими бы то ни было средствами без письменного разрешения 
владельцев авторских прав.
Материал, изложенный в данной книге, многократно проверен. Но поскольку вероятность технических ошибок все равно существует, издательство не может гарантировать 
абсолютную точность и правильность приводимых сведений. В связи с этим издательство 
не несет ответственности за возможные ошибки, связанные с использованием книги.

 
©  Смоленцев Н. К., 2019
ISBN 978-5-97060-764-0 
© Оформление, ДМК Пресс, 2019

Содержание

Предисловие ........................................................................................................................................9

 Часть I

ОСНОВЫ ТЕОРИИ ВЕЙВЛЕТОВ..................................................................................12

 Глава 1

Преобразование Фурье и фильтры .................................................................................13
1.1. Предварительные замечания ...................................................................................................13
1.2. Ряды Фурье ......................................................................................................................................14
1.3. Преобразование Фурье ..............................................................................................................18
1.3.1. Преобразование Фурье в L
1(R) .........................................................................................18
1.3.2. Преобразование Фурье в L
2(R)  .......................................................................................19
1.3.3. Свойства преобразований Фурье ...................................................................................21
1.3.4. Примеры ....................................................................................................................................23
1.3.5. Теорема Пэли-Винера  .........................................................................................................23
1.3.6. Преобразование Фурье экспоненциально убывающей функции  ....................24
1.3.7. Формула суммирования Пуассона  .................................................................................25
1.3.8. Оконное преобразование Фурье  ...................................................................................26
1.4. Преобразование Фурье дискретных сигналов .................................................................27
1.4.1. Дискретизация ........................................................................................................................27
1.4.2. Дискретное преобразование Фурье сигнала длины N ..........................................29
1.4.3. Преобразование Фурье числовой последовательности  ......................................32
1.4.4. Z–преобразование ................................................................................................................35
1.5. Фильтры .............................................................................................................................................35
1.5.1. Фильтрация непрерывных сигналов .............................................................................35
1.5.2. Примеры фильтров ...............................................................................................................37
1.5.3. Цифровые фильтры  .............................................................................................................40
1.5.4. Примеры цифровых фильтров .........................................................................................41

Содержание

1.6. Разложение сигнала на низкочастотную и высокочастотную составляющие ......42
1.6.1. Разложение идеальными фильтрами ............................................................................43
1.6.2. Восстановление идеальными фильтрами ....................................................................47
1.6.3. Общий случай ..........................................................................................................................49
1.6.4. Примеры ....................................................................................................................................54
1.6.5. Многоуровневый анализ сигналов .................................................................................57

 Глава 2

Основы теории вейвлетов .......................................................................................................59
2.1. Вейвлеты Хаара .............................................................................................................................59
2.1.1. Последовательность масштабированных подпространств  .................................60
2.1.2. Операторы проектирования  ............................................................................................62
2.1.3. Пространства вейвлетов  ....................................................................................................64
2.2. Масштабирующие функции ......................................................................................................68
2.2.1. Примеры и общие свойства масштабирующих функций .....................................68
2.2.2. Построение масштабирующей функции ......................................................................71
2.3. Ортогональный кратномасштабный анализ .......................................................................77
2.3.1. Ортогональное кратномасштабное разложение  .....................................................78
2.3.2. Вейвлеты  ..................................................................................................................................81
2.3.3. О единственности порождающих функций  ...............................................................88
2.3.4. Неортогональный случай  ..................................................................................................90
2.3.5. Достаточные условия ортогональности  .......................................................................93
2.4. Вейвлет-преобразование ...........................................................................................................95
2.4.1. Вейвлет-разложение ............................................................................................................95
2.4.2. Быстрое вейвлет-преобразование  ................................................................................99
2.4.3. Вопрос о начальных коэффициентах .........................................................................100
2.4.4. Восстановление  ..................................................................................................................102
2.4.5. Вейвлет-пакеты ....................................................................................................................103
2.5. Примеры кратномасштабного анализа и вейвлетов ...................................................108
2.5.1. Вейвлеты Шеннона–Котельникова  ............................................................................108
2.5.2. Вейвлеты Мейера  ..............................................................................................................110
2.6. Вейвлеты Батла-Лемарье. B-сплайны ................................................................................115
2.6.1. Вейвлеты на основе B-сплайна степени 1  ..............................................................116
2.6.2. B-сплайны  .............................................................................................................................120
2.6.3. Сплайновые вейвлеты  .....................................................................................................122
2.7. Регулярность и нулевые моменты ........................................................................................125
2.8. Построение вейвлетов Добеши с компактным носителем .......................................131
2.8.1. Построение функции H0(ω)  ..........................................................................................132
2.8.2. Симлеты  ................................................................................................................................. 137
2.9. Койфлеты .......................................................................................................................................139

Содержание 5

2.10. Биортогональные вейвлеты .................................................................................................142
2.10.1. Мотивировка и определение  .....................................................................................142
2.10.2. Условия на функции φ(x) и ψ(x)  ................................................................................144
2.10.3. Построение функции φ~(x) .............................................................................................146
2.10.4. Построение функций ψ(x) и ψ
~(x)  ..............................................................................148
2.10.5. Условия на коэффициенты  ..........................................................................................150
2.10.6. Симметричные биортогональные вейвлеты  ........................................................150
2.10.7. Сплайны  ...............................................................................................................................151
2.11. Двумерные вейвлеты .............................................................................................................154
2.11.1. Вейвлет-преобразование  ............................................................................................158
2.12. Непрерывное вейвлет-преобразование ........................................................................159
2.12.1. Непрерывное вейвлет-преобразование в одномерном случае  ..................159
2.12.2. Многомерные обобщения непрерывного вейвлет-преобразования .........162
2.13. Вейвлеты с коэффициентом масштабирования N .....................................................172
2.13.1. Масштабирующие функции .........................................................................................173
2.13.2. N-кратномасштабное разложение ............................................................................174
2.13.3. Вейвлеты с коэффициентом масштабирования N .............................................176
2.13.4. Вейвлет-преобразование .............................................................................................. 177
2.13.5. Разложение и восстановление в неортогональном случае  ...........................179
2.14. Примеры N-масштабирующих функций и вейвлетов  .............................................182
2.14.1. Вейвлеты Хаара с параметром сжатия N ...............................................................182
2.14.2. Вейвлеты Шеннона с параметром сжатия N ........................................................185
2.14.3. Вырожденные масштабирующие функции и вейвлеты Кантора  ................188
2.14.4. Сплайновые масштабирующие функции................................................................192
2.14.5. Вейвлеты на основе В-сплайнов  ..............................................................................195
2.14.6. Кратные коэффициенты масштабирования ..........................................................206
2.15. Построение ортогональных вейвлетов с компактным носителем  
для N > 2.................................................................................................................................................210
2.15.1. Условия ортогональности  .............................................................................................211
2.15.2. Построение матрицы частотных функций  ............................................................213
2.15.3. Построение матрицы частотных функций в случае N = 3 ..............................216
2.15.4. Примеры масштабирующих функций и вейвлетов для N = 3  .....................218
2.16. Многомерные вейвлеты с матричным коэффициентом  
масштабирования ..............................................................................................................................223
2.16.1. Масштабирующие функции  ........................................................................................224
2.16.2. A-кратномасштабное разложение  ...........................................................................234
2.16.3. Вейвлеты с матрицей масштабирования  ..............................................................238
2.16.4. Вейвлет-преобразование  ............................................................................................239
2.16.5. Разложение и восстановление  ..................................................................................240
2.16.6. Построение вейвлетов с матрицей масштабирования   ..................................245
2.17. Гармонические вейвлеты ......................................................................................................251

Содержание

2.17.1. Гармонические вейвлеты на R  ...................................................................................251
2.17.2. Периодические гармонические вейвлеты .............................................................254
2.17.3. Дискретное гармоническое вейвлет-разложение ..............................................256
2.18. Мультивейвлеты .......................................................................................................................258

 Часть II

Вейвлеты в MATLAB ..................................................................................................................266

 Глава 3

Функции вейвлет-анализа в MATLAB .......................................................................... 267
3.1. Вейвлеты и банки фильтров в системе MATLAB  ..........................................................269
3.1.1. Вещественные и комплексные вейвлеты .................................................................269
3.1.2. Ортогональные и биортогнальные банки фильтров ............................................281
3.1.3. Построение вейвлетов. Лифтинг ...................................................................................286
3.2. Частотно-временной анализ..................................................................................................291
3.2.1. Непрерывное вейвлет-преобразование cwt ...........................................................291
3.2.2. Q-постоянно адаптивные к данным и квадратичные  
частотно-временные преобразования ..................................................................................305
3.2.3. Многомасштабный анализатор сигнала ....................................................................314
3.3. Дискретный вейвлет-анализ .................................................................................................. 317
3.3.1. Анализ одномерных сигналов ....................................................................................... 317
3.3.2. Анализ изображений .........................................................................................................339
3.3.3. Трехмерный анализ ...........................................................................................................355
3.3.4. Анализ мультисигналов ....................................................................................................359
3.4. Вейвлет-пакеты ...........................................................................................................................366
3.5. Удаление шума и сжатие сигнала ........................................................................................378
3.5.1. Функции MATLAB для удаления шума и сжатия ....................................................379
3.5.2. Многовариантное удаление шума ...............................................................................389
3.5.3. Сжатие сигнала ....................................................................................................................398
3.6. Вейвлеты в машинном и в глубоком обучении  ............................................................405
3.6.1. Вейвлет-рассеивание ........................................................................................................406
3.6.2. Функции вейвлет-рассеивания времени ..................................................................409
3.7. Тестовые сигналы в MATLAB ..................................................................................................411
3.7.1 Одномерные тестовые сигналы .....................................................................................412
3.7.2. Изображения .........................................................................................................................412
3.7.3. Генерирование сигналов ..................................................................................................413
3.8. Приложения вейвлет-анализа  .............................................................................................416
3.8.1. Вейвлет-анализ кардиосигнала ....................................................................................416
3.8.2. Непрерывный вейвлет-анализ кордиосигнала ......................................................426

Содержание 7

3.8.3. Удаление шума, компрессия и сглаживание кардиосигнала ............................433
3.8.4. Использование пакетных разложений ......................................................................435
3.8.5. Высокочастотные вейвлет-компоненты кардиосигнала для задач  
классификации ................................................................................................................................441
3.8.6. Вейвлет-пакетное разложение ЭЭГ на основные частотные ритмы ..............450
3.8.7. Выделение контура объекта изображения ...............................................................458

 Глава 4

Вейвлет-анализатор пакета Wavelet Toolbox .......................................................464
4.1. Просмотр вейвлетов .................................................................................................................465
4.1.1. Просмотр вейвлетов ..........................................................................................................465
4.1.2. Просмотр пакетных вейвлетов ..................................................................................... 467
4.2. Продолжение сигналов и изображений (Extension)....................................................468
4.3. Одномерный вейвлет-анализ ................................................................................................471
4.3.1. Одномерный вейвлет-анализ сигнала (Wavelet 1-D) ...........................................471
4.3.2. Одномерный пакетный вейвлет-анализ ....................................................................480
4.3.3. Непрерывный вейвлет-анализ (Continuous Wavelet 1-D) ..................................483
4.3.4. Комплексный непрерывный вейвлет-анализ (Complex Continuous  
Wavelet 1-D) ...................................................................................................................................... 487
4.3.5. Непрерывный вейвлет-анализ на основе FFT ........................................................489
4.4. Специализированные средства одномерного вейвлет-анализа ............................493
4.4.1. Удаление шума стационарного одномерного сигнала  
(SWT De-noising 1-D).....................................................................................................................494
4.4.2. Оценка плотности (Density Estimation 1-D) .............................................................498
4.4.3. Оценка регрессии (Regression Estimation 1-D) ......................................................502
4.4.4. Выбор вейвлет-коэффициентов сигнала (Wavelet Coefficients  
Selection 1-D) ...................................................................................................................................505
4.4.5. Моделирование дробного броуновского движения (Fractional  
Brownian Generation 1-D) ............................................................................................................ 507
4.4.6. Выполнение подгонки (Matching Pursuit 1-D) ........................................................508
4.5. Двумерный вейвлет-анализ ...................................................................................................512
4.5.1. Двумерный дискретный вейвлет-анализ (Wavelet 2-D) ......................................513
4.5.2. Двумерный пакетный вейвлет-анализ .......................................................................515
4.5.3. Двумерное непрерывное вейвлет-преобразование ............................................516
4.6. Специализированные средства двумерного вейвлет-анализа ...............................519
4.6.1. Удаление шума изображения (SWT De-noising 2-D) ............................................519
4.6.2. Выбор вейвлет-коэффициентов изображения (Wavelet Coefficients  
Selection 2-D) ...................................................................................................................................520
4.6.3. Слияние двух изображений (Image Fusion) .............................................................522
4.6.4. Истинное сжатие с использованием вейвлетов (True Compression 2-D) .....524

Содержание

4.7. Трехмерный вейвлет-анализ (Wavelet 3-D) ......................................................................528
4.8. Мультисигналы (Multiple 1-D) ...........................................................................................532
4.8.1. Вейвлет-анализ мультисигнала .....................................................................................532
4.8.2. Многовариантное удаление шума (Multivariate Denoising) .............................. 537
4.8.3. Многомасштабный анализ главных компонент .....................................................544
4.9. Проектирование вейвлетов для непрерывного вейвлет-преобразования  
(New Wavelet for CWT) ...................................................................................................................... 547

Список литературы ....................................................................................................................550

Предметный указатель ........................................................................................................... 557

Функции типа маленькой волны (всплески, или вейвлеты) в математике возникли достаточно давно при изучении базисов функциональных пространств. 
Однако только в последние десятилетия они нашли широкие применения в обработке сигналов и изображений. Эти приложения стимулировали мощное 
развитие теории вейвлетов. Теория вейвлетов является альтернативой анализу Фурье и дает более гибкую технику обработки сигналов. Одно из основных 
преимуществ вейв-лет-анализа заключается в том, что он позволяет заметить 
хорошо локализованные изменения сигнала, тогда как анализ Фурье этого не 
дает – в коэффициентах Фурье отражается поведение сигнала за все время 
его существования. Разработана глубокая и красивая математическая теория 
вейвлетов [Дб], [М], [НС], [Чуи], [J03]. 
Из имеющихся на русском языке книг по вейвлетам отметим фундаментальные монографии: И. Добеши [Дб], К. Чуи [Чуи] и И. Я. Новикова, В. Ю. Протасова, М. А. Скопиной [НПС], А. Н. Яковлева [Я] и Ю. А. Фаркова [Фар]. Издан 
перевод замечательной книги С. Малла [М] – это наиболее полное учебное 
пособие по обработке сигналов при помощи вейвлетов. В ней прекрасно сочетаются доступность и глубина изложения. Кроме того, издан еще ряд пособий, среди которых нужно отметить книгу К. Блаттера [Бл], учебные пособия 
Л. В. Новикова [Но], А. П. Петухова [Пе] и В. Г. Захарова [За]. Приложениям вейвлетов в компьютерной графике посвящены книги [СДС] и [У]. 
Данная книга предлагается как учебник по теории вейвлетов и их применениям для студентов по математическим специальностям и направлениям подготовки. Она возникла на основе курса лекций, читаемых автором в течение 
ряда лет. Чтобы сделать книгу более независимой, в нее включены сведения 
по рядам и преобразованию Фурье, по фильтрам и разложению сигналов. Теоретический материал не должен быть самоцелью, нужно овладеть и практическими приемами работы с вейвлетами. Поэтому в книгу включено описание 
основных функций вейвлет-анализа в системе MATLAB и их использования 
для обработки сигналов. В соответствии с этим книга состоит из двух частей: 
«Основы теории вейвлетов» и «Вейвлеты в MATLAB». Первая часть книги содержит необходимый теоретический материал, а вторая часть прямо ориентирована на практические занятия по вейвлетам. Выбор системы компьютерной 
математики MATLAB объясняется тем, что она популярна среди инженеров 
и математиков, занимающихся прикладными разработками, а также потому, 
что именно в MATLAB вейвлеты представлены наиболее полно. 

Предисловие

Предисловие

Данное издание книги является переработанным и дополненным. Многие 
вопросы изложены более доступно. Добавлено описание новых возможностей 
пакета Wavelet Toolbox MATLAB R2018B и разобраны новые примеры применения вейвлет-анализа в медицине и в компьютерной графике. Из наиболее 
интересных новинок пакета расширения Wavelet Toolbox отметим вейвлетметоды для машинного и глубокого обучения, разработку примеров использования вейвлетов для классификации ЭКГ, новые функции вейвлет-преобразования двойного дерева и возможности создания С/С++ кодов из функций 
пакета Wavelet Toolbox.
Рассмотрим кратко содержание книги. Теория вейвлетов широко использует технику рядов Фурье и преобразования Фурье. Поэтому в первой главе излагаются основные факты из этих тем. Даже если сигнал представлен функцией, 
на практике для его анализа берется достаточно плотная выборка значений 
(дискретизация). Рассмотрены вопросы, которые возникают при дискретизации сигнала, определено дискретное преобразование Фурье и изучаются его 
свойства. Вейвлет-преобразование сигнала сводится к действию на этот сигнал 
определенных фильтров. Поэтому в первой главе изложены также основные 
факты фильтрации сигналов. Рассмотрены вопросы разложения сигнала на 
сглаженную и высокочастотную компоненты и последующего восстановления 
сигнала. Хотя первая глава является вспомогательной, результаты последних 
параграфов существенны для понимания теории вейвлетов и их практических 
применений. 
Вторая глава «Основы теории вейвлетов» является центральной в данной книге. Она содержит изложение основ теории вейвлетов и способов их 
построения. Начинается изложение с определения масштабирующих функций и построения известного вейвлет-базиса Хаара. На этом примере мы изучаем основные конструкции, которые затем последовательно развиваются 
в следующих параграфах. Рассмотрены примеры масштабирующих функций 
и соответствующих вейвлетов: Шеннона-Котельникова, Мейера, ортогональных вейвлетов с компактным носителем, биорто гональных вейвлетов. Кратко 
изложены вопросы о двумерных вейвлетах. Рассмотрено непрерывное вейвлет-преобразование и его многомерные обобщения. Достаточно подробно 
изучаются масштабирующие функции с произвольным натуральным коэффициентом сжатия N, и приводятся примеры построения соответствующих 
вейвлетов. В конце главы рассмотрены масштабирующие функции и вейвлеты 
в многомерном случае с матричным коэффициентом масштабирования, гармонические вейвлеты и мультивейвлеты. Несмотря на то что в книге изложены не все темы теории вейвлетов, надеюсь, что ее содержания будет достаточно для первоначального изучения предмета студентами, прослушавшими курс 
функционального анализа. 
Во второй части книги дается описание основных функций системы 
MATLAB, связанных с вейвлетами и их использованием. Показано, как можно 
получить значения и построить графики основных типов вейвлетов, как найти 
масштабирующие фильтры и фильтры разложения и восстановления вейвлетов. Рассмотрены возможности Wavelet Toolbox MATLAB для анализа сигналов, 
очистки от шума, сжатия. Дано описание применения пакетных и двумерных 
вейвлетов. Приведены примеры вейвлет-анализа ЭКГ и ЭЭГ. Описываются те