Теория случайных процессов

Булинский А.В.
Ширяев А.Н.






Теория случайных процессов










МОСКВА ФИЗМАТЛИТ ®

УДК 519.216.2
ББК 22.171
      Б 90

    Булинский А.В., Ширяев А.Н. Теория случайных процессов. — М.: ФИЗМАТЛИТ, | 2005. — 400 с. — ISBN 978-5-9221-0335-0.
    Книга создана на основе лекций, прочитанных авторами в разные годы на механикоматематическом ф-те МГУ им. М. В. Ломоносова. Материал значительно превышает рамки учебного курса, чтобы дать более глубокое представление о разнообразных разделах теории и ее применениях. Сложные доказательства вынесены в «Приложения». «Дополнения и упражнения» помогают в усвоении материала.
    Для профессорско-преподавательского состава, научных работников, аспирантов и студентов старших курсов университетов.
    Ил. 19. Библиогр. 198 назв.

































ISBN 978-5-9221-0335-0

                                              (О ФИЗМАТЛИТ, 2003, 2005
(О А. В. Булинский, А. Н. Ширяев, 2003, 2005

Оглавление

Предисловие ............................................... 6


Основные обозначения....................................... 8



Глава I. Случайные процессы.
Распределения случайных процессов......................... Ц
    Предмет теории случайных процессов, некоторые задачи. Случайные элементы и их распределения. Теорема о монотонных классах. Пополнение вероятностного пространства. Предел измеримых отображений. Построение семейства независимых случайных элементов с заданными распределениями. Процессы частных сумм, эмпирические меры, процессы восстановления, модель страхования Крамера-Лундберга, пуассоновская случайная мера. Цилиндрическая <т-алгебра ■ Случайная функция как семейство случайных элементов и как одно измеримое отображение. Конечномерные распределения случайной функции. Теорема Колмогорова о согласованных мерах. Характеристическая функция меры на (Rra, iJ§(Rra)). Условия согласованности мер на евклидовых пространствах в терминах характеристических функций. Описание ё&т для бесконечного Т. Процессы с непрерывными траекториями. Согласованность проекций меры. Эквивалентные случайные функции. Измеримые процессы.

Глава II. Процессы с независимыми приращениями. Пуассоновские и гауссовские процессы ............................ 46
    Критерий существования процесса с независимыми приращениями. Пуассоновский процесс. Винеровский процесс (броуновское движение). Многомерное нормальное распределение. Построение действительной гауссовской случайной функции по функции среднего и ковариационной функции. Комплекснозначные гауссовские процессы. Неотрицательно определенные функции как ковариационные функции и как воспроизводящие ядра гильбертовых пространств. Теорема Парзена. Эквивалентность двух определений броуновского движения. Функции Хаара и Шаудера. Флуктуации последовательности стандартных гауссовских величин. Построение непрерывного винеровского процесса. Многомерное броуновское движение.

Оглавление

Глава III. Броуновское движение.
          Свойства траекторий..................................... 76
    Недифференцируемость п.н. траекторий броуновского движения (винеровского процесса). Марковское свойство винеровского процесса. Фильтрация. Марковские моменты, их примеры. <т-алгебра З'т, состоящая из событий, наблюдаемых до марковского момента т. Строго марковское свойство винеровского процесса. Принцип отражения. Закон нуля или единицы. Распределения, связанные с максимумом винеровского процесса на [0, t]. Закон повторного логарифма. Локальный закон повторного логарифма.

Глава IV. Мартингалы.
          Дискретное и непрерывное время .........................108
    Мартингалы, субмартингалы, супермартингалы. Примеры. Разложение Дуба. Компенсаторы. Дискретный вариант формулы Танака. Расширение фильтрации. Квадратическая характеристика. Квадратическая вариация. Теорема Дуба о свободном выборе. Применение к случайным блужданиям (задача о разорении). Максимальное и минимальное неравенство Дуба для субмартингалов. Лемма о числе пересечений. Теорема о сходимости субмартингалов. Ветвящийся процесс Гальтона-Ватсона. Сходимость мартингалов в Т¹ (S1,Р). Теорема Леви. Фундаментальная теорема страховой математики. Некоторые неравенства для субмартингалов и мартингалов с непрерывным временем.

Глава V. Слабая сходимость мер.
         Принцип инвариантности...................................147
    Слабая сходимость мер в метрических пространствах. Сходимость случайных элементов по распределению. Критерии слабой сходимости. Сохранение слабой сходимости под действием непрерывных отображений. Слабая сходимость мер в пространстве С(Т, S). Относительная слабая компактность и плотность семейства мер. Теорема Прохорова. Принцип инвариантности Донскера-Прохорова. Многомерная центральная предельная теорема Линдеберга, лемма о максимуме сумм независимых случайных величин. Схема доказательства критерия согласия Колмогорова. Броуновский мост как условный винеровский процесс. Метод одного вероятностного пространства, теорема Скорохода. Метризация слабой сходимости. Метрика Леви-Прохорова.

Глава VI. Марковские процессы. Дискретное и непрерывное время ...................................180
    Эквивалентные определения марковского процесса. Марковость процессов с независимыми приращениями со значениями в R^. Примеры. Цепи Маркова, их построение по переходным вероятностям и начальному распределению. Пуассоновский процесс как марковская цепь. Переходная функция марковского процесса. Нахождение переходной функции d-мерного броуновского движения. Конечномерные распределения марковского процесса, их выражение через начальное распределение и переходную

Оглавление

5

    функцию. Однородные марковские процессы. Эргодическая теорема для однородных цепей Маркова. Следствия. Инвариантная мера. Инфинитезимальная матрица Q стохастической полугруппы (Р(/))у ^₀. Обратная и прямая системы дифференциальных уравнений Колмогорова. Стационарное распределение как собственный вектор матрицы Q *. Формулы Эрланга. Модель системы массового обслуживания, приводящая к этим формулам.

Глава VII. Стационарные процессы. Дискретное и непрерывное время....................................225
    Ортогональные случайные меры и их <т-конечные структурные меры. Построение ортогональной случайной меры, отвечающей данной структурной мере. Интеграл по ортогональной случайной мере, его свойства. Теорема Карунена о факторизации ковариационной функции и представлении процесса в виде интеграла по ортогональной случайной мере. Стационарные в широком смысле процессы и их ковариационные функции. Теорема Герглотца. Теорема Бохнера-Хинчина. Спектральное представление стационарных процессов с непрерывным и дискретным временем. Эргодичность в Ь²(П). Процессы скользящего среднего. Статистическое оценивание ковариационной функции и спектральной плотности. Задача линейного прогноза. Регулярные и сингулярные процессы. Разложение Вольда. Регулярные процессы как физически осуществимые фильтры. Критерий Колмогорова регулярности процесса. Теорема Колмогорова-Сегё.

Глава VIII. Интеграл Ито.
            Стохастические дифференциальные уравнения ............276
    Стохастический интеграл для простых случайных функций по винеровскому процессу. Конструкция Ито стохастического интеграла для неупреждающих случайных функций. Свойства стохастического интеграла. Формула замены переменных Ито. Уравнение Ланжевена. Процесс Орнштейна-Уленбека. Теорема существования и единственности сильного решения стохастического дифференциального уравнения. Марковость решения стохастического дифференциального уравнения.


Приложение 1. Доказательство теоремы Колмогорова ........317
Приложение 2. Доказательство теоремы Прохорова ..........323
Приложение 3. Доказательства теорем Линдеберга и Дуба ...327
Приложение 4. Доказательство теоремы Бохнера-Хинчина.....337
Приложение 5. Доказательство теоремы Колмогорова—Сегё ...340
Приложение 6. Доказательство строго марковского свойства семейства броуновских движений...........................344
Приложение 7. Вероятностное решение задачи Дирихле ......354
Приложение 8. Большие уклонения..........................364
Заключительные замечания ................................383
Список литературы........................................385
Указатель................................................393

Предисловие

  Настоящая книга возникла на основе лекций, прочитанных авторами в разные годы на механико-математическом факультете Московского государственного университета им. М. В. Ломоносова.
  Теория случайных процессов изучается в 6-м семестре на базе общих курсов теории вероятностей (4-й семестр) и математической статистики (5-й семестр). Читатели заметят, что предлагаемый текст значительно выходит за рамки семестрового курса. Цель проведенного нами расширения — дать более глубокое представление о разнообразных ветвях теории и ее применениях. Стандартная программа перекрывается основным содержанием восьми глав. Технически сложные доказательства некоторых важных результатов отнесены в “Приложения” Кроме того, каждая глава завершается разделом “Дополнения и упражнения” Этот материал может быть использован для проведения семинарских занятий и подготовки специальных курсов.
  Фундаментом всей теории случайных процессов явилась теорема Колмогорова о существовании процесса с заданной системой конечномерных распределений. В его классической монографии [34] она названа “основной теоремой” До ее появления исследование случайных процессов как семейств случайных величин велось, главным образом, с точки зрения свойств их конечномерных распределений (например, прямые и обратные уравнения для марковских систем). “Основная теорема” дала возможность потраекторного анализа случайных процессов, заложив тем самым основы того направления, которое именуется ныне стохастическим анализом.
  К особенностям книги относится, в частности, то, что теорема Колмогорова о согласованных распределениях доказывается в максимальной общности и обсуждается с различных точек зрения. Даны детальные доказательства принципа инвариантности Донскера-Прохорова, функционального закона повторного логарифма в форме Штрассена (с привлечением общей теории больших уклонений семейства мер), теоремы Скорохода о вложении случайного блуждания в винеровский процесс, различных форм строго марковского свойства броуновского движения и других глубоких результатов. К интересным применениям излагаемой теории относятся основная теорема страховой математики, устанавливаемая с помощью мартингальной техники, вывод известных в теории массового обслуживания формул Эрланга с учетом общих свойств марковских процессов, исследование уравнения Ланжевена, приводящего к процессу Орнштейна-Уленбека, основанное на теории стохастических дифференциальных уравнений, и т. д. Отметим, что рассматриваются и проблемы, связанные с результатами и методами других областей математики, например, вероятностный подход к решению классической задачи Дирихле, теория прогнозирования, использующая аппарат гильбертовых пространств, доказатель

Предисловие

7

ство формулы Колмогорова-Сегё, опирающееся на методы теории функций. Дается также начальное представление о проблематике стохастической финансовой математики.
  Теория случайных процессов — обширный бурно развивающийся раздел современной теории вероятностей, имеющий многочисленные приложения. Поэтому даже сжатый список литературы содержит почти 200 наименований. При ссылках на материал курса теории вероятностей, как правило, используется учебное пособие [85].
  Остановимся подробнее на структуре книги.
  В главе I даются определения основных понятий, используемых далее, а также устанавливается ряд вспомогательных результатов. В главе II изучается класс процессов с независимыми приращениями, важнейшим представителем которого является броуновское движение. Глава III полностью посвящена свойствам этого замечательного процесса. В IV, VI и VII главах излагается теория мартингалов, марковских процессов и стационарных процессов соответственно. Глава V содержит результаты, относящиеся к слабой сходимости вероятностных мер, в том числе мер в функциональных пространствах траекторий случайных процессов. В главе VIII рассматриваются вопросы стохастического интегрирования (главным образом, по броуновскому движению) и стохастические дифференциальные уравнения.
  Все главы разбиты на отдельные параграфы. Нумерация определений, утверждений, примеров и формул в каждой главе начинается заново, причем отдельно занумерованы определения, отдельно — теоремы и т. п. Сказанное относится и к “Приложениям” При ссылках на материал другой главы (приложения) указывается ее (его) номер, например, (II. 10) — это формула (10) главы II, а (6.2) - формула (2) приложения 6. Конец доказательства обозначается значком □. В разделах “Дополнения и упражнения” каждой из глав и приложений упражнения отмечены только номерами, а их текст сдвинут вправо по отношению к основному тексту.
  Следует отметить, что курсы вероятностно-статистического цикла на механикоматематическом факультете МГУ формировались под непосредственным влиянием А. Н. Колмогорова и Б. В. Гнеденко, долгие годы заведовавших кафедрой теории вероятностей. При работе над рукописью нам были также полезны обсуждения ее содержания с сотрудниками и аспирантами кафедры. Выражаем им свою искреннюю признательность.
  Авторы благодарны Российскому фонду фундаментальных исследований за финансовую поддержку издания книги. Грант № 02-01-14077.


Кафедра теории вероятностей механико-математического факультета Московского государственного университета им. М.В. Ломоносова


А. В. Булинский, А. Н. Ширяев

                Основные обозначения





: = “положить по определению”
N — множество натуральных чисел, N = N U {оо}, Q — множество рациональных чисел,

Z — множество целых чисел,

Z ₊ — множество целых неотрицательных чисел,
R — множество действительных чисел, R = R U {оо},
С — множество комплексных чисел,
если а, b € R, то а Л b = min{«, b}, а V b = тах{«, Ь}, = тах{«, 0}, а~ = тах{—а, 0},
    [а] — целая часть числа a, sgn а — знак числа,
А — дополнение к множеству А,
1д — индикатор множества А,
[А] — замыкание множества А (в метрическом пространстве), дА — граница множества А (в метрическом пространстве), (S, р) — метрическое пространство S с метрикой р, Вг (х) — замкнутый шар радиуса г с центром в точке х,
С(Т, S) — пространство непрерывных функций на метрическом пространстве Т со значениями в метрическом пространстве S,
C'g° (Rm) — пространство бесконечно дифференцируемых функций с компактным носителем, || • Цд- —норма в банаховом (гильбертовом) пространстве Н,
(П, S', Р) — вероятностное пространство,

Е — символ математического ожидания,

D — символ дисперсии,

cov(X, У) — ковариация случайных величин X и У,

Е (X | /.4) —условное математическое ожидание X относительно <т-алгебры iz/, X € S' | S означает, что отображение X измеримо относительно <т-алгебр S' и • />.
<т { .,-Й ) — наименьшая <т-алгебра, порожденная системой М подмножеств некоторого пространства S (с единицей S),

iJ§(S) — <7-алгебра борелевских подмножеств топологического пространства S,
    —цилиндрическая <7-алгебра в произведении измеримых пространств (S/ , -У>/ ), / € Т, Рх (РХ—¹ илиЬату(Х)) —распределение случайного элементах,
a{X-t, t € Т] — наименьшая <т-алгебра, порожденная случайными элементами Xf, t Е Т
    (в (П,^, Р)),
Qn ==> Q — слабая сходимость мер Qₙ к мере Q,
Хп X — сходимость Хп по распределению к X,
    р
Хп —> X — сходимость Хп по вероятности к X,

mes — мера Лебега,
N (а, С) — нормальное распределение со средним а и ковариационной матрицей С,
W = {IV(i), У::;- 0} —винеровский процесс (броуновское движение),
F = (S't)tcT — фильтрация,
F'Y = (^tY)teT—естественная фильтрация процесса X = {Xf,t Е Т},
P(s,x,t,B) — переходная функция марковского процесса,

PiJ W — переходные вероятности однородной марковской цепи.

                                     Нашим родителям

        Глава I




                Случайные процессы.
                Распределения случайных процессов




     Предмет теории случайных процессов, некоторые задачи. Случайные элементы и их распределения. Теорема о монотонных классах. Пополнение вероятностного пространства. Предел измеримых отображений. Построение семейства независимых случайных элементов с заданными распределениями. Процессы частных сумм, эмпирические меры, процессы восстановления, модель страхования Крамера-Лундберга, пуассоновская случайная мера. Цилиндрическая сг-алгебра®?’. Случайная функция как семейство случайных элементов и как одно измеримое отображение. Конечномерные распределения случайной функции. Теорема Колмогорова о согласованных мерах. Характеристическая функция меры на (R”, ■ '/> (R”)). Условия согласованности мер на евклидовых пространствах в терминах характеристических функций. Описание для бесконечного Т. Процессы с непрерывными траекториями. Согласованность проекций меры. Эквивалентные случайные функции. Измеримые процессы.

  § 1. Важнейшей особенностью современной теории вероятностей является то, что ее методы и результаты представляют не только самостоятельный математический интерес, но и находят разнообразные приложения в других научных дисциплинах, таких как физика, химия, биология, финансовая математика и др., а также в технике. В чем же специфика того раздела теории вероятностей, который называется “случайные процессы”?
  Вначале теория вероятностей имела дело со случайными экспериментами (подбрасывание монеты, игральной кости и т.п.), для которых подсчитывались вероятности, с которыми может произойти то или иное событие. Затем возникло понятие случайной величины, позволившее количественно описывать результаты проводимых экспериментов, например, размер выигрыша в лотерее. Наконец, в случайные эксперименты был явно введен фактор времени, что дало возможность строить стохастические модели, в основу которых легло понятие случайного процесса, описывающего динамику развития изучаемого случайного явления.
  В 1827 году ботаник Р. Броун (R. Brown) обнаружил под микроскопом хаотическое движение частиц цветочной пыльцы в воде. Природа этого движения, названного броуновским, долго оставалась невыясненной. Только в конце 19 — начале 20 века было осознано, что оно представляет собой одно из проявлений теплового движения атомов и молекул вещества. Оказалось, что для описания процессов подобного рода требуются вероятностно-статистические подходы. Математические и физические модели броуновского движения и более общих процессов диффузии были пестрое