Теория вероятностей, математическая статистика и случайные процессы

МИНИСТЕРСТВО ОБРАЗОВАНИЯ И НАУКИ РОССИЙСКОЙ ФЕДЕРАЦИИ 

Федеральное государственное бюджетное образовательное учреждение  
высшего профессионального образования 
«НАЦИОНАЛЬНЫЙ ИССЛЕДОВАТЕЛЬСКИЙ  
ТОМСКИЙ ПОЛИТЕХНИЧЕСКИЙ УНИВЕРСИТЕТ» 

 
 
 
Ю.Я. Кацман 
 
 
 
ТЕОРИЯ ВЕРОЯТНОСТЕЙ, 
МАТЕМАТИЧЕСКАЯ СТАТИСТИКА 
И СЛУЧАЙНЫЕ ПРОЦЕССЫ  

 
 
Рекомендовано Учебно‐методическим объединением  
по образованию в области прикладной информатики 
в качестве учебника для студентов, обучающихся по направлению  
и специальности «Прикладная информатика» 
 
 
 
 
 
 
 
 
 
 
Издательство  
Томского политехнического университета  
2013 
 

УДК 519.2(075.8) 
ББК  22.17я73 
К31 
 
Кацман Ю.Я. 
К31  
Теория вероятностей, математическая статистика и случайные процессы: учебник / Ю.Я. Кацман; Томский политехнический 
университет. – Томск: Изд-во Томского политехнического университета, 2013. – 131 с. 

 
ISBN 978-5-4387-0173-6 

 
 
Учебник направлен на первоначальное изучение теории вероятностей, 
математической статистики и случайных процессов. Изложены основные понятия, свойства и методы современной теории. Обоснование теоретического 
материала сопровождается большим количеством примеров решения задач, 
представляющих практический интерес в различных областях науки и техники. 
Предназначен для студентов, обучающихся по направлению ООП 
230400 «Информационные системы и технологии», профиль подготовки 
«Геоинформационные системы, информационные системы в технологии и 
бизнесе». 
 

УДК 519.2(075.8) 
ББК  22.17я73 
 
Рецензенты 

Доктор физико-математических наук, профессор ТГУ 

Г.М. Кошкин 

Кандидат физико-математических наук, доцент ТУСУРа 

Н.Э. Лугина 

Кандидат технических наук, доцент ТПУ 

В.А. Воловоденко 
 
 
 
 
 
 
ISBN 978-5-4387-0173-6  
© ФГБОУ ВПО НИ ТПУ, 2013 
© Кацман Ю.Я., 2013 
© Оформление. Издательство Томского  
политехнического университета, 2013

ОГЛАВЛЕНИЕ 
 
ВВЕДЕНИЕ ............................................................................................................ 5 
Раздел 1. ТЕОРИЯ ВЕРОЯТНОСТЕЙ ................................................................... 7 
Глава 1. ОСНОВНЫЕ ПОНЯТИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ ..................... 7 
1.1. Элементы комбинаторики .......................................................................... 7 
1.2. Пространство элементарных событий. Случайные события ................ 11 
1.3. Статистическое определение вероятности ............................................. 14 
1.4. Классическая вероятностная схема ......................................................... 15 
1.5. Аксиоматическое построение теории вероятностей ............................. 17 
1.6. Геометрическое определение вероятности ............................................ 19 
Глава 2. ОСНОВНЫЕ ТЕОРЕМЫ ТЕОРИИ ВЕРОЯТНОСТЕЙ ................... 22 
2.1. Теорема сложения вероятностей несовместных событий .................... 22 
2.2. Теорема сложения вероятностей совместных событий ........................ 23 
2.3. Независимость событий ........................................................................... 25 
2.4. Теорема умножения вероятностей .......................................................... 26 
2.5. Формула полной вероятности .................................................................. 28 
2.6. Теорема гипотез (Формула Байеса) ......................................................... 30 
Глава 3. ПОВТОРЕНИЕ ИСПЫТАНИЙ .......................................................... 33 
3.1. Схема Бернулли ......................................................................................... 33 
3.1.1. Обобщение схемы Бернулли .............................................................. 37 
3.2. Теорема Пуассона (Закон редких событий) ........................................... 37 
3.3. Локальная теорема Муавра–Лапласа ...................................................... 38 
3.4. Интегральная теорема Муавра–Лапласа ................................................. 39 
Глава 4. СЛУЧАЙНЫЕ ВЕЛИЧИНЫ ............................................................... 41 
4.1. Классификация случайных величин.   
Закон распределения дискретной случайной величины ....................... 41 
4.1.1. Интегральная функция распределения ............................................. 43 
4.2. Непрерывная случайная величина, плотность распределения ............. 45 
4.2.1. Основные свойства плотности распределения ................................ 47 
4.3. Характеристики положения случайной величины ................................ 49 
4.4. Числовые характеристики одномерной случайной величины ............. 51 
4.4.1. Свойства математического ожидания ............................................... 52 
4.5. Моменты случайной величины ............................................................... 53 
4.5.1. Свойства дисперсии ............................................................................ 55 
4.5.2. Асимметрия и эксцесс ........................................................................ 56 
Глава 5. МНОГОМЕРНЫЕ СЛУЧАЙНЫЕ ВЕЛИЧИНЫ .............................. 59 
5.1. Многомерная случайная величина и закон ее распределения ............. 59 
5.1.1. Свойства двумерной функции распределения ................................. 60 
5.2. Плотность вероятности двумерной случайной величины .................... 62 
5.2.1. Условная плотность распределения .................................................. 65 
5.3. Числовые характеристики системы случайных величин ...................... 66 
5.3.1. Свойства коэффициента корреляции ................................................ 68 

Глава 6. ОСНОВНЫЕ ЗАКОНЫ РАСПРЕДЕЛЕНИЯ .................................... 71 
6.1. Нормальный (гауссов) закон распределения ......................................... 71 
6.1.1. Вероятность попадания на интервал ................................................. 74 
6.1.2. Свойства нормальной функции распределения ............................... 75 
6.2. Распределение 
2
  («хи-квадрат») .......................................................... 77 
6.3. Показательный (экспоненциальный) закон распределения ................. 78 
6.3.1. Числовые характеристики показательного распределения ............ 79 
6.3.2. Функция надежности .......................................................................... 80 
6.4. Распределение Парето .............................................................................. 81 
Глава 7. ЗАКОН БОЛЬШИХ ЧИСЕЛ ............................................................... 83 
7.1. Неравенство Чебышева ............................................................................ 83 
7.2. Теорема Чебышева .................................................................................... 84 
7.3. Обобщенная теорема Чебышева .............................................................. 86 
7.4. Теорема Маркова....................................................................................... 87 
7.5. Теорема Бернулли ..................................................................................... 87 
7.6. Центральная предельная теорема ............................................................ 88 
Раздел 2. МАТЕМАТИЧЕСКАЯ СТАТИСТИКА .............................................. 90 
Глава 8. ОСНОВНЫЕ ПОНЯТИЯ И ЗАДАЧИ МАТЕМАТИЧЕСКОЙ  
СТАТИСТИКИ ..................................................................................... 90 
8.1. Выборочные распределения .................................................................... 92 
8.1.1. Группирование данных, гистограмма, полигон ............................... 93 
8.2. Статистическая (эмпирическая) функция распределения .................... 96 
8.3. Выборочные значения и оценка параметров .......................................... 97 
8.3.1. Требования «хороших оценок» ......................................................... 98 
Глава 9. ИНТЕРВАЛЬНОЕ ОЦЕНИВАНИЕ.................................................. 101 
9.1. Интервальная оценка математического ожидания   
при известной дисперсии ....................................................................... 102 
9.2. Интервальная оценка математического ожидания   
при неизвестной дисперсии ................................................................... 103 
9.3. Интервальная оценка выборочной дисперсии ..................................... 105 
Глава 10. СТАТИСТИЧЕСКИЕ КРИТЕРИИ ................................................. 108 
10.1. Проверка гипотез .................................................................................. 109 
10.2. Ошибки проверки гипотез.................................................................... 111 
Раздел 3. СЛУЧАЙНЫЕ ПРОЦЕССЫ ............................................................... 114 
Глава 11. ОСНОВНЫЕ ПОНЯТИЯ И МОДЕЛИ СЛУЧАЙНЫХ 
ПРОЦЕССОВ ...................................................................................... 114 
11.1. Классификация случайных процессов ................................................ 115 
11.2. Основные характеристики случайного процесса............................... 116 
11.3. Стационарные случайные процессы ................................................... 119 
11.4. Марковские случайные процессы ....................................................... 120 
11.5. Потоки событий (Пуассоновские потоки) .......................................... 124 
11.6. Непрерывный марковский процесс. Уравнения Колмогорова ......... 126 
ЗАКЛЮЧЕНИЕ ................................................................................................. 129 
СПИСОК ЛИТЕРАТУРЫ ................................................................................. 130 
 
 

ВВЕДЕНИЕ 

Цель учебника – изучить основы теории вероятностей, ознакомиться с элементами математической статистики и основами теории случайных процессов. Одноименная дисциплина изучается в течение одного 
семестра, поэтому первостепенное внимание в учебнике уделяется основам теории вероятностей, без знания которых рассмотрение методов 
математической статистики и случайных процессов просто невозможно.  
Теория вероятностей – математическая наука, изучающая закономерности случайных явлений. Под случайными явлениями понимаются явления с неопределенным исходом, происходящие при неоднократном воспроизведении (повторении) одного и того же опыта при неизменных условиях. 
В природе и технике, в экономике и спорте нет ни одного физического явления, в котором не присутствовали бы элементы случайности. 
Разработка и изучение методов теории вероятности и вероятностных 
моделей дает возможность понять различные свойства случайных явлений на абстрактном и обобщенном уровне, не прибегая к эксперименту. 
Цель вероятностных методов состоит в том, чтобы, минуя слишком 
сложное (а зачастую и невозможное) исследование отдельного случая, 
изучить закономерности массовых случайных явлений, прогнозировать 
их характеристики, влиять на ход этих явлений, контролировать их, ограничивать область действия случайности. 
Математизация знаний, опирающаяся на мощную техническую поддержку в виде современных ЭВМ, привела к широкому применению статистических методов в работе специалистов, деятельность которых связана с компьютерной обработкой данных. Статистические методы, основываясь на законах теории вероятностей, позволяют изучить технологии 
сбора, систематизации и интерпретации числовых (случайных) данных. 
Главная цель статистики – получение осмысленных заключений из 
несогласованных (подверженных разбросу) данных.  
Действительно, исключая тривиальные ситуации, реальные данные 
всегда являются несогласованными, что требует применения статистических методов. Рассогласованность (разброс) между индивидуальными 
наблюдениями может быть, например, обусловлена ошибкой считывания позиции стрелки прибора, когда она расположена между двумя делениями шкалы стрелочного прибора, либо как следствие нестабильности работы электронного оборудования при передаче сообщений и т. п. 

Случайный процесс (случайная функция времени) – процесс 
изменения во времени состояний системы в соответствии с вероятностными закономерностями. Значение случайного процесса в произвольный момент времени определяется распределением вероятностей 
соответствующей случайной величины. 
Для современных вычислительных машин, систем и сетей характерна работа в режиме решения потока случайных по своим характеристикам задач, поступающих в общем случае в случайные моменты времени. Анализ и, самое главное, синтез систем с учетом вероятностного 
характера протекающих в них процессов возможен методами теории 
массового обслуживания. 
Изучаемая дисциплина – очень молодая наука. Первые работы, посвященные основным понятиям теории вероятности, появились в XVI–
XVII вв. и связаны с анализом азартных игр в карты и кости. Одними из 
первых авторов были Дж. Кардано (1501–1570), Г. Галилей (1564–1642), 
Б. Паскаль (1623–1662) и П. Ферма (1601–1665). Первый более или менее полный трактат по теории вероятностей «О расчетах при игре в кости 
или о расчетах при азартной игре» был написан в 1657 году Х. Гюйгенсом (1629–1695). Уже в этой работе Гюйгенс подчеркнул, что дело не в 
азартных играх, а в том, что «закладывается основа очень интересной и 
глубокой теории». 
Развитие производства, возникшие задачи страхования и демографии, усложнение физических экспериментов и астрономических наблюдений, связанных с измерениями, с методами оптимального регулирования, линейной фильтрацией и теорией передачи сигналов по каналам связи, очень быстро подтвердили предсказание Гюйгенса и резко 
расширили границы применения теории вероятностей. Эти достижения 
были связаны с именами таких великих математиков, как Я. Бернулли 
(1654–1705), А. Муавр (1667–1754), Д. Бернулли (1700–1782), Т. Байес 
(1702–1761), Л. Эйлер (1707–1783), П. Лаплас (1749–1827), С. Пуассон 
(1781–1840), К. Гаусс (1777–1855). 
Современное развитие теории вероятностей, математической статистики и случайных процессов связано с именами П.Л. Чебышева 
(1821–1894), А.А. Маркова (1856–1922), А.М. Ляпунова (1857–1918), К. Пирсона (1857–1936), Р. Фишера (1890–1962), А.Я. Хинчина (1894–1959), 
В.И. Гливенко (1897–1940), А.Н. Колмогорова (1903–1987), Стьюдента 
(В. Госсета) (1876–1937). 
 
 

Раздел 1 
ТЕОРИЯ ВЕРОЯТНОСТЕЙ 

Глава 1 
ОСНОВНЫЕ ПОНЯТИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ 

1.1. Элементы комбинаторики 

Правило произведения. Если элемент х1 строки (х1, х2, ...., хк) можно выбрать n1 способами и после каждого такого выбора х1 элемент х2 
можно выбрать n2 способами, и после выбора х1 и х2 элемент х3 можно 
выбрать n3 способами и т. д., наконец, хк независимо от выбора всех предыдущих элементов можно выбрать nk способами. Тогда количество возможностей (комбинаций) образования строки (х1, х2, ...., хк) равно: 

 
1
2
3
.
k
N
n n
n
n






 
 (1.1) 
ПРИМЕР 1. Обед в университетской столовой состоит из трех 
блюд. Первое блюдо в меню может быть выбрано 5 способами, второе 
блюдо – 4, а третье блюдо – 3. Сколько дней студент может съедать новый обед, если любая комбинация блюд возможна, и один обед от другого должен отличаться хотя бы одним блюдом? 

РЕШЕНИЕ. При решении данной задачи применим правило произведения (комбинаторика) и учтем, что строка состоит из трех элементов. 
Первое блюдо (первый элемент строки) можно выбрать пятью различными способами, второе – четырьмя различными способами независимо 
от выбора первого. Таким образом, первые два блюда можно выбрать 
5 4
  различными комбинациями. Учитывая выбор третьего блюда, 
окончательно получим: 
5 4 3
60.
N    
 
Правило суммы. Пусть множество Е1 содержит n1 элемент, множество Е2 – n2 элементов, ..., и множество Ек – nk элементов. И если эти 
множества попарно не пересекаются (нет одинаковых элементов), то 
число элементов в их объединении равно сумме чисел элементов, содержащихся в каждом из этих множеств: 

 
1
2
3
k
N
n
n
n
n






. 
 (1.2) 

Перестановки. Пусть 



( )
1
2
,
,...,
n
n
E
x x
x

 – произвольное (неупо
рядоченное) n-элементное множество. Рассмотрим различные комбина

ции его упорядочивания. Получаемые при этом упорядоченные множества отличаются друг от друга только порядком следования входящих в 
них элементов и называются перестановками из n элементов. Число 
всех таких перестановок обозначается символом Pn и находится по 
формуле: 

 
! 1 2 3
(
1)
.
(0! 1! 1)
nP
n
n
n

   






. 
(1.3) 

ПРИМЕР 2. Пятеро гостей случайным образом рассаживаются за 
столом. Сколькими способами можно их рассадить так, чтобы хотя бы 
2 гостя поменялись местами (изменился порядок)? 

РЕШЕНИЕ. При решении данной задачи, учитывая, что за столом 
всегда сидят все 5 гостей, применим правило перестановки. 

5
5! 120.
N
P



 

Размещения. Различные упорядоченные m-элементные подмножества данного неупорядоченного множества E(n) (m < n) называются размещениями из n элементов по m. Число таких размещений обозначается 

m
n
A и вычисляется по формуле: 

!
(
1).....(
1).
(
)!
m
n
n
A
n n
n
m
n
m






 
 
       (1.4) 

ПРИМЕР 3. Десять участников финала разыгрывают одну золотую, 
одну серебряную и одну бронзовую медали. Сколькими способами эти 
награды могут быть распределены между спортсменами? 

РЕШЕНИЕ. Согласно условию данной задачи  награды получат 
только три финалиста из десяти, а ценность медалей различна, т. е. порядок призеров имеет значение. Тогда для определения числа комбинаций призеров применим правило размещений: 

3
10!
10
7!
10 9 8
720
A


  
. 

Сочетания. Различные неупорядоченные m-элементные подмножества множества E(n) (m < n) называются сочетаниями из n элементов 

по m. Число всех таких сочетаний обозначается символом 
m
n
C
 и определяется по формуле: 

 

!
.
!(
)!

m
n
n
C
m n
m


 
(1.5) 

Можно доказать справедливость следующих формул: 

 
0
1
2

1
1
1

,
(
),

2 ,

,
(1
).

m
n m
n
n
n
n
n
n
n
n
m
m
m
n
n
n

C
C
m
n

C
C
C
C

C
C
C
m
n






















 
(1.6) 

ПРИМЕР 4. В полуфинальном забеге участвуют десять спортсменов. Три спортсмена, показавшие лучший результат, попадают в финал. 
Сколько существует различных троек финалистов? 

РЕШЕНИЕ. По условию задачи в финал войдут только три спортсмена из десяти, причем место в призовой тройке не имеет значения. 
Тогда для определения числа комбинаций призеров применим правило 
сочетаний: 

3
10
10!
120.
7! 3!
C



 

Примечания. 
Размещения из n элементов по m представляют собой такие m-элементные выборки из неупорядоченного множества Е(n), которые отличаются 
друг от друга либо самими элементами (хотя бы одним), либо порядком их 
расположения. 
Сочетания же из n элементов по m представляет собой m-элементные 
выборки, отличающиеся только самими элементами. 

Размещения с повторениями. Любая строка длиной m, составленная из элементов множества Е(n), причем элементы в строке могут повторяться, называется размещением с повторением из n элементов по m. 

Число всех размещений с повторениями обозначается символом 

m
n
A  и 
вычисляется по формуле: 
 
m
m
n
A
n

. 
 (1.7) 
ПРИМЕР 5. Для автомобильных номеров используются 10 цифр и 
28 букв. Каждый номер состоит из 3 букв и 4 цифр. Какое максимальное 
число машин может получить номера при такой системе нумерации? 

РЕШЕНИЕ. Сначала осуществим выбор 4 цифр. Каждый такой 
комплект цифр представляет собой четырехэлементную выборку из 
10-элементного массива цифр, т. е. является размещением с повторениями из 10 элементов по 4. Следовательно, общее число таких элементов равно 104. Исключим из выборки номер 00-00, если он недопустим. 
Аналогично выбор трех букв из 28 осуществляется 283 числом спосо

бов. Т. к. номер каждой машины есть упорядоченная «пара», состоящая 
из комплекта цифр и комплекта букв, то по правилу произведения число 
всех номеров будет равно: 
N = (104 – 1) × 283 = 219 498 048. 
Сочетания с повторениями. Рассмотрим сочетания из n элементов по m и предположим, что в комбинации возможны повторения. В 
этом случае выбор элементов комбинации осуществляется не только по 
одному разу из n элементов, но и еще до (m – 1) раза одного из этих 
элементов. В этом случае общее число элементов, из которых осуществляется комбинация, следует увеличить до (n + m – 1) элементов. Следовательно, число сочетаний из n элементов по m с повторениями определяется по формуле 

 
1.
m
m
n
n m
C
С



 
(1.8) 
ПРИМЕР 6. В цветочном киоске продается 10 наименований цветов. Покупатель желает приобрести букет из 5 цветов. Сколько существует комбинаций таких букетов? 
РЕШЕНИЕ. Очевидно, что цветы одного наименования могут повторяться в букете, и так как порядок цветов в букете не имеет значения, то здесь применима формула числа сочетаний с повторениями: 

5
5
5
10
10 5 1
14
14!
2002.
5! 9!
C
C
C
 





 

Перестановки с повторениями. Рассмотрим перестановки, содержащие одинаковые элементы. Например, в перестановках из n элементов имеются k различных элементов (k < n). При этом первый элемент встречается 
1n  раз. Это означает, что общее число перестановок 
должно быть уменьшено в 
1!
n  раз, так как взаимные перестановки одного и того же элемента равнозначны. 
Аналогично происходит и с остальными элементами, которые могут 
встречаться 
2
3
,
, ...,
k
n
n
n  раз, причем 
1
2
...
.
k
n
n
n
n




 Поэтому 
общее число перестановок с повторениями подсчитывается по формуле 

 
1
2
1
2

!
( ;
;...;
)
.
!
! ...
!
n
k
k

n
P n n
n
n
n
n




 
 (1.9) 

ПРИМЕР 7. Имеется шестизначная кодовая комбинация, состоящая 
из трех цифр 1, 3, 5, в которой цифра 1 встречается один раз, цифра 3 – 
два раза и цифра 5 – три раза. Сколько существует комбинаций таких 
наборов?