Лекции по теории вероятностей

Ю. А. РОЗАНОВ

2008

ЛЕКЦИИ 
ПО ТЕОРИИ 
ВЕРОЯТНОСТЕЙ

ФИЗТЕХОВСКИЙ УЧЕБНИК

третье издание

УДК 519.21(075.8)
ББК 22.171

Р64

Розанов Ю. А.

Р64
Лекции по теории вероятностей / Ю. А. Розанов. —

-е изд. — Долгопрудный : Издательский Дом <Интел
лект>, 2008. — 136 с.

ISBN 978-5-91559-009-9
Книга содержит основы теории вероятностей — математиче
ской науки, изучающей общие закономерности случайных явлений
и процессов. Эти закономерности играют исключительно важную
роль в современной физике и других областях естествознания,
технике, экономике и т. д. Изложение носит четкий, наглядный
характер: абстрактные идеи и методы иллюстрируются большим
числом примеров. Такой подход позволяет читателю развить своеобразную теоретико-вероятностную интуицию.

Для студентов естественно-научных факультетов и технических

университетов.

ББК 22.171

УДК 519.21(075.8)

ISBN 978-5-91559-009-9
© 2008,
© 2008, ООО Издательский Дом

<Интеллект>, оригинал-макет,
оформление

3

Ю. А. Розанов

Содержание

П р е д и с л о в и е
. . . . . . . . . . . . . . . . . . . . .
4

§ 1.
Опыт с равновероятными исходами. Вероятность и частота. Некоторые комбинаторные формулы. Формула Стирлинга
. . .
5

§ 2.
Комбинации событий. Пространство элементарных событий. Закон сложения вероятностей . . . . . . . . . . . . . . . . .
15

§ 3.
Связь различных событий. Условные вероятности. Независимые
события. Количество информации
. . . . . . . . . . . . .
23

§ 4.
Общая теоретико-вероятностная схема. Случайные величины и
распределения вероятностей. Математические ожидания
. . .
38

§ 5.
Среднеквадратичное значение и неравенство Чебышева. Дисперсия.
Коэффициент корреляции. Закон больших чисел. Вероятность
и частота
. . . . . . . . . . . . . . . . . . . . . . . . .
53

§ 6.
Испытания Бернулли. Биномиальное и пуассоновское распределения. Tеорема Муавра—Лапласа. Нормальное распределение
вероятностей
. . . . . . . . . . . . . . . . . . . . . . .
59

§ 7.
Производящие и характеристические функции. Предельные теоремы
. . . . . . . . . . . . . . . . . . . . . . . . . . .
70

§ 8.
Цепи Маркова. Возвратные и невозвратные состояния. Финальные распределения вероятностей. Стационарность
. . . . . .
82

§ 9.
Марковские процессы с конечным или счетным числом состояний.
Дифференциальные уравнения Колмогорова. Финальные распределения вероятностей
. . . . . . . . . . . . . . . . . . .
100

§ 10. Ветвящиеся процессы. Дифференциальное уравнение для производящей функции. Эффекты вырождения и взрыва
. . . .
112

§ 11. Простейшая модель игры двух лиц. Оптимальные стратегии.
Одна схема управляемой цепи Маркова. Уравнение Беллмана
121

Предисловие

Эта книга возникла из лекций, которые автор читал

в Московском физико-техническом институте, и рассчитана

на читателей, имеющих общую математическую подготовку

в объеме первых курсов втуза.

Значительная часть содержащихся в книге сведений да
ется в рамках вполне конкретных задач и примеров, роль

которых здесь несколько выше, чем это обычно бывает.

Ю. А. Розанов

§ 1

Опыт с равновероятными исходами.
Вероятность и частота.
Некоторые комбинаторные формулы.
Формула Стирлинга

1. Рассмотрим такой простой опыт, как бросание монеты.
Он имеет два взаимно исключающих исхода: выпадение <герба>
и выпадение <решетки>. Наблюдатель не может проанализировать и учесть все те многочисленные факторы, которые влияют
на результат рассматриваемого опыта, — исход бросания монеты является случайным. Какова вероятность выпадения <герба> (или <решетки>)? Несомненно, каждый ответит, что эта вероятность равна 1/2. Такой ответ интуитивно основывается на
том, что рассматриваемые исходы равноправны по отношению
к условиям опыта, т. е. эти исходы равновероятны. Но вряд ли
кто отдает себе отчет в том, что такое, собственно, есть вероятность, какой смысл вкладывается в это понятие.
Рассмотрим некоторый опыт с конечным числом взаимно исключающих друг друга исходов, которые равноправны
по отношению к условиям данного опыта, т. е. равновероятны. Обозначим A некоторое событие, связанное с
указанными исходами. Вероятность P(A) события A можно
было бы определить как долю тех исходов, в результате которых это событие осуществляется:

P(A)= N(A)

N
,
(1.0)

где N — общее число исходов рассматриваемого опыта, N(A) —
число тех из них, которые приводят к наступлению события A.
Например, при бросании монеты имеется 2 взаимно исключающих равновероятных исхода (выпадение <герба> и выпадение
<решетки>), и если A
—
любое из этих событий, то вероятность
P(A)
равна 1/2, поскольку
N(A)=1.
При бросании
игральной кости — правильного кубика с занумерованными
гранями — имеется 6 взаимно исключающих друг друга и

5

равновероятных исходов (выпадение определенного числа
очков от 1 до 6) и, скажем, вероятность P(A) события A —
<выпадает четное число очков> — равна 1/2, поскольку здесь
N(A)=3. При бросании двух игральных костей имеется 36
взаимно исключающих друг друга и равновероятных исходов (выпадение пары чисел (a, b), где a — число очков на
первой кости, b — число очков на второй кости) и, скажем,
вероятность P(A) события A — <на обеих костях выпадает
одинаковое число очков> — равна 1/6, поскольку событие
A наступает в результате любого из 6 исходов, при которых
a=b, т. е. N(A)=6.
Накопленные практикой многочисленные наблюдения
выявили одну замечательную закономерность, которая позволяет придать глубокий смысл понятию — вероятности
как в рассмотренном выше опыте с равновероятными исходами, так и в самом общем случае. Именно, предположим,
что рассматриваемый опыт, явление и т. п. могут быть воспроизведены многократно, так что в принципе осуществима
целая серия одинаковых и независимых друг от друга испытаний, в каждом из которых по воле случая происходит или
не происходит интересующее наблюдателя событие A. Пусть
n обозначает число всех опытов в отдельной серии испытаний и
n(A) — число тех из них, в которых осуществляется событие A.

Отношение
n(A)

n
называется частотой события A в данной

серии испытаний. Оказывается, в различных сериях испытаний

соответствующие частоты
n(A)

n
при больших n практически
совпадают, группируясь около некоторого постоянного значения P(A), называемого вероятностью события A:

P(A)∼ n(A)

n
.
(1.1)

Формально указанное соотношение нужно понимать следующим образом:

P(A)= lim
n→∞
n(A)

n
.

Согласно этой эмпирически установленной закономерности
вероятность P(A) события A характеризует долю тех случаев в

6

большой серии опытов, которые приводят к наступлению этого
события. Ниже приведены результаты серий опытов с бросанием монеты, которая в общей сложности бросалась 10 000 раз*).
В приводимой ниже таблице даны числа n(A) — количество
опытов в отдельной серии из n=100 испытаний, которые
привели к осуществлению события A (выпадение <герба>).

Из таблицы видно, что частоты
n(A)

n
выпадения <гер
ба> каждой из серий по n=100 испытаний поразительно
мало отличаются от вероятности P(A)=1/2, подсчитанной
по формуле (1.0).
Отметим сразу, что, несмотря на внешнюю простоту этой
формулы, применение ее при рассмотрении каждого конкретного опыта, явления и т. п. ставит перед наблюдателем
дополнительную задачу по выявлению тех равновероятных
исходов, с которыми связано то или иное событие A.

Число гербов в серии по 100 испытаний
Общее число гербов
в серии из 1000 испытаний

54
46
53
55
46
54
41
48
51
53
501

48
46
40
53
49
49
48
54
53
45
485

43
52
58
51
51
50
52
50
53
49
509

58
60
54
55
50
48
47
57
52
55
536

48
51
51
49
44
52
50
46
53
41
485

49
50
45
52
52
48
47
47
47
51
488

45
47
41
51
49
59
60
55
53
50
500

53
52
46
52
44
51
48
51
46
54
497

45
47
46
52
47
48
59
57
45
48
494

47
41
51
59
51
52
55
39
41
48
484

П р и м е р. П а р а д о к с д е М е р е**). Многократно
наблюдая игру в кости, француз де Мере подметил, что при
одновременном бросании трех игральных костей более часто выпадает комбинация, дающая в сумме 11 очков, чем
комбинация, дающая в сумме 12 очков, хотя, с его точки зрения, эти комбинации были равновероятны. Де Мере
рассуждал следующим образом: 11 очков можно получить

*) См. В. Ф е л л е р. Введение в теорию вероятностей и ее приложения
(перев. с англ.), изд. 2-е, М., 1964.
**) См.
Э.
Б о р е л ь.
Вероятность и достоверность (перев. с франц.),
М., 1964.

7

шестью различными способами (6—4—1, 6—3—2, 5—5—1,
5—4—2, 5—3—3, 4—4—3) и столькими же способами можно получить 12 очков (6—5—1, 6—4—2, 6—3—3, 5—5—2,
5—4—3, 4—4—4), а равенство числа исходов, в результате
которых наступают соответствующие события A1 и A2, означает равенство их вероятностей P(A1) и P(A2).
Ошибка де Мере была указана знаменитым Паскалем. Она
заключалась в том, что рассматриваемые де Мере исходы вовсе
не являются равновероятными. Нужно учитывать не только выпадающие очки, но и то, на каких именно костях они выпали.
Например, занумеровав кости и выписывая выпадающие очки
в соответствующей последовательности, видно, что комбинация
6—4—1 выпадает, когда наступает один из шести исходов
(6, 4, 1), (6, 1, 4), (4, 6, 1), (4, 1, 6), (1, 6, 4), (1, 4, 6), а комбинация 4—4—4 выпадает лишь при одном-единственном исходе
(4, 4, 4). Равновероятными в данном опыте являются исходы,
описываемые тройками чисел (a, b, c), где a — число очков
на первой кости, b — число очков на второй кости, c — число очков на третьей кости. Нетрудно подсчитать, что всего
имеется N=216 равновероятных исходов. Из них событию
A1 — <сумма выпавших очков равна 11> — благоприятствуют N(A1)=27 исходов, а событию A2 — <сумма выпавших
очков равна 12> — благоприятствует лишь N(A2)=25 исходов. Это и объясняет подмеченную де Мере тенденцию к
более частому выпадению 11 очков.
2. При подсчете вероятностей большую пользу оказывают
комбинаторные формулы. Приведем наиболее важные из них.
К о м б и н а ц и и
э л е м е н т о в,
в ы б и р а е м ы х
и з
р а з л и ч н ы х
г р у п п.
Пусть имеется r различных
групп, состоящих из каких-либо элементов. Первая группа
содержит n1 элементов a1, a2, . . . , an1, вторая содержит n2
элементов b1, b2, . . . , bn2, . . . , последняя r-я группа содержит nr элементов c1, c2, . . . , cnr. Составляются всевозможные
комбинации из r элементов, принадлежащих различным
группам; так что в отдельную комбинацию входит лишь по
одному элементу из каждой группы. Они имеют вид

(a, b, . . . , c).

8

Комбинации (a, b, . . . , c) и (ea, eb, . . . , ec) считаются различными, если имеется хотя бы одна пара различных между
собой элементов a и ea, b и eb, . . . , c и ec. Число всех таких

Рис. 1.

комбинаций есть

N=n1n2 . . . nr.
(1.2)

Докажем это равенство. При
r=1 оно превращается в тождество. При r=2 формула (1.2)
становится очевидной, если изобразить элементы одной группы
точками на оси x, элементы другой группы — точками на оси y.
Тогда всевозможные пары (a, b)
изображаются
точками
прямоугольной <решетки> на плоскости (x, y) и видно, что таких
пар всего N=n1n2 (рис. 1). Воспользуемся далее методом
математической индукции. Предположим, что формула (1.2)
верна, когда число групп не превосходит r−1, и установим ее справедливость для r групп. Пусть имеется r групп.
Объединим все возможные комбинации элементов, выбираемых из последних r−1 групп, в одну новую группу.
Эти комбинации вида (b, . . . , c) примем за новые элементы. По предположению формула (1.2) верна при выборе из
r−1 групп, и потому число новых элементов равно произведению n2 . . . nr. Мы свели случай r групп к случаю,
когда имеется лишь две группы, причем пара элементов a и
(b, . . . , с) — это то же самое, что соответствующая комбинация (a, b, . . . , c) исходных элементов. Но мы показали выше,
что формула (1.2) верна для двух групп. Следовательно, общее
число различных комбинаций вида (a, b, . . . , c) равно произведению n1(n2 . . . nr), что и требовалось доказать.
П р и м е р. Найдемвероятностьтого, что при бросании трех
игральных костей выпадет максимальное количество очков.
Если обозначить через a, b и c соответствующие очки
нa первой, второй и третьей костях, то результат бросания
можно описать упорядоченной тройкой чисел (a, b, c), каждое из которых выбирается из своей <группы> (принадлежит

9

определенной кости) и пробегает значения от 1 до 6. Таким
образом, в каждой из трех <групп> имеется 6 <элементов>,
и всего насчитывается N=63=216 всевозможных исходов
(a, b, c). Все они равновероятны, а максимальное количество
очков a+b+c=18 выпадает лишь при одном-единственном
исходе, когда a=b=c=6. Поэтому искомая вероятность рав
на
1

216 .

В ы б о р с в о з в р а щ е н и е м. Пусть имеется некоторая совокупность n различных предметов a1, a2, . . . , an. Из
этой совокупности последовательно выбирается r предметов
таким образом, что каждый выбранный предмет фиксируется и возвращается обратно. Результатом такого выбора
является комбинация вида

(ai1, ai2, . . . , air).

Комбинации (ai1, ai2, . . . , air) и (aj1, aj2, . . . , ajr) считаются

различными, если на каком-либо шаге были выбраны разные предметы, т. е. aik ̸=ajk, хотя бы при одном k. Можно

представить себе, что имеется r одинаковых групп по n элементов и на k-м шаге выбирается элемент из k-й группы.
Формула (1.2) в этом частном случае дает следующее
выражение для числа N различных комбинаций:

N=nr.
(1.3)

Ч и с л о р а з м е щ е н и я. В ы б о р б е з в о з в р а щ ен и я. Предположим, что r различных предметов размещаются
по некоторым ячейкам. При этом ячейки различимы для наблюдателя и число их равно n. Предположим, что предметы размещаются таким образом, что в каждую ячейку попадает не более
одного предмета. 3анумеруем все имеющиеся предметы и ячейки. Тогда каждое размещение можно описать комбинацией вида
(i1, i2, . . . , ir), где i1 — номер ячейки, в которую попадает 1-й
предмет, i2 — номер ячейки, в которую попадает 2-й предмет,
и т. д., ir — номер ячейки, в которую попадает последний,
r-й, предмет. В комбинации (i1, i2, . . . , ir) i1 — один из n
элементов (ячеек), i2 — один из n−1 оставшихся элементов

10