§ 4. Общая теоретико-вероятностная схема. Случайные величины и распределения вероятностей. Математические ожидания

1. Результаты и методы современной теории вероятностей основываются на нескольких простых предположениях. Будем считать, что имеется некоторое пространство Ω элементарных исходов ω.

Допустим, что для рассматриваемых событий А (каждое из которых отождествляется с некоторой совокупностью элементарных исходов ω определены вероятности Р (А):

причем невозможное событие А = ∅ имеет вероятность 0, а достоверное событие А = Ω имеет вероятность 1.

Предполагается, что если определены вероятности каких-либо событий А₁, A₂, ... (взятых в конечном или счетном числе), то определены и вероятности всевозможных событий, получающихся из A₁, A₂, ... операциями объединения, пересечения, нахождения разности и перехода к дополнительным событиям; при этом в случае непересекающихся событий А₁, А₂, ... вероятность их объединения удовлетворяет равенству

(4.0)

Следствием этого закона сложения вероятностей является свойство непрерывности: если - "монотонно возрастающая" последовательность событий, т. е. такая, что каждое последующее событие содержит предыдущее, то

(4.1)

В самом деле, событие совпадает с объединением непересекающихся событий B₁ = A₁, B₂ = A₂\B₁, ..., причем объединение только событий B₁, ..., В_n совпадает с А_n. В силу закона сложения вероятностей

Аналогично, если "монотонно убывающая" последовательность событий, т. е. такая, что каждое последующее событие содержится в предыдущем, то

В самом деле, если перейти к дополнительным событиям ₁₂ ..., то, согласно только что установленному свойству непрерывности,

`

Следует отметить, что для любых событий А₁, A₂, ... вероятность их объединения такова, что

(4.3)

В самом деле, событие совпадает с объединением непересекающихся событий B₁ = A₁, B₂ = A₂\B₁ ..., и потому

поскольку и (см. неравенство (2.1)).

Пример. (Леммы Бореля - Кантелли.) Предположим, что рассматривается некоторая последовательность событий А₁, А₂, ... Пусть В означает, что происходит бесконечное число событий из А₁, A₂, ... Какова вероятность Р (B)?

На этот вопрос легко ответить в случае, когда вероятности p_k = Р (A_k) рассматриваемых событий достаточно быстро убывают и

Положим означает, что происходит хотя бы одно событие из А_n, А_n+1, ...). Ясно, что если происходит бесконечное число событий из А₁, А₂, ..., то наступает каждое из В_n, n = 1, 2, ... С другой стороны, если осуществляется каждое из событий В_n, то наступает и событие В. Таким образом,

Очевидно, и согласно свойству непрерывности,

поскольку в силу сходимости ряда

при n→∞.

Полученный ответ можно переформулировать следующим образом: если ряд сходится, то с вероятностью может произойти лишь конечное число событий из последовательности A₁, A₂, ...

Найдем теперь вероятность Р (В) в случае, когда ряд расходится, т. е. когда

предположив дополнительно, что события A₁, A₂, ... являются взаимно независимыми.

Для дополнительных событий имеем

и для каждого отдельного события _n

В этих оценках использовано неравенство вида 1-х≤e^-x, x≥0, и произвольно взятое целое m≥0. Из расходимости ряда вытекает, что при m→∞, так что полученная при любом m оценка вероятности Р (_n) означает, что на самом деле Р (_n) = 0 для каждого n = 1, 2, ... Следовательно,

и

Полученный ответ можно сформулировать следующим образом: если ряд расходится, то с вероятностью 1 происходит бесконечное число из последовательности независимых событий A₁, А₂, ...

2. Числовая величина ξ, значения которой зависят от элементарных исходов называется случайной величиной:

Говорят, что задано распределение вероятностей случайной величины ξ, если определены вероятности всевозможных событий каждое из которых означает, что ξ принимает одно из значений в соответствующих пределах

Случайная величина ξ имеет дискретное распределение (иначе, величина ξ является дискретной), если в зависимости от элементарных исходов ω величина принимает конечное или счетное число различных значений х с соответствующими вероятностями Р_ξ (х):

Для таких величин

(4.4)

(суммирование идет по конечному или счетному числу значений х в пределах которые может принять дискретная случайная величина ξ).

Говорят, что имеет непрерывное распределение вероятностей, если для любых х' и х" (х'≤х")

(4.5)

где р_ξ(х) - некоторая неотрицательная интегрируемая функция,

называемая плотностью распределения вероятностей величины ξ.

Легко видеть, что если случайная величина ξ имеет непрерывное распределение вероятностей, то для каждого отдельного значения х

и для каждой точки х, в которой плотность распределения р_ξ(х) непрерывна,

(здесь - вероятность события означающего, что величина ξ принимает значения из бесконечно малого интервала dx с центром в точке х).

Определенная как

(4.6)

-∞<x<∞

функция F_ξ (х) называется функцией распределения случайной величины ξ. Для дискретной величины ξ функция распределения F_ξ (x) является ступенчатой, принимая конечное или счетное число различных значений:

(на рис. 4, а изображен график функции такого типа).

Рис. 4. а) Вид функции распределения вероятностей некоторой случайной величины ξ, принимающей лишь целые значения х = ..., - 3, - 2,..., 2, 3, ... Скачки функции F_ξ (х) в целых точках х = -3, -2, ..., 2, 3, ... но величине равны соответствующим вероятностям Р_ξ (х). б) Вид непрерывной функции распределения. Любая непрерывная монотонная функция F_ξ (х) такая, что и может быть функцией распределения вероятностей некоторой случайной величины ξ

Для непрерывно распределенной величины ξ функция распределения F_ξ (x) имеет своей производной плотность р_ξ(х), точнее,

(функция такого типа изображена на рис. 4, б).

Для любой случайной величины ξ

(4.7)

Совместное распределение вероятностей. Рассмотрим случайные величины ξ₁ и ξ₂ или, как еще говорят, векторную случайную величину ξ = (ξ₁, ξ₂).

Для дискретных случайных величин (ξ₁, ξ₂) определяются вероятности

где x₁, х₂ пробегают всевозможные значения соответствующих величин ξ₁, ξ₂. Вероятность всякого события типа {(ξ₁, ξ₂)∈B} - "случайная точка (ξ₁, ξ₂) попадает в заданную область В" - задается формулой

(4.8)

(суммирование идет по всем возможным значениям х₁, х₂ случайных величин ξ₁, ξ₂, таким, что соответствующая точка (x₁, х₂) входит в область В).

Плотностью совместного распределения вероятностей непрерывно распределенных случайных величин ξ₁, и ξ₂ называется такая функция p_{ξ1 ξ2} (x₁, x₂) переменных х₁ и x₂, что вероятность всякого события типа {(ξ₁, ξ₂)∈ В} задается формулой

(4.9)

(интегрирование идет по области В).

Случайные величины ξ_k, k = 1, 2,..., называются независимыми, если при любых x'_k и x"_k независимыми являются события вида {x'_k≤ξ_k≤x"_k}, k = 1, 2, ...

Предположим, что рассматриваются различные группы независимых случайных величин ξ₁, ξ₂, ..., скажем,

(каждая из величин ξ₁, ξ₂, ..., входит лишь в одну из рассматриваемых групп); тогда случайные величины η₁, η₂, ..., где η₁ является какой-либо функцией от величин первой группы, η₂ - функцией от величин второй группы и т. д., также являются независимыми.

Независимость случайных величин ξ₁, ξ₂ означает, что их совместное распределение вероятностей таково, что

для дискретных ξ₁, ξ₂, и

для непрерывно распределенных величин ξ₁, ξ₂, с соответствующими плотностями распределения p_ξ1ξ2 (x₁, x₂) и p_ξ1.(x₁), p_ξ2(x₂).

Пример.(Равномерное распределение.) Предположим, что на отрезок [а, b] наугад бросается точка ξ. Условия опыта таковы, что точка ξ с одинаковой вероятностью попадает в любой промежуток (х', х") на отрезке [а, b]. Таким образом, вероятность попадания точки ξ в промежуток (x', х") пропорциональна длине х" - х' этого промежутка, точнее,

Видно, что случайная величина Е непрерывно распределена с плотностью распределения вероятностей р (х) вида

Пример. Предположим, что на отрезок длины L бросаются наугад и независимо друг от друга две точки: ξ₁ и ξ₂. Какова вероятность того, что расстояние между ними будет не больше l?

Чтобы ответить на этот вопрос, обратимся к следующей модели. Точку ξ₁ отложим на отрезке (0, L) оси x₁, а точку ξ₂ - на отрезке (0, L) оси х₂. Искомая вероятность будет совпадать с вероятностью попадания точки ξ = (ξ₁, ξ₂), наугад бросаемой на квадрат 0≤x₁, x₂≥L, в область В, ограниченную прямыми x₂ = l + x₁ и x₂ = -1 + x₁ (см. рис. 5, где эта область оставлена незаштрихованной). Условия опыта таковы, что случайные величины ξ₁ и ξ₂ независимы между собой, и каждая из них равномерно распределена на отрезке (0, L), т. е. имеет плотность р(х) вида

при 0≤x≤L

Рис. 5

Для независимых величин ξ₁, ξ₂ плотность их совместного распределения вероятностей определяется общей формулой (4.11), согласно которой

Следовательно, вероятность попадания случайной точки ξ = (ξ₁, ξ₂) в указанную область В есть

где 2Ll - l² - площадь области В.

Пример. Предположим, что на плоскость, разлинованную параллельными прямыми, отстоящими друг от друга на расстоянии L, наугад бросается "игла" - отрезок длины l, l≤L Какова вероятность того, что брошенный отрезок пересечет одну из имеющихся линий?

Рис. 6

Обозначим ξ₁ угол наклона отрезка к направлению линий, ξ₂ - расстояние его нижнего конца до ближайшей сверху линии (рис. 6, а). Условия опыта таковы, что случайная величина ξ₁ равномерно распределена на отрезке [0, π], а случайная величина ξ₂ - на отрезке [0, L]. Будем считать, что величины ξ₁ и ξ₂ независимы между собой. Если это так, то плотность их совместного распределения вероятностей есть

Событие "отрезок пересекает одну из линий" наступает тогда и только тогда, когда

т. е. когда соответствующая точка ξ = (ξ₁, ξ₂) попадает в область В прямоугольника 0≤x₁≤π, 0≤x₂≤L, ограниченную сверху кривой x₂ = l sin x₁ (рис. 6, б). Согласно общей формуле (4.9)

где 2l - площадь указанной области В.

Отметим, что предположение о независимости величин ξ₁ и ξ₂ которое приводит к данному ответу, может быть проверено практически. Именно, при многократном бросании "иглы" на разлинованную плоскость, частота события A - "отрезок пересекает одну из линий" - должна быть приблизительно равной найденному выше выражению С другой стороны, если верно указанное предположение, то при большом числе испытаний n, исходя из равенства (где - частота события A) можно с большой точностью определить число π = 3,14 ...

Пример. Пусть ξ₁ и ξ₂ - независимые между собой величины с соответствующими плотностями распределения p_ξ1 (ξ₁) и р_ξ(ξ₂). Найдем распределение вероятностей случайной величины

Плотность совместного распределения величин ξ₁ и ξ₂ равна произведению p_ξ1 (ξ₁) * р_ξ(ξ₂), так что, согласно общей формуле (4.9),

Видно, что случайная величина η имеет плотность распределения вероятностей вида

Приведенное выражение называется сверткой или композицией функций p_ξ1 и р_ξ.

Если, например, ξ₁ и ξ₂ равномерно распределены на отрезке [0, 1], так что их общая плотность распределения есть

то

График плотности p_η (y) имеет вид треугольника (рис. 7).

Рис. 7

3. Рассмотрим дискретную случайную величину ξ. Говорят, что ξ имеет математическое ожидание, если

математическим ожиданием (или средним значением) называется выражение

(суммирование идет по конечному или счетному числу значений х, -∞<x<∞, которые может принимать дискретная величина ξ).

Если задано распределение вероятностей случайной величины ξ, то математическое ожидание случайной величины вида η = φ(ξ) (φ = φ(x) - некоторая функция от х) может быть подсчитано по следующей формуле:

В самом деле, дискретная величина η = φ(ξ) может принимать лишь значения y = φ(ξ), где х пробегает возможные значения дискретной величины ξ, причем

и легко видеть, что

Аналогично, если задано совместное распределение вероятностей случайных величин ξ₁ и ξ₂, то математическое ожидание M_φ(ξ₁, ξ₂) случайной величины φ(ξ₁, ξ₂) являющейся функцией от величин ξ₁ и ξ₂, задается формулой

Как видно из самого определения, математическое ожидание обладает следующими свойствами:

для любой постоянной c

для любых величин ξ₁ и ξ₂, имеющих математические ожидания Mξ₁ и Мξ₂,

(4.15)

если ξ≥ 0, то Мξ≥ 0; если ξ₁≤ξ₂, то

если случайные величины ξ₁ и ξ₂ независимы, то

Указанные соотношения (4.15) - (4.17) вытекают из формулы (4.14). Скажем, для независимых ξ₁ и ξ₂, положив φ(ξ₁, ξ₂) = ξ₁ξ₂, имеем:

Математическое ожидание определяется и для непрерывно распределенных случайных величин. Именно, всякая случайная величина может быть сколь угодно точно аппроксимирована дискретными величинами. Например, если разбить действительную прямую -∞<x<∞ точками x_kn, -∞<k<∞ так, чтобы

и определить дискретные случайные величины Бξ_n как

при

то, очевидно,

где ε>0 можно выбрать сколь угодно малым. Если взять последовательность величин ξ_n такого типа (n = 1, 2, ...), для которых

то

и, согласно неравенству (4.16),

при m, n→∞. Следовательно, существует предел

Для непрерывно распределенной случайной величины ξ такой предел и называется математическим ожиданием (или средним значением):

Если задана плотность распределения вероятностей р_ξ (х), то, выбирая в качестве х_kn точки непрерывности функции р_ξ (х), получим

Легко видеть, что

(4.18)

(ср. с формулой (4.13) при φ(x) ≡ x).

Можно доказать^*, что так определяемое математическое ожидание обладает всеми установленными ранее свойствами. Аналогично (4.13) и (4.14), математическое ожидание случайной величины вида η = φ(ξ) или η = φ(ξ₁, ξ₂) может быть подсчитано по следующим формулам:

(4.19)

или

(4.20)

где p_{ξ1, ξ2} (x₁, х₂) - плотность совместного распределения вероятностей соответствующих случайных величин ξ₁, ξ₂.

^* (См., например, Б. В. Гнеденко, Курс теории вероятностей, изд. 4-е, М., 1965.)

Пример. Пусть ξ - случайная величина, равномерно распределенная на отрезке [а, b], т. е. имеющая плотность распределения вида

Тогда ее математическое ожидание есть

Рассмотрим комплексную случайную величину η = η₁ + iη₂ (η₁ и η₂ - действительные и мнимые части величины η). Математическое ожидание Mη определяется как

Пусть ξ (или ξ₁, ξ₂) - действительные случайные величины и η = φ(ξ) (или η = φ(ξ₁, ξ₂)) является комплекснозначноп функцией от ξ (или ξ₁, ξ₂). Легко видеть, что, так же как и для действительных величин, имеют место формулы (4.13), (4.19) (или (4.14), (4.20)). Для комплексных величин остаются в силе и другие свойства математических ожиданий. В частности, если случайные величины ξ₁ и ξ₂независимы, то имеет место формула, обобщающая (4.17):

где φ₁(ξ₁) и φ₂(ξ₂) - некоторые комплекснозначные функции от ξ₁ и ξ₂.