Матожидание

Математи́ческое ожида́ние — понятие среднего значения случайной величины в теории вероятностей. В зарубежной литературе обозначается через $\mathbb{E}[X]$, в русской M[X]. В статистике часто используют обозначение μ.

Определение

Пусть задано вероятностное пространство $(\Omega,\mathcal{F},\mathbb{P})$ и определённая на нём случайная величина X. То есть, по определению, $X\colon\Omega \to \mathbb{R}$ — измеримая функция. Тогда, если существует интеграл Лебега от X по пространству Ω, то он называется математическим ожиданием, или средним значением и обозначается $\operatorname{M} X$.

$M[X]=\int\limits_{\Omega}\! X(\omega)\, \mathbb{P}(d\omega).$

Основные формулы для математического ожидания

• Если F_X(x) — функция распределения случайной величины, то её математическое ожидание задаётся интегралом Лебега — Стилтьеса:

$M[X]=\int\limits_{-\infty}^{\infty}\!x\, dF_X(x)$.

Математическое ожидание дискретного распределения

• Если X — дискретная случайная величина, имеющая распределение

$\mathbb{P}(X=x_i) = p_i,\; \sum\limits_{i=1}^{\infty} p_i = 1$,

то прямо из определения интеграла Лебега следует, что

$M[X]=\sum\limits_{i=1}^{\infty} x_i\, p_i$.

Математическое ожидание целочисленной величины

• Если X — положительная целочисленная случайная величина (частный случай дискретной), имеющая распределение вероятностей

$\mathbb{P}(X=j) = p_i,\; j=0,1,...;\quad \sum\limits_{j=0}^{\infty} p_j = 1$

то её математическое ожидание может быть выражено через производящую функцию последовательности {p_i}

$P(s)=\sum_{k=0}^\infty\;p_k s^k$

как значение первой производной в единице: M[X] = P'(1). Если математическое ожидание X бесконечно, то $\lim_{s\to 1}P'(s)=\infty$ и мы будем писать $P'(1)=M[X]=\infty$

Теперь возьмём производящую функцию Q(s) последовательности «хвостов» распределения {q_k}

$q_k=\mathbb{P}(X>j)=\sum_{j=k+1}^\infty{p_j};\quad Q(s)=\sum_{k=0}^\infty\;q_k s^k.$

Эта производящая функция связана с определённой ранее функцией P(s) свойством: $Q(s)=\frac{1-P(s)}{1-s}$ при | s | < 1. Из этого по теореме о среднем следует, что математическое ожидание равно просто значению этой функции в единице:

M[X] = P'(1) = Q(1)

Математическое ожидание абсолютно непрерывного распределения

• Математическое ожидание абсолютно непрерывной случайной величины, распределение которой задаётся плотностью f_X(x), равно

$M[X]=\int\limits_{-\infty}^{\infty}\! x f_X(x)\, dx$.

Математическое ожидание случайного вектора

Пусть $X=(X_1,\dots,X_n)^{\top}\colon\Omega \to \mathbb{R}^n$ — случайный вектор. Тогда по определению

$M[X]=(M[X_1],\dots,M[X_n])^{\top}$,

то есть математическое ожидание вектора определяется покомпонентно.

Математическое ожидание преобразования случайной величины

Пусть $g\colon\mathbb{R}\to \mathbb{R}$ — борелевская функция, такая что случайная величина Y = g(X) имеет конечное математическое ожидание. Тогда для него справедлива формула:

$M\left[g(X)\right] = \sum\limits_{i=1}^{\infty} g(x_i) p_i$,

если X имеет дискретное распределение;

$M\left[g(X)\right] = \int\limits_{-\infty}^{\infty}\!g(x) f_X(x)\, dx$,

если X имеет абсолютно непрерывное распределение.

Если распределение $\mathbb{P}^X$ случайной величины X общего вида, то

$M\left[g(X)\right] = \int\limits_{-\infty}^{\infty}\!g(x)\, \mathbb{P}^X(dx)$.

В специальном случае, когда g(X) = X^k, Математическое ожидание $M\left[g(X)\right]=M[X^k]$ называется k-тым моментом случайной величины.

Простейшие свойства математического ожидания

• Математическое ожидание линейно, то есть

M[aX + bY] = aM[X] + bM[Y],

где X,Y — случайные величины с конечным математическим ожиданием, а $a,b\in \mathbb{R}$ — произвольные константы;

• Математическое ожидание сохраняет неравенства, то есть если $0 \leqslant X \leqslant Y$ почти наверное, и Y — случайная величина с конечным математическим ожиданием, то математическое ожидание случайной величины X также конечно, и более того

$0 \leqslant M[X] \leqslant M[Y]$;

• Математическое ожидание не зависит от поведения случайной величины на событии вероятности нуль, то есть если X = Y почти наверное, то

M[X] = M[Y].

• Математическое ожидание произведения двух независимых случайных величин X,Y равно произведению их математических ожиданий

M[XY] = M[X]M[Y].

Дополнительные свойства математического ожидания

• Неравенство Маркова;
• Теорема Леви о монотонной сходимости;
• Теорема Лебега о мажорируемой сходимости;
• Лемма Фату.
• Математическое ожидание случайной величины X может быть выражено через её производящую функцию моментов G(u) как значение первой производной в нуле: M[X] = G'(0)

Примеры

• Пусть случайная величина имеет дискретное равномерное распределение, то есть $\mathbb{P}(X = x_i) = \frac{1}{n},\; i=1,\ldots, n.$ Тогда её математическое ожидание

$M[X] = \frac{1}{n} \sum\limits_{i=1}^n x_i$

равно среднему арифметическому всех принимаемых значений.

• Пусть случайная величина имеет непрерывное равномерное распределение на интервале [a,b], где a < b. Тогда её плотность имеет вид $f_X(x) = \frac{1}{b-a} \mathbf{1}_{[a,b]}(x)$ и математическое ожидание равно

$M[X] = \int\limits_{a}^b\!\frac{x}{b-a}\, dx = \frac{a+b}{2}$.

• Пусть случайная величина X имеет стандартное распределение Коши. Тогда

$\int\limits_{-\infty}^{\infty}\!xf_X(x)\, dx = \infty$,

то есть математическое ожидание X не определено.

См. также

• Дисперсия случайной величины;
• Моменты случайной величины;
• Условное математическое ожидание;
• Выборочное среднее.

Литература

• В.Феллер Глава XI. Целочисленные величины. Производящие функции // Введение в теорию вероятностей и её приложения = An introduction to probability theory and its applicatons, Volume I second edition / Под ред. Е. Б. Дынкина. — 2-е изд. — М.: Мир, 1964. — С. 270—272.