Как найти мат ожидание вектора

Материал из MachineLearning.

Перейти к: навигация, поиск

Математическое ожидание — мера среднего значения случайной величины в теории вероятностей. В зарубежной литературе обозначается через (например, от англ. Expected value или нем. Erwartungswert), в русской (возможно, от англ. Mean value).

Определение

Пусть задано вероятностное пространство и определённая на нём случайная величина . Тогда, если существует интеграл Лебега от по пространству , то он называется математическим ожиданием, или средним значением, и обозначается или .

Основные формулы для математического ожидания

• Если  — функция распределения случайной величины, то её математическое ожидание задаётся интегралом Лебега — Стилтьеса:

.

Математическое ожидание дискретного распределения

• Если  — дискретная случайная величина, имеющая распределение

,

то прямо из определения интеграла Лебега следует, что

.

Математическое ожидание целочисленной величины

• Если  — положительная целочисленная случайная величина (частный случай дискретной), имеющая распределение вероятностей

то её математическое ожидание может быть выражено через производящую функцию последовательности

как значение первой производной в единице: . Если математическое ожидание бесконечно, то и мы будем писать

Теперь возьмём производящую функцию последовательности «хвостов» распределения

Эта производящая функция связана с определённой ранее функцией свойством: при .
Из этого по теореме о среднем (формуле конечных приращений) следует, что математическое ожидание равно просто значению этой функции в единице:

Математическое ожидание абсолютно непрерывного распределения

• Математическое ожидание абсолютно непрерывной случайной величины, распределение которой задаётся плотностью , равно

.

Математическое ожидание случайного вектора

Пусть  — случайный вектор. Тогда по определению

,

то есть математическое ожидание вектора определяется покомпонентно.

Математическое ожидание преобразования случайной величины

Пусть  — борелевская функция, такая что случайная величина имеет конечное математическое ожидание. Тогда для него справедлива формула:

,

если имеет дискретное распределение;

,

если имеет абсолютно непрерывное распределение.

Если распределение случайной величины общего вида, то

.

В специальном случае, когда , Математическое ожидание называется -тым моментом случайной величины.

Простейшие свойства математического ожидания

• Математическое ожидание числа есть само число.

 — константа;

• Математическое ожидание линейно, то есть

,

где  — случайные величины с конечным математическим ожиданием, а  — произвольные константы;

;

• Математическое ожидание не зависит от поведения случайной величины на событии вероятности нуль, то есть если почти наверное, то

.

• Математическое ожидание произведения двух независимых случайных величин равно произведению их математических ожиданий

.

Дополнительные свойства математического ожидания

• Неравенство Маркова.

Пусть случайная величина определена на вероятностном пространстве , и её математическое ожидание конечно. Тогда

,

где .

• Теорема Леви о монотонной сходимости.

Пусть  — монотонная последовательность неотрицательных почти наверное интегрируемых случайных величин. Тогда

.

• Теорема Лебега о мажорируемой сходимости.

Пусть есть сходящаяся почти наверное последовательность случайных величин: почти наверное. Пусть в дополнение существует интегрируемая случайная величина , такая что почти наверное. Тогда случайные величины интегрируемы и

.

• Тождество Вальда.

Пусть — независимые одинаково распределенные случайные величины. — также является случайной величиной имеющей дискретное распределение и принимающая положительные целые значения. Далее, и должны иметь конечное математическое ожидание и должно быть независимым от . Тогда

.

• Лемма Фату.

Пусть есть неотрицательная последовательность интегрируемых случайных величин . Тогда выполняется следующее неравенство для нижних пределов:

.

Примеры

• Пусть случайная величина имеет дискретное равномерное распределение, то есть Тогда её математическое ожидание

равно среднему арифметическому всех принимаемых значений.

.

• Пусть случайная величина имеет стандартное распределение Коши. Тогда

,

то есть математическое ожидание не определено.

Литература

• В.Феллер Глава XI. Целочисленные величины. Производящие функции // Введение в теорию вероятностей и её приложения = An introduction to probability theory and its applicatons, Volume I second edition. — 2-е изд. — М.: Мир, 1964. — С. 270—272.

3.3. Математические ожидания и ковариации векторов и матриц

При работе с линейными моделями удобно представлять данные в виде векторов или матриц. Элементы некоторых векторов или матриц статистических линейных моделей являются случайными переменными. Определение случайной переменной было дано. Значение этой переменной зависит от случайного результата опыта.

В этой книге рассматривается такой тип векторов случайных переменных отклика, элементы которого могут быть коррелированы, а влияющие на них переменные являются контролируемыми и неслучайными. В конкретной линейной модели, влияющие на отклик переменные, имеют выбранные или полученные в результате расчёта детерминированные значения. Таким образом, в рассматриваемых линейных моделях имеются два вектора случайных переменных:

у= и e=.

Значения i-й переменной у_i (i=1, 2, …, n) отклика наблюдаются в результате проведения i-го опыта эксперимента, а значения переменной e_i случайной ошибки не наблюдаются, но могут оцениваться по наблюдаемым значениям переменной отклика и значениям влияющих на неё переменных.

При рассмотрении линейных моделей широко используются векторы и матрицы случайных переменных, поэтому в первую очередь для них необходимо обобщить идеи математического ожидания, ковариации и дисперсии.

Математические ожидания

Математическое ожидание вектора у размеров пх1 случайных переменных y₁, y₂, …, у_п определяется как вектор их ожидаемых значений:

Е(у)=Е===y,                                        (3.3.1)

Рекомендуемые материалы

где E(у_i)=y_i получается в виде E(у_i)=, используя функцию f_i(у_i) плотности вероятности безусловного распределения переменной у_i.

Если х и у – векторы случайных переменных размеров пх1, то, в силу (3.3.1) и (3.2.7), математическое ожидание их суммы равно сумме их математических ожиданий:

Е(х+у)=Е(х)+Е(у).                                                    (3.3.2)

Пусть у_ij (i=1, 2, …, m; j=1, 2, …, п) набор случайных переменных с ожидаемыми значениями E(у_ij). Выражая случайные переменные и их математические ожидания в матричной форме, можно определить общий оператор математического ожидания матрицы Y=(y_ij) размеров mхп следующим образом:

Определение 3.3.1. Математическое ожидание матрицы Y случайных переменных равно матрице математических ожиданий её элементов

E(Y)=[E(y_ij)].

По аналогии с выражением (3.3.1), ожидаемые значения матрицы Y случайных переменных представляются в виде матрицы ожидаемых значений:

E(Y)==.     (3.3.3)

Вектор можно рассматривать как матрицу, следовательно, определение 3.3.1 и следующая теорема справедливы и для векторов.

Теорема 3.3.1. Если матрицы А=(а_ij) размеров lхm, B=(b_ij) размеров nхp, С=(c_ij) размеров lхp – все имеют элементами постоянные числовые значения, а Y – матрица размеров mхn случайных переменных, то

E(AYB+C)=AE(Y)B+C.                                         (3.3.4)

Доказательство дано в книгах [Себер (1980) стр.19; Seber, Lee (2003) стр.5]

□

Там же доказывается, что, если матрицы A и В размеров mхn, элементами которых являются постоянные числовые значения, а х и у – векторы случайных переменных размеров пх1, то

E(Aх+Bу)=AE(х)+BE(у).

Если f(Y) – линейная функция матрицы Y, то её ожидаемое значение находится по формуле Е[f(Y)]=f[Е(Y)] [Boik (2011) cтр.134]. Например, если матрицы А размеров рхm, B размеров пхр и С размеров рхр – все имеют элементами постоянные числовые значения, а матрица Y размеров тхп случайных переменных, то

E[след(AYB+C)]=след[E(AYB+C)], так как след матрицы – линейный оператор

=след[AE(Y)B+C], так как AYB+C – линейная функция матрицы Y

=след[AE(Y)B]+след(C).                                                                 (3.3.5)

Ковариации и дисперсии

Аналогичным образом можно обобщить понятия ковариации и дисперсии для векторов. Если векторы случайных переменных х размеров mх1 и у размеров nх1, то ковариация этих векторов определяется следующим образом.

Определение 3.3.2. Ковариацией векторов х и у случайных переменных является прямоугольная матрица ковариаций их элементов

C(х, у)=[C(х_i, у_j)].

Теорема 3.3.2. Если случайные векторы х и у имеют векторы математических ожиданий E(x)=x и Е(у)=y, то их ковариация

C(х, у)=E[(x–x)(y–y)^T].

Доказательство:

C(х, у)=[C(х_i, у_j)]

={E[(х_i–x_i)(y_j–y_j)]}               [в силу (3.2.9)]

=E[(x–x)(y–y)^T].      [по определению 3.3.1]

□

Применим эту теорему для нахождения матрицы ковариаций векторов х размеров 3х1 и у размеров 2х1

C(х, у)=E[(x–x)(y–y)^T]

=E

=Е

=.

Определение 3.3.3. Если х=у, то матрица ковариаций C(у, у) записывается в виде D(у)=E[(y–y)(y–y)^T] и называется матрицей дисперсий и ковариаций вектора у. Таким образом,

D(у)=E[(y–y)(y–y)^T]=[C(у_i, у_j)]

=.                (3.3.4)

А так как C(у_i, у_j)=C(у_j, у_i), то матрица (3.3.4) симметричная и квадратная.

Матрица дисперсий и ковариаций вектора у представляется в виде ожидаемого значения произведения (y–y)(y–y)^T. В силу (П.2.13), произведение (y_i–y_i)(y_j–y_j) является (ij)-м элементом матрицы (y–y)(y–y)^T. Таким образом, в силу (3.2.9) и (3.3.4), математическое ожидание E[(y_i–y_i)(y_j–y_j)]=s_ij является (ij)-м элементом Е[(y–y)(y–y)^T]. Отсюда

E[(y–y)(y–y)^T]=.                  (3.3.5)

Дисперсии s₁₁, s₂₂, …, s_пп переменных y₁, y₂, …, у_п и их ковариации s_ij, для всех i≠j, могут быть удобно представлены матрицей дисперсий и ковариаций, которая иногда называется ковариационной матрицей и обозначается прописной буквой S строчной s:

S=D(у)=                                (3.3.6)

В матрице S i-я строка содержит дисперсию переменной у_i и её ковариации с каждой из остальных переменных вектора у. Чтобы быть последовательными с обозначением s_ij, используем для дисперсий s_ii=s_i², где i =1, 2, …, n. При этом дисперсии расположены по диагонали матрицы S и ковариации занимают позиции за пределами диагонали. Отметим различие в значении между обозначениями D(у)=S для вектора и С(у_i, у_j)=s_ij для двух переменных.

Матрица S дисперсий и ковариаций симметричная, так как s_ij=s_ji [см. (3.2.9)]. Во многих приложениях полагается, что матрица S положительно определённая. Это обычно верно, если рассматриваются непрерывные случайные переменные, и между ними нет линейных зависимостей. Если между переменными есть линейные зависимости, то матрица S будет неотрицательно определённой.

Для примера найдём матрицу дисперсий и ковариаций вектора у размеров 3х1

D(у)=E[(y–y)(y–y)^T]

=E

=E

=.

=.

Как следует из определения 3.3.3,

D(у)=E[(у–y)(y–y)^T],                                              (3.3.7)

что после подобного сделанному в (3.2.4) преобразованию приводится к выражению

D(y)=E(yy^T)–yy^T.                                                    (3.3.8)

Последние два выражения являются естественным обобщением одномерных результатов данных выражениями (3.2.2) и (3.2.4).

Пример 3.3.1. Если а – какой-либо вектор числовых значений тех же размеров пх1, что и вектор у, то

D(y–а)=D(y).

Это следует из того, что y_i–a_i–E(y_i–a_i)=y_i–a_i–E(y_i)+a_i=y_i–E(y_i), так что

C(y_i–a_i, y_j–a_j)=C(y_i, y_j).

□

Напомним, что симметричная матрица А является положительно определенной, если для всех векторов у≠0 квадратичная форма у^ТАу>0. В дальнейшем будет использоваться часто следующая теорема.

Теорема 3.3.3. Если у – вектор случайных переменных, в котором ни одна из переменных не является линейной комбинации остальных, то есть, нет вектора а≠0 и числа b таких, что а^Ту=b для любого у, то D(у)=S – положительно определенная матрица.

Доказательство этой теоремы дано в [Себер (1980) стр.22].

□

Обобщенная дисперсия и нормированный вектор

Матрица S содержит дисперсии и ковариации всех п случайных переменных вектора у и всесторонне представляет полную их вариацию. Обобщённой мерой, характеризующей вариацию случайных переменных вектора у, может служить определитель матрицы S:

Обобщенная дисперсия =det(S).                                       (3.3.9)

В качестве статистики обобщённой дисперсии используется обобщённая выборочная дисперсия, определяемая детерминантом матрицы S=Y^T(I–Е/n)Y/(n–1) вариаций и ковариаций выборочных значений переменных вектора у, представленных матрицей Y=[y₁, y₂, …, y_k], где её столбцы составлены из векторов значений переменных вектора у [Rencher, Christensen (2012) стр.81]:

Обобщенная выборочная дисперсия =det(S).                  (3.3.10)

Если det(S) малый, то значения переменных вектора у располагаются ближе к их усреднённым значениям вектора , чем, если бы det(S) был большим. Малое значение det(S) может указывать также на то, что переменные y₁, y₂,…, у_п вектора у сильно взаимно коррелированы и стремятся занимать подпространство меньшее, чем п измерений, что соответствует одному или большему числу малых собственных значений [Rencher (1998) раздел 2.1.3; Rencher, Christensen (2012) стр.81].

Для получения полезной меры разности между векторами у и y необходимо учитывать дисперсии и ковариации переменных вектора у. Как для одной нормированной случайной переменной, получаемой по формуле z=(у–y)/s и имеющей среднее равное 0 и дисперсию равную 1, нормированная разность между векторами у и y определяется в виде

Нормированная разность =(у–y)^ТS^–1(у–y).                     (3.3.11)

Использование матрицы S^–1 в этом выражении нормирует (трансформирует) переменные вектора у так, что нормированные переменные имеют средние равные 0 и дисперсии равные 1, а также становятся и некоррелированными. Это получается потому, что матрица S положительно определённая. По теореме П.6.5 её обратная матрица тоже положительно определённая. В силу (П.12.18), матрица S^–1=S^–1/2S^–1/2. Отсюда

(у–y)^ТS^–1(у–y)=(у–y)^ТS^–1/2S^–1/2(у–y)

=[S^–1/2(у–y)]^Т[S^–1/2(у–y)]

=z^Тz,

Вам также может быть полезна лекция “Построение формы в ранне многоголосии”.

где z=S^–1/2(у–y) – вектор нормированных случайных переменных. Математическое ожидание вектора z получается

Е(z)=Е[S^–1/2(у–y)]=S^–1/2[Е(у)–y]=0

и его дисперсия

D(z)=D[S^–1/2(у–y)]=S^–1/2D(у–y)S^–1/2=S^–1/2SS^–1/2=S^–1/2S^1/2S^1/2S^–1/2=I.

Следовательно, по пункту 2 теоремы 4.5.2 следующей главы вектор S^–1/2(у–y) имеет нормальное распределение N(0, I).

Для нормированной разности, как параметра, есть соответствующая статистика, а именно, выборочная нормированная дистанция, определяемая формулой (у–)^ТS^–1(у–) и называемая часто дистанцией Махаланобиса [Mahalanobis (1936); Seber (2008) cтр.463]. Некоторый п-мерный гиперэллипсоид (у–)^ТS^–1(у–)=а², центрированный вектором  и базирующийся на S^–1 для нормирования расстояния до центра, содержит выборочные значения переменных вектора у. Гиперэллипсоид (у–)^ТS^–1(у–) имеет оси пропорциональные квадратным корням собственных значений матрицы S. Можно показать, что объём гиперэллипсоида пропорционален [det(S)]^1/2. Если минимальное собственное значение матрицы S равно нулю, то в этом направлении нет оси и гиперэллипсоид расположен в (п–1)-мерном подпространстве п-мерного пространства. Следовательно, его объём в п-мерном пространстве равен 0. Нулевое собственное значение указывает на избыточность переменных вектора у. Для устранения этого необходимо убрать одну или более переменных, являющихся линейными комбинациями остальных.

Как найти математическое ожидание случайного вектора

В этом разделе рассмотрены числовые характеристики только двумерных случайных величин, поскольку обобщение на случай не вызывает затруднений.

Пусть ( x , h ) – двумерная случайная величина, тогда M( x , h )=(M( x ), M( h )), т.е. математическое ожидание случайного вектора – это вектор из математических ожиданий компонент вектора.

Если ( x , h ) – дискретный случайный вектор с распределением

y1	y2	.	ym
x1	p11	p12	.	p1m
x2	p12	p12	.	p2m
.	.	.	pij	.
xn	pn1	pn2	.	pnm

то математические ожидания компонент вычисляются по формулам:

, .

Эти формулы можно записать в сокращенном виде.

Обозначим и , тогда и .

Если p_{( x , h )}(x, y)- совместная плотность распределения непрерывной двумерной случайной величины ( x , h ), то

и .

Поскольку -плотность распределения случайной величины x , то и, аналогично, .

Понятие дисперсии обобщается на многомерные случайные величины нетривиальным образом. Это обобщение будет сделано в следующем разделе. Здесь лишь приведем формулы для вычисления дисперсии компонент двумерного случайного вектора.

Если ( x , h ) – двумерная случайная величина, то

D x = M( x – M x ) 2 = M x 2 – M( x ) 2 , D h = M( h – M h ) 2 = M h 2 – M( h ) 2 .

Входящие в эту формулу математические ожидания вычисляются по приведенным выше формулам.

Между случайными величинами может существовать функциональная зависимость. Например, если x – случайная величина и h = x 2 , то h – тоже случайная величина, связанная с x функциональной зависимостью. В то же время между случайными величинами может существовать зависимость другого рода, называемая стохастической. В разделе, посвященном условным распределениям уже обсуждалась такая зависимость. Из рассмотренных там примеров видно, что информация о значении одной случайной величины (одной компоненты случайного вектора) изменяет распределение другой случайной величины (другой компоненты случайного вектора), а это может, вообще говоря, изменить и числовые характеристики случайных величин.

Математическое ожидание, вычисленное по условному распределению, называется условным математическим ожиданием.

Для двумерного дискретного случайного вектора ( x , h ) с распределением

y1	y2	.	ym
x1	p11	p12	.	p1m
x2	p12	p12	.	p2m
.	.	.	pij	.
xn	pn1	pn2	.	pnm

условное математическое ожидание случайной величины x при условии, что случайная величина h принимает значение y_j, вычисляется по формуле .

Аналогично, условное математическое ожидание случайной величины h при условии, что случайная величина x принимает значение x_i, равно .

Видно, что условное математическое ожидание случайной величины x является функцией значений случайной величины h , т.е. M( x / h = y) = f₁(y) и, совершенно аналогично, M( h / x = x) = f₂(x).

Функцию f₁(y) называют регрессией случайной величины x на случайную величину h , а f₂(x) – регрессией случайной величины h на случайную величину x .

Если p_{( x , h )}(x, y) совместная плотность вероятностей двумерной случайной величины ( x , h ), то

и .

Если между случайными величинами x и h существует стохастическая связь, то одним из параметров, характеризующих меру этой связи является ковариация cov( x , h ). Ковариацию вычисляют по формулам cov( x , h )=M[( x – M x )( h – M h )] = M( x h ) – M x M h .

Если случайные величины x и h независимы, то cov( x , h )=0.

Обратное, вообще говоря, неверно. Из равенства нулю ковариации не следует независимость случайных величин. Случайные величины могут быть зависимыми в то время как их ковариация нулевая! Но зато, если ковариация случайных величин отлична от нуля, то между ними существует стохастическая связь, мерой которой и является величина ковариации.

cov( x , x ) = D x ;

;

;

,

Ковариационной матрицей случайного вектора ( x , h ) называется матрица вида

.

Эта матрица симметрична и положительно определена. Ее определитель называется обобщенной дисперсией и может служить мерой рассеяния системы случайных величин ( x , h ).

Как уже отмечалось ранее, дисперсия суммы независимых случайных величин равна сумме их дисперсий: . Если же случайные величины зависимы, то .

Понятно, что значение ковариации зависит не только от “тесноты” связи случайных величин, но и от самих значений этих величин, например, от единиц измерения этих значений. Для исключения этой зависимости вместо ковариации используется безразмерный коэффициент корреляции .

Этот коэффициент обладает следующими свойствами:

его модуль не превосходит единицы, т.е. ;

если x и h независимы, то k_{( x , h )}=0 (обратное неверно!);

если , то случайные величины x и h связаны функциональной зависимостью вида

где a и b- некоторые числовые коэффициенты;

;

Корреляционной матрицей случайного вектора называется матрица

.

Если и , то ковариационная и корреляционная матрицы случайного вектора ( x , h ) связаны соотношением , где .

Исправляем ошибки: Нашли опечатку? Выделите ее мышкой и нажмите Ctrl+Enter

Как найти математическое ожидание?

Математическое ожидание случайной величины $X$ (обозначается $M(X)$ или реже $E(X)$) характеризует среднее значение случайной величины (дискретной или непрерывной). Мат. ожидание – это первый начальный момент заданной СВ.

Математическое ожидание относят к так называемым характеристикам положения распределения (к которым также принадлежат мода и медиана). Эта характеристика описывает некое усредненное положение случайной величины на числовой оси. Скажем, если матожидание случайной величины – срока службы лампы, равно 100 часов, то считается, что значения срока службы сосредоточены (с обеих сторон) от этого значения (с тем или иным разбросом, о котором уже говорит дисперсия).

Формула среднего случайной величины

Математическое ожидание дискретной случайной величины Х вычисляется как сумма произведений значений $x_i$ , которые принимает СВ Х, на соответствующие вероятности $p_i$: $$ M(X)=sum_^. $$ Для непрерывной случайной величины (заданной плотностью вероятностей $f(x)$), формула вычисления математического ожидания Х выглядит следующим образом: $$ M(X)=int_<-infty>^ <+infty>f(x) cdot x dx. $$

Пример нахождения математического ожидания

Рассмотрим простые примеры, показывающие как найти M(X) по формулам, введеным выше.

Пример 1. Вычислить математическое ожидание дискретной случайной величины Х, заданной рядом: $$ x_i quad -1 quad 2 quad 5 quad 10 quad 20 \ p_i quad 0.1 quad 0.2 quad 0.3 quad 0.3 quad 0.1 $$

Используем формулу для м.о. дискретной случайной величины: $$ M(X)=sum_^. $$ Получаем: $$ M(X)=sum_^ =-1cdot 0.1 + 2 cdot 0.2 +5cdot 0.3 +10cdot 0.3+20cdot 0.1=6.8. $$ Вот в этом примере 2 описано также нахождение дисперсии Х.

Пример 2. Найти математическое ожидание для величины Х, распределенной непрерывно с плотностью $f(x)=12(x^2-x^3)$ при $x in(0,1)$ и $f(x)=0$ в остальных точках.

Используем для нахождения мат. ожидания формулу: $$ M(X)=int_<-infty>^ <+infty>f(x) cdot x dx. $$ Подставляем из условия плотность вероятности и вычисляем значение интеграла: $$ M(X)=int_<-infty>^ <+infty>f(x) cdot x dx = int_<0>^ <1>12(x^2-x^3) cdot x dx = int_<0>^ <1>12(x^3-x^4) dx = \ =left.(3x^4-frac<12><5>x^5) right|_0^1=3-frac<12> <5>= frac<3><5>=0.6. $$

Вычисление математического ожидания онлайн

Как найти математическое ожидание онлайн для произвольной дискретной случайной величины? Используйте калькулятор ниже.

• Введите число значений случайной величины К.
• Появится форма ввода для значений $x_i$ и соответствующих вероятностей $p_i$ (десятичные дроби вводятся с разделителем точкой, например: -10.3 или 0.5). Введите нужные значения (проверьте, что сумма вероятностей равна 1, то есть закон распределения корректный).
• Нажмите на кнопку “Вычислить”.
• Калькулятор покажет вычисленное математическое ожидание $M(X)$.

Видео. Полезные ссылки

Видеоролики: что такое среднее (математическое ожидание)

Если вам нужно более подробное объяснение того, что такое мат.ожидание, как она вычисляется и какими свойствами обладает, рекомендую два видео (для дискретной и непрерывной случайной величины соответственно).

Полезные ссылки

Что еще может пригодиться? Например, для изучения основ теории вероятностей – онлайн учебник по терверу. Для закрепления материала – еще примеры решений по теории вероятностей.

А если у вас есть задачи, которые надо срочно сделать, а времени нет? Можете поискать готовые решения в решебнике или заказать в МатБюро:

Математическое ожидание

Данный калькулятор предназначен для вычисления математического ожидания дискретной случайной величины онлайн.
Оценка математического ожидания и дисперсии случайной величины имеет большое значение в теории вероятности.
Математическое ожидание – среднее значение случайной величины. Чтобы найти математическое ожидание случайной величины, следует вычислить сумму парных произведений всех возможных значений случайной величины на соответствующие им вероятности.

Свойства математического ожидания заключаются в следующем. Во-первых, математическое ожидание суммы независимых случайных величин равно сумме их математических ожиданий. Во-вторых, математическое ожидание произведения независимых случайных величин равно произведению их математических ожиданий.

Как найти среднее значение , формула (на примере следующих величин):
x_i= 1 ; 2 ; 5 ; 6 (случайные величины)
p_i = 0.1 ; 0.3 ; 0.1 ; 0.5 (вероятность)

[spoiler title=”источники:”]

http://www.matburo.ru/tvart_sub.php?p=art_mo

http://allcalc.ru/node/685

[/spoiler]

1.
Математическое
ожидание.

Пусть
задан случайный вектор
.
Математическим ожиданием случайного
вектора называется.

Для
непрерывных случайных величин

(8)

.
( 9)

Для
дискретных случайных величин

,
(10)

(11)

в
которых суммирование проводится по
всем возможным значениям индексов
и.

Если
множество возможных значений случайного
вектора конечно, то математические
ожидания случайных величин
ив формулах представляют собой конечные
суммы. В случае счетного множества
возможных значений случайного вектора
математические ожидания в этих формулах
равны суммам числовых рядов, если эти
ряды абсолютно сходятся. В противном
случае математическое ожидание случайного
вектора не определено.

2.
Условные
математические ожидания. Линии регрессии.

Рассмотрим
совокупность тех точек на плоскости,
для которых случайная величина
принимает постоянное значение.
Математическое ожидание для такой
совокупности точек называется условным
математическим ожиданием

линия
регрессии
по.
(12)

Аналогично
для совокупности тех точек на плоскости,
для которых случайная величина
принимает постоянное значение

–линия
регрессии
по.
(13)

3.
Характеристики
рассеяния.

Дисперсия
случайной величины

(14)

Эту
формулу можно представить в следующем
виде

(15)

Аналогично

(16)

(17)

Среднеквадратичное
отклонение для случайных величин
иравно.

,

.

4.
Характеристики
связи случайных величин

Корреляционным
моментом или ковариацией двух случайных
величин называется математическое
ожидание произведения отклонений этих
величин от их математического ожидания

.
(18)

В
дальнейшем будем использовать обозначение
.

Для
непрерывных случайных величин

(19)

Для
дискретных случайных величин

(20)

где
– вероятность того, что случайный
векторпримет значение.

Размерность
корреляционного момента равна произведению
размерностей случайных величин.

Безразмерной
характеристикой связи случайных величин
является коэффициент корреляции

.

Дисперсия
случайной величины является ковариацией
ее с собой, т.е.

,,

Если
и–
независимые случайные величины, то их
корреляционный момент равен нулю.
Действительно, в этом случае
.
Поэтому

Здесь
было учтено, что

,

.

Обратное
утверждение неверно. Из равенства нулю
корреляционного момента системы
случайных величин
ине
следует, что эти величины независимы.

Пример.

Покажем,
что существуют зависимые случайные
величины, для которых
.
Пусть

Тогда
плотности распределения случайных
величин
иравны
соответственно

,

.

Отсюда
видно, что
,
т.е.и–
зависимые случайные величины. Вычислим
корреляционный момент этих случайных
величин по формуле

Найдем
вначале математические ожидания
случайных величин

Здесь
внутренний интеграл равен нулю как
интеграл от нечетной функции по
симметричному относительно
промежутку.

Аналогично
.
Следовательно,

.

Случайные
величины называются некоррелированными,
если их корреляционный момент равен
нулю и коррелированными, если их
корреляционный момент не равен нулю.

Если
случайные величины
инезависимы, то они некоррелированы.

Если
случайные величины
изависимы, то они могут быть коррелироваными
и некоррелироваными.

Если
случайные величины
инекоррелированы, то они могут быть
зависимыми и независимыми.

Если
случайные величины
икоррелированы. то они зависимы.

Матрицей
ковариаций
случайных величининазывается симметричная квадратная
матрица второго порядка, на главной
диагонали которой расположены дисперсии
случайных величини,
а на побочной диагонали – корреляционные
моменты, т.е.

.
(21)

Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]

• #
• #
• #
• #
• #
• #
• #
• #
• #
• #
• #

Текущая версия страницы пока не проверялась опытными участниками и может значительно отличаться от версии, проверенной 1 октября 2021 года; проверки требуют 7 правок.

Математи́ческое ожида́ние — понятие в теории вероятностей, означающее среднее (взвешенное по вероятностям возможных значений) значение случайной величины^[1]. В случае непрерывной случайной величины подразумевается взвешивание по плотности распределения (более строгие определения см. ниже). Математическое ожидание случайного вектора равно вектору, компоненты которого равны математическим ожиданиям компонентов случайного вектора.

Обозначается через ^[2] (например, от англ. Expected value или нем. Erwartungswert);
в русскоязычной литературе также встречается обозначение (возможно, от англ. Mean value или нем. Mittelwert, а возможно от «Математическое ожидание»). В статистике часто используют обозначение .

Для случайной величины, принимающей значения только 0 или 1 математическое ожидание равно p — вероятности «единицы». Математическое ожидание суммы таких случайных величин равно np, где n — количество таких случайных величин. При этом вероятности появления определенного кол-ва единиц рассчитываются по биномиальному распределению. Поэтому в литературе, скорее всего, легче найти запись, что мат. ожидание биномиального распределения равно np^[3].

Некоторые случайные величины не имеют математического ожидания, например, случайные величины, имеющие распределение Коши.

На практике математическое ожидание обычно оценивается как среднее арифметическое наблюдаемых значений случайной величины (выборочное среднее, среднее по выборке). Доказано, что при соблюдении определенных слабых условий (в частности, если выборка является случайной, то есть наблюдения являются независимыми) выборочное среднее стремится к истинному значению математического ожидания случайной величины при стремлении объема выборки (количества наблюдений, испытаний, измерений) к бесконечности.

Определение[править | править код]

Общее определение через интеграл Лебега[править | править код]

Пусть задано вероятностное пространство и определённая на нём случайная величина . То есть, по определению,  — измеримая функция. Если существует интеграл Лебега от по пространству , то он называется математическим ожиданием, или средним (ожидаемым) значением и обозначается или .

Определение через функцию распределения случайной величины[править | править код]

Если  — функция распределения случайной величины, то её математическое ожидание задаётся интегралом Лебега — Стилтьеса:

, .

Определение для абсолютно непрерывной случайной величины (через плотность распределения)[править | править код]

Математическое ожидание абсолютно непрерывной случайной величины, распределение которой задаётся плотностью , равно

.

Определение для дискретной случайной величины[править | править код]

Если  — дискретная случайная величина, имеющая распределение

, ,

то прямо из определения интеграла Лебега следует, что

.

Математическое ожидание целочисленной величины[править | править код]

• Если  — положительная целочисленная случайная величина (частный случай дискретной), имеющая распределение вероятностей

, , ,

то её математическое ожидание может быть выражено через производящую функцию последовательности

как значение первой производной в единице: . Если математическое ожидание бесконечно, то и мы будем писать

Теперь возьмём производящую функцию последовательности «хвостов» распределения

,

Эта производящая функция связана с определённой ранее функцией свойством: при . Из этого по теореме о среднем следует, что математическое ожидание равно просто значению этой функции в единице:

Математическое ожидание случайного вектора[править | править код]

Пусть  — случайный вектор. Тогда по определению

,

то есть математическое ожидание вектора определяется покомпонентно.

Математическое ожидание преобразования случайной величины[править | править код]

Пусть  — борелевская функция, такая что случайная величина имеет конечное математическое ожидание. Тогда для него справедлива формула

если имеет дискретное распределение;

если имеет абсолютно непрерывное распределение.

Если распределение случайной величины общего вида, то

В специальном случае, когда , математическое ожидание называется -м моментом случайной величины.

Свойства математического ожидания[править | править код]

• Математическое ожидание числа (не случайной, фиксированной величины, константы) есть само число.

 — константа;

• Математическое ожидание линейно^[4], то есть

,

где  — случайные величины с конечным математическим ожиданием, а  — произвольные константы;

В частности, математическое ожидание суммы (разности) случайных величин равно сумме (соответственно — разности) их математических ожиданий.

.

• Математическое ожидание не зависит от поведения случайной величины на событии вероятности нуль, то есть если почти наверняка, то

.

• Математическое ожидание произведения двух независимых или некоррелированных^[5] случайных величин равно произведению их математических ожиданий

.

Неравенства, связанные с математическим ожиданием[править | править код]

Неравенство Маркова — для неотрицательной случайной величины определённой на вероятностном пространстве с конечным математическим ожиданием выполняется неравенство:

, где .

Неравенство Йенсена для математического ожидания выпуклой функции от случайной величины. Пусть  — вероятностное пространство,  — определённая на нём случайная величина,  — выпуклая борелевская функция, такие, что , то

.

Теоремы, связанные с математическим ожиданием[править | править код]

.

.

Примеры[править | править код]

• Пусть случайная величина имеет дискретное равномерное распределение, то есть Тогда её математическое ожидание

равно среднему арифметическому всех принимаемых значений.

.

• Пусть случайная величина имеет стандартное распределение Коши. Тогда

,

то есть математическое ожидание не определено.

См. также[править | править код]

• Дисперсия случайной величины
• Моменты случайной величины
• Условное математическое ожидание

Примечания[править | править код]

Литература[править | править код]

• Феллер В. Глава XI. Целочисленные величины. Производящие функции // Введение в теорию вероятностей и её приложения = An introduction to probability theory and its applicatons, Volume I second edition / Перевод с англ. Р. Л. Добрушина, А. А. Юшкевича, С. А. Молчанова Под ред. Е. Б. Дынкина с предисловием А. Н. Колмогорова. — 2-е изд. — М.: Мир, 1964. — С. 270—272.

Ссылки[править | править код]

• Математическое ожидание и его свойства на http://www.toehelp.ru