Как найти функцию распределения случайного вектора

Содержание:

1. Случайные векторы
2. Свойства функции распределения случайного вектора
3. Двумерные дискретные случайные векторы
4. Двумерные абсолютно непрерывные случайные векторы
5. Сходимость случайных величин

Случайные векторы

Рассматриваем случайное явление и вероятностное пространство, которое отвечает этому случайному явлению. Пусть  – случайные величины, связанные с этим случайным явлением. Совместное распределение этих случайных величин будем называть случайным вектором и обозначать
Определение. Функцией распределения случайного вектора  называется функция n переменных

Свойства функции распределения случайного вектора

1. Функция распределения непрерывна слева и монотонно неубывающая по всем аргументам.
2. 
3. 
4. 
5. Функция распределения компоненты  является границей функции распределения случайного вектора для всех 
Определение. Случайный вектор  называется дискретным, если он приобретает конечное или счетное количество значений.
Очевидно, что каждая компонента этого случайного вектора является дискретной случайной величиной.
Дискретный случайный вектор определяется значениями, которые он приобретает, и вероятностями, с которыми приобретаются эти значения.
Далее будем считать, что компонента ξ₁ приобретает значения  компонента ξ₁ –  компонента ξ_n –  а

Определение. Случайный вектор  называется абсолютно непрерывным, если существует n-мерная действительная функция  которую мы будем называть плотностью абсолютно непрерывного случайного вектора  такая, для которой выполняется равенство

Определение. Компоненты случайного вектора  называются независимыми, если  выполняется равенство


Если случайный вектор является дискретным, то условие независимости конкретизируется так:


Для абсолютно непрерывного случайного вектора условие независимости является таким:

Пусть  – некоторая функция. Математическое ожидание случайной величины  равно


Если случайный вектор является дискретным и

если вектор ξ – абсолютно непрерывный.
Определение. Ковариантной матрицей случайного вектора  называют числовую матрицу К размера  вида

где

и если  то величина  называется ковариацией.
Понятно, что на диагоналях стоят дисперсии соответствующих компонент.
Легко видеть, что

Доказательство.




Коэффициентом корреляции компонент  является число

корреляционной матрицей является матрица

Детальнее свойства случайных векторов рассмотрим для двумерного случая.

Двумерные дискретные случайные векторы

Рассматриваем двумерный случайный вектор  Предположим, что компонента ξ приобретает значения компонента η приобретает значения  и  Распределение двумерного дискретного вектора удобно представлять в виде таблицы:

Очевидно, что 
где 
Пример. Дано распределение двумерного случайного вектора 

Найти
Решение. Поскольку

то 




Пример. Дано распределение двумерного случайного вектора 

Найти 
Решение. Очевидно, что



Распределение компонент находится так:

Далее определяем  
Пример. Дано распределение двумерного случайного вектора 

Найти распределение компонент.
Решение. 






Для контроля целесообразно сделать проверку. Известно, что  Убедимся, что это действительно так.

Следовательно, распределение компоненты ξ является таким:

Переходим к компоненте η:








Проверка: 
Следовательно, распределение компоненты η является таким:

Заметим, что распределение компонент можно находить значительно проще.
Запишем еще раз распределение вектора, добавив одну строку снизу и один столбец справа. Далее находим суммы элементов по строкам и записываем эти суммы в последний столбец, а также находим суммы элементов по столбцах и значения найденных сумм записываем в нижнюю строку. Полученные суммы являются значениями вероятностей. Например, сумма верхней строки является вероятностью сумма второй строки является вероятностью соответственно сумма третьей строки – Для того, чтобы найти  нужно найти сумму элементов второго столбца и т. д.

Определение. Условным распределением компоненты ξ при условии, что  называют совокупность значений

Аналогично, условным распределением компоненты η при условии, что называют совокупность значений

Условным математическим ожиданием компоненты ξ при условии, что  называют число

Аналогично, условным математическим ожиданием компоненты η при условии, что называют число

Пример. Дано распределение дискретного случайного вектора 

Найти условное распределение компоненты ξ при условии, что условное распределение компоненты η при условии, что  условное математическое ожидание компоненты ξ при условии, что условное математическое ожидание компоненты η при условии, что 
Решение. 
Значение вероятности  находим как сумму элементов второго справа столбца.

Далее



Следовательно, условное распределение компоненты ξ при условии, что  будет таким:

Сразу находим условное математическое ожидание компоненты ξ при условии, что 


Переходим к нахождения условного распределения компоненты η при условии, что 


Запишем это условное распределение в виде таблицы

Далее найдем условное математическое ожидание.


Условие независимости для двумерного дискретного случайного вектора является такой:

для произвольных 
Пример. Дано распределение двумерного случайного вектора 

Проверить, являются ли независимыми компоненты этого вектора.
Решение.   

Очевидно, условие  не выполняется. ■
Функция распределения для двумерного случайного вектора находится так. По определению имеем

Очевидно, что функция распределения является кусочно-постоянной на отрезках  Поэтому ее можно представить в виде таблицы, которая содержит на одну строку больше чем таблица распределения этого случайного вектора и на один столбец больше чем таблица распределения этого случайного вектора.
Поскольку случайный вектор  не содержит значений меньших, чем и , то элементы в крайнем левом столбце и верхней строке будут нулевыми. Далее алгоритм заполнения таблицы будет таким: в строке и столбце будет записана сумма вероятностей, которые отвечают
Пример. Дано распределение двумерного случайного вектора .

Найти функцию распределения.
Решение. Поскольку наименьшим значением среди  является 2, а среди является — 1, то вероятность того, что случайный вектор будет приобретать меньшие значения, равно 0. Поэтому слева и сверху мы проставляем нули.
Осталось заполнить 4 строки и 3 столбца. Обозначим значения незаполненных клеточек через  Очевидно, что


Пусть – некоторая кусочно-непрерывная функция. Математическое ожидание случайной функции находится так:

В частности ковариация находится по формуле

де



Коэффициент корреляции

Пример. Найти ковариацию и коэффициент корреляции случайного вектора 

Решение. Сначала найдем распределение компонент.


Далее находим   





И, наконец, находим


Переходим к коэффициенту корреляции.






Запишем ковариационную и корреляционную матрицы

Заметим, что если компоненты случайного вектора является независимыми, то ковариация, а следовательно, и коэффициент корреляции равняются нулю. Наоборот не всегда правильно.
Пример случайного вектора, у которого ковариация равна нулю и коэффициенты зависимы.

Сначала покажем, что ковариация равно нулю.





Далее проверяем компоненты на независимость


Следовательно,  а поэтому компоненты являются зависимыми. ■
Заметим, что если ковариация является ненулевой, то компоненты зависимы.

Двумерные абсолютно непрерывные случайные векторы

Рассматриваем двумерный абсолютно непрерывный вектор  с плотностью Плотность компонент находят так:

Пример. Плотность двумерного случайного вектора равна

где область D ограничена линиями    Найти плотность компонент.
Решение. Сначала изобразим область D.







Вероятность попадания в область  находится из формулы

Очевидно, что 
Пример. Дана плотность абсолютно непрерывного случайного вектора 

Найти      если область D ограничена линиями   
Решение. Сначала найдем неизвестную константу Для этого графически изобразим область D









Сначала найдем  Снова графически изобразим область






Далее находим вероятность  Изобразим графически область







Переходим к нахождению вероятности  Как и в предыдущих случаях сначала изображаем графически область интегрирования






И, наконец находим вероятность Изображаем графически область интегрирования

Как видно из рисунка, сначала нужно найти точку пересечения прямых  









Условие независимости компонент проверяется так:

Пример. Дана плотность случайного вектора 

где область D ограничена линиями     Найти и проверить, являются ли компоненты независимыми.
Решение. Прежде всего изобразим область D.







Следовательно,

Проверяем независимость компонент. Для этого находим их плотности



Следовательно,

Переходим к нахождению плотности η




Находим произведение  в области D и проверяем, равно ли оно


В области D имеем
Следовательно, условие независимости не выполняется. ■
Пример. Известно, что компоненты случайного вектора является независимыми. Их плотности равняются:
 
Найти совместную плотность случайного вектора .
Решение. Из условия независимости 
Поэтому

где область D ограничена линиями    
Функция распределения находится по определению

Пример. Дана плотность абсолютно непрерывного случайного вектора

Найти функцию распределения, если область D ограничена линиями    
Решение. Прежде всего находим неизвестную константу.





По определению имеем

Аналитический вид функции распределения зависит от того, где находится точка
В частности:
1. Пусть  или 
 
Тогда, как видно из рисунка

2.

Тогда





3. Далее рассмотрим точки для которых выполняются условия  

Очевидно аналитический вид функции распределения в этом случае будет таким:


4. Далее рассматриваем множество точек для которых выполняются условия  



5. Наконец, если   тогда



Условная плотность  находится по формуле

соответственно, условная плотность 

Пример. Дана плотность абсолютно непрерывного случайного вектора 

Найти неизвестную константу  условные плотности   если область D ограничена линиями   
Решение. Сначала изображаем область D и находим неизвестную постоянную.









Далее находим распределение составляющих











Следовательно, условия плотности будут такими:


Математическое ожидание от функции компонент вектора  равно

Пример. Дана плотность абсолютно непрерывного случайного вектора

Найти ковариацию, коэффициент корреляции, ковариационную матрицу, корреляционную матрицу, если область D ограничена линиями    
Решение. Сначала находим неизвестную константу 






Переходим к ковариации













Следовательно,


Далее находим дисперсии











Ковариационная матрица является такой:

Корреляционная матрица имеет вид

Сходимость случайных величин

Определение. Рассматриваем последовательность случайных величин Эта последовательность совпадает со случайной величиной ξ, если 

или

и это обозначают 
Определение. Последовательность случайных величин сходится к случайной величине ξ в среднеквадратичном, если   и

Это обозначают 
Теорема. Если  и  – непрерывная функция, то 

Закон больших чисел
Рассматриваем последовательность случайных величин  Для нее выполняется закон больших чисел (ЗБЧ) или эта последовательность удовлетворяет закон больших чисел, если

Сходимость по вероятности всегда проверять нет смысла, потому что есть теоремы, которые являются достаточными условиями для выполнения закона больших чисел.

Теорема Чебышева. Пусть дана последовательность независимых случайных величин  для которых существуют Если существует константа С такая, что   то для этой последовательности выполняется закон больших чисел.

Теорема Хинчина. Пусть дана последовательность независимых одинаково распределенных случайных величин  для которых существует математическое ожидание тогда для этой последовательности выполняется закон больших чисел.

Теорема Маркова. Пусть дана последовательность произвольных случайных величин  для которых существуют  и выполняется равенство

Тогда для этой последовательности выполняется закон больших чисел.

Теорема Бернулли. В схеме независимых испытаний Тут μ – относительная частота появления события, р – вероятность появления события в одном испытании.

Пример. Дана последовательность независимых случайных величин 

Проверить, выполняется ли для этой последовательности закон больших чисел.
Решение. Для проверки используем теорему Чебышева. Независимость дана в условии.



Очевидно, что

Поэтому для данной последовательности выполняются условия теоремы Чебышева, а следовательно, выполняется закон больших чисел. ■
Пример. Дана последовательность независимых случайных величин, которые имеют распределение Коши. Проверить, выполняется ли для этой последовательности закон больших чисел .
Решение. Поскольку для распределения Коши не существует математического ожидания, то речь не идет о выполнении закона больших чисел. ■

Совокупность
двух случайных величин (X,Y), заданных на
вероятностном пространстве
,
называют двумерной случайной величиной
или двумерным случайным вектором,
X,Y называют координатами случайного
вектора.

Это определение
можно обобщить и на совокупность n
случайных величин.

Функцией
распределения случайного вектора
(X,Y) или совместной функцией распределения
случайных величин X,Y называется

.

Свойства функции распределения.

1. 
   (Это – свойство вероятности, а
   
   – вероятность).

2. 
   – неубывающая функция по каждому из
   своих аргументов. (В самом деле, если
   ,
   то событие
   
   включено в событие
   ,
   следовательно, его вероятность меньше)

3. 
   (события
   
   – невозможные, поэтому их вероятность
   равна нулю).

4. 
   (событие
   
   достоверно).

5. =
   –
   –
   +
   

Геометрически,
–
площадь

полосы левее
и ниже точки
,

Вычитая из нее

и
,

мы два раза
вычтем площадь

полосы левее и ниже точки
.

Для того, чтобы
получить

площадь
прямоугольника –

левую часть
равенства, надо

вычитать эту
площадь один раз,

поэтому
надо добавить ее, т.е.

в правую часть равенства.

6.
непрерывна
слева по каждому из аргументов

7.
.
Так как событие

достоверно, то пересечение событий

и

есть событие
.
Поэтому первое равенство справедливо.
Аналогично доказывается справедливость
второго равенства.

Двумерная
случайная величина (X,Y) дискретна,
если X, Y –
дискретные случайные величины. Для нее
составляется таблица распределения –
аналог ряда распределения для одномерной
случайной величины.

X	Y
y1	y2	…..	ym	PX
x1	p11	p12	…	p1m	pX1
x2	p21	p22	…	p2m	pX2
…….	…	…	…	…	…
xn	pn1	pn2	…	pnm	pXn
PY	pY1	pY2	…	pYm

Здесь p_nm
=
,
p_Ym
=
=
p_1m+
p_2m
+…+p_nm,

p_Xn
= p_n1
+ p_n2
+ … +p_nm.

График функции
распределения для двумерной случайной
величины напоминает «лестницу», уровень
ступеней которой изменяется скачком
на p_ij
при переходе через точку (x_i
, y_j)
в положительном направлении по оси
OX и по оси OY.
Если зафиксировать x = x_i,
то при увеличении y эти
скачки будут на p_i1,
p_i2, …
p_im (от
нуля до p_Xi
). Если зафиксировать y
= y_j,
то при увеличении x
скачки будут на p_1j,
p_2j, …
p_nj
(от нуля до p_Yj).
Нижние ступени (при xx₁
и yy₁)
находятся на нулевом уровне, самая
верхняя ступень (при x>x_n,
y>y_m)
находится на уровне 1. Если зафиксировать
x > x_n
то при увеличении y эти
скачки будут на p_Y1,
p_Y2, …
p_Ym (от
нуля до 1). Если зафиксировать
y > y_m,
то при увеличении x
скачки будут на p_X1,
p_X2, …
p_Xn
(от нуля до 1).

Пример.
Проводятся два выстрела в мишень. При
каждом выстреле вероятность попадания
p, вероятность промаха q
= 1- p. Случайная величина
X_i
– число попаданий при i
– том выстреле. Найдем закон распределения
случайного вектора (X₁,
X₂)=.

X	Y
y1=0	y2=1	PX
x1=0	q2	qp	pX1=q
x2=1	pq	p2	pX2=p
PY	pY1=q	pY2=p

Построим функцию
распределения

.
В самом деле, при

– событие{X<x,Y<y} –
невозможное, при (x>1, y>1)
событие {X<x,Y<y} –
достоверное.

При

событие {X<x,Y<y} представляет
собой событие {X=0,Y=0}. Поэтому
при

F(x) = P{X=0,Y=0}= q².

При

событие {X<x,Y<y} представляет
собой объединение несовместных событий
{X=0,Y=0} и {X=0,Y=1}. Поэтому при

F(x) =. P{X=0,Y=0}+ P{X=0,Y=1}= q²
+ pq = q(p+q)=q.Аналогично, в случае

F(x) = P{X=0,Y=0}+ P{X=1,Y=0}= q²
+ pq = q(p+q)=q

Двумерная
случайная величина непрерывна, если
X, Y, непрерывные случайные
величины и ее функцию распределения
можно представить в виде сходящегося
несобственного интеграла от плотности
распределения.

.

Двойной интеграл
можно записать в виде повторных (внешний
по x, внутренний по y
и наоборот). Если предполагать непрерывность
плотности по x и
y, то, дифференцируя по переменным
верхним пределам, получим

.

Свойства
плотности.

1. 
   (функция распределения – неубывающая
   функция).

2. 
   (по свойству 5 функции распределения)
   Справедливо обобщение
   .

3. 

4. 
   (по свойству 4 функции распределения)

5. 

6. ,

   
   (Свойство 7 функции распределения)

Независимость
случайных величин.

Случайные
величины X, Y называются
независимыми, если
,
где

– функции распределения случайных
величин X, Y.

Если
случайные величины непрерывны, то,
дифференцируя это соотношение по x,
y, получим
.

Соотношение

поэтому можно считать определением
независимости непрерывных случайных
величин.

Для
дискретных случайных величин
определение независимости можно
записать в виде
.

Математическое
ожидание.

Математическим
ожиданием функции двумерной случайной
величины называется

в дискретном случае,

в непрерывном случае.

Свойства
математического ожидания

1. 
   (
   по условию нормировки)

2. 

=

1. 
   для независимых случайных величин.

=
.

Ковариация
(корреляционный момент).

Ковариацией
случайных величин называют
.

Свойства
ковариации.

1. 

   

2. 

По свойству 1

1. Если X, Y
   независимы, то
   ,
   (обратное неверно).

Если случайные
величины независимы, то
,
тогда по свойству 1
.

Случайные
величины называются некоррелированными,
если
,
из некоррелированности не следует
независимость, из независимости
следует некоррелированность.

1. 

По свойству 1

==
=

1. 

Рассмотрим
случайную величину
.

.

Заметим, что
отсюда следует свойство дисперсии
(при a =1)

.

Так как
,
то
.
Это возможно только, если дискриминант
этого квадратного трехчлена относительно
a меньше или равен нулю. Выпишем это
требование к дискриминанту:

.
Отсюда следует свойство 5.

1. Для того, чтобы случайные
   величины были линейно зависимы (Y
   = aX +b), необходимо и достаточно,
   чтобы
   

Необходимость.
Пусть Y=aX+b.
Тогда

=

Достаточность.
Пусть
.
Тогда (доказательство свойства 5)

следовательно, z
–детерминированная
величина, т.е.
,
поэтому величины X, Y –
линейно зависимы.

Коэффициентом
корреляции называется
.

Свойства
коэффициента корреляции.

1. 

2. Если X, Y –
   независимы, то
   

3. 

4. 

5. 
   тогда и только тогда, когда X,Y
   линейно зависимы.

Двумерное
равномерное распределение

Случайный вектор
(X, Y) равномерно распределен
в области D (площадь D
равна S), если его плотность
распределения задана так: p(x,y)
= 0, если x 
D, p(x,y) = 1/S, если xD.

Пример.
Случайный вектор (X,Y)
равномерно распределен в прямоугольнике
0xa,
0xb.

,
аналогично
.

,
аналогично
.

,
аналогично
.

Следовательно,
случайные величины X, Y не
коррелированны.

Двумерное
нормальное распределение

Двумерная
случайная величина (X,Y)
распределена нормально со средними
значениями m_,
m₂,
дисперсиями

и коэффициентом корреляции
,
если ее плотность задана:

Задача линейного
прогноза.

Заданы
характеристики

случайного вектора
.
Вводится случайная величина – оценка

– линейный прогноз. Вычислить
,
чтобы линейный прогноз был наилучшим
среднеквадратическим (в смысле минимума
погрешности оценки:).

.

За счет выбора

можно лишь минимизировать последнее
слагаемое, сделав его нулем:
.Теперь
остается обеспечить минимум квадратного
трехчлена от
(найти
вершину параболы):
.
Подставляя это значение, найдем

.
Вычислим погрешность оценки при этих
значениях параметров

.

При линейной
зависимости

оценка точна, погрешность равна нулю.

Чем меньше
коэффициент корреляции, тем грубее
оценка. В крайнем случае, при отсутствии
корреляции ()

.

Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]

• #
• #
• #
• #
• #
• #
• #
• #
• #
• #
• #

Содержание:

Системы случайных величин или случайные векторы:

При изучении случайных явлений в зависимости от их сложности приходится использовать два, три и большее число случайных величин.

Например, 1) попадание снаряда в цель определяется не одной, а двумя случайными величинами: абсциссой и ординатой точки попадания, 2) случайное отклонение точки разрыва снаряда при дистанционной стрельбе определяется комплексом трех случайных величин: тремя координатами этой точки.

Определение 57. Совместное рассмотрение двух или нескольких случайных величин приводит к системе случайных величин или к случайному вектору.

(X, Y) – двумерный случайный вектор или система двух СВ.

Изучать систему – значит изучать сами случайные величины, ее составляющие; связи и зависимости между ними.

Геометрическая интерпретация системы: 1) систему двух случайных величин (X, У) рассматривают как случайную точку на плоскости (Охх) или как случайный вектор с составляющими X, У; 2) систему трех случайных величин (X, У, Z) рассматривают как случайную точку на плоскости (Оxyz) или как случайный вектор с составляющими X, У; Z и т.д.

В зависимости от типа случайных величин, образующих систему, могут быть дискретные, непрерывные и смешанные системы.

Определение 58. Двумерный случайный вектор (X, У) называется вектором дискретного типа (СВДТ), если множество его возможных значений не более, чем счетно.

Определение 59. (первое определение) Двумерный случайный вектор (X, У) называется вектором непрерывного типа (СВНТ), если множество его возможных значений непрерывно заполняет некоторую область плоскости (Оху)-

Определение 60. Законом распределения системы случайных величин называется соотношение, устанавливающее связь между областями возможных значений системы случайных величин и вероятностями появления системы в этих областях.

Законы распределения СВДТ и СВНТ

Таблица распределения – закон распределения СВДТ:

Рассмотрим двумерный случайный вектор (X, У), где X и У – дискретные случайные величины с возможными значениями

Пример:

Из цифр 1, 2, 3, 4, 6, 8, 9 наудачу отбирают две цифры. Х – число четных цифр в выборке, Y – число нечетных. Описать закон распределения.

Решение.

X (четные) – 2, 4, 6, 8; Y ( нечетные) – 1, 3, 9. Следовательно, возможные значения X :  (нет четных цифр), (одна цифра четная), (обе цифры четные); возможные значения Y :  (нет нечетных цифр), (одна цифра нечетная), (обе цифры нечетные). Найдем вероятности.

(0 четных, 0 нечетных) = 0, не выбираем ни одной цифры, а по условию выбираем две цифры. Аналогично, (выбираем всего одну цифру либо нечетную, либо четную), (выбираем три цифры вместо двух по условию), (выбираем четыре цифры вместо двух по условию).

 — (обе цифры нечетные),

— (одна четная, одна нечетная),

— (обе цифры четные).

Таблица распределения имеет вид:

Проверка: 

Пример:

Дана таблица распределения случайного вектора (X, Y). Получить ряды распределения для Х и Y отдельно.

Решение.

, (складываем по строкам), следовательно, 

Проверка: 

, (складываем по столбцам), следовательно, 

Проверка: 

Функция распределения – закон распределения СВДТ и СВНТ

Функция распределения – универсальный закон распределения случайных векторов как дискретного, так и непрерывного типа.

Определение 61. Функцией распределения системы двух случайных величин называется функция двух аргументов F(x,y), равная вероятности совместного выполнения двух неравенств: X < х, Y < у, т.е. 

Геометрически F(x,y) представляет вероятность попадания случайной точки (X,Y) в левый нижний бесконечный квадрант плоскости с вершиной в точке (х,у).

 – для СВДТ

Свойства F(x;y).

1. Условие согласованности:

Пояснение. Отодвигая одну из границ квадранта в бесконечность, получаем полуплоскость, вероятность попадания в которую есть функция распределения одной случайной величины.

2. 

Пояснение. Квадрант обращается во всю координатную плоскость, попадание случайной точки в которую есть достоверное событие.

3. 

Пояснение. Отодвигая ту или иную границу квадранта в (), убеждаемся, что вероятность случайной точки попасть в квадрант равна нулю.

4. F(x, у) – неубывающая функция по каждому аргументу.

5. Вероятность попадания случайной точки (X, У) в произвольный прямоугольник со сторонами, параллельными координатным осям, вычисляется по формуле:

Определение 62. (второе определение) Двумерный случайный вектор называется случайным вектором непрерывного типа (СВНТ), если его функция распределения непрерывна на всей плоскости и существует неотрицательная и интегрируемая по Риману в бесконечных пределах по х, у функция , называемая плотностью распределения СВНТ.

Пример №1

Найти функцию распределения, если случайный вектор задан таблицей распределения:

Решение.

Случайный вектор дискретного типа, следовательно, 

Плотность распределения (Для СВНТ)

Определение 63. (первое определение) Плотностью распределения системы двух непрерывных случайных величин называется предел отношения вероятности попадания случайной точки (X, Y) в элементарный прямоугольник к площади прямоугольника, когда оба его размера стремятся к нулю:

Распишем интервальную вероятность с помощью функции распределения:

Правая часть равенства – определение смешанной производной функции двух переменных F(x, у), отсюда следует

Определение 64. (второе определение) Плотностью распределения системы двух непрерывных случайных величин называется смешанная частная производная от функции распределения системы:

Отсюда, 

Геометрически  можно изобразить некоторой поверхностью, которую называют поверхностью распределения.

Вероятность попадания случайной точки в некоторую область D плоскости (Oxy) находится по формуле:

Геометрически вероятность попадания случайной точки в область D плоскости (Oxy) изображается объемом цилиндрического тела, ограниченного поверхностью распределения и опирающегося на эту область.

Свойства плотности

1.  – неотрицательная функция, т.е. 

2. Условие нормировки: 

Пример №2

Дана плотность распределения непрерывного вектора

Найти: 1) коэффициент а, 2) функцию распределения F(x, у), 3) вероятность попадания случайной точки в прямоугольник с вершинами в точках O(0,0), A(0,1),

Решение.

1) Для вычисления коэффициента а применим условие нормировки:

2) По определению 

3) Вероятность попадания в прямоугольник.

1 способ: 

2 способ (по 5 свойству):

Пример №3

Дана плотность распределения непрерывного вектора  Найти вероятность того, что случайная точка принадлежит треугольнику с вершинами в точках O(0,0), A(1,2), B(0,1).

Решение.

Плотность распределения задана в квадрате. Область пересечения квадрата с заданным треугольником заштрихованный треугольник, ограниченный снизу прямой сверху – прямой , причем, , следовательно, 

Плотности распределения отдельных величин, входящих в систему

Пусть известна плотность распределения случайного вектора. Согласно свойству 1 (условие согласованности) для функции распределения , можем записать, что,

Отсюда, дифференцированием первого равенства по х, а второго по у, получим, что плотности распределения одной из величин равны интегралу от плотности распределения системы в бесконечных пределах по аргументу, соответствующему другой случайной величине:

Ставится вопрос, как по известным законам распределения отдельных величин, входящих в систему, найти закон распределения системы. В общем случае эта задача не разрешима, но, с другой стороны, закон распределения системы должен содержать все сведения о величинах, входящих в систему, в том числе и сведения о том, как они связаны между собой.

Определение 65. Случайные величины X и Y, входящие в систему, называются независимыми, если закон распределения каждой из них не зависит от того, какое значение приняла другая. В противном случае, они называются зависимыми.

Теорема. Для того, чтобы дискретные случайные величины X и Y , входящие в систему, были независимыми, необходимо и достаточно, чтобы выполнялось равенство:

Для того, чтобы непрерывные случайные величины X и Y , входящие в систему, были независимыми, необходимо и достаточно, чтобы выполнялось равенство:

Пример №4

Дана плотность распределения непрерывного вектора:

Зависимы или независимы случайные величины, входящие в систему?

Решение.

Представим плотность в виде произведения:

, следовательно, по теореме, X и Y – независимые величины.

Пример №5

Дано распределение дискретных независимых случайных величин Х и Y:

Записать закон распределения случайного вектора (Х + Y).

Решение.

Найдем возможные значения случайного вектора (Х+ Y): 1 + 3 = 4, 2 + 3 =5, 1+5 = 6, 2 + 5 = 7.

Найдем их вероятности, пользуясь условием независимости:

Следовательно, ряд распределения случайного вектора (Х + Y) имеет вид:

Замечание. Одним из наиболее простых распределений системы двух непрерывных величин является равномерное распределение.

Определение 66. Система двух непрерывных случайных величин имеет равномерное распределение в области D плоскости (Оху), если плотность распределения в точках области D постоянна и равна нулю в остальных точках плоскости:

В силу свойства 2 плотности имеем, что , где  – площадь области D. Тогда вероятность попадания случайной точки в некоторую область плоскости (Охy) находится по формуле:

Определение 67. Пусть Х и Y независимые величины, распределенные по нормальному закону, их плотности распределения имеет вид:

Следовательно, плотность распределения системы (Х,Y) на основании теоремы умножения плотностей распределения для случая независимых величин получим в виде

Если X и Y зависимы между собой, то закон распределения системы не может быть выражен через законы распределения отдельных случайных величин, входящих в систему, что привело к введению условных законов распределения.

Определение 68. Распределение одной случайной величины, входящей в систему, найденное при условии, что другая случайная величина, входящая в систему, приняла определенное значение, называется условным законом распределения.

Обозначим G (х,у) – множество возможных значений случайного вектора (X, Y).

Рассмотрим СВДТ.

Условный закон распределения случайной компоненты X при условии, что Y приняла определенное значение у называется совокупность возможных значений и соответствующих этим значениям условных вероятностей определяемых равенством:

Рассмотрим CBHT.

Условный закон распределения случайной компоненты X при условии, что Y приняла определенное значение у :

Теорема (умножения законов распределения):

Условие нормировки: 

Условие независимости Х от Y:

Числовые характеристики системы

Определение 69. Начальным моментом порядка случайного вектора (X,Y) называется математическое ожидание произведения -ой степени Х на         s-ую степень Y:

Математическое ожидание дискретных случайных величин Х и Y, входящих в систему:

определяют координаты точки, называемой центром рассеивания системы на плоскости.

Определение 70. Центральным моментом порядка случайного вектора (Х,Y) называется математическое ожидание произведения -ой и s-ой степеней соответствующих центрированных величин:

Дисперсия случайных величин X и Y, входящих в систему – характеристика рассеивания случайной точки в направлении осей (ох) и (оу):

Дисперсия дискретных случайных величин Х и Y, входящих в систему:

Дисперсия непрерывных случайных величин Х и Y, входящих в систему:

Замечание. Для краткого описания условных законов распределения используются различные характеристики, наиболее важной из которых является математическое ожидание:

Определение 71. Условным математическим ожиданием дискретной случайной величины X при условии, что Y принимает одно из своих возможных значений , называется сумма произведений возможных значений Х на их условные вероятности:

Для непрерывной случайной величины X:

Аналогично, вводится понятие условного мат. ожидания для СВ Y.

Пример №6

По некоторой цели производится два выстрела. Вероятность попадания при одном выстреле равна р. Рассмотрим две случайные величины: X – число попаданий в цель, Y – число промахов. Составить таблицу распределения, записать функцию распределения системы F(x,y) и найти числовые характеристики

Решение.

Случайный вектор дискретного типа, следовательно, 

Пояснение: 

Ковариация, корреляция и линии регрессии

Особую роль при исследовании системы играет второй смешанный центральный момент.

Определение 72. Второй смешанный центральный момент называется корреляционным или моментом связи или ковариацией:

Теория корреляции решает две задачи: 1) установление формы связи между случайными величинами, 2) определение тесноты и силы этой связи.

, помимо рассеивания, характеризует взаимное влияние случайных величин X и Y, входящих в систему. Для оценки степени влияния используется не сам момент, а безразмерное соотношение, которое называется нормированной ковариацией или коэффициентом корреляции:

 – коэффициент корреляции двух случайных компонент X и Y случайного вектора.

(Иногда его обозначают как ).

Средние квадратические отклонения случайных величин X и Y равны

Определение 17. X и Y называются некоррелированными случайными величинами, если их коэффициент корреляции , и коррелированными, если отличен от нуля.

Свойства коэффициента корреляции

Свойства коэффициента корреляции :

1. Если X и Y – независимые СВ, то (X и Y некоррелированные случайные величины). Обратное утверждение неверно, так как X и Y могут быть зависимыми, но при этом

2. 

3. В случае говорят о положительной корреляции X и Y , что означает: при возрастании одной из них другая тоже имеет тенденцию в среднем возрастать. Например, вес и рост человека.

4. В случае говорят об отрицательной корреляции X и Y , что означает: при возрастании одной из них другая имеет тенденцию в среднем убывать. Например, время, потраченное на подготовку прибора к работе и количество неисправностей, обнаруженных при его работе.

Взаимная связь двух случайных величин, помимо , может быть описана с помощью линий регрессии. Действительно, хотя при каждом значении Х = х величина У остается случайной величиной, допускающей рассеивание своих значений, однако зависимость Y от X сказывается часто в изменении средних размеров Y при переходе от одного значения х к другому. С изменением х будет изменяться и Это означает, что можно рассматривать функцию областью определения которой является множество возможных значений случайной величины X. Эта функция носит название регрессии Y и X.

Аналогично, зависимость Х от Y описывает функция

– уравнения регрессии

Линии, определенные этими уравнениями, называются кривыми или линиями регрессии. (Вводятся лишь для непрерывных СВ, для ДСВ линии будут состоять из точек.)

Если обе линии регрессии – прямые, то корреляционную зависимость называют линейной (линейная корреляция). Для нормально распределенного случайного вектора (X,Y) уравнения регрессии линейные:

Связь коэффициента корреляции и линий регрессии

1) Если , то линии регрессии наклонены вправо.

2) Если , то линии регрессии наклонены влево.

3) Если , то линии регрессии проходят параллельно осям координат.

4) Если, , то линии регрессии сливаются в одну линию, а случайные величины X и Y связаны между собой линейной функциональной зависимостью , причем знак коэффициента корреляции () или () берется в зависимости от знака (+ или -) коэффициента а, который называется коэффициентом регрессии.

Часто пишут уравнение в виде: и называют его уравнением парной регрессии, где коэффициент регрессии

Определение 73. Ковариационной матрицей случайного вектора называется симметрическая действительная матрица, элемент которой представляет собой ковариации соответствующих пар компонент: 

Определение 74. Корреляционной матрицей случайного вектора называется нормированная ковариационная матрица 

Пример №7

Дано уравнение парной регрессии Выберите правильный коэффициент корреляции:

Решение.

Из рассмотрения исключаем так как по 2 свойству Коэффициент регрессии а = 2, т.е. со знаком «+», следовательно,

Замечание. Можно было знак  определить с помощью следующего рассуждения: возьмем два возрастающие значения х: , тогда , т.е. с возрастанием х возрастает у, отсюда, , следовательно,

Пример №8

Дано уравнение парной регрессии Найти .

Решение.

Из формулы выразим . Получим .

Свойства математического ожидания и дисперсии

1. X, Y как зависимые, так и независимые случайные величины, тогда

2. 

Если X, Y – некоррелированные, то

Если X, Y- независимые, то

3. 

Если X, Y- некоррелированные, то

4. Если X, Y-независимые, то 

Пример №9

Даны законы распределения случайных величин X, Y:

Найти

Решение.

.

Распределение случайного вектора

Во многих реальных задачах мы имеем не одну, а несколько случайных величин в одном и том же эксперименте. Иногда их удобно рассматривать как единый объект. Это приводит нас к следующему определению.

Определение 1. -мерным случайным вектором называется набор случайных величин, заданных на одном и том же вероятностном пространстве

Фактически случайный векторесть отображение Нетрудно показать (задача 1), что это отображение является борелевским, т.е. для любого борелевского подмножества (-алгебру всех борелевских подмножеств в мы будем обозначать ) мы имеем . Как и для случайных величин, можно дать следующее

Определение 2 . Распределением случайного вектора называется функция , заданная на -алгебре по правилу

Распределение является объективной характеристикой случайного вектора, которую можно однозначно восстановить из эксперимента. Но распределение, будучи удобной характеристикой в теоретических исследованиях, является довольно сложным для реальных задач. Как и в одномерном случае, используют понятие функции распределения.

Определение 3. Функцией распределения случайного вектора называется функция , такая, что

Основные свойства функции распределения случайного вектора собраны в следующем предложении.

Предложение 1 . Функция распределения случайного вектора обладает следующими свойствами:

1..

2. не убывает по каждому аргументу ,.

3. – непрерывна слева по каждому аргументу х,-_И i = 1,п.

4. , если некоторое . , если все .

5-

Где

6. есть функция распределения случайного вектора

Задача 1 . Доказать предложение 1.

Замечание. В силу свойства 5 по функции распределения можно найти вероятности попадания в множества . Далее, так же как и в одномерном случае, можно восстановить распределение для любых борелевских множеств В, аппроксимируя их параллелограммами.

Классификация распределений

Как и в одномерном случае, мы выделим два важных частных случая распределений, которые наиболее часто используются на практике. Конечно, бывают и более общие примеры, но мы не будем их подробно рассматривать в нашем курсе.

Определение 4 . Случайный вектор имеет дискретное распределение, если существует конечное или счетное множество , такое, что

Если – одно из возможных значений случайного вектора , то называется вероятностью

появления значения .

Обычно используют следующую стандартную форму описания распределения дискретного случайного вектора. Ясно, что каждая координата случайного вектора имеет дискретное распределение. Пусть есть множество значений случайной величины . Образуем множество В

Задача. Доказать, что , т.е. можно взять в качестве множества значений случайного вектора .

Для произвольного вектора , где , обозначим через

вероятность появления значения случайного вектора . При таком выборе множества некоторые его элементы будут появляться с вероятностью 0.

Пример. Случайный вектор имеет два значения (1,1) и (2, 2), которые появляются с вероятностями . Точка = (1, 2) входит в построенное выше множество, но

Пару будем называть распределением дискретного случайного вектора , хотя, строго говоря, это не совсем точно. Для распределение дискретного случайного вектора

обычно задают в виде следующей таблицы, называемой таблицей распределения:

Здесь – множество значений для – множество значений для , а

Предложение 2. Распределение дискретного случайного вектора обладает следующими свойствами:

1)

2)

3)

,

4)

Все эти свойства легко следуют из приведенных выше определений и свойств вероятностей. Поэтому доказательство этого предложения предлагается в виде задачи.

Пример. Пусть мы приводим независимых испытаний, каждое из которых может закончиться одним из исходов и вероятности появления этих исходов одни и те же в каждом испытании и равны . Пусть есть число появлений -го исхода в этих -испытаниях. Тогда есть дискретный случайный вектор. Его значениями являются векторы, такие, что – целые неотрицательные числа и Как было показано выше, при изучении последовательностей независимых испытаний

Такое распределение называется полиномиальным распределением с параметрами

Определение 5 . Случайный вектор имеет абсолютно непрерывное распределение, если существует вещественная функция ,, такая, что

Функция называется плотностью распределения случайного вектора .

Нетрудно доказать следующее утверждение, доказательство которого предлагается в качестве задачи.

Предложение 3 . Случайный вектор имеет абсолютно непрерывное распределение с плотностью ,

Тогда справедливы следующие свойства:

1)

2)

3)

4)

,

5)Если – точка непрерывности плотности ,

То ,

6) плотность случайного вектора можно вычислить по формуле

Замечание. Если мы имеем некоторый случайный вектор , то, выбирая некоторые из его координат, например первые , мы получаем новый случайный вектор, который называютподвектором вектора . Выше было показано, как найти распределение подвектора, когда убирают одну из координат. Применяя эту процедуру несколько раз, мы сможем найти распределение произвольногоподвектора. Распределение отдельно взятой координаты вектора называется одномерным или маргинальным распределением.

Как и в одномерном случае, можно ввести понятие смеси распределений, но мы не будем его рассматривать подробно так как здесь не возникает ничего нового.

Примеры. 1. Случайный вектор имеет равномерное распределение в области D, если он обладает плотностью распределения следующего вида:

где – мера Лебега области D. Фактически мы имеем дело с геометрическим определением вероятности.

2. Случайный вектор имеет двумерное нормальное распределение, если он обладает плотностью распределения следующего вида:

Числа называются параметрами двумерного нормального распределения. Их вероятностный смысл будет выяснен позднее.

Независимые случайные величины

При изучении свойств вероятностей случайных событий мы видели, что понятие независимости событий играет важную роль при вычислении вероятностей сложных событий. Аналогично понятие независимости является центральным понятием в теории случайных величин, их функциональных преобразований и других вопросах.

Определение 6 . Случайные величины называются не зависимыми, если для любых борелевских

Дадим эквивалентные формулировки понятия независимости случайных величин в терминах функций распределения, а также для случаев дискретных и непрерывных распределений.

Предложение 4 . Пусть мы имеем случайный вектор . Его компоненты независимы тогда и только тогда, когда

В случае дискретных распределений условие независимости эквивалентно условию

,

а в случае непрерывных – условию

Доказательство. Рассмотрим множества

Для них из (3) следует (4). Обратно, из (4) легко получить (3) для параллелепипедов, а затем аппроксимировать произвольные 1ѕ с помощью сумм отрезков. Свойство (6) получается из (4) дифференцированием. Свойство(5) следует непосредственно из определения независимости.

Пример 1. Пусть мы имеем схему Бернулли с параметрами и . Пусть = 1, если в-м испытании был ’’успех”, и равно 0 в противном случае. Тогда случайные величины -независимы.

Кстати, число успехов в этих испытаниях представимо в виде

Пример 2. Пусть имеет двумерное нормальное распределение. будут независимы тогда и только тогда, когда (задача!).

Нетрудно доказать следующий полезный результат (задача!).

Предложение 5 . Пусть случайные величины , – независимы, а и – борелевские функции. Тогда случайные величины и также являются независимыми.

Пример 3. Пусть мы имеем схему Бернулли с испытаниями. Тогда число успехов в первых испытаниях и число успехов в последующих испытаниях – независимые случайные величины.

Функциональные преобразования случайных векторов

Как и в одномерном случае, важной с практической точки зрения является задача о вычислении распределения функционального преобразования случайного вектора.

Определение 7 . Отображение: называется борелевским, если мы имеем

Если – борелевское отображение, – случайный вектор, то вновь является случайным вектором. Действительно, если , то , а . Отсюда нетрудно получить выражение для распределения вектора, если мы знаем распределение вектора

Рассмотрим теперь отдельно случаи дискретного и непрерывного распределений.

Если имеет дискретное распределение с множеством значений и вероятностями появления этим значений, то ясно, что случайный вектор также имеет дискретное распределение с множеством значений , где каждое для некоторого , а вероятности появления значения можно вычислить по формуле

Пример. Пусть – двумерный случайный вектор с дискретным распределением, – вероятность появления некоторого значения . Рассмотрим функцию

. Тогда есть дискретная случайная величина и вероятность того, что , где – одно из возможных значений суммы , можно рассчитать по формуле

Если и независимы, то

В этом случае мы получаем

Это формула свертки для дискретных распределений.

Пусть теперь – случайный вектор, который имеет плотность распределения . Как и в одномерном случае, распределение случайного вектора может не иметь плотности и даже быть дискретным. Необходимы некоторые дополнительные ограничения на функцию . Рассмотрим один частный, но практически важный случай.

Предложение 6 . Пусть – случайный вектор, который имеет плотность распределения – взаимно однозначное и непрерывно дифференцируемое отображение. Тогда распределение случайного вектора является абсолютно непрерывным и его плотность можно вычислить по формуле

где – якобиан отображения

Доказательство этого предложения дословно повторяет доказательство в одномерном случае, но теперь мы должны сделать замену переменных в

Пример. Пусть , где – невырожденная квадратная матрица размера , т.е. мы имеем линейное отображение в . В этом случае и

В тех случаях, когда , последнее предложение не применимо. Но часто можно дополнить отображение еще одним отображениемтак, чтобы отображение уже обладало нужными свойствами.

Пример. Пусть случайный вектор имеет плотность распределения . Найдем плотность распределения случайной величины . Здесь . Рассмотрим еще одну случайную величину . Тогда в целом мы имеем следующее линейное отображение . Матрица этого отображения имеет вид , а обратная матрица равна

В предыдущем примере мы получили, что

Чтобы найти плотность распределения для , достаточно проинтегрировать по координате, т.е.

Если и – независимы, то . Заменяя на, получаем

Это формула свертки для непрерывных распределений.

В более сложных ситуациях, когда не удается свести задачу к предложению б, необходимо провести прямые расчеты, вычисляя распределение (например, функцию распределения), а затем находя плотность. Технически это сводится к нахождению множества и вычислению интеграла от по этому множеству.

Чтобы продемонстрировать, как работает этот метод, рассмотрим тот же самый пример: . Вычислим для функцию распределения:

Фактически нам нужно найти вероятность попадания случайного вектора в множество

Тогда мы имеем

Таким образом, мы имеем тот же результат, что и ранее.

Дифференцируя по , окончательно получаем

Далее, расписывая двойной интеграл в виде повторного, получаем

Макеты страниц