Как найти условную плотность распределения

а

78

	f ( y / x) =		fx,y (x, y)	=	fx,y (x, y)	(1.4.3)
	∫	fx,y (x, y)dy	fx (x)

Соотношения (1.4.2), (1.4.3) известны как – формулы Байеса. Они обеспечивают возможность нахождения условных плотностей по известной совместной плотности fx,y (x, y) .

Из них, в частности, следует, что при независимости векторов x и y условные и априорные ф.п.р.в. между собой совпадают.

Согласно (1.4.2) условную плотность формально можно получить в два приема. Сначала в совместной плотности fx,y (x, y) фиксируется значение y , т.е. fx,y (x, y = y* ) . Относительно x

функция fx,y (x, y = y* ) будет пропорциональна условной плотности, т.е.

fx,y (x, y = y*) f (x / y = y* ) . Иными словами, условная плотность как функция x	подобна
совместной ф.п.р.в. при	фиксированном значении	y .	Далее для того, чтобы	функция
fx,y (x, y = y* ) приобрела	свойства ф.п.р.в., необходимо,	обеспечить выполнение	условия
нормировки (1.2.4). Для этого функцию fx,y (x, y = y* )	требуется разделить на независящую от

x величину, представляющую собой интеграл от fx,y (x, y = y* ) по аргументу x . Полученная в результате величина совпадет с fy ( y = y* ) , в силу условия согласованности (1.2.5).

Математическое ожидание

xˆ( y) = ∫x f (x / y)dx

и матрица ковариаций

P x / y = ∫(x − xˆ( y))(x − xˆ( y))T f (x / y)dx ,

соответствующие f (x / y) , называют условным математическим ожиданием и условной матрицей ковариаций. В случае, когда речь идет о скалярной с.в., используют понятие

условной дисперсии.

Условные плотности распределения обладают теми же свойствами, что и обычные плотности. В частности, если рассмотреть плотность для трех векторов fx,y,z (x, y, z) , то,

привлекая условие согласованности (1.2.5), можно записать следующие равенства:

f (x / z) = ∫ f (x, y / z)dy;	(1.4.4)
f (x / z) = ∫ f (x / y, z) f ( y / z)dy.	(1.4.5)

Выражения (1.4.4), (1.4.5) удобно использовать в случае необходимости исключения аргументов, стоящих слева и справа от черты в условной плотности [1.7].

81

Конкретизируем полученные в предыдущем подразделе выражения для двух примеров. Пример 1.4.1. Пусть задан двумерный центрированный гауссовский случайный вектор

x = (x1 , x2 )т с матрицей ковариаций вида (1.2.14). Требуется найти параметры условной гауссовской плотности для первой его компоненты в предположении, что вторая компонента зафиксирована.

С учетом (1.2.14), (1.2.15), (14.16), (1.4.17) можно записать следующие соотношения для условного математического ожидания и условной дисперсии

	xˆ = r	σ1	x			,
	1		σ	2		2
	σ12усл	=σ12 (1− r 2 ) ,
т.е.
											1				1					σ1				2
													exp −							.
	f (x	/ x	2	)	=									x	− r	x	2
						2			2	2
	1						σ		2π(1 − r	)		2(1 − r	1		σ2
								1				)σ1
На Рис. 1.4.1	представлены графики условных плотностей приσ1 = σ2 =1	при различных
значениях r и	x2 =1 . Из графиков следует,	что при увеличении коэффициента корреляции

условная дисперсия уменьшается. Это вполне закономерно, поскольку коэффициент корреляции отражает степень статистической зависимости одной величины относительно другой. Чем больше эта зависимость, тем существеннее уменьшается условная дисперсия по

						σ1
	f (x	/ x			x −	x
сравнению с априорной. Нетрудно заметить, что при r →1 ,	2	) → δ		2		.
	1			1	σ2

f(x1/ x2)

2

1.5

				1		r=0.95
				0.5		r=0.7
		r=0
0	-3	-2	-1	0	1	2	3	4
-4	x1

Рис.1.4.1 Графики гауссовской условной плотности распределения при различных значениях нормированного коэффициента корреляции. ♦

82

Пример 1.4.2. Пусть так же, как и в примере 1.3.5, для двух векторов x и v размерности n и m определены математическое ожидание и матрица ковариаций, и, кроме того, известно, что их совместное распределение гауссовское, т.е.

	x x		x	B		(1.4.18)
fx,v (x, v) = N	; , P		.
	v v	BT	Pv
Пусть вектор y связан с x и v соотношением вида
y = Hx + v .					(1.4.19)

Необходимо найти условную плотность распределения вероятности f (x / y) .

В решении этой задачи удобно выделить два этапа.

Суть первого этапа сводится к нахождению плотности распределения вероятности совместного вектора, включающего x и y . В разделе 1.3.3 (пример 1.3.5) было показано, что

x

x

P

x

P

x

H

т

+ B

.(1.4.20)

fx,y (x, y) = N

;

,

y Hx + v B т + HP x

HP x H т +

HB + B тH т + Pv

Искомую плотность f (x / y) легко получить на втором этапе, используя приведенное выше

правило нахождения условной гассовской плотности. Применяя это правило, получаем, что

f (x / y)	=	ˆ	x / y	),	(1.4.21)
	N(x; x( y), P

где условное математическое ожидание и условная матрица ковариаций в соответствии с выражениями (1.4.16), (1.4.17) определяются как

xˆ( y) = x + (P x H т + B)(HP x H т + HB + B тH т + Pv )−1( y − Hx − v) ,	(1.4.22)
P x / y = P x − (P x H т + B)(HP x H т + HB + B тH т + Pv )−1 (B т + HP x ) .	(1.4.23)

В частном случае, когда векторы x и v независимы и v = 0 , эти выражения упрощаются

xˆ( y) = x + K ( y − Hx) ,	(1.4.24)
K = P x H т(HP x H т + Pv )−1 ,	(1.4.25)
P x / y = P x − P x H т(HP x H т + Pv )−1 HP x .	(1.4.26)

Для вычисления условной матрицы ковариаций может быть также использовано

соотношение
	−1		−1
P x / y = P x − P x H т(HP x H т + Pv )−1 HP x =	(P x )	+ H т(Pv )−1 H	, (1.4.27)

в справедливости которого легко убедиться с помощью леммы об обращении матриц. Принимая во внимание соотношение (1.4.27) и очевидную цепочку равенств [1.9]

83

P x H т (HP x H т + Pv )−1 = [(P x )−1 + H т (Pv )−1 H ]−1 [(P x )−1 + H т (Pv )−1 H ]P x H т (HP x H т + Pv )−1 =
= P x / y [H т + H т (Pv )−1 HP x H т ](HP x H т + Pv )−1 = P x / y H т (Pv )−1 ,
для матрицы K в (1.4.25) получаем следующее выражение
	K = P x / y H т (P v )−1 .♦					(1.4.28)
По аналогии с результатом, полученным в примере для	f (x / y) , можно показать, что (см.
задачу 1.4.2)						),
	f ( y / x)	=		ˆ	y / x			(1.4.29)
		N (y; y(x), P
где
	yˆ(x) = Hx + v + B т(P x )−1(x − x) ,		(1.4.30)
	P y / x = Pv − B т (P x )−1 B .				(1.4.31)
Нетрудно заметить, что	vˆ(x) = v + Bт (P x )−1(x − x)	и		P y / x = P v / x		представляют собой
условное математическое ожидание и матрицу ковариаций вектора	v	при фиксированном
значения вектора x . Это	вполне объяснимо,	поскольку	y = Hx + v ,	и при фиксации x
математическое ожидание и матрица ковариаций случайного вектора	y	будут определяться
условным математическим ожиданием и условной матрицей ковариаций вектора v .
Наиболее важные выражения, связанные с задачей нахождения	параметров условной

гауссовской плотности широко и часто используемые при решении задач оценивания, сведены в таблицу 1.4.1.

Таблица 1.4.1.

Нахождение параметров условной гауссовской плотности

Условия

Задача

Решение

Найти

)

Задана ф.п.р.в.

условную

f (x / y)

=

N

ˆ

x /

y

x ;

x ,

P

x

P

xy

ф.п.р.в.

(x; x( y), P

f

x, y

(x, y) = N

f (x / y)

ˆ

=

+

xy y

−1

−

P y

x

P

(P

)

( y

y)

y

y

(P xy )т

для

x( y)

x

P

x / y

= P

− P

xy

(P

y

)

−1

(P

xy

)

т

вектора

x

Найти

f (x / y)

=

ˆ

x / y

условную

N (x; x( y), P ),

Задана ф.п.р.в.

xˆ( y) = x + K ( y

− Hx) ,

ф.п.р.в.

K = P x H т(HP x H

т + Pv )−1 ,

x x

x

f (x / y)

fx,v (x,v) = N

;

, P

0

P x / y = P x − P x H т (HP x H т + Pv )−1 HP x ,

v 0

0

Pv

−1

и вектор

−1

+ H т

y = Hx + v

P x / y = (P x )

(Pv )−1 H ,

K = P x / y H т (Pv )−1 .

84

Усло́вное распределе́ние в теории вероятностей — это распределение случайной величины при условии, что другая случайная величина принимает определённое значение.

Определения[править | править код]

Будем предполагать, что задано вероятностное пространство .

Дискретные случайные величины[править | править код]

Пусть и  — случайные величины, такие, что случайный вектор имеет дискретное распределение, задаваемое функцией вероятности . Пусть такой, что . Тогда функция

,

где  — функция вероятности случайной величины , называется усло́вной фу́нкцией вероя́тности случайной величины при условии, что . Распределение, задаваемое условной функцией вероятности, называется условным распределением.

Абсолютно непрерывные случайные величины[править | править код]

Пусть и  — случайные величины, такие что случайный вектор имеет абсолютно непрерывное распределение, задаваемое плотностью вероятности . Пусть таково, что , где  — плотность случайной величины . Тогда функция

называется усло́вной пло́тностью вероя́тности случайной величины при условии, что . Распределение, задаваемое условной плотностью вероятности, называется условным распределением.

Свойства условных распределений[править | править код]

• Условные функции вероятности и условные плотности вероятности являются функциями вероятности и плотностями вероятности соответственно, то есть они удовлетворяют всем необходимым условиям. В частности,

• ,
• ,

и

• Справедливы формулы полной вероятности:

• ,
• .

или

почти всюду на .

Условные вероятности[править | править код]

Дискретные случайные величины[править | править код]

Если  — счётное подмножество , то

.

Абсолютно непрерывные случайные величины[править | править код]

Если  — борелевское подмножество , то полагаем по определению

.

Замечание. Условная вероятность в левой части равенства не может быть определена классическим способом, так как .

Условные математические ожидания[править | править код]

Дискретные случайные величины[править | править код]

.

.

Абсолютно непрерывные случайные величины[править | править код]

.

.

См. также[править | править код]

• Условное матожидание

Содержание:

Многомерные случайные величины:

До сих пор рассматривались случайные величины, возможные значения которых определялись одним числом. Такие величины называют одномерными. Например, число очков, которое может выпасть при бросании игральной кости – дискретная одномерная величина; расстояние от орудия до места падения снаряда – непрерывная одномерная случайная величина. Однако, при изучении случайных явлений в зависимости от их сложности иногда приходится использовать две, три и более случайных величин. Например, точка попадания снаряда определяется не одной, а двумя случайными величинами – абсциссой и ординатой. При различных измерениях очень часто имеем дело с двумя или тремя случайными величинами. Совместное рассмотрение двух или нескольких случайных величин приводит к понятию системы случайных величин. Условимся систему нескольких случайных величин X ,Y , . . . , W обозначать (X ,Y , . . . , W) Такая система называется также многомерной случайной величиной. При изучении системы случайных величин недостаточно изучить отдельно случайные величины, составляющие систему, а необходимо учитывать связи или зависимости между этими величинами.

При рассмотрении системы случайных величин удобно пользоваться геометрической интерпретацией системы. Например, систему двух случайных величин

В дальнейшем, при изучении системы случайных величин ограничимся подробным рассмотрением системы двух случайных величин.

Закон распределения вероятностей системы случайных величин

Законом распределения вероятностей системы случайных величин называется соответствие, устанавливающее связь между областями возможных значений данной системы случайных величин и вероятностями появления системы в этих областях.

Так же, как и для одной случайной величины, закон распределения системы случайных величин может быть задан в различных формах. Рассмотрим таблицу распределения вероятностей системы двух дискретных случайных величин. Пусть

Одномерную случайную величину иногда называют скалярной случайной величиной.

X и Y – дискретные случайные величины, возможные значения которых  где Тогда распределение системы таких случайных величин может быть охарактеризовано указанием вероятностей y того, что случайная величина X примет значение и одновременно с этим случайная величина Y примет значение . Вероятности фиксируются в таблице

Такая таблица называется таблицей распределения вероятностей системы двух дискретных случайных величин с конечным числом возможных значений. Все возможные события составляют полную группу несовместных событий, поэтомупри этом 

Функцией распределения вероятностей системы двух случайных величин называется функция двух аргументов, равная вероятности совместного выполнения двух неравенств 

Геометрически функцию распределения системы двух случайных величин можно интерпретировать как вероятность попадания случайной точки в левый нижний бесконечный квадрант с вершиной в точке плоскости XOY (см. рис.).

5. Функция распределения является неубывающей функцией по каждому из своих аргументов, то есть:

6. Вероятность попадания случайной точки (X,Y ) в произвольный прямоугольник со сторонами, параллельными координатным осям (см. рис.) вычисляется по формуле:

Плотность распределения вероятностей системы двух случайных величин

Предположим, что функция распределения F(x, y) всюду непрерывна и дважды дифференцируема21 (за исключением, быть может, конечного числа кривых). Тогда, смешанная частная производная функции F(x, y)

Функция называется плотностью распределения (или, дифференциальной функцией распределения) системы непрерывных случайных величин .
Геометрически эту функцию можно истолковать как поверхность, которую называют поверхностью распределения.
Зная плотность распределения можно определить вероятность попадания случайной точки в произвольную область D:

Используя последнюю формулу, выразим интегральную функцию F(x, y) распределения вероятностей системы двух непрерывных случайных величин через плотность распределения f (x, y):

Рассмотрим некоторые свойства плотности распределения системы двух непрерывных случайных величин:

Предполагается, что интегральная функция распределения вероятностей имеет непрерывную
смешанную частную производную второго порядка

если случайная величина (X,Y ) распределена на всей координатной плоскости (если же (X,Y ) распределена в некоторой плоской области 

Пример №1

Пусть плотность распределения системы двух случайных величин (X,Y ) задана выражением:

Найти параметр А. Определить функцию распределения F(x, y) и вероятность попадания случайной точки (X,Y ) в прямоугольник D с вершинами:

Решение. Использовав свойство 2 плотности распределения, найдём постоянную величину А:

Следовательно 

Определим теперь интегральную функцию распределения:

Таким образом, нетрудно теперь найти вероятность попадания случайной точки (X,Y ) в заданный прямоугольник D:

Условные законы распределения

Пусть известна плотность распределения системы двух случайных величин. Используя свойства функций распределения, можно вывести формулы для нахождения плотности распределения одной величины, входящей в систему:

Перейдём теперь к решению обратной задачи: по известным законам распределения отдельных случайных величин, входящих в систему, найти закон распределения системы. Легко увидеть, что в общем случае эта задача неразрешима. Действительно, с одной стороны, законы распределения отдельных случайных величин, входящих в систему, характеризуют каждую из случайных величин в отдельности, но ничего не говорят о том, как они взаимосвязаны. С другой стороны, искомый закон распределения системы должен содержать все сведения о случайных величинах системы, в том числе и о характере связей между ними. Таким образом, если случайные величины X ,Y взаимозависимы, то закон распределения системы не может быть выражен через законы распределения отдельных случайных величин, входящих в систему. Это приводит к необходимости введения условных законов распределения. Распределение одной случайной величины, входящей в систему, найденное при условии, что другая случайная величина, входящая в систему, приняла определённое значение, называется условным законом распределения.

Для дискретных случайных величин условным распределением составляющей
X при условии, чтоназывается совокупность условных вероятностей вычисленных в предположен, что случайная величина Y уже приняла значение Для нахождения пользуются формулой Заметим что Аналогично находим 

Условный закон распределения можно задавать как функцией распределения, так и плотностью распределения. Условная функция распределения обозначается F(x | y); условная плотность распределения обозначается 

Плотностью распределения для случайной величины X при условии, что случайная величина Y приняла определённое значение (условной плотностью распределения), назовём величину 

Аналогично, плотностью распределения для случайной величины Y при условии, что случайная величина X приняла определённое значение, назовём величинуОтсюда получаем или, с учётом формул (*)

Условная плотность распределения обладает всеми свойствами безусловной плотности распределения. В частности,

Числовые характеристики условных законов распределения

Для описания условных законов распределения можно использовать различные характеристики подобно тому, как для одномерных распределений. Наиболее важной характеристикой является условное математическое ожидание. Условным математическим ожиданием дискретной случайной величины X при Y = y ( y – определённое возможное значение случайной величины Y )

Мы записали условные законы распределения случайной величины X при условии, что другая случайная величина Y приняла определённое значение.

называется сумма произведений возможных значений X на их условные вероятности:

Для непрерывных случайных величин:где f x | y – условная плотность распределения случайной величины X приY = y . Аналогично, условным математическим ожиданием дискретной случайной величины Y при X = x ( x – определённое возможное значение случайной величины X ) называется сумма произведений возможных значений Y на их условные вероятности:Для непрерывных случайных величин:где – условная плотность распределения случайной величины Y при X = x. Аналогично вводятся условные дисперсии и условные моменты более высоких порядков (предлагаем это сделать самостоятельно).

Числовые характеристики системы двух случайных величин

Две случайные величины называются независимыми, если закон распределения одной из них не зависит от того, какие возможные значения приняла другая величина. Из этого определения следует, что условные распределения независимых случайных величин равны их безусловным распределениям. Укажем необходимые и достаточные условия независимости случайных величин.

ТЕОРЕМА 1: Для того чтобы случайные величины X и Y были независимыми, необходимо и достаточно, чтобы функция распределения
системы (X ,Y ) была равна произведению функций распределения составляющих: 

ТЕОРЕМА 2: Для того чтобы случайные величины X и Y были независимыми, необходимо и достаточно, чтобы плотность вероятности
системы (X ,Y ) была равна произведению плотностей вероятностей составляющих:

Для описания системы двух случайных величин кроме математических ожиданий и дисперсий составляющих используют и другие характеристики, к которым относятся корреляционный момент и коэффициент корреляции. Корреляционным моментом случайных величин X и Y называют математическое ожидание произведения отклонений этих величин:

Для вычисления корреляционного момента дискретных величин используют формулу:а для непрерывных величин:

Корреляционный момент служит для характеристики связи между величинами X и Y .
 

ТЕОРЕМА 3: Корреляционный момент двух независимых случайных величин X и Y равен нулю.
 

Замечание: из теоремы 3 следует, что если корреляционный момент двух случайных величин X и Y не равен нулю, то X и Y – зависимые случайные величины.
 

Коэффициентом корреляции случайных величин X и Y называют отношение корреляционного момента к произведению средних квадратических отклонений этих величин:Очевидно, коэффициент корреляции двух независимых случайных величин равен нулю (так как ).

Коррелированность и зависимость случайных величин

Две случайные величины X и Y называются коррелированными, если их корреляционный момент (или коэффициент корреляции) отличен от нуля; X и Y называют некоррелированными величинами, если их корреляционный момент равен нулю. Две коррелированные величины также и зависимы. Обратное утверждение не всегда имеет место, то есть если две величины зависимы, то они могут быть как коррелированными, так и некоррелированными. Другими словами, корреляционный момент двух зависимых величин может быть не равным нулю, но может и равняться нулю.

Заметим, что для нормально распределённых составляющих двумерной случайной величины понятия независимости и некоррелированности равносильны.

Если связаны линейной зависимостью Если , то говорят о положительной (или прямой) корреляции между
X и Y , то есть с возрастанием одной случайной величины другая случайная величина также возрастает.
Если , то говорят об отрицательной корреляции между X и Y , то есть с возрастанием одной случайной величины другая случайная величина убывает.
 

Функция и плотность распределения системы случайных величин

На практике очень часто приходится рассматривать системы более чем двух случайных величин. Функция распределения системы нескольких (более двух) случайных величин вводится как обобщение функции распределения системы двух случайных величин. Так, функцией распределения системы n случайных величин  называется функция n аргументов , равная вероятности
совместного выполнения n неравенств , то есть:

Эта функция является неубывающей функцией каждой переменной при фиксированных значениях других переменных. Если хотя бы одна из переменных стремится к , то функция распределения стремится к нулю. Если все переменные стремятся к, то функция распределения стремится к единице. Функция распределения каждой из величин, входящих в систему, получится, если в функции распределения системы все остальные аргументы положить равнымиАналогично одномерному случаю можно вывести формулу, связывающую функцию распределенияи плотность вероятности 

или что тоже самое Плотность распределения системы не может быть отрицательной:

Вероятность попадания случайной точки с координатамив n – мерную область Dвыражается интегралом Используя свойства функции распределения, получаем 

Плотность распределения каждой из величин, входящих в систему, получится, если плотность распределения системы проинтегрировать в бесконечных пределах по всем остальным аргументам. Например,

Числовые характеристики произвольного числа случайных величин

Основными числовыми характеристиками, с помощью которых может быть охарактеризована система n случайных величин являются следующие:

• 1) математические ожидания случайных величин, входящих в системукоторые в совокупности определяют математическое ожидание n –мерного случайного вектора;
• 2) дисперсии случайных величин, входящих в систему;
• 3) корреляционные моменты каждой пары из n случайных величин характеризующие попарно корреляцию всех случайных величин, входящих в систему.

Зная корреляционные моменты, можно найти коэффициенты корреляции которые характеризуют степень связи между каждой парой случайных величин. Так как дисперсия каждой из случайных величин системы есть не что иное, как частный случай корреляционного момента, а именно: корреляционный момент величины и той же величины 

то все корреляционные моменты и дисперсии располагают в виде прямоугольной таблицы (матрицы)

которая называется корреляционной матрицей системы n случайных величин.

Из определения корреляционного момента следует, что  . Это означает, что элементы корреляционной матрицы, расположенные симметрично по отношению к главной диагонали, равны. В этой связи часто для простоты в корреляционной матрице заполняют только её половину (правый верхний треугольник):

Если случайные величины системы некоррелированы, имеемпри Следовательно, корреляционная матрица системы некоррелированных случайных величин имеет вид:

Такая матрица, как вам известно, называется диагональной. Вместо
корреляционной матрицы часто используют нормированную корреляционную матрицу. Матрица, элементами которой являются коэффициенты корреляции, называется нормированной корреляционной матрицей. Все элементы главной диагонали нормированной корреляционной матрицы равны единице. Нормированная корреляционная матрица имеет вид:

Задача 1.

Закон распределения двумерной дискретной случайной величины (X ,Y ) задан таблицей 

Найти:
– собственные законы распределения случайных величин X и Y ;
– математические ожидания M(X) M(Y );
– дисперсии D(X), D(Y );
– корреляционный момент ;
– коэффициент корреляции
– закон распределения случайной величины X при условии, что случайная
величина Y принимает своё наименьшее значение.

Решение. Складывая вероятности по строкам, получим закон распределения случайной величины X в виде ряда распределения

Складывая вероятности по столбцам, получим закон распределения случайной величины Y в виде ряда распределения

Найдём математические ожидания и дисперсии составляющих:

Найдём корреляционный момент и коэффициент корреляции

Найдём закон распределения случайной величины X при условии, что случайная величина Y принимает своё наименьшее значение, то есть при условии, что    Искомый закон распределения, как ранее отмечалось,
определяется совокупностью условных вероятностей     где 

Следовательно, искомый закон распределения имеет вид:

Задача 2.

Вне области плотность распределения двумерной случайной величины (X ,Y ) равна 0; в области D
плотность распределения 

Найти:

Решение. Для нахождения параметра А воспользуемся формулой 

тогда 

Получим 

Найдём теперь вероятность попадания двумерной случайной величины в плоскую область G:

Далее, найдём одномерные плотности распределения:

Итак 

Найдём математические ожидания и дисперсии составляющих 

далее тогда 

Так как , то нетрудно вычислить 

Что такое многомерные случайные величины

Ранее мы рассматривали случайные величины, возможные значения которой определялись одним числом. Такие величины называют одномерными. Однако часто результат испытания характеризуется не одной случайной величиной, а некоторой системой случайных величин, которую называют многомерной случайной величиной или случайным вектором.

Понятие многомерной случайной величины

Многомерная случайная величина, случайный вектор, система случайных величин – это все различные интерпретации одного и того же математического объекта. В зависимости от удобства изложения мы будем пользоваться той или иной интерпретацией.

Так же, как и в случае одномерных случайных величин, случайные величины входящие в систему, могут быть как дискретными, так и непрерывными. Например, успеваемость студентов вуза, которая характеризуется системой n случайных величин – оценками по различным дисциплинам, проставленными в зачетной книжке – является дискретной многомерной величиной. А размер деталей, который характеризуются длиной (X), шириной (Y) и высотой (Z) – является непрерывной трехмерной величиной.

Геометрически двумерную (X, Y) и трехмерную (X, Y, Z) случайные величины можно изобразить случайной точкой плоскости Oxy или трехмерного пространства Oxyz. При этом случайные величины X, Y или X, Y, Z являются составляющими этих векторов. В случае n-мерного пространства (n > 3) также говорят о случайной точке этого пространства, хотя геометрическая интерпретация в этом случае теряет свою наглядность.

Пример №2

Пусть вероятностный эксперимент состоит в рождении ребенка. Тогда каждому элементарному событию  (каждому новорожденному) можно поставить в соответствие следующие числа:  – рост,  – вес,  – пол (0 или 1). Таким образом , эксперимент  описывается трехмерной случайной величиной, или системой трех случайных величин, или трехмерным вектором 

Пример №3

Пусть эксперимент состоит в измерении коэффициента усиления транзистора  на высокой частоте. Тогда элементарное событие  – это  одного транзистора и ему можно поставить в соответствие следующие случайные величины:  – коэффициент передачи тока на высокой частоте,  – обратный ток коллекторного перехода,  – входная проводимость,  – емкость эмиттерного перехода,  – емкость коллекторного перехода,  – выходная проводимость. Все перечисленные параметры для каждого транзистора при массовом производстве полупроводниковых приборов имеют отклонения от некоторого среднего значения (ввиду сложности поддержания технологического процесса стабильным для каждого кристалла при напылении, диффузии, травлении и т. д.). Поэтому их можно считать случайными величинами, и от значения каждого из них зависит коэффициент усиления транзистора  на высокой частоте. Тогда в данном случае эксперимент описывается шестимерной случайной величиной, или шестимерным вектором, или системой шести случайных величин.

При изучении многомерных случайных величин удобно пользоваться следующей геометрической интерпретацией. Например (рис. 3.1), систему двух случайных величин  можно рассматривать как случайную точку на плоскости с координатами  или как случайный вектор на плоскости со случайными составляющими 

Пример №4

Пусть двумерная случайная величина  задана плотностью распределения.

 Найти коэффициент  и показать, что случайные величины  независимые.

Решение.

Для определения коэффициента  используем условие нормировки

Учтем область определения 

откуда 

1-й способ проверки независимости 

Найдем плотности распределений отдельных составляющих  и применяя (3.4):

Подставим эти выражения в условие (3.13):

Значит случайные величины  независимы.

2-й способ проверки независимости 

Найдем условную плотность распределения:

Видим, что выполняется условие (3.12), значит случайные величины независимы.

3-й способ проверки независимости 

Все предыдущие вычисления можно не делать, а сослаться на следствие к доказанной выше теореме. Видим, что двумерная плотность  представима в виде произведения двух сомножителей, один из которых содержит только  а другой только  составляющие. Тогда на основании следствия из доказанной выше теоремы случайные величины  независимы.

Пример №5

Двумерная случайная величина равномерно распределена внутри области  выделенной на рис. 3.8 жирными прямыми:

Найти константу

Решение.

Запишем уравнения прямых (см. рис. 3.7): 

Используем условие нормировки 

Этот интеграл вычислим в виде суммы трех интегралов, разбивая область  на три части (пунктирные прямые на рис. 3.8):

Закон распределения вероятностей двумерной дискретной случайной величины

Так же как и для одномерной случайной величины наиболее полным, исчерпывающим описанием многомерной случайной величины является закон ее распределения. При конечном множестве возможных значений многомерной случайной величины такой закон может быть задан в виде таблицы (матрицы), содержащей все возможные сочетания значений каждой из одномерных величин, входящих в систему, и соответствующие им вероятности. Так, если рассматривается двумерная дискретная случайная величина (X, Y), то ее двумерное распределение можно представить в виде таблицы распределения (табл. 8.1), в каждой клетке (i, j) которой располагаются вероятности произведения событий

Так как события состоящие в том, что случайная величина Х примет значение , а случайная величина Y – значение , несовместны и единственно возможны, то сумма их вероятностей равна единице, т.е. Итоговые столбцы или строки таблицы распределения (X, Y) представляют соответственно распределение одномерных составляющих Действительно, распределение одномерной случайной величины Х можно получить, вычислив вероятность события как сумму вероятностей несовместных событий

Таким образом, чтобы по таблице распределения (табл. 8.1) найти вероятность того, что одномерная случайная величина примет определенное значение, надо просуммировать вероятности pij из соответствующего этому значению строки (столбца) данной таблицы.

Пример №6

Закон распределения дискретной двумерной случайной величины (X, Y) задан в табл. 8.2. Найти законы распределения одномерных случайных величин X и Y.

Решение:

Случайная величина Х может принять значения: Х = 2 с вероятностью = 0,05 + 0,15 = 0,20; Х = 4 с вероятностью = 0,35 + 0,20 = 0,55; Х = 6 с вероятностью = 0,20 + 0,05 = 0,25. т.е. ее закон распределения

Аналогично закон распределения Y

Функция распределения многомерной случайной величины

При изучении одномерных случайных величин уже говорилось, что самой универсальной характеристикой случайной величины является функция распределения. Она существует для всех случайных величин: как дискретных, так и непрерывных. Точно также функция распределения полностью характеризует и многомерную случайную величину.

Определение: Функцией распределения n-мерной случайной величины выражающая вероятность

совместного выполнения n неравенств

В случае двумерной случайной величины XY функция распределения определяется неравенством

Геометрически функция распределения F(x, y) означает вероятность попадания случайной точки (X, Y) в заштрихованную область – бесконечный квадрант, лежащий левее и ниже точки M(x, y). Правая и верхняя границы области в квадрант не включаются – это означает, что функция непрерывна с л е в а по каждому аргументу. В случае двумерной дискретной случайной величины ее функция распределения определяется по формуле: где суммирование вероятностей распространяется на все j, для которых и все i, для которых

Отметим свойства функции распределения двумерной случайной величины.

1. Функция распределения есть неотрицательная функция, заключенная между нулем и единицей, т.е.

2. Функция распределения есть неубывающая функция по каждому из аргументов, т.е.

3. Если хотя бы один из аргументов обращается в – ∞, то функция распределения равна нулю, т.е.

4. Если один из аргументов обращается в + ∞, то функция распределения становится равной функции распределения случайной величины, соответствующей другому аргументу, т.е.

5. Если оба аргумента равны + ∞, то функция распределения равна единице:

Геометрически функция распределения есть некоторая поверхность, обладающая перечисленными свойствами. Для дискретной двумерной случайной величины (X, Y) ее функция распределения представляет собой некоторую ступенчатую поверхность, ступени которой соответствуют скачкам функции F(x, y). Зная функцию распределения F(x, y) можно найти вероятность попадания случайной точки (X, Y) в пределы прямоугольника ABCD (рис. 8.2). Эта вероятность равна вероятности попадания в бесконечный квадрант с вершиной минус вероятность попадания в квадранты с вершинами в точкахиплюс вероятность попадания в квадрант с вершиной в точке (так как эта вероятность вычиталась дважды), т.е.

Плотность вероятности двумерной случайной величины

Для непрерывной двумерной случайной величины, так же как и для одномерной, существует понятие плотности вероятности.

Определение: Плотностью вероятности (или совместной плотностью) непрерывной двумерной случайной величины XY называется вторая смешанная частная производная ее функции распределения, т.е.

Геометрически плотность вероятности двумерной случайной величины XY представляет собой поверхность распределения в пространстве Oxyz.

Отметим свойства плотности вероятности двумерной случайной величины.

1. Плотность вероятности двумерной случайной величины есть неотрицательная функция, т.е.

2. Вероятность попадания непрерывной случайной величины XY в область D равна

3. Функция распределения непрерывной случайной величины может быть выражена через ее плотность вероятности по формуле:

4. Двойной несобственный интеграл в бесконечных пределах от плотности вероятности двумерной случайной величины равен единице: Зная плотность вероятности двумерной случайной величины (X, Y) можно найти функции распределения и плотность вероятностей ее одномерных составляющих X и Y.

Так как в соответствии с (8.7) то взяв в формуле (8.12) соответственно x = + ∞ и y = + ∞, получим функции распределения одномерных случайных величин X и Y:

Дифференцируя функции распределения соответственно по аргументам x и y, получим плотности вероятности одномерных случайных величин X и Y:

т.е. несобственный интеграл в бесконечных пределах от совместной плотности двумерной случайной величины по аргументу x дает плотность вероятности , а по аргументу y – плотность вероятности

Условные законы распределения двумерной случайной величины

Итак, мы выяснили, как по известному закону распределения системы двух случайных величин определить законы распределения одномерных величин, входящих в систему.

Естественно возникает вопрос: нельзя ли по законам распределения одномерных величин, входящих в систему, найти закон распределения системы в целом? Оказывается, в общем случае этого сделать нельзя. Для того, чтобы полностью описать систему случайных величин, недостаточно знать распределение каждой из ее составляющих. Нужно еще знать зависимость между величинами, входящими в систему. Эта зависимость характеризуется с помощью условных законов распределения.

Определение: Условным законом распределения одной из одномерных составляющих двумерной случайной величины XY называется ее закон распределения, вычисленный при условии, что другая составляющая приняла определенное значение (или попала в определенный интервал).

Для дискретных случайных величин условные вероятности находятся по формулам:

В случае непрерывных случайных величин необходимо определить плотность вероятности условных распределений. Заменяя в формулах для дискретных величин вероятности событий «элементами вероятностей», получим:

т.е. условная плотность вероятности одной из одномерных составляющих двумерной случайной величины равно отношению ее совместной плотности к плотности вероятности другой составляющей.

Пример №7

По данным примера 8.1 найти условный закон распределения составляющей Х при условии, сто составляющая Y приняла значение y1 =1.

Решение:

Искомый закон определяется следующей совокупностью условных вероятностей

Воспользовавшись формулой (8.16) и учитывая, что= 0,6 (пример 8.1), получаем:

Важной характеристикой условного распределения вероятностей является условное математическое ожидание. Условным математическим ожиданием дискретной случайной величины Y при Х = х (х – определенное возможное значение Х) называют произведение возможных значений Y на их условные вероятности:

Для непрерывных величин

Аналогично определяется условное математическое ожидание случайной величины Х.

Пример №8

Найти условное математическое ожидание составляющей Y при условии, что составляющая Х примет значение

Решение:

Найдем, для чего сложим вероятности, помещенные в первом столбце табл. 8.2

Найдем условное распределение вероятностей величины Y при при

Найдем условное математическое ожидание по формуле (8.19):

Условное математическое ожидание случайной величины Y при Х = х, т.е. Mx(Y), есть функция от х, называемая функцией регрессии или просто регрессией Y по Х. Аналогично My(X) называется функцией регрессии или регрессией X по Y. Графики этих функций называются соответственно линиями регрессии (или кривыми регрессии) Y по Х и Х по Y.

Зависимые и независимые случайные величины

Ранее мы назвали две случайные величины независимыми, если закон распределения одной из них не зависит от того, какие возможные значения приняла другая величина. Теперь можно дать общее определение независимости случайных величин, основанное на независимости событий X < x и Y < y, т.е. функций распределения

Определение: Случайные величины X и Y называются независимыми, если их совместная функция распределения F(x, y) представляется в виде произведения функций этих случайных величин, т.е.

При невыполнении этого равенства случайные величины называются зависимыми. Дифференцируя дважды равенство (8.19) по аргументам x и y, получим

т.е. для независимых непрерывных случайных величин их совместная плотность равна произведению плотностей вероятностей этих случайных величин.

Другими словами, независимость двух случайных величин, что условные вероятности каждой из них совпадают с соответствующими безусловными плотностями вероятностей.

Числовые характеристики двумерной случайной величины

Для описания системы двух случайных величин, кроме математических ожиданий и дисперсий составляющих, используются и другие характеристики, к числу которых относятся ковариация и коэффициент корреляции.

Определение: Ковариацией (или корреляционным моментом) случайных величин X и Y называется математическое ожидание произведения отклонений этих величин от своих математических ожиданий, т.е.

Из определения следует, что Kxy = Kyx.

Для дискретных случайных величин

Для непрерывных случайных величин

Ковариация двух случайных величин характеризует как степень зависимости случайных величин, так и их рассеяние вокруг точки (ax, ay).

Отметим свойства ковариации:

1. Ковариация двух независимых случайных величин равна нулю.

2. Ковариация двух случайных величин равна математическому ожиданию их произведения минус произведение математических ожиданий, т.е.

3. Ковариация двух случайных величин по абсолютной величине не превосходит произведения их средних квадратических отклонений, т.е.

Не трудно заметить, что ковариация имеет размерность, равную произведению размерностей величин X и Y. Другими словами, величина ковариации зависит от единиц измерения случайных величин. Такая особенность затрудняет сравнение ковариаций различных систем случайных величин. Для устранения этого недостатка вводится безразмерная характеристика – коэффициент корреляции.

Определение: Коэффициентом корреляции двух случайных величин называется отношение их ковариации к произведению средних квадратических отношений этих величин, т.е.

Из определения следует, что

Отметим свойства коэффициента корреляции.

1. Коэффициент корреляции принимает значения на отрезке

2. Если случайные величины независимы, то их коэффициент корреляции равен нулю, т.е. ρ = 0.

3. Если коэффициент корреляции двух случайных величин равен (по абсолютной величине) единице, то между этими случайными величинами существует линейная функциональная зависимость.

Пример №9

Определить ковариацию и корреляционный момент случайных величин Х и Y.

Решение:

В примере были получены следующие распределения одномерных случайных величин

Найдем математические ожидания и средние квадратические отклонения этих случайных величин:

Для нахождения математического ожидания M(XY) произведения случайных величин Х и Y можно составить закон распределения произведения двух дискретных случайных величин, а затем по нему найти M(XY). Однако M(XY) можно найти непосредственно по табл. 8.2 распределения двумерной случайной величины (X, Y) по формуле:

где двойная сумма означает суммирование по всем mn клеткам таблицы (m – число строк, n – число столбцов):

Вычисляем ковариацию по формуле (8.26):

Вычисляем коэффициент корреляции по формуле (8.28):

т.е. между случайными величинами Х и Y существует отрицательная линейная зависимость.

1

Введем теперь по отдельности определения условного закона распределения для составляющей $X$ и для составляющей $Y$.

Условные законы распределения составляющих дискретной двумерной случайной величины

Пусть $(X,Y)$ – дискретная двумерная случайная величина.

Если известен закон распределения двумерной случайной величины $(X,Y)$, то условная составляющая $X$ представляется в виде

Если известен закон распределения двумерной случайной величины $(X,Y)$, то условная составляющая $X$ представляется в виде

Условные законы распределения составляющих непрерывной двумерной случайной величины

Пусть $(X,Y)$ – непрерывная двумерная случайная величина.

Напомним, что для непрерывной случайной величины существует понятие плотности распределения случайной величины.

«Условные законы распределения составляющих системы» 👇

Приведем еще две формулы для вычисления условных плотностей распределения. Если известна плотность совместного распределения, то условные плотности по составляющей $X$ и по составляющей $Y$ можно найти по формулам:

Введем несколько свойств для функций условной плотности распределения.

Свойство 1: Функции условной плотности распределения неотрицательны на всей области определения, то есть:

Свойство 2: Выполняются следующие равенства:

Условное математическое ожидание

Введем формулы для вычисления условных математических ожиданий для различных случаев.

1. Условное математическое ожидание дискретной случайной величины $Y$ при $X=x$:

1. Условное математическое ожидание дискретной случайной величины $X$ при $Y=y$:

1. Условное математическое ожидание непрерывной случайной величины $Y$ при $X=x$:

1. Условное математическое ожидание непрерывной случайной величины $X$ при $Y=y$:

Пример задачи на условное распределение