Как найти оценку математического ожидания по выборке

Оценка математического ожидания

Оценкой
математического ожидания является
среднее арифметическое значений
:

.

В
случае, когда n
велико оценка
математического ожидания
вычисляется
по формуле:


,

где
хi
– значения
случайной величины, mi
частоты
появления значений,
n
– общее количество проведенных
испытаний, k
количество значений случайной величины.
Если частоты
mi
не учитывают,
то используют формулу:


,

где
хi
– значения
случайной величины,
n
– общее количество проведенных
испытаний.

Оценку
математического ожидания называют
также выборочной
средней
.

Оценка дисперсии

Запишем формулу
дисперсии дискретной случайной
величины:

Так
как

,
а

,
то получим:


.

Полученная
величина называется дисперсией
выборки и обозначается

.

Однако, эта оценка

является смещенной
оценкой для дисперсии.

Несмещенной
оценкой дисперсии

считают величину
:

.

Несмещенную
оценку дисперсии можно вычислять в
зависимости от представления
статистического ряда по формулам:

или
.

Оценка среднего квадратического отклонения

Несмещенная
оценка
среднего квадратического отклонения


.

Оценка
средней квадратической погрешности
среднего арифметического

Оценка
среднеквадратической погрешности
среднего арифметического вычисляется
по формуле:

.

При
решении задач на вычисление оценок
дисперсий расчеты удобно проводить в
таблице.

Интервальные оценки

Интервальной
оценкой называется множество точечных
оценок, которое зависит от результатов
наблюдений и, следовательно, является
случайным. Интервальной называется
оценку, которая определяется двумя
числами – концами интервала. Поэтому
каждой интервальной оценке ставится
в соответствие доверительная вероятность
или надежность, с которой эта оценка
накроет неизвестный параметр. В качестве
надежности берут число близкое к
единице.

Вероятность того,
что интервал (**
заключает в
себе (покрывает) неизвестный параметр
,
равна p:
Р**=p.
Доверительным
называется интервал (**,
который
покрывает неизвестный параметр с
заданной надежностью .

Наиболее часто p
равно 0,9;
0,95; 0,99; 0,999
.
При исследованиях в фармации, медицине
и биологии доверительную вероятность
принимают равной 0,95.

Нахождение
доверительного интервала для оценки

нормального

распределения при
неизвестном
.
Распределение Стьюдента

Пусть случайная
величина Х
имеет нормальное распределение, причем

и
неизвестны. По данным выборки можно
построить случайную величину Т
(ее возможные значения обозначим через
t):


,
где


выборочная средняя из n
наблюдений;

– оценка среднего квадратического
отклонения выборочной средней (оценка
среднеквадратической погрешности
среднего арифметического вычисляется
по формуле:


)

Распределение
Т с f=n-1 степенями свободы называется
t-распределением или распределением
Стьюдента. Функция плотности вероятности
зависит от числа степеней свободы f и
не зависит от дисперсии случайных
величин .
Пользуясь распределением Стьюдента
можно определить доверительный интервал,
покрывающий неизвестный параметр μ с
надежностью 


.

Таким образом,
интервальной оценкой математического
ожидания является доверительный
интервал

.

Решение задач

1. Построить полигон
относительных частот, если дискретный
ряд распределения представлен в
таблице:

хi

37

38

39

40

41

42

43

mi

1

5

5

8

15

4

12

Решение.
Найдем объем выборки

.
Так как относительная частота

,
запишем в таблицу полученные значения:

хi

37

38

39

40

41

42

43

mi

1

5

5

8

15

4

12

p*

0,02

0,1

0,1

0,16

0,3

0,08

0,24

=1

Проконтролируем
результат, вычислив сумму полученного
ряда (по определению

).
Построим полигон относительных частот
(рис. 9.3).

Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]

  • #
  • #
  • #
  • #
  • #
  • #
  • #
  • #
  • #
  • #
  • #

Задача 55. Из генеральной совокупности извлечена выборка объема N, заданная вариантами ХI и соответствующими им частотами. Найти несмещенную оценку генеральной средней.

Варианта ХI

2

5

7

10

Частота Ni

16

12

8

14

Решение. Множество всех объектов, подлежащих изучению, называется Генеральной совокупностью. Множество случайно отобранных объектов называется выборочной совокупностью или Выборкой.

Для оценки неизвестных параметров теоретического распределения служат статистические оценки. Статистическая оценка, определяемая одним числом, называется Точечной оценкой.

Точечная статистическая оценка, математическое ожидание которой равно оцениваемому параметру при любом объеме выборки, называется Несмещенной оценкой. Статистическая оценка, математическое ожидание которой не равно оцениваемому параметру является Смещенной.

Несмещенной оценкой генеральной средней (математического ожидания) служит выборочная средняя

(1),

Где ХI – варианта выборки (элемент выборки); Ni – частота варианты ХI (число наблюдений варианты ХI); – объем выборки (число элементов совокупности).

Объем данной выборки равен .

Далее по формуле (1) вычисляем несмещенную оценку генеральной средней:

Задача 56. По выборке объема N=41 найдена смещенная оценка генеральной дисперсии . Найти несмещенную оценку дисперсии генеральной совокупности.

Решение. Смещенной оценкой генеральной дисперсии служит выборочная дисперсия

Несмещенной оценкой генеральной дисперсии является «исправленная дисперсия»

или

Таким образом, мы получаем искомую несмещенную оценку дисперсии генеральной совокупности:

Задача 57. Найти доверительный интервал для оценки с надежностью P=0,95 неизвестного математического ожидания A нормально распределенного признака Х генеральной совокупности, если даны генеральное среднее квадратическое отклонение S=5, выборочная средняя , а объем выборки N=25.

Решение. Интервальной оценкой называется интервал, покрывающий оцениваемый параметр. Доверительным интервалом является интервал, который с данной надежностью покрывает оцениваемый параметр.

Для оценки математического ожидания A нормально распределенного количественного признака Х по выборочной средней при известном среднем квадратическом отклонении s генеральной совокупности служит доверительный интервал

,

Где – точность оценки, T – значение аргумента функции Лапласа (приложение, таблица 2).

В данной задаче T находим из условия . По таблице 2 определяем . Таким образом, T=1,96.

Далее получаем

Или

Задача 58. По данным N=9 независимых равноточных измерений некоторой физической величины найдены среднее арифметическое результатов измерений и исправленное среднее квадратическое отклонение S=6. Оценить истинное значение измеряемой величины при помощи доверительного интервала с надежностью =0,99.

Решение. Оценкой математического ожидания A нормально распределенного количественного признака Х в случае неизвестного среднего квадратического отклонения является доверительный интервал

.

По таблице 3 приложения, по заданным N и находим =3,36.

Таким образом

Окончательно получаем

Задача 59. Из генеральной совокупности извлечена выборка объема N. Оценить с надежностью =0,95 математическое ожидание A нормально распределенного признака Х генеральной совокупности по выборочной средней с помощью доверительного интервала.

Значение признака ХI

-2

1

1

3

4

5

Частота Ni

2

1

2

2

2

1

Решение. Объем данной выборки равен

По данным задачи находим выборочную среднюю:

Далее находим исправленное среднее квадратическое отклонение S:

Для оценки математического ожидания A нормально распределенного количественного признака Х в случае неизвестного среднего квадратического отклонения служит доверительный интервал

.

По таблице 3 приложения по заданным N и находим =2,26.

Таким образом

Окончательно получаем

Задача 60. Построить полигон частот и эмпирическую функцию по данному распределению выборки:

Варианты ХI

-3

0

1

4

6

7

Частоты Ni

3

6

1

2

5

1

Решение. Полигоном частот называют ломаную, отрезки которой соединяют точки ; ;…;, где ХI – варианты выборки, Ni – соответствующие им частоты.

Полигон частот для данного распределения изображен на рисунке 15.

Рис. 15

Эмпирической функцией распределения (функцией распределения выборки) называют функцию , определяющую для каждого значения X относительную частоту события :

,

Где – число вариант, меньших Х; N – объем выборки.

Из определения следует, что .

Найдем эмпирическую функцию распределения.

Объем данной выборки равен =18.

Если , то =0 (так как -3 – наименьшая варианта). Если , то значение , а именно наблюдалось 3 раза, следовательно, . При значения , а именно и наблюдались 3+6=9 раз, следовательно, .

Аналогично получаем, что при функция распределения ; при функция распределения ; при функция распределения . Далее, если , то (так как 7 – наибольшая варианта).

Таким образом, эмпирическая функция распределения равна:

График полученной эмпирической функции распределения изображен на рисунке 16.

Задача 61. Найти методом сумм асимметрию и эксцесс по заданному распределению выборки объема N=100:

Варианта ХI

48

52

56

60

64

68

72

76

80

84

Частота Ni

2

4

6

8

12

30

18

8

7

5

Решение. Асимметрия эмпирического распределения определяется равенством:

,

Где – центральный эмпирический момент третьего порядка, вычисляемый по формуле:

Эксцесс эмпирического распределения определяется равенством:

,

Где – центральный эмпирический момент четвертого порядка, вычисляемый по формуле:

Асимметрия и эксцесс служат для оценки отклонения эмпирического распределения от нормального. Для нормального распределения эти характеристики равны нулю. Поэтому, если для изучаемого распределения асимметрия и эксцесс имеют небольшие значения, то можно предположить близость этого распределения к нормальному. Наоборот, большие значения асимметрии и эксцесса указывают на значительное отклонение от нормального. Кроме того, если эксцесс положительный, то распределение будет островершинным; если отрицательный, то распределение будет плосковершинным по сравнению с нормальным распределением.

Для практического расчета асимметрии и эксцесса непосредственно пользоваться вышеуказанными формулами довольно затруднительно, поэтому воспользуемся методом сумм. Составим расчетную таблицу 1, для этого:

1) Запишем варианты в первый столбец.

2) Запишем частоты во второй столбец; сумму частот (100) поместим в нижнюю клетку столбца.

3) В качестве ложного нуля С выберем варианту (68), которая имеет наибольшую частоту (в качестве С можно взять любую варианту, расположенную примерно в середине столбца); в клетках строки, содержащей ложный нуль, запишем нули; в четвертом столбце над и под уже помещенным нулем запишем еще по одному нулю.

4) В оставшихся незаполненными над нулем клетках третьего столбца (исключая самую верхнюю) запишем последовательно накопленные частоты:

2; 2+4=6; 6+6=12; 12+8=20; 20+12=32.

Сложив все накопленные частоты, получим число B1=72, которое поместим в верхнюю клетку третьего столбца. В оставшихся незаполненными под нулем клетках третьего столбца (исключая самую нижнюю) запишем последовательно накопленные частоты:

5; 5+7=12; 12+8=20; 20+18=38.

Сложив все накопленные частоты, получим число A1=75, которое поместим в нижнюю клетку третьего столбца.

5) Аналогично заполняется четвертый столбец, причем суммируют частоты третьего столбца. Сложив все накопленные частоты, расположенные над нулем, получим число B2=70, которое поместим в верхнюю клетку четвертого столбца. Сумма накопленных частот, расположенных под нулем, равна числу A2=59, которое поместим в нижнюю клетку четвертого столбца.

6) Для заполнения столбца 5 запишем нуль в клетке строки, содержащей ложный нуль (68); над этим нулем и под ним поставим еще по два нуля. В клетках над нулями запишем накопленные частоты, для чего просуммируем частоты столбца 4 сверху вниз; в итоге будем иметь следующие накопленные частоты:

2; 2+8=10; 10+20=30.

Сложив накопленные частоты, получим число B3=42, которое поместим в верхнюю клетку пятого столбца. В клетках под нулями запишем накопленные частоты, для чего просуммируем частоты столбца 4 снизу вниз; в итоге будем иметь следующие накопленные частоты:

5; 5+17=22.

Сложив накопленные частоты, получим число A3=27, которое поместим в нижнюю клетку пятого столбца.

7) Аналогично заполняется столбец 6, причем суммируют частоты столбца 5.

В итоге получим расчетную таблицу 1:

Расчетная таблица 1

1

2

3

4

5

6

ХI

Ni

B1=72

B2=70

B3=42

B4=14

48

2

2

2

2

2

52

4

6

8

10

12

56

6

12

20

30

0

60

8

20

40

0

0

64

12

32

0

0

0

68

30

0

0

0

0

72

18

38

0

0

0

76

8

20

37

0

0

80

7

12

17

22

0

84

5

5

5

5

5

 

N=100

A1=75

A2=59

A3=27

A4=5

Теперь найдем Di (I=1, 2, 3) и si (I=1, 2, 3, 4):

; ; ;

; ;

; .

Найдем условные моменты первого, второго, третьего и четвертого порядков:

; ;

;

.

Найдем далее центральные эмпирические моменты третьего и четвертого порядков, учитывая, что шаг (разность между двумя соседними вариантами):

;

Так как дисперсия , то выборочное среднее квадратическое отклонение .

Учитывая определения асимметрии и эксцесса, окончательно получаем:

; .

< Предыдущая   Следующая >

Содержание:

Точечные оценки:

Пусть случайная величина имеет неизвестную характеристику а. Такой характеристикой может быть, например, закон распределения, математическое ожидание, дисперсия, параметр закона распределения, вероятность определенного значения случайной величины и т.д. Пронаблюдаем случайную величину n раз и получим выборку из ее возможных значений Точечные оценки, свойства оценок - определение и вычисление с примерами решения

Существует два подхода к решению этой задачи. Можно по результатам наблюдений вычислить приближенное значение характеристики, а можно указать целый интервал ее значений, согласующихся с опытными данными. В первом случае говорят о точечной оценке, во втором – об интервальной.

Определение. Функция результатов наблюдений Точечные оценки, свойства оценок - определение и вычисление с примерами решения

Для одной и той же характеристики можно предложить разные точечные оценки. Необходимо иметь критерии сравнения оценок, для суждения об их качестве. Оценка Точечные оценки, свойства оценок - определение и вычисление с примерами решения как функция случайных результатов наблюдений Точечные оценки, свойства оценок - определение и вычисление с примерами решения сама является случайной величиной. Значения Точечные оценки, свойства оценок - определение и вычисление с примерами решения найденные по разным сериям наблюдений, могут отличаться от истинного значения характеристики Точечные оценки, свойства оценок - определение и вычисление с примерами решения в ту или другую сторону. Естественно потребовать, чтобы оценка систематически не завышала и не занижала оцениваемое значение, а с ростом числа наблюдений становилась более точной. Формализация названных требований приводит к следующим понятиям.

Определение. Оценка называется несмещенной, если ее математическое ожидание равно оцениваемой величине: Точечные оценки, свойства оценок - определение и вычисление с примерами решения В противном случае оценку называют смещенной.

Определение. Оценка называется состоятельной, если при увеличении числа наблюдений она сходится по вероятности к оцениваемой величине, т.е. для любого сколь угодно малого Точечные оценки, свойства оценок - определение и вычисление с примерами решения

 Точечные оценки, свойства оценок - определение и вычисление с примерами решения

Если известно, что оценка Точечные оценки, свойства оценок - определение и вычисление с примерами решения несмещенная, то для ее состоятельности достаточно, чтобы

Точечные оценки, свойства оценок - определение и вычисление с примерами решения

Последнее условие удобно для проверки. В качестве меры разброса значений оценки Точечные оценки, свойства оценок - определение и вычисление с примерами решения относительно Точечные оценки, свойства оценок - определение и вычисление с примерами решения можно рассматривать величину Точечные оценки, свойства оценок - определение и вычисление с примерами решения Из двух оценок предпочтительней та, для которой эта величина меньше. Если оценка имеет наименьшую меру разброса среди всех оценок характеристики, построенных по Точечные оценки, свойства оценок - определение и вычисление с примерами решения наблюдениям, то оценку называют эффективной.

Следует отметить, что несмещенность и состоятельность являются желательными свойствами оценок, но не всегда разумно требовать наличия этих свойств у оценки. Например, может оказаться предпочтительней оценка хотя и обладающая небольшим смещением, но имеющая значительно меньший разброс значений, нежели несмещенная оценка. Более того, есть характеристики, для которых нет одновременно несмещенных и состоятельных оценок.

Оценки для математического ожидания и дисперсии

Пусть случайная величина имеет неизвестные математическое ожидание и дисперсию, причем Точечные оценки, свойства оценок - определение и вычисление с примерами решения Если Точечные оценки, свойства оценок - определение и вычисление с примерами решения– результаты Точечные оценки, свойства оценок - определение и вычисление с примерами решения независимых наблюдений случайной величины, то в качестве оценки для математического ожидания можно предложить среднее арифметическое наблюдаемых значений Точечные оценки, свойства оценок - определение и вычисление с примерами решения

Несмещенность такой оценки следует из равенствТочечные оценки, свойства оценок - определение и вычисление с примерами решения

В силу независимости наблюдений Точечные оценки, свойства оценок - определение и вычисление с примерами решения

При условии Точечные оценки, свойства оценок - определение и вычисление с примерами решения имеем Точечные оценки, свойства оценок - определение и вычисление с примерами решения что означает состоятельность оценки Точечные оценки, свойства оценок - определение и вычисление с примерами решения.

Доказано, что для математического ожидания нормально распределенной случайной величины оценка Точечные оценки, свойства оценок - определение и вычисление с примерами решения еще и эффективна.

Оценка математического ожидания посредством среднего арифметического наблюдаемых значений наводит на мысль предложить в качестве оценки для дисперсии величину

 Точечные оценки, свойства оценок - определение и вычисление с примерами решения

Преобразуем величину Точечные оценки, свойства оценок - определение и вычисление с примерами решения обозначая для краткости Точечные оценки, свойства оценок - определение и вычисление с примерами решения через Точечные оценки, свойства оценок - определение и вычисление с примерами решенияТочечные оценки, свойства оценок - определение и вычисление с примерами решения

В силу (3.1.2) имеем Точечные оценки, свойства оценок - определение и вычисление с примерами решения ПоэтомуТочечные оценки, свойства оценок - определение и вычисление с примерами решения 

Последняя запись означает, что оценка Точечные оценки, свойства оценок - определение и вычисление с примерами решения имеет смещение. Она систематически занижает истинное значение дисперсии. Для получения несмещенной оценки введем поправку в виде множителя Точечные оценки, свойства оценок - определение и вычисление с примерами решения и полученную оценку обозначим через Точечные оценки, свойства оценок - определение и вычисление с примерами решения

Точечные оценки, свойства оценок - определение и вычисление с примерами решения

Величина

 Точечные оценки, свойства оценок - определение и вычисление с примерами решения

является несмещенной и состоятельной оценкой дисперсии.

Пример:

Оценить математическое ожидание и дисперсию случайной величины Х по результатам ее независимых наблюдений: 7, 3, 4, 8, 4, 6, 3.

Решение. По формулам (3.1.1) и (3.1.3) имеем Точечные оценки, свойства оценок - определение и вычисление с примерами решения

Ответ. Точечные оценки, свойства оценок - определение и вычисление с примерами решения

Пример:

Данные 25 независимых наблюдений случайной величины представлены в сгруппированном виде: Точечные оценки, свойства оценок - определение и вычисление с примерами решения

Требуется оценить математическое ожидание и дисперсию этой случайной величины.

Решение. Представителем каждого интервала можно считать его середину. С учетом этого формулы (3.1.1) и (3.1.3) дают следующие оценки:Точечные оценки, свойства оценок - определение и вычисление с примерами решения

Ответ.  Точечные оценки, свойства оценок - определение и вычисление с примерами решения

Метод наибольшего правдоподобия для оценки параметров распределений

В теории вероятностей и ее приложениях часто приходится иметь дело с законами распределения, которые определяются некоторыми параметрами. В качестве примера можно назвать нормальный закон распределения Точечные оценки, свойства оценок - определение и вычисление с примерами решения Его параметры Точечные оценки, свойства оценок - определение и вычисление с примерами решения и Точечные оценки, свойства оценок - определение и вычисление с примерами решения имеют смысл математического ожидания и дисперсии соответственно. Их можно оценить с помощью Точечные оценки, свойства оценок - определение и вычисление с примерами решения и Точечные оценки, свойства оценок - определение и вычисление с примерами решения В общем случае параметры законов распределения не всегда напрямую связаны со значениями числовых 179 характеристик. Поэтому практический интерес представляет следующая задача.

Пусть случайная величина Х имеет функцию распределения Точечные оценки, свойства оценок - определение и вычисление с примерами решения причем тип функции распределения F известен, но неизвестно значение параметра Точечные оценки, свойства оценок - определение и вычисление с примерами решения По данным результатов наблюдений нужно оценить значение параметра. Параметр может быть и многомерным.

Продемонстрируем идею метода наибольшего правдоподобия на упрощенном примере. Пусть по результатам наблюдений, отмеченных на рис. 3.1.1 звездочками, нужно отдать предпочтение одной из двух функций плотности вероятности Точечные оценки, свойства оценок - определение и вычисление с примерами решения или Точечные оценки, свойства оценок - определение и вычисление с примерами решения Точечные оценки, свойства оценок - определение и вычисление с примерами решения

Из рисунка видно, что при значении параметра Точечные оценки, свойства оценок - определение и вычисление с примерами решения такие результаты наблюдений маловероятны и вряд ли бы реализовались. При значении же Точечные оценки, свойства оценок - определение и вычисление с примерами решения эти результаты наблюдений вполне возможны. Поэтому значение параметра Точечные оценки, свойства оценок - определение и вычисление с примерами решения более правдоподобно, чем значение Точечные оценки, свойства оценок - определение и вычисление с примерами решения. Такая аргументация позволяет сформулировать принцип наибольшего правдоподобия: в качестве оценки параметра выбирается то его значение, при котором данные результаты наблюдений наиболее вероятны.

Этот принцип приводит к следующему способу действий. Пусть закон распределения случайной величины Х зависит от неизвестного значения параметра Точечные оценки, свойства оценок - определение и вычисление с примерами решения Обозначим через Точечные оценки, свойства оценок - определение и вычисление с примерами решения для непрерывной случайной величины плотность вероятности в точке Точечные оценки, свойства оценок - определение и вычисление с примерами решения а для дискретной случайной величины – вероятность того, что Точечные оценки, свойства оценок - определение и вычисление с примерами решения Если в Точечные оценки, свойства оценок - определение и вычисление с примерами решения независимых наблюдениях реализовались значения случайной величины Точечные оценки, свойства оценок - определение и вычисление с примерами решения то выражение Точечные оценки, свойства оценок - определение и вычисление с примерами решения

называют функцией правдоподобия. Величина Точечные оценки, свойства оценок - определение и вычисление с примерами решения зависит только от параметра Точечные оценки, свойства оценок - определение и вычисление с примерами решения при фиксированных результатах наблюдений Точечные оценки, свойства оценок - определение и вычисление с примерами решения При каждом значении параметра Точечные оценки, свойства оценок - определение и вычисление с примерами решения функция Точечные оценки, свойства оценок - определение и вычисление с примерами решения равна вероятности именно тех значений дискретной случайной величины, которые получены в процессе наблюдений. Для непрерывной случайной величины Точечные оценки, свойства оценок - определение и вычисление с примерами решения равна плотности вероятности в точке выборочного пространства Точечные оценки, свойства оценок - определение и вычисление с примерами решения

Сформулированный принцип предлагает в качестве оценки значения параметра выбрать такое Точечные оценки, свойства оценок - определение и вычисление с примерами решения при котором Точечные оценки, свойства оценок - определение и вычисление с примерами решения принимает наибольшее значение. Величина Точечные оценки, свойства оценок - определение и вычисление с примерами решения будучи функцией от результатов наблюдений Точечные оценки, свойства оценок - определение и вычисление с примерами решения называется оценкой наибольшего правдоподобия.

Во многих случаях, когда Точечные оценки, свойства оценок - определение и вычисление с примерами решения дифференцируема, оценка наибольшего правдоподобия находится как решение уравнения Точечные оценки, свойства оценок - определение и вычисление с примерами решения

которое следует из необходимого условия экстремума. Поскольку Точечные оценки, свойства оценок - определение и вычисление с примерами решения достигает максимума при том же значении Точечные оценки, свойства оценок - определение и вычисление с примерами решения, что и Точечные оценки, свойства оценок - определение и вычисление с примерами решения, то можно решать относительно Точечные оценки, свойства оценок - определение и вычисление с примерами решения эквивалентное уравнениеТочечные оценки, свойства оценок - определение и вычисление с примерами решения

Это уравнение называют уравнением правдоподобия. Им пользоваться удобнее, чем уравнением (3.1.5), так как функция Точечные оценки, свойства оценок - определение и вычисление с примерами решения равна произведению, а Точечные оценки, свойства оценок - определение и вычисление с примерами решения– сумме, а дифференцировать Точечные оценки, свойства оценок - определение и вычисление с примерами решения проще.

Если параметров несколько (многомерный параметр), то следует взять частные производные от функции правдоподобия по всем параметрам, приравнять частные производные нулю и решить полученную систему уравнений.

Оценку, получаемую в результате поиска максимума функции правдоподобия, называют еще оценкой максимального правдоподобия.

Известно, что оценки максимального правдоподобия состоятельны. Кроме того, если для q существует эффективная оценка, то уравнение правдоподобия имеет единственное решение, совпадающее с этой оценкой. Оценка максимального правдоподобия может оказаться смещенной.

Метод моментов

Начальным моментом Точечные оценки, свойства оценок - определение и вычисление с примерами решенияго порядка случайной величины Х называется математическое ожидание Точечные оценки, свойства оценок - определение и вычисление с примерами решенияй степени этой величины, т.е. Точечные оценки, свойства оценок - определение и вычисление с примерами решения Само математическое ожидание считается начальным моментом первого порядка.

Центральным моментом Точечные оценки, свойства оценок - определение и вычисление с примерами решенияго порядка называется Точечные оценки, свойства оценок - определение и вычисление с примерами решения Очевидно, что дисперсия – это центральный момент второго порядка. Если закон распределения случайной величины зависит от некоторых параметров, то от этих параметров зависят и моменты случайной величины.

Для оценки параметров распределения по методу моментов находят на основе опытных данных оценки моментов в количестве, равном числу оцениваемых параметров. Эти оценки приравнивают к соответствующим теоретическим моментам, величины которых выражены через параметры. Из полученной системы уравнений можно определить искомые оценки. 

Например, если Х имеет плотность распределения Точечные оценки, свойства оценок - определение и вычисление с примерами решения то Точечные оценки, свойства оценок - определение и вычисление с примерами решения

Если воспользоваться величиной Точечные оценки, свойства оценок - определение и вычисление с примерами решения как оценкой для Точечные оценки, свойства оценок - определение и вычисление с примерами решения на основе опытных данных, то оценкой Точечные оценки, свойства оценок - определение и вычисление с примерами решения по методу моментов будет решение уравнения Точечные оценки, свойства оценок - определение и вычисление с примерами решения

Пример:

Найти оценку параметра показательного закона распределения по методу моментов.

Решение. Плотность вероятности показательного закона распределения имеет вид Точечные оценки, свойства оценок - определение и вычисление с примерами решения Поэтому Точечные оценки, свойства оценок - определение и вычисление с примерами решенияТочечные оценки, свойства оценок - определение и вычисление с примерами решения Откуда Точечные оценки, свойства оценок - определение и вычисление с примерами решения

Ответ. Точечные оценки, свойства оценок - определение и вычисление с примерами решения

Пример:

Пусть имеется простейший поток событий неизвестной интенсивности Точечные оценки, свойства оценок - определение и вычисление с примерами решения. Для оценки параметра Точечные оценки, свойства оценок - определение и вычисление с примерами решения проведено наблюдение потока и зарегистрированы Точечные оценки, свойства оценок - определение и вычисление с примерами решения – длительности Точечные оценки, свойства оценок - определение и вычисление с примерами решенияпоследовательных интервалов времени между моментами наступления событий. Найти оценку для Точечные оценки, свойства оценок - определение и вычисление с примерами решения.

Решение. В простейшем потоке интервалы времени между последовательными моментами наступления событий потока имеют показательный закон распределения Точечные оценки, свойства оценок - определение и вычисление с примерами решения Так как плотность вероятности показательного закона распределения равна Точечные оценки, свойства оценок - определение и вычисление с примерами решения то функция правдоподобия (3.1.4) имеет видТочечные оценки, свойства оценок - определение и вычисление с примерами решения

Тогда  Точечные оценки, свойства оценок - определение и вычисление с примерами решения и уравнение правдоподобия Точечные оценки, свойства оценок - определение и вычисление с примерами решения имеет решение Точечные оценки, свойства оценок - определение и вычисление с примерами решения

При таком значении Точечные оценки, свойства оценок - определение и вычисление с примерами решения функция правдоподобия действительно достигает наибольшего значения, так как Точечные оценки, свойства оценок - определение и вычисление с примерами решения

ОтветТочечные оценки, свойства оценок - определение и вычисление с примерами решения

Определение. Пусть Точечные оценки, свойства оценок - определение и вычисление с примерами решения – результаты n независимых наблюдений случайной величины X. Если расставить эти результаты в порядке возрастания, то получится последовательность значений, которую называют вариационным рядом и обозначают: 

Точечные оценки, свойства оценок - определение и вычисление с примерами решения
В этой записи Точечные оценки, свойства оценок - определение и вычисление с примерами решения 

Величины Точечные оценки, свойства оценок - определение и вычисление с примерами решения называют порядковыми статистиками.

Пример:

Случайная величина Х имеет равномерное распределение на отрезке Точечные оценки, свойства оценок - определение и вычисление с примерами решения где Точечные оценки, свойства оценок - определение и вычисление с примерами решения и Точечные оценки, свойства оценок - определение и вычисление с примерами решения неизвестны. Пусть Точечные оценки, свойства оценок - определение и вычисление с примерами решения – результаты Точечные оценки, свойства оценок - определение и вычисление с примерами решения независимых наблюдений. Найти оценку параметра Точечные оценки, свойства оценок - определение и вычисление с примерами решения.

Решение. Функция плотности вероятности величины Х имеет видТочечные оценки, свойства оценок - определение и вычисление с примерами решения

В этом случае функция правдоподобия Точечные оценки, свойства оценок - определение и вычисление с примерами решения от Точечные оценки, свойства оценок - определение и вычисление с примерами решения явно не зависит. Дифференцировать по Точечные оценки, свойства оценок - определение и вычисление с примерами решения такую функцию нельзя и нет возможности записать уравнение правдоподобия. Однако легко видеть, что Точечные оценки, свойства оценок - определение и вычисление с примерами решения возрастает при уменьшении Точечные оценки, свойства оценок - определение и вычисление с примерами решения. Все результаты наблюдений лежат в Точечные оценки, свойства оценок - определение и вычисление с примерами решения поэтому можно записать:

 Точечные оценки, свойства оценок - определение и вычисление с примерами решения

где Точечные оценки, свойства оценок - определение и вычисление с примерами решения – наименьший, а Точечные оценки, свойства оценок - определение и вычисление с примерами решения – наибольший из результатов наблюдений. При минимально возможном Точечные оценки, свойства оценок - определение и вычисление с примерами решения 

Точечные оценки, свойства оценок - определение и вычисление с примерами решения

откуда Точечные оценки, свойства оценок - определение и вычисление с примерами решения или Точечные оценки, свойства оценок - определение и вычисление с примерами решения

Оценкой наибольшего правдоподобия для параметра Точечные оценки, свойства оценок - определение и вычисление с примерами решения будет величинаТочечные оценки, свойства оценок - определение и вычисление с примерами решения

ОтветТочечные оценки, свойства оценок - определение и вычисление с примерами решения

Пример:

Случайная величина X имеет функцию распределенияТочечные оценки, свойства оценок - определение и вычисление с примерами решения

где Точечные оценки, свойства оценок - определение и вычисление с примерами решения неизвестный параметр.

Пусть Точечные оценки, свойства оценок - определение и вычисление с примерами решения – результаты Точечные оценки, свойства оценок - определение и вычисление с примерами решениянезависимых наблюдений случайной величины X. Требуется найти оценку наибольшего правдоподобия для параметра Точечные оценки, свойства оценок - определение и вычисление с примерами решения и найти оценку для M(X).

Решение. Для построения функции правдоподобия найдем сначала функцию плотности вероятности

 Точечные оценки, свойства оценок - определение и вычисление с примерами решения

Тогда функция правдоподобия: Точечные оценки, свойства оценок - определение и вычисление с примерами решения

Логарифмическая функция правдоподобия: Точечные оценки, свойства оценок - определение и вычисление с примерами решения

Уравнение правдоподобия

 Точечные оценки, свойства оценок - определение и вычисление с примерами решения

не имеет решений. Критических точек нет. Наибольшее и наименьшее значения Точечные оценки, свойства оценок - определение и вычисление с примерами решения находятся на границе допустимых значений Точечные оценки, свойства оценок - определение и вычисление с примерами решения.

По виду функции Точечные оценки, свойства оценок - определение и вычисление с примерами решения можно заключить, что значение Точечные оценки, свойства оценок - определение и вычисление с примерами решения тем больше, чем меньше величина Точечные оценки, свойства оценок - определение и вычисление с примерами решения. Но Точечные оценки, свойства оценок - определение и вычисление с примерами решения не может быть меньше Точечные оценки, свойства оценок - определение и вычисление с примерами решения Поэтому наиболее правдоподобное значение Точечные оценки, свойства оценок - определение и вычисление с примерами решения

Так как Точечные оценки, свойства оценок - определение и вычисление с примерами решения, то оценкой наибольшего правдоподобия для Точечные оценки, свойства оценок - определение и вычисление с примерами решения будет величина Точечные оценки, свойства оценок - определение и вычисление с примерами решения
Ответ. Точечные оценки, свойства оценок - определение и вычисление с примерами решения

Пример:

Случайная величина Х имеет нормальный закон распределения Точечные оценки, свойства оценок - определение и вычисление с примерами решения c неизвестными параметрами Точечные оценки, свойства оценок - определение и вычисление с примерами решения и Точечные оценки, свойства оценок - определение и вычисление с примерами решения По результатам независимых наблюдений Точечные оценки, свойства оценок - определение и вычисление с примерами решения найти наиболее правдоподобные значения этих параметров.

Решение. В соответствии с (3.1.4) функция правдоподобия имеет вид Точечные оценки, свойства оценок - определение и вычисление с примерами решения

а логарифмическая функция правдоподобия: Точечные оценки, свойства оценок - определение и вычисление с примерами решения

Необходимые условия экстремума дают систему двух уравнений: Точечные оценки, свойства оценок - определение и вычисление с примерами решения

Решения этой системы имеют вид: Точечные оценки, свойства оценок - определение и вычисление с примерами решения

Отметим, что обе оценки являются состоятельными, причем оценка для Точечные оценки, свойства оценок - определение и вычисление с примерами решения несмещенная, а для Точечные оценки, свойства оценок - определение и вычисление с примерами решения смещенная (сравните с формулой (3.1.3)).

Ответ. Точечные оценки, свойства оценок - определение и вычисление с примерами решения

Пример:

По данным эксперимента построен статистический ряд: 

Точечные оценки, свойства оценок - определение и вычисление с примерами решения

Найти оценки математического ожидания, дисперсии и среднего квадратического отклонения случайной величины X.
Решение. 1) Число экспериментальных данных вычисляется по формуле:

Точечные оценки, свойства оценок - определение и вычисление с примерами решения

Значит, объем выборки n = 50.

2) Вычислим среднее арифметическое значение эксперимента:

Точечные оценки, свойства оценок - определение и вычисление с примерами решения

Точечные оценки, свойства оценок - определение и вычисление с примерами решения

Значит, найдена оценка математического ожидания Точечные оценки, свойства оценок - определение и вычисление с примерами решения= 12,3.

3) Вычислим исправленную выборочную дисперсию:

Точечные оценки, свойства оценок - определение и вычисление с примерами решения

Точечные оценки, свойства оценок - определение и вычисление с примерами решения

Значит, найдена оценка дисперсии: Точечные оценки, свойства оценок - определение и вычисление с примерами решения = 1,44.

5) Вычислим оценку среднего квадратического отклонения:

Точечные оценки, свойства оценок - определение и вычисление с примерами решения
Ответ: Точечные оценки, свойства оценок - определение и вычисление с примерами решения

Пример:

По данным эксперимента построен статистический ряд: 

Точечные оценки, свойства оценок - определение и вычисление с примерами решения

Найти оценки математического ожидания, дисперсии и среднего квадратического отклонения случайной величины X.
Решение. По формуле

Точечные оценки, свойства оценок - определение и вычисление с примерами решения

перейдем к условным вариантам: 

Точечные оценки, свойства оценок - определение и вычисление с примерами решения

Для них произведем расчет точечных оценок параметров:

Точечные оценки, свойства оценок - определение и вычисление с примерами решения

Точечные оценки, свойства оценок - определение и вычисление с примерами решения

Точечные оценки, свойства оценок - определение и вычисление с примерами решения

Следовательно, вычисляем искомые точечные оценки: 

Точечные оценки, свойства оценок - определение и вычисление с примерами решения

Точечные оценки, свойства оценок - определение и вычисление с примерами решения

ОтветТочечные оценки, свойства оценок - определение и вычисление с примерами решения

Пример:

По данным эксперимента построен интервальный статистический ряд: 

Точечные оценки, свойства оценок - определение и вычисление с примерами решения

Найти оценки математического ожидания, дисперсии и среднего квадратического отклонения.
Решение. 1) От интервального ряда перейдем к статистическому ряду, заменив интервалы их серединами  Точечные оценки, свойства оценок - определение и вычисление с примерами решения

Точечные оценки, свойства оценок - определение и вычисление с примерами решения

2) Объем выборки вычислим по формуле:

Точечные оценки, свойства оценок - определение и вычисление с примерами решения

3) Вычислим среднее арифметическое значений эксперимента:

Точечные оценки, свойства оценок - определение и вычисление с примерами решения

3) Вычислим исправленную выборочную дисперсию:

Точечные оценки, свойства оценок - определение и вычисление с примерами решения

Точечные оценки, свойства оценок - определение и вычисление с примерами решения

Можно было воспользоваться следующей формулой:

Точечные оценки, свойства оценок - определение и вычисление с примерами решения

5)  Вычислим оценку среднего квадратического отклонения: 

Точечные оценки, свойства оценок - определение и вычисление с примерами решения

ОтветТочечные оценки, свойства оценок - определение и вычисление с примерами решения

Пример:

Найти доверительный интервал с надежностью 0,95 для оценки математического ожидания M(X) нормально распределенной случайной величины X, если известно среднее квадратическое отклонение σ = 2, оценка математического ожидания Точечные оценки, свойства оценок - определение и вычисление с примерами решения объем выборки n = 25.
 

Решение. Доверительный интервал для истинного математического ожидания с доверительной вероятностью Точечные оценки, свойства оценок - определение и вычисление с примерами решения = 0,95 при известной дисперсии σ находится по формуле:

Точечные оценки, свойства оценок - определение и вычисление с примерами решения

где m = M(X) – истинное математическое ожидание; 𝑥̅ − оценка M(X) по выборке; n – объем выборки; Точечные оценки, свойства оценок - определение и вычисление с примерами решения – находится по доверительной вероятности Точечные оценки, свойства оценок - определение и вычисление с примерами решения = 0,95 из равенства:

Точечные оценки, свойства оценок - определение и вычисление с примерами решения

Из табл. П 2.2 приложения 2 находим: Точечные оценки, свойства оценок - определение и вычисление с примерами решения = 1,96. Следовательно, найден доверительный интервал для M(X): 

Точечные оценки, свойства оценок - определение и вычисление с примерами решения

Ответ: (9,216 ; 10,784).

Пример:

По данным эксперимента построен статистический ряд: 

Точечные оценки, свойства оценок - определение и вычисление с примерами решения

Найти доверительный интервал для математического ожидания M (X) с надежностью 0,95.
 

Решение. Воспользуемся формулой для доверительного интервала математического ожидания при неизвестной дисперсии:

Точечные оценки, свойства оценок - определение и вычисление с примерами решения

где n – объем выборки; 𝑥̅ оценка M(X);  s – оценка среднего квадратического отклонения; Точечные оценки, свойства оценок - определение и вычисление с примерами решения  − находится по доверительной вероятности Точечные оценки, свойства оценок - определение и вычисление с примерами решения = 0,95.

По числам Точечные оценки, свойства оценок - определение и вычисление с примерами решения = 0,95 и n = 20 находим: Точечные оценки, свойства оценок - определение и вычисление с примерами решения = 2,093.
Теперь вычисляем оценки для M(X) и D(X):

Точечные оценки, свойства оценок - определение и вычисление с примерами решения

Точечные оценки, свойства оценок - определение и вычисление с примерами решения

Следовательно, s ≈ 1,685. Поэтому искомый доверительный интервал математического ожидания задается формулой: 

Точечные оценки, свойства оценок - определение и вычисление с примерами решения

Ответ: (– 0,76; 0,76).

Пример:

По данным десяти независимых измерений найдена оценка квадратического отклонения Точечные оценки, свойства оценок - определение и вычисление с примерами решения = 0,5. Найти доверительный интервал точности измерительного прибора с надежностью 99 %.
 

Решение. Задача сводится к нахождению доверительного интервала для истинного квадратического отклонения, так как точность прибора характеризуется средним квадратическим отклонением случайных ошибок измерений.

Доверительный интервал для среднего квадратического отклонения находим по формуле:

Точечные оценки, свойства оценок - определение и вычисление с примерами решения

Точечные оценки, свойства оценок - определение и вычисление с примерами решения

где  Точечные оценки, свойства оценок - определение и вычисление с примерами решения = 0,5 − оценка среднего квадратического отклонения; Точечные оценки, свойства оценок - определение и вычисление с примерами решения – число, определяемое из табл. П 2.4 приложения 2 по заданной доверительной вероятности  Точечные оценки, свойства оценок - определение и вычисление с примерами решения = 0,99 и заданному объему выборки  n = 10.
Находим:   Точечные оценки, свойства оценок - определение и вычисление с примерами решения
Тогда можно записать: 

Точечные оценки, свойства оценок - определение и вычисление с примерами решения

Ответ: (0; 1,04).

  • Доверительный интервал для вероятности события
  • Проверка гипотезы о равенстве вероятностей
  • Доверительный интервал для математического ожидания
  • Доверительный интервал для дисперсии
  • Системы случайных величин
  • Вероятность и риск
  • Определения вероятности событий
  • Предельные теоремы теории вероятностей

Добавить комментарий