Студопедия

КАТЕГОРИИ:

АстрономияБиологияГеографияДругие языкиДругоеИнформатикаИсторияКультураЛитератураЛогикаМатематикаМедицинаМеханикаОбразованиеОхрана трудаПедагогикаПолитикаПравоПсихологияРиторикаСоциологияСпортСтроительствоТехнологияФизикаФилософияФинансыХимияЧерчениеЭкологияЭкономикаЭлектроника


Функция правдоподобия. Количество информации, содержащейся в независимых наблюдениях относительно неизвестного значения параметра




Пусть – выборка, состоящая из независимых наблюдений, извлеченная из исследуемой генеральной совокупности. Закон распределения вероятностей наблюдаемой случайной величины описывается функцией , зависящей от неизвестного параметра . Причем будем понимать под вероятность , если – дискретная, и значение плотности вероятности в точке , если – непрерывна. Каждую конкретную выборку можно представить определенной точкой в -мерном пространстве выборок переменных , в этом случае имеет смысл говорить о совместном распределении вектора . Поскольку рассматриваем как независимые и одинаково распределенные случайные величины, то для любого заданного набора значений их совместная плотность (вероятность) равна

. (1)

Таким образом, функция определяет вероятность получения, при извлечении выборки объема , конкретных значений (или величину, пропорциональную вероятности получения выборочных значений в непосредственной близости от точки в непрерывном случае). Поэтому, чем больше значение , тем правдоподобнее (или более вероятна) система наблюдений при заданном значении параметра . Функция называется функцией правдоподобия.

Функция правдоподобия в зависимости от постановки задач и целей исследования может рассматриваться как функция параметра (при заданных фиксированных ), или как функция текущих значений наблюдений (при заданном фиксированном значении параметра ), либо как функция обеих переменных и .

Выясним характер изменения вероятности (1) в зависимости от изменения значения параметра . Если по наблюдаемому значению случайной величины можно с вероятностью единица точно восстановить значение параметра , то это означает, что случайная величина (или ее наблюдаемое значение) содержит максимально возможную информацию о параметре. И наоборот, если распределение (1) случайной величины одно и то же при всех значениях параметра , то нет никаких оснований делать какие-либо заключения о по результатам наблюдений над . Наиболее часто используемой характеристикой, на основании которой измеряют изменение в распределении (1) при небольшом изменении значения параметра , является количество информации Фишера, которое для одномерного параметра определяется следующим образом

. (2)

Так как независимы и одинаково распределены, то получим

. (3)

примеры.

 


Поделиться:

Дата добавления: 2015-09-13; просмотров: 59; Мы поможем в написании вашей работы!; Нарушение авторских прав





lektsii.com - Лекции.Ком - 2014-2024 год. (0.008 сек.) Все материалы представленные на сайте исключительно с целью ознакомления читателями и не преследуют коммерческих целей или нарушение авторских прав
Главная страница Случайная страница Контакты