КАТЕГОРИИ:
АстрономияБиологияГеографияДругие языкиДругоеИнформатикаИсторияКультураЛитератураЛогикаМатематикаМедицинаМеханикаОбразованиеОхрана трудаПедагогикаПолитикаПравоПсихологияРиторикаСоциологияСпортСтроительствоТехнологияФизикаФилософияФинансыХимияЧерчениеЭкологияЭкономикаЭлектроника
|
Функция правдоподобия. Количество информации, содержащейся в независимых наблюдениях относительно неизвестного значения параметраСтр 1 из 2Следующая ⇒ Пусть – выборка, состоящая из независимых наблюдений, извлеченная из исследуемой генеральной совокупности. Закон распределения вероятностей наблюдаемой случайной величины описывается функцией , зависящей от неизвестного параметра . Причем будем понимать под вероятность , если – дискретная, и значение плотности вероятности в точке , если – непрерывна. Каждую конкретную выборку можно представить определенной точкой в -мерном пространстве выборок переменных , в этом случае имеет смысл говорить о совместном распределении вектора . Поскольку рассматриваем как независимые и одинаково распределенные случайные величины, то для любого заданного набора значений их совместная плотность (вероятность) равна . (1) Таким образом, функция определяет вероятность получения, при извлечении выборки объема , конкретных значений (или величину, пропорциональную вероятности получения выборочных значений в непосредственной близости от точки в непрерывном случае). Поэтому, чем больше значение , тем правдоподобнее (или более вероятна) система наблюдений при заданном значении параметра . Функция называется функцией правдоподобия. Функция правдоподобия в зависимости от постановки задач и целей исследования может рассматриваться как функция параметра (при заданных фиксированных ), или как функция текущих значений наблюдений (при заданном фиксированном значении параметра ), либо как функция обеих переменных и . Выясним характер изменения вероятности (1) в зависимости от изменения значения параметра . Если по наблюдаемому значению случайной величины можно с вероятностью единица точно восстановить значение параметра , то это означает, что случайная величина (или ее наблюдаемое значение) содержит максимально возможную информацию о параметре. И наоборот, если распределение (1) случайной величины одно и то же при всех значениях параметра , то нет никаких оснований делать какие-либо заключения о по результатам наблюдений над . Наиболее часто используемой характеристикой, на основании которой измеряют изменение в распределении (1) при небольшом изменении значения параметра , является количество информации Фишера, которое для одномерного параметра определяется следующим образом . (2) Так как независимы и одинаково распределены, то получим . (3) примеры.
|