А   Б  В  Г  Д  Е  Є  Ж  З  І  Ї  Й  К  Л  М  Н  О  П  Р  С  Т  У  Ф  Х  Ц  Ч  Ш  Щ  Ю  Я 


Критерій - ставлення - правдоподібність

Критерій відношення правдоподібності відкидає гіпотезу, якщо До К0 де А, вибирається для заданого рівня значущості.

Критерій відношення правдоподібності вільний від цього недоліку, але вимагає складних обчислень для визначення порогу. Обидва цих критерію засновані на порівнянні розподілів ймовірностей наявних спостережень для двох моделей. Значення використання цих двох критеріїв для вибору моделі самоочевидне, коли ми вважаємо, що одним з основних призначень моделі є генерування синтетичних даних, які мали б імовірнісні характеристики, близькі до імовірнісних характеристик спостережуваних даних про витрату води в річці. Оскільки одне з важливих застосувань моделі - пророкування, то порівняння моделей щодо їх якості прогнозу також є дуже природним. Mi, важливо остільки, оскільки дані, що генеруються моделлю, повинні зберігати ці властивості.

Розглянемо статистику критерію відношення правдоподібності, побудовану на співвідношеннях I роду.

Це знайомий нам критерій відношення правдоподібності.

Цей критерій називається критерієм відношення правдоподібності. Він є найбільш потужним щодо гіпотези Н, і тому його доцільно застосовувати в усіх тих випадках, коли є велика впевненість, що гіпотеза Н може бути вірна.

Можна показати, що критерій відношення правдоподібності заможний.

З метою обґрунтування асимптотической нормальності статистики критерію відношення правдоподібності зауважимо, що при гіпотезі Н статистика Lsg (Z n асимптотично нормальна, так як в цьому випадку реалізується модель наростаючих сум. Тому по третій лемме Ле Кама (див.[3]) розподілу статистики Lsg (Z (n) , відповідні гіпотезам Н8з і НДД, асимптотично нормальні.

Інтуїтивно ясно, що таким правилом є критерій відношення правдоподібності.

Як було показано в попередньому розділі, байесовский критерій відношення правдоподібності є оптимальним в тому сенсі, що він мінімізує ризик або ймовірність помилки. Однак для отримання відносини правдоподібності необхідно розташовувати для кожного класу умовними плотностями ймовірності. У більшості додатків оцінка цих щільності здійснюється за кінцевим числа вибіркових векторів спостережень. Процедури оцінювання щільності ймовірності відомі, але вони є дуже складними, або вимагають для отримання точних результатів великого числа векторів спостережень.

Однак навіть при наявності щільності ймовірності метод, заснований на критерії відношення правдоподібності, на практиці може виявитися важко реалізованим, так як він може зажадати для класифікації великих обсягів пам'яті і машинного часу. У зв'язку з цим часто ми змушені розглядати більш прості методи розробки класифікаторів.

Читач може аналогічно попередньому переконатися, що це теж є критерій відношення правдоподібності. 
Критерій (9) є не що інше, як критерій відношення правдоподібності.

Однак навіть при наявності щільності ймовірності метод, заснований на критерії відношення правдоподібності, на практиці може виявитися важко реалізованим, так як він може зажадати для класифікації великих обсягів пам'яті і машинного часу. У зв'язку з цим часто ми змушені розглядати більш прості методи розробки класифікаторів.

Отже, вираз (32) є умовою асимптотической потужності критерію відношення правдоподібності. Ця вимога збігається з вимогою (27), використаним при оцінці критерію малості похибки.

При перевірці гіпотез про параметри розташування і масштабу з використанням критерію відношення правдоподібності має місце такий факт: якщо забезпечена Незміщеність оцінок максимальної правдоподібності, то результуючий критерій теж зміщений. Це служить гарним приводом для усунення зміщення оцінок.

 Критерії W, визначений у (18), називають критерієм відношення правдоподібності. W є фунцию мінімальної достатньої статистики.

Для вибірок порівняно невеликих обсягів неясно, що краще:% 2-критерій або критерій відношення правдоподібності. Швидше за все це залежить від альтернативних гіпотез.

Як було відзначено в § 24.5 для двуальтернатів-ного виявлення застосування в якості критерію відношення правдоподібності в поєднанні з методом послідовних випробувань також призводить до оптимального рішення. Процес рішення зводиться до наступного: після /п-й вибірки обчислюється величина L - (Vm) і порівнюється з двома порогами; якщо L (Vm) A, то приймається рішення Y, якщо L (Vm) У, то К0 якщо В L (Vm) А, то береться наступна вибірка.

На жаль, вид щільності ймовірності часто заздалегідь невідомий, і для того щоб застосувати критерій відношення правдоподібності, ми повинні якось оцінити щільність вероятдості, не знаючи її структуру. оскільки число параметрів при параметричному оцінюванні зазвичай набагато менше, ніж число об'єктів у вибірці, ненараметріческіе методи оцінювання складніші, ніж параметричні.

На жаль, вид щільності ймовірності часто заздалегідь невідомий, і для того щоб застосувати критерій відношення правдоподібності, ми повинні якось оцінити щільність вероятдості, не знаючи її структуру. У цьому випадку говорять про непараметрическом оцінюванні, в той час як колишній підхід називають параметричним оцінюванням. Оскільки число параметрів при параметричному оцінюванні зазвичай набагато менше, ніж число об'єктів у вибірці, непараметричні методи оцінювання складніші, ніж параметричні.

Вирішення цього завдання забезпечує розроблений Вальдом[1]послідовний критерій ставлення ймовірностей, який називають також критерієм відношення правдоподібності.

Порівнюючи вирішальні правила (323) і (318), можна зробити висновок, що критерій Неймана - Пірсона не пропонує нового вирішального правила, а заснований на критерії відношення правдоподібності, як байесовский критерій. Однак попередній розгляд показало, що критерій відношення правдоподібності є критерієм, що мінімізують ймовірність помилки рішення для одного класу. При цьому ймовірність помилки для іншого класу залишається незмінною.

Порівнюючи вирішальні правила (323) і (318), можна зробити висновок, що критерій Неймана - Пірсона не пропонує новорічні вирішального правила, а заснований на критерії відношення правдоподібності, як байесовский критерій. Однак попередній розгляд показало, що критерій відношення правдоподібності є критерієм, що мінімізують ймовірність помилки рішення для одного класу. При цьому ймовірність помилки для іншого класу залишається незмінною.

Дослідження[12]показало, що /i-критерій і інший критерій Дарбіна з тієї ж роботи[11 ]в умовах малих вибірок мають приблизно рівною потужністю, перевершуючи в цьому відношенні критерій відношення правдоподібності. При цьому Tsji, C 1 так як рр з (3) не дорівнює нулю.

Це будуть критерії відношення правдоподібності, які для нормальних сукупностей будуть збігатися з критеріями, побудованими в пошуках тієї чи іншої точної оптимальності (якщо такі є; пор. Якщо бути більш точним, то в цьому завданні ми повинні були б перевіряти дві складні параметричні гіпотези , відповідні припущеннями (25), (26) для значень ймовірностей появи пар л-мезонів. Якщо використовувати критерій відношення правдоподібності, то він, як неважко перевірити, буде заснований на різниці статистик х2 відповідних моделей (25), (26), і, отже, результати його будуть приблизно тими неї.

Хоча асимптотичні властивості критерію відносин правдоподібності для безперервних сімейств гіпотез прості, його властивості для малих вибірок не зовсім ясні.

Принципи вибору критичної області були сформульовані Нейманом і Пирсоном. Критерій Неймана-Пірсона називають критерієм відношення правдоподібності.

Порівнюючи вирішальні правила (323) і (318), можна зробити висновок, що критерій Неймана - Пірсона не пропонує нового вирішального правила, а заснований на критерії відношення правдоподібності, як байесовский критерій. Однак попередній розгляд показало, що критерій відношення правдоподібності є критерієм, що мінімізують ймовірність помилки рішення для одного класу. При цьому ймовірність помилки для іншого класу залишається незмінною.

Порівнюючи вирішальні правила (323) і (318), можна зробити висновок, що критерій Неймана - Пірсона не пропонує новорічні вирішального правила, а заснований на критерії відношення правдоподібності, як байесовский критерій. Однак попередній розгляд показало, що критерій відношення правдоподібності є критерієм, що мінімізують ймовірність помилки рішення для одного класу. При цьому ймовірність помилки для іншого класу залишається незмінною.

Таким же чином на підставі (32) і (33) визначаються критерії малості похибки для інших законів розподілу. Більш детально загальні властивості і питання зв'язку критерію відношення правдоподібності, ентропії і кількості інформації висвітлені в роботі С.

Читачеві, однак, слід пам'ятати, що байесовский класифікатор у всіх випадках є найкращим. Ніякої лінійний класифікатор не перевищує за якістю роботи класифікатор, отриманий за критерієм ставлення правдоподібності.

Питанням використання інформації, що міститься в статистичних даних, для побудови статистичних висновків і формалізації самого поняття інформації в статистиці присвячена гл. III, що містить розділи: достатність, незміщене оцінювання, інформація в статистиці, нижні межі дисперсії оцінок. IV об'єднує деякі прийоми побудови статистичних оцінок і критеріїв, заснованих на понятті правдоподібності. V присвячена асимптотическим властивостями оцінок максимальної правдоподібності та критерію відношення правдоподібності.

У § 5 обговорюються принципи достатності, незсуненості п інваріантності для побудови рішень, рівномірно найкращих у відповідних підкласах. Параграфи 6 - 8 присвячені відшукання асимптотично оптимальних вирішальних правил. У § 6 вивчаються асимптотично оптимальні оцінки параметрів при довільній (не тільки квадратічсской) функції втрат. У ротом випадку вдається встановити результати, близькі до результатів гл. У § § 7 8 вивчаються асимптотично оптимальні критерії при довільній функції втрат. У § 7 доведена асимптотична байесовост' критерію відношення правдоподібності; в § 8 встановлений граничний ознака оптимальності критеріїв для перевірки близьких гіпотез (узагальнення результатів § § 1415 гл.