Інформація за Фішером — Вікіпедія

У математичній статистиці та теорії інформації інформацією за Фішером називається міра кількості інформації, що спостережувана випадкова змінна X несе про невідомий параметр θ, від якого залежить ймовірність X. Формально це дисперсія функції внеску вибірки. Ця функція названа на честь Рональда Фішера, що описав її.

Визначення[ред. | ред. код]

Нехай ${\displaystyle f(\theta ,\;x_{1},\dots ,\,x_{n})}$ — густина розподілу для даної статистичної моделі ${\displaystyle \xi _{1},\dots ,\xi _{n}}$. Тоді якщо визначена функція: ${\displaystyle I_{n}(\theta )=\mathbb {D} _{\theta }\left({\frac {\partial L(\theta ,\;\xi _{1},\dots ,\,\xi _{n})}{\partial \theta }}\right)=\mathbb {E} _{\theta }\left({\frac {\partial L(\theta ,\;\xi _{1},\dots ,\,\xi _{n})}{\partial \theta }}\right)^{2},\;L(x_{1},\dots ,x_{n})=\sum _{i=1}^{n}\ln f(\theta ,x_{i})\!}$,

де ${\displaystyle L(\theta ,\;x_{1},\dots ,\,x_{n})}$ — логарифмічна функція правдоподібності, а ${\displaystyle \mathbb {E} _{\theta }\!}$ — математичне сподівання за заданого ${\displaystyle \theta \!}$, то вона називається інформацією за Фішером для даної статистичної моделі при ${\displaystyle n\!}$ незалежних випробуваннях. Для регулярних моделей: ${\displaystyle \mathbb {E} _{\theta }\left({\frac {\partial L(\theta ,\;\xi _{1},\dots ,\,\xi _{n})}{\partial \theta }}\right)=0\!}$ (У цьому і полягає означення регулярності).

На разі, виписана величина дорівнює її дисперсії, позаяк математичне сподівання функції внеску вибірки рівне нулю,.

Кількістю інформації за Фішером, що міститься в одному спостереженні, називають:

${\displaystyle I_{i}(\theta )=\mathbb {E} _{\theta }\left({\frac {\partial \ln f(\theta ,\,\xi _{i})}{\partial \theta }}\right)^{2}\!}$.

Для регулярних моделей всі ${\displaystyle I_{i}(\theta )\!}$ рівні між собою.

Якщо вибірка складається з одного елементу, то інформація за Фішером записується так:

${\displaystyle I(\theta )=\mathbb {E} _{\theta }\left({\frac {\partial \ln f(\theta ,\,\xi )}{\partial \theta }}\right)^{2}\!}$.

З умови регулярності, а також з того, що у разі незалежності випадкових величин дисперсія суми дорівнює сумі дисперсій, випливає, що для ${\displaystyle n\!}$ незалежних випробувань ${\displaystyle I_{n}(\theta )=nI(\theta )\!}$.

Властивості[ред. | ред. код]

• З вказаної вище властивості дисперсій виходить, що у разі незалежності випадкових величин ${\displaystyle \xi _{1}(\theta ,\,x),\dots ,\,\xi _{n}(\theta ,\,x)\!}$ (що розглядаються в одній статистичній моделі) інформація за Фішером їхньої суми дорівнює сумі інформацій за Фішером кожної з них.
• Позначимо інформацію за Фішером для випадкової величини ${\displaystyle \xi (\theta ,\,x)\!}$ через ${\displaystyle I^{\xi }(\theta )\!}$. Якщо ${\displaystyle T(\xi )\!}$ — статистика, для якої визначена інформація за Фішером, то ${\displaystyle I^{T(\xi )}\leqslant I^{\xi }\!}$.

Див. також[ред. | ред. код]

• Нерівність Крамера — Рао

Ця стаття не містить посилань на джерела. Ви можете допомогти поліпшити цю статтю, додавши посилання на надійні (авторитетні) джерела. Матеріал без джерел може бути піддано сумніву та вилучено. (жовтень 2010)

В іншому мовному розділі є повніша стаття Fisher information(англ.). Ви можете допомогти, розширивши поточну статтю за допомогою перекладу з англійської. Дивитись автоперекладену версію статті з мови «англійська». Перекладач повинен розуміти, що відповідальність за кінцевий вміст статті у Вікіпедії несе саме автор редагувань. Онлайн-переклад надається лише як корисний інструмент перегляду вмісту зрозумілою мовою. Не використовуйте невичитаний і невідкоригований машинний переклад у статтях української Вікіпедії! Машинний переклад Google є корисною відправною точкою для перекладу, але перекладачам необхідно виправляти помилки та підтверджувати точність перекладу, а не просто скопіювати машинний переклад до української Вікіпедії. Не перекладайте текст, який видається недостовірним або неякісним. Якщо можливо, перевірте текст за посиланнями, поданими в іншомовній статті. Докладні рекомендації: див. Вікіпедія:Переклад.

Це незавершена стаття зі статистики. Ви можете допомогти проєкту, виправивши або дописавши її.

Це незавершена стаття з інформатики. Ви можете допомогти проєкту, виправивши або дописавши її.