Кумулятивная функция распределения

Для проверки этой статьи нужны дополнительные цитаты . Помогите улучшить эту статью , добавив ссылки на надежные источники . Материалы без ссылок могут быть оспорены и удалены. Найти источники:  "Функция кумулятивного распределения" – новости  · газеты  · книги  · ученый  · JSTOR ( март 2010 г. ) ( Узнайте, как и когда удалять это сообщение )

В теории вероятностей и статистике кумулятивная функция распределения ( CDF ) действительной случайной величины , или просто функция распределения , оцененная при , представляет собой вероятность того, что значение будет меньше или равно . ^[1]${\displaystyle X}$${\displaystyle X}$${\displaystyle x}$${\displaystyle X}$${\displaystyle x}$

Каждое распределение вероятностей, поддерживаемое действительными числами, дискретными или «смешанными», а также непрерывными , однозначно идентифицируется непрерывной справа монотонно возрастающей функцией ( функцией càdlàg ), удовлетворяющей и .${\displaystyle F\двоеточие \mathbb {R} \rightarrow [0,1]}$${\displaystyle \lim _{x\rightarrow -\infty }F(x)=0}$${\displaystyle \lim _{x\rightarrow \infty }F(x)=1}$

В случае скалярного непрерывного распределения это дает площадь под функцией плотности вероятности от отрицательной бесконечности до . Кумулятивные функции распределения также используются для задания распределения многомерных случайных величин .${\displaystyle x}$

Кумулятивная функция распределения действительной случайной величины — это функция, заданная формулой ^{[2] : стр. 77}${\displaystyle X}$

$${\displaystyle F_{X}(x)=\operatorname {P} (X\leq x)}$$

Ур.1

где правая часть представляет собой вероятность того, что случайная величина примет значение, меньшее или равное .${\displaystyle X}$${\displaystyle x}$

Вероятность того, что находится в полузакрытом интервале , где , равна ^{[2] : стр. 84}${\displaystyle X}$ ${\displaystyle (а,б]}$${\displaystyle а<б}$

$${\displaystyle \operatorname {P} (a<X\leq b)=F_{X}(b)-F_{X}(a)}$$

Ур.2

В определении выше знак «меньше или равно», «≤», является условностью, а не общепринятой (например, в венгерской литературе используется «<»), но это различие важно для дискретных распределений. Правильное использование таблиц биномиального и пуассоновского распределений зависит от этой условности. Более того, важные формулы, такие как формула обращения Поля Леви для характеристической функции, также опираются на формулировку «меньше или равно».

При обработке нескольких случайных величин и т. д. соответствующие буквы используются как нижние индексы, а при обработке только одной, нижний индекс обычно опускается. Принято использовать заглавную букву для кумулятивной функции распределения, в отличие от строчной буквы, используемой для функций плотности вероятности и функций массы вероятности . Это применимо при обсуждении общих распределений: некоторые конкретные распределения имеют свои собственные общепринятые обозначения, например, нормальное распределение использует и вместо и , соответственно.${\displaystyle X,Y,\ldots }$${\displaystyle F}$${\displaystyle f}$${\displaystyle \Phi }$${\displaystyle \phi }$${\displaystyle F}$${\displaystyle f}$

Функция плотности вероятности непрерывной случайной величины может быть определена из кумулятивной функции распределения путем дифференцирования ^[3] с использованием основной теоремы исчисления ; т.е. задана , пока существует производная.${\displaystyle F(x)}$$${\displaystyle f(x)={\frac {dF(x)}{dx}}}$$

CDF непрерывной случайной величины может быть выражена как интеграл ее функции плотности вероятности следующим образом: ^{[2] : стр. 86}${\displaystyle X}$${\displaystyle f_{X}}$$${\displaystyle F_{X}(x)=\int _{-\infty }^{x}f_{X}(t)\,dt.}$$

В случае случайной величины , которая имеет распределение, имеющее дискретную составляющую при значении ,${\displaystyle X}$${\displaystyle b}$$${\displaystyle \operatorname {P} (X=b)=F_{X}(b)-\lim _{x\to b^{-}}F_{X}(x).}$$

Если непрерывна при , то она равна нулю и дискретная составляющая при отсутствует .${\displaystyle F_{X}}$${\displaystyle b}$${\displaystyle b}$

Каждая кумулятивная функция распределения является неубывающей ^{[2] : стр. 78} и непрерывна справа , ^{[2] : стр. 79,} что делает ее функцией càdlàg . Кроме того,${\displaystyle F_{X}}$$${\displaystyle \lim _{x\to -\infty }F_{X}(x)=0,\quad \lim _{x\to +\infty }F_{X}(x)=1.}$$

Каждая функция с этими тремя свойствами является функцией распределения, т.е. для каждой такой функции можно определить случайную величину таким образом, что функция будет кумулятивной функцией распределения этой случайной величины.

Если — чисто дискретная случайная величина , то она достигает значений с вероятностью , а функция распределения будет разрывной в точках :${\displaystyle X}$${\displaystyle x_{1},x_{2},\ldots }$${\displaystyle p_{i}=p(x_{i})}$${\displaystyle X}$${\displaystyle x_{i}}$$${\displaystyle F_{X}(x)=\operatorname {P} (X\leq x)=\sum _{x_{i}\leq x}\operatorname {P} (X=x_{i})=\sum _{x_{i}\leq x}p(x_{i}).}$$

Если функция распределения действительной случайной величины непрерывна , то является непрерывной случайной величиной ; если же она абсолютно непрерывна , то существует интегрируемая по Лебегу функция такая, что для всех действительных чисел и . Функция равна производной от почти всюду и называется функцией плотности вероятности распределения .${\displaystyle F_{X}}$${\displaystyle X}$${\displaystyle X}$${\displaystyle F_{X}}$${\displaystyle f_{X}(x)}$$${\displaystyle F_{X}(b)-F_{X}(a)=\operatorname {P} (a<X\leq b)=\int _{a}^{b}f_{X}(x)\,dx}$$${\displaystyle a}$${\displaystyle b}$${\displaystyle f_{X}}$${\displaystyle F_{X}}$ ${\displaystyle X}$

Если имеет конечную L1-норму , то есть математическое ожидание конечно, то математическое ожидание задается интегралом Римана–Стилтьеса${\displaystyle X}$${\displaystyle |X|}$ $${\displaystyle \mathbb {E} [X]=\int _{-\infty }^{\infty }t\,dF_{X}(t)}$$

и для любого , а также как показано на диаграмме (рассмотрите площади двух красных прямоугольников и их расширения вправо или влево до графика ). В частности, мы имеем Кроме того, (конечное) ожидаемое значение действительной случайной величины может быть определено на графике ее кумулятивной функции распределения, как показано на рисунке в определении ожидаемого значения для произвольных действительных случайных величин .${\displaystyle x\geq 0}$$${\displaystyle x(1-F_{X}(x))\leq \int _{x}^{\infty }t\,dF_{X}(t)}$$$${\displaystyle xF_{X}(-x)\leq \int _{-\infty }^{-x}(-t)\,dF_{X}(t)}$$${\displaystyle F_{X}}$$${\displaystyle \lim _{x\to -\infty }xF_{X}(x)=0,\quad \lim _{x\to +\infty }x(1-F_{X}(x))=0.}$$${\displaystyle X}$

В качестве примера предположим, что равномерно распределено на единичном интервале .${\displaystyle X}$${\displaystyle [0,1]}$

Тогда CDF определяется как${\displaystyle X}$$${\displaystyle F_{X}(x)={\begin{cases}0&:\ x<0\\x&:\ 0\leq x\leq 1\\1&:\ x>1\end{cases}}}$$

Предположим вместо этого, что принимает только дискретные значения 0 и 1 с равной вероятностью.${\displaystyle X}$

Тогда CDF определяется как${\displaystyle X}$$${\displaystyle F_{X}(x)={\begin{cases}0&:\ x<0\\1/2&:\ 0\leq x<1\\1&:\ x\geq 1\end{cases}}}$$

Предположим , что экспоненциально распределено . Тогда CDF для задается как${\displaystyle X}$${\displaystyle X}$$${\displaystyle F_{X}(x;\lambda )={\begin{cases}1-e^{-\lambda x}&x\geq 0,\\0&x<0.\end{cases}}}$$

Здесь λ > 0 — параметр распределения, часто называемый параметром скорости.

Предположим , что распределено нормально . Тогда CDF для задается как${\displaystyle X}$${\displaystyle X}$$${\displaystyle F(t;\mu ,\sigma )={\frac {1}{\sigma {\sqrt {2\pi }}}}\int _{-\infty }^{t}\exp \left(-{\frac {(x-\mu )^{2}}{2\sigma ^{2}}}\right)\,dx.}$$

Здесь параметр представляет собой среднее или математическое ожидание распределения, а — его стандартное отклонение.${\displaystyle \mu }$${\displaystyle \sigma }$

Таблица CDF стандартного нормального распределения часто используется в статистических приложениях, где ее называют стандартной нормальной таблицей , единичной нормальной таблицей или Z-таблицей .

Предположим , что распределено биномиально . Тогда CDF для задается как${\displaystyle X}$${\displaystyle X}$$${\displaystyle F(k;n,p)=\Pr(X\leq k)=\sum _{i=0}^{\lfloor k\rfloor }{n \choose i}p^{i}(1-p)^{n-i}}$$

Здесь — вероятность успеха, а функция обозначает дискретное распределение вероятностей числа успехов в последовательности независимых экспериментов, а — «пол» под , т.е. наибольшее целое число, меньшее или равное .${\displaystyle p}$${\displaystyle n}$${\displaystyle \lfloor k\rfloor }$${\displaystyle k}$${\displaystyle k}$

Иногда полезно изучить противоположный вопрос и спросить, как часто случайная величина превышает определенный уровень. Это называетсядополнительная кумулятивная функция распределения (ccdf ) или простораспределение хвоста илипревышение и определяется как$${\displaystyle {\bar {F}}_{X}(x)=\operatorname {P} (X>x)=1-F_{X}(x).}$$

Это имеет применение в статистическом тестировании гипотез , например, потому что одностороннее p-значение является вероятностью наблюдения тестовой статистики, по крайней мере, такой же экстремальной, как и наблюдаемая. Таким образом, при условии, что тестовая статистика , T , имеет непрерывное распределение, одностороннее p-значение просто задается ccdf: для наблюдаемого значения тестовой статистики${\displaystyle t}$$${\displaystyle p=\operatorname {P} (T\geq t)=\operatorname {P} (T>t)=1-F_{T}(t).}$$

В анализе выживаемости функция называется функцией выживаемости и обозначается , тогда как в технике распространен термин функция надежности .${\displaystyle {\bar {F}}_{X}(x)}$${\displaystyle S(x)}$

Характеристики

• Для неотрицательной непрерывной случайной величины, имеющей математическое ожидание, неравенство Маркова утверждает, что ^[4] $${\displaystyle {\bar {F}}_{X}(x)\leq {\frac {\operatorname {E} (X)}{x}}.}$$
• Как и фактически при условии, что конечно. Доказательство: ^{[ требуется ссылка ]} Предполагая, что имеет функцию плотности , для любого Тогда, при распознавании и перестановке членов, как и утверждалось.${\displaystyle x\to \infty ,{\bar {F}}_{X}(x)\to 0}$${\displaystyle {\bar {F}}_{X}(x)=o(1/x)}$${\displaystyle \operatorname {E} (X)}$
  
  ${\displaystyle X}$${\displaystyle f_{X}}$${\displaystyle c>0}$ $${\displaystyle \operatorname {E} (X)=\int _{0}^{\infty }xf_{X}(x)\,dx\geq \int _{0}^{c}xf_{X}(x)\,dx+c\int _{c}^{\infty }f_{X}(x)\,dx}$$$${\displaystyle {\bar {F}}_{X}(c)=\int _{c}^{\infty }f_{X}(x)\,dx}$$$${\displaystyle 0\leq c{\bar {F}}_{X}(c)\leq \operatorname {E} (X)-\int _{0}^{c}xf_{X}(x)\,dx\to 0{\text{ as }}c\to \infty }$$
• Для случайной величины, имеющей математическое ожидание, и для неотрицательной случайной величины второй член равен 0. Если случайная величина может принимать только неотрицательные целые значения, это эквивалентно$${\displaystyle \operatorname {E} (X)=\int _{0}^{\infty }{\bar {F}}_{X}(x)\,dx-\int _{-\infty }^{0}F_{X}(x)\,dx}$$
  $${\displaystyle \operatorname {E} (X)=\sum _{n=0}^{\infty }{\bar {F}}_{X}(n).}$$

Хотя график кумулятивного распределения часто имеет S-образную форму, альтернативной иллюстрацией является сложенный график кумулятивного распределения или горный график , который сгибает верхнюю половину графика, ^{[5] [6],} то есть${\displaystyle F}$

${\displaystyle F_{\text{fold}}(x)=F(x)1_{\{F(x)\leq 0.5\}}+(1-F(x))1_{\{F(x)>0.5\}}}$

где обозначает индикаторную функцию , а второе слагаемое — функцию выживших , таким образом, используя две шкалы, одну для восходящего и другую для нисходящего наклона. Эта форма иллюстрации подчеркивает медиану , дисперсию (в частности, среднее абсолютное отклонение от медианы ^[7] ) и асимметрию распределения или эмпирических результатов.${\displaystyle 1_{\{A\}}}$

Если CDF F строго возрастает и непрерывна, то является единственным действительным числом, таким что . Это определяет обратную функцию распределения или функцию квантиля .${\displaystyle F^{-1}(p),p\in [0,1],}$${\displaystyle x}$${\displaystyle F(x)=p}$

Некоторые распределения не имеют единственной обратной функции (например, если для всех , что приводит к константе). В этом случае можно использовать обобщенную обратную функцию распределения , которая определяется как${\displaystyle f_{X}(x)=0}$${\displaystyle a<x<b}$${\displaystyle F_{X}}$

${\displaystyle F^{-1}(p)=\inf\{x\in \mathbb {R} :F(x)\geq p\},\quad \forall p\in [0,1].}$

• Пример 1: Медиана равна .${\displaystyle F^{-1}(0.5)}$
• Пример 2: Положим . Затем вызовем 95-й процентиль.${\displaystyle \tau =F^{-1}(0.95)}$${\displaystyle \tau }$

Некоторые полезные свойства обратной функции распределения (которые также сохраняются в определении обобщенной обратной функции распределения):

1. ${\displaystyle F^{-1}}$не убывает ^[8]
2. ${\displaystyle F^{-1}(F(x))\leq x}$
3. ${\displaystyle F(F^{-1}(p))\geq p}$
4. ${\displaystyle F^{-1}(p)\leq x}$если и только если${\displaystyle p\leq F(x)}$
5. Если имеет распределение, то распределяется как . Это используется при генерации случайных чисел с использованием метода выборки обратного преобразования .${\displaystyle Y}$${\displaystyle U[0,1]}$${\displaystyle F^{-1}(Y)}$${\displaystyle F}$
6. Если — набор независимых -распределенных случайных величин, определенных на одном и том же пространстве выборок, то существуют случайные величины, такие что распределены как и с вероятностью 1 для всех . ^{[ необходима ссылка ]}${\displaystyle \{X_{\alpha }\}}$${\displaystyle F}$${\displaystyle Y_{\alpha }}$${\displaystyle Y_{\alpha }}$${\displaystyle U[0,1]}$${\displaystyle F^{-1}(Y_{\alpha })=X_{\alpha }}$${\displaystyle \alpha }$

Обратную функцию распределения можно использовать для перевода результатов, полученных для равномерного распределения, в другие распределения.

Эмпирическая функция распределения является оценкой кумулятивной функции распределения, которая сгенерировала точки в выборке. Она сходится с вероятностью 1 к этому базовому распределению. Существует ряд результатов для количественной оценки скорости сходимости эмпирической функции распределения к базовой кумулятивной функции распределения. ^[9]

При одновременной работе с более чем одной случайной величиной можно также определить совместную кумулятивную функцию распределения . Например, для пары случайных величин совместная функция распределения CDF задается как ^{[2] : стр. 89}${\displaystyle X,Y}$${\displaystyle F_{XY}}$

$${\displaystyle F_{X,Y}(x,y)=\operatorname {P} (X\leq x,Y\leq y)}$$

Ур.3

где правая часть представляет собой вероятность того, что случайная величина примет значение, меньшее или равное , и что случайная величина примет значение, меньшее или равное .${\displaystyle X}$${\displaystyle x}$ ${\displaystyle Y}$${\displaystyle y}$

Пример совместной кумулятивной функции распределения:

Для двух непрерывных переменных X и Y :$${\displaystyle \Pr(a<X<b{\text{ and }}c<Y<d)=\int _{a}^{b}\int _{c}^{d}f(x,y)\,dy\,dx;}$$

Для двух дискретных случайных величин полезно составить таблицу вероятностей и рассмотреть кумулятивную вероятность для каждого потенциального диапазона X и Y , и вот пример: ^[10]

Задав совместную функцию распределения вероятностей в табличной форме, определите совместную кумулятивную функцию распределения.

Решение: используя заданную таблицу вероятностей для каждого потенциального диапазона X и Y , можно построить совместную кумулятивную функцию распределения в табличной форме:

Для случайных величин совместная функция CDF определяется как${\displaystyle N}$${\displaystyle X_{1},\ldots ,X_{N}}$${\displaystyle F_{X_{1},\ldots ,X_{N}}}$

$${\displaystyle F_{X_{1},\ldots ,X_{N}}(x_{1},\ldots ,x_{N})=\operatorname {P} (X_{1}\leq x_{1},\ldots ,X_{N}\leq x_{N})}$$

Ур.4

Интерпретация случайных величин как случайного вектора дает более короткую запись:${\displaystyle N}$ ${\displaystyle \mathbf {X} =(X_{1},\ldots ,X_{N})^{T}}$$${\displaystyle F_{\mathbf {X} }(\mathbf {x} )=\operatorname {P} (X_{1}\leq x_{1},\ldots ,X_{N}\leq x_{N})}$$

Каждая многомерная CDF-функция:

1. Монотонно не убывающая для каждой из своих переменных,
2. Непрерывна справа по каждой из своих переменных,
3. ${\displaystyle 0\leq F_{X_{1}\ldots X_{n}}(x_{1},\ldots ,x_{n})\leq 1,}$
4. $${\displaystyle \lim _{x_{1},\ldots ,x_{n}\rightarrow +\infty }F_{X_{1}\ldots X_{n}}(x_{1},\ldots ,x_{n})=1{\text{ and }}\lim _{x_{i}\rightarrow -\infty }F_{X_{1}\ldots X_{n}}(x_{1},\ldots ,x_{n})=0,{\text{for all }}i.}$$

Не каждая функция, удовлетворяющая четырем вышеприведенным свойствам, является многомерной CDF, в отличие от случая с одним измерением. Например, пусть для или или и пусть в противном случае. Легко видеть, что вышеуказанные условия выполнены, и все же это не CDF, поскольку если бы она была, то, как объясняется ниже.${\displaystyle F(x,y)=0}$${\displaystyle x<0}$${\displaystyle x+y<1}$${\displaystyle y<0}$${\displaystyle F(x,y)=1}$${\displaystyle F}$${\textstyle \operatorname {P} \left({\frac {1}{3}}<X\leq 1,{\frac {1}{3}}<Y\leq 1\right)=-1}$

Вероятность того, что точка принадлежит гиперпрямоугольнику , аналогична одномерному случаю: ^[11]$${\displaystyle F_{X_{1},X_{2}}(a,c)+F_{X_{1},X_{2}}(b,d)-F_{X_{1},X_{2}}(a,d)-F_{X_{1},X_{2}}(b,c)=\operatorname {P} (a<X_{1}\leq b,c<X_{2}\leq d)=\int ...}$$

Обобщение кумулятивной функции распределения с действительных на комплексные случайные величины неочевидно, поскольку выражения вида не имеют смысла. Однако выражения вида имеют смысл. Поэтому мы определяем кумулятивное распределение комплексной случайной величины через совместное распределение их действительных и мнимых частей:${\displaystyle P(Z\leq 1+2i)}$${\displaystyle P(\Re {(Z)}\leq 1,\Im {(Z)}\leq 3)}$$${\displaystyle F_{Z}(z)=F_{\Re {(Z)},\Im {(Z)}}(\Re {(z)},\Im {(z)})=P(\Re {(Z)}\leq \Re {(z)},\Im {(Z)}\leq \Im {(z)}).}$$

Обобщение уравнения 4 дает определение для CDS комплексного случайного вектора .$${\displaystyle F_{\mathbf {Z} }(\mathbf {z} )=F_{\Re {(Z_{1})},\Im {(Z_{1})},\ldots ,\Re {(Z_{n})},\Im {(Z_{n})}}(\Re {(z_{1})},\Im {(z_{1})},\ldots ,\Re {(z_{n})},\Im {(z_{n})})=\operatorname {P} (\Re {(Z_{1})}\leq \Re {(z_{1})},\Im {(Z_{1})}\leq \Im {(z_{1})},\ldots ,\Re {(Z_{n})}\leq \Re {(z_{n})},\Im {(Z_{n})}\leq \Im {(z_{n})})}$$${\displaystyle \mathbf {Z} =(Z_{1},\ldots ,Z_{N})^{T}}$

Концепция кумулятивной функции распределения явно появляется в статистическом анализе двумя (похожими) способами. Кумулятивный частотный анализ — это анализ частоты появления значений явления, меньших контрольного значения. Эмпирическая функция распределения — это формальная прямая оценка кумулятивной функции распределения, для которой можно вывести простые статистические свойства и которая может лечь в основу различных статистических проверок гипотез . Такие проверки могут оценить, есть ли доказательства против того, что выборка данных возникла из заданного распределения, или доказательства против того, что две выборки данных произошли из одного и того же (неизвестного) распределения популяции.

Тест Колмогорова–Смирнова основан на кумулятивных функциях распределения и может использоваться для проверки того, различаются ли два эмпирических распределения или отличается ли эмпирическое распределение от идеального распределения. Тесно связанный тест Кейпера полезен, если область распределения циклична, как в случае дня недели. Например, тест Кейпера может использоваться для проверки того, меняется ли количество торнадо в течение года или меняются ли продажи продукта в зависимости от дня недели или дня месяца.

• Описательная статистика
• Распределительная арматура
• Огив (статистика)

• Медиафайлы по теме Кумулятивные функции распределения на Wikimedia Commons