Распределение с тяжелым хвостом

Эта статья может быть слишком технической для понимания большинства читателей . Пожалуйста, помогите улучшить ее, чтобы сделать ее понятной для неспециалистов , не удаляя технические детали. ( Май 2020 ) ( Узнайте, как и когда удалять это сообщение )

В теории вероятностей распределения с тяжелыми хвостами — это распределения вероятностей , хвосты которых не ограничены экспоненциально: ^[1] то есть они имеют более тяжелые хвосты, чем экспоненциальное распределение . Во многих приложениях интерес представляет правый хвост распределения, но распределение может иметь тяжелый левый хвост, или оба хвоста могут быть тяжелыми.

Существует три важных подкласса распределений с тяжелыми хвостами: распределения с толстыми хвостами , распределения с длинными хвостами и субэкспоненциальные распределения . На практике все обычно используемые распределения с тяжелыми хвостами относятся к субэкспоненциальному классу, введенному Йозефом Тейгельсом . ^[2]

Все еще существуют некоторые разногласия относительно использования термина « тяжелый хвост» . Существуют два других используемых определения. Некоторые авторы используют этот термин для обозначения тех распределений, у которых не все моменты мощности конечны; а некоторые другие — для тех распределений, у которых нет конечной дисперсии . Определение, данное в этой статье, является наиболее общим в использовании и включает все распределения, охватываемые альтернативными определениями, а также такие распределения, как логнормальное , которые обладают всеми моментами мощности, но которые, как правило, считаются распределениями с тяжелым хвостом. (Иногда термин «тяжелый хвост» используется для любого распределения, которое имеет более тяжелые хвосты, чем нормальное распределение.)

Говорят , что распределение случайной величины X с функцией распределения F имеет тяжелый (правый) хвост, если функция генерации моментов X , M _X ( t ), бесконечна для всех t  > 0. ^[3]

Это означает

${\displaystyle \int _{-\infty }^{\infty }e^{tx}\,dF(x)=\infty \quad {\mbox{for all }}t>0.}$ ^[4]

Это также записывается в терминах функции распределения хвоста

${\displaystyle {\overline {F}}(x)\equiv \Pr[X>x]\,}$

как

${\displaystyle \lim _{x\to \infty }e^{tx}{\overline {F}}(x)=\infty \quad {\mbox{for all }}t>0.\,}$

Говорят, что распределение случайной величины X с функцией распределения F имеет длинный правый хвост ^[1], если для всех t  > 0,

${\displaystyle \lim _{x\to \infty }\Pr[X>x+t\mid X>x]=1,\,}$

или эквивалентно

${\displaystyle {\overline {F}}(x+t)\sim {\overline {F}}(x)\quad {\mbox{as }}x\to \infty .\,}$

Это имеет интуитивно понятную интерпретацию для правохвостой длиннохвостой распределенной величины, что если длиннохвостая величина превышает некоторый высокий уровень, то вероятность того, что она превысит любой другой более высокий уровень, приближается к 1.

Все распределения с длинными хвостами имеют и тяжелые хвосты, но обратное утверждение неверно, и можно построить распределения с тяжелыми хвостами, которые не являются длинными хвостами.

Субэкспоненциальность определяется в терминах сверток распределений вероятностей . Для двух независимых, одинаково распределенных случайных величин с общей функцией распределения свертка с собой, записанная и называемая квадратом свертки, определяется с помощью интегрирования Лебега–Стилтьеса следующим образом:${\displaystyle X_{1},X_{2}}$${\displaystyle F}$${\displaystyle F}$${\displaystyle F^{*2}}$

${\displaystyle \Pr[X_{1}+X_{2}\leq x]=F^{*2}(x)=\int _{0}^{x}F(x-y)\,dF(y),}$

а n -кратная свертка определяется индуктивно по правилу:${\displaystyle F^{*n}}$

${\displaystyle F^{*n}(x)=\int _{0}^{x}F(x-y)\,dF^{*n-1}(y).}$

Функция распределения хвоста определяется как .${\displaystyle {\overline {F}}}$${\displaystyle {\overline {F}}(x)=1-F(x)}$

Распределение на положительной полупрямой является субэкспоненциальным ^{[1] [5] [2]} , если${\displaystyle F}$

${\displaystyle {\overline {F^{*2}}}(x)\sim 2{\overline {F}}(x)\quad {\mbox{as }}x\to \infty .}$

Это подразумевает ^[6] , что для любого ,${\displaystyle n\geq 1}$

${\displaystyle {\overline {F^{*n}}}(x)\sim n{\overline {F}}(x)\quad {\mbox{as }}x\to \infty .}$

Вероятностная интерпретация ^[6] этого заключается в том, что для суммы независимых случайных величин с общим распределением ,${\displaystyle n}$ ${\displaystyle X_{1},\ldots ,X_{n}}$${\displaystyle F}$

${\displaystyle \Pr[X_{1}+\cdots +X_{n}>x]\sim \Pr[\max(X_{1},\ldots ,X_{n})>x]\quad {\text{as }}x\to \infty .}$

Это часто называют принципом единого большого прыжка ^[7] или принципом катастрофы. ^[8]

Распределение на всей вещественной прямой является субэкспоненциальным, если распределение является. ^[9] Вот индикаторная функция положительной полупрямой. В качестве альтернативы, случайная величина, поддерживаемая на вещественной прямой, является субэкспоненциальной тогда и только тогда, когда является субэкспоненциальной.${\displaystyle F}$${\displaystyle FI([0,\infty ))}$${\displaystyle I([0,\infty ))}$${\displaystyle X}$${\displaystyle X^{+}=\max(0,X)}$

Все субэкспоненциальные распределения являются длиннохвостыми, но можно построить примеры длиннохвостых распределений, которые не являются субэкспоненциальными.

Все обычно используемые распределения с тяжелыми хвостами являются субэкспоненциальными. ^[6]

К односторонним относятся:

• распределение Парето ;
• Логнормальное распределение ;
• распределение Леви ;
• распределение Вейбулла с параметром формы больше 0, но меньше 1;
• распределение Берра ;
• логарифмически -логистическое распределение ;
• распределение логарифмической гаммы ;
• распределение Фреше ;
• q -гауссово распределение ;
• логарифмическое распределение Коши , иногда описываемое как имеющее «сверхтяжелый хвост», поскольку оно демонстрирует логарифмический распад, создающий более тяжелый хвост, чем распределение Парето. ^{[10] [11]}

К числу двусторонних относятся:

• Распределение Коши , которое само по себе является частным случаем как устойчивого распределения, так и t-распределения;
• Семейство стабильных распределений , ^[12] за исключением особого случая нормального распределения внутри этого семейства. Некоторые стабильные распределения являются односторонними (или поддерживаются полулинией), см., например, распределение Леви . См. также финансовые модели с длиннохвостыми распределениями и кластеризацией волатильности .
• Распределение Стьюдента .
• Асимметричное логарифмически-нормальное каскадное распределение. ^[13]

Распределение с толстым хвостом — это распределение, для которого функция плотности вероятности при больших x стремится к нулю как степень . Поскольку такая степень всегда ограничена снизу функцией плотности вероятности экспоненциального распределения, распределения с толстым хвостом всегда имеют тяжелый хвост. Однако некоторые распределения имеют хвост, который стремится к нулю медленнее, чем экспоненциальная функция (что означает, что они имеют тяжелый хвост), но быстрее, чем степень (что означает, что они не имеют толстого хвоста). Примером является логнормальное распределение ^{[ противоречивое ]} . Многие другие распределения с тяжелым хвостом, такие как логлогистическое и распределение Парето , однако, также имеют толстый хвост.${\displaystyle x^{-a}}$

Существуют параметрический ^[6] и непараметрический ^[14] подходы к проблеме оценки индекса хвоста. ^{[ когда определяется как? ]}

Для оценки индекса хвоста с использованием параметрического подхода некоторые авторы используют распределение GEV или распределение Парето ; они могут применять оценку максимального правдоподобия (MLE).

При случайной последовательности независимых и одинаковых функций плотности , область максимального притяжения ^[15] обобщенной плотности экстремальных значений , где . Если и , то оценка индекса хвоста Пикандса равна ^{[6] [15]}${\displaystyle (X_{n},n\geq 1)}$${\displaystyle F\in D(H(\xi ))}$${\displaystyle H}$${\displaystyle \xi \in \mathbb {R} }$${\displaystyle \lim _{n\to \infty }k(n)=\infty }$${\displaystyle \lim _{n\to \infty }{\frac {k(n)}{n}}=0}$

${\displaystyle \xi _{(k(n),n)}^{\text{Pickands}}={\frac {1}{\ln 2}}\ln \left({\frac {X_{(n-k(n)+1,n)}-X_{(n-2k(n)+1,n)}}{X_{(n-2k(n)+1,n)}-X_{(n-4k(n)+1,n)}}}\right),}$

где . Эта оценка сходится по вероятности к .${\displaystyle X_{(n-k(n)+1,n)}=\max \left(X_{n-k(n)+1},\ldots ,X_{n}\right)}$${\displaystyle \xi }$

Пусть будет последовательностью независимых и одинаково распределенных случайных величин с функцией распределения , максимальной областью притяжения обобщенного распределения экстремальных значений , где . Путь выборки равен , где — размер выборки. Если — последовательность промежуточного порядка, т. е . , и , то оценка индекса хвоста Хилла равна ^[16]${\displaystyle (X_{t},t\geq 1)}$${\displaystyle F\in D(H(\xi ))}$ ${\displaystyle H}$${\displaystyle \xi \in \mathbb {R} }$${\displaystyle {X_{t}:1\leq t\leq n}}$${\displaystyle n}$${\displaystyle \{k(n)\}}$${\displaystyle k(n)\in \{1,\ldots ,n-1\},}$${\displaystyle k(n)\to \infty }$${\displaystyle k(n)/n\to 0}$

${\displaystyle \xi _{(k(n),n)}^{\text{Hill}}=\left({\frac {1}{k(n)}}\sum _{i=n-k(n)+1}^{n}\ln(X_{(i,n)})-\ln(X_{(n-k(n)+1,n)})\right)^{-1},}$

где - статистика -го порядка . Эта оценка сходится по вероятности к , и является асимптотически нормальной при условии, что ограничена на основе свойства регулярной вариации более высокого порядка ^[17] . ^[18] Согласованность и асимптотическая нормальность распространяются на большой класс зависимых и неоднородных последовательностей, ^{[19] [20]} независимо от того, наблюдаются ли или вычисляются остаточные или отфильтрованные данные из большого класса моделей и оценок, включая неправильно указанные модели и модели с зависимыми ошибками. ^{[21] [22] [23]} Обратите внимание, что оценки хвостового индекса Пиканда и Хилла обычно используют логарифм порядковой статистики. ^[24]${\displaystyle X_{(i,n)}}$${\displaystyle i}$${\displaystyle X_{1},\dots ,X_{n}}$${\displaystyle \xi }$${\displaystyle k(n)\to \infty }$${\displaystyle X_{t}}$

Оценщик отношения (RE-оценщик) индекса хвоста был введен Голди и Смитом. ^[25] Он построен аналогично оценщику Хилла, но использует неслучайный «параметр настройки».

Сравнение оценок типа Хилла и типа RE можно найти в работе Новака. ^[14]

• aest Архивировано 25.11.2020 в Wayback Machine , инструменте C для оценки индекса тяжелого хвоста. ^[26]

Непараметрические подходы к оценке функций плотности вероятности с тяжелым и сверхтяжелым хвостом были даны в работе Марковича. ^[27] Это подходы, основанные на переменной полосе пропускания и ядерных оценках с длинным хвостом; на предварительном преобразовании данных в новую случайную величину на конечных или бесконечных интервалах, что более удобно для оценки и последующего обратного преобразования полученной оценки плотности; и «подход склеивания», который обеспечивает определенную параметрическую модель для хвоста плотности и непараметрическую модель для аппроксимации моды плотности. Непараметрические оценки требуют соответствующего выбора параметров настройки (сглаживания), таких как полоса пропускания ядерных оценок и ширина бина гистограммы. Хорошо известными методами такого выбора, основанными на данных, являются перекрестная проверка и ее модификации, методы, основанные на минимизации среднеквадратической ошибки (MSE) и ее асимптотики и их верхних границ. ^[28] Метод расхождения, который использует известные непараметрические статистики, такие как Колмогорова-Смирнова, фон Мизеса и Андерсона-Дарлинга, в качестве метрики в пространстве функций распределения (dfs) и квантили последних статистик в качестве известной неопределенности или значения расхождения, можно найти в ^[27] Bootstrap — это еще один инструмент для поиска параметров сглаживания с использованием приближений неизвестной MSE с помощью различных схем выбора повторных выборок, см., например, ^[29]

• Лептокуртическое распределение
• Обобщенное распределение экстремальных значений
• Обобщенное распределение Парето
• Выброс
• Длинный хвост
• Закон силы
• Семь состояний случайности
• Распределение с толстым хвостом
  • Распределение Талеба и распределение Святого Грааля