Кумулянт

В теории вероятностей и статистике кумулянты κ _n распределения вероятностей представляют собой набор величин, которые предоставляют альтернативу моментам распределения . Любые два распределения вероятностей, моменты которых идентичны, будут иметь также идентичные кумулянты, и наоборот.

Первый кумулянт — это среднее значение , второй кумулянт — это дисперсия , а третий кумулянт совпадает с третьим центральным моментом . Но кумулянты четвертого и более высокого порядка не равны центральным моментам. В некоторых случаях теоретические трактовки проблем в терминах кумулянтов проще, чем те, которые используют моменты. В частности, когда две или более случайных величин статистически независимы , кумулянт n -го порядка их суммы равен сумме их кумулянтов n -го порядка. Кроме того, кумулянты третьего и более высокого порядка нормального распределения равны нулю, и это единственное распределение с этим свойством.

Так же, как и для моментов, где совместные моменты используются для совокупностей случайных величин, можно определить совместные кумулянты .

Кумулянты случайной величины X определяются с помощью функции генерации кумулянтов K ( t ) , которая является натуральным логарифмом функции генерации моментов :$${\displaystyle K(t)=\log \operatorname {E} \left[e^{tX}\right].}$$

Кумулянты κ _n получаются из разложения в степенной ряд функции, производящей кумулянты:$${\displaystyle K(t)=\sum _{n=1}^{\infty }\kappa _{n}{\frac {t^{n}}{n!}}=\kappa _{1}{\frac {t}{1!}}+\kappa _{2}{\frac {t^{2}}{2!}}+\kappa _{3}{\frac {t^{3}}{3!}}+\cdots =\mu t+\sigma ^{2}{\frac {t^{2}}{2}}+\cdots .}$$

Это разложение представляет собой ряд Маклорена , поэтому n- й кумулянт может быть получен путем дифференцирования приведенного выше разложения n раз и оценки результата при нуле: ^[1]$${\displaystyle \kappa _ {n}=K^{(n)}(0).}$$

Если функция, генерирующая моменты, не существует, кумулянты можно определить в терминах взаимосвязи между кумулянтами и моментами, обсуждаемой далее.

Некоторые авторы ^{[2] [3]} предпочитают определять функцию, генерирующую кумулянт, как натуральный логарифм характеристической функции , которую иногда также называют второй характеристической функцией , ^{[4] [5]}$${\displaystyle H(t)=\log \operatorname {E} \left[e^{itX}\right]=\sum _{n=1}^{\infty }\kappa _{n}{\frac {(it)^{n}}{n!}}=\mu it-\sigma ^{2}{\frac {t^{2}}{2}}+\cdots }$$

Преимущество H ( t ) — в некотором смысле функции K ( t ), оцененной для чисто мнимых аргументов — заключается в том, что E[ e ^itX ] хорошо определена для всех действительных значений t , даже когда E[ e ^tX ] не хорошо определена для всех действительных значений t , например, когда существует «слишком большая» вероятность того, что X имеет большую величину. Хотя функция H ( t ) будет хорошо определена, она, тем не менее, будет имитировать K ( t ) с точки зрения длины ее ряда Маклорена , который может не выходить за пределы (или, редко, даже до) линейного порядка по аргументу  t , и, в частности, число хорошо определенных кумулянтов не изменится. Тем не менее, даже когда H ( t ) не имеет длинного ряда Маклорена, ее можно использовать напрямую при анализе и, в частности, при добавлении случайных величин. Как распределение Коши (также называемое лоренцевым), так и, в более общем смысле, устойчивые распределения (связанные с распределением Леви) являются примерами распределений, для которых разложения в степенные ряды производящих функций имеют лишь конечное число четко определенных членов.

Кумулянт (распределения) случайной величины обладает следующими свойствами:${\textstyle н}$${\textstyle \каппа _{n}(X)}$${\textstyle X}$

• Если и является постоянным (т.е. не случайным), то т.е. кумулянт является трансляционно-инвариантным . (Если то мы имеем${\textstyle n>1}$${\textstyle с}$${\ textstyle \ каппа _ {n} (X + c) = \ каппа _ {n} (X),}$${\textstyle n=1}$${\textstyle \kappa _{1}(X+c)=\kappa _{1}(X)+c.)}$
• Если является постоянным (т.е. не случайным), то т.е. й кумулянт является однородным степени  .${\textstyle с}$${\ textstyle \ каппа _ {n} (cX) = c^ {n} \ каппа _ {n} (X),}$${\textstyle н}$${\textstyle н}$
• Если случайные величины независимы , то кумулянт является кумулятивным — отсюда и название.${\textstyle X_{1},\ldots ,X_{m}}$$${\displaystyle \каппа _{n}(X_{1}+\cdots +X_{m})=\каппа _{n}(X_{1})+\cdots +\каппа _{n}(X_{m})\,.}$$

Кумулятивное свойство быстро следует из рассмотрения функции генерации кумулянта: так что каждый кумулянт суммы независимых случайных величин является суммой соответствующих кумулянтов слагаемых . То есть, когда слагаемые статистически независимы, среднее значение суммы является суммой средних значений, дисперсия суммы является суммой дисперсий, третий кумулянт (который является третьим центральным моментом) суммы является суммой третьих кумулянтов, и так далее для каждого порядка кумулянта.$${\displaystyle {\begin{aligned}K_{X_{1}+\cdots +X_{m}}(t)&=\log \operatorname {E} \left[e^{t(X_{1}+\cdots +X_{m})}\right]\\[5pt]&=\log \left(\operatorname {E} \left[e^{tX_{1}}\right]\cdots \operatorname {E} \left[e^{tX_{m}}\right]\right)\\[5pt]&=\log \operatorname {E} \left[e^{tX_{1}}\right]+\cdots +\log \operatorname {E} \left[e^{tX_{m}}\right]\\[5pt]&=K_{X_{1}}(t)+\cdots +K_{X_{m}}(t),\end{aligned}}}$$

Распределение с заданными кумулянтами κ _n можно аппроксимировать с помощью ряда Эджворта .

Все высшие кумулянты являются полиномиальными функциями центральных моментов с целыми коэффициентами, но только в степенях 2 и 3 кумулянты фактически являются центральными моментами.

• ${\textstyle \kappa _{1}(X)=\operatorname {E} (X)={}}$иметь в виду
• ${\textstyle \kappa _{2}(X)=\operatorname {var} (X)=\operatorname {E} {\big (}(X-\operatorname {E} (X))^{2}{\big )}={}}$дисперсия, или второй центральный момент.
• ${\textstyle \kappa _{3}(X)=\operatorname {E} {\big (}(X-\operatorname {E} (X))^{3}{\big )}={}}$третий центральный момент.
• ${\textstyle \kappa _{4}(X)=\operatorname {E} {\big (}(X-\operatorname {E} (X))^{4}{\big )}-3\left(\operatorname {E} {\big (}(X-\operatorname {E} (X))^{2}{\big )}\right)^{2}={}}$четвертый центральный момент минус три квадрата второго центрального момента. Таким образом, это первый случай, в котором кумулянты не являются просто моментами или центральными моментами. Центральные моменты степени больше 3 не обладают кумулятивным свойством.
• ${\textstyle \kappa _{5}(X)=\operatorname {E} {\big (}(X-\operatorname {E} (X))^{5}{\big )}-10\operatorname {E} {\big (}(X-\operatorname {E} (X))^{3}{\big )}\operatorname {E} {\big (}(X-\operatorname {E} (X))^{2}{\big )}.}$

• Постоянные случайные величины X = µ . Кумулянтная производящая функция равна K ( t ) = µt . Первый кумулянт равен κ ₁ = K ′(0) = µ , а остальные кумулянты равны нулю, κ ₂ = κ ₃ = κ ₄ = ⋅⋅⋅ = 0 .
• Распределение Бернулли (число успехов в одном испытании с вероятностью успеха p ). Функция генерации кумулянтов K ( t ) = log(1 − p + p e ^t ) . Первые кумулянты κ ₁ = K '(0) = p и κ ₂ = K′′ (0) = p ·(1 − p ) . Кумулянты удовлетворяют рекурсивной формуле$${\displaystyle \kappa _{n+1}=p(1-p){\frac {d\kappa _{n}}{dp}}.}$$
• Геометрические распределения (число неудач до одного успеха с вероятностью успеха p в каждой попытке). Функция генерации кумулянтов K ( t ) = log( p / (1 + ( p − 1)e ^t )) . Первые кумулянты κ ₁ = K′ (0) = p ⁻¹ − 1 , и κ ₂ = K′′ (0) = κ ₁ p ⁻¹ . Подстановка p = ( μ + 1) ⁻¹ дает K ( t ) = −log(1 + μ (1−e ^t )) и κ ₁ = μ .
• Распределения Пуассона . Кумулянтная производящая функция равна K ( t ) = µ (e ^t - 1) . Все кумулянты равны параметру: κ ₁ = κ ₂ = κ ₃ = ... = µ .
• Биномиальные распределения (число успехов в n независимых испытаниях с вероятностью успеха p в каждом испытании). Частным случаем n = 1 является распределение Бернулли. Каждый кумулянт равен просто n раз соответствующему кумулянту соответствующего распределения Бернулли. Функция генерации кумулянта имеет вид K ( t ) = n log(1 − p + p e ^t ) . Первые кумулянты имеют вид κ ₁ = K′ (0) = np и κ ₂ = K′′ (0) = κ ₁ (1 − p ) . Подстановка p = μ· n ⁻¹ дает K '( t ) = ((μ ⁻¹ − n ⁻¹ )·e ^{− t} + n ⁻¹ ) ⁻¹ и κ ₁ = μ . Предельный случай n ⁻¹ = 0 — распределение Пуассона.
• Отрицательное биномиальное распределение (число неудач до r успехов с вероятностью p успеха в каждой попытке). Особый случай r = 1 — геометрическое распределение. Каждый кумулянт — это просто r , умноженное на соответствующий кумулянт соответствующего геометрического распределения. Производная функции, производящей кумулянт, равна K ′( t ) = r ·((1 − p ) ⁻¹ ·e ^{− t} −1) ⁻¹ . Первые кумулянты равны κ ₁ = K ′(0) = r ·( p ⁻¹ −1) , и κ ₂ = K ′′(0) = κ ₁ · p ⁻¹ . Подстановка p = (μ· r ⁻¹ +1) ⁻¹ дает K ′( t ) = (( μ ⁻¹ + r ⁻¹ ) e ^{− t} − r ⁻¹ ) ⁻¹ и κ ₁ = μ . Сравнение этих формул с формулами биномиального распределения объясняет название «отрицательное биномиальное распределение». Предельный случай r ⁻¹ = 0 — это распределение Пуассона.

Вводя отношение дисперсии к среднему значению, приведенные выше распределения вероятностей получают единую формулу для производной кумулянтной производящей функции: ^{[ необходима ссылка ]}$${\displaystyle \varepsilon =\mu ^{-1}\sigma ^{2}=\kappa _{1}^{-1}\kappa _{2},}$$$${\displaystyle K'(t)=(1+(e^{-t}-1)\varepsilon )^{-1}\mu }$$

Вторая производная подтверждает, что первый кумулянт равен κ ₁ = K′ (0) = μ , а второй кумулянт равен κ ₂ = K′′ (0) = με .$${\displaystyle K''(t)=(\varepsilon -(\varepsilon -1)e^{t})^{-2}\mu \varepsilon e^{t}}$$

Постоянные случайные величины X = μ имеют ε = 0 .

Биномиальные распределения имеют ε = 1 − p , так что 0 < ε < 1 .

Распределения Пуассона имеют ε = 1 .

Отрицательные биномиальные распределения имеют ε = p ^−1, так что ε > 1 .

Обратите внимание на аналогию с классификацией конических сечений по эксцентриситету : окружности ε = 0 , эллипсы 0 < ε < 1 , параболы ε = 1 , гиперболы ε > 1 .

• Для нормального распределения с ожидаемым значением μ и дисперсией σ ² функция генерации кумулянта имеет вид K ( t ) = μt + σ ² t ² /2 . Первая и вторая производные функции генерации кумулянта имеют вид K ′( t ) = μ + σ ² · t и K ′′( t ) = σ ² . Кумулянты имеют вид κ ₁ = μ , κ ₂ = σ ² и κ ₃ = κ ₄ = ⋅⋅⋅ = 0 . Частным случаем σ ² = 0 является постоянная случайная величина X = μ .
• Кумулянты равномерного распределения на интервале [−1, 0] равны κ _n = B _n / n , где B _n — n- е число Бернулли .
• Кумулянты экспоненциального распределения с параметром скорости λ равны κ _n = λ ^{− n} ( n − 1)! .

Функция, производящая кумулянт K ( t ) , если она существует, бесконечно дифференцируема и выпукла , и проходит через начало координат. Ее первая производная изменяется монотонно в открытом интервале от инфимума до супремума носителя распределения вероятностей, а ее вторая производная строго положительна всюду, где она определена, за исключением вырожденного распределения единственной точечной массы. Функция, производящая кумулянт, существует тогда и только тогда, когда хвосты распределения мажорируются экспоненциальным распадом , то есть ( см. обозначение Big O ), где — кумулятивная функция распределения . Функция, производящая кумулянт, будет иметь вертикальную асимптоту (s) в отрицательной супремуме такого c , если такой супремум существует, и в супремуме такого d , если такой супремум существует, в противном случае она будет определена для всех действительных чисел.$${\displaystyle {\begin{aligned}&\exists c>0,\,\,F(x)=O(e^{cx}),x\to -\infty ;{\text{ and}}\\[4pt]&\exists d>0,\,\,1-F(x)=O(e^{-dx}),x\to +\infty ;\end{aligned}}}$$${\textstyle F}$

Если носитель случайной величины X имеет конечные верхние или нижние границы, то его кумулянтно-генерирующая функция y = K ( t ) , если она существует, стремится к асимптоте (s), наклон которой равен супремуму или инфимуму носителя, соответственно, лежа выше обеих этих линий всюду. (Интегралы дают y -пересечения этих асимптот, поскольку  K (0) = 0 .)$${\displaystyle {\begin{aligned}y&=(t+1)\inf \operatorname {supp} X-\mu (X),{\text{ and}}\\[5pt]y&=(t-1)\sup \operatorname {supp} X+\mu (X),\end{aligned}}}$$$${\displaystyle \int _{-\infty }^{0}\left[t\inf \operatorname {supp} X-K'(t)\right]\,dt,\qquad \int _{\infty }^{0}\left[t\inf \operatorname {supp} X-K'(t)\right]\,dt}$$

Для сдвига распределения на c , для вырожденной точечной массы в c , кумулянтная производящая функция является прямой линией , и, в более общем случае, тогда и только тогда, когда X и Y независимы и существуют их кумулянтные производящие функции; ( субиндепенденсация и существование вторых моментов достаточны для того, чтобы подразумевать независимость. ^[6] )${\textstyle K_{X+c}(t)=K_{X}(t)+ct.}$${\textstyle K_{c}(t)=ct}$${\textstyle K_{X+Y}=K_{X}+K_{Y}}$

Естественное экспоненциальное семейство распределения может быть реализовано путем сдвига или переноса K ( t ) и вертикальной регулировки так, чтобы оно всегда проходило через начало координат: если f — это функция распределения с кумулянтной производящей функцией , а — ее естественное экспоненциальное семейство, то и${\textstyle K(t)=\log M(t),}$${\textstyle f|\theta }$${\textstyle f(x\mid \theta )={\frac {1}{M(\theta )}}e^{\theta x}f(x),}$${\textstyle K(t\mid \theta )=K(t+\theta )-K(\theta ).}$

Если K ( t ) конечен для диапазона t ₁ < Re( t ) < t ₂ , то если t ₁ < 0 < t ₂ , то K ( t ) аналитичен и бесконечно дифференцируем для t ₁ < Re( t ) < t ₂ . Более того, для действительных t и t ₁ < t < t ₂ K ( t ) строго выпуклый, а K ′( t ) строго возрастает. ^{[ необходима цитата ]}

Учитывая результаты для кумулянтов нормального распределения , можно было бы надеяться найти семейства распределений, для которых κ _m = κ _{m +1} = ⋯ = 0 для некоторого m > 3 , с кумулянтами низшего порядка (порядки от 3 до m − 1 ), не равными нулю. Таких распределений не существует. ^[7] Основной результат здесь заключается в том, что функция генерации кумулянтов не может быть полиномом конечного порядка степени выше 2.

Функция , производящая момент, определяется выражением:$${\displaystyle M(t)=1+\sum _{n=1}^{\infty }{\frac {\mu '_{n}t^{n}}{n!}}=\exp \left(\sum _{n=1}^{\infty }{\frac {\kappa _{n}t^{n}}{n!}}\right)=\exp(K(t)).}$$

Таким образом, функция генерации кумулянта является логарифмом функции генерации момента.$${\displaystyle K(t)=\log M(t).}$$

Первый кумулянт — это ожидаемое значение ; второй и третий кумулянты — это соответственно второй и третий центральные моменты (второй центральный момент — это дисперсия ); но более высокие кумулянты не являются ни моментами, ни центральными моментами, а скорее более сложными полиномиальными функциями моментов.

Моменты можно восстановить в терминах кумулянтов, оценив n -ю производную от ⁠ ⁠ ,${\textstyle \exp(K(t))}$${\displaystyle t=0}$$${\displaystyle \mu '_{n}=M^{(n)}(0)=\left.{\frac {\mathrm {d} ^{n}\exp(K(t))}{\mathrm {d} t^{n}}}\right|_{t=0}.}$$

Аналогично, кумулянты можно восстановить в терминах моментов, оценив n - ю производную от ⁠ ⁠ ,${\textstyle \log M(t)}$${\displaystyle t=0}$$${\displaystyle \kappa _{n}=K^{(n)}(0)=\left.{\frac {\mathrm {d} ^{n}\log M(t)}{\mathrm {d} t^{n}}}\right|_{t=0}.}$$

Явное выражение для n- го момента в терминах первых n кумулянтов, и наоборот, можно получить, используя формулу Фаа ди Бруно для высших производных сложных функций. В общем случае мы имеем где — неполные (или частичные) полиномы Белла .$${\displaystyle \mu '_{n}=\sum _{k=1}^{n}B_{n,k}(\kappa _{1},\ldots ,\kappa _{n-k+1})}$$$${\displaystyle \kappa _{n}=\sum _{k=1}^{n}(-1)^{k-1}(k-1)!B_{n,k}(\mu '_{1},\ldots ,\mu '_{n-k+1}),}$$${\textstyle B_{n,k}}$

Аналогично, если среднее значение задано как , то функция, генерирующая центральный момент, задана как и n- й центральный момент получается в терминах кумулянтов как${\textstyle \mu }$$${\displaystyle C(t)=\operatorname {E} [e^{t(x-\mu )}]=e^{-\mu t}M(t)=\exp(K(t)-\mu t),}$$$${\displaystyle \mu _{n}=C^{(n)}(0)=\left.{\frac {\mathrm {d} ^{n}}{\mathrm {d} t^{n}}}\exp(K(t)-\mu t)\right|_{t=0}=\sum _{k=1}^{n}B_{n,k}(0,\kappa _{2},\ldots ,\kappa _{n-k+1}).}$$

Кроме того, для n > 1 n -й кумулянт в терминах центральных моментов равен$${\displaystyle {\begin{aligned}\kappa _{n}&=K^{(n)}(0)=\left.{\frac {\mathrm {d} ^{n}}{\mathrm {d} t^{n}}}(\log C(t)+\mu t)\right|_{t=0}\\[4pt]&=\sum _{k=1}^{n}(-1)^{k-1}(k-1)!B_{n,k}(0,\mu _{2},\ldots ,\mu _{n-k+1}).\end{aligned}}}$$

N -й момент μ ′ n _{является} полиномом n -й степени в первых n кумулянтах. Первые несколько выражений:

$${\displaystyle {\begin{aligned}\mu '_{1}={}&\kappa _{1}\\[5pt]\mu '_{2}={}&\kappa _{2}+\kappa _{1}^{2}\\[5pt]\mu '_{3}={}&\kappa _{3}+3\kappa _{2}\kappa _{1}+\kappa _{1}^{3}\\[5pt]\mu '_{4}={}&\kappa _{4}+4\kappa _{3}\kappa _{1}+3\kappa _{2}^{2}+6\kappa _{2}\kappa _{1}^{2}+\kappa _{1}^{4}\\[5pt]\mu '_{5}={}&\kappa _{5}+5\kappa _{4}\kappa _{1}+10\kappa _{3}\kappa _{2}+10\kappa _{3}\kappa _{1}^{2}+15\kappa _{2}^{2}\kappa _{1}+10\kappa _{2}\kappa _{1}^{3}+\kappa _{1}^{5}\\[5pt]\mu '_{6}={}&\kappa _{6}+6\kappa _{5}\kappa _{1}+15\kappa _{4}\kappa _{2}+15\kappa _{4}\kappa _{1}^{2}+10\kappa _{3}^{2}+60\kappa _{3}\kappa _{2}\kappa _{1}+20\kappa _{3}\kappa _{1}^{3}\\&{}+15\kappa _{2}^{3}+45\kappa _{2}^{2}\kappa _{1}^{2}+15\kappa _{2}\kappa _{1}^{4}+\kappa _{1}^{6}.\end{aligned}}}$$

«Штрих» отличает моменты μ ′ _n от центральных моментов μ _n . Чтобы выразить центральные моменты как функции кумулянтов, просто отбросьте из этих полиномов все члены, в которых κ ₁ появляется как множитель:$${\displaystyle {\begin{aligned}\mu _{1}&=0\\[4pt]\mu _{2}&=\kappa _{2}\\[4pt]\mu _{3}&=\kappa _{3}\\[4pt]\mu _{4}&=\kappa _{4}+3\kappa _{2}^{2}\\[4pt]\mu _{5}&=\kappa _{5}+10\kappa _{3}\kappa _{2}\\[4pt]\mu _{6}&=\kappa _{6}+15\kappa _{4}\kappa _{2}+10\kappa _{3}^{2}+15\kappa _{2}^{3}.\end{aligned}}}$$

Аналогично, n- й кумулянт κ _n является полиномом n -й степени в первых n нецентральных моментах. Первые несколько выражений:$${\displaystyle {\begin{aligned}\kappa _{1}={}&\mu '_{1}\\[4pt]\kappa _{2}={}&\mu '_{2}-{\mu '_{1}}^{2}\\[4pt]\kappa _{3}={}&\mu '_{3}-3\mu '_{2}\mu '_{1}+2{\mu '_{1}}^{3}\\[4pt]\kappa _{4}={}&\mu '_{4}-4\mu '_{3}\mu '_{1}-3{\mu '_{2}}^{2}+12\mu '_{2}{\mu '_{1}}^{2}-6{\mu '_{1}}^{4}\\[4pt]\kappa _{5}={}&\mu '_{5}-5\mu '_{4}\mu '_{1}-10\mu '_{3}\mu '_{2}+20\mu '_{3}{\mu '_{1}}^{2}+30{\mu '_{2}}^{2}\mu '_{1}-60\mu '_{2}{\mu '_{1}}^{3}+24{\mu '_{1}}^{5}\\[4pt]\kappa _{6}={}&\mu '_{6}-6\mu '_{5}\mu '_{1}-15\mu '_{4}\mu '_{2}+30\mu '_{4}{\mu '_{1}}^{2}-10{\mu '_{3}}^{2}+120\mu '_{3}\mu '_{2}\mu '_{1}\\&{}-120\mu '_{3}{\mu '_{1}}^{3}+30{\mu '_{2}}^{3}-270{\mu '_{2}}^{2}{\mu '_{1}}^{2}+360\mu '_{2}{\mu '_{1}}^{4}-120{\mu '_{1}}^{6}\,.\end{aligned}}}$$

В общем случае ^[8] кумулянт является определителем матрицы:$${\displaystyle \kappa _{l}=(-1)^{l+1}\left|{\begin{array}{cccccccc}\mu '_{1}&1&0&0&0&0&\ldots &0\\\mu '_{2}&\mu '_{1}&1&0&0&0&\ldots &0\\\mu '_{3}&\mu '_{2}&\left({\begin{array}{l}2\\1\end{array}}\right)\mu '_{1}&1&0&0&\ldots &0\\\mu '_{4}&\mu '_{3}&\left({\begin{array}{l}3\\1\end{array}}\right)\mu '_{2}&\left({\begin{array}{l}3\\2\end{array}}\right)\mu '_{1}&1&0&\ldots &0\\\mu '_{5}&\mu '_{4}&\left({\begin{array}{l}4\\1\end{array}}\right)\mu '_{3}&\left({\begin{array}{l}4\\2\end{array}}\right)\mu '_{2}&\left({\begin{array}{c}4\\3\end{array}}\right)\mu '_{1}&1&\ldots &0\\\vdots &\vdots &\vdots &\vdots &\vdots &\ddots &\ddots &\vdots \\\mu '_{l-1}&\mu '_{l-2}&\ldots &\ldots &\ldots &\ldots &\ddots &1\\\mu '_{l}&\mu '_{l-1}&\ldots &\ldots &\ldots &\ldots &\ldots &\left({\begin{array}{l}l-1\\l-2\end{array}}\right)\mu '_{1}\end{array}}\right|}$$

Чтобы выразить кумулянты κ _n для n > 1 как функции центральных моментов, отбросим из этих полиномов все члены, в которых μ' ₁ появляется как множитель:$${\displaystyle \kappa _{2}=\mu _{2}\,}$$$${\displaystyle \kappa _{3}=\mu _{3}\,}$$$${\displaystyle \kappa _{4}=\mu _{4}-3{\mu _{2}}^{2}\,}$$$${\displaystyle \kappa _{5}=\mu _{5}-10\mu _{3}\mu _{2}\,}$$$${\displaystyle \kappa _{6}=\mu _{6}-15\mu _{4}\mu _{2}-10{\mu _{3}}^{2}+30{\mu _{2}}^{3}\,.}$$

Кумулянты могут быть связаны с моментами путем дифференцирования отношения log M ( t ) = K ( t ) относительно t , что дает M′ ( t ) = K′ ( t ) M ( t ) , которое удобно не содержит экспонент или логарифмов. Приравнивая коэффициент t ^{n −1} / ( n −1)! в левой и правой частях и используя μ′ ₀ = 1, получаем следующие формулы для n ≥ 1 : ^[9] Они позволяют вычислять либо или из другого, используя знание кумулянтов и моментов низшего порядка. Соответствующие формулы для центральных моментов для формируются из этих формул путем установки и замены каждой на для :$${\displaystyle {\begin{aligned}\mu '_{1}={}&\kappa _{1}\\[1pt]\mu '_{2}={}&\kappa _{1}\mu '_{1}+\kappa _{2}\\[1pt]\mu '_{3}={}&\kappa _{1}\mu '_{2}+2\kappa _{2}\mu '_{1}+\kappa _{3}\\[1pt]\mu '_{4}={}&\kappa _{1}\mu '_{3}+3\kappa _{2}\mu '_{2}+3\kappa _{3}\mu '_{1}+\kappa _{4}\\[1pt]\mu '_{5}={}&\kappa _{1}\mu '_{4}+4\kappa _{2}\mu '_{3}+6\kappa _{3}\mu '_{2}+4\kappa _{4}\mu '_{1}+\kappa _{5}\\[1pt]\mu '_{6}={}&\kappa _{1}\mu '_{5}+5\kappa _{2}\mu '_{4}+10\kappa _{3}\mu '_{3}+10\kappa _{4}\mu '_{2}+5\kappa _{5}\mu '_{1}+\kappa _{6}\\[1pt]\mu '_{n}={}&\sum _{m=1}^{n-1}{n-1 \choose m-1}\kappa _{m}\mu '_{n-m}+\kappa _{n}\,.\end{aligned}}}$$${\textstyle \kappa _{n}}$${\textstyle \mu '_{n}}$${\textstyle \mu _{n}}$${\textstyle n\geq 2}$${\textstyle \mu '_{1}=\kappa _{1}=0}$${\textstyle \mu '_{n}}$${\textstyle \mu _{n}}$${\textstyle n\geq 2}$$${\displaystyle {\begin{aligned}\mu _{2}={}&\kappa _{2}\\[1pt]\mu _{3}={}&\kappa _{3}\\[1pt]\mu _{n}={}&\sum _{m=2}^{n-2}{n-1 \choose m-1}\kappa _{m}\mu _{n-m}+\kappa _{n}\,.\end{aligned}}}$$

Эти многочлены имеют замечательную комбинаторную интерпретацию: коэффициенты подсчитывают определенные разбиения множеств . Общая форма этих многочленов такова: где$${\displaystyle \mu '_{n}=\sum _{\pi \,\in \,\Pi }\prod _{B\,\in \,\pi }\kappa _{|B|}}$$

• π пробегает список всех разделов множества размера n ;
• « B ∈ π » означает, что B является одним из «блоков», на которые разбито множество; и
• | B | — размер множества B.

Таким образом, каждый моном является константой, умноженной на произведение кумулянтов, в котором сумма индексов равна n (например, в члене κ ₃ κ ₂ ² κ ₁ сумма индексов равна 3 + 2 + 2 + 1 = 8; это появляется в полиноме, который выражает 8-й момент как функцию первых восьми кумулянтов). Разбиение целого числа n соответствует каждому члену. Коэффициент в каждом члене является числом разбиений набора из n членов, которые схлопываются к этому разбиению целого числа n, когда члены набора становятся неразличимыми.

Дальнейшую связь между кумулянтами и комбинаторикой можно найти в работе Джан-Карло Рота , где связи с теорией инвариантов , симметричными функциями и биномиальными последовательностями изучаются с помощью теневого исчисления . ^[10]

Совместный кумулянт κ нескольких случайных величин X ₁ , ..., X _n определяется как коэффициент κ _1,...,1 ( X ₁ , ..., X _n ) в ряду Маклорена многомерной кумулянтной производящей функции, см. раздел 3.1 в ^[11]. Обратите внимание, что и, в частности, как и в случае с одной переменной, производящая функция и кумулянт могут быть определены посредством в этом случае и$${\displaystyle G(t_{1},\dots ,t_{n})=\log \mathrm {E} (\mathrm {e} ^{\sum _{j=1}^{n}t_{j}X_{j}})=\sum _{k_{1},\ldots ,k_{n}}\kappa _{k_{1},\ldots ,k_{n}}{\frac {t_{1}^{k_{1}}\cdots t_{n}^{k_{n}}}{k_{1}!\cdots k_{n}!}}\,.}$$$${\displaystyle \kappa _{k_{1},\dots ,k_{n}}=\left.\left({\frac {\mathrm {d} }{\mathrm {d} t_{1}}}\right)^{k_{1}}\cdots \left({\frac {\mathrm {d} }{\mathrm {d} t_{n}}}\right)^{k_{n}}G(t_{1},\dots ,t_{n})\right|_{t_{1}=\dots =t_{n}=0}\,,}$$$${\displaystyle \kappa (X_{1},\ldots ,X_{n})=\left.{\frac {\mathrm {d} ^{n}}{\mathrm {d} t_{1}\cdots \mathrm {d} t_{n}}}G(t_{1},\dots ,t_{n})\right|_{t_{1}=\dots =t_{n}=0}\,.}$$$${\displaystyle H(t_{1},\dots ,t_{n})=\log \mathrm {E} (\mathrm {e} ^{\sum _{j=1}^{n}it_{j}X_{j}})=\sum _{k_{1},\ldots ,k_{n}}\kappa _{k_{1},\ldots ,k_{n}}i^{k_{1}+\cdots +k_{n}}{\frac {t_{1}^{k_{1}}\cdots t_{n}^{k_{n}}}{k_{1}!\cdots k_{n}!}}\,,}$$$${\displaystyle \kappa _{k_{1},\dots ,k_{n}}=(-i)^{k_{1}+\cdots +k_{n}}\left.\left({\frac {\mathrm {d} }{\mathrm {d} t_{1}}}\right)^{k_{1}}\cdots \left({\frac {\mathrm {d} }{\mathrm {d} t_{n}}}\right)^{k_{n}}H(t_{1},\dots ,t_{n})\right|_{t_{1}=\dots =t_{n}=0}\,,}$$$${\displaystyle \kappa (X_{1},\ldots ,X_{n})=\left.(-i)^{n}{\frac {\mathrm {d} ^{n}}{\mathrm {d} t_{1}\cdots \mathrm {d} t_{n}}}H(t_{1},\dots ,t_{n})\right|_{t_{1}=\dots =t_{n}=0}\,.}$$

Заметим, что можно также записать в виде , из чего следует, что Например , и В частности, последнее равенство показывает, что кумулянты одной случайной величины являются совместными кумулянтами нескольких копий этой случайной величины.${\textstyle \kappa _{k_{1},\dots ,k_{n}}(X_{1},\ldots ,X_{n})}$$${\displaystyle \kappa _{k_{1},\dots ,k_{n}}=\left.{\frac {\mathrm {d} ^{k_{1}}}{\mathrm {d} t_{1,1}\cdots \mathrm {d} t_{1,k_{1}}}}\cdots {\frac {\mathrm {d} ^{k_{n}}}{\mathrm {d} t_{n,1}\cdots \mathrm {d} t_{n,k_{n}}}}G\left(\sum _{j=1}^{k_{1}}t_{1,j},\dots ,\sum _{j=1}^{k_{n}}t_{n,j}\right)\right|_{t_{i,j}=0},}$$$${\displaystyle \kappa _{k_{1},\dots ,k_{n}}(X_{1},\ldots ,X_{n})=\kappa _{1,\ldots ,1}(\underbrace {X_{1},\dots ,X_{1}} _{k_{1}},\ldots ,\underbrace {X_{n},\dots ,X_{n}} _{k_{n}}).}$$$${\displaystyle \kappa _{2,0,1}(X,Y,Z)=\kappa (X,X,Z),\,}$$$${\displaystyle \kappa _{0,0,n,0}(X,Y,Z,T)=\kappa _{n}(Z)=\kappa (\underbrace {Z,\dots ,Z} _{n}).\,}$$

Совместный кумулянт или случайные величины могут быть выражены как альтернативная сумма произведений их смешанных моментов , см. уравнение (3.2.7) в ^[11] , где  π пробегает список всех разделов {1, ..., n } ; где  B пробегает список всех блоков раздела  π ; и где  | π | - число частей в разделе.$${\displaystyle \kappa (X_{1},\dots ,X_{n})=\sum _{\pi }(|\pi |-1)!(-1)^{|\pi |-1}\prod _{B\in \pi }E\left(\prod _{i\in B}X_{i}\right)}$$

Например, — ожидаемое значение , — ковариация и , а$${\displaystyle \kappa (X)=\operatorname {E} (X),}$$${\textstyle X}$$${\displaystyle \kappa (X,Y)=\operatorname {E} (XY)-\operatorname {E} (X)\operatorname {E} (Y),}$$${\textstyle X}$${\textstyle Y}$$${\displaystyle \kappa (X,Y,Z)=\operatorname {E} (XYZ)-\operatorname {E} (XY)\operatorname {E} (Z)-\operatorname {E} (XZ)\operatorname {E} (Y)-\operatorname {E} (YZ)\operatorname {E} (X)+2\operatorname {E} (X)\operatorname {E} (Y)\operatorname {E} (Z).\,}$$

Для случайных величин с нулевым средним любой смешанный момент формы исчезает, если является разбиением, которое содержит синглтон . Следовательно, выражение их совместного кумулянта в терминах смешанных моментов упрощается. Например, если X,Y,Z,W являются случайными величинами с нулевым средним, то мы имеем ${\textstyle X_{1},\ldots ,X_{n}}$${\textstyle \prod _{B\in \pi }E\left(\prod _{i\in B}X_{i}\right)}$${\textstyle \pi }$${\textstyle \{1,\ldots ,n\}}$${\textstyle B=\{k\}}$$${\displaystyle \kappa (X,Y,Z)=\operatorname {E} (XYZ).\,}$$$${\displaystyle \kappa (X,Y,Z,W)=\operatorname {E} (XYZW)-\operatorname {E} (XY)\operatorname {E} (ZW)-\operatorname {E} (XZ)\operatorname {E} (YW)-\operatorname {E} (XW)\operatorname {E} (YZ).\,}$$

В более общем смысле любой коэффициент ряда Маклорена также может быть выражен в терминах смешанных моментов, хотя кратких формул не существует. Действительно, как отмечено выше, можно записать его как совместный кумулянт, повторяя случайные величины соответствующим образом, а затем применить приведенную выше формулу, чтобы выразить его в терминах смешанных моментов. Например$${\displaystyle \kappa _{201}(X,Y,Z)=\kappa (X,X,Z)=\operatorname {E} (X^{2}Z)-2\operatorname {E} (XZ)\operatorname {E} (X)-\operatorname {E} (X^{2})\operatorname {E} (Z)+2\operatorname {E} (X)^{2}\operatorname {E} (Z).\,}$$

Если некоторые случайные величины независимы от всех остальных, то любой кумулянт, включающий две (или более) независимых случайных величины, равен нулю. ^{[ необходима ссылка ]}

Комбинаторный смысл выражения смешанных моментов через кумулянты понять легче, чем смысл кумулянтов через смешанные моменты, см. уравнение (3.2.6) в: ^[11]$${\displaystyle \operatorname {E} (X_{1}\cdots X_{n})=\sum _{\pi }\prod _{B\in \pi }\kappa (X_{i}:i\in B).}$$

Например:$${\displaystyle \operatorname {E} (XYZ)=\kappa (X,Y,Z)+\kappa (X,Y)\kappa (Z)+\kappa (X,Z)\kappa (Y)+\kappa (Y,Z)\kappa (X)+\kappa (X)\kappa (Y)\kappa (Z).\,}$$

Другим важным свойством совместных кумулянтов является мультилинейность:$${\displaystyle \kappa (X+Y,Z_{1},Z_{2},\dots )=\kappa (X,Z_{1},Z_{2},\ldots )+\kappa (Y,Z_{1},Z_{2},\ldots ).\,}$$

Так же, как второй кумулянт является дисперсией, совместный кумулянт всего двух случайных величин является ковариацией . Знакомое тождество обобщается на кумулянты:$${\displaystyle \operatorname {var} (X+Y)=\operatorname {var} (X)+2\operatorname {cov} (X,Y)+\operatorname {var} (Y)\,}$$$${\displaystyle \kappa _{n}(X+Y)=\sum _{j=0}^{n}{n \choose j}\kappa (\,\underbrace {X,\dots ,X} _{j},\underbrace {Y,\dots ,Y} _{n-j}\,).\,}$$

Закон полного ожидания и закон полной дисперсии естественным образом обобщаются на условные кумулянты. Случай n = 3 , выраженный на языке (центральных) моментов , а не на языке кумулянтов, говорит:$${\displaystyle \mu _{3}(X)=\operatorname {E} (\mu _{3}(X\mid Y))+\mu _{3}(\operatorname {E} (X\mid Y))+3\operatorname {cov} (\operatorname {E} (X\mid Y),\operatorname {var} (X\mid Y)).}$$

В общем случае, ^[12] где$${\displaystyle \kappa (X_{1},\dots ,X_{n})=\sum _{\pi }\kappa (\kappa (X_{\pi _{1}}\mid Y),\dots ,\kappa (X_{\pi _{b}}\mid Y))}$$

• сумма берется по всем разбиениям  π набора {1, ..., n } индексов, и
• π ₁ , ...,  π _b — все «блоки» разбиения π ; выражение κ ( X _{π m} ) указывает на совместный кумулянт случайных величин, индексы которых находятся в этом блоке разбиения.

Для определенных настроек можно установить производное тождество между условным кумулянтом и условным ожиданием. Например, предположим, что Y = X + Z , где Z — стандартное нормальное распределение, независимое от X , тогда для любого X выполняется следующее ^[13] Результаты также можно распространить на экспоненциальное семейство. ^[14]$${\displaystyle \kappa _{n+1}(X\mid Y=y)={\frac {\mathrm {d} ^{n}}{\mathrm {d} y^{n}}}\operatorname {E} (X\mid Y=y),\,n\in \mathbb {N} ,\,y\in \mathbb {R} .}$$

В статистической физике многие экстенсивные величины – то есть величины, пропорциональные объему или размеру данной системы – связаны с кумулянтами случайных величин. Глубокая связь заключается в том, что в большой системе экстенсивную величину, такую ​​как энергия или число частиц, можно рассматривать как сумму (скажем) энергии, связанной с рядом почти независимых областей. Тот факт, что кумулянты этих почти независимых случайных величин будут (почти) складываться, делает разумным ожидать, что экстенсивные величины будут связаны с кумулянтами.

Система, находящаяся в равновесии с термальной ванной при температуре T, имеет флуктуирующую внутреннюю энергию E , которую можно считать случайной величиной, взятой из распределения . Статистическая сумма системы равна где β =  1/( kT ) , а k — постоянная Больцмана , и обозначение было использовано вместо ожидаемого значения, чтобы избежать путаницы с энергией E . Следовательно, первый и второй кумулянты для энергии E дают среднюю энергию и теплоемкость.${\textstyle E\sim p(E)}$$${\displaystyle Z(\beta )=\sum _{i}e^{-\beta E_{i}},}$$${\textstyle \langle A\rangle }$${\textstyle \operatorname {E} [A]}$$${\displaystyle {\begin{aligned}\langle E\rangle _{c}&={\frac {\partial \log Z}{\partial (-\beta )}}=\langle E\rangle \\[6pt]\langle E^{2}\rangle _{c}&={\frac {\partial \langle E\rangle _{c}}{\partial (-\beta )}}=kT^{2}{\frac {\partial \langle E\rangle }{\partial T}}=kT^{2}C\end{aligned}}}$$

Свободная энергия Гельмгольца, выраженная в терминах, далее связывает термодинамические величины с функцией генерации кумулянта для энергии. Термодинамические свойства, которые являются производными свободной энергии, такие как ее внутренняя энергия , энтропия и удельная теплоемкость, могут быть легко выражены в терминах этих кумулянтов. Другая свободная энергия может быть функцией других переменных, таких как магнитное поле или химический потенциал , например, где N — число частиц, а — большой потенциал. Опять же, тесная связь между определением свободной энергии и функцией генерации кумулянта подразумевает, что различные производные этой свободной энергии могут быть записаны в терминах совместных кумулянтов E и N.$${\displaystyle F(\beta )=-\beta ^{-1}\log Z(\beta )\,}$$${\textstyle \mu }$$${\displaystyle \Omega =-\beta ^{-1}\log(\langle \exp(-\beta E-\beta \mu N)\rangle ),\,}$$${\textstyle \Omega }$

Историю кумулянтов обсуждает Андерс Хальд . ^{[15] [16]}

Кумулянты были впервые введены Торвальдом Н. Тиле в 1889 году, который назвал их полуинвариантами . ^[17] Впервые они были названы кумулянтами в статье 1932 года Рональда Фишера и Джона Уишарта . ^[18] Фишеру публично напомнил о работе Тиле Нейман, который также отмечает предыдущие опубликованные цитаты Тиле, доведенные до сведения Фишера. ^[19] Стивен Стиглер сказал ^{[ требуется цитата ]} , что название кумулянт было предложено Фишеру в письме от Гарольда Хотеллинга . В статье, опубликованной в 1929 году, Фишер назвал их кумулятивными моментными функциями . ^[20]

Разделительная функция в статистической физике была введена Джозайей Уиллардом Гиббсом в 1901 году. ^{[ требуется ссылка ]} Свободная энергия часто называется свободной энергией Гиббса. В статистической механике кумулянты также известны как функции Урселла, относящиеся к публикации 1927 года. ^{[ требуется ссылка ]}

В более общем смысле, кумулянты последовательности { m _n  : n = 1, 2, 3, ... } , не обязательно моменты любого распределения вероятностей, по определению находятся там, где значения κ _n для n = 1, 2, 3, ... находятся формально, т. е. только с помощью алгебры, без учета вопросов о том, сходится ли какой-либо ряд. Все трудности «проблемы кумулянтов» отсутствуют, когда работаешь формально. Простейшим примером является то, что второй кумулянт распределения вероятностей всегда должен быть неотрицательным и равен нулю, только если все более высокие кумулянты равны нулю. Формальные кумулянты не подчиняются таким ограничениям.$${\displaystyle 1+\sum _{n=1}^{\infty }{\frac {m_{n}t^{n}}{n!}}=\exp \left(\sum _{n=1}^{\infty }{\frac {\kappa _{n}t^{n}}{n!}}\right),}$$

В комбинаторике n- ое число Белла — это число разбиений множества размера n . Все кумулянты последовательности чисел Белла равны 1. Числа Белла — это моменты распределения Пуассона с ожидаемым значением 1 .

Для любой последовательности { κ _n  : n = 1, 2, 3, ... } скаляров в поле характеристики нуль, рассматриваемых как формальные кумулянты, существует соответствующая последовательность { μ ′ : n = 1, 2, 3, ... } формальных моментов, заданных вышеприведенными полиномами. ^{[ необходимо разъяснение ] [ необходима цитата ]} Для этих полиномов постройте полиномиальную последовательность следующим образом. Из полинома сделайте новый полином от этих плюс одну дополнительную переменную x : и затем обобщите шаблон. Шаблон заключается в том, что числа блоков в вышеупомянутых разбиениях являются показателями степеней от x . Каждый коэффициент является полиномом от кумулянтов; это полиномы Белла , названные в честь Эрика Темпла Белла . ^{[ необходима цитата ]}$${\displaystyle {\begin{aligned}\mu '_{6}={}&\kappa _{6}+6\kappa _{5}\kappa _{1}+15\kappa _{4}\kappa _{2}+15\kappa _{4}\kappa _{1}^{2}+10\kappa _{3}^{2}+60\kappa _{3}\kappa _{2}\kappa _{1}+20\kappa _{3}\kappa _{1}^{3}\\&{}+15\kappa _{2}^{3}+45\kappa _{2}^{2}\kappa _{1}^{2}+15\kappa _{2}\kappa _{1}^{4}+\kappa _{1}^{6}\end{aligned}}}$$$${\displaystyle {\begin{aligned}p_{6}(x)={}&\kappa _{6}\,x+(6\kappa _{5}\kappa _{1}+15\kappa _{4}\kappa _{2}+10\kappa _{3}^{2})\,x^{2}+(15\kappa _{4}\kappa _{1}^{2}+60\kappa _{3}\kappa _{2}\kappa _{1}+15\kappa _{2}^{3})\,x^{3}\\&{}+(45\kappa _{2}^{2}\kappa _{1}^{2})\,x^{4}+(15\kappa _{2}\kappa _{1}^{4})\,x^{5}+(\kappa _{1}^{6})\,x^{6},\end{aligned}}}$$

Эта последовательность полиномов имеет биномиальный тип . Фактически, не существует других последовательностей биномиального типа; каждая полиномиальная последовательность биномиального типа полностью определяется своей последовательностью формальных кумулянтов. ^{[ необходима цитата ]}

В приведенной выше формуле момент-кумулянт для совместных кумулянтов суммирование производится по всем разбиениям множества { 1, ..., n } . Если вместо этого суммирование производится только по непересекающимся разбиениям , то, решая эти формулы для в терминах моментов, мы получаем свободные кумулянты, а не обычные кумулянты, рассмотренные выше. Эти свободные кумулянты были введены Роландом Шпайхером и играют центральную роль в свободной теории вероятностей . ^{[21] [22]} В этой теории вместо рассмотрения независимости случайных величин , определяемой в терминах тензорных произведений алгебр случайных величин, вместо этого рассматривается свободная независимость случайных величин, определяемая в терминах свободных произведений алгебр. ^[22]$${\displaystyle \operatorname {E} (X_{1}\cdots X_{n})=\sum _{\pi }\prod _{B\,\in \,\pi }\kappa (X_{i}:i\in B)}$$${\textstyle \kappa }$

Обычные кумулянты степени выше 2 нормального распределения равны нулю. Свободные кумулянты степени выше 2 полукругового распределения Вигнера равны нулю. ^[22] Это одно из отношений, в котором роль распределения Вигнера в свободной теории вероятностей аналогична роли нормального распределения в обычной теории вероятностей.

• Энтропийная ценность под угрозой
• Функция генерации кумулянта из мультимножества
• Расширение Корниш-Фишера
• Расширение Эджворта
• Поликей
• k-статистика , несмещенная оценка кумулянта с минимальной дисперсией
• Функция Урселла
• Тензор полного разброса положения как приложение кумулянтов для анализа электронной волновой функции в квантовой химии .