Свертка вероятностных распределений

Свертка /сумма распределений вероятностей возникает в теории вероятностей и статистике как операция в терминах распределений вероятностей , которая соответствует сложению независимых случайных величин и, в более широком смысле, формированию линейных комбинаций случайных величин. Операция здесь является частным случаем свертки в контексте распределений вероятностей.

Распределение вероятностей суммы двух или более независимых случайных величин является сверткой их индивидуальных распределений. Термин мотивирован тем фактом, что функция массы вероятности или функция плотности вероятности суммы независимых случайных величин является сверткой их соответствующих функций массы вероятности или функций плотности вероятности соответственно. Многие известные распределения имеют простые свертки: см. Список сверток распределений вероятностей .

Общая формула для распределения суммы двух независимых целочисленных (и, следовательно, дискретных) случайных величин имеет вид ^[1]${\displaystyle Z=X+Y}$

${\displaystyle P(Z=z)=\sum _{k=-\infty }^{\infty }P(X=k)P(Y=zk)}$

Для независимых непрерывных случайных величин с функциями плотности вероятности (PDF) и кумулятивными функциями распределения (CDF) соответственно, мы имеем, что CDF суммы равна:${\displaystyle f,g}$${\displaystyle F,G}$

${\displaystyle H(z)=\int _{-\infty}^{\infty}F(zt)g(t)dt=\int _{-\infty}^{\infty}G(t)f(zt)dt}$

Если начать со случайных величин и , связанных соотношением , и не имея информации об их возможной независимости, то:${\displaystyle X}$${\displaystyle Y}$${\displaystyle Z=X+Y}$

${\displaystyle f_{Z}(z)=\int \limits _{-\infty }^{\infty }f_{XY}(x,zx)~dx}$

Однако, если и независимы, то: ${\displaystyle X}$${\displaystyle Y}$

${\displaystyle f_{XY}(x,y)=f_{X}(x)f_{Y}(y)}$

и эта формула становится сверткой распределений вероятностей:

${\displaystyle f_{Z}(z)=\int \limits _{-\infty }^{\infty }f_{X}(x)~f_{Y}(zx)~dx}$

Существует несколько способов вывода формул для свертки распределений вероятностей. Часто манипуляции интегралами можно избежать, используя некоторый тип производящей функции . Такие методы также могут быть полезны для вывода свойств результирующего распределения, таких как моменты, даже если явная формула для самого распределения не может быть выведена.

Одним из простых методов является использование характеристических функций , которые всегда существуют и являются уникальными для данного распределения. ^{[ необходима цитата ]}

Свертка двух независимых одинаково распределенных случайных величин Бернулли является биномиальной случайной величиной. То есть, в сокращенной записи,

${\ displaystyle \ sum _ {i = 1} ^ {2} \ mathrm {Бернулли} (p) \ sim \ mathrm {Биномиальный} (2, p)}$

Чтобы показать это, позвольте

${\displaystyle X_{i}\sim \mathrm {Бернулли} (p),\quad 0<p<1,\quad 1\leq i\leq 2}$

и определить

${\displaystyle Y=\sum _{i=1}^{2}X_{i}}$

Также пусть Z обозначает общую биномиальную случайную величину:

${\displaystyle Z\sim \mathrm {Биномиальный} (2,p)\,\!}$

Как независимы,${\displaystyle X_{1}{\text{ и }}X_{2}}$

${\displaystyle {\begin{aligned}\mathbb {P} [Y=n]&=\mathbb {P} \left[\sum _{i=1}^{2}X_{i}=n\right]\\&=\sum _{m\in \mathbb {Z} }\mathbb {P} [X_{1}=m]\times \mathbb {P} [X_{2}=nm]\\&=\sum _{m\in \mathbb {Z} }\left[{\binom {1}{m}}p^{m}\left(1-p\right)^{1-m}\right]\left[{\binom {1}{nm}}p^{nm}\left(1-p\right)^{1-n+m}\right]\\&=p^{n}\left(1-p\right)^{2-n}\sum _{m\in \mathbb {Z} }{\binom {1}{m}}{\binom {1}{nm}}\\&=p^{n}\left(1-p\right)^{2-n}\left[{\binom {1}{0}}{\binom {1}{n}}+{\binom {1}{1}}{\binom {1}{n-1}}\right]\\&={\binom {2}{n}}p^{n}\left(1-p\right)^{2-n}=\mathbb {P} [Z=n]\end{aligned}}}$

Здесь мы воспользовались тем фактом, что при k > n в предпоследнем равенстве, и правилом Паскаля в предпоследнем равенстве.${\displaystyle {\tbinom {n}{k}}=0}$

Характерная функция каждого из них и есть${\displaystyle X_{k}}$${\displaystyle Z}$

${\displaystyle \varphi _{X_{k}}(t)=1-p+pe^{it} \qquad \varphi _{Z}(t)=\left(1-p+pe^{it}\ верно)^{2}}$

где t находится в некоторой окрестности нуля.

${\displaystyle {\begin{align}\varphi _{Y}(t)&=\operatorname {E} \left(e^{it\sum _{k=1}^{2}X_{k}}\right)=\operatorname {E} \left(\prod _{k=1}^{2}e^{itX_{k}}\right)\\&=\prod _{k=1}^{2}\operatorname {E} \left(e^{itX_{k}}\right)=\prod _{k=1}^{2}\left(1-p+pe^{it}\right)\\&=\left(1-p+pe^{it}\right)^{2}=\varphi _{Z}(t)\end{align}}}$

Ожидание продукта является произведением ожиданий, поскольку каждое из них независимо . Поскольку и имеют одну и ту же характеристическую функцию, они должны иметь одинаковое распределение.${\displaystyle X_{k}}$${\displaystyle Y}$${\displaystyle Z}$

• Список сверток распределений вероятностей

• Хогг, Роберт В .; МакКин, Джозеф В.; Крейг, Аллен Т. (2004). Введение в математическую статистику (6-е изд.). Верхняя Сэддл-Ривер, Нью-Джерси: Prentice Hall. стр. 692. ISBN 978-0-13-008507-8. МР  0467974.