Центральная предельная теорема цепи Маркова

В математической теории случайных процессов центральная предельная теорема цепи Маркова имеет вывод, несколько похожий по форме на вывод классической центральной предельной теоремы (ЦПТ) теории вероятностей, но величина в роли, которую играет дисперсия в классической ЦПТ, имеет более сложное определение. См. также общую форму тождества Бьенеме .

Предположим, что:

• последовательность случайных элементов некоторого множества представляет собой цепь Маркова , имеющую стационарное распределение вероятностей ; и${\textstyle X_{1},X_{2},X_{3},\ldots }$
• начальное распределение процесса, т.е. распределение , является стационарным распределением, так что распределены одинаково. В классической центральной предельной теореме эти случайные величины предполагались бы независимыми , но здесь мы имеем только более слабое предположение, что процесс имеет свойство Маркова ; и${\textstyle X_{1}}$${\textstyle X_{1},X_{2},X_{3},\ldots }$
• ${\textstyle г}$— это некоторая ( измеримая ) действительная функция, для которой${\textstyle \operatorname {var} (g(X_{1}))<+\infty .}$

Теперь пусть ^{[1] [2] [3]}

${\displaystyle {\begin{aligned}\mu &=\operatorname {E} (g(X_{1})),\\{\widehat {\mu }}_{n}&={\frac {1} {n}}\sum _{k=1}^{n}g(X_{k})\\\sigma ^{2}&:=\lim _{n\to \infty }\operatorname {var} ({\sqrt {n}}{\widehat {\mu }}_{n})=\lim _ {n\to \infty }n\operatorname {var} ({\widehat {\mu }} _{n})=\operatorname {var} (g(X_{1}))+2\sum _{k=1}^{\infty }\operatorname {cov} (г(X_{1}),г(X_{1+k})).\end{выровнено}}}$

Тогда, как мы имеем ^[4]${\textstyle n\to \infty ,}$

${\displaystyle {\sqrt {n}}({\hat {\mu }}_{n}-\mu )\ {\xrightarrow {\mathcal {D}}}\ {\text{Normal}}(0, \сигма ^{2}),}$

где декорированная стрелка указывает на сходимость в распределении .

Центральная предельная теорема цепи Маркова может быть гарантирована для функционалов цепей Маркова общего пространства состояний при определенных условиях. В частности, это можно сделать, сосредоточившись на настройках Монте-Карло. Примером применения в настройке MCMC (Markov Chain Monte Carlo) является следующее:

Рассмотрим простую модель твердых сфер на сетке. Предположим , что правильная конфигурация на состоит из раскрашивания каждой точки в черный или белый цвет таким образом, что никакие две соседние точки не являются белыми. Пусть обозначает множество всех правильных конфигураций на , будет общим числом правильных конфигураций, а π будет равномерным распределением на , так что каждая правильная конфигурация одинаково вероятна. Предположим, что наша цель — вычислить типичное число белых точек в правильной конфигурации; то есть, если — число белых точек в , то мы хотим получить значение${\displaystyle X=\{1,\ldots ,n_{1}\}\times \{1,\ldots ,n_{2}\}\subseteq Z^{2}}$${\displaystyle X}$${\displaystyle \чи}$${\displaystyle X}$${\displaystyle N_{\chi}(n_{1},n_{2})}$${\displaystyle \чи}$${\displaystyle W(x)}$${\displaystyle x\in \chi }$

${\displaystyle E_{\pi }W=\sum _{x\in \chi }{\frac {W(x)}{N_{\chi }{\bigl (}n_{1},n_{2} \bigr )}}}}$

Если и даже умеренно велики, то нам придется прибегнуть к приближению к . Рассмотрим следующую цепь Маркова на . Зафиксируем и установим , где — произвольная правильная конфигурация. Случайным образом выберем точку и независимо нарисуем . Если и все соседние точки черные, то закрасим белым, оставив все остальные точки нетронутыми. В противном случае закрасим черным и оставим все остальные точки нетронутыми. Назовем полученную конфигурацию . Продолжая таким образом, получим эргодическую цепь Маркова Харриса, имеющую в качестве своего инвариантного распределения. Теперь легко оценить с помощью . Кроме того, поскольку является конечным (хотя и потенциально большим), хорошо известно, что будет сходиться экспоненциально быстро к , что подразумевает, что ЦПТ выполняется для .${\displaystyle n_{1}}$${\displaystyle n_{2}}$${\displaystyle E_{\pi }W}$${\displaystyle \чи}$${\displaystyle p\in (0,1)}$${\displaystyle X_{1}=x_{1}}$${\displaystyle x_{1}\in \chi }$${\displaystyle (x,y)\in X}$${\displaystyle U\sim \mathrm {Uniform} (0,1)}$${\displaystyle u\leq p}$${\displaystyle (x,y)}$${\displaystyle (x,y)}$${\displaystyle X_{1}}$${\displaystyle \{X_{1},X_{2},X_{3},\ldots \}}$${\displaystyle \пи}$${\displaystyle E_{\pi }W}$${\displaystyle {\overline {w_{n}}}=\sum _{i=1}^{n}W(X_{i})/n}$${\displaystyle \чи}$${\displaystyle X}$${\displaystyle \пи}$${\displaystyle {\overline {w_{n}}}}$

Если не учитывать дополнительные члены дисперсии, возникающие из-за корреляций (например, последовательных корреляций в моделировании Монте-Карло на основе цепей Маркова), это может привести к проблеме псевдорепликации при вычислении, например, доверительных интервалов для выборочного среднего .

• Гордин, М.И. и Лифшиц, Б.А. (1978). «Центральная предельная теорема для стационарных марковских процессов». Советская математика, Доклады АН СССР , 19 , 392–394. (Английский перевод русского оригинала).
• Гейер, Чарльз Дж. (2011). «Введение в MCMC». В Handbook of Markov Chain Monte Carlo , под редакцией SP Brooks, AE Gelman, GL Jones и XL Meng. Chapman & Hall/CRC, Boca Raton, стр. 3–48.