Цепь Маркова с обратным скачком Монте-Карло

В вычислительной статистике метод Монте-Карло с обратимыми скачками является расширением стандартной методологии Монте-Карло с цепями Маркова (MCMC), представленной Питером Грином , которая позволяет моделировать (создавать выборки ) апостериорного распределения в пространствах различной размерности . ^[1] Таким образом, моделирование возможно, даже если число параметров в модели неизвестно. «Скачок» относится к переключению из одного пространства параметров в другое во время работы цепи. RJMCMC полезен для сравнения моделей различной размерности, чтобы увидеть, какая из них лучше всего соответствует данным. Он также полезен для прогнозирования новых точек данных, поскольку нам не нужно выбирать и фиксировать модель, RJMCMC может напрямую предсказывать новые значения для всех моделей одновременно. Модели, которые лучше всего соответствуют данным, будут выбираться чаще, чем более плохие.

Пусть будет индикатором модели и пространством параметров, число измерений которого зависит от модели . Индикатор модели не обязательно должен быть конечным. Стационарное распределение — это совместное апостериорное распределение , которое принимает значения .${\displaystyle n_{m}\in N_{m}=\{1,2,\ldots ,I\}\,}$${\displaystyle M=\bigcup _{n_{m}=1}^{I}\mathbb {R} ^{d_{m}}}$${\displaystyle d_{м}}$${\displaystyle n_{м}}$${\displaystyle (М,Н_{м})}$${\displaystyle (м,н_{м})}$

Предложение может быть построено с отображением и , где взято из случайного компонента с плотностью на . Таким образом, переход к состоянию может быть сформулирован как${\displaystyle м'}$ ${\displaystyle g_{1мм'}}$${\displaystyle м}$${\displaystyle u}$${\displaystyle u}$${\displaystyle U}$${\displaystyle д}$${\displaystyle \mathbb {R} ^{d_{мм'}}}$${\displaystyle (м',н_{м}')}$

${\displaystyle (м',н_{м}')=(г_{1мм'}(м,и),н_{м}')\,}$

Функция

${\displaystyle g_{mm'}:={\Bigg (}(m,u)\mapsto {\bigg (}(m',u')={\big (}g_{1mm'}(m,u),g_{2mm'}(m,u){\big )}{\bigg )}{\Bigg )}\,}$

должны быть взаимно однозначными и дифференцируемыми, а также иметь ненулевой носитель:

${\displaystyle \mathrm {supp} (g_{mm'})\neq \varnothing \,}$

так что существует обратная функция

${\displaystyle g_{мм'}^{-1}=g_{м'м}\,}$

, который дифференцируем. Следовательно, и должны иметь одинаковую размерность, что имеет место, если критерий размерности ${\displaystyle (м,у)}$${\displaystyle (м',u')}$

${\displaystyle d_{м}+d_{мм'}=d_{м'}+d_{м'м}\,}$

встречается, где есть размерность . Это известно как соответствие размерности . ${\displaystyle d_{мм'}}$${\displaystyle u}$

Если тогда размерное условие соответствия можно свести к ${\displaystyle \mathbb {R} ^{d_{m}}\subset \mathbb {R} ^{d_{m'}}}$

${\displaystyle d_{м}+d_{мм'}=d_{м'}\,}$

с

${\displaystyle (m,u)=g_{m'm}(m).\,}$

Вероятность принятия будет определяться выражением

${\displaystyle a(m,m')=\min \left(1,{\frac {p_{m'm}p_{m'}f_{m'}(m')}{p_{mm'}q_{mm'}(m,u)p_{m}f_{m}(m)}}\left|\det \left({\frac {\partial g_{mm'}(m,u)}{\partial (m,u)}}\right)\right|\right),}$

где обозначает абсолютное значение, а — совместная апостериорная вероятность${\displaystyle |\cdot |}$${\displaystyle p_{m}f_{m}}$

${\displaystyle p_{m}f_{m}=c^{-1}p(y|m,n_{m})p(m|n_{m})p(n_{m}),\,}$

где - нормирующая константа.${\displaystyle с}$

Для пакета BUGs с открытым исходным кодом доступен экспериментальный инструмент RJ-MCMC .

Система вероятностного программирования Gen автоматизирует вычисление вероятности принятия для определяемых пользователем ядер MCMC с обратимым переходом в рамках своей функции Involution MCMC.