схема Бернулли

В математике схема Бернулли или сдвиг Бернулли является обобщением процесса Бернулли на более чем два возможных результата. ^{[1] [2]} Схемы Бернулли естественным образом появляются в символической динамике и, таким образом, важны при изучении динамических систем . Многие важные динамические системы (такие как системы Аксиомы А ) демонстрируют репеллер , который является произведением множества Кантора и гладкого многообразия , а динамика на множестве Кантора изоморфна динамике сдвига Бернулли. ^[3] По сути, это марковское разбиение . Термин сдвиг относится к оператору сдвига , который может использоваться для изучения схем Бернулли. Теорема Орнштейна об изоморфизме ^{[4] [5]} показывает, что сдвиги Бернулли изоморфны, когда их энтропия равна.

Схема Бернулли — это дискретный во времени стохастический процесс , в котором каждая независимая случайная величина может принимать одно из N различных возможных значений, при этом результат i наступает с вероятностью , где i  = 1, ...,  N и${\displaystyle p_{i}}$

${\displaystyle \sum _{i=1}^{N}p_{i}=1.}$

Пространство выборки обычно обозначается как

${\displaystyle X=\{1,\ldots ,N\}^{\mathbb {Z} }}$

как сокращение для

${\displaystyle X=\{x=(\ldots ,x_{-1},x_{0},x_{1},\ldots ):x_{k}\in \{1,\ldots ,N\}\;\forall k\in \mathbb {Z} \}.}$

Соответствующая мера называется мерой Бернулли ^[6]

${\displaystyle \mu =\{p_{1},\ldots ,p_{N}\}^{\mathbb {Z} }}$

σ -алгебра на X является произведением сигма-алгебр; то есть, это (счетное) прямое произведение σ-алгебр конечного множества {1, ...,  N }. Таким образом, триплет${\displaystyle {\mathcal {A}}}$

${\displaystyle (X,{\mathcal {A}},\mu )}$

является мерным пространством . Базисом являются цилиндрические множества . Учитывая цилиндрическое множество , его мера есть${\displaystyle {\mathcal {A}}}$${\displaystyle [x_{0},x_{1},\ldots ,x_{n}]}$

${\displaystyle \mu \left([x_{0},x_{1},\ldots ,x_{n}]\right)=\prod _{i=0}^{n}p_{x_{i}}}$

Эквивалентное выражение, использующее обозначения теории вероятностей, имеет вид

${\displaystyle \mu \left([x_{0},x_{1},\ldots ,x_{n}]\right)=\mathrm {Pr} (X_{0}=x_{0},X_{1}=x_{1},\ldots ,X_{n}=x_{n})}$

для случайных величин${\displaystyle \{X_{k}\}}$

Схему Бернулли, как и любой стохастический процесс, можно рассматривать как динамическую систему , наделив ее оператором сдвига T , где

${\displaystyle T(x_{k})=x_{k+1}.}$

Поскольку результаты независимы, сдвиг сохраняет меру, и, таким образом, T является преобразованием, сохраняющим меру . Квадруплет

${\displaystyle (X,{\mathcal {A}},\mu ,T)}$

является динамической системой, сохраняющей меру , и называется схемой Бернулли или сдвигом Бернулли . Часто обозначается как

${\displaystyle BS(p)=BS(p_{1},\ldots ,p_{N}).}$

Схема Бернулли N = 2 называется процессом Бернулли . Сдвиг Бернулли можно понимать как частный случай сдвига Маркова , где все элементы в матрице смежности равны единице, а соответствующий граф, таким образом, является кликой .

Расстояние Хэмминга обеспечивает естественную метрику на схеме Бернулли. Другая важная метрика — это так называемая метрика, определяемая через супремум по совпадениям строк . ^[7]${\displaystyle {\overline {ф}}}$

Пусть и будут двумя строками символов. Соответствием называется последовательность M пар индексов в строке, т.е. пар, которые понимаются как полностью упорядоченные. То есть каждая отдельная подпоследовательность и упорядочена: и аналогично${\displaystyle A=a_{1}a_{2}\cdots a_{m}}$${\displaystyle B=b_{1}b_{2}\cdots b_{n}}$${\displaystyle (i_{k},j_{k})}$${\displaystyle a_{i_{k}}=b_{j_{k}},}$${\displaystyle (i_{k})}$${\displaystyle (j_{k})}$${\displaystyle 1\leq i_{1}<i_{2}<\cdots <i_{r}\leq m}$${\displaystyle 1\leq j_{1}<j_{2}<\cdots <j_{r}\leq n.}$

Расстояние между и равно ​​${\displaystyle {\overline {ф}}}$${\displaystyle А}$${\displaystyle Б}$

${\displaystyle {\overline {f}}(A,B)=1-{\frac {2\sup |M|}{m+n}}}$

где супремум берется по всем совпадениям между и . Это удовлетворяет неравенству треугольника только тогда, когда и поэтому не является вполне истинной метрикой; несмотря на это, в литературе ее обычно называют «расстоянием».${\displaystyle М}$${\displaystyle А}$${\displaystyle Б}$${\displaystyle m=n,}$

Большинство свойств схемы Бернулли вытекают из счетного прямого произведения , а не из конечного базового пространства. Таким образом, можно взять базовое пространство как любое стандартное вероятностное пространство и определить схему Бернулли как${\displaystyle (Y, {\mathcal {B}},\nu)}$

${\displaystyle (X, {\mathcal {A}},\mu) = (Y, {\mathcal {B}},\nu )^{\mathbb {Z} }}$

Это работает, поскольку счетное прямое произведение стандартного вероятностного пространства снова является стандартным вероятностным пространством.

В качестве дальнейшего обобщения можно заменить целые числа счетной дискретной группой , так что ${\displaystyle \mathbb {Z} }$ ${\displaystyle G}$

${\displaystyle (X, {\mathcal {A}},\mu) = (Y, {\mathcal {B}},\nu )^{G}}$

В этом последнем случае оператор сдвига заменяется групповым действием

${\displaystyle gx(f)=x(g^{-1}f)}$

для групповых элементов и понимается как функция (любое прямое произведение может пониматься как набор функций , поскольку это экспоненциальный объект ). Мера берется как мера Хаара , которая инвариантна относительно группового действия: ${\displaystyle f,g\in G}$${\displaystyle x\in Y^{G}}$${\displaystyle x:G\to Y}$${\displaystyle Y^{G}}$${\displaystyle [G\to Y]}$${\displaystyle \мю}$

${\displaystyle \mu (gx)=\mu (x).\,}$

Эти обобщения также обычно называют схемами Бернулли, поскольку они по-прежнему разделяют большинство свойств с конечным случаем.

Я. Синай показал, что энтропия Колмогорова схемы Бернулли определяется выражением ^{[8] [9]}

${\displaystyle H=-\sum _{i=1}^{N}p_{i}\log p_{i}.}$

Это можно рассматривать как результат общего определения энтропии декартова произведения вероятностных пространств, которое следует из свойства асимптотического равнораспределения . Для случая общего базового пространства ( т.е. базового пространства, которое не является счетным) обычно рассматривают относительную энтропию . Так, например, если имеется счетное разбиение базы Y , такое что , можно определить энтропию как${\displaystyle (Y, {\mathcal {B}},\nu)}$ ${\displaystyle Y'\subset Y}$${\displaystyle \nu (Y')=1}$

${\displaystyle H_{Y'}=-\sum _{y'\in Y'} \nu (y')\log \nu (y').}$

В общем случае эта энтропия будет зависеть от разбиения; однако для многих динамических систем символическая динамика не зависит от разбиения (или, скорее, существуют изоморфизмы, связывающие символическую динамику различных разбиений, оставляя меру инвариантной), и поэтому такие системы могут иметь четко определенную энтропию, независимую от разбиения.

Теорема Орнштейна об изоморфизме утверждает, что две схемы Бернулли с одинаковой энтропией изоморфны . ^[4] Результат точен, ^[10] в том, что очень похожие, несхемные системы, такие как автоморфизмы Колмогорова , не обладают этим свойством.

Теорема об изоморфизме Орнштейна на самом деле значительно глубже: она дает простой критерий, по которому можно судить о том, что многие различные динамические системы, сохраняющие меру , изоморфны схемам Бернулли. Результат оказался неожиданным, поскольку многие системы, которые ранее считались не связанными, оказались изоморфными. К ним относятся все конечные ^{[ необходимо разъяснение ]} стационарные стохастические процессы , подсдвиги конечного типа , конечные цепи Маркова , потоки Аносова и биллиарды Синая : все они изоморфны схемам Бернулли.

Для обобщенного случая теорема Орнштейна об изоморфизме по-прежнему верна, если группа G является счетно бесконечной аменабельной группой . ^{[11] [12]}

Обратимое, сохраняющее меру преобразование стандартного вероятностного пространства (пространства Лебега) называется автоморфизмом Бернулли, если оно изоморфно сдвигу Бернулли . ^[13]

Система называется «в общих чертах бернуллиевской», если она эквивалентна по Какутани сдвигу Бернулли; в случае нулевой энтропии — если она эквивалентна по Какутани иррациональному повороту окружности.

• Сдвиг конечного типа
• цепь Маркова
• Скрытая модель Бернулли