Неравенство Маркова

В теории вероятностей неравенство Маркова дает верхнюю границу вероятности того , что неотрицательная случайная величина больше или равна некоторой положительной константе . Неравенство Маркова является узким в том смысле, что для каждой выбранной положительной константы существует случайная величина, такая что неравенство фактически является равенством. ^[1]

Названо в честь русского математика Андрея Маркова , хотя появилось ранее в трудах Пафнутия Чебышева (учителя Маркова), и многие источники, особенно в анализе , называют его неравенством Чебышева (иногда, называя его первым неравенством Чебышева, при этом ссылаясь на неравенство Чебышева как на второе неравенство Чебышева) или неравенством Бьенеме .

Неравенство Маркова (и другие подобные неравенства) связывают вероятности с ожиданиями и предоставляют (часто грубые, но все же полезные) границы для кумулятивной функции распределения случайной величины. Неравенство Маркова также можно использовать для верхней границы ожидания неотрицательной случайной величины в терминах ее функции распределения.

Если X — неотрицательная случайная величина и a  > 0 , то вероятность того, что X по крайней мере равно a, не превышает математического ожидания X, деленного на a : ^[1]

${\displaystyle \operatorname {P} (X\geq a)\leq {\frac {\operatorname {E} (X)}{a}}.}$

Когда , мы можем взять для переписать предыдущее неравенство как${\displaystyle \operatorname {E} (X)>0}$${\displaystyle a={\tilde {a}}\cdot \operatorname {E} (X)}$${\displaystyle {\тильда {а}}>0}$

${\displaystyle \operatorname {P} (X\geq {\tilde {a}} \cdot \operatorname {E} (X))\leq {\frac {1}{\tilde {a}}}.}$

На языке теории меры неравенство Маркова утверждает, что если ( X , Σ,  μ ) — пространство с мерой , — измеримая расширенная вещественная функция и ε > 0 , то${\displaystyle f}$

${\displaystyle \mu (\{x\in X:|f(x)|\geq \varepsilon \}) \leq {\frac {1}{\varepsilon }}\int _{X}|f|\, д\му .}$

Это теоретико-мерное определение иногда называют неравенством Чебышева . ^[2]

Если φ — неубывающая неотрицательная функция, X — (не обязательно неотрицательная) случайная величина и φ ( a ) > 0 , то ^[3]

${\displaystyle \operatorname {P} (X\geq a)\leq {\frac {\operatorname {E} (\varphi (X))}{\varphi (a)}}.}$

Непосредственное следствие, использующее более высокие моменты X , поддерживаемые значениями больше 0, имеет вид

${\displaystyle \operatorname {P} (|X|\geq a)\leq {\frac {\operatorname {E} (|X|^{n})}{a^{n}}}.}$

Если X — неотрицательная случайная величина и a  > 0 , а U — равномерно распределенная случайная величина , не зависящая от X , то ^[4]${\displaystyle [0,1]}$

${\displaystyle \operatorname {P} (X\geq Ua)\leq {\frac {\operatorname {E} (X)}{a}}.}$

Поскольку U почти наверняка меньше единицы, эта граница строго сильнее неравенства Маркова. Примечательно, что U нельзя заменить никакой константой, меньшей единицы, что означает, что детерминированные улучшения неравенства Маркова не могут существовать в общем случае. В то время как неравенство Маркова выполняется с равенством для распределений, поддерживаемых на , указанный выше рандомизированный вариант выполняется с равенством для любого распределения, ограниченного на .${\displaystyle \{0,a\}}$${\displaystyle [0,а]}$

Мы отделяем случай, в котором пространство меры является вероятностным пространством, от более общего случая, поскольку вероятностный случай более доступен для широкого круга читателей.

${\displaystyle \operatorname {E} (X)=\operatorname {P} (X<a)\cdot \operatorname {E} (X|X<a)+\operatorname {P} (X\geq a)\cdot \operatorname {E} (X|X\geq a)}$где больше или равно 0, так как случайная величина неотрицательна, и больше или равно, так как условное математическое ожидание учитывает только значения, большие или равные, которые может принимать случайная величина .${\displaystyle \operatorname {E} (X|X<a)}$${\displaystyle X}$${\displaystyle \operatorname {E} (X|X\geq a)}$${\displaystyle а}$${\displaystyle а}$${\displaystyle X}$

Свойство 1: ${\displaystyle \operatorname {P} (X<a)\cdot \operatorname {E} (X\mid X<a)\geq 0}$

При неотрицательной случайной величине условное ожидание , поскольку . Кроме того, вероятности всегда неотрицательны, т.е. . Таким образом, произведение:${\displaystyle X}$${\displaystyle \operatorname {E} (X\mid X<a)\geq 0}$${\displaystyle X\geq 0}$${\displaystyle \operatorname {P} (X<a)\geq 0}$

${\displaystyle \operatorname {P} (X<a)\cdot \operatorname {E} (X\mid X<a)\geq 0}$.

Это интуитивно понятно, поскольку условие still приводит к неотрицательным значениям, гарантируя, что произведение останется неотрицательным.${\displaystyle X<a}$

Свойство 2: ${\displaystyle \operatorname {P} (X\geq a)\cdot \operatorname {E} (X\mid X\geq a)\geq a\cdot \operatorname {P} (X\geq a)}$

Для , ожидаемое значение задано как минимум . Умножая обе части на , получаем:${\displaystyle X\geq a}$${\displaystyle X\geq a}$${\displaystyle a.\operatorname {E} (X\mid X\geq a)\geq a}$${\displaystyle \operatorname {P} (X\geq a)}$

${\displaystyle \operatorname {P} (X\geq a)\cdot \operatorname {E} (X\mid X\geq a)\geq a\cdot \operatorname {P} (X\geq a)}$.

Это интуитивно понятно, поскольку все рассматриваемые значения не меньше , что делает их среднее значение также больше или равным .${\displaystyle а}$${\displaystyle а}$

Отсюда интуитивно следует, что , что напрямую приводит к .${\displaystyle \operatorname {E} (X)\geq \operatorname {P} (X\geq a)\cdot \operatorname {E} (X|X\geq a)\geq a\cdot \operatorname {P} (X\geq a)}$${\displaystyle \operatorname {P} (X\geq a)\leq {\frac {\operatorname {E} (X)}{a}}}$

Метод 1: Из определения ожидания:

${\displaystyle \operatorname {E} (X)=\int _{-\infty }^{\infty }xf(x)\,dx}$

Однако X является неотрицательной случайной величиной, поэтому,

${\displaystyle \operatorname {E} (X)=\int _{-\infty }^{\infty }xf(x)\,dx=\int _{0}^{\infty }xf(x)\,dx}$

Из этого мы можем сделать вывод,

${\displaystyle \operatorname {E} (X)=\int _{0}^{a}xf(x)\,dx+\int _{a}^{\infty }xf(x)\,dx\geq \int _{a}^{\infty }xf(x)\,dx\geq \int _{a}^{\infty }af(x)\,dx=a\int _{a}^{\infty }f(x)\,dx=a\operatorname {Pr} (X\geq a)}$

Отсюда деление на позволяет нам увидеть, что ${\displaystyle a}$

${\displaystyle \Pr(X\geq a)\leq \operatorname {E} (X)/a}$

Метод 2: Для любого события пусть будет индикаторной случайной величиной , то есть если происходит и в противном случае.${\displaystyle E}$${\displaystyle I_{E}}$${\displaystyle E}$${\displaystyle I_{E}=1}$${\displaystyle E}$${\displaystyle I_{E}=0}$

Используя эту нотацию, имеем, если событие происходит, и если . Тогда, учитывая ,${\displaystyle I_{(X\geq a)}=1}$${\displaystyle X\geq a}$${\displaystyle I_{(X\geq a)}=0}$${\displaystyle X<a}$${\displaystyle a>0}$

${\displaystyle aI_{(X\geq a)}\leq X}$

что становится ясно, если рассмотреть два возможных значения . Если , то , и так . В противном случае имеем , для которого и так .${\displaystyle X\geq a}$${\displaystyle X<a}$${\displaystyle I_{(X\geq a)}=0}$${\displaystyle aI_{(X\geq a)}=0\leq X}$${\displaystyle X\geq a}$${\displaystyle I_{X\geq a}=1}$${\displaystyle aI_{X\geq a}=a\leq X}$

Так как — монотонно возрастающая функция, то взятие математического ожидания от обеих сторон неравенства не может обратить ее вспять. Следовательно,${\displaystyle \operatorname {E} }$

${\displaystyle \operatorname {E} (aI_{(X\geq a)})\leq \operatorname {E} (X).}$

Теперь, используя линейность ожиданий, левая часть этого неравенства такая же, как

${\displaystyle a\operatorname {E} (I_{(X\geq a)})=a(1\cdot \operatorname {P} (X\geq a)+0\cdot \operatorname {P} (X<a))=a\operatorname {P} (X\geq a).}$

Таким образом, мы имеем

${\displaystyle a\operatorname {P} (X\geq a)\leq \operatorname {E} (X)}$

и поскольку a  > 0, мы можем разделить обе части на  a .

Мы можем предположить, что функция неотрицательна, поскольку в уравнение входит только ее абсолютное значение. Теперь рассмотрим вещественную функцию s на X , заданную как${\displaystyle f}$

${\displaystyle s(x)={\begin{cases}\varepsilon ,&{\text{if }}f(x)\geq \varepsilon \\0,&{\text{if }}f(x)<\varepsilon \end{cases}}}$

Тогда . По определению интеграла Лебега${\displaystyle 0\leq s(x)\leq f(x)}$

${\displaystyle \int _{X}f(x)\,d\mu \geq \int _{X}s(x)\,d\mu =\varepsilon \mu (\{x\in X:\,f(x)\geq \varepsilon \})}$

и поскольку , обе стороны можно разделить на , получив${\displaystyle \varepsilon >0}$${\displaystyle \varepsilon }$

${\displaystyle \mu (\{x\in X:\,f(x)\geq \varepsilon \})\leq {1 \over \varepsilon }\int _{X}f\,d\mu .}$

Теперь мы приведем доказательство для особого случая, когда — дискретная случайная величина, принимающая только неотрицательные целые значения. ${\displaystyle X}$

Пусть будет положительным целым числом. По определению${\displaystyle a}$${\displaystyle a\operatorname {Pr} (X>a)}$ ${\displaystyle =a\operatorname {Pr} (X=a+1)+a\operatorname {Pr} (X=a+2)+a\operatorname {Pr} (X=a+3)+...}$ ${\displaystyle \leq a\operatorname {Pr} (X=a)+(a+1)\operatorname {Pr} (X=a+1)+(a+2)\operatorname {Pr} (X=a+2)+...}$ ${\displaystyle \leq \operatorname {Pr} (X=1)+2\operatorname {Pr} (X=2)+3\operatorname {Pr} (X=3)+...}$${\displaystyle +a\operatorname {Pr} (X=a)+(a+1)\operatorname {Pr} (X=a+1)+(a+2)\operatorname {Pr} (X=a+2)+...}$${\displaystyle =\operatorname {E} (X)}$

Деление на дает желаемый результат.${\displaystyle a}$

Неравенство Чебышева использует дисперсию для ограничения вероятности того, что случайная величина сильно отклоняется от среднего значения. В частности,

${\displaystyle \operatorname {P} (|X-\operatorname {E} (X)|\geq a)\leq {\frac {\operatorname {Var} (X)}{a^{2}}},}$

для любого a > 0. [ ^3] Здесь Var( X ) — дисперсия X, определяемая как:

${\displaystyle \operatorname {Var} (X)=\operatorname {E} [(X-\operatorname {E} (X))^{2}].}$

Неравенство Чебышева следует из неравенства Маркова, если рассмотреть случайную величину

${\displaystyle (X-\operatorname {E} (X))^{2}}$

и константа, для которой неравенство Маркова имеет вид${\displaystyle a^{2},}$

${\displaystyle \operatorname {P} ((X-\operatorname {E} (X))^{2}\geq a^{2})\leq {\frac {\operatorname {Var} (X)}{a^{2}}}.}$

Этот аргумент можно резюмировать (где «MI» указывает на использование неравенства Маркова):

${\displaystyle \operatorname {P} (|X-\operatorname {E} (X)|\geq a)=\operatorname {P} \left((X-\operatorname {E} (X))^{2}\geq a^{2}\right)\,{\overset {\underset {\mathrm {MI} }{}}{\leq }}\,{\frac {\operatorname {E} \left((X-\operatorname {E} (X))^{2}\right)}{a^{2}}}={\frac {\operatorname {Var} (X)}{a^{2}}}.}$

1. «Монотонный» результат можно продемонстрировать следующим образом:

   ${\displaystyle \operatorname {P} (|X|\geq a)=\operatorname {P} {\big (}\varphi (|X|)\geq \varphi (a){\big )}\,{\overset {\underset {\mathrm {MI} }{}}{\leq }}\,{\frac {\operatorname {E} (\varphi (|X|))}{\varphi (a)}}}$

2. Результат, что для неотрицательной случайной величины X функция квантиля X удовлетворяет :

   ${\displaystyle Q_{X}(1-p)\leq {\frac {\operatorname {E} (X)}{p}},}$

   доказательство с использованием

   ${\displaystyle p\leq \operatorname {P} (X\geq Q_{X}(1-p))\,{\overset {\underset {\mathrm {MI} }{}}{\leq }}\,{\frac {\operatorname {E} (X)}{Q_{X}(1-p)}}.}$

3. Пусть — самосопряженная матричная случайная величина и . Тогда${\displaystyle M\succeq 0}$${\displaystyle A\succ 0}$

   ${\displaystyle \operatorname {P} (M\npreceq A)\leq \operatorname {tr} (\operatorname {E} (X)A^{-1})}$

   что можно доказать аналогичным образом. ^[5]

Если предположить, что ни один доход не является отрицательным, неравенство Маркова показывает, что не более 10% (1/10) населения может иметь доход, превышающий средний более чем в 10 раз. ^[6]

Другой простой пример: Эндрю делает в среднем 4 ошибки на тестах по курсу статистики. Лучшая верхняя граница вероятности того, что Эндрю сделает не менее 10 ошибок, составляет 0,4, поскольку Обратите внимание, что Эндрю может сделать ровно 10 ошибок с вероятностью 0,4 и не сделать ни одной ошибки с вероятностью 0,6; ожидание составляет ровно 4 ошибки.${\displaystyle \operatorname {P} (X\geq 10)\leq {\frac {\operatorname {E} (X)}{\alpha }}={\frac {4}{10}}.}$

• Неравенство Пэли–Зигмунда – соответствующая нижняя граница
• Неравенство концентрации – сводка хвостовых границ случайных величин.

• Формальное доказательство неравенства Маркова в системе Мицара .

This article needs additional citations for verification. Please help improve this article by adding citations to reliable sources. Unsourced material may be challenged and removed. Find sources: "Markov's inequality" – news · newspapers · books · scholar · JSTOR (September 2010) (Learn how and when to remove this message)