В теории вероятности и статистики , если даны два стохастических процесса и , кросс-ковариация — это функция, которая дает ковариацию одного процесса с другим в парах временных точек. С обычным обозначением для оператора ожидания , если процессы имеют средние функции и , то кросс-ковариация задается как { X t } {\displaystyle \left\{X_{t}\right\}} { Y t } {\displaystyle \left\{Y_{t}\right\}} E {\displaystyle \operatorname {E} } μ X ( t ) = E [ X t ] {\displaystyle \mu _{X}(t)=\operatorname {\operatorname {E} } [X_{t}]} μ Y ( t ) = E [ Y t ] {\displaystyle \mu _{Y}(t)=\operatorname {E} [Y_{t}]}
K X Y ( t 1 , t 2 ) = cov ( X t 1 , Y t 2 ) = E [ ( X t 1 − μ X ( t 1 ) ) ( Y t 2 − μ Y ( t 2 ) ) ] = E [ X t 1 Y t 2 ] − μ X ( t 1 ) μ Y ( t 2 ) . {\displaystyle \operatorname {K} _{XY}(t_{1},t_{2})=\operatorname {cov} (X_{t_{1}},Y_{t_{2}})=\operatorname {E} [(X_{t_{1}}-\mu _{X}(t_{1}))(Y_{t_{2}}-\mu _{Y}(t_{2}))]=\operatorname {E} [X_{t_{1}}Y_{t_{2}}]-\mu _{X}(t_{1})\mu _{Y}(t_{2}).\,} Кросс-ковариация связана с более часто используемой кросс-корреляцией рассматриваемых процессов.
В случае двух случайных векторов и взаимная ковариация будет представлять собой матрицу (часто обозначаемую ) с элементами Таким образом, термин «взаимная ковариация» используется для того, чтобы отличить это понятие от ковариации случайного вектора , которая понимается как матрица ковариаций между его скалярными компонентами . X = ( X 1 , X 2 , … , X p ) T {\displaystyle \mathbf {X} =(X_{1},X_{2},\ldots ,X_{p})^{\rm {T}}} Y = ( Y 1 , Y 2 , … , Y q ) T {\displaystyle \mathbf {Y} =(Y_{1},Y_{2},\ldots ,Y_{q})^{\rm {T}}} p × q {\displaystyle p\times q} K X Y {\displaystyle \operatorname {K} _{XY}} cov ( X , Y ) {\displaystyle \operatorname {cov} (X,Y)} K X Y ( j , k ) = cov ( X j , Y k ) . {\displaystyle \operatorname {K} _{XY}(j,k)=\operatorname {cov} (X_{j},Y_{k}).\,} X {\displaystyle \mathbf {X} } X {\displaystyle \mathbf {X} }
В обработке сигналов кросс-ковариация часто называется кросс-корреляцией и является мерой сходства двух сигналов , обычно используемой для поиска признаков в неизвестном сигнале путем сравнения его с известным. Это функция относительного времени между сигналами, иногда называемая скользящим скалярным произведением , и имеющая применение в распознавании образов и криптоанализе .
Взаимная ковариация случайных векторов
Взаимная ковариация стохастических процессов Определение кросс-ковариации случайных векторов можно обобщить на случайные процессы следующим образом:
Определение Пусть и обозначают стохастические процессы. Тогда функция взаимной ковариации процессов определяется как: [1] : стр.172 { X ( t ) } {\displaystyle \{X(t)\}} { Y ( t ) } {\displaystyle \{Y(t)\}} K X Y {\displaystyle K_{XY}}
K X Y ( t 1 , t 2 ) = d e f cov ( X t 1 , Y t 2 ) = E [ ( X ( t 1 ) − μ X ( t 1 ) ) ( Y ( t 2 ) − μ Y ( t 2 ) ) ] {\displaystyle \operatorname {K} _{XY}(t_{1},t_{2}){\stackrel {\mathrm {def} }{=}}\ \operatorname {cov} (X_{t_{1}},Y_{t_{2}})=\operatorname {E} \left[\left(X(t_{1})-\mu _{X}(t_{1})\right)\left(Y(t_{2})-\mu _{Y}(t_{2})\right)\right]} Ур.1
где и . μ X ( t ) = E [ X ( t ) ] {\displaystyle \mu _{X}(t)=\operatorname {E} \left[X(t)\right]} μ Y ( t ) = E [ Y ( t ) ] {\displaystyle \mu _{Y}(t)=\operatorname {E} \left[Y(t)\right]}
Если процессы являются комплекснозначными стохастическими процессами, второй множитель должен быть комплексно сопряженным :
K X Y ( t 1 , t 2 ) = d e f cov ( X t 1 , Y t 2 ) = E [ ( X ( t 1 ) − μ X ( t 1 ) ) ( Y ( t 2 ) − μ Y ( t 2 ) ) ¯ ] {\displaystyle \operatorname {K} _{XY}(t_{1},t_{2}){\stackrel {\mathrm {def} }{=}}\ \operatorname {cov} (X_{t_{1}},Y_{t_{2}})=\operatorname {E} \left[\left(X(t_{1})-\mu _{X}(t_{1})\right){\overline {\left(Y(t_{2})-\mu _{Y}(t_{2})\right)}}\right]}
Определение для совместных процессов WSS Если и являются совместно стационарными в широком смысле , то справедливы следующие утверждения: { X t } {\displaystyle \left\{X_{t}\right\}} { Y t } {\displaystyle \left\{Y_{t}\right\}}
μ X ( t 1 ) = μ X ( t 2 ) ≜ μ X {\displaystyle \mu _{X}(t_{1})=\mu _{X}(t_{2})\triangleq \mu _{X}} t 1 , t 2 {\displaystyle t_{1},t_{2}} μ Y ( t 1 ) = μ Y ( t 2 ) ≜ μ Y {\displaystyle \mu _{Y}(t_{1})=\mu _{Y}(t_{2})\triangleq \mu _{Y}} t 1 , t 2 {\displaystyle t_{1},t_{2}} и
K X Y ( t 1 , t 2 ) = K X Y ( t 2 − t 1 , 0 ) {\displaystyle \operatorname {K} _{XY}(t_{1},t_{2})=\operatorname {K} _{XY}(t_{2}-t_{1},0)} t 1 , t 2 {\displaystyle t_{1},t_{2}} Задав (временную задержку или количество времени, на которое смещен сигнал), мы можем определить τ = t 2 − t 1 {\displaystyle \tau =t_{2}-t_{1}}
K X Y ( τ ) = K X Y ( t 2 − t 1 ) ≜ K X Y ( t 1 , t 2 ) {\displaystyle \operatorname {K} _{XY}(\tau )=\operatorname {K} _{XY}(t_{2}-t_{1})\triangleq \operatorname {K} _{XY}(t_{1},t_{2})} Таким образом, функция кросс-ковариации двух совместно используемых процессов WSS определяется следующим образом:
K X Y ( τ ) = cov ( X t , Y t − τ ) = E [ ( X t − μ X ) ( Y t − τ − μ Y ) ] = E [ X t Y t − τ ] − μ X μ Y {\displaystyle \operatorname {K} _{XY}(\tau )=\operatorname {cov} (X_{t},Y_{t-\tau })=\operatorname {E} [(X_{t}-\mu _{X})(Y_{t-\tau }-\mu _{Y})]=\operatorname {E} [X_{t}Y_{t-\tau }]-\mu _{X}\mu _{Y}} Ур.2
что эквивалентно
K X Y ( τ ) = cov ( X t + τ , Y t ) = E [ ( X t + τ − μ X ) ( Y t − μ Y ) ] = E [ X t + τ Y t ] − μ X μ Y {\displaystyle \operatorname {K} _{XY}(\tau )=\operatorname {cov} (X_{t+\tau },Y_{t})=\operatorname {E} [(X_{t+\tau }-\mu _{X})(Y_{t}-\mu _{Y})]=\operatorname {E} [X_{t+\tau }Y_{t}]-\mu _{X}\mu _{Y}}
Два случайных процесса и называются некоррелированными , если их ковариация равна нулю для всех моментов времени. [1] : с.142 { X t } {\displaystyle \left\{X_{t}\right\}} { Y t } {\displaystyle \left\{Y_{t}\right\}} K X Y ( t 1 , t 2 ) {\displaystyle \operatorname {K} _{\mathbf {X} \mathbf {Y} }(t_{1},t_{2})}
{ X t } , { Y t } uncorrelated ⟺ K X Y ( t 1 , t 2 ) = 0 ∀ t 1 , t 2 {\displaystyle \left\{X_{t}\right\},\left\{Y_{t}\right\}{\text{ uncorrelated}}\quad \iff \quad \operatorname {K} _{\mathbf {X} \mathbf {Y} }(t_{1},t_{2})=0\quad \forall t_{1},t_{2}}
Взаимная ковариация детерминированных сигналов Взаимная ковариация также важна при обработке сигналов , где взаимная ковариация между двумя стационарными случайными процессами в широком смысле может быть оценена путем усреднения произведения выборок, измеренных из одного процесса, и выборок, измеренных из другого (и его временных сдвигов). Выборки, включенные в усреднение, могут быть произвольным подмножеством всех выборок в сигнале (например, выборки в пределах конечного временного окна или подвыборка одного из сигналов). Для большого числа выборок среднее сходится к истинной ковариации.
Кросс-ковариация может также относиться к «детерминированной» кросс-ковариации между двумя сигналами. Она состоит из суммирования по всем временным индексам. Например, для дискретных по времени сигналов кросс -ковариация определяется как f [ k ] {\displaystyle f[k]} g [ k ] {\displaystyle g[k]}
( f ⋆ g ) [ n ] = d e f ∑ k ∈ Z f [ k ] ¯ g [ n + k ] = ∑ k ∈ Z f [ k − n ] ¯ g [ k ] {\displaystyle (f\star g)[n]\ {\stackrel {\mathrm {def} }{=}}\ \sum _{k\in \mathbb {Z} }{\overline {f[k]}}g[n+k]=\sum _{k\in \mathbb {Z} }{\overline {f[k-n]}}g[k]} где линия указывает, что комплексное сопряжение берется, когда сигналы являются комплексными .
Для непрерывных функций ( детерминированная) кросс-ковариация определяется как f ( x ) {\displaystyle f(x)} g ( x ) {\displaystyle g(x)}
( f ⋆ g ) ( x ) = d e f ∫ f ( t ) ¯ g ( x + t ) d t = ∫ f ( t − x ) ¯ g ( t ) d t {\displaystyle (f\star g)(x)\ {\stackrel {\mathrm {def} }{=}}\ \int {\overline {f(t)}}g(x+t)\,dt=\int {\overline {f(t-x)}}g(t)\,dt}
Характеристики (Детерминированная) кросс-ковариация двух непрерывных сигналов связана со сверткой следующим образом:
( f ⋆ g ) ( t ) = ( f ( − τ ) ¯ ∗ g ( τ ) ) ( t ) {\displaystyle (f\star g)(t)=({\overline {f(-\tau )}}*g(\tau ))(t)} и (детерминированная) кросс-ковариация двух дискретных по времени сигналов связана с дискретной сверткой соотношением
( f ⋆ g ) [ n ] = ( f [ − k ] ¯ ∗ g [ k ] ) [ n ] {\displaystyle (f\star g)[n]=({\overline {f[-k]}}*g[k])[n]}
Смотрите также
Ссылки ^ ab Kun Il Park, Основы теории вероятностей и стохастических процессов с приложениями к коммуникациям, Springer, 2018, 978-3-319-68074-3
Внешние ссылки Кросс-корреляция из Mathworld http://scribblethink.org/Work/nvisionInterface/nip.html http://www.phys.ufl.edu/LIGO/stochastic/sign05.pdf http://www.staff.ncl.ac.uk/oliver.hinton/eee305/Chapter6.pdf 
![{\displaystyle \mu _{X}(t)=\operatorname {\operatorname {E} } [X_{t}]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/6464417d52bc920c016773f523d4dbceb9b293d4)
![{\displaystyle \mu _{Y}(t)=\operatorname {E} [Y_{t}]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/01da5dd04fc26f6b21e177f10ea9736e2d56a4e7)
![{\displaystyle \operatorname {K} _{XY}(t_{1},t_{2})=\operatorname {cov} (X_{t_{1}},Y_{t_{2}})=\operatorname {E} [(X_{t_{1}}-\mu _{X}(t_{1}))(Y_{t_{2}}-\mu _{Y}(t_{2}))]=\operatorname {E} [X_{t_{1}}Y_{t_{2}}]-\mu _{X}(t_{1})\mu _{Y}(t_{2}).\,}](https://wikimedia.org/api/rest_v1/media/math/render/svg/05f4077f8173bfb323a68313e4287d017cc0c281)
![{\displaystyle \operatorname {K} _{XY}(t_{1},t_{2}){\stackrel {\mathrm {def} }{=}}\ \operatorname {cov} (X_{t_{1}},Y_{t_{2}})=\operatorname {E} \left[\left(X(t_{1})-\mu _{X}(t_{1})\right)\left(Y(t_{2})-\mu _{Y}(t_{2})\right)\right]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/43a9557f62a2b87ad3e9ea3fe34fd2886a555452)
![{\displaystyle \mu _{X}(t)=\operatorname {E} \left[X(t)\right]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/b66ff50c83aada12cb690a425b435f229b9f72ed)
![{\displaystyle \mu _{Y}(t)=\operatorname {E} \left[Y(t)\right]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/e9fbc8f1d47e8c8e0ef3b108fb5ff1f50d622ff3)
![{\displaystyle \operatorname {K} _{XY}(t_{1},t_{2}){\stackrel {\mathrm {def} }{=}}\ \operatorname {cov} (X_{t_{1}},Y_{t_{2}})=\operatorname {E} \left[\left(X(t_{1})-\mu _{X}(t_{1})\right){\overline {\left(Y(t_{2})-\mu _{Y}(t_{2})\right)}}\right]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/4af132571e88ed273022677215e210816f4f9b93)
![{\displaystyle \operatorname {K} _{XY}(\tau)=\operatorname {cov} (X_{t},Y_{t-\tau})=\operatorname {E} [(X_{t}-\ mu _{X})(Y_{t-\tau }-\mu _{Y})]=\operatorname {E} [X_{t}Y_{t-\tau }]-\mu _{X}\mu _{Y}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/e9d33105bfcc12b9bd9a3d240d78fad1df3cf524)
![{\displaystyle \operatorname {K} _{XY}(\tau)=\operatorname {cov} (X_{t+\tau },Y_{t})=\operatorname {E} [(X_{t+\tau }- \mu _{X})(Y_{t}-\mu _{Y})]=\operatorname {E} [X_{t+\tau }Y_{t}]-\mu _{X}\mu _{Y}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/c329ddae8b4e41431582575fd8156e025c26f34d)
![{\displaystyle f[k]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/c0c2cac4f7a962e0e8b6e35a6ddb99c8b39763fb)
![{\displaystyle g[k]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/e5e0eb43b8f34360a3158d48d0d908a104dd8ccf)
![{\displaystyle (f\star g)[n]\ {\stackrel {\mathrm {def} }{=}}\ \sum _{k\in \mathbb {Z} }{\overline {f[k]}}g[n+k]=\sum _{k\in \mathbb {Z} }{\overline {f[kn]}}g[k]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/02f82f14c2e14226808b1b3517153c75716e658d)
![{\displaystyle (f\star g)[n]=({\overline {f[-k]}}*g[k])[n]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/c04fa8cd0152aa79efeee16ac48bbd6170a4b52a)
