Обратное уравнение Мура-Пенроуза

В математике , и в частности в линейной алгебре , обратная матрица Мура–Пенроуза ⁠ ⁠ матрицы ⁠ ⁠ , часто называемая псевдообратной матрицей , является наиболее широко известным обобщением обратной матрицы . ^[1] Она была независимо описана Э. Х. Муром в 1920 году, ^[2] Арне Бьерхаммаром в 1951 году, ^[3] и Роджером Пенроузом в 1955 году. ^[4] Ранее, в 1903 году, Эрик Ивар Фредхольм ввел понятие псевдообратной матрицы интегральных операторов. Термины псевдообратная и обобщенная обратная иногда используются как синонимы для обратной матрицы Мура–Пенроуза, но иногда применяются к другим элементам алгебраических структур, которые разделяют некоторые, но не все свойства, ожидаемые для обратного элемента .${\displaystyle А^{+}}$ ${\displaystyle A}$

Распространенное использование псевдообратной матрицы — вычисление приближенного решения «наилучшего соответствия» ( наименьших квадратов ) для системы линейных уравнений , не имеющей точного решения (см. ниже в разделе «Приложения»). Другое использование — нахождение решения с минимальной ( евклидовой ) нормой для системы линейных уравнений с несколькими решениями. Псевдообратная матрица облегчает формулировку и доказательство результатов в линейной алгебре.

Псевдообратная матрица определена для всех прямоугольных матриц, элементы которых являются действительными или комплексными числами. Для прямоугольной матрицы с действительными или комплексными элементами ее псевдообратная матрица уникальна. Ее можно вычислить с помощью разложения по сингулярным значениям . В особом случае, когда ⁠ ⁠${\displaystyle A}$ — нормальная матрица (например, эрмитова матрица), псевдообратная матрица ⁠ ⁠ ${\displaystyle A^{+}}$ аннулирует ядро ​​⁠ ⁠ и действует как традиционная обратная матрица ⁠ ⁠ на подпространстве , ортогональном ядру .${\displaystyle A}$${\displaystyle A}$

В ходе дальнейшего обсуждения приняты следующие условные обозначения.

• ⁠ ⁠${\displaystyle \mathbb {K} }$ будет обозначать одно из полей действительных или комплексных чисел, обозначаемых ⁠ ⁠${\displaystyle \mathbb {R} }$ , ⁠ ⁠${\displaystyle \mathbb {C} }$ , соответственно. Вектор пространства ⁠ ⁠${\displaystyle m\times n}$ матриц над ⁠ ⁠${\displaystyle \mathbb {K} }$ обозначается ⁠ ⁠${\displaystyle \mathbb {K} ^{m\times n}}$ .
• Для ⁠ ⁠${\displaystyle A\in \mathbb {K} ^{m\times n}}$ транспонирование обозначается ⁠ ⁠${\displaystyle A^{\mathsf {T}}}$ а эрмитово транспонирование (также называемое сопряженным транспонированием ) обозначается ⁠ ⁠${\displaystyle A^{*}}$ . Если , то .${\displaystyle \mathbb {K} =\mathbb {R} }$${\displaystyle A^{*}=A^{\mathsf {T}}}$
• Для ⁠ ⁠${\displaystyle A\in \mathbb {K} ^{m\times n}}$ , ⁠ ⁠${\displaystyle \operatorname {ran} (A)}$ (обозначает « диапазон ») обозначает пространство столбцов ( изображение ) ⁠ ⁠${\displaystyle A}$ (пространство, охватываемое векторами столбцов ⁠ ⁠${\displaystyle A}$ ), а ⁠ ⁠${\displaystyle \ker(A)}$ обозначает ядро ​​(нулевое пространство) ⁠ ⁠${\displaystyle A}$ .
• Для любого положительного целого числа ⁠ ⁠ ${\displaystyle n}$единичная${\displaystyle n\times n}$ матрица обозначается ⁠ ⁠ .${\displaystyle I_{n}\in \mathbb {K} ^{n\times n}}$

Для псевдообратная матрица A определяется как матрица , удовлетворяющая всем следующим четырем критериям, известным как условия Мура–Пенроуза: ^{[4] [5]}${\displaystyle A\in \mathbb {K} ^{m\times n}}$${\displaystyle A^{+}\in \mathbb {K} ^{n\times m}}$

1. ⁠ ⁠${\displaystyle AA^{+}}$ не обязательно должна быть общей единичной матрицей, но она отображает все векторы-столбцы матрицы A в самих себя:$${\displaystyle AA^{+}A=\;A.}$$
2. ⁠ ⁠${\displaystyle A^{+}}$ действует как слабая обратная матрица :$${\displaystyle A^{+}AA^{+}=\;A^{+}.}$$
3. ⁠ ⁠${\displaystyle AA^{+}}$ является эрмитовым :$${\displaystyle \left(AA^{+}\right)^{*}=\;AA^{+}.}$$
4. ⁠ ⁠${\displaystyle A^{+}A}$ также является эрмитовым:$${\displaystyle \left(A^{+}A\right)^{*}=\;A^{+}A.}$$

Обратите внимание, что и являются идемпотентными операторами, как следует из и . Более конкретно, проецирует на образ (эквивалентно, на промежуток строк ), а проецирует на образ (эквивалентно, на промежуток столбцов ). Фактически, приведенные выше четыре условия полностью эквивалентны и являясь такими ортогональными проекциями: проецирование на образ подразумевает , а проецирование на образ подразумевает .${\displaystyle A^{+}A}$${\displaystyle AA^{+}}$${\displaystyle (AA^{+})^{2}=AA^{+}}$${\displaystyle (A^{+}A)^{2}=A^{+}A}$${\displaystyle A^{+}A}$${\displaystyle A^{T}}$${\displaystyle A}$${\displaystyle AA^{+}}$${\displaystyle A}$${\displaystyle A}$${\displaystyle A^{+}A}$${\displaystyle AA^{+}}$${\displaystyle AA^{+}}$${\displaystyle A}$${\displaystyle (AA^{+})A=A}$${\displaystyle A^{+}A}$${\displaystyle A^{T}}$${\displaystyle (A^{+}A)A^{T}=A^{T}}$

Псевдообратная матрица существует для любой матрицы . Если при этом имеет полный ранг , то есть ее ранг равен ⁠ ⁠ , то ⁠ ⁠ можно задать особенно простое алгебраическое выражение. В частности:${\displaystyle A^{+}}$${\displaystyle A\in \mathbb {K} ^{m\times n}}$${\displaystyle A}$${\displaystyle \min\{m,n\}}$${\displaystyle A^{+}}$

• Когда ⁠ ⁠${\displaystyle A}$ имеет линейно независимые столбцы (эквивалентно, ⁠ ⁠${\displaystyle A}$ является инъективным и, следовательно , ⁠ ⁠${\displaystyle A^{*}A}$ является обратимым), ⁠ ⁠${\displaystyle A^{+}}$ можно вычислить как Этот конкретный псевдообратный является левым обратным , то есть, .$${\displaystyle A^{+}=\left(A^{*}A\right)^{-1}A^{*}.}$$${\displaystyle A^{+}A=I}$
• Если, с другой стороны, имеет линейно независимые строки (что эквивалентно, является сюръективным и, таким образом , ⁠ ⁠ является обратимым), ⁠ ⁠ можно вычислить как Это правый обратный , так как .${\displaystyle A}$${\displaystyle A}$${\displaystyle AA^{*}}$${\displaystyle A^{+}}$$${\displaystyle A^{+}=A^{*}\left(AA^{*}\right)^{-1}.}$$${\displaystyle AA^{+}=I}$

В более общем случае псевдообратная матрица может быть выражена с использованием разложения по сингулярным значениям . Любая матрица может быть разложена как для некоторых изометрий и диагональной неотрицательной вещественной матрицы . Затем псевдообратная матрица может быть записана как , где — псевдообратная матрица и может быть получена путем транспонирования матрицы и замены ненулевых значений их мультипликативными обратными. ^[6] То, что эта матрица удовлетворяет вышеуказанному требованию, напрямую проверяется наблюдением того, что и , которые являются проекциями на изображение и носитель , соответственно.${\displaystyle A=UDV^{*}}$${\displaystyle U,V}$${\displaystyle D}$${\displaystyle A^{+}=VD^{+}U^{*}}$${\displaystyle D^{+}}$${\displaystyle D}$${\displaystyle AA^{+}=UU^{*}}$${\displaystyle A^{+}A=VV^{*}}$${\displaystyle A}$

Как обсуждалось выше, для любой матрицы ⁠ ⁠${\displaystyle A}$ существует одна и только одна псевдообратная матрица ⁠ ⁠${\displaystyle A^{+}}$ . ^[5]

Матрица, удовлетворяющая только первому из условий, приведенных выше, а именно , называется обобщенной обратной. Если матрица также удовлетворяет второму условию, а именно , она называется обобщенной рефлексивной обратной . Обобщенные обратные матрицы всегда существуют, но в общем случае не являются уникальными. Уникальность является следствием последних двух условий.${\textstyle AA^{+}A=A}$${\textstyle A^{+}AA^{+}=A^{+}}$

Доказательства приведенных ниже свойств можно найти на странице b:Topics in Абстрактная алгебра/Линейная алгебра.

• Если ⁠ ⁠${\displaystyle A}$ есть реальные записи, то и ⁠ ⁠${\displaystyle A^{+}}$ тоже .
• Если ⁠ ⁠${\displaystyle A}$ обратим , его псевдообратный является его обратным. То есть, . ^{[7] : 243}${\displaystyle A^{+}=A^{-1}}$
• Псевдообратная матрица псевдообратной матрицы — это исходная матрица: . ^{[7] : 245}${\displaystyle \left(A^{+}\right)^{+}=A}$
• Псевдоинверсия коммутирует с транспозицией, комплексным сопряжением и сопряженным транспонированием: ^{[7] : 245} $${\displaystyle \left(A^{\mathsf {T}}\right)^{+}=\left(A^{+}\right)^{\mathsf {T}},\quad \left({\overline {A}}\right)^{+}={\overline {A^{+}}},\quad \left(A^{*}\right)^{+}=\left(A^{+}\right)^{*}.}$$
• Псевдообратное значение скалярного кратного ⁠ ⁠${\displaystyle A}$ является обратным кратным ⁠ ⁠${\displaystyle A^{+}}$ : для ⁠ ⁠ ; в противном случае, , или .$${\displaystyle \left(\alpha A\right)^{+}=\alpha ^{-1}A^{+}}$$${\displaystyle \alpha \neq 0}$${\displaystyle \left(0A\right)^{+}=0A^{+}=0A^{\mathsf {T}}}$${\displaystyle 0^{+}=0^{\mathsf {T}}}$
• Ядро и образ псевдообратного элемента совпадают с ядром и образом сопряженного транспонированного элемента: и .${\displaystyle \ker \left(A^{+}\right)=\ker \left(A^{*}\right)}$${\displaystyle \operatorname {ran} \left(A^{+}\right)=\operatorname {ran} \left(A^{*}\right)}$

Следующая формула тождества может быть использована для отмены или расширения определенных подвыражений, включающих псевдообратные выражения: Эквивалентно, замена на дает , в то время как замена на дает$${\displaystyle A={}A{}A^{*}{}A^{+*}{}={}A^{+*}{}A^{*}{}A.}$$${\displaystyle A^{+}}$${\displaystyle A}$$${\displaystyle A^{+}={}A^{+}{}A^{+*}{}A^{*}{}={}A^{*}{}A^{+*}{}A^{+},}$$${\displaystyle A^{*}}$${\displaystyle A}$$${\displaystyle A^{*}={}A^{*}{}A{}A^{+}{}={}A^{+}{}A{}A^{*}.}$$

Вычисление псевдообратного сводится к его построению в эрмитовом случае. Это возможно благодаря эквивалентностям:$${\displaystyle A^{+}=\left(A^{*}A\right)^{+}A^{*},}$$$${\displaystyle A^{+}=A^{*}\left(AA^{*}\right)^{+},}$$

поскольку ⁠ ⁠${\displaystyle A^{*}A}$ и ⁠ ⁠${\displaystyle AA^{*}}$ являются эрмитовыми.

Равенство ⁠ ⁠${\displaystyle (AB)^{+}=B^{+}A^{+}}$ в общем случае не выполняется. Скорее, предположим ⁠ ⁠${\displaystyle A\in \mathbb {K} ^{m\times n},\ B\in \mathbb {K} ^{n\times p}}$ . Тогда следующие условия эквивалентны: ^[8]

1. ${\textstyle (AB)^{+}=B^{+}A^{+}}$
2. ${\displaystyle A^{+}ABB^{*}A^{*}=BB^{*}A^{*}}$и${\displaystyle BB^{+}A^{*}AB=A^{*}AB}$
3. ${\textstyle \left(A^{+}ABB^{*}\right)^{*}=A^{+}ABB^{*}}$и${\displaystyle \left(A^{*}ABB^{+}\right)^{*}=A^{*}ABB^{+}}$
4. ${\textstyle A^{+}ABB^{*}A^{*}ABB^{+}=BB^{*}A^{*}A}$
5. ${\textstyle A^{+}AB=B(AB)^{+}AB}$и .${\displaystyle BB^{+}A^{*}=A^{*}AB(AB)^{+}}$

Достаточными условиями для этого${\displaystyle (AB)^{+}=B^{+}A^{+}}$ являются следующие :

1. ⁠ ⁠${\displaystyle A}$ имеет ортонормальные столбцы (тогда ), или${\displaystyle A^{*}A=A^{+}A=I_{n}}$
2. ⁠ ⁠${\displaystyle B}$ имеет ортонормальные строки (тогда ), или${\displaystyle BB^{*}=BB^{+}=I_{n}}$
3. ⁠ ⁠${\displaystyle A}$ имеет линейно независимые столбцы (тогда ) и ⁠ ⁠ имеет линейно независимые строки (тогда ), или${\displaystyle A^{+}A=I}$${\displaystyle B}$${\displaystyle BB^{+}=I}$
4. ${\displaystyle B=A^{*}}$, или
5. ${\displaystyle B=A^{+}}$.

Необходимое условие для этого${\displaystyle (AB)^{+}=B^{+}A^{+}}$ следующее :

1. ${\displaystyle (A^{+}A)(BB^{+})=(BB^{+})(A^{+}A)}$

Четвертое достаточное условие приводит к равенствам$${\displaystyle {\begin{aligned}\left(AA^{*}\right)^{+}&=A^{+*}A^{+},\\\left(A^{*}A\right)^{+}&=A^{+}A^{+*}.\end{aligned}}}$$

Вот контрпример, где ⁠ ⁠${\displaystyle (AB)^{+}\neq B^{+}A^{+}}$ :

$${\displaystyle {\Biggl (}{\begin{pmatrix}1&1\\0&0\end{pmatrix}}{\begin{pmatrix}0&0\\1&1\end{pmatrix}}{\Biggr )}^{+}={\begin{pmatrix}1&1\\0&0\end{pmatrix}}^{+}={\begin{pmatrix}{\tfrac {1}{2}}&0\\{\tfrac {1}{2}}&0\end{pmatrix}}\quad \neq \quad {\begin{pmatrix}{\tfrac {1}{4}}&0\\{\tfrac {1}{4}}&0\end{pmatrix}}={\begin{pmatrix}0&{\tfrac {1}{2}}\\0&{\tfrac {1}{2}}\end{pmatrix}}{\begin{pmatrix}{\tfrac {1}{2}}&0\\{\tfrac {1}{2}}&0\end{pmatrix}}={\begin{pmatrix}0&0\\1&1\end{pmatrix}}^{+}{\begin{pmatrix}1&1\\0&0\end{pmatrix}}^{+}}$$

${\displaystyle P=AA^{+}}$и являются ортогональными проекционными операторами , то есть они эрмитовы ( , ) и идемпотентны ( и ). Справедливо следующее:${\displaystyle Q=A^{+}A}$${\displaystyle P=P^{*}}$${\displaystyle Q=Q^{*}}$${\displaystyle P^{2}=P}$${\displaystyle Q^{2}=Q}$

• ${\displaystyle PA=AQ=A}$и${\displaystyle A^{+}P=QA^{+}=A^{+}}$
• ⁠ ⁠${\displaystyle P}$ — ортогональный проектор на область значений ⁠ ⁠${\displaystyle A}$ (которая равна ортогональному дополнению ядра ⁠ ⁠${\displaystyle A^{*}}$ ).
• ⁠ ⁠${\displaystyle Q}$ — ортогональный проектор на область значений ⁠ ⁠${\displaystyle A^{*}}$ (которая равна ортогональному дополнению ядра ⁠ ⁠${\displaystyle A}$ ).
• ${\displaystyle I-Q=I-A^{+}A}$является ортогональным проектором на ядро ​​⁠ ⁠${\displaystyle A}$ .
• ${\displaystyle I-P=I-AA^{+}}$является ортогональным проектором на ядро ​​⁠ ⁠${\displaystyle A^{*}}$ . ^[5]

Последние два свойства подразумевают следующие тождества:

• ${\displaystyle A\,\ \left(I-A^{+}A\right)=\left(I-AA^{+}\right)A\ \ =0}$
• ${\displaystyle A^{*}\left(I-AA^{+}\right)=\left(I-A^{+}A\right)A^{*}=0}$

Другое свойство следующее: если ⁠ ⁠${\displaystyle A\in \mathbb {K} ^{n\times n}}$ является эрмитовым и идемпотентным (истинно тогда и только тогда, когда оно представляет собой ортогональную проекцию), то для любой матрицы ⁠ ⁠${\displaystyle B\in \mathbb {K} ^{m\times n}}$ справедливо следующее уравнение: ^[9]$${\displaystyle A(BA)^{+}=(BA)^{+}}$$

Это можно доказать, определив матрицы , и проверив, что ⁠ ⁠ действительно является псевдообратной для ⁠ ⁠, проверив, что определяющие свойства псевдообратной матрицы выполняются, когда ⁠ ⁠ является эрмитовым и идемпотентным.${\displaystyle C=BA}$${\displaystyle D=A(BA)^{+}}$${\displaystyle D}$${\displaystyle C}$${\displaystyle A}$

Из последнего свойства следует, что если ⁠ ⁠${\displaystyle A\in \mathbb {K} ^{n\times n}}$ эрмитово и идемпотентно, то для любой матрицы ⁠ ⁠${\displaystyle B\in \mathbb {K} ^{n\times m}}$$${\displaystyle (AB)^{+}A=(AB)^{+}}$$

Наконец, если ⁠ ⁠${\displaystyle A}$ — ортогональная проекционная матрица, то ее псевдообратная матрица тривиально совпадает с самой матрицей, то есть .${\displaystyle A^{+}=A}$

Если рассматривать матрицу как линейное отображение ⁠ ⁠${\displaystyle A:\mathbb {K} ^{n}\to \mathbb {K} ^{m}}$ над полем ⁠ ⁠ ,${\displaystyle \mathbb {K} }$ то ⁠ ⁠${\displaystyle A^{+}:\mathbb {K} ^{m}\to \mathbb {K} ^{n}}$ можно разложить следующим образом. Запишем ⁠ ⁠${\displaystyle \oplus }$ для прямой суммы , ⁠ ⁠${\displaystyle \perp }$ для ортогонального дополнения , ⁠ ⁠${\displaystyle \ker }$ для ядра отображения и ⁠ ⁠${\displaystyle \operatorname {ran} }$ для образа отображения. Обратите внимание, что и . Ограничение тогда является изоморфизмом. Это означает, что ⁠ ⁠ на ⁠ ⁠ является обратным к этому изоморфизму и равен нулю на${\displaystyle \mathbb {K} ^{n}=\left(\ker A\right)^{\perp }\oplus \ker A}$${\displaystyle \mathbb {K} ^{m}=\operatorname {ran} A\oplus \left(\operatorname {ran} A\right)^{\perp }}$${\displaystyle A:\left(\ker A\right)^{\perp }\to \operatorname {ran} A}$${\displaystyle A^{+}}$${\displaystyle \operatorname {ran} A}$${\displaystyle \left(\operatorname {ran} A\right)^{\perp }.}$

Другими словами: чтобы найти ⁠ ⁠${\displaystyle A^{+}b}$ для заданного ⁠ ⁠${\displaystyle b}$ в ⁠ ⁠${\displaystyle \mathbb {K} ^{m}}$ , сначала спроецируйте ⁠ ⁠${\displaystyle b}$ ортогонально на область значений ⁠ ⁠${\displaystyle A}$ , найдя точку ⁠ ⁠${\displaystyle p(b)}$ в области значений. Затем сформируйте ⁠ ⁠${\displaystyle A^{-1}(\{p(b)\})}$ , то есть найдите те векторы в ⁠ ⁠ ,${\displaystyle \mathbb {K} ^{n}}$ которые ⁠ ⁠${\displaystyle A}$ отправляются в ⁠ ⁠${\displaystyle p(b)}$ . Это будет аффинное подпространство ⁠ ⁠ ,${\displaystyle \mathbb {K} ^{n}}$ параллельное ядру ⁠ ⁠${\displaystyle A}$ . Элемент этого подпространства, который имеет наименьшую длину (то есть находится ближе всего к началу координат), и есть ответ ⁠ ⁠ ,${\displaystyle A^{+}b}$ который мы ищем. Его можно найти, взяв произвольный член ⁠ ⁠${\displaystyle A^{-1}(\{p(b)\})}$ и спроецировав его ортогонально на ортогональное дополнение ядра ⁠ ⁠${\displaystyle A}$ .

Это описание тесно связано с решением линейной системы с минимальной нормой.

Псевдообратные матрицы — это пределы: (см. регуляризацию Тихонова ). Эти пределы существуют, даже если ⁠ ⁠ или ⁠ ⁠ не существуют. ^{[5] : 263}$${\displaystyle A^{+}=\lim _{\delta \searrow 0}\left(A^{*}A+\delta I\right)^{-1}A^{*}=\lim _{\delta \searrow 0}A^{*}\left(AA^{*}+\delta I\right)^{-1}}$$${\displaystyle \left(AA^{*}\right)^{-1}}$${\displaystyle \left(A^{*}A\right)^{-1}}$

В отличие от обычного обращения матрицы, процесс взятия псевдообратных матриц не является непрерывным : если последовательность ⁠ ⁠${\displaystyle \left(A_{n}\right)}$ сходится к матрице ⁠ ⁠${\displaystyle A}$ (скажем, в максимальной норме или норме Фробениуса ), то ⁠ ⁠${\displaystyle (A_{n})^{+}}$ не обязательно сходится к ⁠ ⁠${\displaystyle A^{+}}$ . Однако, если все матрицы ⁠ ⁠${\displaystyle A_{n}}$ имеют тот же ранг, что и ⁠ ⁠${\displaystyle A}$ , ⁠ ⁠${\displaystyle (A_{n})^{+}}$ будет сходиться к ⁠ ⁠${\displaystyle A^{+}}$ . ^[10]

Пусть будет вещественнозначной дифференцируемой матричной функцией с постоянным рангом в точке ⁠ ⁠ . Производная от при может быть вычислена через производную от при : ^[11] где функции , и производные в правой части вычисляются при (то есть, , и т.д.). Для комплексной матрицы транспонирование заменяется сопряженным транспонированием. ^[12] Для вещественнозначной симметричной матрицы устанавливается производная Магнуса-Нойдекера. ^[13]${\displaystyle x\mapsto A(x)}$${\displaystyle x_{0}}$${\displaystyle x\mapsto A^{+}(x)}$${\displaystyle x_{0}}$${\displaystyle A}$${\displaystyle x_{0}}$ $${\displaystyle \left.{\frac {\mathrm {d} }{\mathrm {d} x}}\right|_{x=x_{0}\!\!\!\!\!\!\!}A^{+}=-A^{+}\left({\frac {\mathrm {d} A}{\mathrm {d} x}}\right)A^{+}~+~A^{+}A^{+\top }\left({\frac {\mathrm {d} A^{\top }}{\mathrm {d} x}}\right)\left(I-AA^{+}\right)~+~\left(I-A^{+}A\right)\left({\frac {\mathrm {d} A^{\top }}{\mathrm {d} x}}\right)A^{+\top }A^{+},}$$${\displaystyle A}$${\displaystyle A^{+}}$${\displaystyle x_{0}}$${\displaystyle A:=A(x_{0})}$${\displaystyle A^{+}:=A^{+}(x_{0})}$

Поскольку для обратимых матриц псевдообратная матрица равна обычной обратной, ниже рассматриваются только примеры необратимых матриц.

• Для псевдообратной матрицы это Уникальность этой псевдообратной матрицы можно увидеть из требования , поскольку умножение на нулевую матрицу всегда даст нулевую матрицу.${\displaystyle A={\begin{pmatrix}0&0\\0&0\end{pmatrix}},}$${\displaystyle A^{+}={\begin{pmatrix}0&0\\0&0\end{pmatrix}}.}$${\displaystyle A^{+}=A^{+}AA^{+}}$
• Для псевдообратного значения это .${\displaystyle A={\begin{pmatrix}1&0\\1&0\end{pmatrix}},}$${\displaystyle A^{+}={\begin{pmatrix}{\frac {1}{2}}&{\frac {1}{2}}\\0&0\end{pmatrix}}}$

Действительно, , и таким образом . Аналогично, , и таким образом .${\displaystyle A\,A^{+}={\begin{pmatrix}{\frac {1}{2}}&{\frac {1}{2}}\\{\frac {1}{2}}&{\frac {1}{2}}\end{pmatrix}}}$${\displaystyle A\,A^{+}A={\begin{pmatrix}1&0\\1&0\end{pmatrix}}=A}$${\displaystyle A^{+}A={\begin{pmatrix}1&0\\0&0\end{pmatrix}}}$${\displaystyle A^{+}A\,A^{+}={\begin{pmatrix}{\frac {1}{2}}&{\frac {1}{2}}\\0&0\end{pmatrix}}=A^{+}}$

Обратите внимание, что ⁠ ⁠${\displaystyle A}$ не является ни инъективным, ни сюръективным, и, таким образом, псевдообратный элемент не может быть вычислен с помощью или , так как и являются сингулярными, и, кроме того, не является ни левым, ни правым обратным элементом.${\displaystyle A^{+}=\left(A^{*}A\right)^{-1}A^{*}}$${\displaystyle A^{+}=A^{*}\left(AA^{*}\right)^{-1}}$${\displaystyle A^{*}A}$${\displaystyle AA^{*}}$${\displaystyle A^{+}}$

Тем не менее, псевдообратное можно вычислить с помощью SVD, наблюдая, что , и, таким образом , .${\displaystyle A={\sqrt {2}}\left({\frac {\mathbf {e} _{1}+\mathbf {e} _{2}}{\sqrt {2}}}\right)\mathbf {e} _{1}^{*}}$${\displaystyle A^{+}={\frac {1}{\sqrt {2}}}\,\mathbf {e} _{1}\left({\frac {\mathbf {e} _{1}+\mathbf {e} _{2}}{\sqrt {2}}}\right)^{*}}$

• Для${\displaystyle A={\begin{pmatrix}1&0\\-1&0\end{pmatrix}},}$ ${\displaystyle A^{+}={\begin{pmatrix}{\frac {1}{2}}&-{\frac {1}{2}}\\0&0\end{pmatrix}}.}$
• Для . Знаменатели здесь .${\displaystyle A={\begin{pmatrix}1&0\\2&0\end{pmatrix}},}$ ${\displaystyle A^{+}={\begin{pmatrix}{\frac {1}{5}}&{\frac {2}{5}}\\0&0\end{pmatrix}}}$${\displaystyle 5=1^{2}+2^{2}}$
• Для${\displaystyle A={\begin{pmatrix}1&1\\1&1\end{pmatrix}},}$ ${\displaystyle A^{+}={\begin{pmatrix}{\frac {1}{4}}&{\frac {1}{4}}\\{\frac {1}{4}}&{\frac {1}{4}}\end{pmatrix}}.}$
• Для псевдообратного значения это .${\displaystyle A={\begin{pmatrix}1&0\\0&1\\0&1\end{pmatrix}},}$${\displaystyle A^{+}={\begin{pmatrix}1&0&0\\0&{\frac {1}{2}}&{\frac {1}{2}}\end{pmatrix}}}$

Для этой матрицы левая обратная существует и, таким образом, равна , действительно,${\displaystyle A^{+}}$${\displaystyle A^{+}A={\begin{pmatrix}1&0\\0&1\end{pmatrix}}.}$

Также возможно определить псевдообратные значения для скаляров и векторов. Это равносильно тому, чтобы рассматривать их как матрицы. Псевдообратный элемент скаляра ⁠ ⁠${\displaystyle x}$ равен нулю, если ⁠ ⁠${\displaystyle x}$ равен нулю, и обратный элемент ⁠ ⁠${\displaystyle x}$ в противном случае:$${\displaystyle x^{+}={\begin{cases}0,&{\mbox{if }}x=0;\\x^{-1},&{\mbox{otherwise}}.\end{cases}}}$$

Псевдообратный вектор нулевого (все нули) вектора — это транспонированный нулевой вектор. Псевдообратный вектор ненулевого вектора — это сопряженный транспонированный вектор, деленный на его квадрат величины:

$${\displaystyle {\vec {x}}^{+}={\begin{cases}{\vec {0}}^{\mathsf {T}},&{\text{if }}{\vec {x}}={\vec {0}};\\[4pt]{\dfrac {{\vec {x}}^{*}}{({\vec {x}}^{*}{\vec {x}})}},&{\text{otherwise}}.\end{cases}}}$$

Псевдообратная матрица квадрата диагонали получается путем взятия обратной величины ненулевых диагональных элементов. Формально, если — квадрат диагональной матрицы с и , то . В более общем случае, если — любая прямоугольная матрица, единственные ненулевые элементы которой находятся на диагонали, то есть , , то — прямоугольная матрица, диагональные элементы которой являются обратной величиной исходных, то есть .${\displaystyle D}$${\displaystyle D={\tilde {D}}\oplus \mathbf {0} _{k\times k}}$${\displaystyle {\tilde {D}}>0}$${\displaystyle D^{+}={\tilde {D}}^{-1}\oplus \mathbf {0} _{k\times k}}$${\displaystyle A}$${\displaystyle m\times n}$${\displaystyle A_{ij}=\delta _{ij}a_{i}}$${\displaystyle a_{i}\in \mathbb {K} }$${\displaystyle A^{+}}$${\displaystyle n\times m}$${\displaystyle A_{ii}\neq 0\implies A_{ii}^{+}={\frac {1}{A_{ii}}}}$

Если ранг ⁠ ⁠${\displaystyle A}$ совпадает с числом столбцов, ⁠ ⁠${\displaystyle n}$ , (для ⁠ ⁠${\displaystyle n\leq m}$ ,) есть ⁠ ⁠ ${\displaystyle n}$ линейно независимые столбцы, и ⁠ ⁠${\displaystyle A^{*}A}$ обратим. В этом случае явная формула имеет вид: ^[14]$${\displaystyle A^{+}=\left(A^{*}A\right)^{-1}A^{*}.}$$

Из этого следует, что ⁠ ⁠${\displaystyle A^{+}}$ тогда является левым обратным к ⁠ ⁠${\displaystyle A}$ :   .${\displaystyle A^{+}A=I_{n}}$

Если ранг ⁠ ⁠${\displaystyle A}$ совпадает с числом строк, ⁠ ⁠${\displaystyle m}$ , (для ⁠ ⁠${\displaystyle m\leq n}$ ,) есть ⁠ ⁠ ${\displaystyle m}$ линейно независимые строки, и ⁠ ⁠${\displaystyle AA^{*}}$ обратим. В этом случае явная формула имеет вид:$${\displaystyle A^{+}=A^{*}\left(AA^{*}\right)^{-1}.}$$

Отсюда следует, что ⁠ ⁠${\displaystyle A^{+}}$ является правым обратным к ⁠ ⁠${\displaystyle A}$ :   .${\displaystyle AA^{+}=I_{m}}$

Это особый случай либо полного ранга столбцов, либо полного ранга строк (рассмотренного выше). Если ⁠ ⁠${\displaystyle A}$ имеет ортонормальные столбцы ( ) или ортонормальные строки ( ), то:${\displaystyle A^{*}A=I_{n}}$${\displaystyle AA^{*}=I_{m}}$$${\displaystyle A^{+}=A^{*}.}$$

Если ⁠ ⁠${\displaystyle A}$ является нормальным , то есть он коммутирует со своим сопряженным транспонированием, то его псевдообратный элемент можно вычислить, диагонализируя его, отображая все ненулевые собственные значения в их обратные и отображая нулевые собственные значения в ноль. Следствием является то, что ⁠ ⁠${\displaystyle A}$ коммутирование со своим транспонированием подразумевает, что он коммутирует со своим псевдообратным элементом.

(Квадратная) матрица ⁠ ⁠${\displaystyle A}$ называется матрицей EP, если она коммутирует со своей псевдообратной. В таких случаях (и только в таких случаях) можно получить псевдообратную матрицу как полином от ⁠ ⁠${\displaystyle A}$ . Полином такой, что может быть легко получен из характеристического полинома ⁠ ⁠ или, в более общем случае, из любого аннулирующего полинома ⁠ ⁠ . ^[15]${\displaystyle p(t)}$${\displaystyle A^{+}=p(A)}$${\displaystyle A}$${\displaystyle A}$

Это частный случай нормальной матрицы с собственными значениями 0 и 1. Если ⁠ ⁠${\displaystyle A}$ — ортогональная проекционная матрица, то есть и , то псевдообратная матрица тривиально совпадает с самой матрицей:${\displaystyle A=A^{*}}$${\displaystyle A^{2}=A}$$${\displaystyle A^{+}=A.}$$

Для циркулянтной матрицы ⁠ ⁠${\displaystyle C}$ разложение сингулярных значений задается преобразованием Фурье , то есть сингулярные значения являются коэффициентами Фурье. Пусть ⁠ ⁠${\displaystyle {\mathcal {F}}}$ будет матрицей дискретного преобразования Фурье (DFT) ; тогда ^[16]$${\displaystyle {\begin{aligned}C&={\mathcal {F}}\cdot \Sigma \cdot {\mathcal {F}}^{*},\\C^{+}&={\mathcal {F}}\cdot \Sigma ^{+}\cdot {\mathcal {F}}^{*}.\end{aligned}}}$$

Пусть ⁠ ⁠${\displaystyle r\leq \min(m,n)}$ обозначает ранг ⁠ ⁠ .${\displaystyle A\in \mathbb {K} ^{m\times n}}$ Тогда ⁠ ⁠${\displaystyle A}$ можно разложить (по рангу) следующим образом: где ⁠ ⁠ и ⁠ ⁠ имеют ранг ⁠ ⁠ . Тогда .${\displaystyle A=BC}$${\displaystyle B\in \mathbb {K} ^{m\times r}}$${\displaystyle C\in \mathbb {K} ^{r\times n}}$${\displaystyle r}$${\displaystyle A^{+}=C^{+}B^{+}=C^{*}\left(CC^{*}\right)^{-1}\left(B^{*}B\right)^{-1}B^{*}}$

Для вычисления продукта ⁠ ⁠ или ⁠ ⁠ и их обратных в явном виде часто является источником числовых ошибок округления и вычислительных затрат на практике. Вместо этого может быть использован альтернативный подход с использованием QR-разложения ⁠ ⁠ .${\displaystyle \mathbb {K} \in \{\mathbb {R} ,\mathbb {C} \}}$${\displaystyle AA^{*}}$${\displaystyle A^{*}A}$${\displaystyle A}$

Рассмотрим случай, когда ⁠ ⁠${\displaystyle A}$ имеет полный ранг столбца, так что . Тогда можно использовать разложение Холецкого , где ⁠ ⁠ — верхняя треугольная матрица . Умножение на обратную матрицу тогда легко выполняется путем решения системы с несколькими правыми частями,${\displaystyle A^{+}=\left(A^{*}A\right)^{-1}A^{*}}$ ${\displaystyle A^{*}A=R^{*}R}$${\displaystyle R}$$${\displaystyle A^{+}=\left(A^{*}A\right)^{-1}A^{*}\quad \Leftrightarrow \quad \left(A^{*}A\right)A^{+}=A^{*}\quad \Leftrightarrow \quad R^{*}RA^{+}=A^{*}}$$

которая может быть решена прямой заменой с последующей обратной заменой .

Разложение Холецкого можно вычислить без явного формирования ⁠ ⁠${\displaystyle A^{*}A}$ , альтернативно используя QR-разложение , где имеет ортонормальные столбцы, , и ⁠ ⁠ является верхним треугольным. Тогда${\displaystyle A=QR}$${\displaystyle Q}$${\displaystyle Q^{*}Q=I}$${\displaystyle R}$$${\displaystyle A^{*}A\,=\,(QR)^{*}(QR)\,=\,R^{*}Q^{*}QR\,=\,R^{*}R,}$$

Итак , ⁠ ⁠${\displaystyle R}$ — фактор Холецкого ⁠ ⁠${\displaystyle A^{*}A}$ .

Случай полного ранга строки рассматривается аналогично с использованием формулы и аналогичного аргумента, меняя роли ⁠ ⁠ и ⁠ ⁠ .${\displaystyle A^{+}=A^{*}\left(AA^{*}\right)^{-1}}$${\displaystyle A}$${\displaystyle A^{*}}$

Для произвольного ⁠ ⁠${\displaystyle A\in \mathbb {K} ^{m\times n}}$ , имеем , что является нормальным и, как следствие, матрицей EP. Тогда можно найти полином такой, что . В этом случае имеем , что псевдообратный ⁠ ⁠ задается как ^[15]${\displaystyle A^{*}A}$${\displaystyle p(t)}$${\displaystyle (A^{*}A)^{+}=p(A^{*}A)}$${\displaystyle A}$$${\displaystyle A^{+}=p(A^{*}A)A^{*}=A^{*}p(AA^{*}).}$$

Вычислительно простой и точный способ вычисления псевдообратной матрицы — использование разложения по сингулярным значениям . ^{[14] [5] [17]} Если — разложение по сингулярным значениям ⁠ ⁠ , то . Для прямоугольной диагональной матрицы, такой как ⁠ ⁠ , мы получаем псевдообратную матрицу, взяв обратную величину каждого ненулевого элемента на диагонали, оставляя нули на месте. В численных вычислениях только элементы, большие некоторого малого допуска, считаются ненулевыми, а остальные заменяются нулями. Например, в функции MATLAB или GNU Octave pinv допуск принимается равным t = ε⋅max( m , n )⋅max(Σ) , где ε — машинный эпсилон .${\displaystyle A=U\Sigma V^{*}}$${\displaystyle A}$${\displaystyle A^{+}=V\Sigma ^{+}U^{*}}$${\displaystyle \Sigma }$

Вычислительная стоимость этого метода определяется в основном стоимостью вычисления SVD, которая в несколько раз выше, чем умножение матрицы на матрицу, даже если используется современная реализация (например, LAPACK ).

Вышеприведенная процедура показывает, почему взятие псевдообратной матрицы не является непрерывной операцией: если исходная матрица ⁠ ⁠${\displaystyle A}$ имеет сингулярное значение 0 (диагональный элемент матрицы ⁠ ⁠${\displaystyle \Sigma }$ выше), то небольшое изменение ⁠ ⁠${\displaystyle A}$ может превратить этот ноль в крошечное положительное число, тем самым кардинально влияя на псевдообратную матрицу, поскольку теперь нам придется взять обратную величину крошечного числа.

Существуют оптимизированные подходы для вычисления псевдообратных матриц блочно-структурированных.

Другой метод вычисления псевдообратной матрицы (ср. обратную матрицу Дрейзина ) использует рекурсию$${\displaystyle A_{i+1}=2A_{i}-A_{i}AA_{i},}$$

который иногда называют гиперстепенной последовательностью. Эта рекурсия производит последовательность, сходящуюся квадратично к псевдообратной матрице ⁠ ⁠ ,${\displaystyle A}$ если она начинается с подходящего ⁠ ⁠${\displaystyle A_{0}}$ удовлетворяющего . Выбор (где , с ⁠ ⁠ обозначающим наибольшее сингулярное значение ⁠ ⁠ ) ^[18] был признан неконкурентоспособным по сравнению с методом, использующим SVD, упомянутым выше, потому что даже для умеренно плохо обусловленных матриц требуется много времени, прежде чем ⁠ ⁠ войдет в область квадратичной сходимости. ^[19] Однако, если начать с ⁠ ⁠ уже близкой к обратной матрице Мура–Пенроуза и , например , сходимость будет быстрой (квадратичной).${\displaystyle A_{0}A=\left(A_{0}A\right)^{*}}$${\displaystyle A_{0}=\alpha A^{*}}$${\displaystyle 0<\alpha <2/\sigma _{1}^{2}(A)}$${\displaystyle \sigma _{1}(A)}$${\displaystyle A}$${\displaystyle A_{i}}$${\displaystyle A_{0}}$${\displaystyle A_{0}A=\left(A_{0}A\right)^{*}}$${\displaystyle A_{0}:=\left(A^{*}A+\delta I\right)^{-1}A^{*}}$

Для случаев, когда ⁠ ⁠${\displaystyle A}$ имеет полный ранг строки или столбца, а обратная матрица корреляции ( ⁠ ⁠${\displaystyle AA^{*}}$ для ⁠ ⁠${\displaystyle A}$ с полным рангом строки или ⁠ ⁠${\displaystyle A^{*}A}$ для полного ранга столбца) уже известна, псевдообратная матрица для матриц, связанных с ⁠ ⁠,${\displaystyle A}$ может быть вычислена путем применения формулы Шермана–Моррисона–Вудбери для обновления обратной матрицы корреляции, что может потребовать меньше работы. В частности, если связанная матрица отличается от исходной только измененной, добавленной или удаленной строкой или столбцом, существуют инкрементные алгоритмы, которые используют эту связь. ^{[20] [21]}

Аналогично, можно обновить фактор Холецкого при добавлении строки или столбца, не создавая явно обратную матрицу корреляции. Однако обновление псевдообратной матрицы в общем случае с дефицитом ранга гораздо сложнее. ^{[22] [23]}

Высококачественные реализации SVD, QR и обратной подстановки доступны в стандартных библиотеках, таких как LAPACK . Написание собственной реализации SVD является крупным проектом программирования, который требует значительных числовых знаний . Однако в особых обстоятельствах, таких как параллельные вычисления или встроенные вычисления , альтернативные реализации с помощью QR или даже использование явной инверсии могут быть предпочтительными, а пользовательские реализации могут быть неизбежны.

Пакет Python NumPy обеспечивает псевдообратный расчет через свои функции matrix.Iи linalg.pinv; он pinvиспользует алгоритм на основе SVD. SciPy добавляет функцию scipy.linalg.pinv, которая использует решатель наименьших квадратов.

Пакет MASS для R обеспечивает вычисление обратной матрицы Мура–Пенроуза с помощью ginvфункции. ^[24] Функция ginvвычисляет псевдообратную матрицу, используя разложение сингулярных значений, предоставляемое функцией svdв базовом пакете R. Альтернативой является использование pinvфункции, доступной в пакете pracma.

Язык программирования Octave обеспечивает псевдообратное преобразование с помощью стандартной функции пакета pinvи pseudo_inverse()метода.

В Julia (язык программирования) пакет LinearAlgebra стандартной библиотеки обеспечивает реализацию обратной матрицы Мура-Пенроуза, pinv()реализованную с помощью сингулярного разложения. ^[25]

Псевдообратная матрица обеспечивает решение системы линейных уравнений методом наименьших квадратов . ^[26] Для ⁠ ⁠ , заданной системой линейных уравнений${\displaystyle A\in \mathbb {K} ^{m\times n}}$$${\displaystyle Ax=b,}$$

в общем случае вектор ⁠ ⁠,${\displaystyle x}$ который решает систему, может не существовать, или если существует, он может быть не единственным. Более конкретно, решение существует тогда и только тогда, когда находится в образе , и является единственным тогда и только тогда, когда является инъективным. Псевдообратный решает задачу «наименьших квадратов» следующим образом:${\displaystyle b}$${\displaystyle A}$${\displaystyle A}$

• ⁠ ⁠${\displaystyle \forall x\in \mathbb {K} ^{n}}$ , имеем где и обозначает евклидову норму . Это слабое неравенство выполняется с равенством тогда и только тогда, когда для любого вектора ⁠ ⁠ ; это обеспечивает бесконечность минимизирующих решений, если только ⁠ ⁠ не имеет полного ранга столбца, в этом случае ⁠ ⁠ является нулевой матрицей. ^[27] Решение с минимальной евклидовой нормой ⁠ ⁠ ^[27]${\displaystyle \left\|Ax-b\right\|_{2}\geq \left\|Az-b\right\|_{2}}$${\displaystyle z=A^{+}b}$${\displaystyle \|\cdot \|_{2}}$${\displaystyle x=A^{+}b+\left(I-A^{+}A\right)w}$${\displaystyle w}$${\displaystyle A}$${\displaystyle \left(I-A^{+}A\right)}$${\displaystyle z.}$

Этот результат легко распространяется на системы с несколькими правыми частями, когда евклидова норма заменяется нормой Фробениуса. Пусть ⁠ ⁠${\displaystyle B\in \mathbb {K} ^{m\times p}}$ .

• ⁠ ⁠${\displaystyle \forall X\in \mathbb {K} ^{n\times p}}$ , имеем где и обозначает норму Фробениуса .${\displaystyle \|AX-B\|_{\mathrm {F} }\geq \|AZ-B\|_{\mathrm {F} }}$${\displaystyle Z=A^{+}B}$${\displaystyle \|\cdot \|_{\mathrm {F} }}$

Если линейная система

$${\displaystyle Ax=b}$$

имеет какие-либо решения, все они даны ^[28]

$${\displaystyle x=A^{+}b+\left[I-A^{+}A\right]w}$$

для произвольного вектора ⁠ ⁠${\displaystyle w}$ . Решение(я) существуют тогда и только тогда, когда . ^[28] Если последнее выполняется, то решение является единственным тогда и только тогда, когда ⁠ ⁠ имеет полный ранг столбца, в этом случае ⁠ ⁠ является нулевой матрицей. Если решения существуют, но ⁠ ⁠ не имеет полного ранга столбца, то мы имеем неопределенную систему , вся бесконечность решений которой задается этим последним уравнением.${\displaystyle AA^{+}b=b}$${\displaystyle A}$${\displaystyle I-A^{+}A}$${\displaystyle A}$

Для линейных систем с неединственными решениями (например, недоопределенных систем) псевдообратная матрица может быть использована для построения решения с минимальной евклидовой нормой среди всех решений.${\displaystyle Ax=b,}$${\displaystyle \|x\|_{2}}$

• Если выполнимо, то вектор является решением и удовлетворяет всем решениям.${\displaystyle Ax=b}$${\displaystyle z=A^{+}b}$${\displaystyle \|z\|_{2}\leq \|x\|_{2}}$

Этот результат легко распространяется на системы с несколькими правыми частями, когда евклидова норма заменяется нормой Фробениуса. Пусть ⁠ ⁠${\displaystyle B\in \mathbb {K} ^{m\times p}}$ .

• Если выполнимо, то матрица является решением и удовлетворяет всем решениям.${\displaystyle AX=B}$${\displaystyle Z=A^{+}B}$${\displaystyle \|Z\|_{\mathrm {F} }\leq \|X\|_{\mathrm {F} }}$

Используя псевдообратную матрицу и матричную норму , можно определить число обусловленности для любой матрицы:$${\displaystyle {\mbox{cond}}(A)=\|A\|\left\|A^{+}\right\|.}$$

Большое число обусловленности подразумевает, что задача нахождения решений методом наименьших квадратов для соответствующей системы линейных уравнений является плохо обусловленной в том смысле, что небольшие ошибки в записях ⁠ ⁠${\displaystyle A}$ могут привести к огромным ошибкам в записях решения. ^[29]

Взвешенная псевдообратная матрица ^[30] обобщает обратную матрицу Мура-Пенроуза между метрическими пространствами с весовыми матрицами в области и диапазоне. Эти веса являются тождественными для стандартной обратной матрицы Мура-Пенроуза, которая предполагает ортонормированный базис в обоих пространствах.

Для решения более общих задач наименьших квадратов можно определить обратные операторы Мура–Пенроуза для всех непрерывных линейных операторов ⁠ ⁠${\displaystyle A:H_{1}\rightarrow H_{2}}$ между двумя гильбертовыми пространствами ⁠ ⁠${\displaystyle H_{1}}$ и ⁠ ⁠${\displaystyle H_{2}}$ , используя те же четыре условия, что и в нашем определении выше. Оказывается, не каждый непрерывный линейный оператор имеет непрерывный линейный псевдообратный оператор в этом смысле. ^[29] Те, которые имеют, — это как раз те, область значений которых замкнута в ⁠ ⁠${\displaystyle H_{2}}$ .