Matrixnorm

Eine Matrixnorm ist in der Mathematik eine Norm auf dem Vektorraum der reellen oder komplexen Matrizen. Neben den drei Normaxiomen Definitheit, absolute Homogenität und Subadditivität wird bei Matrixnormen teilweise die Submultiplikativität als vierte definierende Eigenschaft gefordert. Submultiplikative Matrixnormen besitzen einige nützliche Eigenschaften, so ist beispielsweise der Spektralradius einer quadratischen Matrix, also der Betrag des betragsgrößten Eigenwerts, niemals größer als ihre Matrixnorm. Es gibt mehrere Möglichkeiten, Matrixnormen zu definieren, unter anderem direkt über eine Vektornorm, als Operatornorm oder über die Singulärwerte der Matrix. Matrixnormen werden insbesondere in der Linearen Algebra und der Numerischen Mathematik verwendet.

Grundbegriffe

Definition

Ist ${\mathbb {K} }$ der Körper der reellen oder komplexen Zahlen, so wird mit ${\mathbb {K} }^{m\times n}$ die Menge der reellen oder komplexen (m × n)-Matrizen

A={\begin{pmatrix}a_{11}&\cdots &a_{1n}\\\vdots &\ddots &\vdots \\a_{m1}&\cdots &a_{mn}\end{pmatrix}}

bezeichnet. Eine Matrixnorm $\|\cdot \|$ ist nun eine Norm auf dem Raum der Matrizen, das heißt eine Abbildung

\|\cdot \|\colon {\mathbb {K} }^{m\times n}\to \mathbb {R} _{+},\;A\mapsto \|A\|,

die einer Matrix eine nichtnegative reelle Zahl zuordnet und die für alle Matrizen $A,\,B\in {\mathbb {K} }^{m\times n}$ und Skalare $\alpha \in \mathbb {K}$ die folgenden drei Eigenschaften erfüllt:

$\|A\|=0\;\Rightarrow \;A=0$ (Definitheit)
$\|\alpha \cdot A\|=|\alpha |\,\|A\|$ (absolute Homogenität)
$\|A+B\|\leq \|A\|+\|B\|$ (Subadditivität oder Dreiecksungleichung)

Zusammen mit einer Matrixnorm ist der Raum der Matrizen ein normierter Vektorraum $({\mathbb {K} }^{m\times n},\|\cdot \|)$ . Da der Raum der Matrizen eine endliche Dimension besitzt, ist dieser normierte Raum auch vollständig und somit ein Banachraum.

Submultiplikativität

Teilweise wird als vierte definierende Eigenschaft gefordert, dass eine Matrixnorm submultiplikativ ist, das heißt, dass für zwei Matrizen $A\in {\mathbb {K} }^{m\times n}$ und $B\in {\mathbb {K} }^{n\times l}$

\|A\cdot B\|\leq \|A\|\cdot \|B\|

gilt. Bei nicht-quadratischen Matrizen ist diese Ungleichung genau genommen aus drei verschiedenen Normen zusammengesetzt. Ist eine Matrixnorm submultiplikativ, dann ist der Spektralradius der Matrix (der Betrag des betragsgrößten Eigenwerts) maximal so groß wie die Norm der Matrix. Der Raum der quadratischen Matrizen ${\mathbb {K} }^{n\times n}$ ist mit der Matrizenaddition und -multiplikation sowie einer submultiplikativen Matrixnorm eine normierte Algebra, insbesondere eine Banachalgebra. Es gibt aber auch Matrixnormen, die nicht submultiplikativ sind.

Verträglichkeit mit einer Vektornorm

Eine Matrixnorm $\|\cdot \|$ heißt verträglich oder kompatibel mit einer Vektornorm $\|\cdot \|_{V}$ , wenn für eine Matrix $A\in {\mathbb {K} }^{m\times n}$ und einen Vektor $x\in {\mathbb {K} }^{n}$ die Ungleichung

\|A\cdot x\|_{V}\leq \|A\|\cdot \|x\|_{V}

gilt. Auch diese Ungleichung ist bei nicht-quadratischen Matrizen genau genommen aus drei verschiedenen Normen zusammengesetzt. Verträglichkeit ist immer dann von Bedeutung, wenn Vektoren und Matrizen gemeinsam in Abschätzungen auftreten. Jede submultiplikative Matrixnorm ist zumindest mit sich selbst als Vektornorm verträglich, da jede Matrixnorm für eine Matrix bestehend aus nur einer Spalte auch eine Vektornorm ist.

Unitäre Invarianz

Eine Matrixnorm heißt unitär invariant, wenn sie invariant unter unitären Transformationen (im reellen Fall orthogonalen Transformationen) ist, das heißt wenn für alle Matrizen $A\in {\mathbb {K} }^{m\times n}$ und alle unitären Matrizen $U\in {\mathbb {K} }^{m\times m}$ und $V\in {\mathbb {K} }^{n\times n}$ .

\|UAV\|=\|A\|

gilt. Eine Matrixnorm ist genau dann unitär invariant, wenn sie sich als betrags- und permutationsinvariante Vektornorm (symmetrisches Eichfunktional) der Singulärwerte der Matrix $\sigma _{1},\ldots ,\sigma _{r},r=\min\{m,n\}$ durch

\|A\|=\|\,(\sigma _{1},\ldots ,\sigma _{r})^{T}\|

darstellen lässt.^[1]

Selbstadjungiertheit

Die zu einer Matrixnorm adjungierte Norm $\|\cdot \|^{H}$ ist für quadratische Matrizen $A\in {\mathbb {K} }^{n\times n}$ definiert als die Norm der adjungierten (im reellen Fall transponierten) Matrix $A^{H}$ , also

\|A\|^{H}:=\|A^{H}\|.

Eine Matrixnorm heißt selbstadjungiert, wenn sie invariant unter Adjungierung ist, das heißt wenn

\|A\|^{H}=\|A\|

gilt. Alle unitär invarianten Matrixnormen sind auch selbstadjungiert.^[2]

Eigenschaften

Äquivalenz

Alle Matrixnormen sind zueinander äquivalent, das heißt zu zwei beliebigen Matrixnormen $\|\cdot \|_{a}$ und $\|\cdot \|_{b}$ gibt es zwei positive Konstanten $c_{1}$ und $c_{2}$ , sodass für alle Matrizen $A\in {\mathbb {K} }^{m\times n}$

c_{1}\|A\|_{b}\leq \|A\|_{a}\leq c_{2}\|A\|_{b}

gilt. Diese Äquivalenz ist eine Folgerung daraus, dass in endlich-dimensionalen Vektorräumen Normkugeln immer kompakt sind. Eine Matrixnorm kann also durch eine andere Matrixnorm nach oben und nach unten abgeschätzt werden. Über die Größe der Konstanten wird dabei zunächst nichts ausgesagt, für viele Paare von Normen lassen sich die Konstanten aber explizit angeben.

Abschätzung der Eigenwerte

Ist eine Matrixnorm mit irgendeiner Vektornorm verträglich (also beispielsweise submultiplikativ), dann gilt für jeden Eigenwert $\lambda$ einer quadratischen Matrix $A\in {\mathbb {K} }^{n\times n}$

|\lambda |\leq \|A\|,

da dann ein zu diesem Eigenwert zugehöriger Eigenvektor $x\neq 0$ mit $Ax=\lambda x$ existiert, für den

|\lambda |\cdot \|x\|=\|\lambda x\|=\|Ax\|\leq \|A\|\cdot \|x\|

gilt, womit nach Division durch $\|x\|>0$ die Abschätzung folgt. Insbesondere gilt damit für jede submultiplikative Matrixnorm, dass der Spektralradius (der Betrag des betragsgrößten Eigenwerts) einer quadratischen Matrix niemals größer als ihre Norm ist.

Über Vektornormen definierte Matrixnormen

Indem alle Einträge einer Matrix untereinander geschrieben werden, kann eine Matrix $A\in {\mathbb {K} }^{m\times n}$ auch als entsprechend langer Vektor aus ${\mathbb {K} }^{m\cdot n}$ angesehen werden. Damit können Matrixnormen direkt über Vektornormen definiert werden, insbesondere über die p-Normen

\|A\|=\left(\sum _{i=1}^{m}\sum _{j=1}^{n}|a_{ij}|^{p}\right)^{1/p}.

Da die Summe zweier Matrizen und die Multiplikation einer Matrix mit einem Skalar komponentenweise definiert sind, folgen die Normeigenschaften der Matrixnorm direkt aus den entsprechenden Eigenschaften der zugrundeliegenden Vektornorm. Zwei dieser so definierten Matrixnormen haben eine besondere Bedeutung und Namen.

Gesamtnorm

Die Gesamtnorm einer Matrix basiert auf der Maximumsnorm im (m · n)-dimensionalen Raum und ist definiert als

\|A\|_{G}:={\sqrt {mn}}\cdot \max _{{i=1,\ldots ,m} \atop {j=1,\ldots ,n}}|a_{ij}|,

wobei im Gegensatz zur Maximumsnorm von Vektoren das betragsmaximale Matrixelement mit dem geometrischen Mittel aus Anzahl der Zeilen und Spalten der Matrix ${\sqrt {mn}}$ multipliziert wird. Durch diese Skalierung ist die Gesamtnorm submultiplikativ und für quadratische Matrizen mit allen p-Normen inklusive der Maximumsnorm verträglich. Die lediglich über das betragsmaximale Element definierte Norm

\|A\|_{M}:=\max _{{i=1,\ldots ,m} \atop {j=1,\ldots ,n}}|a_{ij}|

ist ein Beispiel für eine nicht submultiplikative Matrixnorm.

Frobeniusnorm

Die Frobeniusnorm einer Matrix entspricht der Euklidischen Norm im (m · n)-dimensionalen Raum und ist definiert als

\|A\|_{F}:={\sqrt {\sum _{i=1}^{m}\sum _{j=1}^{n}|a_{ij}|^{2}}}.

Die Frobeniusnorm ist submultiplikativ, mit der Euklidischen Norm verträglich, unitär invariant und selbstadjungiert.

Über Operatornormen definierte Matrixnormen

Eine Matrixnorm heißt von einer Vektornorm induziert oder natürliche Matrixnorm, wenn sie als Operatornorm abgeleitet ist, falls also

\|A\|=\max _{x\neq 0}{\frac {\|Ax\|}{\|x\|}}=\max _{\|x\|=1}\|Ax\|

gilt. Anschaulich entspricht eine so definierte Matrixnorm dem größtmöglichen Streckungsfaktor nach Anwendung der Matrix auf einen Vektor. Als Operatornormen sind solche Matrixnormen stets submultiplikativ und mit der Vektornorm, aus der sie abgeleitet wurden, verträglich. Die Operatornormen sind sogar unter allen mit einer Vektornorm verträglichen Matrixnormen jeweils die kleinsten.

Zeilensummennorm

Illustration der Zeilensummennorm einer (2 × 2)-Matrix

Die Zeilensummennorm ist die durch die Maximumsnorm induzierte Norm einer Matrix und durch

\|A\|_{\infty }:=\max _{\|x\|_{\infty }=1}\|Ax\|_{\infty }=\max _{i=1,\ldots ,m}{\sum _{j=1}^{n}|a_{ij}|}

definiert. Die Berechnung der Zeilensummennorm erfolgt also durch die Ermittlung der Betragssumme jeder Zeile und dann durch Auswahl des Maximums dieser Werte.

Spektralnorm

Die Spektralnorm ist die durch die Euklidische Norm induzierte Norm einer Matrix und durch

\|A\|_{2}:=\max _{\|x\|_{2}=1}\|Ax\|_{2}={\sqrt {\lambda _{\max }(A^{H}A)}}

definiert. Dabei ist $A^{H}$ die zu $A$ adjungierte Matrix (im reellen Fall transponierte Matrix) und $\lambda _{\max }(A^{H}A)$ der betragsmäßig größte Eigenwert des Matrixprodukts $A^{H}A$ . Die Spektralnorm ist unitär invariant und selbstadjungiert.

Spaltensummennorm

Die Spaltensummennorm ist die durch die Summennorm induzierte Norm einer Matrix und durch

\|A\|_{1}:=\max _{\|x\|_{1}=1}\|Ax\|_{1}=\max _{j=1,\ldots ,n}\sum _{i=1}^{m}|a_{ij}|

definiert. Die Berechnung der Spaltensummennorm erfolgt also durch die Ermittlung der Betragssumme jeder Spalte und dann durch Auswahl des Maximums dieser Werte.

Über Singulärwerte definierte Matrixnormen

Eine weitere Möglichkeit, Matrixnormen über Vektornormen abzuleiten, ist es eine Singulärwertzerlegung einer Matrix

A=U\Sigma V^{H}

in eine unitäre Matrix $U\in {\mathbb {K} }^{m\times m}$ , eine Diagonalmatrix $\Sigma \in {\mathbb {R} }^{m\times n}$ und eine adjungierte unitäre Matrix $V^{H}\in {\mathbb {K} }^{n\times n}$ zu betrachten. Die nichtnegativen, reellen Einträge $\sigma _{1},\ldots ,\sigma _{r},r=\operatorname {rang} (A),$ der Diagonalmatrix $\Sigma$ sind dann die Singulärwerte von $A$ und gleich den Quadratwurzeln der Eigenwerte von $A^{H}A$ . Die Singulärwerte werden dann in einen Vektor $\sigma =(\sigma _{1},\ldots ,\sigma _{r})$ notiert, dessen Vektornorm betrachtet wird. Die Spektralnorm einer Matrix entspricht dem maximalen Element dieses Vektors.

Schatten-Normen

Die Schatten-Normen, genauer Schatten- p -Normen, einer Matrix sind die p-Normen des Vektors der Singulärwerte $\sigma$ der Matrix und definiert als

\|A\|_{p}:=\|\sigma \|_{p}=\left(\sum _{j=1}^{r}(\sigma _{j})^{p}\right)^{1/p}.

Die Schatten-∞-Norm entspricht damit der Spektralnorm, die Schatten-2-Norm der Frobeniusnorm und die Schatten-1-Norm nennt man auch Spurnorm. Alle Schatten-Normen sind submultiplikativ, unitär invariant und selbstadjungiert. Die zu einer Schatten-p-Norm duale Norm ist die Schatten-q-Norm mit $(1/p)+(1/q)=1$ für $1<p,q<\infty$ .^[3]

Ky-Fan-Normen

Die Ky-Fan-Norm der Ordnung $k\in \{1,\ldots ,r\}$ einer Matrix ist die Summe ihrer ersten $k$ Singulärwerte und definiert als

\|A\|_{k}:=\sum _{j=1}^{k}\sigma _{j}=\sigma _{1}+\sigma _{2}+\cdots +\sigma _{k},

wobei die Singulärwerte der Größe nach fallend geordnet sind. Die erste Ky-Fan-Norm entspricht damit der Spektralnorm und die r-te Ky-Fan-Norm der Schatten-1-Norm. Alle Ky-Fan-Normen sind unitär invariant und selbstadjungiert.^[4]

Literatur

Gene Golub, Charles van Loan: Matrix Computations. 3. Auflage. Johns Hopkins University Press, 1996, ISBN 978-0-8018-5414-9.
Roger Horn, Charles R. Johnson: Matrix Analysis. Cambridge University Press, 1990, ISBN 978-0-521-38632-6.
Hans Rudolf Schwarz, Norbert Köckler: Numerische Mathematik. 8. Auflage. Vieweg & Teubner, 2011, ISBN 978-3-8348-1551-4.

Einzelnachweise

↑ Horn, Johnson: Matrix Analysis. Cambridge University Press, 1990, S. 437–440.
↑ Horn, Johnson: Matrix Analysis. Cambridge University Press, 1990, S. 309.
↑ Horn, Johnson: Matrix Analysis. Cambridge University Press, 1990, S. 441.
↑ Horn, Johnson: Matrix Analysis. Cambridge University Press, 1990, S. 445.

[1] Horn, Johnson: Matrix Analysis. Cambridge University Press, 1990, S. 437–440.

[2] Horn, Johnson: Matrix Analysis. Cambridge University Press, 1990, S. 309.

[3] Horn, Johnson: Matrix Analysis. Cambridge University Press, 1990, S. 441.

[4] Horn, Johnson: Matrix Analysis. Cambridge University Press, 1990, S. 445.

[1]

[2]

[3]

[4]