Satz von Courant-Fischer

Der Satz von Courant-Fischer (auch Minimum-Maximum-Prinzip) ist ein mathematischer Satz aus der linearen Algebra, der eine variationelle Charakterisierung der Eigenwerte einer symmetrischen oder hermiteschen Matrix ermöglicht. Die Eigenwerte werden dabei als minimale beziehungsweise maximale Rayleigh-Quotienten der Vektoren aus Untervektorräumen mit bestimmten Dimensionen dargestellt. Der Satz ist nach den Mathematikern Richard Courant und Ernst Fischer benannt. Er dient unter anderem zur Eigenwertabschätzung und zur Analyse numerischer Eigenwertverfahren.

Satz

Ist $A\in {\mathbb {K} }^{n\times n}$ eine symmetrische Matrix (falls ${\mathbb {K} }=\mathbb {R}$) oder hermitesche Matrix (falls ${\mathbb {K} }=\mathbb {C}$) mit aufsteigend sortierten Eigenwerten $\lambda _{1}\leq \ldots \leq \lambda _{n}$ und bezeichnet $X_{i}$ die Menge der $i$-dimensionalen Untervektorräume von ${\mathbb {K} }^{n}$, dann hat der $i$-te Eigenwert von $A$ die Darstellung

$\lambda _{i}=\min _{X\in X_{i}}\max _{x\in X \atop x\neq 0}{\frac {\langle x,Ax\rangle }{\langle x,x\rangle }}=\max _{X\in X_{n-i+1}}\min _{x\in X \atop x\neq 0}{\frac {\langle x,Ax\rangle }{\langle x,x\rangle }}$,

wobei $\langle \cdot ,\cdot \rangle$ das reelle oder komplexe Standardskalarprodukt ist. Wird der Satz von Courant-Fischer mit absteigend sortierten Eigenwerten angegeben, dann vertauschen sich jeweils Minimum und Maximum.

Anschauliches Beispiel

Der Satz von Courant-Fischer charakterisiert die Eigenwerte einer reellen symmetrischen (3 × 3)-Matrix als Extrempunkte auf einem Ellipsoid

Für eine reelle symmetrische $(3\times 3)$-Matrix $A\in \mathbb {R} ^{3\times 3}$ hat die Menge

$\left\{Ax\in \mathbb {R} ^{3}\mid \langle x,x\rangle =1\right\}$

die Form eines Ellipsoids im dreidimensionalen Raum mit den Halbachsen $|\lambda _{1}|$, $|\lambda _{2}|$ und $|\lambda _{3}|$. Der Satz von Courant-Fischer charakterisiert nun die Eigenwerte von $A$ als Extrempunkte auf diesem Ellipsoid:

• Für den kleinsten Eigenwert $\lambda _{1}$ werden alle eindimensionalen Untervektorräume, also alle Ursprungsgeraden, betrachtet. Jede dieser Ursprungsgeraden schneidet das Ellipsoid an zwei diametral gegenüberliegenden Punkten. Von all diesen Punkten wird einer derjenigen mit dem kleinsten Abstand zum Ursprung ausgewählt.
• Für den zweitkleinsten Eigenwert $\lambda _{2}$ werden alle zweidimensionalen Untervektorräume, also alle Ursprungsebenen, betrachtet. Jede dieser Ursprungsebenen schneidet das Ellipsoid in einer Ellipse. Auf jeder dieser Ellipsen wird einer der Punkte mit dem größten Abstand zum Ursprung gesucht und von all diesen Punkten einer derjenigen mit dem kleinsten Abstand zum Ursprung ausgewählt.
• Für den größten Eigenwert $\lambda _{3}$ wird der ganze Raum betrachtet und einer der Punkte auf dem Ellipsoid mit dem größten Abstand zum Ursprung ausgewählt.

Beweis

Der Satz von Courant-Fischer stellt die Eigenwerte einer symmetrischen oder hermiteschen Matrix als minimale beziehungsweise maximale Rayleigh-Quotienten

$R_{A}(x)={\frac {\langle x,Ax\rangle }{\langle x,x\rangle }}$

dar. Im Folgenden wird eine obere und eine untere Schranke für den ersten Teil der Behauptung ermittelt.

Obere Schranke

Nachdem $A$ symmetrisch oder hermitesch ist, lässt sich eine Orthonormalbasis $\{x_{1},\ldots ,x_{n}\}$ aus Eigenvektoren jeweils zu den Eigenwerten $\lambda _{1},\ldots ,\lambda _{n}$ finden. Bezeichnet

$V_{i}=\operatorname {span} (x_{i},\ldots ,x_{n})$

die lineare Hülle derjenigen Eigenvektoren, deren Indizes mindestens $i$ sind. Der Schnitt von $V$ mit einem $i$-dimensionalen Untervektorraum $X\in X_{i}$ ist nichtleer, denn mit der Dimensionsformel gilt

$\dim(X\cap V_{i})=\dim X+\dim V_{i}-\dim(X+V_{i})=i+(n-i+1)-\dim(X+V_{i})\geq 1$.

Daher gibt es einen Vektor $v\in X\cap V_{i}$ mit $v\neq 0$, der eine Basisdarstellung

$v=c_{i}x_{i}+\ldots +c_{n}x_{n}$

mit Koeffizienten $c_{i},\ldots ,c_{n}\in {\mathbb {K} }$ besitzt. Für einen solchen Vektor $v$ gilt nun

$\langle v,Av\rangle =\lambda _{i}c_{i}^{2}+\ldots +\lambda _{n}c_{n}^{2}\geq \lambda _{i}(c_{i}^{2}+\ldots +c_{n}^{2})=\lambda _{i}\langle v,v\rangle$.

Für die Vektoren $x\in X$ eines beliebigen $i$-dimensionalen Untervektorraums $X\in X_{i}$ ist demnach der maximale Rayleigh-Quotient $R_{A}(x)\geq \lambda _{i}$ und demnach gilt auch

$\min _{X\in X_{i}}\max _{x\in X \atop x\neq 0}R_{A}(x)=\max _{x\in X \atop x\neq 0}R_{A}(x)\geq \lambda _{i}$.

Untere Schranke

Bezeichnet nun

$W_{i}=\operatorname {span} (x_{1},\ldots ,x_{i})$

die lineare Hülle derjenigen Eigenvektoren, deren Indizes höchstens $i$ sind. Für einen Vektor $w\in W_{i}$ mit $w\neq 0$ und der Darstellung

$w=c_{1}x_{1}+\ldots +c_{i}x_{i}$

gilt nun

$\langle w,Aw\rangle =\lambda _{1}c_{1}^{2}+\ldots +\lambda _{i}c_{i}^{2}\leq \lambda _{i}(c_{1}^{2}+\ldots +c_{i}^{2})=\lambda _{i}\langle w,w\rangle$.

Der maximale Rayleigh-Quotient aller Vektoren in $x\in W_{i}$ ist also $R_{A}(x)=\lambda _{i}$ und demnach gilt

$\min _{X\in X_{i}}\max _{x\in X \atop x\neq 0}R_{A}(x)\leq \max _{x\in W_{i} \atop x\neq 0}R_{A}(x)=\lambda _{i}$.

Durch Zusammenfassung der beiden Schranken folgt dann der erste Teil Behauptung. Die zweite Gleichung folgt analog durch Betrachtung von $-A$ und der entsprechenden Komplementärräume.

Verwendung

Eine direkte Konsequenz aus dem Satz von Courant-Fischer ist die Abschätzung

$\lambda _{\min }\leq R_{A}(x)\leq \lambda _{\max }$

für den kleinsten und dem größten Eigenwert einer symmetrischen oder hermiteschen Matrix $A$. Gleichheit gilt dabei jeweils genau dann, wenn $x$ ein Eigenvektor zum jeweiligen Eigenwert ist. Der kleinste und der größte Eigenwert kann demnach durch Minimierung beziehungsweise Maximierung des Rayleigh-Quotienten ermittelt werden.

Eine weitere Anwendung besteht in numerischen Stabilitätsaussagen für Eigenwertverfahren. Sind $A,B\in {\mathbb {K} }^{n\times n}$ zwei symmetrische oder hermitesche Matrizen mit aufsteigend sortierten Eigenwerten $\lambda _{1}(A)\leq \ldots \leq \lambda _{n}(A)$ und $\lambda _{1}(B)\leq \ldots \leq \lambda _{n}(B)$, dann gilt

$|\lambda _{i}(A)-\lambda _{i}(B)|\leq \|A-B\|$

für alle $i=1,\ldots ,n$, wobei $\|\cdot \|$ eine beliebige natürliche Matrixnorm ist. Wird demnach eine Matrix $A$ durch eine Matrix $B$ angenähert (deren Eigenwerte einfacher zu berechnen sind), dann ist der dadurch entstehende Fehler durch die Norm der Differenz der beiden Matrizen beschränkt.

Varianten

Von dem Satz von Courant-Fischer existiert auch folgende Variante zur Darstellung der Singulärwerte einer Matrix. Ist $A\in {\mathbb {K} }^{m\times n}$ eine (nicht notwendigerweise quadratische) Matrix mit aufsteigend sortierten Singulärwerten $\sigma _{1}\leq \ldots \leq \sigma _{\min\{m,n\}}$ und bezeichnet $\|\cdot \|$ die euklidische Norm, dann hat der $i$-te Singulärwert von $A$ die Darstellung

$\sigma _{i}=\min _{X\in X_{i}}\max _{x\in X \atop \|x\|=1}\|Ax\|=\max _{X\in X_{n-i+1}}\min _{x\in X \atop \|x\|=1}\|Ax\|$,

wobei $X_{i}$ wieder die Menge der $i$-dimensionalen Untervektorräume von ${\mathbb {K} }^{n}$ ist. Dieses Resultat folgt aus dem Satz von Courant-Fischer über die Darstellung der Singulärwerte von $A$ als Wurzeln der Eigenwerte von $A^{H}A$ beziehungsweise $AA^{H}$.

Verallgemeinerungen dieser Aussage existieren auch zur Darstellung des Spektrums selbstadjungierter Operatoren auf Hilberträumen, was zum Beispiel beim Rayleigh-Ritz-Prinzip eingesetzt wird.

Siehe auch

• Gerschgorin-Kreis

Literatur

• Harry Dym: Linear Algebra in Action. 2. Auflage. American Mathematical Society, 2013, ISBN 978-1-4704-0908-1. 
• Roger A. Horn: Topics in Matrix Analysis. Cambridge University Press, 1994, ISBN 0-521-46713-6. 
• Robert Schaback, Holger Wendland: Numerische Mathematik. Springer, 2006, ISBN 978-3-540-26705-8. 

Originalarbeiten:

• Ernst Fischer: Über quadratische Formen mit reellen Koeffizienten. In: Monatshefte für Mathematik und Physik. Band 16, 1905, S. 234–249. 
• Richard Courant: Über die Eigenwerte bei den Differentialgleichungen der mathematischen Physik. In: Mathematische Zeitschrift. Band 7, Nr. 1–4, 1920, S. 1–57.