그람-슈미트 과정

그람-슈미트 직교정규화(Gram-Schmidt orthonormalizing)는 내적공간에서 유한 개의 선형 독립 벡터 집합을 직교정규기저 집합으로 변환하는 방법이다.

과정

선형 독립인 벡터 집합 $\{\mathbf {v} _{1},\mathbf {v} _{2},\cdots ,\mathbf {v} _{k}\}$을 기반으로, 직교정규기저 집합 $\{\mathbf {e} _{1},\mathbf {e} _{2},\cdots ,\mathbf {e} _{k}\}$을 생성한다. 먼저, 사영 연산자를 다음과 같이 정의한다.

$\mathrm {proj} _{\mathbf {u} }\,(\mathbf {v} )={\langle \mathbf {u} ,\mathbf {v} \rangle \over \langle \mathbf {u} ,\mathbf {u} \rangle }\mathbf {u}$

이 연산은 벡터 $\mathbf {v}$를 $\mathbf {u}$에 대해 사영시킨다.

먼저 각 벡터 $\mathbf {v} _{i}$를 $\mathbf {u} _{1},\mathbf {u} _{2},\cdots ,\mathbf {u} _{i-1}$와 직교적인 벡터 $\mathbf {u} _{i}$으로 만든다. 구체적으로는 다음과 같은 연산을 거친다.

$\mathbf {u} _{1}=\mathbf {v} _{1}$

$\mathbf {u} _{2}=\mathbf {v} _{2}-\mathrm {proj} _{\mathbf {u} _{1}}\,(\mathbf {v} _{2})$

$\mathbf {u} _{3}=\mathbf {v} _{3}-\mathrm {proj} _{\mathbf {u} _{1}}\,(\mathbf {v} _{3})-\mathrm {proj} _{\mathbf {u} _{2}}\,(\mathbf {v} _{3})$

$\vdots$

$\mathbf {u} _{k}=\mathbf {v} _{k}-\sum _{j=1}^{k-1}\mathrm {proj} _{\mathbf {u} _{j}}\,(\mathbf {v} _{k})$

이렇게 생성된 $\{\mathbf {u} _{1},\mathbf {u} _{2},\cdots ,\mathbf {u} _{k}\}$ 집합은 직교적이다. 이제, 각 벡터를 정규화시키면 직교정규기저 집합이 얻어진다.

$\mathbf {e} _{i}={\frac {\mathbf {u} _{i}}{\|\mathbf {u} _{i}\|}}$