내적 공간에서 켤레전치행렬의 성질을 계속 다루고 있다. 이전에 대각화가능을 진단하는 법과 대각화의 중요성에 대해 이야기를 했었다. 이때 대각화가능성은 "연산자의 고유벡터로 이루어진 기저가 존재한다"는 명제를 통해 점검할 수 있었고, 대각화가능한 행렬에 대해 쉽게 행렬식 등을 구할 수 있어 유용함을 알았다. 내적 공간에서 대각화에 대해 좀 더 자세히 살펴보도록 하자.

1. 정규연산자

우선 보조정리 하나를 짚고 넘어가자.

보조정리 유한차원 내적공간 $V$의 선형연산자 $T$를 생각하자. $T$가 고유벡터를 포함하면 $T^*$도 고유벡터를 포함한다.

증명
고유값 $\lambda$에 대응하는 고유벡터를 $v$라고 하자. 임의의 $x \in V$에 대해 다음이 성립함은 자명하다.

위에서 보듯이 선형연산자 $T$와 $T^*$가 동일한 고유값을 가지는 것이 아니라 켤레쌍을 가지는 모습을 보이고 있다.
또한, $0 = <v, (T^* - \bar{\lambda}I)(x)>$이므로 $v$는 $T^* -\bar{\lambda}I$와 직교하는 것을 알 수 있다. 이때 $T^* -\bar{\lambda}I$는 전사가 아니므로, 단사함수도 아니다. 이는 $T^* -\bar{\lambda}I$가 점공간이 아닌 영공간을 가진다는 의미이므로, 이때의 영공간에 속하는 0이 아닌 임의의 벡터는 고유값 $\bar{\lambda}$에 대응하는 고유벡터가 된다.

정리 1. 슈어의 정리
유한차원 내적공간 $V$의 선형연산자 $T$를 생각하자. $T$의 특성다항식이 완전히 인수분해될 때, $[T]_\gamma$가 상삼각행렬이 되도록 하는 정규직교기저 $\gamma$가 존재한다.

증명
$T$의 특성다항식이 완전히 인수분해 된다는 뜻은 $[T]_\beta$가 상삼각행렬이 되도록 하는 순서기저 $\beta = \{w_1, w_2, dots , 2_n\}$은 항상 존재한다는 의미를 가지고 있다. 이때 $\beta$에 그람-슈미트 직교화를 통해 직교기저$\beta' =\{v_1, v_2,\dots, v_n\}$을 구할 수 있을 것이다. 이제 두 집합을 다음과 같이 정의해보자.

그람-슈미트 직교화는 공간을 보존하는 직교기저를 구하는 것이므로 $span(S_k) = span(S'_k)$일 것이다. 이때, 모든 $k$에 대하여 $T(w_k) \in span(S_k)$이므로 $T(W_k) \in span(S_k) = span(S'_k)$일 것이다. 이는 결국 $[T]_\beta'$가 상삼각행렬임을 의미하게 된다.
이와 더불어 $1 \leq i \leq n$에 대하여 $z_i = {1 \over ||v_i||}v_i, \gamma = \{z_1, z_2, \dots, z_n\}$이라 하자. 이렇게 처리하면 $\gamma$는 $V$의 정규직교기저이고, $[T]_\gamma$는 상삼각행렬이 될 것이다.

이제 정리를 해보면, 유한차원 내적공간 $V$에서 선형연산자 $T$의 고유벡터로 이루어진 정규직교기저 $\beta$를 찾았다면, $[T]_\beta$는 대각행렬이 되고, $[T^*]_\beta = [T]_\beta^*$ 역시 대각행렬이 된다. 대각행렬은 서로 순서를 뒤집어 곱해도 동일하므로다음 결론에 도달하게 된다.

$V$가 $T$의 고유벡터로 이루어진 정규직교기저를 가지면 $TT^* = T^*T$
이다.

정의 1. 내적공간 $V$와 선형연산자 $T$를 생각하자. $TT^* = T^*T$인 선형연산자 $T$를 정규연산자라 하며, $AA^* = A^*A$를 만족하는 $n \times n$ 행렬 $A$를 정규행렬이라 한다.

이제 정규연산자가 무엇인지 알게 되었다. 그 성질에 대해 살펴보자.

정리 2. 내적공간 $V$와 정규연산자 $T$에 대해 다음이 성립한다.
1. 모든 $x \in V$에 대하여 $||T(x)|| = ||T^*(x)||$이다.
2. 임의의 $c \in F$에 대하여 $T -cI$는 정규연산자이다.
3. 고유값 $\lambda$에 대응하는 고유벡터 $x$는 고유값 $\bar{\lambda}$에 대응하는 고유벡터이기도 하다. 즉, $T(x) = \lambda x$이면, $T^*(x) = \bar{\lambda} x$이다.
4. 고유벡터 $x_1, x_2$에 대응하는 고유값을 각각 $\lambda_1, \lambda_2$라 할때, $\lambda_1 \neq \lambda_2$이면, $x_1$과 $x_2$는 직교한다.

증명
1.

2. $\begin{aligned} (T - cI)(T-cI)^* &= (T-cI)(T^*-cI) = TT^* -cT^*-cT + c^2I\\ &= T^*T -cT^*-cT +c^2I = (T-cI)^*(T-cI) \end{aligned}$
3. 어떤 $x \in V$에 대하여 $T(x) = \lambda x$라 하자. 이때 $U = T -\lambda I$라 하면, $U(x) =0$인 정규연산자이다. 이때 다음과 같은 식이 성립한다.
   $0 = ||U(x)|| = ||U^*(x)||=||T^*-\bar{\lambda}I|| = ||T^*(x) -\bar{\lambda}x$
   결국 $T^*(x) = \bar{\lambda} x$로 $x$는 $T^*$의 고유벡터가 된다.
4. 고유벡터 $x_1, x_2$에 대응하는 고유값을 $\lambda_1, \lambda_2$라 하자. 이때 다음이 성립한다.
   $\begin{aligned} \lambda_1<x_1, x_2> &= <\lambda_1 x_1, x_2> = <T(x_1), x_2> = <x_1, T^*(x_2)>\\ &= <x_1, \bar{\lambda}_2x_2> =\lambda_2<x_1, x_2> \end{aligned}$
   이때 $\lambda_1 \neq \lambda_2$이므로 $<x_1, x_2> = 0$이 성립한다.

정규연산자의 필요충분조건은 다음과 같이 정리할 수 있다.

정리 3. 유한차원 복소내적공간 $V$의 선형연산자$T$를 생각하자. $T$가 정규연산자이기 위한 필요충분조건은 $T$의 고유벡터로 이루어진 정규직교기저가 존재하는 것이다.

증명
$T$가 정규연산자라 한다면, $T$의 특성다항식은 완전히 인수분해 되며 슈어의 정리에 의해 $[T]_\beta = A$가 상삼각행렬이 되도록 하는 정규직교기저 $\beta = \{v_1, v_2, \dots, v_n\}$을 얻을 수 있을 것이다. 이때, $A$가 상ㅇ삼각행렬이기 때문에, $v_1$은 $T$의 고유벡터이다.

이제 $v_1, v_2, \dots, v_{k-1}$이 고유벡터일 때, $v_k$도 고유벡터임을 보이면 된다.
임의의 $j<k$에 대하여 고유벡터 $v_j$에 대응하는 고유값을 $\lambda_j$라 하자. 이때 $T^*(v_j) = \lambda_jv_j$이다. 이때 $A$는 상삼각행렬이므로 $T(v_k)$는 다음과 같을 것이다.

이때 $A_{jk}$는 다음과 같다.

이때 $T(v_k) = A_{kk}v_k$이고, $v_k$는 고유벡터가 되는 것이다.

정의 내적공간 $V$의 선형연산자 $T$를 생각하자.

• $T = T^*$인 $T$를 자기수반연산자 혹은 에리미트 연산자(Hermitian)이라 한다.
• $A = A^*$인 $n \times n$ 행렬 $A$를 자기수반행렬 또는 에르미트 행렬이라 한다.

정규직교기저 $\beta$에 대하여 $T$가 자기수반연산자이기 위한 필요충분조건은 $[T]_\beta$가 자기수반생렬인 것이다. 이때 만약 행렬 $A$가 실행렬이라면 조건이 간소화되어 대칭이면 충분하다. 이는 후에 SVD 등에서 유용하게 쓰이는 성질이 된다. 또한 실내적공간의 선형연산자는 실수인 고유값만 가지게 된다

보조정리 유한차원 내적공간 $V$의 자기수반연산자 $T$에 대하여 다음이 성립한다.
1. $T$의 모든 고유값은 실수이다.
2. $V$가 실내적공간이라면, $T$의 특성다항식은 완전 인수분해 된다.

증명
1. $x \neq 0$에 대하여 $T(x) = \lambda x$가 성립한다고 가정해보자. 이때 자기수반연산자는 정규연산자이므로, $\lambda x = T(x) = T^*(x) = \bar{\lambda}x$일 것이다. 이때, $\lambda = \bar{\lambda}$이므로 $\lambda$는 실수다.

2. $n = dim(V)$라고 하자. $V$의 정규직교기저 $\beta$와 $A = [T]_\beta$를 생각하자. $A$는 자기수반행렬일 때, $C^n$의 선형연산자 $T_A$를 다음과 같이 정의해보자.
   $모든 \;\; x \in C^n에\;\;대하여\;\; T_A(x) = Ax$
   $C^n$의 정규직교기저 $\gamma$에 대하여 $[T_A]_\gamma = A$이므로 $T_A$는 자기수반연산자이다. 이때 1에 따라 $T_A$의 고유값은 실수이고, 특성다항식은 $t-\lambda$의 곱으로 완전히 인수분해 된다. 모든 $\lambda$가 실수이므로 특성다항식은 $R$에서 완전히 인수분해된다.
   정리하면 $T_A$는 $A$의 특성다항식과 같은 특성다항식을 가지고 이는 $T$ 역시 동일하므로 $T$의 특성다항식은 완전히 인수분해 된다.

최종적인 정리 하나를 짚고 마무리하도록 하자.

정리 4. 유한차원 실내적공간 $V$의 선형연산자 $T$에 대하여 $T$가 자기수반연산자이기 위한 필요충분조건은 $T$의 고유벡터로 이루어진 정규직교기저 $\beta$가 존재하는 것이다.

증명
$T$를 자기수반연산자라 하자. 슈어의 정리를 사용하면 $A = [T]_\beta$가 상삼각행렬이 되도록 하는 정규직교기저 $\beta$를 얻을 수 잇다. 이때 다음 식이 성립하게 된다.

이때 $A$와 $A^*$모두 상삼각행렬이기 때문에, $A$는 대각행렬이 된다. 그러므로 $\beta$는 $T$의 고유벡터로 이루어지게 된다.