0. 직합

직합이란 공간을 간단한 부분공간으로 분해하는 방법 혹은 부분공간을 하나의 공간으로 합치는 방법이다.

정의 벡터공간 $V$의 부분공간 $W_1, W_2, \dots, W_k$에 대하여 다음 집합을 부분공간의 합이라 한다.

이때 벡터공간 $V$를 $W_1 + W_2 + \dots + W_k$로 표현할 수 있다.

이때 이러한 부분공간의 표현은 유일하지 않다. 즉, 다양한 부분공간의 조합으로 합을 표현할 수 있다. 하지만 다음 정의를 이용하면 유일한 부분공간의 합이 가능하다.

정의 벡터공간 $V$의 부분공간 $W_1, W_2, \dots, W_k$을 생각하자. 모든 $i = 1, 2, \dots, k$에 대하여 $W_i \subseteq W$이고 다음을 만족하는 $W$를 부분공간 $W_1, W_2, \dots, W_k$의 직합(direct sum)이라 하며 $W = W_1 \oplus W_2 \oplus \dots \oplus W_k$로 표기한다.
$W = \sum^k_{i = 1}W_i$이고, 각 $j(i \leq j \leq k)$에 대하여 $W_j \cap \sum_{j \neq i}W_i = \{0\}$

즉 각 부분집합이 독립적이면서 부분집합의 합이 본 공간이 될 경우 이를 직합이라 한다.

1. 정사영

우선 사영에 대해 이야기를 해보자.

정의 벡터공간 $V$에서 $V = W_1 \oplus W_2$일 때, 혹은 모든 $x \in V$에 대하여 $x =x_1 +x_2 (x_1 \in W_1, x_2 \in W_2)$일 때 $T(x) = x_1$인 선형연산자 $T$를 $W_2$에 대항 $W_1$위로의 사영이라 한다.

또한 이전에 행렬의 공간에 대해 이야기 하면서 $R(T) = W_1 = \{x \in V:T(x) = x\}, N(T) = W_2$이므로, $V = R(T) \oplus N(T)$라 이야기하여도 문제가 없음을 알 수 있다. 이때 $T$가 사영이기 위한 필요충분조건은 $T = T^2$이어야 한다.

주의해야할 점은 $V = W_1\oplus W_2 = W_1 \oplus W_3$라 하여서 $W_2 = W_3$를 보장하지 않는다는 것이다. 즉, $W_1$은 $T$를 유일하게 결정하지 않는다. 하지만 이제 다룰 정사영은 치역에 의해 유일하게 결정되는 연산자이다.

정의 내적공간 $V$와 사영 $T : V \to V$를 생각하자. $R(T)^\bot = N(T), N(T)^\bot = R(T)$를 만족하는 $T$를 정사영(orthogonal projection)이라 한다.

만약 $V$가 유한차원일 경우 위 정의에서 사용된 수식 중 하나만 성립해도 될 것이다. 왜냐하면 $R(T)^\bot = N(T)$이면 자동으로 $R(T) = R(T)^{\bot \bot} = N(T)^\bot$으로 성립하게 되기 때문이다. 이 반대역시 당연히 성립하게 된다.

정사영과 직교연산자가 비슷해보일 수도 있는데, 엄연히 다른 개념이다.

위 그림에서 $T$는 $W$ 위로의 정사영이지만 직교연산자는 될 수 없다. 직교연산자는 놈을 보존하는데 $||T(v)|| \neq ||v||$이기 때문이다.

이제 정사영이 유일함을 보이자.
증명
내적공간 $V$의 유한차원 부분공간 $W$를 생각하자. 이때 $T : V \to V$를 $T(y) = u$로 표기하자. 이때 $T$가 $W$로의 정사영이라면, 유일한 정사영이다. 만약 $T$와 $U$가 모두 정사영이라면 $R(T) = W =R(U)$이어야 한다. 이는 $N(T) = R(T)^\bot = R(U)^\bot = N(U)$로 된다. 이때 사영은 치역과 영공간에 의해 유일함이 결정되므로 $T =U$가 된다. 즉, $T$가 $W$로의 $V$의 정사영일 때 이는 유일하다.

1.1 사영과 정사영

이제 사영과 정사영의 차이점에 집중해보자.

위에서 사용된 상황을 그대로 사용하자. $V = R^2, W = span\{(1, 1)\}$일 때, $U$와 $T$가 위와 같다. 이때 $T(v)$는 $v$에서 $y = x$에 내린 수선의 발이고, $U(a_1, a_2) = (a_1, a_1)$이다. $T$는 그림에서 볼 수 있듯이 $W$로의 $V$의 정사영이고, $U$는 $W$로의 사영이다. 이때 $v - T(v) \in W^\bot$이지만, $v - U(v) \not \in W^\bot$이다.

좀 더 자세히 이야기하면, $T(v)$는 $v$가 $W$와 가장 가까운 점을 이은 $W$로의 최적근사이다. 즉, $w \in W, ||w-v|| \geq ||T(v) - v||$로 표현할 수 있다. 이는 선형회귀나 차원 축소 등에서 중요한 성질로 사용된다.

이제 정사영의 가장 중요한 특징을 보도록 하자.

정리 내적공간 $V$와 선형연산자 $T$를 생각하자. $T$가 정사영이기 위한 필요충분조건은 $T$의 수반연산자 $T^*$가 존재하고 $T^2 = T = T^*$가 성립하는 것이다.

증명
$T$가 정사영이라 가정하자. $T$는 당연히 사영이므로 $T^2 = T$를 만족할 것이다. 이때, $T^*$가 존재하면서 $T = T^*$만 보이면 된다.

$T$가 정사영이므로 $V = R(T) \oplus N(T), R(T)^\bot = N(T)$가 된다. $x, y \in V$에 대하여 $x = x_1 + x_2, y = y_1 + y_2$로 표현할 수도 있을 것이다($x_1, y_1 \in R(T), x_2, y_2 \in N(T)$). 이제 식을 정리하여 다음이 가능하다.

즉 모든 $x, y \in V$에 대하여 $<x, T(y)> = <T(X), y>$이므로 $T^*$가 존재하고 $T = T^*$임을 알 수 있다.

이제 $T^2 = T = T^*$임을 보이자.
$T^2 = T = T^*$이라 가정하자. 이는 곧 $T$가 사영임을 의미한다. 이제 $R(T) = N(T)^\bot, R(T)^\bot = N(T)$임을 보이자. 이를 통해 정사영임을 밝힐 수 있을 것이다. $x \in R(T), y \in N(T)$에 대하여 $x = T(x) = T^*(x)$이고 다음이 성립한다.

즉, $x \in N(T)^\bot$이므로 $R(T) \subseteq N(T)^\bot$이 성립한다.

이제 $y \in N(T)^\bot$에 대하여 $y \in R(T)$를 보이자. 즉, $T(y) = y$면 된다.

즉, $y-T(y) = 0$이 될 것이다. 또한, $y = T(y) \in R(T), R(T) = N(T)^\bot$이 될 것이다.

자 이제 조금 정리를 해보자. 이제 우리는 $R(T)^\bot = N(T)^{\bot \bot} \supseteq N(T)$임을 알 수 있다. 이제 $x \in (T)^\bot$이라 가정하면, 임의의 $y \in V$에 대하여 $<T(x), y> = <x, T^*(y)> = <x, T(y)> = 0$이 성립한다. 결과적으론 $T(x) = 0, x \in N(T)$임을 보이게 되는 것이다.즉, $R(T)^\bot = N(T)$이다.

이제 대각화와 연결해보도록 하자. 유한차원 내적공간 $V$, 부분공간 $W$, $W$로의 $V$의 정사영 $T$를 생각하자. $\{v_1, v_2, \dots, v_k\}$가 $W$의 기저가 되도록 $V$의 정규직교기저 $\beta = \{v_1, v_2, \dots, v_n\}$을 잡으면, $[T]_\beta$는 첫 k개 대각성분이 1이고, 나머지 성분은 0인 대각행렬 꼴이 된다. 즉, 다음과 같은 모양이다.

$U$가 $W$로의 임의의 사영일 때, $[U]_\gamma$가 위의 꼴이 되도록하는 $V$의 기저 $\gamma$를 잡을 수 잇지만, $\gamma$가 정규직교인지 보장할 수는 없게 된다.

2. 스펙트럼 정리

자 이제 거의 다 왔다.

정리 스펙트럼 정리
유한차원 $F$-내적공간 $V$의 선형연산자 $T$의 서로 다른 고유값을 $\lambda_1, \lambda_2, \dots, \lambda_k$라 하자. $F = C$이면, $T$는 정규연산자, $F = R$이면 $T$가 자기수반연산자라 가정하자. 각 $i(1 \leq i \leq k)$에 대하여 고유값 $\lambda_i$에 대응하는 고유공간을 $W_i$라 표기하자. $W_i$로의 $V$의 정사영을 $T_i$라 할 때 다음이 성립한다.
1. $V = W_1 \oplus W_2 \oplus \dots \oplus W_k$
2. $j \neq i$에 대하여 부분공간 $W_j$의 직합을 $W_i'$로 표기하자. $W_i^\bot = W_i'$이다.
3. $1 \leq i, j \leq k$에 대하여 $T_iT_j = \delta_{ij}T_j$이다.
4. $I = T_1 + T_2 + \dots + T_k$
5. $T = \lambda_1T_1 +\lambda_2T_2 + \dots + \lambda_kT_k$

증명

1. $T$가 정규연산자 혹은 자기수반연산자이기 위한 필요충분조건은 정규직교기저 $\beta$가 존재하는 것이다. 이를 이용하면 $T$는 대각화가능하고, 결국 $V = W_1 \oplus W_2 \oplus \dots \oplus W_k$로 나타낼 수 있다.

2. $i \neq j$에 대해 $x \in W_i, y \in W_j$라 해보자. 이때, 정규연산자의 성질에 의해 $<x , y> = 0$이 되고, $W_i' \subseteq W_i^\bot$이 된다. 이때 $W_i'$의 차원은 다음과 같다.

   $dim(W_i') = \sum_{i \neq j}dim(W_i) = dim(V) - dim(W_i)$

   이때, $dim(W_i^\bot) + dim(W_i) = dim(V)$이므로 $dim(W^\bot_i) = dim(V) - dim(W_i)$가 성립한다. 즉, $W_i' = W^\bot_i$이다.

3. 각 고유 공간은 서로 직교한다. 이를 이용하면 $i \neq j$일 때 $x \in V$에 대하여 $<T_1(x), T_2(x)> = 0$임을 알 수 있다. 반대로 $i =j$라면, $<T_1(x), T_2(x)> = 1$이다.

4. $T_i$가 $W_i$로의 $V$의 정사영이기 때문에, $N(T_i) = R(T_i)^\bot = W^\bot_i = W'_i$가 된다. 즉, $x \in V$에 대하여 x = x_1 + x_2 + x_3 + \dots + x_k$이다.

5. $x \in V$를 $x = x_1 + x_2 + \dots +x_k$라 표기하자. 이때 다음이 성립함을 보일 수 있다.

   $\begin{aligned} T(x) &= \sum^k_{i =1}T(x_i) \\ &= \sum^k_{i=1}\lambda_ix_i\\ &= \sum^k_{i =1}\lambda_iT_i(x)\\ &= (\sum^k_{i=1}\lambda_iT_i)(x) \end{aligned}$

   즉 선형연산자 $T$는 $T$의 고유값과 그 고유값에 대응하는 정사영의 선형결합으로 표현할 수 있다. 이를 스펙트럼 분해라고 한다.

이때 $T$의 고유값으로 이루어진 집합 $\{\lambda_1, \lambda_2, \dots, \lambda_k\}$를 $T$의 스펙트럼이라 한다. 네번째 성질인 $I = T_1 + T_2 + \dots + T_k$를 $T$로 유도된 항등연산자 분해라 하고, 다섯번째 성질에서 나오는 $T = (\sum^k_{i=1}\lambda_iT_i)$를 $T$의 스펙트럼 분해라고 한다. 만약 고유값의 배열순서를 무시한다면 $T$의 스펙트럼 분해는 유일하다고 할 수 있다.

$W_i$의 정규직교기저의 합집합을 $\beta$, 차원을 $m_i$이라 하자. 이때 $[T]_\beta$는 다음과 같은 꼴이 된다.

즉, $[T]_\beta$는 중복도가 $m_i$인 고유값 $\lambda_i$를 대각성분으로 하는 대각행렬이 된다. $T$의 스펙트럼 분해가 $\lambda_1T_1 + \lambda_2T_2 + \dots \lambda_kT_k$라 하면, 어떤 다항식 $g$에 대해 $g(T) = g(\lambda_1)T_1 + g(\lambda_2)T_2 + \dots g(\lambda_k)T_k$가 성립하게 된다.

마지막으로 네가지 따름 정리를 살펴보도록 하자.

따름정리 1
$F = C$일 때, $T$가 정규연산자이기 위한 필요충분조건은 적절한 다항식 $g$에 대하여 $T^* = g(T)$인 것이다.

증명
$T$가 정규연산자라 가정하고, $T$의 스펙트럼 분해를 $T = \sum^k_{i=1}\lambda_iT_i$라고 하자. 이때 이 식의 양변에 수반연산자를 취하면, $T_i$는 자기수반연산자이기 때문에, $T^* = \sum^k_{i=1}\bar{\lambda_i}T_i$가 될 것이다. 이때 라그랑주 보간법을 사용하여 $1 \leq i \leq k$에 대해 $g(\lambda_i) = \bar{\lambda_i}$인 다항식 $g$를 찾을 수 있다. 이를 이용해 다음 식이 성립하게 된다.

이제 $T$가 정규연산자라면 $T^* = g(T)$인 적절한 다항식이 존재함을 알았다. 역으로 어떤 다항식 $g$에 대하여 $T^* = g(T)$라 가정하면, $T$는 $T$에 대한 임의의 다항식과 가환적이기 때문에, $T$는 $T^*$가환적이다. 즉, $T$는 정규연산자라 볼 수 있다.

따름정리 2
$F = C$일 때, $T$가 유니타리 연산자이기 위한 필요충분조건은 $T$가 정규연산자이고, $T$의 모든 고유값 $\lambda$가 $|\lambda| = 1$인 것이다.

증명
$T$가 유니타리 연산자라면 자연스레 정규연산자이다. 유니타리 연산자의 성질로 인해 $T$의 모든 고유값은 절대값이 1임을 간단히 알 수 있다.

또한, $T$의 스펙트럼 분해를 $T = \sum^n_{i=1}\lambda_iT_i$라고 하자. 이때 $T$의 고유값의 절대값이 모두 1이라면 다음이 성립한다.

이때 정규연산자이므로 $T^2 = T$이고, 다른 고유값에 대응하는 연산자와 직교한다는 사실을 명심하자.
위의 결과로도 $T$가 유니타리 연산자임을 확인할 수 있다.

따름정리 3
$F =C$일 때, $T$가 자기수반연산자이기 위한 필요충분조건은 $T$가 정규연산자이고, $T$의 모든 고유값이 실수인 것이다.

증명
$T$가 정규연산자이고 모든 고유값이 실수라 가정해보자. $T$의 스펙트럼 분해를 $T = \sum^n_{i=1} \lambda_iT_i$라 하면, 다음이 성립할 것이다.

그러므로 $T$는 자기수반 연산자이다.

역으로 $T$가 자기수반연산자라 가정하면, 자연스레 $T$는 정규연산자일 것이다. 또한, 이때 자기수반연산자의 성질에 의해 $T$의 고유값은 모두 실수일 것이다.

따름정리 4
$T$의 스펙트럼 분해가 $T = \sum^n_{i=1}\lambda_iT_i$이면, 각 $T_j$는 $T$에 대한 다항식이다.

증명
$g_j(\lambda_i) = \delta_{ij}(1 \leq j \leq k)$가 되도록 다항식 $g_j$를 잡아보자. 이때 다음과 같은 식이 성립할 것이다.