지금까지 수반연산자와 켤레복소수의 유사성을 다뤘다. 이제 내적공간에서 길이를 보존하는 선형연산자에 대해 다뤄보도록하자.

1. 유니타리 연산자와 직교연산자

저의 유한차원 $F$-내적공간 $V$의 선형연산자 $T$를 생각하자.

• $F = C$일 때, 모든 $x \in V$에 대하여 $||T(x)|| =||x||$인 $T$를 유니타리 연산자라 한다.
• $F = R$일 때, 모든 $x \in V$에 대하여 $||T(x)|| = ||x||$인 $T$를 직교연산자라 한다.

선형연산자의 성질은 다음과 같다.

정리 1. 유한차원 내적공간 $V$의 선형연산자 $T$에 대하여 다음 명제는 서로 동치이다.
1. $T^*T = 1$
2. $TT^* = 1$
3. 모든 $x, y \in V$에 대하여 $<T(x), T(y)> = <x, y>$이다.
4. $V$의 정규직교기저 $\beta$에 대하여 $T(\beta)$도 $V$의 정규직교기저이다.
5. $T(\beta)$가 $V$의 정규직교기저가 되도록 하는 정규직교기저 $\beta$가 존재한다.
6. 모든 $x \in V$에 대하여 $||T(x)|| = ||x||$이다.

이에 대해 자기수반연산자와 관련된 보조정리가 있다.

보조정리 내적공간 $V$의 자기수반연산자 $U$를 생각하자. 모든 $x \in V$에 대하여 $<x, U(x)> = 0$이면 $U = T_0$이다.

증명
임의의 $x \in V$에 대하여 다음이 성립한다.

즉, 임의의 $x \in V$에 대하여 $||U(x)|| = 0$이므로, $U = T_0$이다.

이제 선형연산자의 성질에 대해 조금 이야기해보도록 하자.
3번 성질의 증명은 다음과 같다.

증명
3. $x, y \in V$라 하자. $<x, y> = <T^*T(x), y> = <T(x),T(y)>$로 성립한다.

이와 같은 성질을 연산자 $T$는 내적을 보존한다 라고 표현한다.

또한, 6번 성질은 다음과 같이 증명할 수 있다.

증명
$x \in V, \beta = \{v _1, v_2, \dots, v_n\}$이라 하자. 적절할 $a_i$에 대하여 $x = \sum^n_{i=1}a_iv_i$이다. 이때, $\beta$가 정규직교이기 때문에, 다음이 성립한다.

위와 같은 연산을 $T(x) = \sum^n_{i=1}a_iT(v_i)$에 적용하자. 이때, $T(\beta)$가 정규직교임을 이용하면 다음과 같은 식이 성립할 것이다.

즉, 자기수반연산자 $T$에 대해$||T(x)|| = ||x||$이 성립한다.

6번 성질은 $T$가 놈을 보존한다고 표현할 수 있다.

위 두가지 성질과 더불어 아주 중요한 성질은 유니타리 연산자 혹은 직교연산자의 정의에 따라 모든 고유값의 절대값이 1이라는 점이다.

따름정리 1. 유한차원 실내적공간 $V$의 선형연산자 $T$를 생각하자. $V$가 절대값이 1인 고유값에 대응하는 고유벡터로 이루어진 정규직교기저를 포함하기 위한 필요충분조건은 $T$가 자기수반 직교연산자인 것이다.

증명
모든 $i$에 대하여 $V$에 $T(v_i) = \lambda_iv_i, |\lambda_i| =1$인 정규직교기저 $\{v_1, v_2, \dots, v_n\}$가 있다고 하자. 이때, $T$는 실내적공간에 대해 정의되므로 자기수반이다. 각 $i$에 대하여 $(TT^*) = T(\lambda_iv_i) = \lambda_i\lambda_ivi = \lambda_i^2v_i = v_i$이다. 이에 따라 $TT^* = I$이고, 직교연산자의 성질에 의해 $T$는 직교연산자가 된다.

반대로 $T$가 자기수반연산자라 가정하면, $V$는 모든 $i$에 대하여 $T(v_i) = \lambda_iv_i$인 정규직교기저 $\{v_1, v_2, \dots, v_n\}$을 포함한다. $T$가 직교연산자이기 때문에, 다음 식이 성립할 것이다 .

다시한번 $|\lambda_i| = 1$이 증명된다.

따름정리 2. 유한차원 복소내적공간 $V$의 선형연산자 $T$를 생각하자. $V$가 절대값이 1인 고유값에 대응하는 고유벡터로 이루어진 정규직교기저를 가지기 윟나 필요충분조건은 $T$가 유니타리 연산자인 것이다.

이제 연산자와 행렬을 이어서 생각해보자.

정의 $A^TA = AA^T = I$인 정사각 행렬을 직교행렬이라 하고, $A^*A = AA^* = I$인 정사각 행렬을 유니타리 행렬이라 한다.

$A$가 실행렬일 경우 $A^T = A^*$이므로 실유니타리행렬은 직교행렬이 된다. 주로 내가 다룰 개념은 직교행렬일 것이다.

유니타리 행렬의 조건 $AA^* = I$는 $A$의 각 행이 $F^n$이 정규직교기저인 것과 동치인데, 이는 다음 식을 통해 간단히 보일 수 있다.

이를 다시 유니타리 연산자와 연관시켜보자면, 내적공간 $V$의 선형연산자 $T$가 유니타리 연산자이기 위한 필요충분조건은 $V$의 적절한 정규직교기저 $\beta$에 대하여 $[T]_\beta$가 유니타리 행렬인 것이다. 이는 직교행렬과 직교연산자에도 동일하게 적용된다.

여기서 유니타리 동치라는 개념이 등장한다.
앞서 행렬 $A$에 대하여 $A$의 고유벡터로 이루어진 $F^n$의 정규직교기저 $\beta$가 존재하고, $A$는 대각행렬 $D$와 닮음이라는 점을 언급한 바 있다. 이때, $D = Q^{-1}AQ$를 만족하는 행렬 $Q$는 $\beta$의 벡터를 열로 가지기 때문에, 유니타리 행렬임을 알 수 있다. 이때 $A$와 $D$를 유니타리 동치 혹은 직교 동치라 부르게 된다.

이제 아주 간단해지는 정리가 하나 등장한다.

정리 2. $n\times n$복소행렬 $A$가 있다고 할 때, $A$가 정규행렬이기 위한 필요충분조건은 $A$가 대각행렬과 유니타리 동치인 것이다.

증명
앞선 개념들에서 많이 이야기 되었기 때문에 이 증명에선 $A$가 대각행렬과 유니타리 동치일 때, $A$가 정규행렬임만 증명하면 될 것이다.
$A = P^*DP$이고, $P$는 유니타리 행렬, $D$는 대각행렬이라 가정하자. 이때 다음 식이 성립한다.

동일한 방식으로 $A^*A = P^*D^*DP$가 될 것이다. 이때, $D$는 대칭행렬이기 때문에 정규행렬이고, $AA^* = A^*A$가 될 것이다.

이를 실행렬로 옮겨오면 다음과 같다.

정리 3. $n\times n$ 실행렬 $A$를 생각하자. 이때, $A$가 대칭행렬이기 위한 필요충분조건은 $A$가 실대각행렬과 직교동치인 것이다.

슈어의 정리를 행렬로 옮겨오면 다음고 ㅏ같다. 이는 연산자와 동일하다.

정리 4. 슈어의 정리
행렬 $A \in M_{n \times n}(F)$의 특성다항식이 $F$ 위에서 완전히 인수분해되면 다음이 성립한다.
1. $F = C$이면, $A$는 복소 상삼각행렬과 유니타리 동치이다.
2. $F =R$이면, $A$는 실 상삼각행렬과 직교 동치이다.