[Linear Algebra] 직교 행렬(orthogonal matrix) 및 대칭행렬의 대각화(diagonalization of symmetric matric)

---

직교행렬

 

$ n $ 차 정사각행렬 $ A $ 에 대하여 $ A^T A = I_n $ 이면 $ A $ 를 직교행렬이라 한다. 또한 이는 $ A^T = A^{-1} $ 이면 $ A $ 는 직교행렬이다와 동치이고, $ A $ 의 열(행)벡터들은 정규직교집합이다와 동치이다.

$ A $ 의 열(행)벡터들이 정규직교집합인 이유는 $ A^T A = I = A A^T $ 이기 때문이다.

$ A $ 가 직교행렬이면 $ A^T A = I $ 이고, $ | A | = | A^T | $ 이므로 $ 1 = | I | = | A^T A | = | A^T | | A | = | A | ^2 $ 이므로 $ | A | = \pm 1 $ 이다. 즉 $ A $ 가 직교행렬이면 $ | A | = 1 $ 또는 $ -1 $ 이다.

 

---

직교 대각화

 

정사각행렬 $ A $ 에 대하여 $ P^{-1} A P = D $ 또는 $ P^T A P = D $ 인 직교행렬 $ P $ 와 대각행렬 $ D $ 가 존재하면 $ A $ 는 직교 대각화 가능(orthogonally diagonalizable)하다라고 한다.

이러한 직교 대각화가 가능하기 위한 정사각행렬 $ A $ 의 필요충분조건은 $ A $ 가 대칭행렬인 것이다.

$ A $ 가 직교 대각화가 가능하면 $ P^T A P = D $ 인 직교행렬 $ P $ 와 대각행렬 $ D $ 가 존재하고 $ D = D^T $ 이므로 다음이 성립한다.

$ P^T AP = D = D^T = \left( P^T A P \right)^T = P^T A^T P $

양변 왼쪽에 $ P $, 오른쪽에 $ P^T $ 를 곱하면 다음과 같다.

$ P \left( P^T AP \right) P^T = P \left( P^T A^T P \right) P^T $

$ \Leftrightarrow \left( P P^T \right) A \left( PP^T \right) = \left( PP^T \right) A^T \left( PP^T \right) $

$ \Leftrightarrow IAI = IA^TI $

$ \Leftrightarrow A = A^T $

역으로 $ A $ 가 대칭행렬이면 $ A = A^T $ 이고 $ P^T A P = P^T A^T P = U $ 인 직교행렬 $ P $ 와 $ A $ 의 고윳값을 주대각성분으로 갖는 상삼각행렬 $ U $ 가 존재한다는 것이 슈어 분해(Schur decomposition)의 특수한 경우로 증명된다. 따라서 다음이 성립한다.

$ U^T = \left( P^T A P \right)^T = P^T A^T P = P^T A P = U $

따라서 $ U $ 는 대각행렬이고, $ A $ 는 직교 대각화 가능하다.

 

---

대칭행렬 대각화

 

만약 $ n $ 차 정사각행렬 $ A $ 가 대칭행렬이면 $ A $ 의 고유벡터들로 이루어진 $ \mathbb{R}^n $ 의 정규직교기저가 존재한다. 당연히 $ A $ 가 대칭행렬이면 직교 대각화가 가능하므로 $ P^TAP= D $ 인 직교행렬 $ P $ 와 대각행렬 $ D $ 가 존재하고, 이때 $ D $ 의 주대각성분이 $ A $ 의 고윳값, 이 고윳값의 고유벡터가 $ P $ 의 열벡터이다. 즉 $ P $ 의 열벡터들이 $ A $ 의 고유벡터로 $ \mathbb{R}^n $ 의 정규직교기저이다.

즉 대칭행렬은 직교 대각화 가능하고, 직교 대각화하는 행렬은 대칭행렬의 일차독립인 정규직교 고유벡터들을 열벡터로 가지는 행렬이라는 것을 알 수 있다.

만약 $ A $ 가 대칭행렬이면 서로 다른 고윳값에 대응하는 고유벡터들은 직교한다.

대칭행렬 $ A $ 의 서로 다른 고윳ㄱ밧을 $ \lambda_1, \lambda_2 $ 라 하고 각각에 대응하는 고유벡터를 $ \mathbf{x_1}, \mathbf{x_2} $ 라 하자. 그렇다면 다음이 성립한다.

$  A \mathbf{x_1} = \lambda_1 \mathbf{x_1} $, $ A \mathbf{x_2} = \lambda_2 \mathbf{x_2} $

이를 전치하면 다음이 성립한다.

$ (A \mathbf{x_1})^T = (\lambda_1 \mathbf{x_1})^T $
$ \Leftrightarrow \mathbf{x_1}^T A^T = \lambda_1 \mathbf{x_1}^T $
$ \Leftrightarrow \mathbf{x_1}^T A = \lambda_1 \mathbf{x_1}^T $
$ \Leftrightarrow \mathbf{x_1}^T A \mathbf{x_2} = \lambda_1 \mathbf{x_1}^T \mathbf{x_2} $

이때 다음이 성립한다.

$ A \mathbf{x_2} = \lambda_2 \mathbf{x_2} \Leftrightarrow \mathbf{x_1}^T A \mathbf{x_2} = \lambda_2 \mathbf{x_1}^T \mathbf{x_2} $

따라서 다음이 성립한다.

$ \lambda_1 \mathbf{x_1}^T \mathbf{x_2} = \lambda_2 \mathbf{x_1}^T \mathbf{x_2} $
$ \Leftrightarrow ( \lambda_1 - \lambda_2 ) \mathbf{x_1}^T \mathbf{x_2} = \mathbf{0} $

이때 $ \lambda_1 \neq \lambda_2 $ 이므로 $ \mathbf{x_1} ^T \mathbf{x_2} = \mathbf{0} $ 이고 따라서 $ \mathbf{x_1} $ 과 $ \mathbf{x_2} $ 는 서로 직교한다.