고윳값과 고유벡터
$ n $ 차 정사각행렬 $ A $ 와 $ \mathbf{x} \in \mathbb{R}^n $ 및 $ \lambda \in \mathbb{R} $ 에 대해 다음이 성립하면 $ \lambda $ 를 $ A $ 의 교윳값이라 하고, $ \mathbf{x} $ 를 $ \lambda $ 에 대응하는 고유벡터라 한다.
$$ A \mathbf{x} = \lambda \mathbf{x} $$
즉 행렬과의 곱이 실수와의 곱과 동일할 때 고윳값과 고유벡터를 말할 수 있다.
$ \mathbf{x} \in \mathbb{R}^n $ 에 대하여 $ I_n \mathbf{x} = 1 \times \mathbf{x} $ 이므로 단위행렬 $ I_n $ 의 고윳값은 $ \lambda = 1$ 뿐이고, 영벡터가 아닌 $ \mathbf{x} \in \mathbb{R}^n $ 는 고윳값 $1$에 대응하는 $ I_n $ 의 고유벡터이다.
만약 $ \mathbf{x_1}, \mathbf{x_2} \in \mathbb{R}^n $ 가 고윳값 $ \lambda $ 에 대응하는 $ A $ 의 고유벡터라면 다음이 성립한다.
$ A(k \mathbf{x_1}) = k (A \mathbf{x_1}) = k (\lambda \mathbf{x_1}) = \lambda (k \mathbf{x_1}) $ $ (k \in \mathbb{R}, k \neq 0) $
따라서 $ \mathbf{x_1} + \mathbf{x_2} $, $ k \mathbf{x_1} $ 역시 $ \lambda$ 에 대응하는 고유벡터이다.
특성방정식 및 특성다항식
$ n $ 차 정사각행렬 $ A $ 가 존재하고, $ \lambda $ 가 $ A $ 의 고윳값이라 하면 $ A \mathbf{x} = \lambda \mathbf{x} $ 를 만족하는 영 아닌 벡터 $ \mathbf{x} $ 가 존재하고 다음이 성립한다.
$$ A \mathbf{x} = \lambda \mathbf{x} \quad \Leftrightarrow \quad A \mathbf{x} = \lambda I_n \mathbf{x} \quad \Leftrightarrow \quad (\lambda I_n - A ) \mathbf{x} = \mathbf{0} $$
그러므로 동차연립일차방정식 $ (\lambda I_n - A) \mathbf{x} = \mathbf{0} $ 은 영이 아닌 해를 가져야 하며, 따라서 $ \lambda $ 가 $ A$ 의 고윳값이기 위한 필요충분조건은 다음과 같다.
$$ | \lambda I_n - A | = 0 $$
위 식을 특성방정식(characteristic equation)이라 하고, $ \lambda $ 에 대한 $ n $ 차 방정식 $ | \lambda I_n - A | $ 를 $ A$ 의 특성다항식(characteristic polynomial)이라 한다.
고유공간 (Eigenspace)
$ \lambda $ 가 $n $ 차 정사각행렬 $ A $ 의 고윳값일 때 동차연립일차방정식 $ ( \lambda I_n - A ) \mathbf{x} = \mathbf{0} $ 의 해공간을 $ \lambda $ 에 대응하는 $ A $ 의 고유공간이라 한다.
$ \lambda $ 에 대응하는 $ A $ 의 고유공간은 $ \lambda $ 에 대응하는 $ A $ 의 모든 고유벡터와 영벡터로 이루어진 집합이고, $ \mathbb{R}^n $ 의 부분공간으로 벡터공간이다.
이 고유공간의 기저를 알기 위해서는 $ \lambda $ 에 대응하는 모든 고유벡터가 일차독립인지 일차종속인지 판별해야 한다. 만약 $ A $ 의 서로 다른 고윳값 $ \lambda_1, \lambda_2, \cdots , \lambda_m $ 에 대응하는 고유벡터 $ \mathbf{x_1}, \mathbf{x_2}, \cdots, \mathbf{x_m} $ 이 존재한다면 이 고유벡터들은 일차독립이다.
수학적 귀납법을 통해 증명 가능하다.
$ \mathbf{x_1} \neq \mathbf{0} $ 이므로 $ \mathbf{x_1} $ 은 일차독립이다.
$ 1 \leq r < m $ 인 $ r $ 에 대하여 $ \mathbf{x_1}, \mathbf{x_2}, \cdots, \mathbf{x_r} $ 이 일차독립이라 가정할 때 $ k_1 \mathbf{x_1} + k_2 \mathbf{x_2} + \cdots + k_r \mathbf{x_r} = \mathbf{0} $ $(k_1, k_2, \cdots, k_r \in \mathbb{R} $ 이라 하자.
$ A $ 를 곱하면 다음과 같다.
$ k_1 A \mathbf{x_1} + k_2 A \mathbf{x_2} + \cdots + k_r A \mathbf{x_r} + k_{r+1} A \mathbf{x_{r+1}} = \mathbf{0} $
고윳값으로 변형하면 다음과 같다.
$ k_1 \lambda_1 \mathbf{x_1} + k_2 \lambda_2 \mathbf{x_2} + \cdots + k_r \lambda_r \mathbf{x_r} + k_{r+1} \lambda_{r+2} \mathbf{x_{r+1}}= \mathbf{0} $
이제 마지막 식에서 첫번째 식에 $ \lambda_{r+1} $ 을 곱하여 빼주면 다음과 같다.
$ k_1( \lambda_1 - \lambda_{r+1} ) \mathbf{x_1} + k_2 ( \lambda_2- \lambda_{r+1} ) \mathbf{x_2} + \cdots + k_r ( \lambda_r- \lambda_{r+1} ) \mathbf{x_r} = \mathbf{0} $
이때 $ \lambda_1, \lambda_2, \cdots , \lambda_r, \lambda_{r+1} $ 이 서로 다른 고윳값이므로 $ \lambda_1 - \lambda_{r+1}, \lambda_2 - \lambda_{r+1}, \cdots, \lambda_r - \lambda_{r+1} $ 모두 $ 0 $이 아니다. 그런데 앞서 $ \mathbf{x_1}, \mathbf{x_2}, \cdots, \mathbf{x_r} $ 를 일차독립이라 가정하였으므로 $ k_1 = k_2 = \cdots = k_r = 0 $ 이어야 한다. 또한 $ \mathbf{x_{r+1}} $ 이 고유벡터이므로 $ \mathbf{x_{r+1}} \neq \mathbf{0} $ 이고, 따라서 $ k_{r+1} = 0 $ 이다. 그러므로 $ k_1 = k_2 = \cdots = k_r = k_{r+1} = 0 $ 이고 $ \mathbf{x_1}, \mathbf{x_2}, \cdots, \mathbf{x_{r+1}} $ 은 일차독립이다.
$ n = 1 $ 일 때와 $ n = r $ 이라 가정할 때 $ n = r+1 $ 이 성립함을 보였으므로 증명이 끝난다.
선형변환에서의 고윳값과 고유벡터
선형변환을 행렬변환으로 나타낼 수 있었기 때문에 이에 대해 고윳값과 고유벡터를 정의할 수 있다.
선형변환 $ T: V \to V $ 에 대하여 $ T(\mathbf{x}) = \lambda \mathbf{x} $ 를 만족하는 $ \mathbf{x} \in V $, $ \mathbf{x} \neq \mathbf{0} $ 인 $ \mathbf{x} $ 가 존재하면 $ \lambda $ 를 $ T $ 의 고윳값이라 하고, $ \mathbf{x} $ 를 $ \lambda $ 에 대응하면 $ T $ 의 고유벡터라 한다.
특히 선형변환 $ T: \mathbb{R}^n \to \mathbb{R}^m $ 의 표준행렬을 $ A $ 라 하면 $ T(\mathbf{x}) = A \mathbf{x} $ 이므로 $ T $ 의 고윳값은 표준행렬 $ A $ 의 고윳값과 같다.
