[부스트코스트/인공지능을 위한 선형대수]4.고유값 분해 - 고유벡터와 고유값

고유값(Eigenvalue)과 고유벡터(Eigenvector) 정리

선형대수에서 고유값과 고유벡터는 행렬이 벡터를 어떻게 변환하는지를 가장 잘 설명해주는 개념이다.
특히 머신러닝, 데이터 분석, 컴퓨터 그래픽스 등 IT 전공 전반에서 매우 자주 등장한다.

---

1. 고유값과 고유벡터의 정의

정사각 행렬

에 대해, 0이 아닌 벡터 x∈Rn가 다음 식을 만족하면,

Ax=λx

• λ : 고유값 (Eigenvalue)
• x: λ 에 대응하는 고유벡터 (Eigenvector)

라고 한다.

즉, 행렬 A를 벡터 x에 적용했을 때
방향은 그대로 유지되고, 크기만 λ 배로 변하면
그 벡터 x는 고유벡터이다.

⚠️ 고유벡터는 반드시 0이 아닌 벡터여야 한다.
(0벡터는 어떤 행렬을 곱해도 0이 되어 의미가 없기 때문)

---

2. 선형변환 관점에서의 이해

행렬 A는 다음과 같은 선형변환을 나타낸다.

T(x)=Ax

일반적으로 선형변환은 벡터의 방향과 길이 모두를 바꾼다.
하지만 고유벡터의 경우는 다르다.

Ax=λx

이 식이 의미하는 것은:

• 출력 벡터와 입력 벡터의 방향이 동일
• 단지 길이만 λ 배로 변화

> 방향 유지 + 스케일 변화
이것이 고유벡터의 핵심 성질이다.

---

3. 예제로 이해하는 고유값과 고유벡터

다음 행렬과 벡터를 보자.

먼저 행렬 곱을 계산하면,

이를 (x)의 스칼라배와 비교해보면,

두 결과가 완전히 동일하다.

따라서,

• 고유값:  λ = 8
• 고유벡터: [1 1]

행렬 A는 이 벡터를 같은 방향으로 8배 늘리는 변환을 한다고 볼 수 있다.

---

4. 계산 효율 측면에서의 장점

고유벡터를 알면 계산이 매우 단순해진다.

• 일반적인 행렬–벡터 곱
  → 곱셈 여러 번 + 덧셈 여러 번 (연산량 많음)
• 고유벡터일 경우
  → 단순한 스칼라 곱으로 대체 가능

Ax=λx

> 복잡한 행렬 연산을 빠른 계산으로 바꿀 수 있음
> 대규모 데이터 처리에서 매우 중요한 이유

---

5. 수학적 정의 (고유값 판별식)

기본 식에서 출발하면, Ax=λx

이를 정리하면,

여기서 I는 단위행렬이다.

이 식의 의미는 다음과 같다.

• 고유벡터 x는 행렬 A−λI 의 영공간(null space)에 속한다
• 0이 아닌 해(non-zero solution)가 존재해야만  λ는 고유값이 된다

> 특정 고유값 (\lambda)에 대해 이 방정식의 모든 해의 집합을 고유공간(eigenspace)이라고 한다.

---

6. 고유값 판별 예제

다음 행렬에서 λ=8이 고유값인지 확인해보자.

이제, (A−8I)x=0 을 풀면,

> 비자명한 해가 존재하므로 λ=8은 고유값이며,

> 고유벡터는 ((1,1)^T)의 모든 스칼라배이다.