Chapter 07

좌표 변환과 선형 사상

벡터 $(3, 2)$ 라고 말할 때 우리는 늘 한 가지를 몰래 가정합니다. "가로로 3칸, 세로로 2칸", 즉 표준 기저 $\mathbf{e}_1, \mathbf{e}_2$ 를 잣대로 쓴다는 가정입니다. 잣대를 바꾸면 같은 화살표가 다른 숫자로 적힙니다. 결정 격자의 원자 위치, 로봇 손끝의 위치, 사진의 색은 저마다 편한 잣대가 따로 있습니다. 이 장은 잣대(기저)를 바꾸는 법과, 잣대를 바꾸면 같은 변환이 다른 행렬로 보이는 이유를 다룹니다. 그리고 잘 고른 잣대 하나가 복잡한 행렬을 대각 행렬로 바꾸고, 사진 파일을 절반 크기로 줄인다는 것을 보입니다.

기저에 대한 좌표 $[\mathbf{x}]_B$ 를 정의하고, 좌표가 하나뿐인 이유를 선형 독립으로 설명한다.
기저 변환 행렬 $P$ 로 $\mathbf{x} = P[\mathbf{x}]_B$ , $[\mathbf{x}]_B = P^{-1}\mathbf{x}$ 를 계산하고, 두 비표준 기저 사이의 변환 $C^{-1}B$ 를 구한다.
선형 변환의 기저 $B$ 에 대한 행렬 $[T]_B = P^{-1}AP$ 를 구하고, 닮은 행렬이 공유하는 대각합·행렬식·계수를 증명한다.
변환에 맞는 기저를 골라 반사·사영 같은 변환을 대각 행렬로 쓰고, 그것이 고유값 문제로 이어지는 이유를 안다.
다항식 공간의 미분을 행렬로 쓰고, 핵·상·계수–퇴화차수 정리와 동형 사상을 이해한다.
JPEG가 RGB를 YCbCr로 바꾸는 이유를 기저 변환으로 설명하고, 색차 표본을 줄여도 사진이 멀쩡한 이유를 실험으로 확인한다.

이 수식이 없었다면지금 크기의 JPEG 사진

카메라 센서는 화소마다 빨강·초록·파랑 세 숫자를 기록합니다. 그런데 사람 눈은 밝기의 변화에는 아주 예민하고, 색의 미세한 변화에는 훨씬 둔합니다. 문제는 R, G, B 세 숫자 어느 것도 "밝기"나 "색"만을 담고 있지 않다는 점입니다. 빨강 값을 대충 기록하면 밝기도 색도 함께 망가집니다.

JPEG의 해법은 숫자를 버리기 전에 잣대부터 바꾸는 것입니다. 3×3 행렬 하나로 (R, G, B)를 밝기 Y와 두 색차 Cb, Cr로 옮기면, 정보가 "눈이 예민한 축"과 "둔한 축"으로 나뉩니다. 그다음 색차 두 성분만 가로세로 절반 해상도로 줄여도(4:2:0) 눈은 거의 알아채지 못하고, 표본 수는 화소당 3개에서 1.5개로 줄어듭니다. 같은 데이터, 다른 기저. 이 장의 주제가 사진 한 장 안에 들어 있습니다.

RGB: 밝기와 색이 섞임→어느 숫자도 버릴 수 없음→기저 변환 RGB → YCbCr→색차만 줄여 절반 크기

좌표는 기저에 대한 상대적인 숫자다

그래핀 원자의 위치를 어떻게 적을까

그래핀의 탄소 원자는 정육각형 벌집 무늬로 놓입니다. 이 무늬는 길이 2.46 Å인 두 벡터 $\mathbf{a}_1, \mathbf{a}_2$ 가 60°를 이루는 격자를 따라 되풀이됩니다. 원자 위치를 가로·세로 좌표로 적으면 $(1.23, 2.13)$ 처럼 무리수투성이가 되고, "격자를 몇 칸 옮긴 자리인가"라는 정작 중요한 정보가 숫자에서 사라집니다. 결정학자는 대신 " $\mathbf{a}_1$ 방향으로 1칸, $\mathbf{a}_2$ 방향으로 2칸"이라고 적습니다. 같은 점, 다른 숫자입니다.

1장에서 평면의 모든 벡터가 $\mathbf{e}_1, \mathbf{e}_2$ 의 선형 결합으로 쓰인다는 것을 보았습니다. 사실 서로 평행하지 않은 아무 두 벡터로도 같은 일을 할 수 있습니다. 그 두 벡터를 새 잣대로 삼으면, 그 잣대로 잰 숫자가 새 좌표입니다.

정의 7.1 (기저와 좌표) 벡터 공간

V

의 벡터

\mathbf{b}_1,\dots,\mathbf{b}_n

이 선형 독립이고 $V$ 를 생성하면 이 순서 있는 묶음

B = (\mathbf{b}_1,\dots,\mathbf{b}_n)

을

V

의 기저(basis)라 한다.

\mathbf{x} = c_1\mathbf{b}_1 + \dots + c_n\mathbf{b}_n

일 때 계수를 모은 벡터

[\mathbf{x}]_B = \begin{bmatrix}c_1\\ \vdots\\ c_n\end{bmatrix}

를

\mathbf{x}

의

B

에 대한 좌표 벡터(coordinate vector)라 한다. 표준 기저

E = (\mathbf{e}_1,\dots,\mathbf{e}_n)

에서는

[\mathbf{x}]_E = \mathbf{x}

이다.

정리 7.1 (좌표의 유일성)

B

가

V

의 기저이면 모든

\mathbf{x}\in V

의 좌표

[\mathbf{x}]_B

는 꼭 하나 있다.

증명. 생성하므로 적어도 하나는 있다. 두 개 $\sum c_i\mathbf{b}_i = \sum d_i\mathbf{b}_i$ 가 있다면 빼서 $\sum (c_i - d_i)\mathbf{b}_i = \mathbf{0}$ . 선형 독립이므로 모든 $c_i - d_i = 0$ 이다. ∎

생성은 "좌표가 있다", 독립은 "좌표가 하나뿐이다"를 보장한다. 기저의 두 조건은 정확히 좌표가 잘 정의되기 위한 조건이다.

그림 7-1. 같은 점 x를 두 잣대로 잰다. 왼쪽 표준 격자에서는 (3, 2), 오른쪽 60° 격자(b₁ = (1, 0), b₂ = (1/2, √3/2))에서는 약 (1.85, 2.31)이다. 점이 움직인 것이 아니라 눈금이 바뀌었다. 점선은 두 기저 방향을 따라 걷는 경로다.

아래 시뮬레이터에서 기저 벡터 $\mathbf{b}_1, \mathbf{b}_2$ 와 점 $\mathbf{x}$ 를 끌어 보세요. 보라색 격자는 새 기저가 만드는 눈금이고, 점선은 $c_1\mathbf{b}_1$ 만큼 간 뒤 $c_2\mathbf{b}_2$ 만큼 가는 경로입니다.

SIMULATOR

두 잣대로 잰 같은 점

b₁, b₂, x를 끌어 보세요

기저 프리셋 새 기저의 격자 보기 c₁b₁ + c₂b₂ 경로 보기

x (표준 좌표)—

[x]_B (새 좌표)—

P = [b₁ b₂]—

det P—

해볼 것: ① '60° 격자'에서 'x를 격자점에 맞추기'를 누르면 새 좌표가 정수가 됩니다. 결정학자가 이 좌표를 쓰는 이유입니다. ② '거의 평행한 기저'에서 x를 조금만 움직여 보세요. 새 좌표가 크게 출렁입니다. 기저가 나쁘면 좌표가 잡음에 민감해집니다(16장 조건수). ③ b₂를 b₁과 한 직선에 놓으면 좌표가 정의되지 않습니다. 모델: 2차원, 좌표는 P[x]_B = x를 풀어 구합니다. 끄는 점은 0.1 단위로 맞춰집니다.

예제 7.1 · 좌표 구하기

\mathbf{b}_1 = (1, 1)

\mathbf{b}_2 = (1, -1)

일 때

\mathbf{x} = (3, 1)

의 좌표

[\mathbf{x}]_B

를 구하라.

풀이. $c_1(1,1) + c_2(1,-1) = (3,1)$ 은 연립방정식 $c_1 + c_2 = 3$ , $c_1 - c_2 = 1$ 이다. 더하면 $2c_1 = 4$ , 따라서 $c_1 = 2$ , $c_2 = 1$ . 즉 $[\mathbf{x}]_B = (2, 1)$ .

확인: $2(1,1) + 1(1,-1) = (3, 1)$ . 좌표를 구하는 일은 언제나 연립방정식 하나를 푸는 일이고, 그 계수 행렬의 열이 바로 기저 벡터다. 다음 절은 이 관찰을 행렬 하나로 정리한다.

기저 변환 행렬: 새 좌표와 옛 좌표 잇기

새 좌표로 받은 숫자를 표준 좌표로 되돌리려면

로봇 팔 제어기가 "공구 좌표계로 (0.2, 0.1)만큼 움직여라"라는 명령을 받았다고 합시다. 모터는 작업대에 고정된 표준 좌표계로 움직이므로, 이 숫자를 작업대 좌표로 바꿔야 합니다. 반대로 카메라가 작업대 좌표로 본 물체 위치를 공구 좌표로 알려 주어야 할 때도 있습니다. 두 방향 모두, 매번 연립방정식을 새로 세워야 할까요?

정의 7.1의 식 $\mathbf{x} = c_1\mathbf{b}_1 + \dots + c_n\mathbf{b}_n$ 을 다시 보세요. 이것은 2장의 열 그림 그대로, 기저 벡터를 열로 세운 행렬과 좌표 벡터의 곱입니다.

정리 7.2 (기저 변환 행렬)

\mathbb{R}^n

의 기저

B

에 대해

P_B = [\,\mathbf{b}_1\ \cdots\ \mathbf{b}_n\,]

라 하면

\mathbf{x} = P_B\,[\mathbf{x}]_B, \qquad [\mathbf{x}]_B = P_B^{-1}\,\mathbf{x}.

P_B

의 열이 선형 독립이므로

P_B

는 가역이다(4장 가역 조건). 또

C

가 또 다른 기저이면

B

-좌표를

C

-좌표로 바꾸는 행렬은

[\mathbf{x}]_C = P_{C\leftarrow B}\,[\mathbf{x}]_B, \qquad P_{C\leftarrow B} = P_C^{-1}P_B.

증명. 첫 식은 행렬–벡터 곱의 열 그림 그 자체다. 둘째 식은 $P_C[\mathbf{x}]_C = \mathbf{x} = P_B[\mathbf{x}]_B$ 의 양변 왼쪽에 $P_C^{-1}$ 을 곱하면 된다. ∎

방향을 헷갈리기 쉬우니 그림으로 기억하세요. $P_B$ 는 "새 좌표 → 표준 좌표" 방향입니다. 새 좌표를 받아서 기저 벡터를 그만큼 더하면 실제 화살표가 나오니까요. 반대 방향은 역행렬입니다. $P_{C\leftarrow B}$ 는 $B$ 에서 표준 좌표로 올라갔다가( $P_B$ ) $C$ 로 내려오는( $P_C^{-1}$ ) 길입니다.

그림 7-2. 기저 행렬 P_B는 좌표를 "기저 B의 숫자"에서 "실제 화살표(표준 좌표)"로 올린다. 다른 기저 C의 좌표로 가려면 표준 좌표를 거쳐 P_C⁻¹로 내려온다. 두 화살표를 이은 것이 P_(C←B)다.

예제 7.2 · 두 비표준 기저 사이의 변환

B = ((1,1), (1,-1))

C = ((1,0), (1,2))

일 때

P_{C\leftarrow B}

를 구하고, 예제 7.1의

[\mathbf{x}]_B = (2,1)

을

C

-좌표로 바꿔라.

풀이. $P_C = \begin{bmatrix}1 & 1\\ 0 & 2\end{bmatrix}$ , $\det P_C = 2$ 이므로 $P_C^{-1} = \tfrac12\begin{bmatrix}2 & -1\\ 0 & 1\end{bmatrix}$ . 그러면

P_{C\leftarrow B} = P_C^{-1}P_B = \frac12\begin{bmatrix}2 & -1\\ 0 & 1\end{bmatrix}\begin{bmatrix}1 & 1\\ 1 & -1\end{bmatrix} = \begin{bmatrix}1/2 & 3/2\\ 1/2 & -1/2\end{bmatrix}, \qquad [\mathbf{x}]_C = \begin{bmatrix}1/2 & 3/2\\ 1/2 & -1/2\end{bmatrix}\begin{bmatrix}2\\1\end{bmatrix} = \begin{bmatrix}5/2\\ 1/2\end{bmatrix}.

확인: $\tfrac52(1,0) + \tfrac12(1,2) = (3, 1)$ . 같은 점 $(3,1)$ 이다. 계산에서는 $P_C^{-1}$ 을 만들지 말고 $P_C\mathbf{y} = P_B[\mathbf{x}]_B$ 를 소거로 푸는 편이 낫다(4장의 교훈 그대로).

직교 기저면 역행렬이 공짜다 기저 벡터가 서로 수직인 단위 벡터이면

P^{\mathsf T}P = I

, 즉

P^{-1} = P^{\mathsf T}

입니다. 이때 새 좌표는 그냥 내적

c_i = \mathbf{b}_i\cdot\mathbf{x}

입니다. 로봇 공학과 그래픽스가 회전된 좌표계를 즐겨 쓰는 이유이고, 9장 그람–슈미트가 아무 기저나 직교 기저로 바꾸는 이유입니다.

기저에서 본 선형 변환의 행렬

비스듬한 직선에 대한 반사를 행렬로 쓰려면

직선 $y = 2x$ 를 거울 삼아 평면을 뒤집는 변환을 생각합시다. 2장의 방법대로 $\mathbf{e}_1, \mathbf{e}_2$ 가 어디로 가는지 계산하려면 삼각함수를 꺼내야 합니다. 그런데 거울 직선 방향의 벡터는 그대로 있고, 거울에 수직인 벡터는 정확히 뒤집힐 뿐입니다. 그 두 방향을 잣대로 쓰면 이 변환은 "첫 좌표는 그대로, 둘째 좌표는 부호만 바꾼다"라는 한 줄이 됩니다.

2장에서 행렬은 "기저 벡터가 가는 곳의 기록"이었습니다. 그때 기저는 늘 표준 기저였지요. 기저를 $B$ 로 바꾸면 기록하는 숫자도 $B$ 로 잰 숫자여야 합니다.

정의 7.2 (기저에 대한 변환의 행렬) 선형 변환

T: V\to V

와 기저

B = (\mathbf{b}_1,\dots,\mathbf{b}_n)

에 대해,

j

열이

[T(\mathbf{b}_j)]_B

인

n\times n

행렬을

T

의

B

에 대한 행렬

[T]_B

라 한다. 그러면 모든

\mathbf{x}

에 대해

[T(\mathbf{x})]_B = [T]_B\,[\mathbf{x}]_B.

즉

B

-좌표만 다루는 사람에게

T

는

[T]_B

를 곱하는 일이다.

정리 7.3 (기저를 바꾼 행렬)

\mathbb{R}^n

에서

T(\mathbf{x}) = A\mathbf{x}

(표준 행렬

A

)이고

P = P_B

이면

[T]_B = P^{-1}AP, \qquad A = P\,[T]_B\,P^{-1}.

증명. $B$ -좌표 $[\mathbf{x}]_B$ 에서 출발해 세 단계를 밟는다. $P$ 를 곱해 실제 벡터 $\mathbf{x}$ 로 올라가고, $A$ 로 변환하고, $P^{-1}$ 로 다시 $B$ -좌표로 내려온다. 결과는 $[A\mathbf{x}]_B = P^{-1}AP[\mathbf{x}]_B$ . 모든 좌표에 대해 성립하므로 $[T]_B = P^{-1}AP$ . ∎

그림 7-3. 같은 변환 T를 두 좌표계에서 본 그림. 표준 좌표에서는 A, B-좌표에서는 P⁻¹AP. 어느 길로 가도 도착점이 같으므로(가환 도식) 두 행렬은 같은 변환의 다른 기록이다. 행렬 곱은 오른쪽부터 읽는다: 먼저 P로 올라가고, A, 그다음 P⁻¹.

열 하나하나로 읽으면 더 직관적입니다. $[T]_B$ 의 $j$ 열은 " $\mathbf{b}_j$ 를 변환한 결과를 $B$ 로 잰 숫자"입니다. 만약 $T(\mathbf{b}_j)$ 가 $\mathbf{b}_j$ 의 상수배 $\lambda_j\mathbf{b}_j$ 라면, 그 열은 $j$ 번째 칸만 $\lambda_j$ 이고 나머지는 0입니다. 모든 기저 벡터가 그렇다면 $[T]_B$ 는 대각 행렬이 됩니다. 이것이 5절의 주제이고 11장 고유값의 출발점입니다.

닮은 행렬: 같은 변환, 다른 기록

두 행렬이 사실 같은 변환인지 어떻게 알까

두 연구실이 같은 장비의 동작을 각자 다른 좌표계로 측정해 행렬 $A$ 와 $B$ 를 얻었습니다. 숫자는 완전히 다릅니다. 두 행렬이 같은 물리 현상의 기록인지, 아니면 정말 다른 동작인지 가려낼 방법이 있을까요? 좌표계에 따라 바뀌지 않는 숫자, 즉 불변량을 찾으면 됩니다.

정의 7.3 (닮음) 가역 행렬

P

가 있어

B = P^{-1}AP

이면

A

와

B

는 닮은 행렬(similar matrices)이라 하고

A\sim B

로 쓴다. 정리 7.3에 따르면 닮은 두 행렬은 같은 선형 변환을 서로 다른 기저로 기록한 것이다.

정리 7.4 (닮음 불변량)

A\sim B

이면 다음이 같다.

행렬식: $\det B = \det A$
대각합(trace): $\operatorname{tr}B = \operatorname{tr}A$ (대각 원소의 합)
계수: $\operatorname{rank}B = \operatorname{rank}A$
특성 다항식 $\det(A - \lambda I)$ , 따라서 고유값

증명. (1) $\det(P^{-1}AP) = \det P^{-1}\det A\det P = \det A$ . 행렬식은 부피 배율이니, 좌표를 바꿔도 변환이 부피를 몇 배 하는지는 그대로다(10장). (2) 아무 $X, Y$ 에 대해 $\operatorname{tr}(XY) = \sum_{i,k}x_{ik}y_{ki} = \operatorname{tr}(YX)$ 이므로 $\operatorname{tr}(P^{-1}(AP)) = \operatorname{tr}((AP)P^{-1}) = \operatorname{tr}A$ . (3) 가역 행렬을 곱해도 상의 차원은 바뀌지 않는다(7절). (4) $P^{-1}AP - \lambda I = P^{-1}(A - \lambda I)P$ 에 (1)을 쓴다. ∎

불변량이 같다고 반드시 닮은 것은 아닙니다. $I$ 와 $\begin{bmatrix}1 & 1\\ 0 & 1\end{bmatrix}$ 은 행렬식·대각합·특성 다항식이 모두 같지만, $P^{-1}IP = I$ 이므로 단위 행렬과 닮은 행렬은 단위 행렬뿐입니다. 불변량은 "다르다"를 증명하는 데 쓰는 도구입니다. 대각합이 다르면 그것으로 끝입니다.

아래 시뮬레이터는 같은 변환을 두 화면에 동시에 그립니다. 왼쪽은 표준 좌표로 본 세상, 오른쪽은 기저 $B$ 의 눈금을 반듯한 정사각형으로 펴서 본 세상입니다. 오른쪽에서 보이는 변환의 행렬이 $P^{-1}AP$ 입니다.

SIMULATOR

같은 변환을 두 좌표계로 보기

표준 좌표: A

B-좌표: P⁻¹AP

변환 A

기저 B

A (표준)—

P⁻¹AP (B-좌표)—

tr · det · rank—

원래 글자 F변환된 F기저 B의 눈금

해볼 것: ① '반사'에서 기저를 '변환에 맞춘'으로 바꾸면 오른쪽 행렬이 diag(1, −1)이 됩니다. 오른쪽 화면에서는 그냥 세로 뒤집기입니다. ② 어떤 변환·기저 조합에서도 tr·det·rank 세 숫자는 왼쪽과 오른쪽이 같습니다. ③ '전단'과 '회전'은 '변환에 맞춘' 기저를 만들 수 없습니다. 이유는 11장의 고유벡터가 답합니다. 모델: '변환에 맞춘' 기저는 실수 고유벡터 두 개(MB.mat.eig2)로 만듭니다.

좋은 기저 하나가 계산을 바꾼다

반사를 백 번 하면?

비스듬한 거울에 대한 반사 행렬 $A$ 를 100번 곱한 $A^{100}$ 이나, 사영을 여러 번 한 결과는 무엇일까요? 표준 좌표에서 곱셈을 반복하면 계산도 오차도 쌓입니다. 하지만 거울에 맞춘 좌표에서 반사는 $\operatorname{diag}(1,-1)$ 이고, 이것의 100제곱은 그냥 $\operatorname{diag}(1,1) = I$ 입니다. 좌표를 잘 고르면 어려운 문제가 대각 원소 몇 개의 계산이 됩니다.

정리 7.3을 거꾸로 쓰면 $A = PDP^{-1}$ 입니다. $D$ 가 대각 행렬이면 이 식은 " $A$ 는 기저 $B$ 를 따라 각 방향을 $d_i$ 배 늘이는 변환"이라는 뜻입니다. 거듭제곱도 쉬워집니다. 가운데의 $P^{-1}P$ 가 서로 지워지므로

A^k = (PDP^{-1})(PDP^{-1})\cdots(PDP^{-1}) = PD^kP^{-1}, \qquad D^k = \operatorname{diag}(d_1^k,\dots,d_n^k).

이렇게 쓸 수 있는

A

를 대각화 가능(diagonalizable)하다고 한다. 그런 기저가 언제 있고 어떻게 찾는지가 11장의 주제다.

그림 7-4. 거울 직선 위의 b₁은 반사해도 그대로, 거울에 수직인 b₂는 정확히 뒤집힌다. 이 두 벡터를 기저로 쓰면 반사는 diag(1, −1)이다. 점 x = (3, 0)은 거울에 대해 대칭인 (−1.8, 2.4)로 간다(가는 점선은 x와 Ax를 잇는, 거울에 수직인 선분).

예제 7.3 · 좋은 기저에서 표준 행렬 만들기 직선

y = 2x

에 대한 반사의 표준 행렬을 구하라.

풀이. 거울 방향 $\mathbf{b}_1 = (1,2)$ 는 그대로이고 수직 방향 $\mathbf{b}_2 = (-2,1)$ 은 뒤집히므로 $[T]_B = D = \operatorname{diag}(1,-1)$ . $P = \begin{bmatrix}1 & -2\\ 2 & 1\end{bmatrix}$ , $\det P = 5$ , $P^{-1} = \tfrac15\begin{bmatrix}1 & 2\\ -2 & 1\end{bmatrix}$ . 따라서

A = PDP^{-1} = \begin{bmatrix}1 & 2\\ 2 & -1\end{bmatrix}\cdot\frac15\begin{bmatrix}1 & 2\\ -2 & 1\end{bmatrix} = \frac15\begin{bmatrix}-3 & 4\\ 4 & 3\end{bmatrix}.

확인: 일반 공식 $\begin{bmatrix}\cos2\theta & \sin2\theta\\ \sin2\theta & -\cos2\theta\end{bmatrix}$ 에 $\tan\theta = 2$ 를 넣으면 $\cos2\theta = \tfrac{1-4}{1+4} = -\tfrac35$ , $\sin2\theta = \tfrac{2\cdot2}{1+4} = \tfrac45$ . 같은 답을 삼각함수 없이 얻었다. 또 $A^2 = PD^2P^{-1} = PIP^{-1} = I$ : 두 번 반사하면 제자리다.

SIMULATOR

비스듬한 직선에 맞춘 기저

x를 끌어 보세요

직선의 각도 θ

변환

맞춘 기저의 격자 보기 글자 F도 변환하기 거듭제곱 k

표준 행렬 Aᵏ—

맞춘 기저에서 Dᵏ—

[x]_B → [Aᵏx]_B—

해볼 것: ① 각도를 바꾸면 표준 행렬의 네 숫자는 모두 바뀌지만, 맞춘 기저의 행렬은 늘 diag(1, −1)입니다. ② '정사영'에서 k를 올려도 결과가 같습니다(P² = P). '직선 방향 2배'에서는 Dᵏ = diag(2ᵏ, 1)이 표준 행렬보다 훨씬 읽기 쉽습니다. ③ '반사'에서 k가 짝수면 단위 행렬입니다. 모델: b₁ = (cos θ, sin θ), b₂ = (−sin θ, cos θ)인 직교 기저, Aᵏ = P Dᵏ Pᵀ.

모든 변환에 좋은 기저가 있는 것은 아니다 30° 회전은 어떤 실수 벡터도 같은 방향으로 남겨 두지 않으므로 실수 대각화가 불가능합니다. 전단

\begin{bmatrix}1 & 1\\ 0 & 1\end{bmatrix}

은

x

축 방향 하나만 그대로 두어 기저를 이룰 두 번째 방향이 없습니다. 언제 대각화가 되는지, 안 될 때 무엇이 차선인지(복소 고유값, 조르당 형식, 14장 특이값 분해)는 11장에서 다룹니다.

화살표가 아닌 벡터: 다항식 공간의 미분 행렬

미분도 행렬 곱셈일까

컴퓨터 대수 프로그램이 다항식 $p(x) = 1 + 2x - x^2 + 3x^3$ 을 미분하는 장면을 상상해 보세요. 프로그램은 기호를 들여다보지 않습니다. 계수 목록 $(1, 2, -1, 3)$ 을 받아 $(2, -2, 9, 0)$ 을 돌려줄 뿐입니다. 숫자 목록을 받아 숫자 목록을 내놓고, 덧셈과 상수배를 보존한다면, 그것은 행렬입니다.

3차 이하 다항식 전체 $\mathcal{P}_3$ 은 덧셈과 상수배가 자연스럽게 정의되는 벡터 공간입니다(5장에서 공리로 정리합니다). 기저 $B = (1, x, x^2, x^3)$ 을 잡으면 $p(x) = a_0 + a_1x + a_2x^2 + a_3x^3$ 의 좌표는 $(a_0, a_1, a_2, a_3)$ 입니다. 미분 $D(p) = p'$ 은 $D(p+q) = p' + q'$ , $D(cp) = cp'$ 이므로 선형입니다.

정의 7.4 (벡터 공간 사이의 선형 사상과 그 행렬) 벡터 공간

V, W

사이의 함수

T: V\to W

가

T(a\mathbf{u}+b\mathbf{v}) = aT(\mathbf{u}) + bT(\mathbf{v})

를 만족하면 선형 사상(linear map)이다.

V

의 기저

B = (\mathbf{b}_1,\dots,\mathbf{b}_n)

W

의 기저

C

에 대해

j

열이

[T(\mathbf{b}_j)]_C

인 행렬을

[T]_{C\leftarrow B}

라 하면

[T(\mathbf{v})]_C = [T]_{C\leftarrow B}[\mathbf{v}]_B

이다.

정의대로 기저 벡터의 미분을 좌표로 적어 열로 세우면 됩니다. $D(1) = 0$ , $D(x) = 1$ , $D(x^2) = 2x$ , $D(x^3) = 3x^2$ 이므로

[D]_B = \begin{bmatrix}0 & 1 & 0 & 0\\ 0 & 0 & 2 & 0\\ 0 & 0 & 0 & 3\\ 0 & 0 & 0 & 0\end{bmatrix}, \qquad [D]_B\begin{bmatrix}1\\2\\-1\\3\end{bmatrix} = \begin{bmatrix}2\\-2\\9\\0\end{bmatrix} \;\leftrightarrow\; p'(x) = 2 - 2x + 9x^2.

대각선 바로 위에 1, 2, 3이 놓인다.

[D]_B^4 = 0

: 3차 다항식을 네 번 미분하면 0이다. 이렇게 거듭제곱이 0이 되는 행렬을 멱영 행렬이라 한다.

정리 7.5 (합성은 행렬 곱)

T: U\to V

S: V\to W

가 선형이고

U, V, W

의 기저가

A, B, C

이면

[S\circ T]_{C\leftarrow A} = [S]_{C\leftarrow B}[T]_{B\leftarrow A}

증명. $[S(T\mathbf{u})]_C = [S]_{C\leftarrow B}[T\mathbf{u}]_B = [S]_{C\leftarrow B}[T]_{B\leftarrow A}[\mathbf{u}]_A$ . 모든 $\mathbf{u}$ 에 대해 성립한다. ∎ 예를 들어 두 번 미분은 $[D]_B^2$ 이다.

기저를 바꾸면 미분의 행렬도 바뀔까요? 아래 시뮬레이터에서 기저를 $x = 1$ 근처의 테일러 기저 $(1, (x-1), (x-1)^2, (x-1)^3)$ 로 바꿔 보세요. 다항식의 좌표는 완전히 달라지지만, 미분 $D$ 의 행렬은 놀랍게도 그대로입니다. $\frac{d}{dx}(x-1)^k = k(x-1)^{k-1}$ 이 $\frac{d}{dx}x^k = kx^{k-1}$ 과 모양이 같기 때문입니다. 반면 $x\,\frac{d}{dx}$ 는 단항식 기저에서 대각 행렬 $\operatorname{diag}(0,1,2,3)$ 이지만 테일러 기저에서는 대각이 아닙니다. 어떤 기저가 "좋은가"는 변환에 따라 다릅니다.

SIMULATOR

다항식 공간의 선형 사상

a₀ (상수항) a₁ (x) a₂ (x²) a₃ (x³)

사상 T

기저

[p]_B—

[T]_B—

[T p]_B—

p(x)T p(x)

해볼 것: ① d/dx에서 기저를 바꿔 보세요. [p]_B는 바뀌지만 [D]_B는 그대로입니다. ② x·d/dx로 바꾸면 단항식 기저에서는 대각 행렬이지만 테일러 기저에서는 아닙니다. 두 행렬은 닮았습니다(대각합 6, 행렬식 0). ③ a₁, a₂, a₃을 0으로 두면 d/dx의 결과가 0입니다. 상수 다항식이 미분의 핵입니다. 모델: 3차 이하 실계수 다항식, [T]_B = S⁻¹ M S (S는 기저 다항식의 단항식 계수를 열로 세운 행렬).

정의 7.5·정리 7.6 (동형 사상) 선형 사상

T: V\to W

가 일대일이고 위로의 함수이면 동형 사상(isomorphism)이라 하고, 그런 사상이 있으면

V

와

W

는 동형이라 한다. 차원이

n

인 모든 벡터 공간

V

는

\mathbb{R}^n

과 동형이다.

증명. 기저 $B$ 를 하나 잡고 좌표 사상 $\mathbf{v}\mapsto[\mathbf{v}]_B$ 를 생각한다. 좌표의 정의에서 선형이고, 정리 7.1에 의해 일대일, 모든 숫자 목록 $(c_1,\dots,c_n)$ 이 $\sum c_i\mathbf{b}_i$ 의 좌표이므로 위로의 함수다. ∎

이 정리 덕분에 다항식, 신호, 행렬처럼 "화살표가 아닌" 벡터도 기저만 고르면 $\mathbb{R}^n$ 의 숫자 목록과 행렬 계산으로 다룰 수 있다. 컴퓨터가 모든 선형대수를 숫자 배열로 하는 근거다.

핵과 상: 무엇이 사라지고 무엇이 남나

측정값에서 원래 신호를 되찾을 수 있을까

3차원 물체를 카메라로 찍으면 깊이 정보가 사라집니다. 같은 광선 위의 점은 모두 같은 화소에 찍히니까요. 선형 사상에서 이렇게 "보이지 않게 되는" 입력을 모은 것이 핵이고, 실제로 나올 수 있는 출력을 모은 것이 상입니다. 둘의 크기 사이에는 정확한 저울이 있습니다.

정의 7.6 (핵과 상) 선형 사상

T: V\to W

에 대해

\ker T = \{\mathbf{v}\in V : T(\mathbf{v}) = \mathbf{0}\}, \qquad \operatorname{im} T = \{T(\mathbf{v}) : \mathbf{v}\in V\}

를 각각

T

의 핵(kernel, null space)과 상(image, range)이라 한다. 핵은

V

의, 상은

W

의 부분공간이다. 행렬

A

로 말하면 핵은 영공간

N(A)

, 상은 열공간

C(A)

다(5장).

정리 7.7 (계수–퇴화차수 정리, 차원 정리)

V

가 유한 차원이면

\dim\ker T + \dim\operatorname{im} T = \dim V.

증명 아이디어. $\ker T$ 의 기저 $\mathbf{k}_1,\dots,\mathbf{k}_r$ 을 $V$ 전체의 기저 $\mathbf{k}_1,\dots,\mathbf{k}_r,\mathbf{u}_1,\dots,\mathbf{u}_s$ 로 늘린다. $T(\mathbf{k}_i) = \mathbf{0}$ 이므로 상은 $T(\mathbf{u}_1),\dots,T(\mathbf{u}_s)$ 가 생성한다. 이들이 독립임을 보이면 $\dim\operatorname{im}T = s$ 이고 $r + s = \dim V$ 이다. $\sum c_jT(\mathbf{u}_j) = \mathbf{0}$ 이면 $\sum c_j\mathbf{u}_j\in\ker T$ 이므로 $\mathbf{k}_i$ 들의 결합인데, 전체가 기저이므로 모든 $c_j = 0$ 이다. ∎ (6장에서 행렬의 언어로 다시 증명한다.)

따름정리. $T$ 가 일대일 $\iff \ker T = \{\mathbf{0}\}$ . 이유: $T\mathbf{u} = T\mathbf{v} \iff T(\mathbf{u}-\mathbf{v}) = \mathbf{0}$ . 특히 $\dim V = \dim W$ 이면 일대일, 위로, 동형이 모두 같은 조건이다.

미분 $D: \mathcal{P}_3\to\mathcal{P}_3$ 으로 확인해 봅시다. 핵은 상수 다항식(1차원), 상은 2차 이하 다항식(3차원), 합은 $1 + 3 = 4 = \dim\mathcal{P}_3$ 입니다. 미분은 상수항을 잊어버리고, 그래서 적분에는 " $+C$ "가 붙습니다. 적분 상수는 미분의 핵을 되돌릴 수 없다는 고백입니다.

SIMULATOR

사라지는 방향, 남는 방향

입력 공간: 핵(빨강)

출력 공간: 상(보라)

행렬 A

프리셋

dim ker A—

dim im A (계수)—

합 = dim ℝ²—

일대일? 위로?—

해볼 것: ① 왼쪽의 x를 끌어 보세요. 계수 1인 행렬에서는 x를 지나 핵과 평행한 점선 위의 모든 점이 오른쪽 같은 점 Ax로 갑니다. 그래서 Ax만 보고 x를 되찾을 수 없습니다. ② '가역'에서는 핵이 원점 하나, 상이 평면 전체입니다. ③ 행렬 칸을 고쳐 열 하나를 다른 열의 배수로 만들면 상이 직선으로 줄고 핵이 나타납니다. 모델: 점 묶음은 −3…3 격자점, 색은 입력 점의 방향(각도)입니다.

응용: 색 공간, 좌표계, 결정 격자

사진에서 무엇을 버려야 눈치채지 못할까

사진 한 장의 데이터를 반으로 줄여야 합니다. R, G, B 중 하나의 해상도를 줄이면 그 색 성분이 많은 경계에서 색과 밝기가 함께 번집니다. 숫자를 버리기 전에, 눈이 예민한 정보와 둔한 정보가 서로 다른 좌표에 담기도록 기저를 바꿀 수는 없을까요?

JPEG 파일 형식(JFIF)은 ITU-R BT.601 표준의 계수로 RGB를 밝기 $Y$ 와 두 색차 $C_b, C_r$ 로 바꿉니다. 8비트 값(0–255) 기준으로

\begin{bmatrix}Y\\ C_b\\ C_r\end{bmatrix} = \begin{bmatrix}0.299 & 0.587 & 0.114\\ -0.168736 & -0.331264 & 0.5\\ 0.5 & -0.418688 & -0.081312\end{bmatrix}\begin{bmatrix}R\\ G\\ B\end{bmatrix} + \begin{bmatrix}0\\ 128\\ 128\end{bmatrix}.

Y

의 계수는 초록에 가장 크다. 사람 눈의 밝기 감도가 초록 근처에서 가장 높기 때문이다.

C_b, C_r

의 각 행은 합이 0이라서, 회색(

R = G = B

)이면 색차가 정확히 128(중립)이 된다. 상수 128은 음수가 나오지 않게 옮긴 것이고, 이 때문에 엄밀히는 아핀 변환이다. 선형 부분은 3×3 행렬이다.

역변환은 $R = Y + 1.402(C_r - 128)$ , $G = Y - 0.344136(C_b - 128) - 0.714136(C_r - 128)$ , $B = Y + 1.772(C_b - 128)$ 입니다. 이 계수들이 위 3×3 행렬의 역행렬(반올림한 값)이라는 것을 확인해 볼 수 있습니다. 행렬의 행 하나하나를 "새 기저로 잰 성분을 얻는 내적"으로 읽으면, 이 변환은 색 공간의 좌표축을 밝기 축 하나와 색 축 둘로 돌려 세운 것입니다.

예제 7.4 · 주황색 하나 변환하기

(R, G, B) = (200, 100, 50)

을 YCbCr로 바꿔라.

풀이. $Y = 0.299\cdot200 + 0.587\cdot100 + 0.114\cdot50 = 59.8 + 58.7 + 5.7 = 124.2$ . $C_b = 128 - 33.747 - 33.126 + 25 = 86.13$ . $C_r = 128 + 100 - 41.869 - 4.066 = 182.07$ . 밝기는 중간 정도, $C_b < 128$ (파랑이 적다), $C_r > 128$ (빨강이 많다). 주황이 맞다.

SIMULATOR

RGB ↔ YCbCr 변환기

원래 색

Y만 (흑백 사진)

색차만 (Y = 128 고정)

R G B

Y (밝기)—

Cb (파랑 − 밝기)—

Cr (빨강 − 밝기)—

역변환으로 되돌린 RGB—

해볼 것: ① R = G = B로 맞추면 Cb = Cr = 128입니다. 회색은 색차 축의 원점입니다. ② 순수한 초록(0, 255, 0)과 파랑(0, 0, 255)의 Y를 비교해 보세요. 같은 "최대 밝기"여도 눈에는 초록이 훨씬 밝습니다. ③ 되돌린 RGB가 원래 값과 소수점 아래까지 같습니다. 기저 변환은 정보를 잃지 않습니다. 모델: JFIF(BT.601) 전범위 공식, 표시할 때만 0–255로 자릅니다.

기저 변환 자체는 정보를 하나도 잃지 않습니다. 이득은 그다음에 옵니다. 밝기 $Y$ 는 모든 화소에서 그대로 두고, 색차 $C_b, C_r$ 만 2×2 화소 묶음마다 평균 하나로 줄이는 것이 4:2:0 색차 부표본화(chroma subsampling)입니다. 아래에서 같은 양의 숫자를 YCbCr에서 버릴 때와 RGB에서 버릴 때를 비교해 보세요.

SIMULATOR

어느 좌표에서 버릴 것인가: 색차 부표본화

버리는 좌표계

묶음 크기

화소당 표본 수—

PSNR · YCbCr에서 버림—

PSNR · RGB에서 버림—

해볼 것: ① 2×2에서 두 좌표계의 PSNR(높을수록 원본에 가깝다)을 비교해 보세요. 버린 숫자의 양은 같습니다. ② 'RGB'로 바꾸고 오차 그림을 보면 글자와 줄무늬의 경계, 즉 밝기가 바뀌는 곳에 오차가 몰립니다. YCbCr에서는 밝기가 온전해 오차가 색 경계에만 남습니다. ③ 4×4로 키워도 YCbCr 쪽 사진은 형태가 또렷합니다. 모델: 합성 시험 그림(160×100), 묶음 평균 후 최근접 복원, 오차는 5배로 확대해 표시. 실제 JPEG는 여기에 DCT와 양자화를 더합니다.

그림 7-5. 결정의 격자 기저. 격자점은 a₁, a₂의 정수 결합이고, 원자 위치는 이 기저에 대한 분수 좌표로 적는다. 데카르트 좌표로 바꾸는 것은 x = P[x]_B 한 번이다. 결정 구조 데이터 파일(CIF)도 원자 위치를 이렇게 격자 벡터에 대한 분수 좌표로 저장한다.

로봇 공학과 컴퓨터 비전에서는 기저 변환이 매 순간 일어납니다. 로봇의 각 관절, 손끝의 공구, 카메라, 작업대는 저마다 자기 좌표계(프레임)를 가지고, 한 프레임의 좌표를 다른 프레임으로 옮기는 회전 행렬과 평행이동이 2장의 동차 행렬로 이어집니다. 카메라가 본 물체 위치를 로봇 손끝 기준으로 바꾸는 일은 정리 7.2의 $P_{C\leftarrow B} = P_C^{-1}P_B$ 를 동차 행렬로 쓴 것이고, 회전 부분이 직교 행렬이라 역행렬이 전치로 끝납니다. 2장의 동차 좌표 절과 함께 읽으세요.

이 도구가 쓰이는 곳

"문제에 맞는 기저를 골라라"는 선형대수 전체에서 가장 자주 반복되는 전략입니다.

LINEARBOOK · 11장고유 기저와 대각화
변환이 늘이기만 하는 방향을 기저로 쓰면 A = PDP⁻¹. 이 장의 좋은 기저를 체계적으로 찾는 법. LINEARBOOK · 14장특이값 분해
입력과 출력에 서로 다른 직교 기저를 쓰면 어떤 행렬도 대각 행렬이 된다. LINEARBOOK · 15장주성분 분석
데이터가 가장 넓게 퍼진 방향을 기저로. 기저를 바꾼 뒤 작은 성분을 버리는 것은 JPEG와 같은 발상이다. MATHBOOK카메라 색 보정 행렬
센서 RGB를 표준 RGB로 옮기는 3×3 행렬. 이 장의 YCbCr와 같은 색 공간의 기저 변환. MATHBOOK푸리에 기저
신호를 사인파 기저로 다시 쓰면 필터는 대각 행렬이 된다. JPEG의 DCT도 기저 변환이다. SENSORBOOK이미지 센서의 색 처리
베이어 배열, 색 보간, 색 공간 변환이 이어지는 영상 신호 처리 파이프라인. 고체물리결정 구조와 역격자
격자 기저에 대한 분수 좌표, 밀러 지수, 역격자 벡터.

핵심 정리

좌표는 기저에 대한 상대적 숫자다. 기저의 생성 조건은 좌표가 있음을, 독립 조건은 좌표가 하나뿐임을 보장한다.
기저 변환: $\mathbf{x} = P_B[\mathbf{x}]_B$ , $[\mathbf{x}]_B = P_B^{-1}\mathbf{x}$ , 두 비표준 기저 사이는 $P_{C\leftarrow B} = P_C^{-1}P_B$ . 직교 기저면 역행렬은 전치다.
기저 $B$ 에서 본 변환: $[T]_B$ 의 $j$ 열은 $[T(\mathbf{b}_j)]_B$ 이고, $[T]_B = P^{-1}AP$ 다.
닮은 행렬은 같은 변환의 다른 기록이며, 행렬식·대각합·계수·특성 다항식(고유값)이 같다. 불변량이 다르면 닮지 않았다.
좋은 기저를 고르면 $A = PDP^{-1}$ , $A^k = PD^kP^{-1}$ . 비스듬한 반사는 $\operatorname{diag}(1,-1)$ 이다. 회전·전단처럼 실수 대각화가 안 되는 변환도 있다.
다항식처럼 화살표가 아닌 공간도 기저를 고르면 $\mathbb{R}^n$ 과 동형이다. 미분은 대각선 바로 위에 1, 2, 3이 놓인 행렬이고, 합성은 행렬 곱이다.
핵은 사라지는 입력, 상은 나올 수 있는 출력. $\dim\ker T + \dim\operatorname{im}T = \dim V$ , 일대일 $\iff \ker T = \{\mathbf{0}\}$ .
JPEG: RGB → YCbCr 기저 변환은 정보를 잃지 않지만, 밝기와 색을 다른 좌표로 나눠 색차만 줄일 수 있게 한다.

확인 퀴즈

Q1. $\mathbf{b}_1 = (1, 0)$ , $\mathbf{b}_2 = (1, 1)$ 일 때 $\mathbf{x} = (3, 2)$ 의 좌표 $[\mathbf{x}]_B$ 는?

c_1(1,0) + c_2(1,1) = (c_1 + c_2, c_2) = (3, 2)

에서

c_2 = 2

c_1 = 1

. 확인:

1\cdot(1,0) + 2\cdot(1,1) = (3,2)

. (5, 2)는

P_B

를 좌표 (3, 2)에 곱한 것으로, 방향을 거꾸로 쓴 실수다.

Q2. 기저 행렬 $P_B = [\mathbf{b}_1\ \mathbf{b}_2]$ 는 어느 방향의 변환인가?

P_B[\mathbf{x}]_B = c_1\mathbf{b}_1 + c_2\mathbf{b}_2 = \mathbf{x}

. 좌표만큼 기저 벡터를 더하면 실제 화살표가 나온다. 표준 → B 방향은

P_B^{-1}

이다.

Q3. $A$ 와 $B = P^{-1}AP$ 에 대해 항상 같다고 할 수 없는 것은?

행렬식·대각합·고유값·계수는 기저에 무관한 변환 자체의 성질이라 같다. 개별 원소는 좌표계에 따라 얼마든지 바뀐다. 시뮬레이터에서 기저를 바꿔 보면 원소는 모두 바뀌지만 tr·det·rank는 그대로였다.

Q4. 직선 $y = x$ 에 대한 반사를 기저 $\mathbf{b}_1 = (1, 1)$ , $\mathbf{b}_2 = (1, -1)$ 로 쓴 행렬은?

\mathbf{b}_1

은 거울 위에 있어 그대로(

+1

\mathbf{b}_2

는 거울에 수직이라 뒤집힌다(

-1

). 첫째 보기는 같은 반사의 표준 행렬이다. 두 행렬은 닮았다: 대각합 0, 행렬식 −1로 같다.

Q5. 기저 $(1, x, x^2, x^3)$ 에서 미분 $D$ 의 행렬로 다항식 $p = 2 + x^3$ 을 미분한 결과의 좌표는?

p' = 3x^2

이므로 좌표는

x^2

칸에 3: (0, 0, 3, 0). 행렬로는 4열(=

x^3

의 미분

3x^2

)에 1을 곱한 것이다. 상수 2는 미분의 핵에 속해 사라진다.

Q6. 선형 사상 $T: \mathbb{R}^5\to\mathbb{R}^3$ 의 상이 $\mathbb{R}^3$ 전체이다. $\dim\ker T$ 는?

계수–퇴화차수 정리:

\dim\ker T = \dim V - \dim\operatorname{im}T = 5 - 3 = 2

. 입력이 출력보다 큰 공간이면 핵이 반드시 생긴다. 즉

\mathbb{R}^5\to\mathbb{R}^3

선형 사상은 절대 일대일일 수 없다.

Q7. JPEG가 색차 부표본화 전에 RGB를 YCbCr로 바꾸는 가장 중요한 이유는?

기저 변환은 숫자 3개를 숫자 3개로 바꿀 뿐이고 역변환으로 되돌릴 수 있어 그 자체로는 압축이 아니다. 이득은 정보를 "버려도 되는 축"에 모은 다음 그 축의 해상도만 줄일 때 생긴다. 시뮬레이터에서 같은 양을 RGB에서 버리면 PSNR이 더 낮았다.

Q8. 30° 회전 행렬 $R$ 에 대해 $P^{-1}RP$ 가 실수 대각 행렬이 되는 실수 가역 행렬 $P$ 는?

대각 행렬이 되려면

R\mathbf{b} = \lambda\mathbf{b}

인, 즉 방향이 그대로인 실수 벡터

\mathbf{b}

가 두 개 있어야 한다. 30° 회전은 모든 0이 아닌 벡터의 방향을 바꾸므로 그런 벡터가 없다. 고유값이 복소수

e^{\pm i\pi/6}

이기 때문이며, 11장에서 다룬다.