Chapter 05

벡터 공간과 부분공간

3장에서 소거는 "해가 하나 있다"는 행복한 경우를 주로 다뤘습니다. 그런데 공학 문제는 자주 그렇지 않습니다. 식보다 미지수가 많은 교통망, 계수가 정해지지 않는 화학 반응식, 측정값이 남는 센서 배열에서는 해가 무수히 많거나 아예 없습니다. 이때 묻는 질문이 바뀝니다. "해가 무엇인가"가 아니라 "해들이 모인 집합은 어떤 모양인가", 그리고 "어떤 우변이면 풀리는가". 답은 두 집합, 열공간과 영공간입니다. 이 장에서는 먼저 "더하고 늘일 수 있는 것"이면 무엇이든 벡터로 다루는 벡터 공간의 언어를 세우고, 원점을 지나는 평평한 부분집합인 부분공간을 판정하는 법을 익힌 뒤, 소거를 끝까지 밀어붙인 기약 행 사다리꼴(RREF)로 $A\mathbf{x} = \mathbf{b}$ 의 모든 해를 한 줄에 적습니다.

벡터 공간의 공리를 알고, 다항식·함수·행렬·표본화한 신호가 벡터 공간을 이룬다는 것을 확인한다.
부분공간의 세 조건(영벡터 포함, 덧셈과 스칼라배에 닫힘)으로 주어진 집합이 부분공간인지 판정하고, 원점을 지나지 않는 직선·평면이 왜 부분공간이 아닌지 설명한다.
열공간 $C(A)$ 를 " $A\mathbf{x}$ 가 닿을 수 있는 모든 곳"으로 이해하고, $A\mathbf{x} = \mathbf{b}$ 가 풀릴 조건이 $\mathbf{b} \in C(A)$ 임을 안다.
영공간 $N(A)$ 가 부분공간임을 증명하고, $A$ 의 행과 영공간의 벡터가 서로 수직임을 그림으로 본다.
행렬을 기약 행 사다리꼴 $R$ 로 바꾸고 피벗 변수·자유 변수를 구별해, 특수해로 영공간을 생성한다.
$A\mathbf{x} = \mathbf{b}$ 의 완전한 해를 $\mathbf{x} = \mathbf{x}_p + \mathbf{x}_n$ 으로 쓰고, 교통망의 흐름 보존 문제에서 영공간이 "순환 흐름"임을 해석한다.

이 수식이 없었다면균형 맞춘 화학 반응식

프로페인이 타는 반응 $x_1\,\mathrm{C_3H_8} + x_2\,\mathrm{O_2} \to x_3\,\mathrm{CO_2} + x_4\,\mathrm{H_2O}$ 의 계수를 맞춰야 한다고 합시다. 원자는 생기지도 사라지지도 않으므로 원소마다 "왼쪽 개수 = 오른쪽 개수"라는 식이 하나씩 나옵니다. 탄소 $3x_1 = x_3$ , 수소 $8x_1 = 2x_4$ , 산소 $2x_2 = 2x_3 + x_4$ . 식이 셋, 미지수가 넷입니다. 이 연립방정식에는 해가 하나가 아니라 무수히 많습니다. $(1, 5, 3, 4)$ 가 해이면 $(2, 10, 6, 8)$ 도 해입니다.

이 "무수히 많은 해"는 아무렇게나 흩어져 있지 않습니다. 모두 우변이 0인 식 $A\mathbf{x} = \mathbf{0}$ 의 해이고, 서로 더하거나 몇 배를 해도 여전히 해입니다. 즉 원점을 지나는 직선 하나, 영공간입니다. 화학 교과서의 "가장 작은 정수 계수"는 이 직선 위에서 성분이 모두 정수인 가장 짧은 점을 고른 것일 뿐입니다. 반응이 더 복잡해 영공간이 평면이 되면, 서로 독립인 반응이 둘 섞여 있다는 뜻이 됩니다.

원소마다 개수 보존→미지수 > 식→영공간 N(A)→해 전체 = 직선·평면→정수 계수 고르기

벡터 공간: 더하고 늘일 수 있는 모든 것

신호, 다항식, 사진도 벡터일까

1장에서 벡터를 "숫자 n개의 목록"으로 정했습니다. 그런데 오디오 편집기는 두 소리를 더하고(믹싱) 볼륨을 바꿉니다(상수배). 사진 편집기는 두 사진을 섞고 밝기를 바꿉니다. 수치 해석은 두 다항식을 더하고 상수배합니다. 대상은 다르지만 쓰는 연산은 똑같습니다. 그렇다면 이것들에 선형대수를 그대로 쓸 수 있을까요?

쓸 수 있습니다. 선형대수가 실제로 쓰는 것은 "숫자 목록"이라는 겉모습이 아니라 덧셈과 스칼라배가 지키는 규칙뿐이기 때문입니다. 그 규칙을 모은 것이 벡터 공간의 정의입니다.

정의 5.1 (벡터 공간) 집합

V

에 덧셈

\mathbf{u} + \mathbf{v}

와 실수배

c\mathbf{v}

가 정의되어 결과가 다시

V

에 있고, 모든

\mathbf{u}, \mathbf{v}, \mathbf{w} \in V

c, d \in \mathbb{R}

에 대해 다음 여덟 가지가 성립하면

V

를 (실수) 벡터 공간(vector space)이라 한다.

$\mathbf{u} + \mathbf{v} = \mathbf{v} + \mathbf{u}$ 2. $(\mathbf{u} + \mathbf{v}) + \mathbf{w} = \mathbf{u} + (\mathbf{v} + \mathbf{w})$
영벡터 $\mathbf{0}$ 이 있어 $\mathbf{v} + \mathbf{0} = \mathbf{v}$ 4. 각 $\mathbf{v}$ 마다 $-\mathbf{v}$ 가 있어 $\mathbf{v} + (-\mathbf{v}) = \mathbf{0}$
$1\mathbf{v} = \mathbf{v}$ 6. $(cd)\mathbf{v} = c(d\mathbf{v})$
$c(\mathbf{u} + \mathbf{v}) = c\mathbf{u} + c\mathbf{v}$ 8. $(c + d)\mathbf{v} = c\mathbf{v} + d\mathbf{v}$

이 규칙을 만족하는 원소를 그 공간의 벡터라 부른다. 화살표일 필요가 없다.

규칙 목록은 길지만 확인은 대개 싱겁습니다. 성분마다 더하고 곱하는 한, 여덟 규칙은 실수의 성질에서 그대로 따라오기 때문입니다. 중요한 것은 결과가 다시 같은 집합에 들어가는가(닫혀 있는가)입니다.

공간	벡터 하나	덧셈 · 스칼라배	영벡터	쓰이는 곳
$\mathbb{R}^n$	$(v_1, \dots, v_n)$	성분마다	$(0, \dots, 0)$	좌표, 측정값 묶음
$\mathcal{P}_3$ (3차 이하 다항식)	$a_0 + a_1t + a_2t^2 + a_3t^3$	계수마다	영 다항식 0	보간, 궤적 계획, 필터 설계
$C[0, 1]$ (연속 함수)	$f(t)$	$(f + g)(t) = f(t) + g(t)$	$f(t) = 0$	미분방정식의 해, 푸리에 급수
$\mathbb{R}^{2\times 2}$ (행렬)	$\begin{bmatrix}a & b\\ c & d\end{bmatrix}$	칸마다	영행렬	변환 자체를 하나의 대상으로
표본화한 신호	$(x[0], \dots, x[N-1])$	샘플마다(믹싱, 볼륨)	무음	오디오, 센서 로그

그림 5-1. 2차 이하 다항식은 곡선으로 그리면 "함수"이지만, 계수 세 개만 적으면 ℝ³의 벡터와 똑같이 더해지고 늘어난다. 그래서 다항식 보간, 최소제곱 곡선 적합 같은 문제가 모두 행렬 문제로 바뀐다.

왜 굳이 추상화하나 1–4장에서 얻은 정리는 모두 덧셈과 스칼라배만으로 증명되었습니다. 그러니 다항식이든 신호든 같은 정리가 그대로 성립합니다. 예를 들어 "

n

개를 넘는 벡터는 종속"(1장)은

\mathcal{P}_3

에서 "다항식 다섯 개는 반드시 하나가 나머지의 결합"이 됩니다(

\mathcal{P}_3

의 차원은 4). 한 번 증명하고 여러 곳에서 쓰는 것, 이것이 추상화의 값어치입니다.

부분공간: 원점을 지나는 평평한 집합

해들의 집합도 공간일까

화학 반응식의 해 $(1, 5, 3, 4)$ 와 $(2, 10, 6, 8)$ 를 더하면 $(3, 15, 9, 12)$ 도 해입니다. 해 전체가 $\mathbb{R}^4$ 안에서 "더하고 늘여도 빠져나가지 않는" 작은 공간을 이룬다는 뜻입니다. 이런 집합을 어떻게 알아보고, 무엇이라 부를까요?

정의 5.2 (부분공간) 벡터 공간

V

의 부분집합

S

가 같은 덧셈과 스칼라배로 그 자체 벡터 공간이 되면

S

를

V

의 부분공간(subspace)이라 한다.

정리 5.1 (부분공간 판정)

V

의 부분집합

S

가 부분공간일 필요충분조건은 다음 셋이다.

$\mathbf{0} \in S$
$\mathbf{u}, \mathbf{v} \in S \Rightarrow \mathbf{u} + \mathbf{v} \in S$ (덧셈에 닫힘)
$\mathbf{v} \in S,\ c \in \mathbb{R} \Rightarrow c\mathbf{v} \in S$ (스칼라배에 닫힘)

증명의 요지. 여덟 공리 가운데 교환·결합·분배 법칙은 $V$ 에서 이미 성립하므로 $S$ 에서도 저절로 성립한다. 남는 것은 "결과가 $S$ 안에 있는가"와 영벡터·역원의 존재다. 조건 3에서 $c = -1$ 로 두면 $-\mathbf{v} \in S$ 이고, 조건 1이 영벡터를 준다. 두 닫힘 조건은 한 줄로 " $c\mathbf{u} + d\mathbf{v} \in S$ " (선형 결합에 닫힘)이라고 써도 같다.

그림으로 말하면 $\mathbb{R}^2$ 의 부분공간은 셋뿐입니다. 원점 하나 $\{\mathbf{0}\}$ , 원점을 지나는 직선, 평면 전체. $\mathbb{R}^3$ 이면 여기에 원점을 지나는 평면이 더해집니다. 원점을 지나지 않는 직선은 조건 1에서 탈락하고, 사분면이나 원판은 평평하지만 스칼라배(음수배, 큰 배수)에서 밖으로 빠져나갑니다.

그림 5-2. 원점을 지나는 직선만 부분공간이다. 원점을 지나지 않는 직선은 영벡터가 없고, 제1사분면은 음수배에서, 두 축의 합집합은 덧셈에서 밖으로 나간다(축 위의 u와 v를 더하면 축 위에 있지 않다).

아래 시뮬레이터에서 집합 S를 고르고, S 안에서 두 점 u, v를 끌어 보세요. 점은 S 안에서만 움직입니다. u + v와 c·u가 S 밖으로 나가는 순간 빨갛게 변합니다.

SIMULATOR

부분공간 판정기: 더하고 늘여도 남아 있나

u, v를 S 안에서 끌어 보세요

집합 S 스칼라 c

0 ∈ S ?—

u + v ∈ S ?—

c·u ∈ S ?—

판정—

해볼 것: ① '원점을 지나는 직선'에서 u, v, c를 아무리 바꿔도 셋 다 초록입니다. ② '제1사분면'은 u + v는 늘 안에 있지만 c를 음수로 내리면 c·u가 빠져나갑니다. ③ '원판'은 원점을 포함하고 −1배에도 닫혀 있지만, 큰 c나 바깥쪽 u + v에서 실패합니다. '반례 찾기'는 조건을 깨는 u, v, c를 자동으로 골라 줍니다. 모델: 판정은 지금 보이는 u, v, c에 대한 것이고, 부분공간이려면 모든 u, v, c에서 성립해야 합니다.

정리 5.2 (생성은 부분공간) 벡터

\mathbf{v}_1, \dots, \mathbf{v}_k \in V

의 생성

\mathrm{span}\{\mathbf{v}_1, \dots, \mathbf{v}_k\}

은

V

의 부분공간이며, 이 벡터들을 모두 포함하는 가장 작은 부분공간이다.

증명. $\mathbf{0} = 0\mathbf{v}_1 + \dots + 0\mathbf{v}_k$ . 두 결합 $\sum a_i\mathbf{v}_i$ 와 $\sum b_i\mathbf{v}_i$ 의 합은 $\sum (a_i + b_i)\mathbf{v}_i$ , 상수배는 $\sum (ca_i)\mathbf{v}_i$ 로 다시 결합이다. 또 $\mathbf{v}_i$ 들을 포함하는 부분공간은 닫힘 조건 때문에 그 결합을 모두 포함해야 하므로, 생성보다 작을 수 없다.

이 정리 덕분에 "부분공간을 하나 주세요"라는 요구에는 언제나 "벡터 몇 개를 주고 그 생성을 취하라"로 답할 수 있습니다. 이제 행렬 하나가 자연스럽게 주는 부분공간 두 개를 만나 봅시다.

열공간: Ax가 닿을 수 있는 모든 곳

센서 세 개, 손잡이 두 개

한 공정 장비에 손잡이(가스 유량, 전력)가 두 개 있고, 결과를 재는 센서가 세 개 있다고 합시다. 작동 범위 안에서 손잡이 변화 $\mathbf{x} \in \mathbb{R}^2$ 와 센서 변화 $\mathbf{b} \in \mathbb{R}^3$ 가 선형 관계 $A\mathbf{x} = \mathbf{b}$ 라면, 엔지니어가 원하는 센서 값 $\mathbf{b}$ 를 아무거나 만들 수 있을까요? 손잡이가 둘뿐이니 직관적으로 "아니다"입니다. 그러면 정확히 어떤 $\mathbf{b}$ 를 만들 수 있을까요?

2장의 열 그림을 떠올리면 답이 바로 나옵니다. $A\mathbf{x} = x_1\mathbf{a}_1 + x_2\mathbf{a}_2$ 는 열들의 선형 결합이므로, 만들 수 있는 $\mathbf{b}$ 는 정확히 열들의 생성입니다.

정의 5.3 (열공간)

m \times n

행렬

A

의 열

\mathbf{a}_1, \dots, \mathbf{a}_n

의 생성을 열공간(column space)이라 하고

C(A)

로 쓴다.

C(A) = \mathrm{span}\{\mathbf{a}_1, \dots, \mathbf{a}_n\} = \{\,A\mathbf{x} : \mathbf{x} \in \mathbb{R}^n\,\} \subseteq \mathbb{R}^m

정리 5.2에 의해

C(A)

는

\mathbb{R}^m

의 부분공간이다.

정리 5.3 (풀림 조건)

A\mathbf{x} = \mathbf{b}

에 해가 있을 필요충분조건은

\mathbf{b} \in C(A)

이다.

정의를 다시 읽은 것에 불과하지만 관점이 크게 바뀐다. "해가 있나?"라는 계산 질문이 " $\mathbf{b}$ 가 이 부분공간 안에 있나?"라는 기하 질문이 된다. 위 공정 문제에서 $C(A)$ 는 $\mathbb{R}^3$ 안의 평면(열이 독립일 때)이므로, 그 평면 밖의 센서 목표는 어떤 손잡이 조합으로도 정확히 만들 수 없다. 그럴 때 할 수 있는 최선은 평면 위의 가장 가까운 점을 겨누는 것이고, 그것이 8장의 최소제곱이다.

예제 5.1 · 풀림 조건을 식으로

$A = \begin{bmatrix} 1 & 0 \\ 2 & 1 \\ -1 & 2 \end{bmatrix}$ 일 때 $A\mathbf{x} = \mathbf{b}$ 가 풀리는 $\mathbf{b} = (b_1, b_2, b_3)$ 의 조건을 구하자.

첨가 행렬 $\left[\begin{array}{rr|l} 1 & 0 & b_1 \\ 2 & 1 & b_2 \\ -1 & 2 & b_3 \end{array}\right]$ 을 소거한다. 행 2 − 2·행 1, 행 3 + 행 1 → $\left[\begin{array}{rr|l} 1 & 0 & b_1 \\ 0 & 1 & b_2 - 2b_1 \\ 0 & 2 & b_3 + b_1 \end{array}\right]$ .
행 3 − 2·행 2 → 마지막 행 $[\,0 \ \ 0 \mid b_3 + b_1 - 2(b_2 - 2b_1)\,] = [\,0 \ \ 0 \mid 5b_1 - 2b_2 + b_3\,]$ .
마지막 식은 " $0 = 5b_1 - 2b_2 + b_3$ "이다. 따라서 $5b_1 - 2b_2 + b_3 = 0$ 일 때만 풀린다.

이 조건은 원점을 지나는 평면의 방정식이고, 법선 벡터 $(5, -2, 1)$ 은 두 열 모두와 수직이다(확인: $5 - 4 - 1 = 0$ , $0 - 2 + 2 = 0$ ). 예를 들어 $\mathbf{b} = (1, 4, 3)$ 은 $5 - 8 + 3 = 0$ 이라 풀리고, $\mathbf{b} = (1, 0, 0)$ 은 풀리지 않는다.

SIMULATOR

열공간 C(A): b가 평면 위에 있어야 풀린다

끌어서 돌려 보기

행렬 A (3×2) b₁ b₂ b₃

열 a₁, a₂목표 bx₁a₁ + x₂a₂ (풀릴 때)

C(A)의 모양—

b와 C(A)의 거리—

Ax = b—

해볼 것: ① b₃만 바꾸면 b가 평면을 뚫고 지나가는데, 평면 위에 있는 한 점에서만 '풀림'이 됩니다. ② '내리기'는 b를 평면에 수직으로 떨어뜨립니다(8장 사영의 예고). 그 점에서는 초록 경로 x₁a₁ + x₂a₂가 정확히 b에 닿습니다. ③ '두 열이 평행'에서는 C(A)가 직선으로 줄어 풀리는 b가 훨씬 적어집니다. 모델: 정사영 3D 그림, 거리가 0.01 미만이면 풀린다고 봅니다.

영공간: Ax = 0의 모든 해

보이지 않는 입력

손잡이를 돌렸는데 센서 값이 하나도 안 바뀐다면? 그 조작은 출력에 "보이지 않는" 입력입니다. 저울 세 개로 물건 네 개의 무게를 재면, 어떤 무게 변화 조합은 세 저울 모두에 0으로 찍힙니다. 이런 입력이 있으면 출력만 보고 입력을 유일하게 되찾을 수 없습니다. 보이지 않는 입력 전체는 어떤 모양일까요?

정의 5.4 (영공간)

m \times n

행렬

A

에 대해

A\mathbf{x} = \mathbf{0}

을 만족하는 모든

\mathbf{x}

의 집합을 영공간(null space)이라 하고

N(A)

로 쓴다.

N(A) \subseteq \mathbb{R}^n

이다(열공간은

\mathbb{R}^m

에, 영공간은

\mathbb{R}^n

에 산다는 점에 주의).

정리 5.4

N(A)

는

\mathbb{R}^n

의 부분공간이다.

증명. $A\mathbf{0} = \mathbf{0}$ 이므로 $\mathbf{0} \in N(A)$ . $A\mathbf{u} = \mathbf{0}$ , $A\mathbf{v} = \mathbf{0}$ 이면 행렬 곱의 선형성으로 $A(c\mathbf{u} + d\mathbf{v}) = cA\mathbf{u} + dA\mathbf{v} = \mathbf{0}$ . ∎

반면 $\mathbf{b} \ne \mathbf{0}$ 인 $A\mathbf{x} = \mathbf{b}$ 의 해집합은 부분공간이 아니다. $\mathbf{x} = \mathbf{0}$ 이 해가 아니고, 해 둘을 더하면 $A(\mathbf{x}_1 + \mathbf{x}_2) = 2\mathbf{b}$ 가 되기 때문이다. 이 해집합이 어떤 모양인지는 7절에서 본다.

행 그림으로 보면 영공간은 아주 구체적입니다. $A\mathbf{x} = \mathbf{0}$ 의 i번째 식은 " $A$ 의 i번째 행 $\cdot\ \mathbf{x} = 0$ "입니다. 즉 영공간의 벡터는 $A$ 의 모든 행과 수직입니다. $\mathbb{R}^3$ 에서 행이 하나면 영공간은 그 행에 수직인 평면, 독립인 행이 둘이면 두 평면이 만나는 직선(두 행의 외적 방향), 독립인 행이 셋이면 원점 하나입니다.

예제 5.2 · 화학 반응식의 영공간

머리말의 프로페인 연소에서 미지수 순서를 $(x_1, x_2, x_3, x_4)$ = (C₃H₈, O₂, CO₂, H₂O)로 두고, 원소별 식을 "왼쪽 − 오른쪽 = 0"으로 쓰면

\underbrace{\begin{bmatrix} 3 & 0 & -1 & 0 \\ 8 & 0 & 0 & -2 \\ 0 & 2 & -2 & -1 \end{bmatrix}}_{A\ (\text{행} = \mathrm{C, H, O})} \begin{bmatrix} x_1 \\ x_2 \\ x_3 \\ x_4 \end{bmatrix} = \mathbf{0}.

1행에서 $x_3 = 3x_1$ , 2행에서 $x_4 = 4x_1$ .
3행에 넣으면 $2x_2 = 2x_3 + x_4 = 6x_1 + 4x_1$ , 즉 $x_2 = 5x_1$ .
따라서 $N(A) = \{\, t(1, 5, 3, 4) : t \in \mathbb{R} \,\}$ , $\mathbb{R}^4$ 안의 직선이다.

가장 작은 양의 정수 해 $t = 1$ 이 교과서의 $\mathrm{C_3H_8} + 5\,\mathrm{O_2} \to 3\,\mathrm{CO_2} + 4\,\mathrm{H_2O}$ 다. 영공간이 직선(1차원)이라는 사실이 "계수비가 하나로 정해진다"는 뜻이다.

SIMULATOR

영공간은 모든 행에 수직이다

끌어서 돌려 보기

A의 행 (m×3)

2행 사용 preset s (첫 기저) t (둘째 기저)

A의 행N(A)x ∈ N(A)

dim N(A) = 3 − (독립인 행 수)—

x—

(행 1)·x, (행 2)·x—

해볼 것: ① 기본 상태에서 s를 움직이면 초록 벡터가 직선 N(A) 위를 오가고, 두 행과의 내적은 늘 0입니다. ② 2행을 1행의 2배로 고치면(또는 '평행한 두 행') 둘째 행이 새 정보를 주지 못해 N(A)가 평면으로 커집니다. ③ '2행 사용'을 끄면 행 하나에 수직인 평면이 됩니다. 모델: 정사영 3D 그림, 행이 평행한지는 외적의 크기가 10⁻⁹ 미만인지로 판정합니다.

사다리꼴과 기약 행 사다리꼴(RREF)

정사각이 아니면 소거는 어디서 멈추나

3장의 소거는 정사각 행렬에서 피벗이 n개 나오는 경우를 주로 다뤘습니다. 화학 반응식처럼 3×4이거나, 어떤 열 아래가 모두 0이라 피벗이 없으면 어떻게 할까요? 답: 멈추지 말고 다음 열로 넘어간다. 그 결과 생기는 계단 모양이 해의 구조를 그대로 보여 줍니다.

정의 5.5 (행 사다리꼴, 피벗 열) 행렬이 다음을 만족하면 행 사다리꼴(row echelon form)이라 한다. ① 0인 행은 모두 맨 아래에 있다. ② 각 0 아닌 행의 첫 0 아닌 원소(피벗)는 위 행의 피벗보다 오른쪽에 있다. 피벗이 있는 열을 피벗 열(pivot column), 없는 열을 자유 열이라 하며, 해당 미지수를 각각 피벗 변수와 자유 변수(free variable)라 한다.

정의 5.6 (기약 행 사다리꼴) 행 사다리꼴에서 더 나아가 ③ 모든 피벗이 1이고 ④ 각 피벗의 위아래가 모두 0이면 기약 행 사다리꼴(reduced row echelon form, RREF)이라 하고

R = \mathrm{rref}(A)

로 쓴다.

그림 5-3. 왼쪽: 행 사다리꼴은 피벗이 계단처럼 오른쪽 아래로 내려간다. 계단이 한 칸에 두 열 이상 건너뛰면 건너뛴 열이 자유 열이다. 오른쪽: RREF에서는 피벗이 1이고 피벗 열은 단위 벡터가 되므로, 자유 열의 숫자 a, b, c가 곧 해의 공식이 된다.

RREF를 만드는 절차는 소거에 두 단계를 더한 것입니다. (1) 왼쪽 열부터 피벗을 찾고(없으면 그 열을 자유 열로 두고 넘어감), (2) 피벗 행을 피벗으로 나눠 1로 만들고, (3) 피벗 위아래 모두를 0으로 만든다. 이를 가우스–조르당 소거라 부르기도 합니다(4장 가우스–조르당에서 역행렬을 구할 때 쓴 바로 그 절차입니다).

정리 5.5 (RREF의 유일성) 어떤 행 연산 순서를 택하더라도

A

의 기약 행 사다리꼴은 하나뿐이다. 따라서 피벗 열의 위치와 개수도

A

만으로 정해진다.

아이디어. 행 연산은 $A\mathbf{x} = \mathbf{0}$ 의 해집합 $N(A)$ 를 바꾸지 않는다. 그런데 RREF는 $N(A)$ 에서 거꾸로 읽어 낼 수 있다(어느 열이 앞 열들의 결합인지가 $N(A)$ 에 적혀 있고, 그 결합 계수가 $R$ 의 자유 열 숫자다). 같은 $N(A)$ 를 주는 RREF는 하나뿐이므로 유일하다. 피벗의 개수를 계수(rank) $r$ 이라 하며, 6장(기저·차원·계수)의 주인공이다.

예제 5.3 · 3×4 행렬을 RREF로

A = \begin{bmatrix} 1 & 3 & 0 & 2 \\ 2 & 6 & 1 & 7 \\ -1 & -3 & 2 & 4 \end{bmatrix}

1열, 피벗 1. 행 2 − 2·행 1 → $(0, 0, 1, 3)$ , 행 3 + 행 1 → $(0, 0, 2, 6)$ .
2열. 2행 아래(2·3행)의 2열이 모두 0이다. 피벗이 없으므로 $x_2$ 는 자유 변수, 다음 열로.
3열, 피벗 1(2행). 행 3 − 2·행 2 → $(0, 0, 0, 0)$ . 피벗 위(1행 3열)는 이미 0.
4열. 남은 행(3행)이 0이라 피벗이 없다. $x_4$ 도 자유 변수.

R = \begin{bmatrix} 1 & 3 & 0 & 2 \\ 0 & 0 & 1 & 3 \\ 0 & 0 & 0 & 0 \end{bmatrix}, \qquad \text{피벗 열 } 1, 3,\quad \text{자유 열 } 2, 4,\quad r = 2

아래 스테퍼로 직접 돌려 보세요. 행렬을 고치면 처음부터 다시 계산합니다. 테두리 친 칸이 피벗, 색칠된 행이 지금 고치는 행이며, 끝나면 피벗 열(보라)과 자유 열(청록)을 칠해 보여 줍니다.

SIMULATOR

RREF 스테퍼: 피벗 열과 자유 열 찾기

예제

A 직접 고치기 (3×4)

—

단계—

피벗 열—

자유 열—

계수 r—

해볼 것: ① 예제 5.3을 끝까지 넘겨 위 손계산의 R과 같은지 확인하세요. 2열에서 "피벗 없음"이 뜨는 순간이 핵심입니다. ② '3×3 가역'은 R이 단위 행렬이 됩니다. 피벗이 n개면 자유 변수가 없고 N(A) = {0}입니다. ③ '계수 1'에서는 한 행만 남고 자유 변수가 셋이 됩니다. 모델: 각 열에서 위에서부터 첫 0 아닌 원소를 피벗으로 고릅니다(손계산 순서). 크기가 10⁻¹⁰ 미만이면 0으로 보고, 분모 12 이하의 분수는 분수로 표시합니다.

특수해: 자유 변수 하나씩 1로

무수히 많은 해를 유한하게 적기

예제 5.3의 $A\mathbf{x} = \mathbf{0}$ 에는 해가 무수히 많습니다. 하지만 정리 5.2 덕분에 "벡터 몇 개의 생성"으로 적을 수 있을 것입니다. 몇 개가 필요하고, 어떻게 찾을까요?

$R\mathbf{x} = \mathbf{0}$ 은 $A\mathbf{x} = \mathbf{0}$ 과 해가 같고(행 연산은 해집합을 보존), 훨씬 읽기 쉽습니다. 예제 5.3의 $R$ 에서

x_1 + 3x_2 + 2x_4 = 0,\qquad x_3 + 3x_4 = 0 \qquad\Longrightarrow\qquad x_1 = -3x_2 - 2x_4,\quad x_3 = -3x_4

피벗 변수(

x_1, x_3

)는 자유 변수(

x_2, x_4

)로 결정된다. 자유 변수는 말 그대로 아무 값이나 고를 수 있다.

자유 변수를 하나씩 1, 나머지를 0으로 두면 해가 하나씩 나옵니다. 이것을 특수해(special solution)라 합니다.

\mathbf{s}_1 = \begin{bmatrix} -3 \\ 1 \\ 0 \\ 0 \end{bmatrix}\ (x_2 = 1,\ x_4 = 0), \qquad \mathbf{s}_2 = \begin{bmatrix} -2 \\ 0 \\ -3 \\ 1 \end{bmatrix}\ (x_2 = 0,\ x_4 = 1), \qquad N(A) = \{\,c_1\mathbf{s}_1 + c_2\mathbf{s}_2\,\}

c_1 = x_2

c_2 = x_4

이다. 특수해의 성분은

R

의 자유 열 숫자

(3, 0)

(2, 3)

에 부호를 바꿔 피벗 자리에 놓고, 자유 변수 자리에 단위 벡터를 넣은 것이다.

정리 5.6 (특수해와 영공간)

A

가

m \times n

이고 계수가

r

이면 자유 변수는

n - r

개이고, 그 특수해

n - r

개는

N(A)

를 생성하며 서로 일차 독립이다.

증명. $R\mathbf{x} = \mathbf{0}$ 의 임의의 해 $\mathbf{x}$ 를 보자. $\mathbf{x}$ 의 자유 변수 값을 $c_1, \dots, c_{n-r}$ 이라 하면 $\mathbf{y} = \mathbf{x} - \sum c_j\mathbf{s}_j$ 도 해이고 자유 변수 자리가 모두 0이다. 그런데 자유 변수가 0이면 $R$ 의 각 행이 피벗 변수를 0으로 강제하므로 $\mathbf{y} = \mathbf{0}$ . 따라서 $\mathbf{x} = \sum c_j\mathbf{s}_j$ 이다. 독립성: $\sum c_j\mathbf{s}_j = \mathbf{0}$ 이면 j번째 자유 변수 자리의 성분이 $c_j$ 이므로 모든 $c_j = 0$ . ∎

바로 얻는 결론: 미지수가 식보다 많으면

n > m

이면 피벗은 많아야

m

개(행마다 하나)이므로

r \le m \lt n

, 자유 변수가 적어도 하나 있다. 즉 $A\mathbf{x} = \mathbf{0}$ 에 0이 아닌 해가 반드시 있다. 화학 반응식(3×4)에 0 아닌 계수가 반드시 존재하는 이유이고, 1장의 "

\mathbb{R}^m

에서

m

개를 넘는 벡터는 종속"의 증명이기도 하다.

SIMULATOR

특수해를 섞어 영공간 전체 만들기

행렬 A

n − r (자유 변수 수)—

xₙ = Σ cⱼ sⱼ—

A xₙ—

해볼 것: ① 슬라이더 하나만 움직이면 그 자유 변수 자리(청록 칸)만 바뀌고 피벗 변수는 따라 정해집니다. ② 어떤 조합이든 A xₙ은 0입니다. ③ '화학 반응식'의 특수해는 x₄ = 1로 둔 (1/4, 5/4, 3/4, 1)이고, c₁ = 4로 두면 정수 계수 (1, 5, 3, 4)가 나옵니다. ④ '3×3 가역'은 자유 변수가 없어 영공간이 {0}뿐입니다. 모델: 특수해는 RREF에서 바로 읽고, 표시는 소수 둘째 자리까지입니다.

완전한 해: 특수한 해 하나 + 영공간

우변이 0이 아니면

반응식이 아닌 대부분의 공학 문제는 $A\mathbf{x} = \mathbf{b}$ , $\mathbf{b} \ne \mathbf{0}$ 입니다. 해가 무수히 많다면 그 집합은 영공간과 어떤 관계일까요?

정리 5.7 (완전한 해)

\mathbf{x}_p

가

A\mathbf{x} = \mathbf{b}

의 해 하나(특수한 해, particular solution)이면, 모든 해는

\mathbf{x} = \mathbf{x}_p + \mathbf{x}_n, \qquad \mathbf{x}_n \in N(A)

꼴이고, 이런 꼴은 모두 해이다.

증명. $A(\mathbf{x}_p + \mathbf{x}_n) = \mathbf{b} + \mathbf{0} = \mathbf{b}$ 이므로 해이다. 거꾸로 $\mathbf{x}$ 가 해이면 $A(\mathbf{x} - \mathbf{x}_p) = \mathbf{b} - \mathbf{b} = \mathbf{0}$ , 즉 $\mathbf{x} - \mathbf{x}_p \in N(A)$ . ∎

그림으로 말하면 해집합은 영공간을 $\mathbf{x}_p$ 만큼 평행이동한 것입니다. 영공간이 원점을 지나는 직선이면 해집합은 그와 평행한 직선이고, 영공간이 평면이면 평행한 평면입니다. 원점을 지나지 않으니 부분공간은 아니지만 모양은 똑같습니다. 이 구조는 선형대수 바깥에서도 다시 나옵니다. 선형 미분방정식의 일반해 = 특수해 + 동차해가 정확히 같은 정리입니다.

그림 5-4. 왼쪽: Ax = b의 해(초록 직선)는 영공간(점선)과 평행하고, xₚ만큼 옮겨져 있다. xₚ를 어느 해로 고르든 같은 직선이 나온다. 오른쪽: 예제 5.4의 완전한 해. 자유 변수를 0으로 둔 해가 xₚ이고, 나머지는 특수해의 결합이다.

예제 5.4 · 완전한 해를 한 번에

예제 5.3의 $A$ 와 $\mathbf{b} = (1, 4, 3)$ 으로 $A\mathbf{x} = \mathbf{b}$ 를 풀자.

첨가 행렬에 같은 행 연산을 한다. 행 2 − 2·행 1 → $(0, 0, 1, 3 \mid 2)$ , 행 3 + 행 1 → $(0, 0, 2, 6 \mid 4)$ , 행 3 − 2·행 2 → $(0, 0, 0, 0 \mid 0)$ .
마지막 행이 $0 = 0$ 이므로 풀린다(우변이 0이 아니었다면 해가 없다. 풀림 조건은 $5b_1 - 2b_2 + b_3 = 0$ 이고 $5 - 8 + 3 = 0$ ).
$[\,R \mid \mathbf{d}\,] = \left[\begin{array}{rrrr|r} 1 & 3 & 0 & 2 & 1 \\ 0 & 0 & 1 & 3 & 2 \\ 0 & 0 & 0 & 0 & 0 \end{array}\right]$ . 자유 변수 $x_2 = x_4 = 0$ 으로 두면 $\mathbf{x}_p = (1, 0, 2, 0)$ .
완전한 해: $\mathbf{x} = (1, 0, 2, 0) + x_2(-3, 1, 0, 0) + x_4(-2, 0, -3, 1)$ .

검산: $A\mathbf{x}_p = (1 + 0 + 0 + 0,\ 2 + 0 + 2 + 0,\ -1 + 0 + 4 + 0) = (1, 4, 3)$ . ✓

해의 개수는 계수 $r$ 과 행렬 크기 $m \times n$ 의 관계만으로 정리됩니다. 피벗이 모든 행에 있으면( $r = m$ ) 소거 끝에 $0 = c$ 꼴의 모순 행이 생길 수 없어 항상 풀리고, 피벗이 모든 열에 있으면( $r = n$ ) 자유 변수가 없어 해가 많아야 하나입니다.

경우	R의 모양	Ax = b의 해	예
$r = m = n$	$I$	항상 정확히 1개	가역 정사각 행렬
$r = n \lt m$	$\begin{bmatrix} I \\ 0 \end{bmatrix}$	0개 또는 1개	센서가 손잡이보다 많은 공정(3절)
$r = m \lt n$	$[\,I \ \ F\,]$	항상 무수히(∞)	교통망, 반응식처럼 미지수가 많은 경우
$r \lt m,\ r \lt n$	$\begin{bmatrix} I & F \\ 0 & 0 \end{bmatrix}$	0개 또는 ∞	예제 5.3·5.4

(표의 $R$ 은 피벗 열을 앞으로 모아 그린 것입니다. 실제 $R$ 에서는 피벗 열과 자유 열이 섞여 있을 수 있습니다.)

SIMULATOR

해집합 = 영공간의 평행이동 (ℝ³)

끌어서 돌려 보기

식 b₁ b₂ 자유 변수 t 자유 변수 u

N(A) (원점 지남)Ax = b의 해집합xₚ (자유 변수 = 0)

해집합—

xₚ—

x = xₚ + xₙ—

Ax—

해볼 것: ① b₁, b₂를 바꾸면 초록 해집합이 점선 영공간과 평행을 유지한 채 미끄러집니다. 모양은 그대로이고 위치만 바뀝니다. ② b = 0으로 두면 두 집합이 겹칩니다. ③ '평행한 두 평면'에서 b₂ ≠ 2b₁이면 해가 없고, b₂ = 2b₁일 때만 평면 하나 전체가 해가 됩니다. 모델: xₚ는 RREF에서 자유 변수를 0으로 둔 해, 정사영 3D 그림입니다.

응용: 교통망의 흐름 보존과 순환

교차로마다 들어온 만큼 나간다

네 교차로 A, B, C, D를 잇는 일방통행 도로 다섯 개가 있습니다. 차량 감지기로 도시 바깥에서 들어오고 나가는 교통량은 알지만, 안쪽 도로 다섯 개의 교통량은 모릅니다. 교차로에서 차가 쌓이지 않는다면 "들어온 양 = 나간 양"이라는 식이 교차로마다 하나씩, 넷 나옵니다. 미지수 다섯, 식 넷. 안쪽 교통량을 알 수 있을까요?

도로 $e_1: A \to B$ , $e_2: B \to C$ , $e_3: C \to D$ , $e_4: D \to A$ , $e_5: A \to C$ 의 교통량을 $x_1, \dots, x_5$ , 바깥에서 A, B로 들어오는 양을 $a, b$ , C에서 나가는 양을 $c$ , D에서 나가는 양을 $a + b - c$ (전체 보존)라 하면, 각 교차로의 "나가는 양 − 들어오는 양 = 바깥에서 들어온 양"은

\underbrace{\begin{bmatrix} 1 & 0 & 0 & -1 & 1 \\ -1 & 1 & 0 & 0 & 0 \\ 0 & -1 & 1 & 0 & -1 \\ 0 & 0 & -1 & 1 & 0 \end{bmatrix}}_{A\ (\text{행} = A, B, C, D)}\begin{bmatrix} x_1 \\ x_2 \\ x_3 \\ x_4 \\ x_5 \end{bmatrix} = \begin{bmatrix} a \\ b \\ -c \\ -(a + b - c) \end{bmatrix}

이런 행렬을 결합 행렬(incidence matrix)이라 한다. 각 열(도로)에 출발 교차로 +1, 도착 교차로 −1이 하나씩 있다.

네 행을 모두 더하면 0이 됩니다(각 도로가 한 번은 +1, 한 번은 −1로 세어짐). 그래서 계수는 4가 아니라 $r = 3$ 이고, 자유 변수가 $5 - 3 = 2$ 개입니다. $x_4, x_5$ 를 자유 변수로 두고 풀면

\mathbf{x} = \underbrace{\begin{bmatrix} a \\ a + b \\ a + b - c \\ 0 \\ 0 \end{bmatrix}}_{\mathbf{x}_p} + x_4\underbrace{\begin{bmatrix} 1 \\ 1 \\ 1 \\ 1 \\ 0 \end{bmatrix}}_{A\to B\to C\to D\to A} + x_5\underbrace{\begin{bmatrix} -1 \\ -1 \\ 0 \\ 0 \\ 1 \end{bmatrix}}_{A\to C\to B\to A}

두 특수해는 각각 도시를 한 바퀴 도는 순환이다. 순환을 얼마나 더해도 교차로의 보존 법칙은 깨지지 않는다(바깥 감지기에는 보이지 않는 입력, 4절의 영공간).

그래서 바깥 감지기만으로는 안쪽 교통량을 정할 수 없습니다. 도로 두 곳에 감지기를 더 달아 $x_4, x_5$ 를 재야 비로소 나머지가 정해집니다. 반대로 일방통행이라는 조건( $x_i \ge 0$ )은 $x_4, x_5$ 가 가질 수 있는 범위를 좁혀 줍니다. 이것이 교통 공학과 회로(키르히호프 전류 법칙, 4장의 노드 해석과 같은 결합 행렬)와 배관망 해석에서 공통으로 쓰는 구조입니다.

SIMULATOR

교통망: 바깥 감지기로는 보이지 않는 순환

A로 들어옴 a B로 들어옴 b C에서 나감 c 순환 1 (= x₄, D→A) 순환 2 (= x₅, A→C)

x₁ … x₅ (대/시)—

교차로 보존 오차 Ax − f—

일방통행 (모든 xᵢ ≥ 0)—

해볼 것: ① 순환 1·2 슬라이더만 움직여 보세요. 안쪽 도로 교통량은 크게 바뀌지만 바깥 숫자 a, b, c, D 출구는 그대로이고 보존 오차도 0입니다. 이것이 영공간입니다. ② 순환 2를 키우면 x₁ = a + x₄ − x₅가 줄다가 음수가 됩니다. 음수는 도로를 거꾸로 달린다는 뜻이라 일방통행에서는 불가능합니다. ③ c를 a + b보다 크게 하면 D 출구가 음수가 되어 바깥 조건부터 말이 안 됩니다. 모델: 교차로에서 차가 쌓이지 않는 정상 상태, 도로 용량 제한은 없습니다.

이 도구가 쓰이는 곳

열공간과 영공간은 이 책 나머지의 뼈대입니다. "어떤 출력에 닿는가"와 "무엇이 보이지 않는가"는 공학 곳곳에서 같은 모양으로 나옵니다.

LINEARBOOK · 6장기저·차원·계수
특수해가 영공간의 기저가 되고, 계수 r로 네 부분공간의 차원이 모두 정해진다. LINEARBOOK · 8장직교성과 사영
b가 C(A) 밖에 있을 때 가장 가까운 점으로 내리는 최소제곱. LINEARBOOK · 4장회로의 노드 해석
교통망과 같은 결합 행렬로 키르히호프 전류 법칙을 세운다. MATHBOOK변화율로 세상을 쓰다
선형 미분방정식의 일반해 = 특수해 + 동차해. 완전한 해와 같은 정리. 확률과 통계회귀 분석
설계 행렬의 열공간에 관측값을 사영하는 것이 최소제곱 회귀다. MATHBOOK놀라움을 재는 법
해밍 부호의 부호어는 검사 행렬의 영공간이고, 신드롬은 그 밖으로 벗어난 정도다.

핵심 정리

벡터 공간: 덧셈과 스칼라배가 닫혀 있고 여덟 공리를 지키는 집합. $\mathbb{R}^n$ 뿐 아니라 다항식, 함수, 행렬, 표본화한 신호도 벡터 공간이다.
부분공간 판정: $\mathbf{0} \in S$ , 덧셈에 닫힘, 스칼라배에 닫힘. $\mathbb{R}^3$ 의 부분공간은 $\{\mathbf{0}\}$ , 원점을 지나는 직선·평면, $\mathbb{R}^3$ 전체뿐이다. 벡터들의 생성은 언제나 부분공간이다.
열공간 $C(A) = \{A\mathbf{x}\} \subseteq \mathbb{R}^m$ : 열들의 생성. $A\mathbf{x} = \mathbf{b}$ 가 풀린다 ⟺ $\mathbf{b} \in C(A)$ . 소거의 마지막 행 $0 = (\mathbf{b}$ 의 결합)이 풀림 조건을 준다.
영공간 $N(A) = \{\mathbf{x} : A\mathbf{x} = \mathbf{0}\} \subseteq \mathbb{R}^n$ : 부분공간이며, 그 벡터는 $A$ 의 모든 행과 수직이다. $\mathbf{b} \ne \mathbf{0}$ 인 해집합은 부분공간이 아니다.
RREF: 피벗을 1로, 피벗 위아래를 0으로. 피벗이 없는 열은 건너뛰며 그 미지수가 자유 변수다. RREF는 유일하고 피벗 수가 계수 $r$ 이다.
특수해: 자유 변수 하나를 1, 나머지를 0으로 둔 해. $n - r$ 개의 특수해가 $N(A)$ 를 생성한다. $n > m$ 이면 $A\mathbf{x} = \mathbf{0}$ 에 0 아닌 해가 반드시 있다.
완전한 해 $\mathbf{x} = \mathbf{x}_p + \mathbf{x}_n$ : 해 하나에 영공간을 더한 것, 즉 영공간을 평행이동한 직선·평면. $r = m$ 이면 항상 풀리고, $r = n$ 이면 해는 많아야 하나다.
교통망·회로·반응식의 보존 법칙은 결합 행렬로 쓰이며, 그 영공간은 바깥에서 보이지 않는 순환이다.

확인 퀴즈

Q1. 다음 중 $\mathbb{R}^3$ 의 부분공간인 것은?

x + y + z = 0

은 원점을 지나고, 두 점의 합과 상수배도 같은 식을 만족한다(선형 식의 해집합 = 영공간).

x + y + z = 1

은 원점을 포함하지 않고, 반공간은 음수배에, 두 축의 합집합은 덧셈에 닫혀 있지 않다.

Q2. $2 \times 2$ 실수 행렬 전체 $\mathbb{R}^{2\times 2}$ 에서 부분공간이 아닌 것은?

가역 행렬 전체는 영행렬을 포함하지 않고,

I + (-I) = 0

처럼 두 가역 행렬의 합이 가역이 아닐 수도 있다. 나머지 셋은 영행렬을 포함하고 합과 상수배에 닫혀 있다.

Q3. $A$ 가 $5 \times 3$ 이다. $C(A)$ 와 $N(A)$ 는 각각 어디의 부분공간인가?

열은 성분이 5개이므로 그 결합(출력

A\mathbf{x}

)은

\mathbb{R}^5

에 산다. 영공간은 입력

\mathbf{x}

의 집합이므로

\mathbb{R}^3

에 산다. "열공간은 출력 쪽, 영공간은 입력 쪽."

Q4. 소거 결과 첨가 행렬의 마지막 행이 $[\,0 \ \ 0 \ \ 0 \mid 3\,]$ 이 되었다. 옳은 것은?

마지막 식은

0 = 3

이라는 모순이다. 우변의 그 결합이 0이어야

\mathbf{b}

가 열공간에 들어간다. 영공간에 대해서는 이 정보만으로 말할 수 없다.

Q5. $3 \times 7$ 행렬 $A$ 의 계수가 3이다. $A\mathbf{x} = \mathbf{0}$ 의 특수해는 몇 개인가?

자유 변수 수 =

n - r = 7 - 3 = 4

. 또

r = m = 3

이므로 모든

\mathbf{b}

에 대해

A\mathbf{x} = \mathbf{b}

가 풀리고, 해집합은

\mathbb{R}^7

안의 4차원 평행이동 공간이다.

Q6. $R = \begin{bmatrix} 1 & 0 & 2 & 0 \\ 0 & 1 & -1 & 0 \\ 0 & 0 & 0 & 1 \end{bmatrix}$ 일 때 $N(A)$ 를 생성하는 특수해는?

피벗 열은 1, 2, 4열, 자유 열은 3열뿐이다.

x_3 = 1

로 두면 1행에서

x_1 = -2

, 2행에서

x_2 = 1

, 3행에서

x_4 = 0

. 확인:

R(-2, 1, 1, 0) = (-2 + 2, 1 - 1, 0) = \mathbf{0}

Q7. $\mathbf{x}_p$ 와 $\mathbf{y}$ 가 모두 $A\mathbf{x} = \mathbf{b}$ 의 해다. 반드시 참인 것은?

A(\mathbf{x}_p - \mathbf{y}) = \mathbf{b} - \mathbf{b} = \mathbf{0}

. 두 해의 차이는 늘 영공간에 있다(정리 5.7). 합은

2\mathbf{b}

로 가므로

\mathbf{b} \ne \mathbf{0}

이면 해가 아니다.

Q8. 교통망 결합 행렬의 네 행을 모두 더하면 영벡터가 된다. 이 사실이 뜻하는 것은?

행의 합이 0이면 우변 성분의 합도 0이어야 한다(

a + b - c - (a + b - c) = 0

). 독립인 행은 셋뿐이라

r = 3

, 자유 변수가

5 - 3 = 2

개이고 영공간은 두 순환이 생성하는 평면이다.