Chapter 04

이산 확률 변수

300 mm 웨이퍼 한 장에 결함이 몇 개 떨어질지, 그중 한 다이에는 몇 개가 들어갈지는 미리 알 수 없다. 그래도 웨이퍼 수백 장을 보면 "결함 0개인 다이가 대략 몇 %"라는 규칙이 뚜렷하다. 이 장은 그 규칙을 다루는 도구를 만든다. 실험 결과에 숫자를 붙이는 확률 변수, 각 값의 확률을 적은 표인 확률 질량 함수, 분포를 숫자 둘로 줄이는 기댓값과 분산을 정의한다. 그다음 공장에서 날마다 만나는 여섯 분포를 하나씩 만든다. 칩 n개 중 불량 수(이항), 첫 통과까지 재테스트 횟수(기하·음이항), 로트에서 비복원으로 뽑은 표본 속 불량 수(초기하), 다이당 결함 수(포아송)다. 마지막으로 분포 전체를 함수 하나에 담는 적률 생성 함수를 본다. 아래 웨이퍼에서는 결함이 계속 떨어지고, 오른쪽 히스토그램에 다이별 결함 수가 쌓이면서 포아송 분포(자주색)와 겹쳐진다. 웨이퍼를 누르면 결함이 한 덩어리로 떨어져 무작위 모형이 깨지는 모습도 볼 수 있다.

웨이퍼를 누르면 결함 덩어리가 떨어진다

확률 변수를 표본 공간에서 실수로 가는 함수로 이해하고, 확률 질량 함수 $p_X(x)$와 누적 분포 함수 $F_X(x)$를 서로 바꾸어 구간 확률 $P(a < X \le b) = F_X(b) - F_X(a)$를 계산한다.
기댓값(무게 중심)과 분산(회전 관성)을 표에서 계산하고, $E[aX+b] = aE[X]+b$, $\operatorname{Var}(aX+b) = a^2\operatorname{Var}(X)$, $\operatorname{Var}(X) = E[X^2]-(E[X])^2$, 합의 기댓값의 선형성을 쓴다.
베르누이·이항 분포의 조건을 확인하고 $P(X=k) = \binom nk p^k(1-p)^{n-k}$, 평균 $np$, 분산 $np(1-p)$를 쓴다.
기하 분포의 무기억성을 설명하고, 음이항 분포를 기하 분포의 합으로 이해해 재테스트 횟수를 계산한다.
초기하 분포로 로트 샘플링 검사의 합격 확률과 OC 곡선을 계산하고, 이항 근사가 맞는 조건(유한 모집단 수정)을 판단한다.
포아송 분포로 다이당 결함 수와 수율 $Y = e^{-D_0A}$를 계산하고, 이항 분포의 포아송 근사가 맞는 범위를 수치로 확인한다.
적률 생성 함수로 평균·분산을 구하고, 독립인 확률 변수 합의 분포(포아송+포아송 등)를 알아본다.

확률 변수와 확률 질량 함수

2장에서 표본 공간 $\Omega$와 사건에 확률을 매겼다. 칩 세 개를 검사하면 결과는 "양품·양품·불량"(GGD) 같은 글자 묶음이다. 그런데 엔지니어가 실제로 궁금한 것은 대개 숫자다. 불량이 몇 개인가, 몇 번 만에 통과했나, 결함이 몇 개 떨어졌나. 결과 하나하나에 숫자를 하나씩 붙이는 규칙을 확률 변수(random variable)라 한다. 이름과 달리 "변수"가 아니라 함수 $X:\Omega\to\mathbb R$다. 관례로 확률 변수는 대문자 $X, Y$, 그 값은 소문자 $x, y$로 쓴다. $\{X = 1\}$은 "$X$가 1이 되는 결과들의 모임"이라는 사건이다.

값이 유한개이거나 0, 1, 2, …처럼 셀 수 있게 띄엄띄엄 놓이면 이산 확률 변수(discrete random variable)다. 불량 개수, 재시험 횟수, 결함 수가 모두 그렇다. 막두께나 문턱 전압처럼 구간 안의 모든 실수를 가질 수 있는 양은 5장의 연속 확률 변수다.

확률 변수는 표본 공간의 결과에 숫자를 붙이는 함수다. 칩 세 개를 검사해 불량 개수를 세면 결과 여덟 개가 값 네 개(0–3)로 모이고, 같은 값으로 가는 결과의 확률을 더한 것이 확률 질량 함수다.

확률 질량 함수와 누적 분포 함수

이산 확률 변수 $X$의 확률 질량 함수(probability mass function, pmf)는 $p_X(x) = P(X = x)$이다. 모든 $x$에서 $p_X(x)\ge 0$이고 $\sum_x p_X(x) = 1$이다. 누적 분포 함수(cumulative distribution function, cdf)는 $F_X(x) = P(X\le x) = \sum_{k\le x}p_X(k)$이다.

pmf는 "각 값에 확률이 얼마씩 쌓였나"를, cdf는 "그 값까지 모두 합해 얼마인가"를 말한다. 이산 변수의 cdf는 값이 있는 자리에서만 $p_X(k)$만큼 뛰어오르는 계단이다. 계단은 왼쪽 끝 0에서 오른쪽 끝 1까지 줄지 않고 오르며, 뛰는 점에서는 위쪽 값을 갖는다(오른쪽 연속). 그래서 $F_X(1.5) = F_X(1)$이다. 정수 값을 갖는 변수에서는 다음 관계를 계속 쓴다.

$$P(a < X \le b) = F_X(b) - F_X(a),\qquad P(X = k) = F_X(k) - F_X(k-1),\qquad P(X \ge k) = 1 - F_X(k-1)$$

연속 변수와 달리 이산 변수에서는 부등호에 등호가 붙느냐가 답을 바꾼다. $P(X\le 2)$와 $P(X<2)$는 $P(X=2)$만큼 다르다.

확률 변수

MINI LAB주사위 두 개를 던지는 같은 실험(표본 공간 36칸)에 서로 다른 확률 변수 세 개를 붙였다. 확률 변수를 바꿔도 던진 기록은 그대로이고, 그 기록을 세는 규칙만 바뀐다. 초록 막대(상대 도수)가 자주색 표지(pmf)로 다가가는 모습을 보라.

칩 세 개를 검사한다. 각 칩이 불량일 확률은 0.1이고 칩끼리 독립이다. 불량 개수 $X$의 pmf와 cdf를 구하고, $P(X\ge 1)$과 $F_X(1.5)$를 구하라.

풀이 보기

전략 결과 여덟 개의 확률을 독립의 곱셈 법칙으로 구한 뒤, 같은 $X$ 값으로 가는 결과끼리 더한다.

풀이 $P(X=0) = 0.9^3 = 0.729$. 불량이 하나인 결과는 GGD, GDG, DGG 세 개이고 각각 $0.9^2(0.1) = 0.081$이므로 $P(X=1) = 0.243$. 같은 방법으로 $P(X=2) = 3(0.9)(0.1)^2 = 0.027$, $P(X=3) = 0.001$. 합은 1이다. cdf는 $F(0) = 0.729$, $F(1) = 0.972$, $F(2) = 0.999$, $F(3) = 1$이고 그 사이에서는 평평하다. $P(X\ge1) = 1 - F(0) = 0.271$, $F(1.5) = F(1) = 0.972$.

pmf: 0.729, 0.243, 0.027, 0.001 · cdf: 0.729, 0.972, 0.999, 1 · $P(X\ge1) = 0.271$, $F_X(1.5) = 0.972$

검토 불량 확률이 작으니 0에 대부분의 확률이 몰렸다. 이 계산을 $n$개로 넓힌 것이 3절의 이항 분포다.

예제의 $X$(칩 세 개 중 불량 수)에 대해 $F_X(2.5)$는 얼마일까?

cdf는 모든 실수에서 정의된다. $X\le 2.5$는 $X\le 2$와 같은 사건이므로 $F(2.5) = F(2) = 0.999$다. 아래에서 핸들을 2와 3 사이로 끌어 계단이 평평한지 확인하라.

SIMULATOR

pmf 막대와 cdf 계단 잇기

아래 계단의 두 핸들 a, b를 끈다

분포

a · b—

F(a) · F(b)—

P(a < X ≤ b)—

초록 막대 합—

해볼 것: ① b를 정수 사이에서 움직이면 F(b)가 변하지 않음을 보라. 계단은 정수에서만 뛴다. ② b를 정수 바로 위로 넘기면 그 막대가 초록으로 바뀌며 F가 막대 높이만큼 뛴다. ③ "결함 수"(포아송, 평균 1.5)에서 $P(1 < X \le 3)$을 막대 합과 $F(3) - F(1)$ 두 방법으로 읽어 같은지 확인하라.

로트에서 칩 10개를 뽑아 검사한다. 칩마다 불량일 확률이 0.20이고 서로 독립이면, 불량이 2개 이하일 확률 $F(k)$는 , 미만일 확률 $F(k-1)$은 이다. 둘의 차이 가 바로 $P(X = k)$다.

기댓값과 분산

pmf는 표 전체라 한눈에 비교하기 어렵다. 그래서 분포를 숫자 둘로 줄인다. 하나는 "어디쯤에 있나"(위치), 다른 하나는 "얼마나 퍼졌나"(산포)다. 1장에서 자료의 평균과 분산을 계산했다면, 여기서는 같은 일을 확률을 가중치로 삼아 한다.

기댓값

이산 확률 변수 $X$의 기댓값(expected value)은 $\mu = E[X] = \sum_x x\,p_X(x)$이다. 함수 $g(X)$의 기댓값은 $g(X)$의 분포를 따로 구하지 않고 $E[g(X)] = \sum_x g(x)\,p_X(x)$로 계산한다(무의식 통계학자의 법칙).

막대 높이를 무게로 보면 $E[X]$는 막대들이 수평으로 균형을 이루는 받침점, 곧 무게 중심이다. 그 자리에서 왼쪽 막대들의 회전력 $\sum(x - \mu)p$와 오른쪽 막대들의 회전력이 정확히 상쇄된다. 그래서 $E[X]$가 $X$가 실제로 가질 수 없는 값(예: 불량 0.75개)이어도 이상하지 않다. 또 하나의 해석은 장기 평균이다. 같은 실험을 많이 되풀이하면 결과의 평균이 $E[X]$에 다가간다(7장의 큰 수의 법칙).

분산과 표준 편차

분산(variance)은 평균에서 벗어난 거리 제곱의 기댓값 $\sigma^2 = \operatorname{Var}(X) = E[(X-\mu)^2]$이고, 표준 편차(standard deviation)는 $\sigma = \sqrt{\operatorname{Var}(X)}$이다. 계산에는 보통 $\operatorname{Var}(X) = E[X^2] - \mu^2$을 쓴다.

역학으로 보면 분산은 받침점을 축으로 한 회전 관성 $\sum(x-\mu)^2p$다. 무게가 축에서 멀리 있을수록 커진다. 받침점을 $\mu$가 아닌 $c$에 두면 $E[(X-c)^2] = \sigma^2 + (\mu - c)^2$이 되어(평행축 정리와 같은 꼴) 항상 더 커진다. 평균은 제곱 오차를 가장 작게 만드는 자리다.

pmf에서 $x = 1$에 있던 확률 0.1을 떼어 $x = 8$로 옮긴다. 평균 $\mu$는 얼마나 움직일까?

$\mu = \sum xp$에서 바뀐 항만 보면 $-1(0.1) + 8(0.1) = +0.7$이다. 확률이 작아도 멀리 옮기면 평균이 크게 움직인다. 분산은 거리 제곱이라 더 민감하다. 아래 저울에서 막대를 끌어 확인하라.

SIMULATOR

pmf 저울: 무게 중심과 회전 관성

막대 끝과 삼각형 받침점을 끈다

모양 바로 고르기

받침점을 평균에 고정

과녁 (μ, σ)

μ = E[X]—

σ² · σ—

받침점 c에서 E[(X−c)²]—

과녁—

해볼 것: ① "받침점을 평균에 고정"을 끄고 받침점을 끌어 보라. 저울이 기울고, $E[(X-c)^2]$은 $c = \mu$에서 가장 작다. ② 확률을 양 끝(0과 8)에 반씩 두면 σ는 4로 최대다. 가운데 한 점에 모으면 σ = 0이다. ③ 과녁 네 개를 모두 맞혀 보라(μ와 σ가 각각 ±0.1 안). (4, 3)은 확률을 어디에 두어야 할까?

표로 계산하는 순서를 단계별로 보자. 아래 $X$는 다이 하나의 결함 수다.

값과 확률을 적는다. 확률의 합이 1인지 먼저 확인한다.
$x\cdot p$ 열을 더하면 평균 $\mu = 0.75$개다. 다이 하나에 결함이 "0.75개" 있을 수는 없지만 무게 중심으로는 자연스럽다.
$x^2 p$ 열을 더하면 $E[X^2] = 1.35$다(무의식 통계학자의 법칙으로 $g(x) = x^2$).
$\operatorname{Var}(X) = E[X^2] - \mu^2 = 0.7875$, $\sigma = 0.887$개. $E[X^2]$에서 $\mu^2$을 빼는 것을 잊지 말자.

표로 기댓값과 분산을 구하는 순서. 열 두 개($xp$, $x^2p$)만 더하면 된다.

선형 변환과 합

측정값의 단위를 바꾸거나(nm → Å), 개수에 단가를 곱해 비용으로 바꾸는 일은 $Y = aX + b$ 꼴이다. 이때 분포 전체를 다시 계산할 필요가 없다.

$$E[aX+b] = aE[X] + b,\qquad \operatorname{Var}(aX+b) = a^2\operatorname{Var}(X),\qquad \sigma_{aX+b} = |a|\,\sigma_X$$

$b$만큼 옮겨도 퍼짐은 그대로다. $a$배로 늘리면 거리가 $|a|$배가 되므로 분산은 $a^2$배다. $a$가 음수여도 분산은 줄지 않는다.

위 표의 결함 수 $X$($\mu = 0.75$, $\sigma^2 = 0.7875$)에 대해 리뷰 비용을 $Y = aX + b$로 매긴다. $a =$ 2.0, $b =$ 1.0이면 $E[Y] =$ , $\operatorname{Var}(Y) =$ , $\sigma_Y =$ 이다.

두 확률 변수를 더하면 어떨까? 기댓값은 언제나 더해진다: $E[X + Y] = E[X] + E[Y]$. 두 변수가 서로 관계가 있든 없든 성립한다. 반면 분산은 $X$와 $Y$가 독립일 때만 $\operatorname{Var}(X+Y) = \operatorname{Var}(X) + \operatorname{Var}(Y)$다. 같이 움직이면(양의 상관) 더 퍼지고, 반대로 움직이면 서로 상쇄된다. 일반식은 6장에서 공분산으로 쓴다.

두 번째 주사위 Y

MINI LAB$X + Y$의 히스토그램. 세 경우 모두 평균은 7로 같지만, 분산은 독립일 때 $35/6$, 같이 움직이면 그 두 배, 반대로 움직이면 0이다.

MINI LAB실행 평균 $\bar x_n$이 $E[X]$(자주색)로 다가간다. "드문 큰 손실"(1% 확률로 100, 나머지 0, $E[X] = 1$)은 평균이 같아도 $\sigma \approx 9.95$라 훨씬 늦게 수렴한다.

최종 테스트에서 다이 하나가 장비에 들어가는 횟수 $X$는 1회 85%, 2회(재시험 1번) 10%, 3회 5%다. 삽입 1회 비용이 0.12달러, 핸들링 고정비가 0.05달러일 때 $E[X]$, $\sigma_X$, 비용 $C = 0.12X + 0.05$의 평균과 표준 편차를 구하라.

풀이 보기

전략 표에서 $E[X]$와 $E[X^2]$을 구한 뒤 선형 변환 규칙을 쓴다.

풀이 $E[X] = 1(0.85) + 2(0.10) + 3(0.05) = 1.20$. $E[X^2] = 0.85 + 0.40 + 0.45 = 1.70$. $\operatorname{Var}(X) = 1.70 - 1.44 = 0.26$, $\sigma_X = 0.510$. $E[C] = 0.12(1.20) + 0.05 = 0.194$달러, $\sigma_C = 0.12(0.510) = 0.0612$달러.

$E[X] = 1.20$회, $\sigma_X = 0.510$회, $E[C] = 0.194$달러, $\sigma_C = 0.061$달러

검토 고정비 0.05달러는 평균만 올리고 산포에는 영향이 없다. 재시험이 15%뿐인데도 평균 삽입 횟수가 20% 늘어난 것은 3회 삽입이 두 번 더 들어가기 때문이다.

베르누이와 이항 분포

결과가 둘뿐인 시행 — 양품/불량, 통과/실패, 비트 오류 있음/없음 — 을 베르누이 시행(Bernoulli trial)이라 한다. "성공"(관심 있는 쪽, 공장에서는 흔히 불량)에 1, 실패에 0을 붙인 $X$는 $P(X=1) = p$, $P(X=0) = 1-p$인 베르누이 분포를 따른다. $E[X] = p$, $E[X^2] = p$이므로 $\operatorname{Var}(X) = p - p^2 = p(1-p)$다. 이런 0/1 변수를 사건의 지시 확률 변수(indicator random variable)라고도 한다.

같은 베르누이 시행을 $n$번 독립으로 되풀이해 성공 횟수를 센 것이 이항 확률 변수다. 칩 $n$개 중 불량 수, 비트 $n$개 중 오류 비트 수, 사이트 $n$개 중 접촉 불량 수가 모두 그렇다. 조건 네 가지를 기억하자. ① 시행 횟수 $n$이 정해져 있다. ② 결과는 둘뿐이다. ③ 성공 확률 $p$가 시행마다 같다. ④ 시행끼리 독립이다.

칩마다 불량(D, 확률 $p$)과 양품(G, $1-p$)으로 갈라지는 나무. 독립이므로 경로 확률은 가지 확률의 곱이다.
경로 확률은 순서와 상관없이 불량 개수 $k$로만 정해진다: $p^k(1-p)^{3-k}$.
불량 $k$개인 경로는 세 자리 중 불량 자리를 고르는 방법 수 $\binom 3k$개다. 곱하면 이항 pmf가 된다.

이항 분포의 유래. "경로 하나의 확률 × 같은 $k$를 주는 경로 수"다.

이항 분포 $X\sim\mathrm{Bin}(n,p)$

성공 확률 $p$인 독립 베르누이 시행 $n$번의 성공 횟수는 이항 분포(binomial distribution)를 따른다.

$$P(X = k) = \binom nk p^k(1-p)^{n-k},\quad k = 0,1,\dots,n,\qquad E[X] = np,\qquad \operatorname{Var}(X) = np(1-p)$$

평균과 분산은 합으로 보면 한 줄이다. $X = I_1 + \cdots + I_n$(시행마다의 지시 변수)이므로 선형성으로 $E[X] = np$, 독립이므로 $\operatorname{Var}(X) = np(1-p)$다. pmf는 $k$가 늘 때 $\frac{P(k+1)}{P(k)} = \frac{n-k}{k+1}\cdot\frac{p}{1-p}$로 변하므로, 이 비가 1보다 큰 동안 오르다가 내려간다. 가장 자주 나오는 값(최빈값)은 $\lfloor(n+1)p\rfloor$다.

불량률 10%인 공정에서 칩 20개를 뽑는다. 가장 자주 나오는 불량 개수는?

평균 $np = 2$이고 최빈값 $\lfloor 21\times0.1\rfloor = 2$다. $P(2) = 0.285$가 $P(1) = 0.270$, $P(0) = 0.122$보다 크다. 불량이 하나도 없는 표본은 8번에 1번꼴이다. 아래에서 실험을 쌓아 확인하라.

SIMULATOR

칩 n개 검사를 되풀이해 이항 분포 쌓기

평균 표지(◆)를 끌면 p가 바뀐다

칩 수 n 불량률 p

실험

실험 횟수—

표본 평균 · np—

표본 분산 · np(1−p)—

P(X = 0) 관측 · 이론—

해볼 것: ① 1000번을 눌러 초록 막대가 자주색 이항 pmf에 붙는 것을 보라. ② $n = 20$에서 p를 0.1 → 0.5 → 0.9로 바꾸면 모양이 오른쪽 치우침 → 대칭 → 왼쪽 치우침이 된다. 분산은 언제 가장 큰가? ③ $n = 1$이면 베르누이다. 표본 평균이 $p$로 수렴하는지 보라.

불량률 2.0인 칩 50개를 패키지 하나에 넣는 멀티칩 모듈은 칩이 모두 양품이어야 동작한다. 모두 양품일 확률은 $(1-p)^n =$ , 하나라도 불량일 확률은 , 불량이 1개 이하일 확률은 이다. 평균 불량 수는 $np =$ 개.

곡선 위 점을 끈다

MINI LAB베르누이 분산 $p(1-p)$는 $p = 0.5$에서 최대 0.25다. 오른쪽 작은 막대 두 개가 그때의 pmf다. 수율이 99%인 공정의 불량 여부는 거의 늘 같은 값이라 분산이 작고, 50%면 가장 예측하기 어렵다. $\mathrm{Bin}(n,p)$의 분산은 이 곡선의 $n$배다.

DRAM의 SECDED ECC는 데이터 64비트 + 검사 8비트 = 72비트 코드워드에서 오류 1비트는 고치고 2비트는 검출만 한다. 읽기 한 번에 각 비트가 독립으로 $p = 10^{-4}$ 확률로 뒤집힌다면, 코드워드 하나가 정정 불가(2비트 이상 오류)일 확률은?

풀이 보기

전략 오류 비트 수 $X\sim\mathrm{Bin}(72, 10^{-4})$. 정정 불가는 $X\ge2$이므로 여사건 $X\le1$을 뺀다.

풀이 $P(X=0) = (1-10^{-4})^{72} = 0.992826$. $P(X=1) = 72(10^{-4})(1-10^{-4})^{71} = 0.0071491$. $P(X\ge2) = 1 - 0.992826 - 0.007149 = 2.54\times10^{-5}$. 직접 계산하면 $\binom{72}{2}p^2 \approx 2556\times10^{-8} = 2.56\times10^{-5}$으로 첫 항이 거의 전부다.

$P(X\ge2) \approx 2.54\times10^{-5}$ (ECC 없이 1비트라도 틀릴 확률 $7.2\times10^{-3}$의 약 280분의 1)

검토 작은 수끼리의 뺄셈은 반올림 오차에 약하다. $1 - P(0) - P(1)$은 유효숫자를 충분히 두고 계산하거나, $\binom n2p^2$ 근사로 크기를 먼저 확인하자.

ECC는 이항 꼬리를 자르는 장치

메모리 오류율 사양은 거의 이항 분포 계산이다. 코드워드 $n$비트에서 $t$비트까지 고치는 부호라면 정정 불가 확률은 $P(X > t) \approx \binom{n}{t+1}p^{t+1}$이다. $t$가 하나 늘 때마다 $p$의 거듭제곱이 하나씩 붙어, 원시 비트 오류율이 $10^{-3}$까지 나빠지는 NAND도 BCH·LDPC로 $t$를 수십 비트로 늘려 정정 후 오류율 $10^{-15}$ 아래를 맞춘다. 다만 이 계산은 비트 오류가 독립이라는 가정 위에 있다. 로우 해머나 셀 간 간섭처럼 이웃 비트가 함께 틀리면 이항 모형이 꼬리를 크게 과소평가한다. → MemoryBook · 신뢰성과 오류 정정

기하 분포와 음이항 분포

이항 분포는 시행 횟수를 정해 놓고 성공을 셌다. 거꾸로 "성공할 때까지 몇 번 걸리나"를 물을 수도 있다. 접촉이 불안정한 다이를 통과할 때까지 다시 시험하는 횟수, 첫 불량이 나올 때까지 검사한 칩 수, 첫 고장까지 사이클 수가 그렇다.

기하 분포 $X\sim\mathrm{Geom}(p)$

성공 확률 $p$인 독립 시행을 첫 성공이 나올 때까지 되풀이한 시행 횟수 $X$(마지막 성공 포함)는 기하 분포(geometric distribution)를 따른다.

$$P(X = k) = (1-p)^{k-1}p,\quad k = 1,2,\dots,\qquad P(X > k) = (1-p)^k,\qquad E[X] = \frac1p,\qquad \operatorname{Var}(X) = \frac{1-p}{p^2}$$

"처음 $k-1$번 실패하고 $k$번째 성공"이므로 pmf는 바로 나온다. $P(X>k)$는 "처음 $k$번이 모두 실패"라서 더 간단하다. 평균 $1/p$은 직관과 맞는다. 통과율 25%면 평균 4번 만에 통과한다. 교재에 따라 성공 전 실패 횟수 $Y = X - 1$(값 0, 1, 2, …)을 기하 분포라 부르기도 하니, 평균이 $1/p$인지 $(1-p)/p$인지로 어느 정의인지 확인하자. 이 책은 시행 횟수 $X$를 쓴다.

기하 분포에는 특별한 성질이 있다. 이미 $m$번 실패했다는 정보가 앞으로 남은 횟수의 분포를 전혀 바꾸지 않는다.

$$P(X > m + n \mid X > m) = \frac{(1-p)^{m+n}}{(1-p)^m} = (1-p)^n = P(X > n)$$

이 성질을 무기억성(memorylessness)이라 한다. 이산 분포 가운데 무기억성을 가진 것은 기하 분포뿐이다(연속에서는 5장의 지수 분포).

$\mathrm{Geom}(0.4)$의 pmf. 막대가 매번 $1-p = 0.6$배로 줄어드는 등비수열이다.
"이미 두 번 실패했다"는 정보로 $X\le2$인 막대를 지운다. 남은 막대의 합은 $0.6^2 = 0.36$이다.
남은 막대를 0.36으로 나눠 확률 합을 1로 맞추면(조건부 확률), 정확히 처음 분포가 두 칸 옮겨진 모양이다. 지나간 실패는 아무 정보도 주지 않는다.

무기억성을 그림으로. 등비수열은 앞부분을 잘라내도 같은 비율로 줄어들기 때문에 생기는 성질이다.

첫 성공이 아니라 $r$번째 성공까지의 시행 횟수를 세면 음이항 분포가 된다. 마지막 $k$번째 시행이 $r$번째 성공이고, 그 앞 $k-1$번 가운데 $r-1$번이 성공이어야 한다.

음이항 분포 $X\sim\mathrm{NB}(r,p)$

$r$번째 성공까지의 시행 횟수는 음이항 분포(negative binomial distribution)를 따른다. 서로 독립인 $\mathrm{Geom}(p)$ $r$개의 합과 같다.

$$P(X = k) = \binom{k-1}{r-1}p^r(1-p)^{k-r},\quad k = r, r+1,\dots,\qquad E[X] = \frac rp,\qquad \operatorname{Var}(X) = \frac{r(1-p)}{p^2}$$

접촉이 불안정한 다이가 시험마다 통과할 확률이 0.4다. 이미 3번 연속 실패했다. 지금부터 통과할 때까지 평균 몇 번 더 시험해야 할까?

시험이 독립이고 $p$가 일정하면 무기억성으로 남은 횟수는 다시 $\mathrm{Geom}(0.4)$, 평균 $1/0.4 = 2.5$번이다. 넷째 보기는 실제 현장에서는 일리가 있다 — 다이마다 $p$가 다르면(정말 나쁜 다이가 섞이면) 실패가 쌓일수록 나쁜 다이일 가능성이 커진다. 그것은 $p$가 일정하다는 모형 가정이 깨진 경우다(3장의 베이즈 갱신).

SIMULATOR

통과할 때까지 재시험: 기하·음이항 분포

빨간 점선(이미 실패한 횟수 m)을 끈다

통과 확률 p 필요한 통과 횟수 r

다이

다이 수—

평균 시험 횟수 · r/p—

P(X > m) 관측 · 이론—

X > m인 다이의 E[X − m]—

해볼 것: ① $r = 1$에서 m을 0, 3, 6으로 옮겨 보라. 넷째 칸(남은 횟수 평균)이 늘 $1/p$ 근처다. 자주색 점선(원래 pmf를 m칸 옮겨 $P(X>m)$배)이 꼬리 막대와 겹친다. ② $r = 3$으로 바꾸면 점선이 꼬리와 어긋난다. 음이항 분포에는 무기억성이 없다(몇 번 통과했는지가 기억이다). ③ $r$을 키우면 모양이 종 모양에 가까워진다 — 기하 분포 여럿의 합이기 때문이다(7장 중심 극한 정리).

재시험 정책: 통과 확률이 70인 다이를 최대 3번까지 시험한다. 끝내 통과하지 못해 버려지는 비율은 $(1-p)^m =$ 이고, 다이당 평균 삽입 횟수는 $E[\min(X, m)] = \dfrac{1-(1-p)^m}{p} =$ 번이다.

r p

MINI LAB초록 막대는 $\mathrm{Geom}(p)$ 표본 $r$개를 더한 값 3000개의 히스토그램, 자주색 표지는 $\mathrm{NB}(r,p)$ pmf다. 합으로 만든 분포와 공식이 일치한다. $r$이 커지면 평균 $r/p$도 분산 $r(1-p)/p^2$도 $r$배로 늘고, 모양은 대칭에 가까워진다.

(가) 통과 확률 0.7인 다이를 통과할 때까지 시험한다. 평균 시험 횟수, 표준 편차, 3번 시험해도 통과하지 못할 확률을 구하라. (나) 웨이퍼마다 독립으로 20% 확률로 스크래치가 있다. 검사원이 세 번째 스크래치 웨이퍼를 찾을 때까지 검사한 웨이퍼 수 $X$에 대해 $P(X = 10)$, $E[X]$, $\operatorname{Var}(X)$를 구하라.

풀이 보기

전략 (가)는 $\mathrm{Geom}(0.7)$, (나)는 $\mathrm{NB}(3, 0.2)$이다.

풀이 (가) $E[X] = 1/0.7 = 1.43$, $\operatorname{Var}(X) = 0.3/0.49 = 0.612$, $\sigma = 0.782$. $P(X > 3) = 0.3^3 = 0.027$. (나) $P(X = 10) = \binom92(0.2)^3(0.8)^7 = 36(0.008)(0.2097) = 0.0604$. $E[X] = 3/0.2 = 15$장, $\operatorname{Var}(X) = 3(0.8)/0.04 = 60$($\sigma = 7.75$장).

(가) 1.43회, $\sigma = 0.782$회, 0.027 (나) $P(X=10) = 0.0604$, $E[X] = 15$, $\operatorname{Var}(X) = 60$

검토 (나)의 $\binom92$는 "앞 9장 중 스크래치 2장의 자리"다. 열 번째 웨이퍼가 세 번째 스크래치여야 하므로 $\binom{10}{3}$이 아니다.

재시험은 기하 분포 위에서 정한다

웨이퍼 테스트와 최종 테스트에서 실패한 다이를 다시 시험하면 일부가 통과한다. 접촉 저항이나 소켓 이물처럼 다이와 무관한 원인이면 재시험마다 통과 확률이 같아 기하 분포가 잘 맞고, 재시험 1–2회로 대부분 회수된다. 반면 진짜 불량은 $p \approx 0$이라 몇 번을 해도 통과하지 않는다. 그런데도 재시험 횟수를 늘리면 경계에 있는 약한 다이가 우연히 통과해 출하되는 위험이 커진다. 그래서 "재시험 최대 n회, 통과는 같은 빈에서만 인정" 같은 규칙과 재시험 회수율 추적을 함께 쓴다. → TestBook · 빈 분류와 이상치 스크리닝(재테스트 정책)

초기하 분포와 로트 샘플링 검사

이항 분포는 시행마다 확률 $p$가 같다고 가정했다. 공정에서 칩을 하나씩 계속 만들 때는 맞지만, 이미 만들어진 로트(예: 칩 50개, 그중 불량 3개)에서 표본을 뽑아 돌려놓지 않으면 사정이 다르다. 첫 칩이 불량이면 남은 49개 중 불량은 2개뿐이라 두 번째 칩이 불량일 확률이 $3/50$에서 $2/49$로 바뀐다. 시행이 독립이 아니다.

칩 20개 중 불량 4개인 로트. 돌려놓으면 매번 같은 확률(이항), 돌려놓지 않으면 뽑을 때마다 남은 로트의 구성이 바뀐다(초기하). 로트가 크고 표본이 작으면 차이가 거의 없다.

초기하 분포 $X\sim\mathrm{Hyp}(N,K,n)$

불량 $K$개를 포함한 $N$개짜리 로트에서 $n$개를 비복원으로 뽑을 때 표본 속 불량 수는 초기하 분포(hypergeometric distribution)를 따른다. $p = K/N$이라 쓰면

$$P(X = k) = \frac{\binom Kk\binom{N-K}{n-k}}{\binom Nn},\qquad E[X] = np,\qquad \operatorname{Var}(X) = np(1-p)\cdot\frac{N-n}{N-1}$$

분모는 $n$개를 고르는 모든 방법, 분자는 불량 $K$개 중 $k$개와 양품 $N-K$개 중 $n-k$개를 고르는 방법이다. 평균은 이항과 같지만 분산에 $\frac{N-n}{N-1}$이 붙는다. 이 인수를 유한 모집단 수정(finite population correction)이라 한다. 표본이 로트의 상당 부분을 차지하면 표본이 로트를 잘 대표하게 되어 불량 수가 덜 흔들린다. 극단으로 로트 전체를 뽑으면($n = N$) 불량 수는 늘 $K$이고 분산은 0이다. 반대로 $n/N$이 작으면(대략 0.1 이하) 인수가 1에 가까워 이항 $\mathrm{Bin}(n, K/N)$으로 근사해도 된다.

로트 크기 100개에서 20개를 비복원으로 뽑으면 유한 모집단 수정 인수는 $\frac{N-n}{N-1} =$ 이다. 불량 수의 표준 편차가 이항 계산보다 .

칩 20개(불량 4개) 로트에서 10개를 뽑는다. 돌려놓지 않을 때와 돌려놓을 때, 표본 속 불량 수의 분산은 어느 쪽이 클까?

이항 분산 $10(0.2)(0.8) = 1.6$, 초기하 분산은 여기에 $10/19$를 곱한 0.842다. 비복원이면 불량을 많이 뽑을수록 남은 불량이 줄어 "되돌리는 힘"이 생긴다. 아래에서 자주색(초기하)과 점선(이항)을 비교하라.

SIMULATOR

로트에서 표본 뽑기와 합격 판정

히스토그램의 합격 경계 c를 끈다

로트 크기 N 불량 수 K 표본 크기 n

표본

로트 속 불량 위치 보기

표본 수—

합격 비율 (X ≤ c)—

P(X ≤ c) 초기하 · 이항—

분산 관측 · 초기하 · 이항—

해볼 것: ① N = 20에서 n을 10 → 20으로 키우면 초기하 분포가 K 한 점으로 모인다(전수 검사). 이항 점선은 그대로 퍼져 있다. ② N을 100으로, n을 10으로 두면 두 분포가 거의 겹친다($n/N = 0.1$). ③ 합격 경계 c를 0으로 끌어 보라. "불량 하나라도 나오면 로트 불합격"인 c = 0 계획은 불량 4% 로트도 자주 떨어뜨린다.

로트 크기 N

MINI LAB불량률 20%인 로트에서 $n = 10$개를 뽑는다. 자주색 막대는 초기하, 주황 표지는 이항 $\mathrm{Bin}(10, 0.2)$이다. $N$이 커질수록 둘의 최대 차이가 0으로 줄어든다. $N = 100$($n/N = 0.1$)에서 차이가 몇인지 읽어 보라.

합격 판정 샘플링과 OC 곡선

입고 검사나 출하 검사에서는 로트 전체를 검사하지 않고, 표본 $n$개를 뽑아 불량이 $c$개 이하면 로트를 합격시키는 규칙을 쓴다. 이것을 합격 판정 샘플링(acceptance sampling)이라 하고, 규칙 $(n, c)$를 샘플링 계획이라 한다. 로트의 불량률이 $p$일 때 합격 확률 $P_a(p) = P(X\le c)$를 $p$에 대해 그린 것이 OC 곡선(operating characteristic curve)이다. 로트가 크면 $X\sim\mathrm{Bin}(n,p)$로 계산한다.

좋은 계획은 두 위험을 함께 낮춘다. 품질이 좋은 로트(불량률이 합격 품질 수준 AQL 이하)를 떨어뜨릴 확률 — 생산자 위험 $\alpha$, 보통 5% — 와, 나쁜 로트(불량률이 LTPD 이상)를 통과시킬 확률 — 소비자 위험 $\beta$, 보통 10% — 이다. 이상적인 OC 곡선은 AQL과 LTPD 사이에서 1에서 0으로 뚝 떨어지는 절벽이고, 표본 크기를 키울수록 그 모양에 가까워진다. 11장의 1종·2종 오류와 같은 구조이며, 16장에서 다시 다룬다.

SIMULATOR

과녁: 두 위험을 함께 만족하는 샘플링 계획

OC 곡선이 초록 칸과 빨간 칸을 지나게 하라

과녁 (AQL, LTPD)

표본 크기 n 합격 판정 개수 c

P_a(AQL) ≥ 0.95?—

P_a(LTPD) ≤ 0.10?—

판정—

점수—

해볼 것: ① c = 0으로 두고 n만 키우면 LTPD 조건은 맞출 수 있지만 AQL 조건이 깨진다. 왜 c도 키워야 하나? ② 두 조건을 함께 만족하는 계획 가운데 가장 작은 n을 찾아라. 찾으면 ★가 붙는다. ③ AQL과 LTPD가 가까울수록(과녁 3) 필요한 n이 얼마나 커지나?

칩 50개짜리 로트에 불량이 3개 있다. 10개를 비복원으로 뽑아 불량이 하나도 없으면($c = 0$) 합격시킨다. 합격 확률을 정확히 구하고, 이항 근사와 비교하라. $c = 1$이면 어떤가?

풀이 보기

전략 $X\sim\mathrm{Hyp}(50, 3, 10)$. 합격은 $X = 0$(또는 $X\le1$). 근사는 $\mathrm{Bin}(10, 0.06)$.

풀이 $P(X = 0) = \binom{47}{10}/\binom{50}{10} = \frac{40\cdot39\cdot38}{50\cdot49\cdot48} = 0.504$. 이항 근사는 $0.94^{10} = 0.539$. $c = 1$이면 $P(X = 1) = \binom31\binom{47}{9}/\binom{50}{10} = 0.398$이므로 $P_a = 0.902$, 이항으로는 $0.539 + 10(0.06)(0.94)^9 = 0.882$.

$c = 0$: $P_a = 0.504$(이항 0.539) · $c = 1$: $P_a = 0.902$(이항 0.882)

검토 $n/N = 0.2$라 이항 근사가 0.03–0.04쯤 틀린다. 불량 6% 로트가 절반은 통과하는 계획이라 소비자 보호가 약하다. $\binom{47}{10}/\binom{50}{10}$은 "고른 10개가 모두 양품 47개에서 나올 확률"이어서 약분하면 세 항만 남는다.

포아송 분포와 포아송 근사

웨이퍼 위 결함은 정해진 횟수의 시행으로 생기지 않는다. 면적 곳곳에서 아주 드물게, 서로 상관없이 떨어진다. 이런 "드문 사건의 개수"가 따르는 분포가 포아송 분포다. 단위 면적당 평균 결함 수(결함 밀도) $D_0$와 면적 $A$만 알면 평균 개수 $\lambda = D_0A$가 정해지고, 개수의 분포 전체가 $\lambda$ 하나로 정해진다.

포아송 분포 $X\sim\mathrm{Poisson}(\lambda)$

평균 $\lambda > 0$인 포아송 분포(Poisson distribution)의 pmf는

$$P(X = k) = e^{-\lambda}\frac{\lambda^k}{k!},\quad k = 0,1,2,\dots,\qquad E[X] = \operatorname{Var}(X) = \lambda$$

포아송 분포가 나오는 조건은 세 가지다. ① 서로 겹치지 않는 영역(또는 시간 구간)의 사건 수는 독립이다. ② 아주 작은 영역 $\Delta A$에 사건이 하나 생길 확률은 $D_0\Delta A$에 비례한다. ③ 같은 자리에 두 개가 동시에 생길 확률은 무시할 만하다. 이 조건으로 면적을 $n$칸으로 잘게 나누면 칸마다 결함이 있을 확률 $\lambda/n$인 이항 분포가 되고, $n\to\infty$로 보내면 포아송이 된다.

$$\binom nk\Big(\frac\lambda n\Big)^k\Big(1-\frac\lambda n\Big)^{n-k} = \underbrace{\frac{n(n-1)\cdots(n-k+1)}{n^k}}_{\to 1}\cdot\frac{\lambda^k}{k!}\cdot\underbrace{\Big(1-\frac\lambda n\Big)^{n}}_{\to e^{-\lambda}}\cdot\underbrace{\Big(1-\frac\lambda n\Big)^{-k}}_{\to 1}\;\longrightarrow\; e^{-\lambda}\frac{\lambda^k}{k!}$$

평균 $np = \lambda$를 고정한 채 $n\to\infty$, $p\to0$으로 보낸 이항 분포의 극한이 포아송 분포다.

평균과 분산이 같다는 것이 포아송 분포의 지문이다. 다이별 결함 수 자료의 분산이 평균보다 뚜렷이 크면 결함이 독립적으로 떨어지지 않고 뭉쳤다는 뜻이다. 이를 과대 산포(overdispersion)라 한다. 결함이 뭉치면 결함 0개인 다이(양품)가 포아송 예측보다 많아진다 — 결함이 한 다이에 몰려 "같은 다이를 여러 번 죽이기" 때문이다.

SIMULATOR

웨이퍼 결함 지도와 다이당 결함 수

가운데 다이의 모서리 핸들을 끌어 다이 크기를 바꾼다

결함 밀도 D₀ 결함 뭉침(군집) 섞기

다이 크기 · 다이 수—

λ = D₀A—

평균 · 분산 (분산/평균)—

수율 관측 · e^−λ—

해볼 것: ① 다이를 키우면 λ가 면적에 비례해 커지고 수율 $e^{-\lambda}$가 지수적으로 떨어진다. 다이 면적을 두 배로 하면 수율은 제곱이 된다. ② "결함 뭉침"을 켜면 분산/평균이 1보다 커지고, 관측 수율이 $e^{-\lambda}$보다 높아진다. ③ D₀를 낮추고 작은 다이에서 결함 0·1·2개 다이의 비율을 자주색 포아송 표지와 비교하라.

결함 밀도 $D_0 =$ 0.50, 다이 면적 $A =$ 0.8이면 다이당 평균 결함 $\lambda =$ , 무작위 결함 수율 $Y = P(X=0) = e^{-\lambda} =$ , 결함 2개 이상인 다이 비율 이다. 300 mm 웨이퍼 한 장의 다이 약 개 중 양품은 평균 개.

발생률 r

MINI LAB위 띠는 시간 0–200 h 동안 무작위로 일어난 소프트 오류(시간당 평균 r번)다. 길이 t인 창으로 띠를 잘라 창마다 사건 수를 세면, 그 히스토그램(초록)이 $\mathrm{Poisson}(rt)$(자주색)와 겹친다. 면적 대신 시간이어도 같은 원리다(15장 포아송 과정).

무작위 결함 밀도가 $D_0 = 0.5$개/cm²인 공정에서 면적 0.8 cm² 다이를 만든다. 결함 수가 포아송 분포를 따른다고 할 때 수율(결함 0개), 결함 1개인 다이 비율, 2개 이상인 다이 비율을 구하라.

풀이 보기

전략 $\lambda = D_0A = 0.4$. 포아송 pmf에 넣는다.

풀이 $P(0) = e^{-0.4} = 0.670$. $P(1) = 0.4e^{-0.4} = 0.268$. $P(X\ge2) = 1 - e^{-0.4}(1 + 0.4) = 0.0616$.

수율 67.0%, 결함 1개 26.8%, 2개 이상 6.2%

검토 불량 다이 33% 가운데 대부분(26.8%)은 결함 하나짜리다. 그래서 결함 하나를 견디는 리던던시(메모리의 예비 행·열)가 수율을 크게 올린다.

수율 모형의 출발점 $Y = e^{-D_0A}$

포아송 수율 모형은 결함이 웨이퍼 위에 고르게, 독립적으로 떨어진다고 가정한다. 실제 결함은 뭉쳐서 다이 면적이 클수록 포아송 모형이 수율을 비관적으로 예측한다. 그래서 군집 정도를 모수 $\alpha$로 넣은 음이항 모형 $Y = (1 + D_0A/\alpha)^{-\alpha}$($\alpha\to\infty$이면 포아송), 머피·시즈 모형 같은 변형을 쓴다. 측정한 수율과 다이 면적에서 거꾸로 $D_0$를 추정해 라인 간 결함 수준을 비교하는 것도 같은 식이다. → YieldBook · 결함 밀도와 수율 모델 · 17장 신뢰성과 수율

이항 분포의 포아송 근사

위 극한은 계산 도구이기도 하다. $n$이 크고 $p$가 작아 $\binom nk$를 다루기 귀찮을 때, $\lambda = np$인 포아송으로 바꿔 계산한다. 이것을 포아송 근사(Poisson approximation)라 한다. 흔히 쓰는 기준은 $n\ge20$, $p\le0.05$(또는 $n\ge100$, $np\le10$)다. 두 분포의 차이는 대략 $p$에 비례해 작아진다. 근사의 핵심은 "개수 $n$과 확률 $p$를 따로 몰라도 곱 $\lambda$만 알면 된다"는 점이다. 메모리 칩의 비트 수 $n = 10^9$과 비트당 불량 확률 $10^{-9}$을 각각 정확히 알 필요 없이 칩당 평균 불량 비트 수만 알면 된다.

$\mathrm{Bin}(100, 0.02)$의 $P(X=0)$과 포아송 근사 $e^{-2}$의 차이는 대략 얼마일까?

정확한 값 $0.98^{100} = 0.1326$, 근사 $e^{-2} = 0.1353$. 차이 0.0027로 상대 오차 2%다. $n$을 1000으로 늘리고 $p = 0.002$로 줄이면 차이는 약 10분의 1이 된다. 아래에서 직접 확인하라.

SIMULATOR

과녁: 포아송 근사 오차 0.01 아래로

λ 표지(◆)를 좌우로 끈다

시행 수 n λ = np

p = λ/n—

최대 |이항 − 포아송|—

과녁 (최대 오차 < 0.01)—

점수—

해볼 것: ① λ = 2에서 최대 오차를 0.01 아래로 만드는 가장 작은 n을 찾아라(★). ② λ를 키우면 필요한 n도 커진다. 오차는 대략 $p$에 비례하기 때문이다. ③ 아래 빨간 막대(차이)를 보면 이항이 포아송보다 평균 근처에 더 몰려 있다. 분산 $np(1-p) < np$이기 때문이다.

1 Mbit($2^{20}$비트) 메모리 블록에서 각 비트가 독립으로 $2\times10^{-6}$ 확률로 불량이다. 예비 소자로 불량 비트를 4개까지 고칠 수 있다면 블록이 고쳐질 확률은? 이항으로 정확히 계산한 값과 비교하라.

풀이 보기

전략 $n = 1{,}048{,}576$, $p = 2\times10^{-6}$으로 $n$이 매우 크고 $p$가 매우 작다. $\lambda = np = 2.097$인 포아송으로 $P(X\le4)$를 구한다.

풀이 $P(X\le4) = e^{-2.097}\big(1 + 2.097 + \frac{2.097^2}{2} + \frac{2.097^3}{6} + \frac{2.097^4}{24}\big) = 0.1228(1 + 2.097 + 2.199 + 1.537 + 0.806) = 0.938$. 이항 정확값도 0.938(소수 여섯째 자리까지 같다).

리페어 가능 확률 $\approx 0.938$ (고칠 수 없는 블록 6.2%)

검토 $p = 2\times10^{-6}$이라 근사 오차는 $10^{-6}$ 수준이다. 예비 소자를 6개로 늘리면 $P(X\le6) = 0.994$가 된다. 실제 리페어는 불량 비트가 같은 행·열에 몰리는지에 따라 달라 더 복잡하다.

리던던시 설계는 포아송 꼬리 계산

DRAM과 SRAM은 예비 행·열을 두고, 웨이퍼 테스트에서 찾은 불량 셀을 퓨즈로 예비 소자에 바꿔 연결한다. 블록당 불량 셀 수를 $\mathrm{Poisson}(\lambda)$로 보면 예비 $s$개로 고칠 확률은 $P(X\le s)$이고, 예비를 늘릴수록 면적은 늘지만 수율 곡선이 오른쪽으로 밀린다. 그 최적점이 리던던시 설계다. 행 단위 불량과 클러스터 불량은 독립 가정을 깨므로 실측 불량 지도로 보정한다. → MemoryBook · 메모리 테스트와 리페어(리던던시와 리페어)

적률 생성 함수

평균은 $E[X]$, 분산은 $E[X^2]$에서 나왔다. 일반적으로 $E[X^k]$를 $k$차 적률(moment)이라 한다. 3차는 비대칭(왜도), 4차는 꼬리 두께(첨도)와 관계가 있다. 분포마다 적률을 하나씩 합으로 계산하는 대신, 적률을 한꺼번에 담은 함수를 만들 수 있다.

적률 생성 함수

확률 변수 $X$의 적률 생성 함수(moment generating function, mgf)는 0 근처의 $t$에서 $M_X(t) = E[e^{tX}] = \sum_x e^{tx}p_X(x)$이다. $e^{tX} = 1 + tX + \frac{t^2X^2}{2!} + \cdots$이므로

$$M_X(t) = 1 + E[X]\,t + E[X^2]\frac{t^2}{2!} + \cdots,\qquad M_X'(0) = E[X],\qquad M_X''(0) = E[X^2]$$

곧 $t = 0$에서 $M_X$의 기울기가 평균, 휘어짐(2차 도함수)이 2차 적률이다. 분산은 $M''(0) - M'(0)^2$이다. 그래프로 보면 mgf는 항상 $(0, 1)$을 지나고($M(0) = E[1] = 1$), 아래로 볼록하다.

곡선 위 점을 끌어 접선을 본다

분포

MINI LAB$M_X(t)$ 곡선과 점 $t_0$에서의 접선. $t_0 = 0$에 놓으면 접선 기울기가 바로 $E[X]$이고, $M''(0) - M'(0)^2$이 분산이다. 기하 분포의 mgf는 $t < -\ln(1-p)$에서만 유한해 오른쪽에서 끝없이 솟는다.

분포	$M_X(t)$	$E[X]$	$\operatorname{Var}(X)$
$\mathrm{Bernoulli}(p)$	$1 - p + pe^t$	$p$	$p(1-p)$
$\mathrm{Bin}(n,p)$	$(1 - p + pe^t)^n$	$np$	$np(1-p)$
$\mathrm{Geom}(p)$	$\dfrac{pe^t}{1 - (1-p)e^t}$, $t < -\ln(1-p)$	$1/p$	$(1-p)/p^2$
$\mathrm{NB}(r,p)$	$\Big(\dfrac{pe^t}{1 - (1-p)e^t}\Big)^r$	$r/p$	$r(1-p)/p^2$
$\mathrm{Poisson}(\lambda)$	$e^{\lambda(e^t - 1)}$	$\lambda$	$\lambda$

$X\sim\mathrm{Bin}(n,p)$, $n =$ 10, $p =$ 0.30. $M(t) = (1-p+pe^t)^n$을 미분하면 $M'(t) = npe^t(1-p+pe^t)^{n-1}$, $M''(t) = M'(t) + n(n-1)p^2e^{2t}(1-p+pe^t)^{n-2}$이다. $t = 0$에 넣으면 $M'(0) =$ , $M''(0) =$ , 분산 $M''(0) - M'(0)^2 =$ $= np(1-p)$.

mgf의 진짜 힘은 두 가지 성질에서 나온다. 첫째, 유일성: 0 근방에서 mgf가 같으면 분포도 같다. mgf는 분포의 지문이다. 둘째, 독립인 $X$, $Y$에 대해 $e^{t(X+Y)} = e^{tX}e^{tY}$이고 독립이면 곱의 기댓값이 기댓값의 곱이므로

$$M_{X+Y}(t) = M_X(t)\,M_Y(t)\qquad (X, Y \text{ 독립})$$

합의 분포를 구하는 어려운 계산(6장의 합성곱)이 mgf의 곱셈으로 바뀐다. 곱한 결과가 표에 있는 꼴이면 그 분포다.

1층 공정의 결함 수 $X\sim\mathrm{Poisson}(1.2)$, $M_X(t) = e^{1.2(e^t-1)}$.
독립인 2층 공정의 결함 수 $Y\sim\mathrm{Poisson}(0.8)$, $M_Y(t) = e^{0.8(e^t-1)}$.
곱하면 $M_{X+Y}(t) = e^{2.0(e^t-1)}$ — 표의 포아송 꼴이므로 유일성에 의해 $X + Y\sim\mathrm{Poisson}(2.0)$. 층별 결함 밀도를 더하면 전체 $D_0$가 된다.

독립인 포아송 변수의 합은 포아송이다. 같은 방법으로 $\mathrm{Bin}(n_1,p) + \mathrm{Bin}(n_2,p) = \mathrm{Bin}(n_1+n_2,p)$, 기하 $r$개의 합은 $\mathrm{NB}(r,p)$다.

X + Y

MINI LAB$X$와 $Y$를 따로 뽑아 더한 값의 히스토그램(초록)과 mgf 곱이 알려 주는 분포(자주색). 마지막 경우는 $p$가 달라 mgf 곱이 이항 꼴이 아니다. 평균이 같은 $\mathrm{Bin}(10, 0.3)$을 겹쳐 보면 분산이 더 작다.

(가) $\mathrm{Bin}(n,p)$의 mgf에서 평균과 분산을 유도하라. (나) 서로 독립인 두 공정층의 다이당 결함 수가 $\mathrm{Poisson}(0.3)$, $\mathrm{Poisson}(0.5)$일 때 다이의 총 결함 수 분포와 수율을 구하라.

풀이 보기

전략 (가) $M(t) = (q + pe^t)^n$($q = 1-p$)을 두 번 미분해 $t = 0$을 넣는다. (나) mgf를 곱해 표에서 찾는다.

풀이 (가) $M'(t) = npe^t(q + pe^t)^{n-1}$이므로 $M'(0) = np$. $M''(t) = npe^t(q+pe^t)^{n-1} + n(n-1)p^2e^{2t}(q+pe^t)^{n-2}$이므로 $M''(0) = np + n(n-1)p^2$. $\operatorname{Var} = np + n^2p^2 - np^2 - n^2p^2 = np(1-p)$. (나) $M(t) = e^{0.3(e^t-1)}e^{0.5(e^t-1)} = e^{0.8(e^t-1)}$이므로 총 결함 수 $\sim\mathrm{Poisson}(0.8)$, 수율 $e^{-0.8} = 0.449$.

(가) $E[X] = np$, $\operatorname{Var}(X) = np(1-p)$ (나) $\mathrm{Poisson}(0.8)$, 수율 0.449 (= 층별 수율의 곱 $e^{-0.3}e^{-0.5}$)

검토 (가)는 3절의 지시 변수 합과 같은 결과다. (나)에서 수율이 곱해지는 것은 "두 층 모두 결함이 없어야 양품"인 독립 사건의 곱과 같은 이야기다.

분포 고르기: 이산 분포 한눈에

여섯 분포는 따로 떨어진 공식이 아니라 한 가족이다. 무엇을 세는지, 시행이 독립인지, 무엇을 고정하는지에 따라 하나에서 다른 하나로 넘어간다. 현장 자료에 분포를 고를 때도 이 질문 순서를 따르면 된다.

이산 분포의 관계. 베르누이 시행을 몇 번 하고 세느냐(이항), 언제까지 하느냐(기하·음이항)로 갈리고, 이항의 두 극한이 포아송과(드문 사건) 초기하의 반대 방향(큰 로트)이다.

상황	분포	pmf	평균	분산
정해진 $n$번 독립 시행 중 성공 수	$\mathrm{Bin}(n,p)$	$\binom nk p^k(1-p)^{n-k}$	$np$	$np(1-p)$
첫 성공까지 시행 수	$\mathrm{Geom}(p)$	$(1-p)^{k-1}p$	$1/p$	$(1-p)/p^2$
$r$번째 성공까지 시행 수	$\mathrm{NB}(r,p)$	$\binom{k-1}{r-1}p^r(1-p)^{k-r}$	$r/p$	$r(1-p)/p^2$
유한 로트에서 비복원 표본 속 불량 수	$\mathrm{Hyp}(N,K,n)$	$\binom Kk\binom{N-K}{n-k}/\binom Nn$	$nK/N$	$np(1-p)\frac{N-n}{N-1}$
면적·시간 속 드문 사건 수	$\mathrm{Poisson}(\lambda)$	$e^{-\lambda}\lambda^k/k!$	$\lambda$	$\lambda$

분포 a b

MINI LAB분포 동물원. 분포와 모수를 바꾸며 pmf, 평균(세로선), 평균 ± 표준 편차(띠)를 본다. 포아송은 평균과 분산이 같고, 이항은 분산이 평균보다 작으며, 기하·음이항은 분산이 평균보다 크다는 점을 확인하라.

다이 500개의 결함 수를 셌더니 평균 3.1개, 분산 3.0이었다. 어떤 분포가 가장 그럴듯할까?

평균 ≈ 분산은 포아송의 지문이다. 기하·음이항은 분산이 평균보다 크고, 평균이 3.1인 $\mathrm{Bin}(4, 0.78)$은 분산 0.69로 너무 작다. 아래 게임에서 표본 평균과 분산을 단서로 분포를 맞혀 보라.

SIMULATOR

과녁: 히스토그램 뒤에 숨은 분포 맞히기

그래프를 좌우로 끌면 모형의 평균이 움직인다

모형

λ —

표본 (n = 300) 평균 · 분산—

모형 평균 · 분산—

결과—

점수—

해볼 것: ① 먼저 표본 분산/평균 비를 보라. 1보다 작으면 이항, 1 근처면 포아송, 1보다 크면 기하·음이항이다. ② 0에 막대가 있으면 기하·음이항(1부터 시작)은 아니다. ③ 판정은 모형과 숨은 분포의 거리(총변동 거리 < 0.05)로 한다. 이항 $\mathrm{Bin}(30, 0.1)$을 포아송(3)으로 맞혀도 통과할 수 있다 — 포아송 근사다.

핵심 정리

확률 변수는 결과에 숫자를 붙이는 함수다. 이산 변수는 pmf $p_X(x) = P(X=x)$(합 1)와 계단 모양 cdf $F_X(x) = P(X\le x)$로 기술하고, $P(a < X\le b) = F(b) - F(a)$, $P(X\ge k) = 1 - F(k-1)$이다. 이산 변수에서는 등호 여부가 답을 바꾼다.
$E[X] = \sum xp(x)$는 무게 중심, $\operatorname{Var}(X) = E[(X-\mu)^2] = E[X^2] - \mu^2$은 회전 관성이다. $E[aX+b] = aE[X]+b$, $\operatorname{Var}(aX+b) = a^2\operatorname{Var}(X)$. 기댓값은 늘 더해지고, 분산은 독립일 때만 더해진다.
$\mathrm{Bin}(n,p)$: 고정된 $n$번 독립 시행의 성공 수, $\binom nk p^k(1-p)^{n-k}$, 평균 $np$, 분산 $np(1-p)$. "하나라도"는 $1 - (1-p)^n$으로 계산한다.
$\mathrm{Geom}(p)$: 첫 성공까지 시행 수, $P(X>k) = (1-p)^k$, 평균 $1/p$, 분산 $(1-p)/p^2$, 무기억성. $\mathrm{NB}(r,p)$는 기하 $r$개의 합으로 평균 $r/p$, 분산 $r(1-p)/p^2$.
$\mathrm{Hyp}(N,K,n)$: 비복원 표본 속 불량 수, 평균 $nK/N$, 분산은 이항에 $(N-n)/(N-1)$을 곱한 값. $n/N\lesssim 0.1$이면 이항 근사. 샘플링 계획 $(n,c)$의 OC 곡선 $P_a(p) = P(X\le c)$는 생산자 위험(AQL)과 소비자 위험(LTPD)을 함께 맞춰 고른다.
$\mathrm{Poisson}(\lambda)$: 드문 독립 사건 수, $e^{-\lambda}\lambda^k/k!$, 평균 = 분산 = $\lambda = D_0A$. 수율 $Y = e^{-D_0A}$. 분산/평균 > 1이면 결함 군집(과대 산포). $n$이 크고 $p$가 작으면 $\mathrm{Bin}(n,p)\approx\mathrm{Poisson}(np)$, 오차는 대략 $p$에 비례한다.
mgf $M_X(t) = E[e^{tX}]$에서 $M'(0) = E[X]$, $M''(0) = E[X^2]$. mgf는 분포를 유일하게 정하고, 독립 합의 mgf는 곱이다 — 포아송 + 포아송 = 포아송, 같은 $p$의 이항 + 이항 = 이항, 기하 $r$개 = 음이항.

연습문제

따로 말이 없으면 시행·칩·결함은 서로 독립이다. 확률은 소수로 답한다. 답이 ±1% 이내면 정답이다.

확률 변수 $X$의 pmf가 $x = 1, 2, 3, 4$에서 $p_X(x) = cx$이고 그 밖에서는 0이다. 상수 $c$와 $E[X]$를 구하라.

확률의 합이 1이어야 한다: $c(1+2+3+4) = 1$.

$10c = 1$에서 $c = 0.1$. $E[X] = \sum x\cdot0.1x = 0.1(1 + 4 + 9 + 16) = 3.0$.

값 0, 1, 2, 3을 갖는 $X$의 cdf가 $F(0) = 0.50$, $F(1) = 0.80$, $F(2) = 0.95$, $F(3) = 1$이다. $P(X = 2)$와 $P(X\ge2)$를 구하라.

$P(X=2) = F(2) - F(1) = 0.15$. $P(X\ge2) = 1 - F(1) = 0.20$.

$E[X] = 4$, $\operatorname{Var}(X) = 2.25$이다. $Y = 3X - 5$의 평균과 표준 편차를 구하라.

$E[Y] = 3(4) - 5 = 7$. $\operatorname{Var}(Y) = 9(2.25) = 20.25$, $\sigma_Y = 4.5$($= 3\times1.5$). $-5$는 산포에 영향이 없다.

웨이퍼 한 장의 스크래치 수 $X$의 pmf가 $P(0) = 0.4$, $P(1) = 0.3$, $P(2) = 0.2$, $P(3) = 0.1$이다. $E[X]$와 $\operatorname{Var}(X)$를 구하라.

$E[X] = 0.3 + 0.4 + 0.3 = 1.0$. $E[X^2] = 0.3 + 0.8 + 0.9 = 2.0$. $\operatorname{Var}(X) = 2.0 - 1.0^2 = 1.0$.

불량률 5%인 공정에서 칩 20개를 뽑는다. 불량이 0개일 확률과 1개 이하일 확률을 구하라.

$X\sim\mathrm{Bin}(20, 0.05)$. $P(0) = 0.95^{20} = 0.3585$. $P(1) = 20(0.05)(0.95)^{19} = 0.3774$. $P(X\le1) = 0.7358$.

8개 사이트를 동시에 시험하는 프로브 카드에서 사이트마다 접촉 불량 확률이 2%다. 한 번 터치다운할 때 접촉 불량 사이트가 하나라도 있을 확률과 평균 접촉 불량 사이트 수를 구하라.

$1 - 0.98^8 = 1 - 0.8508 = 0.149$. 평균 $np = 8(0.02) = 0.16$개. 확률(0.149)이 평균(0.16)보다 조금 작은 것은 두 개 이상 동시에 불량인 경우를 한 번으로 세기 때문이다.

재처리(rework) 한 번에 막두께가 규격에 들어올 확률이 0.25다. 규격에 들어올 때까지의 재처리 횟수 $X$의 평균과, 4번 이상 필요할 확률을 구하라.

$P(X\ge4) = P(X>3)$이다.

$X\sim\mathrm{Geom}(0.25)$. $E[X] = 1/0.25 = 4$. $P(X\ge4) = P(X>3) = 0.75^3 = 0.422$.

시험마다 통과 확률이 같은 다이 A는 이미 5번 연속 실패했고, 다이 B는 처음 시험한다. 두 다이 모두 같은 $p$를 가진다고 할 때 옳은 것은?

기하 분포의 무기억성: $P(X > 5 + n\mid X > 5) = P(X > n)$. 남은 횟수는 둘 다 $\mathrm{Geom}(p)$이다. $1-(1-p)^6$은 "처음부터 6번 안에 통과할 확률"이지 다음 시험의 통과 확률이 아니다(다음 시험은 그냥 $p$).

신뢰성 시험에서 소자 하나가 스트레스 1사이클에 고장 날 확률이 0.1이다. 같은 소자 하나를 사이클마다 독립으로 다룬다고 할 때, 네 번째 고장(고장 후 즉시 교체)이 나올 때까지의 사이클 수의 평균과 표준 편차를 구하라.

$X\sim\mathrm{NB}(4, 0.1)$. $E[X] = 4/0.1 = 40$. $\operatorname{Var}(X) = 4(0.9)/0.01 = 360$, $\sigma = 18.97\approx19.0$.

칩 20개 중 4개가 불량인 트레이에서 5개를 비복원으로 뽑는다. 불량이 정확히 1개일 확률과 불량 수의 기댓값을 구하라.

$P(X=1) = \binom41\binom{16}4/\binom{20}5 = 4(1820)/15504 = 0.470$. $E[X] = nK/N = 5(4)/20 = 1$.

칩 100개 로트에 불량이 5개 있다. 15개를 비복원으로 뽑아 불량이 1개 이하면 합격시킨다. 합격 확률을 초기하 분포로 정확히 구하고, 이항 근사 $\mathrm{Bin}(15, 0.05)$로도 구하라.

$P(X=0) = \binom{95}{15}/\binom{100}{15}$, $P(X=1) = 5\binom{95}{14}/\binom{100}{15}$.

초기하: $P(0) = 0.4357$, $P(1) = 0.4034$, $P_a = 0.839$. 이항: $0.95^{15} = 0.4633$, $15(0.05)(0.95)^{14} = 0.3658$, $P_a = 0.829$. $n/N = 0.15$라 차이가 0.01 남짓 난다. 비복원이 분산이 작아 $c$ 근처에 더 몰리기 때문에 합격 확률이 조금 높다.

세정 후 웨이퍼 한 장의 0.1 µm 이상 파티클 수가 평균 3인 포아송 분포를 따른다. 파티클이 하나도 없을 확률과 2개 이하일 확률을 구하라.

$P(0) = e^{-3} = 0.0498$. $P(X\le2) = e^{-3}(1 + 3 + 4.5) = 8.5e^{-3} = 0.423$.

면적 0.5 cm²인 다이의 무작위 결함 수율이 90%다. 포아송 모형으로 결함 밀도 $D_0$를 구하고, 같은 공정에서 면적이 두 배(1.0 cm²)인 다이의 수율을 예측하라.

$e^{-0.5D_0} = 0.9$에서 $D_0 = -\ln0.9/0.5 = 0.211$/cm². 면적이 두 배면 $Y = e^{-0.211} = 0.9^2 = 0.81$. 포아송 모형에서는 면적이 두 배일 때 수율이 제곱이 된다.

소자 500개를 번인하는데 소자마다 초기 고장 확률이 0.004다. 고장 소자가 1개 이하일 확률을 포아송 근사로 구하라.

$\lambda = 500(0.004) = 2$. $P(X\le1) \approx e^{-2}(1 + 2) = 0.406$. 이항 정확값은 0.4055로 거의 같다.

확률 변수 $X$의 mgf가 $M_X(t) = e^{3(e^t - 1)}(0.6 + 0.4e^t)^2$이다. $X$는 어떤 두 독립 변수의 합으로 볼 수 있나? $E[X]$와 $\operatorname{Var}(X)$를 구하라.

mgf의 곱은 독립 합이다. 각 인수를 표에서 찾아라.

$e^{3(e^t-1)}$은 $\mathrm{Poisson}(3)$, $(0.6 + 0.4e^t)^2$은 $\mathrm{Bin}(2, 0.4)$의 mgf다. 따라서 $X = U + V$, $U\sim\mathrm{Poisson}(3)$, $V\sim\mathrm{Bin}(2, 0.4)$ 독립. $E[X] = 3 + 0.8 = 3.8$, $\operatorname{Var}(X) = 3 + 2(0.4)(0.6) = 3.48$.

칩 30개짜리 트레이에서 10개를 골라(돌려놓지 않고) 검사할 때 표본 속 불량 수의 분포로 가장 알맞은 것은?

유한한 로트에서 비복원으로 뽑으므로 초기하다. $n/N = 1/3$로 커서 이항 근사도 맞지 않는다.

개념 확인 퀴즈

다이당 결함 수의 기댓값이 0.75개라는 말의 뜻으로 가장 알맞은 것은?

기댓값은 pmf의 무게 중심이고 장기 평균이다. 실제로 가질 수 없는 값이어도 된다. 둘째 보기는 $P(X\ge1)$이고, 넷째는 중앙값에 대한 설명이다.

$X$와 $Y$가 독립이고 분산이 같다. $\operatorname{Var}(2X)$와 $\operatorname{Var}(X+Y)$의 관계는?

$\operatorname{Var}(2X) = 4\sigma^2$, $\operatorname{Var}(X+Y) = 2\sigma^2$. $2X$는 같은 값이 두 번 더해져 흔들림이 그대로 커지지만, 독립인 $X$와 $Y$는 서로 일부 상쇄된다. 평균을 낼수록 산포가 줄어드는 이유다.

다이별 결함 수 자료의 평균이 0.5, 분산이 1.4였다. 가장 그럴듯한 해석은?

포아송이면 분산 = 평균이다. 분산/평균 = 2.8이면 결함이 일부 다이에 몰렸다. 몰릴수록 결함 0인 다이가 늘어나 실제 수율이 $e^{-0.5} = 0.61$보다 높다. 음이항 수율 모형을 쓴다.

칩 수만 개짜리 로트에서 표본 50개를 비복원으로 뽑을 때 불량 수를 이항 분포로 계산해도 되는 이유는?

비복원이어도 로트가 크면 몇 개를 빼도 남은 로트의 불량률이 거의 그대로다. 그래서 초기하가 이항에 가까워진다.

두 확률 변수 $X$, $Y$의 mgf가 0 근처의 모든 $t$에서 같다. 무엇을 결론 내릴 수 있나?

mgf의 유일성: 0 근방에서 mgf가 같으면 분포가 같다. 하지만 분포가 같다는 것이 두 변수가 같은 값을 갖는다는 뜻은 아니다(두 주사위는 분포가 같지만 눈은 다를 수 있다).

분포	\(M_X(t)\)	\(E[X]\)	\(\operatorname{Var}(X)\)
\(\mathrm{Bernoulli}(p)\)	\(1 - p + pe^t\)	\(p\)	\(p(1-p)\)
\(\mathrm{Bin}(n,p)\)	\((1 - p + pe^t)^n\)	\(np\)	\(np(1-p)\)
\(\mathrm{Geom}(p)\)	\(\dfrac{pe^t}{1 - (1-p)e^t}\), \(t < -\ln(1-p)\)	\(1/p\)	\((1-p)/p^2\)
\(\mathrm{NB}(r,p)\)	\(\Big(\dfrac{pe^t}{1 - (1-p)e^t}\Big)^r\)	\(r/p\)	\(r(1-p)/p^2\)
\(\mathrm{Poisson}(\lambda)\)	\(e^{\lambda(e^t - 1)}\)	\(\lambda\)	\(\lambda\)

상황	분포	pmf	평균	분산
정해진 \(n\)번 독립 시행 중 성공 수	\(\mathrm{Bin}(n,p)\)	\(\binom nk p^k(1-p)^{n-k}\)	\(np\)	\(np(1-p)\)
첫 성공까지 시행 수	\(\mathrm{Geom}(p)\)	\((1-p)^{k-1}p\)	\(1/p\)	\((1-p)/p^2\)
\(r\)번째 성공까지 시행 수	\(\mathrm{NB}(r,p)\)	\(\binom{k-1}{r-1}p^r(1-p)^{k-r}\)	\(r/p\)	\(r(1-p)/p^2\)
유한 로트에서 비복원 표본 속 불량 수	\(\mathrm{Hyp}(N,K,n)\)	\(\binom Kk\binom{N-K}{n-k}/\binom Nn\)	\(nK/N\)	\(np(1-p)\frac{N-n}{N-1}\)
면적·시간 속 드문 사건 수	\(\mathrm{Poisson}(\lambda)\)	\(e^{-\lambda}\lambda^k/k!\)	\(\lambda\)	\(\lambda\)