확률 과정
지금까지는 확률 변수 하나, 또는 서로 독립인 표본 여러 개를 다뤘다. 하지만 팹에서 보는 무작위는 대개 시간을 따라 이어진다. 붕소 원자는 실리콘 격자 속에서 한 칸씩 무작위로 뛰어 접합 깊이를 만들고, 로트는 불규칙한 간격으로 노광 장비 앞에 도착해 줄을 서며, 장비는 가동·대기·고장·예방 정비 상태를 오가고, 센서 값은 어제의 값을 조금씩 기억한다. 시간에 따라 변하는 확률 변수의 모임을 확률 과정(stochastic process)이라 한다. 이 장은 공학에서 가장 많이 쓰는 여섯 가지 과정 — 랜덤 워크, 포아송 과정, 마르코프 연쇄, 흡수 연쇄, 대기 행렬, 자기 상관 계열 — 을 직접 돌려 보며 익힌다. 아래 점들은 한 점에서 출발해 무작위로 걷는 도펀트 원자다. 무리의 반경은 시간에 비례하지 않고 \(\sqrt t\)에 비례해 자란다.
- 단순 랜덤 워크의 위치가 이항 분포를 따르고 평균 \(n(2p-1)\), 분산 \(4np(1-p)\)임을 보이고, 퍼짐이 \(\sqrt n\)으로 자란다는 사실에서 확산 방정식의 해 \(\sigma^2 = 2Dt\)를 이끌어 낸다.
- 포아송 과정의 세 조건(독립 증분·정상 증분·드묾)에서 개수 \(N(t)\sim\mathrm{Poisson}(\lambda t)\), 도착 간격 \(\mathrm{Exp}(\lambda)\), \(k\)번째 도착 시각 \(\mathrm{Gamma}(k,1/\lambda)\)를 얻고, 중첩·솎아내기·검사 역설을 설명한다.
- 마르코프 연쇄의 전이 행렬로 \(n\)걸음 분포 \(\pi_n = \pi_0P^n\)을 계산하고, 정상 분포 \(\pi = \pi P\)를 구해 장비 가동률 같은 장기 비율로 해석한다.
- 흡수 연쇄의 기본 행렬 \(N=(I-Q)^{-1}\)으로 흡수 확률과 기대 도달 시간을 구하고, 첫걸음 분석으로 도박꾼의 파산 문제를 푼다.
- M/M/1 대기 행렬의 \(L, L_q, W, W_q\)를 계산하고, 리틀의 법칙 \(L = \lambda W\)로 재공(WIP)·처리량·사이클 타임을 잇고, 이용률이 1에 다가갈 때 대기가 폭증하는 운영 곡선을 설명한다.
- 자기 상관 함수와 상관도를 읽고, 백색 잡음과 AR(1) 과정을 구분하며, 상관된 자료에서 평균의 표준 오차와 유효 표본 크기가 어떻게 달라지는지 계산한다.
랜덤 워크와 확산
동전을 던져 앞면이면 오른쪽, 뒷면이면 왼쪽으로 한 칸 움직이는 점을 생각하자. \(i\)번째 걸음 \(X_i\)는 확률 \(p\)로 \(+1\), \(1-p\)로 \(-1\)이고 서로 독립이다. \(n\)걸음 뒤의 위치
을 랜덤 워크(random walk)라 한다. 시각 \(n = 0, 1, 2, \dots\)마다 확률 변수 \(S_n\)이 하나씩 있으니, \(\{S_n\}\)은 이산 시간 확률 과정이다. 한 번 실행한 결과인 수열 \(S_0, S_1, S_2,\dots\)를 그 과정의 표본 경로라 부른다.
한 걸음의 평균은 \(E[X_i] = p - (1-p) = 2p-1\), 분산은 \(E[X_i^2]-(2p-1)^2 = 1-(2p-1)^2 = 4p(1-p)\)이다. 걸음이 독립이므로 6장의 선형 결합 공식이 그대로 쓰인다.
대칭 랜덤 워크는 평균적으로 제자리지만, 출발점에서 떨어진 전형적인 거리는 \(\sqrt n\)으로 자란다. 100걸음이면 약 10칸, 10000걸음이면 약 100칸이다. 걸음 수를 100배로 늘려도 퍼짐은 10배밖에 늘지 않는다. 중심 극한 정리(7장)에 따라 \(n\)이 크면 \(S_n\)은 \(N\big(n(2p-1),\,4np(1-p)\big)\)에 가까워진다.
대칭 랜덤 워크(\(p = 0.5\))로 100걸음을 걸었다. 출발점에서 떨어진 거리 \(|S_{100}|\)는 보통 어느 정도일까?
랜덤 워크의 부채꼴과 위치 분포
- 걸음 하나는 ±1 두 값이다.
- 4걸음 뒤 위치는 이항 분포를 옮겨 놓은 것이다.
- 16걸음이면 이미 정규 곡선(자주색)과 거의 겹친다.
- 퍼짐은 √n으로 자라고, 물리 단위로 쓰면 σ² = 2Dt가 된다.
확산: 미시적 걸음에서 거시적 퍼짐으로
걸음 길이를 \(a\), 걸음 사이 시간을 \(\tau\)라 하자. 시간 \(t\) 동안 \(n = t/\tau\)걸음을 걸으므로 대칭 워크의 위치 분산은 \(n a^2 = (a^2/\tau)\,t\)다. 물리에서는 이를 \(2Dt\)로 쓰고 \(D = a^2/2\tau\)를 확산 계수(diffusion coefficient)라 부른다. 원자 수가 많으면 각 원자의 위치 분포가 곧 농도 분포가 되어, 한 점에서 출발한 원자 무리의 농도는
고체 속 확산의 원자 그림(빈자리와 틈새 기구, 아레니우스 온도 의존성)은 고체물리 · 결정 결함에서, 전자·정공의 확산과 아인슈타인 관계는 고체물리 · 운반자 수송에서 다룬다. 여기서 중요한 것은 확률의 언어다. 확산 방정식은 랜덤 워크에 중심 극한 정리를 적용한 결과이고, \(\sqrt{Dt}\)는 표준 편차다.
붕소의 확산 계수가 \(D\) = 15 \(\times10^{-14}\) cm²/s인 온도에서 60 동안 열처리하면, 원자 위치의 표준 편차는 \(\sqrt{2Dt}\) = , 흔히 쓰는 확산 길이 \(2\sqrt{Dt}\)는 다. 원자가 Si 원자 간 거리 0.235 nm씩 한 방향으로만 뛴다고 보면(1차원 그림) 그동안 약 번 뛴 셈이다. 시간을 4배로 늘리면 깊이는 배가 된다.
대칭 랜덤 워크 \(S_{400}\)에 대해 (a) 평균과 표준 편차, (b) \(P(|S_{400}|\ge 40)\)을 정규 근사로 구하라. (c) \(P(S_{400} = 0)\)은?
풀이 보기
1100 °C에서 붕소의 확산 계수를 \(D = 1.5\times10^{-13}\) cm²/s로 둔다. 1시간 열처리할 때 (a) \(\sqrt{2Dt}\)와 \(2\sqrt{Dt}\)는? (b) 도즈 \(Q = 10^{14}\) cm⁻²가 표면에서 시작해 반쪽 가우스로 퍼졌고 기판 농도가 \(N_B = 10^{16}\) cm⁻³이면 접합 깊이는?
풀이 보기
포아송 과정과 도착 간격
랜덤 워크는 시간이 띄엄띄엄 흐르는 과정이었다. 이번에는 연속 시간 위에서 사건이 하나씩 찍히는 과정을 보자. 파티클 경보, 장비 알람, 로트 도착, 우주선에 의한 소프트 오류처럼 "언제 일어날지 모르는 드문 사건"이 그렇다. 시각 \(t\)까지 일어난 사건 수를 \(N(t)\)라 하면 \(N(t)\)는 0에서 시작해 1씩 뛰어오르는 계단 함수다(셈 과정).
셈 과정 \(\{N(t), t\ge0\}\)이 다음을 만족하면 비율 \(\lambda\)인 포아송 과정(Poisson process)이다. ① \(N(0) = 0\). ② 독립 증분(independent increments): 겹치지 않는 구간의 사건 수는 서로 독립이다. ③ 정상 증분(stationary increments): 길이 \(h\)인 구간의 사건 수 분포는 구간 위치와 무관하다. ④ 드묾: 짧은 구간 \(h\)에서 \(P(\text{사건 1개})\approx\lambda h\), \(P(\text{2개 이상}) = o(h)\).
이 조건에서 길이 \(t\)인 구간을 \(n\)개의 짧은 칸으로 나누면 칸마다 확률 \(\lambda t/n\)인 베르누이 시행이 되고, \(n\to\infty\)일 때 이항 분포가 포아송 분포로 간다(4장의 포아송 근사). 연속 분포는 5장에서 본 그대로다.
포아송 과정: 창 속 개수와 도착 간격
포아송 과정은 합치고 쪼개도 포아송 과정으로 남는다. 독립인 두 포아송 과정(비율 \(\lambda_1,\lambda_2\))을 합친 중첩(superposition)은 비율 \(\lambda_1+\lambda_2\)인 포아송 과정이고, 각 사건을 독립적으로 확률 \(p\)로만 남기는 솎아내기(thinning)는 비율 \(p\lambda\)인 포아송 과정이다. 버려진 사건들도 비율 \((1-p)\lambda\)인 포아송 과정이며, 놀랍게도 남은 과정과 독립이다. 합쳐진 흐름에서 어떤 사건이 1번 과정에서 왔을 확률은 \(\lambda_1/(\lambda_1+\lambda_2)\)이다.
검사 역설: 왜 내가 기다리는 버스는 늘 늦을까
지수 분포의 무기억성 \(P(T>s+t\mid T>s) = P(T>t)\)(5장)은 포아송 과정에서 이렇게 읽힌다. 어느 시각에 관찰을 시작하든, 다음 사건까지 남은 시간은 여전히 \(\mathrm{Exp}(\lambda)\)이다. 그런데 이 말은 이상한 결론으로 이어진다.
버스가 평균 10분 간격의 포아송 과정으로 온다. 아무 때나 정류장에 도착한 승객은 평균 몇 분 기다릴까?
검사 역설: 승객이 떨어지는 간격
이처럼 길이에 비례해 뽑히는 현상을 검사 역설(inspection paradox) 또는 길이 편향이라 한다. "현재 진행 중인 것"을 표본으로 삼으면 언제나 긴 것이 과대 대표된다. 진행 중인 고장의 지속 시간, 지금 대기 중인 로트의 체류 시간, 측정 시점에 걸린 PM 주기 길이가 모두 그렇다.
파티클 경보가 시간당 3회의 포아송 과정으로 울린다. 30 동안의 경보 수의 평균은 이고, 정확히 2번 울릴 확률은 , 번 이상 울릴 확률은 다. 경보 사이 간격이 이 구간보다 길 확률은 \(e^{-\lambda t}\) = 다.
파티클 계수기 경보가 시간당 \(\lambda = 3\)회의 포아송 과정이다. (a) 30분 동안 2번 이상 울릴 확률, (b) 한 경보 뒤 30분 넘게 조용할 확률, (c) 다섯 번째 경보까지 기다리는 시간의 평균과, 1시간 안에 다섯 번째 경보가 울릴 확률을 구하라.
풀이 보기
마르코프 연쇄와 정상 분포
장비 한 대의 상태를 매시간 기록한다고 하자. 대기(Idle), 가동(Run), 고장(Down), 예방 정비(PM). 다음 시간의 상태는 무작위지만, 그 확률은 지금 상태에만 달려 있고 어떻게 지금 상태에 왔는지와는 무관하다고 가정하면 계산이 놀랍게 쉬워진다. 랜덤 워크도 이미 이런 과정이었다. 다음 위치는 지금 위치 ±1이고, 지난 경로는 상관없다.
상태 공간 \(\{1,\dots,m\}\) 위의 과정 \(X_0, X_1, \dots\)가 마르코프 성질(Markov property) \(P(X_{n+1}=j\mid X_n=i, X_{n-1},\dots,X_0) = P(X_{n+1}=j\mid X_n=i) = p_{ij}\)를 만족하면 (시간 동질) 마르코프 연쇄(Markov chain)라 한다. \(p_{ij}\)를 모은 \(m\times m\) 행렬 \(P\)가 전이 행렬(transition matrix)이고, 각 행의 합은 1이다(\(i\)에서 어디론가는 간다).
가장 작은 예는 상태가 둘인 장비다. 가동(U) 중에 한 시간 안에 고장 날 확률이 \(a\), 고장(D) 중에 한 시간 안에 수리될 확률이 \(b\)라면
가동 중 한 시간에 고장 날 확률 \(a\) = 0.05, 고장 중 한 시간에 수리될 확률 \(b\) = 0.5이면 MTBF = , MTTR = 이고 장기 가동률은 \(\pi_U = b/(a+b)\) = 이다. 고장 상태에서 출발한 장비가 2시간 뒤 가동 중일 확률은 이고, 처음 상태의 흔적은 매시간 배로 줄어든다.
n걸음 전이와 분포의 진화
두 걸음 뒤의 확률은 중간 상태 \(k\)를 모두 거쳐 더한다. \(P(X_2 = j\mid X_0 = i) = \sum_k p_{ik}p_{kj}\), 즉 행렬 곱 \(P^2\)의 \((i,j)\) 원소다. 일반적으로 \(n\)걸음 전이 행렬은 \(P^n\)이고 \(P^{m+n} = P^mP^n\)이다(채프먼–콜모고로프 방정식(Chapman–Kolmogorov equation)). 처음 상태가 확률 벡터 \(\pi_0\)(행 벡터)로 주어지면 \(n\)걸음 뒤의 분포는
- 처음 분포: 확실히 고장 상태.
- 한 걸음: π₀P는 전이 행렬의 Down 행이다.
- 두 걸음: 각 상태로 오는 모든 경로의 확률을 더한다.
- 다섯 걸음: 분포가 정상 분포 쪽으로 움직이는 중.
- 스무 걸음: 정상 분포(점선)와 거의 같다.
정상 분포와 장기 비율
\(\pi P = \pi\), \(\sum_j\pi_j = 1\)을 만족하는 확률 벡터 \(\pi\)를 정상 분포(stationary distribution)라 한다. 분포가 \(\pi\)이면 한 걸음 뒤에도 \(\pi\)이므로 영원히 \(\pi\)에 머문다. 연쇄가 기약(irreducible, 모든 상태가 서로 오갈 수 있음)이고 비주기(aperiodic, 일정한 주기로만 돌아오지 않음)이면 정상 분포는 하나뿐이고, 어떤 \(\pi_0\)에서 출발하든 \(\pi_n\to\pi\)이다. 게다가 한 경로를 오래 관찰했을 때 상태 \(j\)에 머문 시간 비율도 \(\pi_j\)로 간다(에르고드 정리). 그래서 \(\pi_j\)는 "장기적으로 장비가 \(j\) 상태에 있는 시간의 비율"로 읽고, \(1/\pi_j\)는 상태 \(j\)를 떠났다 돌아오기까지의 평균 걸음 수다.
정상 분포는 \(\pi(P-I) = 0\)의 방정식 \(m-1\)개와 \(\sum\pi_j = 1\)을 연립해 푼다. 직관적인 방법은 흐름 균형이다. 장기적으로 각 상태로 들어오는 확률 흐름 \(\sum_{i\ne j}\pi_ip_{ij}\)과 나가는 흐름 \(\pi_j(1-p_{jj})\)이 같아야 한다.
같은 장비 연쇄에서 하나는 고장(Down) 상태로, 다른 하나는 가동(Run) 상태로 출발한다. 100시간 뒤 둘이 가동 중일 확률은?
장비 상태 마르코프 연쇄
예방 정비 주기 맞히기: 가동률 90% 만들기
가동 중 한 시간에 PM에 들어갈 확률 \(m\)을 고른다. PM을 자주 하면 고장 확률 \(d(m) = 0.003+0.05\,e^{-m/0.02}\)이 줄지만 PM 시간만큼 장비가 선다. 목표: 가동률 \(\pi_I+\pi_R\ge 0.90\).
시간 단위 전이 행렬(상태 순서 Idle, Run, Down, PM)이 아래와 같다. 정상 분포, 가동률(Idle+Run), 시간당 고장 발생률, 지금 고장인 장비가 2시간 뒤 가동(Run) 중일 확률을 구하라.
풀이 보기
흡수 상태와 도달 시간
웨이퍼는 공정과 검사, 재작업을 몇 번 오가다가 결국 출하되거나 폐기된다. 한번 들어가면 나오지 않는 상태를 흡수 상태(absorbing state)(\(p_{jj} = 1\)), 언젠가는 떠나는 나머지 상태를 일시 상태(transient state)라 한다. 흡수 연쇄에서는 정상 분포보다 "어느 흡수 상태로, 얼마나 걸려서 가는가"가 관심사다.
일시 상태를 앞에, 흡수 상태를 뒤에 두면 전이 행렬은 블록 꼴 \(P = \begin{pmatrix}Q & R\\ 0 & I\end{pmatrix}\)가 된다. \(Q^n\to0\)이므로(언젠가는 흡수된다) 기하급수 \(I+Q+Q^2+\cdots\)가 수렴하고, 그 합이 기본 행렬(fundamental matrix)이다.
이 공식은 첫걸음 분석(first-step analysis)을 행렬로 쓴 것이다. "첫걸음에 어디로 가는지로 경우를 나누고, 그다음은 마르코프 성질에 따라 새로 시작한다." 예컨대 \(i\)에서 흡수까지의 걸음 수는 \(t_i = 1+\sum_k Q_{ik}t_k\), 즉 \((I-Q)\mathbf t = \mathbf 1\)이다.
재작업 루프의 흡수 확률과 방문 횟수
도박꾼의 파산: 장벽 사이의 랜덤 워크
1절의 랜덤 워크를 0과 \(N\) 두 곳에 흡수 장벽이 있는 구간에 가두자. 위치 \(k\)에서 출발해 매번 확률 \(p\)로 +1, \(q = 1-p\)로 −1 움직일 때, 0보다 \(N\)에 먼저 닿을 확률 \(h_k\)와 끝날 때까지 걸음 수의 기댓값 \(D_k\)는? 돈 \(k\)원을 들고 1원씩 거는 도박꾼이 목표 \(N\)원에 먼저 닿는가 파산하는가의 문제라서 도박꾼의 파산(gambler's ruin)이라 부른다. 공정 엔지니어에게는 "누적 드리프트가 한계선 둘 중 어디에 먼저 닿나"의 문제다.
- 구하려는 양과 경계 조건을 정한다.
- 첫걸음이 오른쪽(p)인지 왼쪽(q)인지로 나눈다.
- 점화식을 풀면 도달 확률이 나온다.
- 같은 방법으로 기대 걸음 수를 얻는다.
거의 공정한 게임(\(p = 0.49\))에서 30원으로 시작해 100원을 만들 확률은? (공정한 게임이면 30/100 = 0.3)
두 장벽 사이의 랜덤 워크
위치 3에서 출발해 확률 0.5로 +1, 나머지 확률로 −1 움직인다. 0보다 10에 먼저 닿을 확률은 , 흡수까지 평균 걸음 수는 이다.
위 그림의 재작업 흐름에서 일시 상태 순서를 (공정, 검사, 재작업)으로 둔다. 공정에서 출발한 웨이퍼의 (a) 출하 확률, (b) 기대 검사 횟수와 재작업 횟수, (c) 흡수까지 기대 걸음 수를 구하라.
풀이 보기
(a) \(p = 0.5\), \(k = 3\), \(N = 10\)일 때 \(N\)에 먼저 닿을 확률과 평균 걸음 수는? (b) \(p = 0.49\)이면?
풀이 보기
대기 행렬과 리틀의 법칙
노광 장비 한 대 앞에 로트가 포아송 과정으로 도착하고, 장비는 한 번에 한 로트를 처리한다. 처리 시간도 무작위다. 장비가 바쁘면 로트는 스토커에서 기다린다. 이런 "도착 → 줄 서기 → 서비스 → 떠남"의 확률 모형을 대기 행렬(queue)이라 하고, 도착 과정/서비스 시간 분포/서버 수를 켄달 기호(Kendall notation)로 줄여 쓴다. M은 무기억(지수 분포, 포아송 도착), D는 일정한 값, G는 일반 분포다. M/M/1은 포아송 도착·지수 서비스·서버 1대, M/M/c는 같은 장비 \(c\)대가 한 줄을 공유하는 경우다.
M/M/1에서 계 안의 로트 수 \(N(t)\)는 +1(도착, 비율 λ)과 −1(완료, 비율 μ)만 일어나는 연속 시간 마르코프 연쇄(출생–사망 과정)다. 이용률(utilization) \(\rho = \lambda/\mu<1\)이면 정상 분포가 있고, 상태 \(n\)과 \(n+1\) 사이의 흐름 균형 \(\lambda P_n = \mu P_{n+1}\)에서 기하 분포가 나온다.
안정한 계에서 장기 평균 머릿수 \(L\), 평균 도착률 \(\lambda\), 평균 체류 시간 \(W\) 사이에는 \(L = \lambda W\)가 성립한다. 도착·서비스 분포, 서버 수, 줄 서는 규칙과 무관하다.
리틀의 법칙(Little's law)의 직관은 이렇다. 들어오는 손님마다 머무는 동안 "1명분의 머릿수"를 낸다고 하면, 긴 시간 \(T\) 동안 쌓인 총 머릿수·시간은 \(L T\)이고, 이것은 손님 \(\lambda T\)명이 평균 \(W\)씩 머문 것과 같다. 그래서 \(LT = \lambda T\cdot W\). 팹에서는 \(\text{재공(WIP)} = \text{처리량}\times\text{사이클 타임}\)으로 쓰며, 셋 중 둘을 재면 나머지가 나온다.
팹의 재공이 30000장, 하루 출하(처리량)가 1000장이면 평균 사이클 타임은 \(W = L/\lambda\) = 이다. 같은 처리량에서 사이클 타임을 20로 줄이려면 재공을 장으로 낮춰야 한다.
노광 장비 앞의 로트 대기열
운영 곡선: 이용률과 사이클 타임의 맞바꿈
M/M/1의 \(W = (1/\mu)/(1-\rho)\)를 순수 처리 시간 \(1/\mu\)로 나눈 값 \(1/(1-\rho)\)를 팹에서는 X-팩터라 부른다. 이용률 50%면 처리 시간의 2배, 90%면 10배, 95%면 20배를 계에 머문다. 이용률을 가로축, X-팩터를 세로축에 그린 것이 팹의 운영 곡선(operating curve)이다. 도착과 처리가 지수 분포보다 덜 들쭉날쭉하면 곡선이 내려간다. 일반 분포(G/G/1)의 근사인 킹맨 공식은
M/M/1 장비의 이용률을 90%에서 95%로 올리면 대기 시간 \(W_q\)는?
운영 곡선 게임: 처리량과 사이클 타임 둘 다 잡기
목표: 이용률 \(\rho\ge0.85\)이면서 X-팩터 ≤ 4(초록 영역). 지수 분포 그대로(\(c_a = c_s = 1\))는 불가능하다. 무엇을 줄여야 할까?
(a) 팹의 재공이 30000장, 하루 출하가 1000장이다. 평균 사이클 타임은? (b) 노광 장비 한 대에 로트가 시간당 4.5개 포아송 도착하고, 처리 시간은 평균 12분인 지수 분포다. \(\rho, L, L_q, W, W_q\)를 구하라. (c) 같은 장비 두 대가 각자 이런 흐름을 받는 대신, 시간당 9개를 한 줄로 받으면(M/M/2) 평균 체류 시간은?
풀이 보기
자기 상관과 백색 잡음
지금까지 표본은 대부분 서로 독립이라고 가정했다. 하지만 시간 순서로 기록한 장비 센서 값, 챔버 온도, 연속 웨이퍼의 막두께는 앞의 값을 닮는 경향이 있다. 챔버 벽에 막이 조금씩 쌓이고, 냉각수 온도가 천천히 오르내리기 때문이다. 시간 순서로 얻은 확률 변수 \(X_1, X_2, \dots\)(시계열)에서 이 "기억"을 재는 도구가 자기 상관이다.
평균 \(E[X_t] = \mu\)가 일정하고 공분산 \(\operatorname{Cov}(X_t, X_{t+k}) = \gamma(k)\)가 시차 \(k\)에만 달린 과정을 (약) 정상 과정(stationary process)이라 한다. \(\gamma(k)\)를 자기 공분산(autocovariance), \(\rho(k) = \gamma(k)/\gamma(0)\)을 자기 상관 함수(autocorrelation function, ACF)라 한다. 자료에서는 \(r_k = \sum_{t=1}^{n-k}(x_t-\bar x)(x_{t+k}-\bar x)\big/\sum_{t=1}^n(x_t-\bar x)^2\)로 추정하고, 막대로 그린 것을 상관도(correlogram)라 한다.
가장 단순한 과정은 평균 0, 분산 \(\sigma^2\)이고 서로 상관없는 값의 열인 백색 잡음(white noise)이다. \(\rho(0) = 1\), \(k\ne0\)이면 \(\rho(k) = 0\). 모든 진동수 성분이 같은 세기로 섞여 있어 백색광에 빗댄 이름이다. 백색 잡음이라도 표본 ACF는 정확히 0이 아니고 약 \(N(0, 1/n)\)으로 흔들리므로, 상관도에 \(\pm2/\sqrt n\) 띠를 그리고 그 밖으로 나간 막대만 유의하다고 본다(시차 20개면 하나쯤은 우연히 나간다).
기억이 있는 가장 단순한 모형은 1차 자기 회귀 모형(autoregressive model) AR(1)이다.
상관도 읽기: 백색 잡음에서 AR(1)까지
상관이 있으면 평균이 덜 정확해진다
독립 표본 \(n\)개의 평균은 분산이 \(\sigma_X^2/n\)이었다. 상관이 있으면 공분산 항이 더해진다. \(\operatorname{Var}(\bar X) = \frac{\sigma_X^2}{n}\Big[1+2\sum_{k=1}^{n-1}\big(1-\tfrac kn\big)\rho(k)\Big]\)이고, AR(1)에서 \(n\)이 크면
시차 1 자기 상관이 \(\phi\) = 0.6인 센서 값 100개를 평균하면 유효 표본 크기는 이고, 평균의 표준 오차는 독립이라고 가정한 값 \(\sigma/\sqrt n\)의 배다.
\(\phi = 0.8\)인 AR(1) 센서 값 100개를 평균했다. 평균의 표준 편차는 독립인 값 100개를 평균했을 때와 비교해 어떨까?
평균하면 잡음이 얼마나 줄어드나
전자 소자에서 흔한 1/f 잡음(1/f noise, 플리커 잡음)은 전력 스펙트럼이 진동수에 반비례해, 느린 성분일수록 크다. 여러 시간 척도의 AR(1) 과정을 고르게 겹친 것처럼 행동해서 기억이 매우 길다. 그래서 측정 시간을 늘려 평균해도 표준 편차가 \(1/\sqrt N\)만큼 줄지 않는다. 백색 잡음(열잡음, 샷 잡음)과 1/f 잡음이 만나는 진동수를 코너 진동수라 하며, 정밀 측정에서는 신호를 코너보다 높은 진동수로 옮겨(초핑·변조) 1/f 영역을 피한다.
챔버 압력 센서 값이 \(\phi = 0.6\)인 AR(1)을 따르고, 값 자체의 표준 편차는 \(\sigma_X = 1\) mTorr다. (a) \(\rho(1), \rho(3)\)은? (b) 연속한 100개를 평균할 때 평균의 표준 오차와 유효 표본 크기는? (c) 혁신 잡음 \(\varepsilon_t\)의 표준 편차 \(\sigma\)는?
풀이 보기
핵심 정리
- 랜덤 워크 \(S_n = \sum X_i\)(±1): \(E[S_n] = n(2p-1)\), \(\operatorname{Var}(S_n) = 4np(1-p)\), \(S_n = 2K-n\), \(K\sim\mathrm{Bin}(n,p)\). 대칭이면 퍼짐이 \(\sqrt n\). 걸음 \(a\), 간격 \(\tau\)이면 \(\sigma^2 = 2Dt\), \(D = a^2/2\tau\) — 확산의 가우스 분포는 랜덤 워크의 중심 극한 정리다.
- 포아송 과정(독립·정상 증분, 비율 λ): \(N(t)\sim\mathrm{Poisson}(\lambda t)\), 간격 \(\mathrm{Exp}(\lambda)\) iid, \(S_k\sim\mathrm{Gamma}(k,1/\lambda)\), \(P(S_k\le t) = P(N(t)\ge k)\). 중첩하면 비율이 더해지고, 확률 \(p\)로 솎으면 \(p\lambda\). 무작위 시각에 걸린 간격은 길이 편향되어 평균이 \(2/\lambda\)(검사 역설), 평균 대기 \(\frac m2(1+c_v^2)\).
- 마르코프 연쇄: 다음 상태는 지금 상태에만 의존. \(\pi_n = \pi_0P^n\), \(P^{m+n} = P^mP^n\). 기약·비주기이면 유일한 정상 분포 \(\pi = \pi P\)로 수렴하고, \(\pi_j\)는 장기 시간 비율, \(1/\pi_j\)는 평균 재방문 걸음. 두 상태: \(\pi_U = b/(a+b) = \text{MTBF}/(\text{MTBF}+\text{MTTR})\), 수렴 속도 \(|1-a-b|^n\).
- 흡수 연쇄: \(P = \begin{pmatrix}Q&R\\0&I\end{pmatrix}\), \(N = (I-Q)^{-1}\)(기대 방문 횟수), \(\mathbf t = N\mathbf 1\)(기대 걸음), \(B = NR\)(흡수 확률). 첫걸음 분석: 도박꾼의 파산 \(h_k = k/N\), \(D_k = k(N-k)\)(\(p = \frac12\)), \(h_k = \frac{1-r^k}{1-r^N}\)(\(r = q/p\)).
- M/M/1(\(\rho = \lambda/\mu<1\)): \(P_n = (1-\rho)\rho^n\), \(L = \frac{\rho}{1-\rho}\), \(W = \frac1{\mu-\lambda}\), \(W_q = \frac{\rho}{\mu-\lambda}\). 리틀의 법칙 \(L = \lambda W\)(모든 안정한 계): 재공 = 처리량 × 사이클 타임. X-팩터 \(\approx1+\frac{c_a^2+c_s^2}{2}\frac{\rho}{1-\rho}\) — 이용률이 1에 다가가면 대기가 폭증하고, 변동성 감소와 풀링(M/M/c)이 곡선을 낮춘다.
- 자기 상관: 정상 과정의 ACF \(\rho(k) = \gamma(k)/\gamma(0)\). 백색 잡음은 \(\rho(k) = 0\)(\(k\ne0\)), 표본 ACF는 \(\pm2/\sqrt n\) 띠 안. AR(1): \(\rho(k) = \phi^k\), \(\operatorname{Var}(X) = \sigma^2/(1-\phi^2)\). 평균의 분산 \(\approx\frac{\sigma_X^2}{n}\frac{1+\phi}{1-\phi}\), \(n_{\text{eff}} = n\frac{1-\phi}{1+\phi}\).
- 상관된 자료에 독립 가정의 공식을 쓰면 표준 오차를 과소 평가하고 관리도의 거짓 경보가 늘어난다. 백색 잡음만 평균으로 \(1/\sqrt N\)씩 줄고, 1/f 잡음과 랜덤 워크(드리프트)는 평균으로 잘 줄지 않는다.
연습문제
포아송·정규 확률은 부록 A의 계산기를 써도 된다. 따로 말이 없으면 답이 ±1% 이내면 정답이다.
대칭 랜덤 워크(±1, 각 확률 1/2)로 100걸음을 걸었다. 위치 \(S_{100}\)의 표준 편차는?
\(\operatorname{Var}(S_n) = 4np(1-p) = 4\times100\times0.25 = 100\), 표준 편차 \(= 10\)칸.
확산 계수 \(D = 1.0\times10^{-13}\) cm²/s인 도펀트를 30분 열처리했다. 원자 위치의 표준 편차 \(\sqrt{2Dt}\)를 µm로 구하라.
\(2Dt = 2\times10^{-13}\times1800 = 3.6\times10^{-10}\) cm², \(\sqrt{2Dt} = 1.90\times10^{-5}\) cm = 0.190 µm.
오른쪽으로 갈 확률이 \(p = 0.55\)인 랜덤 워크로 200걸음을 걸었다. \(S_{200}\)의 평균과 표준 편차를 구하라.
\(E[S] = n(2p-1) = 200\times0.1 = 20\). \(\operatorname{Var}(S) = 4np(1-p) = 4\times200\times0.55\times0.45 = 198\), SD \(= 14.1\). 표류(20)가 퍼짐(14)보다 조금 크다.
장비 알람이 시간당 2회의 포아송 과정으로 울린다. 1시간 동안 알람이 한 번도 울리지 않을 확률은?
\(P(N(1) = 0) = e^{-2} = 0.135\). 같은 값이 "첫 알람까지 1시간 넘게 걸릴 확률" \(P(T>1)\)이다.
반송 중 웨이퍼 표면에 파티클이 분당 0.5개의 포아송 과정으로 떨어진다. 4분 반송 동안 3개 이상 떨어질 확률은?
\(P(N\ge3) = 1-e^{-2}(1+2+2) = 1-5e^{-2} = 1-0.677 = 0.323\).
로트가 시간당 2개의 포아송 과정으로 도착한다. 네 번째 로트가 도착하는 시각 \(S_4\)의 평균과, 네 번째 로트가 1시간 안에 도착할 확률을 구하라.
\(E[S_4] = 4/\lambda = 2\) h. \(N(1)\sim\mathrm{Poisson}(2)\)이므로 \(P(N(1)\ge4) = 1-e^{-2}(1+2+2+\tfrac43) = 1-0.857 = 0.143\).
포아송 과정으로 오는 경보가 지난 2시간 동안 한 번도 울리지 않았다. 다음 경보까지 남은 시간에 대한 설명으로 옳은 것은?
지수 분포의 무기억성 \(P(T>s+t\mid T>s) = P(T>t)\) 때문에, 얼마나 기다렸든 남은 시간은 같은 \(\mathrm{Exp}(\lambda)\)다. "이제 올 때가 됐다"는 직관은 마모처럼 고장률이 시간에 따라 커지는 과정(와이블 β > 1, 17장)에만 맞는다.
가동 중인 장비가 한 시간 안에 고장 날 확률이 0.02, 고장 중인 장비가 한 시간 안에 수리될 확률이 0.3이다. 장기적으로 장비가 고장 상태에 있는 시간 비율은?
\(\pi_D = a/(a+b) = 0.02/0.32 = 0.0625\). MTBF 50 h, MTTR 3.33 h로 보면 \(3.33/53.33 = 0.0625\)로 같다.
상태 1, 2, 3인 마르코프 연쇄의 전이 행렬이 \(P = \begin{pmatrix}0.7&0.2&0.1\\0.3&0.5&0.2\\0.2&0.3&0.5\end{pmatrix}\)이다. (a) \(P(X_2 = 3\mid X_0 = 1)\)과 (b) 정상 분포의 \(\pi_1\)을 구하라.
(a) \(0.7\times0.1+0.2\times0.2+0.1\times0.5 = 0.07+0.04+0.05 = 0.16\). (b) \(\pi_1 = 0.7\pi_1+0.3\pi_2+0.2\pi_3\), \(\pi_2 = 0.2\pi_1+0.5\pi_2+0.3\pi_3\), \(\pi_1+\pi_2+\pi_3 = 1\). 첫 식 \(0.3\pi_1 = 0.3\pi_2+0.2\pi_3\), 둘째 식 \(0.5\pi_2 = 0.2\pi_1+0.3\pi_3\). 풀면 \(\pi = (19, 13, 9)/41 = (0.463, 0.317, 0.220)\).
누적 드리프트가 매 로트 +1 또는 −1(각 확률 1/2)씩 변한다. 지금 값이 4이고, 0에 닿으면 하한 경보, 10에 닿으면 상한 경보다. 상한 경보가 먼저 울릴 확률과 경보까지 기대 로트 수는?
대칭 도박꾼의 파산: \(h_4 = 4/10 = 0.4\), \(D_4 = 4\times(10-4) = 24\)로트.
검사에서 70%는 출하, 25%는 재작업, 5%는 폐기된다. 재작업한 웨이퍼의 80%는 다시 검사로, 20%는 폐기된다. 검사에 처음 들어온 웨이퍼가 결국 출하될 확률과, 흡수될 때까지 받는 기대 검사 횟수를 구하라.
일시 상태 (검사, 재작업): \(Q = \begin{pmatrix}0&0.25\\0.8&0\end{pmatrix}\), \(N = (I-Q)^{-1} = \frac{1}{0.8}\begin{pmatrix}1&0.25\\0.8&1\end{pmatrix} = \begin{pmatrix}1.25&0.3125\\1&1.25\end{pmatrix}\). 출하 확률 \(= N_{11}\times0.7 = 0.875\), 기대 검사 횟수 \(= N_{11} = 1.25\).
어느 공정 구역의 평균 재공이 1200로트이고 하루 처리량이 300로트다. 로트가 이 구역에 머무는 평균 시간은?
리틀의 법칙 \(W = L/\lambda = 1200/300 = 4\)일.
계측 장비 한 대에 로트가 시간당 3개 포아송 도착하고, 측정 시간은 평균 15분인 지수 분포다. \(L\), \(W\), \(W_q\)를 구하라.
\(\mu = 4\)/h, \(\rho = 0.75\). \(L = 0.75/0.25 = 3\), \(W = 1/(4-3) = 1\) h, \(W_q = 0.75/1 = 0.75\) h. 검산 \(\lambda W = 3 = L\).
처리율 \(\mu = 5\)로트/h인 M/M/1 장비에서 평균 체류 시간을 2시간 이하로 유지하려 한다. 받을 수 있는 최대 도착률은? 그때 이용률은?
\(1/(5-\lambda)\le2\iff\lambda\le4.5\)로트/h, \(\rho = 0.9\). 체류 시간 목표를 1시간으로 줄이면 \(\lambda\le4\), \(\rho = 0.8\) — 사이클 타임을 반으로 줄이는 데 처리량 11%를 내놓아야 한다.
\(\phi = 0.7\)인 AR(1) 계열에서 시차 2 자기 상관 \(\rho(2)\)와, 연속한 50개를 평균할 때의 유효 표본 크기 \(n_{\text{eff}} = n(1-\phi)/(1+\phi)\)를 구하라.
\(\rho(2) = 0.7^2 = 0.49\). \(n_{\text{eff}} = 50\times0.3/1.7 = 8.82\).
\(n = 400\)개의 자료로 그린 상관도에서 시차 1–20의 \(r_k\)가 모두 −0.08과 0.07 사이에 있었다. 가장 알맞은 해석은?
백색 잡음의 표본 ACF는 대략 \(N(0, 1/n)\)으로 흔들리므로 \(\pm2/\sqrt{400} = \pm0.1\) 안의 값은 우연으로 설명된다. 독립을 "증명"하지는 않지만 상관의 증거는 없다. 정규성은 ACF와 별개의 문제다.
개념 확인 퀴즈
마르코프 성질이 뜻하는 것은?
두 장비의 알람이 각각 시간당 2회, 3회인 독립 포아송 과정이다. 합친 알람 흐름에 대해 옳은 것은?
리틀의 법칙 \(L = \lambda W\)에 대한 설명으로 옳은 것은?
병목 장비의 이용률을 높일수록 사이클 타임이 급격히 늘어나는 이유로 가장 알맞은 것은?
양의 자기 상관(φ = 0.8)이 있는 공정 자료로 독립을 가정해 평균의 95% 신뢰 구간을 만들면?