가설 검정
새 식각 레시피로 웨이퍼 열두 장을 흘렸더니 접촉 저항 평균이 기존보다 4% 낮게 나왔다. 정말 좋아진 걸까, 웨이퍼마다 원래 있는 흔들림이 우연히 그렇게 보였을 뿐일까? 가설 검정은 이 질문을 "아무 변화가 없다면 이런 결과가 얼마나 드물게 나오는가"라는 질문으로 바꿔서 답한다. 아래 그림에서 자주색 곡선은 변화가 없을 때 표본 평균이 흩어지는 모양이고, 파란 곡선은 실제로 효과가 있을 때의 모양이다. 빨간 기준선보다 오른쪽에 떨어진 결과를 "개선"으로 판정한다. 기준선을 끌어 판정을 엄하게 하거나 느슨하게 해 보자. 한쪽 오류를 줄이면 다른 쪽 오류가 커진다.
- 주장을 귀무가설 \(H_0\)와 대립가설 \(H_1\)로 옮기고, 단측 검정과 양측 검정을 구분한다.
- 검정 통계량, 기각역, 유의 수준 \(\alpha\)의 관계를 설명하고 z 검정과 t 검정을 수행한다.
- p 값을 "\(H_0\)가 참일 때 관측값만큼 또는 그보다 극단적인 결과가 나올 확률"로 해석하고, 흔한 오해를 피한다.
- 제1종·제2종 오류와 검정력 \(1-\beta\)를 계산하고, 검정력 곡선으로 필요한 표본 크기를 정한다.
- 단일 표본, 두 표본(합동·웰치), 대응 t 검정 가운데 맞는 것을 고르고, 신뢰 구간과 검정이 같은 결론을 낸다는 쌍대성을 쓴다.
- 비율 검정(정규 근사·정확 이항), 분산의 카이제곱 검정, 두 분산의 F 검정을 수행한다.
- 여러 검정을 한꺼번에 할 때 거짓 경보가 늘어나는 정도를 계산하고 본페로니·홀름 보정을 적용한다.
귀무가설과 대립가설
모수에 대한 주장을 통계적 가설(statistical hypothesis)이라 한다. "새 레시피의 평균 접촉 저항은 150 Ω보다 낮다", "두 장비의 막두께 평균은 같다", "이번 달 수율은 92%다"가 모두 통계적 가설이다. 가설 검정에서는 가설 두 개를 맞세운다.
귀무가설(null hypothesis) \(H_0\)는 "변화 없음, 차이 없음, 효과 없음"을 말하는 기준 가설이다. 등호를 포함하고(\(\mu = \mu_0\)), 증거가 충분하지 않으면 그대로 유지된다. 대립가설(alternative hypothesis) \(H_1\)은 자료로 보이고 싶은 주장이다. 검정은 \(H_0\)를 가정하고 출발해서, 자료가 그 가정과 어울리지 않을 만큼 극단적일 때만 \(H_0\)를 버리고 \(H_1\)을 받아들인다.
이 논리는 형사 재판과 같다. 피고인은 유죄가 입증되기 전까지 무죄로 추정되고, 검사는 합리적 의심을 넘는 증거를 내야 한다. 증거가 모자라 무죄가 선고되었다고 해서 결백이 증명된 것은 아니다. 아래 그림에서 단계를 넘겨 보자.
- 검정은 \(H_0\)(효과 없음)가 참이라고 가정하고 출발한다. 입증 책임은 \(H_1\) 쪽에 있다.
- 자료를 모아 \(H_0\)와 얼마나 어긋나는지를 숫자 하나, 곧 검정 통계량으로 요약한다.
- 그 숫자가 "\(H_0\)가 참이라면 좀처럼 나오지 않는 영역"(기각역)에 들면 \(H_0\)를 기각한다. 들지 않으면 "기각하지 못한다"고만 말한다.
- 판결은 틀릴 수 있다. 무고한 \(H_0\)를 기각하는 제1종 오류와, 거짓인 \(H_0\)를 놓아주는 제2종 오류다. 4절에서 두 오류를 계산한다.
대립가설은 보이고 싶은 방향에 따라 세 가지 꼴이 있다. 기준값을 \(\mu_0\)라 하면
방향은 자료를 보기 전에 정한다. 자료를 보고 평균이 올라간 것을 확인한 뒤에 "우측 검정"을 고르면 실제 제1종 오류 확률이 두 배가 된다. 확신이 서지 않으면 양측 검정을 쓴다.
"드물다"는 감각을 먼저 손으로 익혀 보자. 기존 레시피와 새 레시피로 웨이퍼를 한 장씩 짝지어 20쌍을 흘렸더니, 새 레시피가 15쌍에서 이겼다. 두 레시피가 똑같다면(\(H_0\)) 각 쌍에서 어느 쪽이 이길지는 동전 던지기와 같다. 그런 세계를 여러 번 돌려 보면 15번 이상 이기는 일이 얼마나 자주 생길까?
15번 이상 이기는 일이 우연만으로는 2%밖에 일어나지 않는다면, 둘 중 하나다. 아주 드문 일이 일어났거나, \(H_0\)가 틀렸거나. 가설 검정은 미리 정한 기준(보통 5%)보다 드물면 뒤쪽을 택한다. 이 "2%"가 3절의 p 값이다.
검정 결과 \(H_0\)(새 레시피와 기존 레시피의 평균이 같다)를 기각하지 못했다. 엔지니어가 보고서에 쓸 수 있는 결론은?
교과서에 따라 "\(H_0\) 채택"이라는 말을 쓰기도 하지만, 뜻은 언제나 "기각하지 못함"이다. PCN(공정 변경 통지) 보고서에서 "변경 전후 차이 없음(p = 0.31)"이라고 쓰려면, 그 실험이 의미 있는 크기의 차이를 잡아낼 검정력이 있었는지도 함께 적어야 한다. 웨이퍼 세 장으로 한 비교의 "차이 없음"은 거의 아무것도 말해 주지 않는다.
검정 통계량과 기각역
자료가 \(H_0\)와 얼마나 어긋나는지를 숫자 하나로 요약한 것을 검정 통계량(test statistic)이라 한다. 좋은 검정 통계량은 두 조건을 갖춘다. \(H_0\)에서 멀어질수록 값이 커지고, \(H_0\)가 참일 때의 분포를 정확히 안다. 모평균 검정에서 표준 편차 \(\sigma\)를 안다면 8장의 결과에서 바로 나온다.
\(H_0\) 아래에서 좀처럼 나오지 않는 값의 영역을 기각역(rejection region, critical region)이라 하고, 그 경계를 임계값(critical value)이라 한다. 기각역의 확률, 곧 \(H_0\)가 참인데도 기각할 확률을 유의 수준(significance level) \(\alpha\)라 한다. 보통 0.05, 엄격한 판단에는 0.01을 쓴다. 기각역은 대립가설 쪽 꼬리에 놓는다.
| 대립가설 | 기각역 (z 검정) | α = 0.10 | α = 0.05 | α = 0.01 |
|---|---|---|---|---|
| \(\mu \ne \mu_0\) | \(|z| > z_{\alpha/2}\) | 1.645 | 1.960 | 2.576 |
| \(\mu > \mu_0\) | \(z > z_\alpha\) | 1.282 | 1.645 | 2.326 |
| \(\mu < \mu_0\) | \(z < -z_\alpha\) | −1.282 | −1.645 | −2.326 |
검정 절차는 늘 다섯 단계다. 산화막 두께 예로 따라가 보자. 목표는 100 nm이고 오랜 이력에서 \(\sigma = 1.2\) nm로 알려져 있다. 웨이퍼 9장의 평균이 100.9 nm였다.
- 가설을 세운다. 목표에서 어느 쪽으로든 벗어났는지가 관심이므로 양측이다.
- 자료를 보기 전에 유의 수준 \(\alpha = 0.05\)를 정하고 기각역 \(|z| > 1.96\)을 그린다.
- 자료로 검정 통계량을 계산한다. 관측한 차이 0.9 nm는 표준 오차 0.4 nm의 2.25배다.
- 통계량이 기각역에 드는지 본다. 같은 판단을 p 값으로 할 수도 있다(3절).
- 결론을 공정의 말로 쓴다: "평균 두께가 목표에서 벗어났다(z = 2.25, p = 0.024)."
목표 \(\mu_0\) = 100.0, 알려진 \(\sigma\) = 1.2인 공정에서 웨이퍼 9장의 평균이 100.90였다. 표준 오차는 , 검정 통계량은 \(z\) = 이다. 양측 검정의 유의 수준 0.05에서 임계값은 이므로 .
유의 수준 \(\alpha\)가 정말로 "\(H_0\)가 참일 때 기각하는 비율"인지 반복 실험으로 확인하자. 먼저 예측해 보자.
참 평균이 정말로 100 nm인 공정(즉 \(H_0\)가 참)에서 웨이퍼 9장씩 뽑아 \(\alpha = 0.05\) 양측 z 검정을 1000번 하면, \(H_0\)를 몇 번쯤 기각할까?
검정 통계량을 1000번 쌓기
CVD 산화막의 목표 두께는 \(\mu_0 = 100\) nm이고, 장기 이력에서 \(\sigma = 1.2\) nm로 안정되어 있다. 예방 정비 뒤 웨이퍼 9장을 재었더니 평균이 100.9 nm였다. 유의 수준 0.05로 평균이 목표에서 벗어났는지 검정하라. 유의 수준을 0.01로 하면 결론이 어떻게 되는가?
풀이 보기
p 값의 뜻과 오해
기각역 방식은 "기각/기각 못함"만 알려 준다. z = 1.97과 z = 4.5는 모두 기각이지만 증거의 세기가 전혀 다르다. 증거의 세기를 연속적인 숫자로 보고하는 것이 p 값이다.
p 값(p-value) 또는 유의 확률은 \(H_0\)가 참이라고 가정할 때, 검정 통계량이 실제로 관측한 값만큼 또는 그보다 더 \(H_1\) 쪽으로 극단적인 값이 나올 확률이다. \(p \le \alpha\)이면 \(H_0\)를 기각한다. 이 판정은 기각역 방식과 언제나 같다.
p 값은 꼬리 넓이
p 값은 표본마다 달라지는 통계량이기도 하다. 그렇다면 \(H_0\)가 참일 때 p 값은 어떤 분포를 따를까?
\(H_0\)가 참인 실험을 1000번 반복해 p 값을 하나씩 모아 히스토그램을 그리면 어떤 모양일까?
p 값의 분포와 엿보기의 함정
마지막 실험이 보여 주듯, 자료를 보면서 표본을 늘리거나, 이상값을 골라 빼거나, 여러 분석 가운데 p 값이 작은 것만 보고하면 실제 제1종 오류 확률이 \(\alpha\)보다 훨씬 커진다. 이런 관행을 p 해킹(p-hacking)이라 한다. 표본 크기, 분석 방법, 제외 기준은 자료를 보기 전에 정해 둔다.
p 값에 대한 가장 흔한 오해는 "p = 0.03이면 \(H_0\)가 참일 확률이 3%"라는 생각이다. p 값은 \(P(\text{자료}\mid H_0)\) 쪽이고, 알고 싶은 \(P(H_0\mid\text{자료})\)는 3장의 베이즈 정리처럼 사전 확률에 달려 있다. 아래 실험에서 확인하자.
① p 값은 \(H_0\)가 참일 확률이 아니다. ② \(1 - p\)는 \(H_1\)이 참일 확률이 아니다. ③ p 값은 효과의 크기가 아니다. 표본이 크면 아주 작은 효과도 p 값이 작다(4절). ④ \(p > 0.05\)는 "효과 없음"의 증거가 아니다. ⑤ p = 0.049와 p = 0.051은 증거의 세기가 사실상 같다. 결론은 p 값 하나가 아니라 효과 크기와 신뢰 구간을 함께 보고 내린다.
제1종·제2종 오류와 검정력
검정의 결정은 "기각" 또는 "기각 못함" 둘이고, 실제 상태도 "\(H_0\) 참" 또는 "\(H_1\) 참" 둘이므로 경우는 넷이다. 그중 둘이 오류다.
제1종 오류(type I error)는 참인 \(H_0\)를 기각하는 오류로, 확률은 우리가 정한 \(\alpha\)다. 제2종 오류(type II error)는 거짓인 \(H_0\)를 기각하지 못하는 오류로, 확률 \(\beta\)는 참값이 \(H_0\)에서 얼마나 떨어져 있는지에 달려 있다. 거짓인 \(H_0\)를 올바르게 기각할 확률 \(1 - \beta\)를 검정력(power)이라 한다.
장 머리 그림이 이 관계를 보여 준다. 참 평균이 \(\mu_1\)일 때, 우측 z 검정의 기각역은 \(\bar X > \mu_0 + z_\alpha\sigma/\sqrt n\)이고 그 경계보다 왼쪽에 떨어질 확률이 \(\beta\)다.
참값 \(\mu_1\)을 바꿔 가며 검정력을 그린 곡선을 검정력 함수(power function)라 한다. \(\mu_1 = \mu_0\)에서는 높이가 \(\alpha\)이고, \(\mu_0\)에서 멀어질수록 1로 올라간다. \(1 - \text{검정력}\)을 그리면 16장 합격 판정 샘플링에서 다시 만날 OC 곡선이 된다. 효과를 산포 단위로 잰 \(d = \delta/\sigma\)를 효과 크기(effect size)라 한다.
검정력 곡선 탐색기
검정력 공식을 \(n\)에 대해 풀면 실험을 시작하기 전에 표본 크기를 정할 수 있다. 양측 검정에서 다른 쪽 꼬리를 무시하면
평균이 0.50만큼 바뀐 것을, 산포 \(\sigma\) = 1.0인 공정에서 양측 \(\alpha\) = 0.05, 검정력 0.80으로 잡으려면 \(z_{\alpha/2}\) = , \(z_\beta\) = 이므로 단일 표본에서 \(n\) = , 두 표본이면 각 군 이 필요하다(효과 크기 \(d\) = ).
증착 장비의 히터를 교체했다. 평균 막두께가 0.5 nm 이상 바뀌었다면 알아내고 싶다. 사이트 평균의 웨이퍼 간 표준 편차는 \(\sigma = 1.0\) nm다. 교체 뒤 웨이퍼를 재어 목표값과 비교하는 양측 검정(\(\alpha = 0.05\))으로 검정력 0.80을 얻으려면 몇 장이 필요한가? 교체 전 웨이퍼 \(n\)장과 교체 뒤 \(n\)장을 비교한다면 어떤가?
풀이 보기
표본이 아주 크면 반대 문제가 생긴다. 검정력이 너무 커서 실무적으로 아무 의미 없는 차이도 "유의"하게 나온다.
이제 판단을 직접 해 보자. 기존 레시피(POR)와 새 레시피로 웨이퍼를 나누어 흘린 자료가 주어진다. 절반의 라운드에서는 새 레시피가 실제로 저항을 낮추고, 나머지 절반에서는 아무 효과가 없다. 눈으로 판단한 결과와 t 검정의 판단을 나란히 기록한다.
게임: 새 레시피가 더 나은가?
단일 표본과 두 표본 t 검정
실제로 \(\sigma\)를 아는 경우는 드물다. \(\sigma\) 대신 표본 표준 편차 \(S\)를 쓰면, 8장에서 본 대로 통계량은 정규 분포가 아니라 t 분포를 따른다. 모집단이 정규 분포라는 가정 아래
게이트 CD 목표는 45.0 nm다. 노광 장비 교정 뒤 측정한 CD 8개가 45.6, 44.9, 45.8, 46.1, 45.3, 45.9, 44.8, 45.7 nm였다. 유의 수준 0.05로 평균 CD가 목표와 다른지 검정하고, 95% 신뢰 구간과 비교하라.
풀이 보기
이 예의 마지막 관찰은 일반적인 사실이다. 신뢰 수준 \(1 - \alpha\)의 양측 신뢰 구간은 "유의 수준 \(\alpha\)의 양측 검정에서 기각되지 않는 \(\mu_0\)들의 모임"이다. 이를 신뢰 구간과 검정의 쌍대성(duality)이라 한다(10장 구간 추정).
두 표본 t 검정
공정 변경 평가는 대개 두 모집단의 평균을 비교한다. 독립인 두 표본(기존 \(n_1\)장, 새 레시피 \(n_2\)장)으로 \(H_0: \mu_1 = \mu_2\)를 검정한다. 두 모분산이 같다고 볼 수 있으면 두 표본 분산을 자유도로 가중 평균한 합동 분산(pooled variance)을 쓴다.
분산이 같다는 가정이 없으면 웰치 t 검정(Welch's t-test)을 쓴다. 통계량의 분모를 각자의 분산으로 만들고, 자유도는 웰치–새터스웨이트 근사로 구한다.
스플릿 로트 비교: 웰치와 합동 t
한 로트를 나누어 기존 레시피로 10장, 새 레시피로 10장을 흘렸다. 접촉 저항은 기존 \(\bar x_1 = 152.4\ \Omega\), \(s_1 = 6.1\), 새 레시피 \(\bar x_2 = 146.8\ \Omega\), \(s_2 = 4.2\)였다. 유의 수준 0.05로 두 평균이 다른지 웰치 t 검정으로 판단하고, 차이의 95% 신뢰 구간을 구하라. 합동 t 검정과도 비교하라.
풀이 보기
대응 t 검정
같은 웨이퍼를 두 장비로 재거나, 같은 칩을 번인 전후로 측정하면 두 값은 독립이 아니다. 웨이퍼마다 원래 두께가 다르다는 사실이 두 측정에 똑같이 들어가 있기 때문이다. 이런 자료는 짝마다 차이 \(D_i = X_i - Y_i\)를 만들어, 차이의 평균이 0인지 단일 표본 t 검정으로 본다. 이것이 대응 t 검정(paired t-test)이다.
- 웨이퍼 8장의 평균 두께를 장비 A와 B로 쟀다. 두 열의 평균 차는 0.46 nm인데, 웨이퍼마다 두께가 97–103 nm로 흩어져 차이가 묻힌다.
- 같은 웨이퍼끼리 선으로 이으면 8개 선이 모두 아래로 기운다. 장비 B가 언제나 조금 낮게 읽는다.
- 짝마다 차이만 모으면 0.2–0.7 nm에 촘촘히 모인다. 웨이퍼 간 산포(약 1.9 nm)가 빼기에서 사라졌다.
- 차이로 검정하면 \(t = 6.33\)으로 압도적이다. 같은 자료를 독립 두 표본으로 잘못 분석하면 \(t = 0.50\)으로 아무것도 보이지 않는다.
웨이퍼 간 산포가 측정 잡음보다 열 배 크다. 같은 웨이퍼 10장을 두 장비로 재는 대응 설계는, 장비마다 다른 웨이퍼 10장을 쓰는 독립 설계와 비교해 검정력이 어떨까?
대응 설계 대 독립 분석
새로 들인 엘립소미터 B를 기존 장비 A와 매칭하려고 웨이퍼 8장을 두 장비로 쟀다(nm). A: 101.8, 98.4, 103.1, 99.7, 100.9, 97.6, 102.4, 100.2. B: 101.3, 98.1, 102.4, 99.5, 100.2, 97.4, 101.9, 99.6. 두 장비의 읽음에 계통적 차이가 있는지 α = 0.05로 검정하라. 독립 두 표본으로 분석하면 어떻게 되는가?
풀이 보기
비율 검정
수율, 불량률, 빈(bin) 비율처럼 "몇 개 중 몇 개"인 자료는 이항 분포를 따른다. 모비율 \(p\)에 대한 \(H_0: p = p_0\)는 표본 비율 \(\hat p = X/n\)으로 검정한다. \(n\)이 충분히 크면 7장의 정규 근사로
불량이 드물어 \(np_0\)가 작으면 정규 근사가 크게 틀린다. 이때는 이항 분포로 p 값을 직접 더하는 정확 이항 검정(exact binomial test)을 쓴다. 예컨대 우측 검정이면 \(p = P(X \ge x) = \sum_{k \ge x}\binom{n}{k}p_0^k(1 - p_0)^{n-k}\)이다.
두 공정의 수율을 비교할 때는 \(H_0: p_1 = p_2\)를 검정한다. \(H_0\) 아래에서는 두 비율이 같으므로, 공통 비율을 두 표본을 합쳐 추정한 합동 비율 \(\hat p = (x_1 + x_2)/(n_1 + n_2)\)로 표준 오차를 만든다.
변경 전 다이 2000개 중 양품 1840개, 변경 뒤 2000개 중 1885개. 수율은 → , 합동 비율 , \(z\) = , 양측 p 값 . 수율 차이의 95% 신뢰 구간은 이다.
수율 개선 2%p를 잡을 수 있을까
세정 공정을 바꾸기 전 다이 2000개 중 1840개가 양품, 바꾼 뒤 2000개 중 1885개가 양품이었다. 유의 수준 0.05로 수율이 달라졌는지 검정하고, 수율 차이의 95% 신뢰 구간을 구하라.
풀이 보기
분산의 검정: 카이제곱과 F
반도체 공정에서는 평균만큼 산포가 중요하다. 막두께 균일도, CD 산포, 장비 간 산포 차이가 모두 분산에 대한 질문이다. 정규 모집단이면 8장의 결과 \((n-1)S^2/\sigma^2 \sim \chi^2_{n-1}\)로 \(H_0: \sigma^2 = \sigma_0^2\)를 검정한다.
두 장비나 두 레시피의 산포를 비교할 때는 두 표본 분산의 비를 쓴다. 두 모집단이 정규이고 독립이면 8장의 F 분포가 나온다.
두 장비의 균일도 비교 (F 검정)
막두께 웨이퍼 내 산포의 규격은 \(\sigma_0 = 1.5\) nm 이하다. 한 웨이퍼의 15개 사이트에서 \(s = 1.9\) nm를 얻었다. 유의 수준 0.05로 산포가 규격보다 크다고 할 수 있는가?
풀이 보기
새 증착 장비 A와 기존 장비 B에서 각각 웨이퍼 13장의 평균 두께를 얻었다. 표준 편차는 \(s_A = 1.9\) nm, \(s_B = 1.1\) nm다. 유의 수준 0.05로 장비 A의 웨이퍼 간 산포가 더 크다고 할 수 있는가?
풀이 보기
다중 비교와 본페로니 보정
수율이 떨어진 로트들이 어느 장비를 거쳤는지 공정 단계 수백 개를 하나씩 검정한다고 하자. 검정 하나의 제1종 오류는 5%로 묶었지만, 검정을 많이 하면 어딘가에서 거짓 경보가 날 확률은 빠르게 커진다. 먼저 예측해 보자.
수율과 아무 관계가 없는 설비 변수 20개를 각각 α = 0.05로 검정한다. 적어도 하나가 "유의"하게 나올 확률은?
설비 변수 20개 동시 검정
검정 \(m\)개 가운데 적어도 하나에서 제1종 오류를 범할 확률을 가족별 오류율(familywise error rate, FWER)이라 한다. 검정이 독립이면
본페로니 보정(Bonferroni correction)은 각 검정을 유의 수준 \(\alpha/m\)으로 한다. 같은 말로, 보정된 p 값 \(\min(1, m p_i)\)을 \(\alpha\)와 비교한다. 그러면 \(\mathrm{FWER} \le \alpha\)가 언제나 보장된다. 홀름 방법(Holm's step-down method)은 p 값을 작은 순서로 \(p_{(1)} \le \dots \le p_{(m)}\) 정렬하고, \(p_{(k)} \le \alpha/(m - k + 1)\)을 만족하는 동안 차례로 기각하다가 처음 실패한 곳에서 멈춘다. FWER를 똑같이 보장하면서 본페로니보다 늘 같거나 더 많이 기각한다.
서로 독립인 검정 20개를 각각 \(\alpha\) = 0.05로 하면 거짓 경보가 적어도 하나 날 확률은 이고, 평균 개의 거짓 경보가 난다. 본페로니 문턱은 이고, 그때의 FWER는 다. 대신 효과 크기 \(d = 1\)인 진짜 차이를 각 군 10개로 잡을 검정력은 에서 로 떨어진다.
본페로니는 단순하고 확실하지만, 검정이 수백 개면 문턱이 너무 낮아져 진짜 원인도 놓친다. 탐색 단계에서는 "기각한 것들 가운데 거짓 경보의 비율"의 기댓값을 묶는 거짓 발견율(false discovery rate, FDR)을 쓰기도 한다. 벤저미니–호크버그(BH) 절차는 정렬한 p 값에서 \(p_{(k)} \le k\alpha/m\)을 만족하는 가장 큰 \(k\)까지 모두 기각한다. 어느 방법을 쓰든, 탐색에서 찾은 후보는 새 자료로 확인 실험을 해야 결론이 된다.
핵심 정리
- 가설 검정은 \(H_0\)(효과 없음)를 가정하고, 자료가 그 가정 아래에서 드문 결과일 때만 \(H_0\)를 기각한다. 기각하지 못한 것은 "증거 부족"이지 \(H_0\)의 증명이 아니다. 단측·양측은 자료를 보기 전에 정한다.
- 검정 통계량은 관측한 차이를 표준 오차 단위로 잰다: \(Z = (\bar X - \mu_0)/(\sigma/\sqrt n)\), \(T = (\bar X - \mu_0)/(S/\sqrt n) \sim t_{n-1}\). 유의 수준 \(\alpha\)는 \(H_0\)가 참일 때 기각역에 떨어질 확률이다(양측 0.05에서 \(|z| > 1.96\)).
- p 값은 \(H_0\) 아래에서 관측값만큼 이상 극단적인 결과가 나올 확률이고, \(p \le \alpha\)면 기각한다. \(H_0\)가 참이면 p 값은 \(\mathrm{U}(0,1)\)이다. p 값은 \(H_0\)가 참일 확률도, 효과의 크기도 아니다. 엿보기와 선택적 보고는 제1종 오류를 부풀린다.
- 제1종 오류 확률 \(\alpha\), 제2종 오류 확률 \(\beta\), 검정력 \(1 - \beta\)는 \(\delta\sqrt n/\sigma\)에 달려 있다. 표본 크기는 \(n = [(z_{\alpha/2} + z_\beta)\sigma/\delta]^2\)(두 표본은 각 군 2배)로 실험 전에 정한다. 큰 표본에서는 의미 없는 차이도 유의하므로 효과 크기와 신뢰 구간을 함께 본다.
- 두 표본 비교는 웰치 t(자유도 웰치–새터스웨이트)를 기본으로, 분산이 같다는 근거가 있으면 합동 t(df \(n_1 + n_2 - 2\))를 쓴다. 같은 단위를 두 번 쟀다면 차이로 대응 t를 한다. 단위 간 산포가 클수록 대응 설계의 이득이 크다. \(1-\alpha\) 신뢰 구간이 \(\mu_0\)를 포함하지 않는 것과 양측 \(\alpha\) 검정의 기각은 같다.
- 비율은 \(Z = (\hat p - p_0)/\sqrt{p_0(1-p_0)/n}\), 두 비율은 합동 비율로 검정하고, \(np_0\)가 작으면 정확 이항 검정을 쓴다. 분산은 \(X^2 = (n-1)S^2/\sigma_0^2 \sim \chi^2_{n-1}\), 두 분산은 \(F = S_1^2/S_2^2\)로 검정하며 정규성에 민감하다.
- 검정 \(m\)개의 FWER는 \(1 - (1-\alpha)^m\)으로 빠르게 커진다(20개면 0.64). 본페로니(\(\alpha/m\))와 홀름은 FWER를 \(\alpha\) 아래로, BH는 FDR을 묶는다. 탐색에서 찾은 후보는 확인 실험으로 검증한다.
연습문제
분포의 임계값과 꼬리 확률은 부록 A의 계산기를 쓴다. 따로 말이 없으면 표본은 정규 모집단에서 뽑은 확률 표본이다. 답이 ±1% 이내면 정답이다(표를 읽는 p 값은 ±3%).
식각 깊이의 목표는 2.50 μm, 공정 표준 편차는 \(\sigma = 0.06\) μm로 알려져 있다. 웨이퍼 16장의 평균이 2.47 μm였다. \(H_0: \mu = 2.50\), \(H_1: \mu \ne 2.50\)의 검정 통계량 \(z\)와 p 값을 구하라. α = 0.05에서 결론은?
\(z = (2.47 - 2.50)/0.015 = -2.00\). 양측 p \(= 2\Phi(-2.00) = 2(0.02275) = 0.0455 < 0.05\)이므로 기각한다. 식각 깊이가 목표보다 얕다.
(a) α = 0.01 양측 z 검정의 임계값 \(z_{0.005}\)와 (b) \(n = 10\)인 단일 표본 t 검정을 α = 0.05 우측으로 할 때의 임계값 \(t_{0.05, 9}\)를 구하라.
(a) \(P(Z > 2.576) = 0.005\)이므로 \(z_{0.005} = 2.576\). (b) 자유도 9의 상위 5% 분위수 \(t_{0.05, 9} = 1.833\). 같은 α의 단측 z 임계값 1.645보다 크다.
새 세정 레시피의 파티클 수 비교에서 p = 0.02가 나왔다. 옳은 해석은?
p 값은 \(H_0\)가 참이라는 가정 아래에서 계산한 확률 \(P(\text{이만큼 극단적인 자료}\mid H_0)\)이다. \(H_0\)나 \(H_1\)이 참일 확률이 아니고, 재현 확률도 아니다(재현 확률은 검정력에 달려 있다).
SPC 관리도에서 공정이 실제로는 정상인데 관리 한계를 벗어난 점이 나와 장비를 세웠다. 가설 검정의 말로 이것은 무엇인가? (\(H_0\): 공정이 관리 상태다)
참인 \(H_0\)(관리 상태)를 기각했으므로 제1종 오류다. 3σ 관리 한계의 점 하나당 거짓 경보 확률은 \(2[1 - \Phi(3)] = 0.0027\)로, 16장에서 평균 런 길이(ARL)로 다시 다룬다.
새 게이트 산화 조건에서 항복 전압(V)을 6개 소자로 쟀다: 12.8, 13.4, 12.1, 13.9, 13.1, 13.6. 기존 조건의 평균은 12.5 V다. 항복 전압이 올라갔는지 α = 0.05로 검정하라(\(H_1: \mu > 12.5\)). t와 p 값을 구하라.
\(t = (13.15 - 12.5)/(0.6411/\sqrt 6) = 0.65/0.2617 = 2.48\), 자유도 5. 우측 p \(= P(T_5 > 2.48) = 0.028 < 0.05\)이므로 기각한다. 임계값 \(t_{0.05,5} = 2.015\)와 비교해도 같다. 양측이었다면 p = 0.056으로 기각하지 못한다.
\(\sigma = 2\)인 공정에서 \(n = 25\)로 \(H_0: \mu = 50\)을 α = 0.05 양측 z 검정한다. 참 평균이 51이면 검정력은 얼마인가?
\(1 - \beta = 1 - \Phi(1.96 - 2.5) + \Phi(-1.96 - 2.5) = 1 - \Phi(-0.54) + \Phi(-4.46) = 0.7054 + 0.0000 = 0.705\). 반대쪽 꼬리의 기여는 무시할 만하다. 1 nm 이동을 30% 확률로 놓친다.
\(\sigma = 0.8\) nm인 공정에서 평균이 0.3 nm 바뀐 것을 양측 α = 0.05, 검정력 0.90으로 잡으려면 웨이퍼가 몇 장 필요한가(단일 표본, 정규 근사)?
\(z_{0.025} = 1.960\), \(z_{0.10} = 1.2816\). \(n = [(1.960 + 1.2816)(0.8)/0.3]^2 = (8.644)^2 = 74.7\) → 75장.
두 챔버의 식각률(μm/min): 챔버 1은 12장에서 \(\bar x_1 = 8.42\), \(s_1 = 0.31\), 챔버 2는 10장에서 \(\bar x_2 = 8.19\), \(s_2 = 0.27\). 분산이 같다고 보고 합동 표준 편차 \(s_p\), 통계량 \(t\), 자유도를 구하라. α = 0.05 양측 결론은?
\(s_p^2 = (11 \cdot 0.0961 + 9 \cdot 0.0729)/20 = (1.0571 + 0.6561)/20 = 0.08566\), \(s_p = 0.2927\). \(t = 0.23/(0.2927\sqrt{1/12 + 1/10}) = 0.23/0.1253 = 1.84\), 자유도 20. \(t_{0.025, 20} = 2.086\)보다 작아 기각하지 못한다(p = 0.081).
소자 A형 8개: \(\bar x_1 = 3.10\), \(s_1 = 0.20\). B형 12개: \(\bar x_2 = 2.85\), \(s_2 = 0.45\). 웰치 t 통계량과 웰치–새터스웨이트 자유도 \(\nu\)를 구하라. 합동 t를 쓰면 무엇이 문제인가?
\(a = 0.04/8 = 0.005\), \(b = 0.2025/12 = 0.016875\), \(\sqrt{a + b} = 0.1479\). \(t = 0.25/0.1479 = 1.69\). \(\nu = 0.021875^2/(0.005^2/7 + 0.016875^2/11) = 4.785\times10^{-4}/(3.571\times10^{-6} + 2.589\times10^{-5}) = 16.2\). p = 0.11. 합동 t는 큰 분산(0.45)이 큰 표본(12개) 쪽에 있어 두 분산을 평균내면서 작은 표본의 분산을 과대평가하고, 군 크기와 분산이 함께 다를 때는 실제 α가 명목 α와 크게 달라진다.
칩 10개의 누설 전류를 번인 전후로 측정해 차이(후 − 전, nA)의 평균 \(\bar d = 0.42\), 표준 편차 \(s_d = 0.55\)를 얻었다. 번인이 누설 전류를 바꾸는지 양측 검정의 t와 p 값을 구하라.
\(t = 0.42/(0.55/\sqrt{10}) = 0.42/0.1739 = 2.41\), 자유도 9, 양측 p = 0.039. α = 0.05에서 기각한다. 칩마다 누설 전류가 크게 다르므로 전후 측정을 독립 두 표본으로 보면 이 차이를 잡기 어렵다.
고객 요구 수율은 95%다. 다이 500개를 검사해 470개가 양품이었다. 수율이 95%보다 낮다는 증거가 있는지 \(H_1: p < 0.95\)로 정규 근사 z 검정을 하라.
\(\hat p = 0.94\). \(z = (0.94 - 0.95)/\sqrt{0.95(0.05)/500} = -0.01/0.009747 = -1.03\). 좌측 p \(= \Phi(-1.03) = 0.152\). 기각하지 못한다. \(np_0 = 475\), \(n(1 - p_0) = 25\)로 근사 조건은 만족한다(정확 이항 검정은 p = 0.176).
신뢰성 시험에서 기준 불량률은 5%다. 새 패키지 20개를 시험해 4개가 불량이었다. \(H_1: p > 0.05\)의 정확한 p 값 \(P(X \ge 4)\)를 구하라. 정규 근사를 쓰면 왜 위험한가?
\(P(X=0) = 0.3585\), \(P(1) = 0.3774\), \(P(2) = 0.1887\), \(P(3) = 0.0596\). 합 0.9841. \(p = 1 - 0.9841 = 0.0159\). α = 0.05에서 기각. \(np_0 = 1\)뿐이라 정규 근사의 조건(\(np_0 \ge 10\))이 크게 깨진다. 정규 근사로 하면 \(z = (0.2 - 0.05)/0.0487 = 3.08\), p = 0.001로 증거를 열 배 과장한다.
CD 산포 규격은 \(\sigma_0 = 0.6\) nm다. 측정 10개에서 \(s = 0.9\) nm를 얻었다. \(H_1: \sigma > 0.6\)의 통계량 \(X^2\)와 p 값을 구하라.
\(X^2 = 9(0.81)/0.36 = 20.25\), 자유도 9. \(\chi^2_{0.05, 9} = 16.92\)보다 크므로 기각. p \(= P(\chi^2_9 > 20.25) = 0.016\).
장비 1의 웨이퍼 11장에서 \(s_1 = 2.4\), 장비 2의 16장에서 \(s_2 = 1.5\)였다. \(H_1: \sigma_1 > \sigma_2\)를 α = 0.05로 검정하려 한다. 통계량 \(F\)와 임계값 \(F_{0.05, 10, 15}\)를 구하라.
\(F = 2.4^2/1.5^2 = 5.76/2.25 = 2.56\), 자유도 (10, 15). \(F_{0.05, 10, 15} = 2.54\). 2.56 > 2.54로 아슬아슬하게 기각한다(p = 0.049). 경계에 걸린 결과이므로 표본을 늘려 확인하는 편이 좋다.
PCN 평가에서 서로 독립인 전기 특성 15개를 변경 전후로 각각 α = 0.05 검정한다. 모든 특성에 실제 차이가 없을 때, 적어도 하나가 유의하게 나올 확률은? 본페로니 보정을 하면 개별 검정의 문턱은?
\(1 - 0.95^{15} = 1 - 0.4633 = 0.537\). 본페로니 문턱은 \(0.05/15 = 0.00333\).
설비 변수 5개의 p 값이 0.004, 0.011, 0.019, 0.030, 0.21이다. α = 0.05에서 본페로니와 홀름은 각각 몇 개를 기각하는가?
본페로니: 문턱 \(0.05/5 = 0.01\) → 0.004 하나만 기각. 홀름: \(p_{(1)} = 0.004 \le 0.05/5 = 0.010\) 기각, \(p_{(2)} = 0.011 \le 0.05/4 = 0.0125\) 기각, \(p_{(3)} = 0.019 > 0.05/3 = 0.0167\)에서 멈춘다. 홀름은 2개를 기각한다.
개념 확인 퀴즈
유의 수준 α를 0.05에서 0.01로 낮추면 (표본 크기는 그대로)?
\(H_0\)가 참인 실험을 많이 반복했을 때 p 값의 분포는?
측정값이 수십만 개인 비교에서 p < 10⁻⁶이 나왔다. 가장 알맞은 다음 행동은?
대응 설계가 독립 두 표본 설계보다 특히 유리한 경우는?
공정 단계 200개를 보정 없이 검정해 p = 0.03인 단계 하나를 찾았다. 옳은 판단은?