중심극한정리 · 상자 속의 우주

무슨 마법인가?What's the magic?

주사위, 치우친 분포, 봉우리가 두 개인 분포… 원본 모양은 제각각입니다. 그런데 매번 n개를 뽑아 평균을 내서 그 값을 쌓아가면, 원본이 무엇이든 그 평균들의 분포는 참값(모평균 μ) 주위의 종 모양으로 수렴합니다. 그리고 n이 커질수록 종은 점점 좁아집니다.

A die, a lopsided distribution, one with two peaks… source shapes vary wildly. But if you repeatedly draw n values and average them and pile up those averages, the distribution of averages converges to a bell centered on the true mean μ: whatever the source. And the larger n is, the narrower the bell.

x̄ ~ 정규분포( μ , σ/√n )x̄ ~ Normal( μ , σ/√n )

그래서 여론조사·측정오차·품질관리 어디서나 정규분포가 등장하고, 표본을 4배 늘려야 오차가 절반이 되는 √n 법칙도 여기서 나옵니다.

That's why the normal distribution shows up everywhere: polls, measurement error, quality control, and it's the source of the √n law: you must quadruple the sample to halve the error.

🔔 평균을 모아 종을 만들기🔔 Pile up averages into a bell

이상한 분포를 고르고, 표본 크기 n을 키우며 종이 생기는지 보세요Pick a weird distribution, raise sample size n, and watch a bell emerge

원본 분포Source

표본 크기 n (한 평균에 쓰는 개수)Sample size n (values per average)

추출한 표본 수Samples drawn

표본평균의 평균 ≈ μMean of means ≈ μ

–

표본평균 표준편차 (σ/√n)SD of means (σ/√n)

–

원본 분포Source distribution 표본평균 x̄의 분포Distribution of means x̄ 정규분포 (이론)Normal (theory)

직접 확인할 것See for yourself

① 치우침이나 쌍봉처럼 종과 전혀 안 닮은 분포를 고르고 n = 1로 두세요. 표본평균의 분포(파란 막대)는 그냥 원본 모양 그대로입니다. 아직 마법이 없습니다.

① Pick Skewed or Bimodal (shapes nothing like a bell) and set n = 1. The distribution of means (blue bars) is just the source shape itself: no magic yet.

② 이제 n을 5 → 30으로 올려보세요. 원본이 아무리 삐뚤어져 있어도 파란 막대가 초록색 정규분포 곡선에 착 달라붙습니다. 동시에 종은 점점 좁아지죠(σ/√n). 개별 값은 제멋대로여도 평균은 놀랍도록 얌전합니다. ② Now raise n from 5 → 30. No matter how crooked the source, the blue bars snap onto the green normal curve. At the same time the bell keeps getting narrower (σ/√n). Individual values are wild, yet their average is remarkably tame.

이것이 평균·설문조사·오차막대가 믿을 만한 이유입니다. 무질서한 개별 사건이 모이면 예측 가능한 종 모양이 되고, 우리는 그 위에서 확률을 계산할 수 있습니다.

This is why averages, surveys, and error bars are trustworthy. Chaotic individual events, once pooled, become a predictable bell: and on top of it we can compute probabilities.

왜 종 모양이 될까?Why does it become a bell?

표본평균은 결국 합입니다. x̄ = (X₁ + X₂ + … + Xₙ) / n. 그러니 진짜 질문은 "왜 수많은 독립 확률변수의 합이 정규분포가 되나?"입니다.

A sample mean is really just a sum: x̄ = (X₁ + X₂ + … + Xₙ) / n. So the real question is: "why does a sum of many independent random variables become normal?"

각 값을 참값 μ + 편차로 쪼개 봅시다. 편차는 어떤 건 +, 어떤 건 −. 이걸 잔뜩 더하면 대부분 서로 상쇄되어 합은 0 근처(즉 평균은 μ 근처)에 몰립니다. 반대로 모든 편차가 한 방향으로 쏠려 극단적인 합이 나오려면 운이 지독히 따라야 하죠. 그런 경우의 수는 극소수입니다.

Split each value into true mean μ + a deviation. Some deviations are +, some −. Add many of them and they mostly cancel, so the sum piles up near 0 (the mean piles up near μ). For an extreme sum you'd need every deviation to line up in the same direction: and there are vanishingly few ways for that to happen.

경우의 수가 만드는 종 (동전 비유): 동전을 n번 던져 앞 = +1, 뒤 = −1로 더한다고 해보죠. 합이 0 근처가 되는 조합의 수는 어마어마하지만(앞뒤가 골고루 섞이는 길이 무수히 많음), 전부 앞면이 나오는 경우는 단 하나뿐입니다. 이 "경우의 수" 곡선(이항계수)이 바로 종 모양이고, n이 커질수록 매끈한 가우스 곡선으로 수렴합니다. The bell is made of counting (a coin analogy): flip a coin n times, scoring heads = +1, tails = −1, and add. The number of combinations giving a total near 0 is enormous (countless ways to mix heads and tails), while getting all heads can happen just one way. That "number-of-ways" curve (the binomial coefficients) is a bell, and as n grows it converges to a smooth Gaussian.

더 깊은 이유는 원본의 디테일이 씻겨 나가기 때문입니다. 충분히 더하고 나면 살아남는 정보는 딱 둘, 중심(μ)과 퍼짐(σ)뿐이고, 치우침이나 봉우리 같은 나머지 모양은 상쇄 속에 사라집니다. 정규분포는 "여러 개를 더해 다시 스케일해도 모양이 그대로인" 유일하게 안정된 분포라서, 온갖 분포의 합이 빨려 들어가는 종착역인 셈입니다.

The deeper reason: the source's details get washed out. After enough adding, only two pieces of information survive, the center (μ) and the spread (σ): while skew, extra peaks, and other quirks dissolve in the cancellation. The normal distribution is the one stable shape that stays itself when you add many copies and rescale, so it's the destination that sums of all kinds of distributions are drawn toward.

왜 √n만큼 좁아질까? +와 −가 상쇄되기 때문에 합의 퍼짐은 n이 아니라 √n으로만 자랍니다. 평균은 그 합을 n으로 나눈 것이니 퍼짐은 √n / n = 1/√n로 줄어듭니다. 그래서 오차를 절반으로 줄이려면 표본을 4배 늘려야 합니다. (단, 각 값이 서로 독립이고 분산이 유한해야 성립합니다.) Why narrower by √n? Because + and − cancel, the spread of the sum grows like √n, not n. The mean is that sum divided by n, so its spread shrinks like √n / n = 1/√n. That's why halving the error takes 4× the sample. (It holds as long as the values are independent with finite variance.)

그 종의 정확한 식: 정규분포 PDFThe bell's exact formula: the normal PDF

이 종은 그냥 "종처럼 생긴" 게 아니라 정확한 수식이 있습니다. 정규분포의 확률밀도함수(PDF)는:

The bell isn't merely "bell-ish": it has an exact formula. The normal distribution's probability density function (PDF) is:

f(x) = 1 / (σ√(2π)) · e^{−(x−μ)² / (2σ²)}

핵심은 e^{−(x−μ)²…} 부분입니다. 조각별로 뜯어보면:

The heart of it is the e^{−(x−μ)²…} part. Piece by piece:

(x−μ)² = 중심 μ에서 떨어진 거리의 제곱. 앞에 −가 붙어 지수로 들어가니, μ에서 멀어질수록 값이 급격히 작아집니다 → μ에서 가장 높고 좌우 대칭인 종. 제곱이라 양옆이 똑같고, 지수라 꼬리가 순식간에 0으로 꺼집니다.
σ (표준편차) = 종의 폭. σ가 크면 넓고 완만한 종, 작으면 좁고 뾰족한 종.
앞의 1/(σ√(2π)) = 정규화 상수. 곡선 아래 전체 넓이를 정확히 1로 맞춰주는 값입니다(확률분포니까 총합 = 1).

(x−μ)² = the squared distance from the center μ. With a − sign in the exponent, the further from μ, the steeply smaller the value → a bell that peaks at μ and is symmetric. Squaring makes both sides identical; the exponential makes the tails vanish almost instantly.
σ (standard deviation) = the bell's width. Large σ → a wide, flat bell; small σ → a narrow, tall one.
The leading 1/(σ√(2π)) = the normalizing constant. It scales the curve so the total area underneath is exactly 1 (it's a probability distribution, so it must sum to 1).

중심극한정리는 여기에 μ와 σ를 표본평균에 맞춰 끼워 넣은 것입니다. 표본평균 x̄의 종은 중심은 그대로 μ, 폭만 σ/√n:

f(x̄) = 1 / ((σ/√n)√(2π)) · e^{−(x̄−μ)² / (2σ²/n)}

n이 커질수록 σ/√n이 작아져 종이 점점 좁고 높아집니다(시뮬레이터에서 본 그대로). 위 실험실의 초록 곡선이 바로 이 식에 μ·σ·n을 넣어 그린 것입니다. The Central Limit Theorem just plugs the sample-mean's μ and σ into this formula. The bell for the sample mean x̄ keeps the same center μ, but its width is σ/√n:

f(x̄) = 1 / ((σ/√n)√(2π)) · e^{−(x̄−μ)² / (2σ²/n)}

As n grows, σ/√n shrinks, so the bell gets narrower and taller (exactly what you saw in the simulator). The green curve in the lab above is literally this formula with μ, σ, and n plugged in.

왜 하필 '저 식'을 닮아갈까?Why does it approach exactly that formula?

식은 봤지만 진짜 궁금한 건 이겁니다. 왜 표본평균의 분포가 하필 저 지수함수를 닮아갈까? 특히 지수의 −(x−μ)², 저 '제곱'은 대체 어디서 나오는 걸까요? 세 걸음으로 따라가 봅시다.

You've seen the formula, but here's the real question, why does the sample mean's distribution approach that exponential? In particular, where does the −(x−μ)² in the exponent, that square, actually come from? Let's walk through it in three steps.

① 더하기는 '합성곱'이라 봉우리를 매끄럽게 뭉갠다. 독립인 값을 더하면 그 분포끼리 합성곱(convolution)됩니다. 합성곱은 울퉁불퉁한 모양을 문질러 매끄럽고 봉우리 하나인 곡선으로 만듭니다. 이 뭉개기를 반복할 때 모양이 더는 변하지 않는 유일한 분포가 정규분포입니다. 정규분포 둘을 더하면 또 정규분포거든요. 그래서 어떤 분포에서 출발하든 평균의 분포는 이 '고정점'으로 흘러갑니다.

① Adding is "convolution," which smooths any bump into a single hump. Adding independent values convolves their distributions. Convolution rubs away jagged shapes into a smooth, single-peaked curve. Repeat this smoothing and there is exactly one distribution whose shape stops changing: the normal, because a normal plus a normal is again a normal. So whatever you start from, the mean's distribution flows toward this "fixed point."

② 봉우리를 확대하면 무엇이든 '포물선', 그래서 지수가 제곱이다. 합이 매끄럽고 봉우리가 하나라면, 확률에 로그를 씌운 ln p(x)를 봉우리 근처에서 테일러 전개할 수 있습니다. 정점에서는 1차 도함수가 0(꼭대기니까)이라 사라지고, 남는 가장 낮은 차수는 2차항뿐입니다:

② Zoom into any peak and it looks like a parabola, that's why the exponent is squared. If the sum is smooth and single-peaked, we can Taylor-expand the log of the probability, ln p(x), near the peak. At the top the first derivative is zero (it's a summit), so it drops out, and the lowest surviving term is the quadratic:

ln p(x) ≈ (상수) − (x−μ)² / (2σ²)

양변에 exp를 씌우면 정확히 e^{−(x−μ)²/(2σ²)}, 정규분포의 바로 그 지수입니다. 즉 어떤 매끄러운 봉우리든 꼭대기를 충분히 확대하면 포물선(2차)으로 보이고, exp를 씌우면 가우스 종이 됩니다. '제곱'은 여기서 나옵니다.

Take exp of both sides and you get exactly e^{−(x−μ)²/(2σ²)}, precisely the normal's exponent. In other words, zoom far enough into the top of any smooth peak and it looks parabolic (quadratic); take exp and it becomes the Gaussian bell. That's where the square comes from.

③ 평균은 '꼭대기만 확대'하도록 강제한다. 표본을 늘릴수록 폭이 σ/√n으로 좁아지니, 확률이 실제로 몰리는 구간은 점점 정점 바로 근처로 좁혀집니다. 바로 그 좁은 구간에서 ②의 2차 근사가 정확해지므로, n이 커질수록 표본평균의 분포는 저 식에 점점 더 완벽히 들어맞습니다.

③ Averaging forces you to zoom into the summit. As the sample grows, the width shrinks to σ/√n, so the region where probability actually piles up narrows to right around the peak. In exactly that narrow region the quadratic approximation of step ② becomes exact, so as n grows the sample-mean distribution fits the formula ever more perfectly.

정리: ① 더하기가 분포를 매끄러운 봉우리로 뭉개고 → ② 봉우리 근처의 로그 확률은 항상 −(편차)² 꼴이라 exp를 씌우면 가우스가 되고 → ③ 평균은 폭을 σ/√n으로 좁혀 그 '봉우리 근처'만 남기니, 표본평균의 분포가 정확히 저 식으로 수렴합니다. (동전 던지기라면 이 논리가 그대로 스털링 근사로 이항계수 ln C(n,k) ≈ −(k−μ)²/… 를 만들어내는 것과 같습니다. 이게 역사상 최초의 중심극한정리, 드무아브르–라플라스 정리입니다.) In short: ① adding smooths the distribution into a single hump → ② near a hump the log-probability is always of the form −(deviation)², so exp turns it into a Gaussian → ③ averaging shrinks the width to σ/√n, keeping only that near-peak region, so the sample-mean distribution converges to exactly that formula. (For coin flips this same argument is literally Stirling's approximation giving ln C(n,k) ≈ −(k−μ)²/…, the very first central limit theorem, the de Moivre–Laplace theorem.)