토마스 베이즈 베이즈 정리, 목사님이 수학을 바꾼 이야기

당신은 이미 베이즈를 쓰고 있다

아침에 눈을 떴는데 하늘이 흐립니다.
"비 올 수도 있겠다" 하고 생각합니다.
그런데 스마트폰 날씨 앱을 보니 강수확률이 80%입니다.
"우산 챙겨야겠다"로 생각이 바뀝니다.

여기서 당신은 아주 중요한 일을 했습니다.
처음 가졌던 생각을 새로운 정보에 맞춰 고쳐먹은 것입니다.

"흐린 하늘"이라는 첫인상에서 출발해서, "강수확률 80%"라는 증거를 보고, 판단을 업데이트했습니다.
이게 전부입니다.
이것이 바로 베이즈 정리의 핵심입니다.

거창한 수학 공식이 아닙니다.
"새로운 증거가 나타나면, 내 생각을 얼마나 바꿔야 할까?"에 대한 답입니다.

우리는 하루에도 수십 번 이걸 합니다.
친구가 약속에 늦었을 때 "차가 막혔나?"에서 "또 늦잠 잤구나"로 생각이 바뀌는 것.
처음 먹어본 식당이 맛있어서 "다음에 또 와야지"로 기대가 올라가는 것.
전부 베이즈입니다.

그런데 이 당연한 생각을 처음으로 수학 공식으로 적어낸 사람이 있습니다.
놀랍게도 수학자가 아니라 목사님이었습니다.

목사님의 비밀 노트

1701년, 영국 런던에서 한 아기가 태어났습니다.
이름은 토마스 베이즈.
아버지도 목사였고, 토마스도 목사가 되었습니다.

그는 조용한 사람이었습니다.
화려한 학회에 나가지도 않았고, 두꺼운 수학 책을 쓰지도 않았습니다.
런던 남쪽의 작은 마을 텅브리지웰스에서 교회 일을 보며 살았습니다.

하지만 베이즈에게는 비밀이 하나 있었습니다.
서재에서 혼자 수학 문제를 푸는 것을 무척 좋아했다는 것입니다.

그가 매달린 문제는 이런 것이었습니다.
"결과를 보고 원인을 추측할 수 있을까?"

예를 들어 볼게요.
주머니에서 구슬을 꺼냈더니 빨간색이었습니다.
이것만 보고, 주머니 안에 빨간 구슬이 몇 개인지 거꾸로 추측할 수 있을까요?

당시 수학자들은 이 문제를 풀기 어렵다고 생각했습니다.
"원인에서 결과"를 계산하는 건 쉽습니다.
빨간 구슬 7개, 파란 구슬 3개인 주머니에서 빨간 구슬을 꺼낼 확률은 70%죠.

하지만 "결과에서 원인"을 거꾸로 추적하는 것, 이건 완전히 다른 차원의 질문이었습니다.
베이즈는 이 문제에 매달렸고, 마침내 답을 찾았습니다.

그런데 이상한 일이 벌어집니다.
베이즈는 이 발견을 발표하지 않았습니다.
왜 그랬는지는 아무도 모릅니다.
스스로 불완전하다고 느꼈을 수도 있고, 세상의 관심이 두려웠을 수도 있습니다.

1761년, 베이즈는 세상을 떠났습니다.
그의 노트는 서재에 먼지를 덮어쓰며 남겨졌습니다.

여기서 영웅이 한 명 등장합니다.
베이즈의 친구 리처드 프라이스입니다.
프라이스는 베이즈의 유고를 뒤지다가 이 노트를 발견했습니다.
"이건 세상에 알려야 한다."
프라이스는 논문을 정리해서 1763년 영국 왕립학회에 제출했습니다.

목사님의 비밀 노트가 마침내 세상의 빛을 본 순간이었습니다.
하지만 이 논문이 진짜로 빛나기까지는 200년이라는 긴 시간이 더 필요했습니다.

당구대 위의 확률

베이즈가 생각한 실험을 쉽게 바꿔볼게요.

눈을 감고 당구대 위에 공 하나를 던진다고 상상해보세요.
공이 어디에 멈췄는지 보이지 않습니다.
눈을 감은 채로, 공이 왼쪽 절반에 있는지 오른쪽 절반에 있는지 맞춰야 합니다.

아무 정보가 없으니, 처음에는 반반이라고 생각하겠죠.
"왼쪽일 확률 50%, 오른쪽일 확률 50%."
이 처음 생각을 사전확률이라고 부릅니다.
"증거를 보기 전의 내 추측"이라는 뜻입니다.

이제 친구가 도와줍니다.
친구가 당구대에 두 번째 공을 던지고 이렇게 알려줍니다.
"두 번째 공은 첫 번째 공보다 왼쪽에 떨어졌어."

이 정보를 듣는 순간, 당신의 생각이 바뀝니다.
첫 번째 공이 오른쪽에 있을 가능성이 조금 올라갑니다.
왜냐하면 첫 번째 공이 오른쪽에 있어야, 두 번째 공이 그보다 왼쪽에 떨어지기가 더 쉬우니까요.

이 "새로운 정보"를 증거라고 부릅니다.

친구가 세 번째 공을 또 던집니다.
"이것도 첫 번째 공보다 왼쪽이야."
이제 첫 번째 공이 오른쪽에 있다는 확신이 더 강해집니다.

증거가 쌓일 때마다, 처음 생각이 점점 정교해집니다.
이렇게 고쳐진 생각을 사후확률이라고 부릅니다.
"증거를 본 뒤에 업데이트된 내 추측"입니다.

정리하면 이렇습니다.

사전확률 (처음 생각) + 증거 (새로운 정보) = 사후확률 (고쳐진 생각)

이게 베이즈 정리의 전부입니다.
복잡한 공식 기호가 붙어 있지만, 뼈대는 이 한 줄입니다.
"새 증거를 만날 때마다 내 생각을 조금씩 고쳐나가라."

재미있는 점이 있습니다.
이 과정에는 끝이 없습니다.
사후확률이 다음 판단의 사전확률이 되고, 또 새로운 증거가 오면 다시 업데이트됩니다.
마치 눈덩이처럼 정보가 쌓이면서 추측이 점점 정확해지는 것입니다.

200년 동안 무시당한 아이디어

이렇게 멋진 아이디어가 왜 오랫동안 무시당했을까요?

문제는 "처음 생각" 때문이었습니다.

베이즈 정리에서 사전확률은 "내가 처음에 어떻게 생각하느냐"에 달려 있습니다.
같은 문제를 놓고도 사람마다 사전확률이 다를 수 있습니다.

예를 들어, "내일 비가 올 확률"을 물으면,
농부는 "구름 모양을 보니 70%"라고 할 수 있고,
도시 사람은 "글쎄, 50%?"라고 할 수 있습니다.

이것이 당시 수학자들을 불편하게 만들었습니다.
"수학이 주관적이라고? 사람마다 답이 다르다고? 그건 과학이 아니야!"

그래서 빈도주의라는 다른 방법이 주류가 되었습니다.
"동전을 1000번 던져서 앞면이 503번 나왔으면, 앞면 확률은 약 50.3%다."
이렇게 실험을 반복해서 숫자를 세는 방식이 더 "객관적"이라고 여겨졌거든요.

베이즈 정리는 교과서 한쪽 구석에 쪼그려 앉아 먼지를 뒤집어썼습니다.

그런데 전쟁이 모든 것을 바꿨습니다.

제2차 세계대전, 영국의 천재 수학자 앨런 튜링은 독일군의 암호 기계 에니그마를 풀어야 했습니다.
에니그마의 설정 가능한 조합은 수십억 가지.
하나하나 시도하면 우주가 끝날 때까지도 못 풀 판이었습니다.

튜링은 베이즈의 방법을 꺼내들었습니다.
"일단 가장 가능성 높은 설정을 추측하고, 새로운 단서가 나올 때마다 추측을 업데이트하자."

독일군이 매일 아침 보내는 날씨 보고서에는 "Wetter"(날씨)라는 단어가 거의 항상 들어 있었습니다.
이것이 증거가 되었습니다.
튜링은 이 단서를 사전확률에 반영하고, 하나씩 가능성을 좁혀나갔습니다.

결과는 역사가 증명합니다.
에니그마는 풀렸고, 전쟁은 2년 이상 단축되었다고 역사학자들은 평가합니다.

냉전 시대에도 베이즈는 활약했습니다.
1966년, 미군의 수소폭탄 하나가 스페인 해안에서 바다에 빠졌습니다.
수학자들은 베이즈 정리를 써서 폭탄이 있을 가능성이 가장 높은 구역을 계산했고, 실제로 그 근처에서 찾아냈습니다.

무시당하던 목사님의 아이디어가 세계를 구한 셈입니다.

베이즈가 당신의 스마트폰 안에 있다

오늘날 베이즈 정리는 어디에나 있습니다.
너무 많은 곳에 있어서, 오히려 눈에 보이지 않을 정도입니다.

이메일을 열어보세요.
스팸 필터가 작동하고 있습니다.
"이 메일에 '무료', '당첨', '지금 클릭'이라는 단어가 들어 있다. 이전에 이런 단어가 들어간 메일은 90%가 스팸이었다. 그러니 이 메일도 스팸일 확률이 높다."
이것이 베이즈입니다.
새로운 메일이라는 증거를 보고, 스팸일 확률을 업데이트하는 것입니다.

자율주행차도 베이즈를 씁니다.
카메라에 뭔가가 찍혔습니다.
"저건 사람일까, 가로등일까?"
처음에는 확신이 없습니다.
하지만 다음 프레임, 그다음 프레임에서 정보가 추가될 때마다 판단을 업데이트합니다.
"움직이고 있다 → 사람일 확률 상승 → 브레이크!"

병원에서도 마찬가지입니다.
의사가 환자의 증상을 보고 병을 추측합니다.
"기침을 한다 → 감기일 수도, 폐렴일 수도."
혈액 검사 결과가 나옵니다.
"백혈구 수치가 높다 → 폐렴 쪽으로 확률 업데이트."
엑스레이를 찍습니다.
"폐에 그림자가 있다 → 폐렴 확률 더 상승."
이 과정 전체가 베이즈적 추론입니다.

넷플릭스가 "이 영화 좋아하실 것 같아요"라고 추천하는 것도,
구글 검색이 오타를 알아서 고쳐주는 것도,
전부 베이즈의 후손들입니다.

결국 베이즈가 말하고 싶었던 것은 하나입니다.
"완벽한 답을 한 번에 구하려 하지 마라. 불완전한 추측에서 시작해서, 증거를 만날 때마다 조금씩 고쳐나가라."

생각해보면, 이건 우리가 세상을 배우는 방법과 똑같습니다.
아기는 처음에 모든 네 발 달린 동물을 "멍멍이"라고 부릅니다.
고양이를 보고 "멍멍이"라고 했다가 엄마가 "아니야, 고양이야"라고 알려주면, 생각을 업데이트합니다.
소를 보고 또 "멍멍이"라고 했다가, 다시 고쳐집니다.

이 과정을 수천 번 반복하면서 아이는 세상을 이해하게 됩니다.

300년 전 조용한 목사님이 서재에서 적어 내려간 공식 하나가, 인공지능의 심장이 되었습니다.
토마스 베이즈는 아마 상상도 못 했을 것입니다.
자신의 비밀 노트가 지금 당신의 주머니 속 스마트폰을 움직이고 있다는 것을.