괴델 불완전성 정리, 수학으로 모든 진실을 증명하겠다는 꿈이 무너진 이야기

25세 청년이 수학계 2천 년의 꿈을 부숴버렸다

1931년, 스물다섯 살 청년 하나가 '수학으로 모든 진실을 증명할 수 있다'는 인류의 오랜 믿음에 사망선고를 내렸다.

그 청년의 이름은 쿠르트 괴델이었다.

당시 수학계에는 거대한 꿈이 있었다.
다비트 힐베르트, 당대 수학계의 최고 권위자가 주도한 이 프로젝트의 목표는 단순했다.
수학의 모든 참인 명제를 빠짐없이 증명할 수 있는 완벽한 규칙 체계를 만드는 것.

수십 년간 전 세계 수학자들이 달라붙어 쌓아올린 탑이었다.
괴델은 그 탑의 꼭대기에 올라가서 이렇게 써 붙였다.
"이 탑은 절대 완성될 수 없습니다."

시험지로 비유하면 이해가 빠르다.
선생님이 완벽한 채점 기준을 만들었다고 치자.
그런데 학생이 "이 채점 기준으로는 채점할 수 없는 문제가 반드시 존재합니다"라고 답안을 썼고, 그게 정답으로 인정된 상황이다.

괴델의 불완전성 정리가 정확히 그런 충격이었다.
'어떤 수학 체계도 그 체계 안에서 모든 참을 증명할 수 없다'는 발견이다.

진짜 반전은 이거다.
수학이라는 가장 확실한 학문 안에서, '확실할 수 없는 것이 반드시 존재한다'는 걸 확실하게 증명했다.
논리로 논리의 한계를 그어버린 것이다.

수학자들은 당황했고, 힐베르트의 꿈은 논문 한 편으로 끝이 났다.

미국 시민권 시험에서 헌법의 독재 허점을 발표하려 한 남자를 아인슈타인이 말렸다

괴델은 미국 시민이 되려는 면접장에서, 미국이 합법적으로 독재국가가 될 수 있다는 사실을 판사에게 증명하려 했다.

배경은 이렇다.
괴델은 나치 독일을 피해 오스트리아에서 미국으로 건너온 사람이었다.
1947년, 마침내 미국 시민권을 취득하는 날이 왔다.

면접 전날 밤, 괴델은 의무감으로 미국 헌법을 논리적으로 분석했다.
그러다 발견했다.
헌법의 조항들을 합법적으로 조합하면 독재 체제를 만들 수 있는 경로가 존재한다는 것을.

면접장에 함께 간 사람이 둘 있었다.
알베르트 아인슈타인과 경제학자 오스카어 모르겐슈테른, 게임이론의 창시자로 불리는 인물이었다.
이 두 사람이 면접 내내 괴델의 입을 막느라 진땀을 흘렸다.

판사가 "오스트리아 같은 독재가 미국에서도 일어날 수 있다고 생각하십니까?"라고 물었다.
의례적인 질문이었다.
"아니요"라고 하면 끝나는 자리였다.

그런데 괴델이 입을 열었다.
"사실 그게요, 가능합니다. 제가 증명할 수 있어요."
순간 아인슈타인이 끼어들어 화제를 돌렸다.

면접에서 "우리 회사의 장점이 뭔가요?"라는 질문에 "솔직히 말씀드리면 내부 보안에 취약점을 발견했는데요"라고 시작하는 사람.
틀린 말이 아닌데, 말할 자리가 아닌 상황이다.
나치를 피해 온 사람이, 미국 시민이 되는 바로 그 자리에서 "이 나라도 합법적으로 독재가 될 수 있어요"라고 증명하려 했다는 게 아직도 믿기 어렵다.

아인슈타인은 괴델과 걷기 위해 연구소에 출근했다

아인슈타인은 말년에 이렇게 말했다.
"나는 괴델과 함께 걸어서 집에 가려고 연구소에 나간다."

두 사람은 모두 프린스턴 고등연구소에 있었다.
세계 최고 수준의 학자들이 자유롭게 연구하는 이곳에서, 아인슈타인은 이미 전 세계가 아는 이름이었다.
상대성이론, E=mc², 노벨상. 그 아인슈타인이 "출근 이유"로 꼽은 게 괴델과의 산책이었다.

매일 오후, 두 사람은 연구소에서 함께 걸어 집으로 돌아갔다.
언어도 달랐고 분야도 달랐다.
아인슈타인은 물리학자였고, 괴델은 논리학자였다. 그래도 대화는 끝이 없었다.

회사에서 제일 뛰어난 선배가 "나는 저 사람이랑 점심 먹으러 출근해"라고 말하는 장면을 떠올려보자.
20세기 가장 유명한 천재가 스스로를 팬의 위치에 놓은 관계가 딱 이거였다.
아인슈타인이 지적으로 대등하다고 느낀 상대가 괴델이었다는 것이다.

두 사람 모두 나이가 들면서 세상과 조금씩 멀어져 갔다.
그 시절 프린스턴 거리를 함께 걷는 두 노인의 모습을 목격한 사람들의 증언이 여러 편 남아 있다.
아마 그 산책이 두 사람에게는 가장 온전한 대화의 시간이었을 것이다.

모든 체계의 한계를 증명한 사람은 자기 몸의 한계를 넘지 못했다

1978년 1월 14일, 20세기 최고의 논리학자는 체중 30킬로그램의 몸으로 병원 침대에서 숨을 거뒀다.
사인은 영양실조였다.

말년의 괴델은 극심한 피해망상에 시달렸다.
누군가 자신을 독살하려 한다고 확신했다.
그가 유일하게 먹을 수 있는 음식은 아내 아델레가 직접 만든 것뿐이었다.

아델레는 수십 년간 괴델의 곁을 지킨 사람이었다.
수학자들의 모임에서는 어울리지 않는다는 말을 들었고, 괴델의 부모는 결혼을 반대했다.
그래도 아델레는 남았다.

괴델이 세상과 소통하는 창구가 아델레였고, 그가 밥을 먹을 수 있는 이유도 아델레였다.
그런데 1977년, 아델레가 병으로 입원했다.
괴델은 음식을 거부하기 시작했다.

비밀번호를 너무 복잡하게 만들어서 본인도 로그인하지 못하게 된 것과 같은 상황이었다.
안전을 위한 장치가 자기 자신을 가뒀다.
'완벽한 체계는 없다'고 증명한 사람이, 자신의 안전을 완벽하게 통제하려는 체계에 갇혀 스스로를 구하지 못했다.

괴델의 사망진단서에는 이렇게 적혔다.
"인격 장애로 인한 영양실조."

그가 증명한 불완전성 정리는 말한다.
어떤 체계도 그 안에서 자신의 완전성을 증명할 수 없다고.
괴델이 만든 안전 체계는 결국 괴델 자신을 구하지 못했다. 그것이 비극인지, 아니면 그가 평생 증명하려 했던 진실의 마지막 증거인지는, 지금도 모르겠다.