수학자 프레게의 평생 책이 러셀의 편지에 무너진 날

프레게가 33년을 바친 책의 2권이 인쇄소로 넘어가기 직전, 러셀의 편지 한 통이 도착했어요.

1902년 6월의 일이에요.
독일 수학자 고틀로프 프레게는 현대 논리학의 창시자로 불리는 사람이에요.
숫자와 수학이 순수한 논리로부터 나올 수 있다는 걸 증명하겠다는 목표로, 평생을 바쳐 『산수의 근본법칙』이라는 책을 썼어요.

그 2권이 막 인쇄소로 넘어가려던 순간, 영국 수학자 버트런드 러셀에게서 편지가 왔어요.
내용은 한 줄로 요약돼요.
"선생님 체계에 모순이 있습니다."

비유를 들면 이래요.
10년간 공들인 발표 자료를 들고 회의실 문을 열려는데, 동료가 "슬라이드 3번에 논리 오류가 있어요"라고 말한 상황이에요.
그것도 발표 5분 전에요.

프레게의 선택은 놀라웠어요.
숨기거나 출간을 미루는 대신, 책의 부록에 이렇게 직접 적어 넣었거든요.
"이 책을 완성하고 나서 작업의 기초가 흔들렸다는 것을 알았다."

그리고 그 책을 그대로 출간했어요.
학자로서 할 수 있는 가장 정직한 행동이었지만, 동시에 가장 고통스러운 행동이기도 했어요.
러셀이 지적한 그 모순은 훗날 러셀의 역설이라는 이름을 얻었고, 이 사건은 현대 수학의 기초를 다시 쌓는 거대한 작업의 출발점이 됐어요.

러셀과 동료 화이트헤드가 10년을 쓴 수학 원리의 무게

1+1=2를 증명하는 데 러셀은 379쪽이 필요했어요.

프레게의 기반이 흔들렸다면, 올바른 기반을 새로 만들면 되잖아요.
러셀은 케임브리지 동료 알프레드 화이트헤드와 함께 그 무모한 프로젝트를 시작했어요.
수학 전체를 논리학으로 증명하겠다는 거예요.

결과물이 1910년부터 1913년 사이에 나온 『수학 원리(Principia Mathematica)』 세 권이에요.
1권에서 379쪽을 채운 다음에야 "1+1=2"가 등장해요.
두 사람은 이 작업에 10년 가까이를 쏟아부었고, 그 과정에서 건강과 우정 양쪽에서 큰 대가를 치렀어요.

문제는 그래도 남아 있었어요.
프레게를 무너뜨린 역설, 즉 "자기 자신을 포함하지 않는 집합들의 집합은 자기 자신을 포함하는가"라는 괴물을 어떻게 피하느냐는 문제예요.
러셀의 해법은 유형 이론이었어요. 집합에 계층을 붙여서, 같은 계층끼리만 서로 포함할 수 있게 규칙을 만들어버리는 방식이에요.

그런데 1931년, 오스트리아 수학자 쿠르트 괴델이 등장해요.
괴델의 불완전성 정리를 짧게 말하면 이래요.
"어떤 수학 체계도 스스로 자신의 완전함을 증명할 수 없다."

무너진 집을 10년간 다시 짓겠다고 기초공사만 했는데, 누군가 와서 "이 땅 자체가 흔들린다"고 말한 거예요.
러셀의 기획 일부는 거기서 좌초됐어요.
하지만 그 실패조차 현대 수학 기초론과 컴퓨터 과학에 엄청난 씨앗을 남겼어요.

러셀은 세계가 논리적 원자로 이뤄져 있다고 봤다

러셀은 세계를 끝까지 쪼개면 더 이상 쪼갤 수 없는 「논리적 원자」에 도달한다고 믿었어요.

1918년, 러셀은 런던에서 강연을 열고 논리적 원자론(Logical Atomism)이라는 생각을 발표해요.
세상의 모든 것은 더 이상 쪼갤 수 없는 가장 단순한 사실들로 이뤄져 있고, 언어도 마찬가지로 그 단순한 사실들에 대응하는 가장 작은 명제들로 분해될 수 있다는 거예요.

레고를 생각하면 쉬워요.
복잡한 레고 성도 결국은 가장 작은 기본 블록들로 분해되잖아요.
러셀은 세계와 언어가 똑같이 생겼다고 본 거예요. 조립된 방식까지 동일하게요.

그런데 이 강연에는 흥미로운 사정이 있어요.
같은 해 러셀은 반전 운동으로 영국 정부에 의해 브릭스턴 감옥에 갇혀 있었거든요.
강의 노트의 상당 부분은 감옥 안에서 정리됐어요.

세상 모든 것을 논리로 쪼개는 이론을, 국가 권력에 의해 갇힌 채로 완성했다는 게 뭔가 역설적이에요.
그가 직접 말한 건 아니지만, 그 상황이 이미 충분히 이야기를 하고 있는 것 같아요.
사유는 가둘 수 없다는 것을요.

제자 비트겐슈타인부터 빈학파까지 러셀이 바꾼 철학

20세기 영미 철학은 러셀이 1900년대 초에 던진 단 하나의 질문에서 출발해요.

그 질문은 이거예요.
"철학은 언어를 분석하는 작업이어야 한다."

러셀의 케임브리지 제자였던 언어철학자 루트비히 비트겐슈타인은 스승의 원자론을 극한까지 밀고 나갔어요.
1921년 출간한 『논리철학논고』에서 비트겐슈타인은 "말할 수 없는 것에 대해서는 침묵해야 한다"는 유명한 문장을 남겼어요.
언어로 표현될 수 없는 건 철학의 영역 밖이라는 선언이에요.

1920년대에는 빈에서 빈학파가 생겨났어요.
모리츠 슐리크와 루돌프 카르납을 중심으로 한 이 그룹은 논리실증주의를 내세웠어요.
논리실증주의란, 실험이나 관찰로 검증할 수 없는 명제는 의미가 없다는 입장이에요. 이들은 러셀의 방법론을 과학철학의 출발점으로 삼았어요.

결국 옥스퍼드에서는 일상언어철학이 뻗어나왔어요.
분석철학이라는 이름 아래 묶이는 20세기 영미 철학의 흐름 전체가 러셀 한 사람이 놓은 길 위에 있어요.

그런데 정작 러셀 본인의 인생은 예상치 못한 방향으로 흘렀어요.
1950년 그는 노벨 문학상을 받았어요.
수학자도 아니고 철학자도 아닌, 문학상이에요.

그리고 89세였던 1961년에는 핵무기 반대 시위에 나섰다가 다시 감옥에 들어갔어요.
분석철학의 아버지라 불리는 사람이, 평생 가장 자주 한 일은 거리에서 시위를 벌이다 붙잡히는 거였어요.
그가 세상을 뜬 건 1970년, 97세였어요.

수학의 기초를 논리로 쌓으려다 실패하고, 철학의 방향을 통째로 바꿔놓고, 노벨 문학상까지 받은 사람이 마지막까지 가장 걱정한 게 핵전쟁이었다는 사실, 어떻게 생각하세요?