칸토어가 무한을 세다 미친 이유

칸토어는 무한끼리 크기를 비교했다

무한이 무한보다 크다는 말은 헛소리처럼 들려요. 그런데 1874년, 게오르크 칸토어라는 수학자가 그것을 증명했어요.

잠깐 생각해봐요. 자연수 1, 2, 3... 끝이 없죠. 0과 1 사이의 실수들, 그러니까 0.1이나 0.01이나 0.001처럼 소수점 뒤로 끝없이 이어지는 수들도 끝이 없어요. 둘 다 무한인데, 칸토어는 이 두 무한의 크기가 다르다고 말했어요.

그 도구가 대각선 논법이에요. 자연수와 0~1 사이의 실수를 하나씩 짝지어보면, 아무리 열심히 짝을 지어도 반드시 짝 없이 남는 실수가 생겨요. 자연수의 무한보다 실수의 무한이 더 크다는 뜻이에요.

칸토어 자신도 이 결론이 충격적이었어요. 1877년, 그는 동료 수학자 리하르트 데데킨트에게 편지를 썼어요. "내 눈으로 보고도 믿을 수가 없어요." 자기가 증명한 것을 자기가 믿지 못한 거예요.

하지만 이게 사실이에요. 칸토어는 무한에도 층위가 있다는 것을 최초로 보여줬어요. 수학의 역사가 뒤집힌 순간이었죠.

스승 크로네커는 제자를 평생 공격했다

칸토어를 무너뜨린 것은 적이 아니라 한때 그의 박사 논문을 심사한 스승이었어요.

레오폴트 크로네커는 19세기 베를린 수학계를 지배하던 거물이었어요. 젊은 칸토어의 박사 논문을 통과시킨 사람이 바로 그예요. 그런데 칸토어가 무한 이론을 발표하자, 크로네커는 태도를 완전히 바꿨어요.

그는 칸토어를 "젊은이를 타락시키는 자"라고 불렀어요. 학술지에 논문을 싣지 못하도록 막았고, 베를린대 교수직 진출도 차단했어요. 오늘날로 치면 첫 직장 사수가 어느 날부터 업계 전체에 당신 험담을 돌리기 시작하는 것과 같아요.

크로네커의 생각은 이랬어요. 수학에서 진짜로 존재하는 것은 정수뿐이고, 무한을 수로 다루는 것 자체가 허황된 짓이라는 거였어요. 칸토어의 이론은 그에게 수학이 아니라 이단에 가까웠어요.

그 결과로 칸토어는 작은 도시 할레 대학에 평생 묶였어요. 베를린이라는 수학의 중심무대에서 철저히 배제된 채로요.

칸토어는 교황청에 자신을 변호했다

수학자가 자신의 발견을 정당화하려고 가장 먼저 찾은 곳은 학회가 아니라 교황청이었어요.

동료들에게 인정받지 못하자, 칸토어는 전혀 다른 방향으로 눈을 돌렸어요. 가톨릭 신학자들과 편지를 주고받기 시작한 거예요. 루터교 신자인 칸토어가 가톨릭 사제들에게 손을 내민 거예요.

당시 교회에는 "오직 신만이 진정으로 무한할 수 있다"는 교리가 있었어요. 칸토어의 이론처럼 수학에서 무한을 다루는 건 신의 영역을 침범하는 것처럼 보였죠. 그래서 그는 자신의 이론이 그 교리와 모순되지 않는다고 직접 설명하고 다녔어요.

결국 그는 신학 학술지에 논문까지 실었어요. 수학 저널에서 거절당한 이론이 신학 잡지에 실린 거예요. 회사에서 인정받지 못한 엔지니어가 경쟁사 임원에게 자기 프로젝트를 편지로 설명하는 것과 다를 게 없어요.

칸토어는 자신이 옳다는 것을 알았어요. 하지만 그 사실을 알아줄 사람이 없었어요.

칸토어는 정신병원에서 셰익스피어를 연구했다

무한의 발견자가 마지막 30년 동안 매달린 연구는 수학이 아니었어요. 셰익스피어가 누구였는가였어요.

1884년부터 칸토어는 독일 할레의 신경정신과 병원에 반복적으로 입원하기 시작했어요. 이후 30여 년간 총 11번이나 입원했어요. 크로네커의 공격과 학계의 냉대가 그를 서서히 무너뜨린 거예요.

그런데 입원 중에 칸토어가 매달린 것이 있었어요. "셰익스피어 작품의 진짜 저자는 프란시스 베이컨이다"라는 음모론이었어요. 프란시스 베이컨은 셰익스피어와 동시대를 살았던 영국 철학자로, 셰익스피어 대신 연극을 썼다는 설이 당시 일부 유럽 지식인들 사이에 퍼져 있었어요.

칸토어가 왜 이 연구에 빠져들었는지 정확히는 알 수 없어요. 하지만 어쩌면 이해가 가요. 수학에서 자신을 증명하는 일이 이미 불가능해졌으니까요.

결국 칸토어는 1차 세계대전이 한창이던 1918년, 할레 정신병원에서 영양실조로 사망했어요. 무한의 크기를 처음 셈한 사람이 굶주린 채 눈을 감은 거예요.

그의 이론은 죽고 나서야 빛을 받았어요. 오늘날 칸토어의 집합론은 현대 수학의 기초 언어예요. 수학의 모든 분야가 그 위에서 작동해요.

칸토어는 무한에 층위가 있다는 것을 증명했어요. 그런데 정작 그에게 허락된 시간과 공간은 너무 좁았어요. 무한을 발견한 사람에게, 세상은 너무 작았던 거예요.