야노시 보여이가 평생 24쪽만 발표한 이유, 비유클리드 기하학의 잊힌 천재

아버지가 평행선 공리만은 손대지 말라 경고했다

"아들아, 그 주제만은 손대지 마라. 그것은 모든 환희를 빼앗고 너를 인생의 모든 것에서 갈라놓을 것이다."
1820년 봄, 헝가리 수학자 파르카시 보여이가 아들에게 보낸 편지의 첫 줄이에요.

파르카시는 그냥 걱정 많은 아버지가 아니었어요.
그는 유럽 최고의 수학자 가우스의 절친한 친구였고, 수학에 평생을 바친 사람이었어요.
그런데 그 평생 중 가장 오랜 시간을 쏟은 문제에서 결국 실패하고 말았죠.

그 문제가 바로 평행선 공리예요.
"직선 밖에 점 하나가 있을 때, 그 점을 지나면서 그 직선과 영원히 만나지 않는 선은 딱 하나만 존재한다."
기원전 3세기 유클리드가 내세운 이 규칙은 2000년이 지나도록 아무도 완전히 증명하지 못하고, 아무도 반박하지 못한 채 수학의 가장 불편한 돌멩이로 남아 있었어요.

파르카시는 이 돌멩이에 손을 댔다가 수십 년을 잃었어요.
그래서 아들에게는 같은 덫에 빠지지 말라고, 신께 맹세코 그만두라고 애원했죠.
아들 야노시 보여이는 당시 군 장교로 복무하면서도 몰래 이 연구를 이어가고 있었어요.

그리고 1823년, 야노시는 아버지에게 편지를 썼어요.
"저는 무에서 새로운 우주를 창조했습니다."
아버지가 가장 위험하다며 막은 바로 그 문제를, 아들이 21세에 풀어버린 거예요.

보여이는 아버지의 책 끝에 24쪽 부록을 붙였다

1832년 출간된 한 권의 라틴어 수학책 맨 끝에, 본문과 따로 페이지 번호를 매긴 24쪽짜리 부록이 붙어 있었어요.
그 안에서 2200년간 진리였던 한 가지 명제가 처음으로 무너졌죠.

그 책이 바로 파르카시의 텐타멘(Tentamen)이에요.
파르카시가 평생의 연구를 담아 쓴 두꺼운 라틴어 수학 입문서였어요.
야노시의 발견은 그 책의 부속물로, 부록이라는 이름으로 세상에 나왔죠.

부록의 정식 제목은 '절대적으로 참인 공간 과학을 제시하는 부록'이에요.
핵심 주장은 이거예요: 평행선 공리가 틀려도 논리적으로 모순 없는 기하학이 존재한다.
오늘날로 치면, "1 더하기 1이 2가 아닌 수학 체계도 완벽하게 성립할 수 있다"는 걸 처음으로 엄밀하게 보여준 거예요.

이게 얼마나 충격적이냐면, 유클리드 기하학은 단순한 교과서 지식이 아니었어요.
2000년 동안 서양 수학과 철학의 근간이었고, 철학자 칸트조차 "공간은 반드시 유클리드적이다"라고 단언했을 정도였죠.
그런데 야노시는 그 근간이 여러 가능성 중 하나일 뿐이라는 걸 24쪽 만에 보여줬어요.

하지만 이 발견은 박사 논문도, 독립 저서도 아니었어요.
아버지 책 맨 뒤의 부속 자료로 세상에 나온 거예요.
인류가 공간을 이해하는 방식을 바꾼 문서치고는 너무나 초라한 자리였어요.

수학의 황제 가우스가 30년 전에 했다고 답했다

그 답장은 칭찬처럼 보였지만, 한 줄 한 줄이 우선권 선언이었어요.

파르카시는 아들의 부록이 담긴 텐타멘을 가우스에게 자랑스럽게 보냈어요.
가우스는 당시 유럽에서 '수학의 황제'로 불리던 인물이었어요.
그의 인정 한 마디는 수학계에서 이름을 얻는 가장 빠른 길이었죠.

1832년 3월, 가우스의 답장이 도착했어요.
첫 줄은 이랬어요: "이 작업을 칭찬할 수가 없다. 그것을 칭찬하는 것은 곧 나 자신을 칭찬하는 일이 될 것이기 때문이다."
처음엔 겸손처럼 들리죠.

그런데 다음 문장이 문제였어요.
"이 책의 전체 내용, 자네 아들이 걸어간 길, 그가 도달한 결과는 내가 지난 30~35년간 마음속에 품어 온 사색과 거의 완전히 일치한다."
몇 년을 갈아 넣은 연구를 들고 존경하는 선배에게 갔더니, "그거 나도 했어, 30년 전에. 근데 안 냈을 뿐이야"라는 말을 들은 거예요.

더 아이러니한 건 이거예요.
가우스는 비유클리드 기하학을 생각했다는 내용을 죽을 때까지 단 한 줄도 출판하지 않았어요.
사적인 편지에서만 "내가 먼저였다"고 주장했죠.

보여이는 사후에 2만 페이지 원고를 남겼다

그가 죽은 1860년, 시골집에서 약 2만 페이지의 미발표 원고가 쏟아져 나왔어요.
그러나 무덤에는 이름조차 새겨지지 않았어요.

가우스의 답장 이후 야노시는 단 한 편의 수학 논문도 추가로 발표하지 않았어요.
그러다 1848년, 러시아 수학자 로바체프스키(Nikolai Lobachevsky)의 저작을 처음 접했어요.
로바체프스키는 1829년에 야노시와 전혀 교류 없이 독립적으로 같은 비유클리드 기하학에 도달한 인물이에요.

그런데 야노시가 처음에 품은 의심은 학문적 경쟁이 아니었어요.
"가우스가 '로바체프스키'라는 가명으로 나를 속이려는 것이다."
그만큼 가우스의 편지가 남긴 상처가 깊었던 거예요.

군에서 퇴역한 뒤 헝가리 시골에서 가난과 우울 속에 살다 1860년 세상을 떠났어요.
남겨진 원고에는 수학뿐 아니라 철학, 음악 이론, 언어학까지 들어 있었죠.
그의 무덤은 70년 가까이 표시 없이 방치됐어요.

2200년 된 수학 체계에 균열을 낸 사람의 결말치고는 너무 조용했어요.
당신이라면, 그 2만 페이지의 첫 줄을 읽어보고 싶지 않나요?