펠릭스 클라인 에를랑겐 프로그램, 2000년 기하학을 군론 하나로 꿰뚫은 이야기

23세 클라인이 2000년 기하학을 한 문장으로 정리했다

23세 신임 교수의 취임 연설 하나가, 2000년간 쌓인 기하학 교과서를 한순간에 다시 쓰게 만들었어요.

1872년, 펠릭스 클라인은 독일 에를랑겐 대학의 교수로 임용됐어요.
그런데 첫 연설에서 그는 이렇게 말했어요.
"기하학이란 어떤 변환을 해도 변하지 않는 성질을 연구하는 학문이에요."

레고 블록을 생각하면 돼요.
돌리거나 뒤집어도 여전히 같은 블록이잖아요.
클라인은 바로 그 논리로, 수학에서 '같다'는 게 무엇인지 새로 정의한 거예요.

당시 기하학은 세 갈래로 나뉘어 있었어요.
유클리드 기하학(삼각형의 내각의 합이 180도라고 배운 그것), 비유클리드 기하학(곡면 위에선 규칙이 달라지는 것), 사영 기하학(그림자와 투영을 다루는 것)은 서로 다른 학문처럼 여겨졌어요.
그런데 클라인은 이것들이 모두 군론(group theory)이라는 하나의 틀로 설명된다고 선언했어요.

군론이란 어떤 변환들의 집합이 특정 규칙을 만족할 때 그것을 '군'이라고 부르는 이론이에요.
쉽게 말하면, "어떤 규칙 아래에서 뭐가 변하지 않는지"를 따지는 수학적 도구예요.
이것이 바로 에를랑겐 프로그램이에요.

유클리드 이래 2000년간 수학자들은 각자의 기하학을 독립된 왕국처럼 쌓아올렸어요.
그런데 이제 막 교단에 선 스물세 살짜리 청년이, 그 모든 왕국이 사실 한 나라였다고 말한 거예요.
당시 청중이 어떤 표정을 지었을지, 충분히 상상이 가요.

33세 클라인은 푸앵카레와 편지로 경쟁하다 무너졌다

클라인이 마지막 편지를 쓴 날 밤, 그의 수학자로서의 창작 경력은 사실상 끝났어요.

1881년, 클라인은 프랑스의 젊은 수학자 앙리 푸앵카레와 편지로 경쟁을 시작했어요.
푸앵카레는 당시 스물일곱 살로, 훗날 현대 위상수학의 창시자로 불리게 될 사람이었어요.
위상수학이란 공간의 구조와 연결 방식을 연구하는 수학 분야예요.

두 사람이 겨룬 주제는 자기형식 함수(automorphic function)였어요.
특정 변환을 해도 형태가 변하지 않는 함수예요.
거울 속에서도 내가 나인 것처럼, 어떤 변형을 가해도 '자신'을 유지하는 수학적 대상이에요.

편지는 수십 통이 오갔어요.
클라인은 거의 잠을 자지 못한 채 매달렸어요.
하지만 그가 "이겼다"고 생각한 순간, 푸앵카레가 더 일반적인 정리를 먼저 발표해버렸어요.

결국 클라인은 신경쇠약으로 쓰러졌어요.
오늘날로 치면 극심한 번아웃과 우울 상태가 겹친 것에 가까워요.
그리고 이후 평생, 그는 독창적인 수학 연구를 거의 발표하지 못했어요.

같은 시험을 함께 준비하던 친구가 더 높은 점수를 받은 그 순간을 아세요?
클라인에게는 그 상실이 일시적인 감정으로 끝나지 않았어요.
한 사람의 창작력을 평생 꺾어버린 사건이 됐어요.

클라인이 만든 병은 이 세계에 존재할 수 없다

클라인이 설계한 병은 어떤 공장에서도 제대로 만들 수 없어요.
우리 세계의 차원이 한 개 부족하기 때문이에요.

무너지기 직전인 1882년, 클라인은 클라인 병(Klein bottle)이라는 도형을 제안했어요.
안과 밖의 구분이 없는 곡면이에요.
컵에는 안이 있어서 물을 담을 수 있지만, 클라인 병은 안이 없어요.

뫼비우스 띠를 아세요?
종이를 한 번 꼬아서 끝을 붙이면, 안면과 바깥면이 하나로 이어진 띠가 돼요.
클라인 병은 그 뫼비우스 띠를 한 단계 더 올린 것이에요.

문제는 3차원 공간에서 이 도형을 그리려면 자기 자신을 뚫고 지나가야 한다는 거예요.
4차원 공간에서라면 자기 자신을 건드리지 않고 완성할 수 있어요.
그래서 클라인 병은 4차원에서만 온전히 존재해요.

그런데 이 도형의 이름에는 재미있는 비밀이 숨어 있어요.
원래 독일어 이름은 'Kleinsche Fläche(클라인 면)'였어요.
영어로 번역되는 과정에서 Fläche(면)가 Flasche(병)로 잘못 옮겨졌어요.

결국 '클라인 병'이라는 이름 자체가 오역의 산물이에요.
세상에서 가장 유명한 수학 도형 중 하나가, 번역 실수 덕분에 지금의 이름을 갖게 된 거예요.
이름도, 형태도, 이 세계에 완전히 속하지 않는 도형이에요.

창작을 잃은 클라인은 괴팅겐을 수학의 수도로 만들었다

클라인은 더 이상 정리를 증명하지 않았어요.
대신 정리를 증명할 사람들을 한 도시에 모았어요.

1886년, 클라인은 독일 괴팅겐 대학으로 자리를 옮겼어요.
그리고 20세기 수학의 방향을 바꿀 한 가지 일을 시작했어요.
사람을 모으는 것이었어요.

먼저 다비트 힐베르트를 불렀어요.
힐베르트는 1900년에 "20세기 수학자들이 풀어야 할 23개의 문제 목록"을 발표해, 말 그대로 한 세기의 연구 일정을 설계한 사람이에요.
클라인이 없었다면 그가 괴팅겐에 있었을지는 알 수 없어요.

클라인은 또 공학자와 응용수학자를 수학과에 함께 불러들였어요.
순수수학과 응용수학은 각자 따로 노는 게 당연한 시절이었으니까요.
그런데 그는 그 경계를 허물었어요.

1895년에는 그레이스 치솜 영(Grace Chisholm Young)의 박사 지도교수를 맡았어요.
그레이스 치솜 영은 독일에서 정식 수학 박사학위를 받은 최초의 여성이 됐어요.
당시 여성이 대학에서 박사학위를 받는 일은, 오늘날로 치면 없던 규정을 새로 만들어야 가능한 일이었어요.

은퇴한 선수가 명감독이 되어 리그 최강 구단을 만드는 것처럼, 클라인은 괴팅겐을 세계 수학의 중심지로 키웠어요.
그 시대는 나치가 1933년 유대인 교수들을 강제로 추방하면서 끝났어요.
하지만 클라인이 남긴 것들은 끝나지 않았어요.

자신의 창작력이 꺾인 자리에서, 클라인은 다른 사람의 창작력을 키웠어요.
그가 직접 쓴 논문보다 그가 길러낸 수학자들이 증명한 정리가 훨씬 많아요.
그렇다면 클라인이 수학에 남긴 가장 큰 유산은 그가 쓴 논문일까요, 아니면 그가 키운 사람들일까요?