입학시험 5번 낙방한 수학자, e가 초월수임을 증명하다

에르미트는 에콜 폴리테크닉 입학시험을 여러 번 통과하지 못했다

샤를 에르미트는 시험을 여러 번 망쳤어요.
아니, 정확히 말하면 시험이 에르미트를 알아보지 못한 거예요.

19세기 프랑스에서 수학자가 되려면 에콜 폴리테크니크에 들어가야 했어요.
오늘날로 치면 카이스트와 서울대를 합쳐도 모자란 엘리트 이공계 학교였죠.
에르미트는 선천적으로 오른발이 불편했고, 시험장에서는 머릿속에 있는 것을 종이에 옮기는 속도가 너무 느렸어요.

그런데 시험지 밖에서 이 청년이 하고 있던 일이 있었어요.
18세기 최고의 수학자들이 남긴 난제들을 혼자 풀어나가고 있었거든요.
시험 채점관은 몰랐지만, 에르미트가 쓴 편지들은 유럽 수학자들 사이에서 이미 돌고 있었어요.

결국 그는 에콜 폴리테크니크에 들어갔어요.
하지만 입학하고 나서도 시험 성적이 너무 낮아 자칫 쫓겨날 뻔했죠.
정작 그 재학 시절에 발표한 논문들은 교수들도 못 풀던 문제들을 해결하고 있었는데도요.

에르미트는 5차 방정식의 불가능을 받아들이고 질문 자체를 바꿔 풀었다

에르미트는 풀 수 없다고 증명된 문제를 결국 풀었어요.
단, 질문을 바꾸는 방법으로요.

수학에는 "5차 방정식은 공식으로 풀 수 없다"는 유명한 선언이 있어요.
x² = 4 같은 2차 방정식은 근의 공식이 있고, 3차, 4차도 마찬가지예요.
그런데 5차부터는 그런 공식이 존재하지 않는다는 게 이미 증명된 상태였어요.

노르웨이 수학자 아벨이 그걸 증명하고 스물여섯에 세상을 떠났어요.
프랑스의 갈루아가 그 이론을 완성했고, 스물한 살에 결투로 죽었어요.
두 천재가 "이건 불가능하다"고 못 박아버린 문제였어요.

그러면 5차 방정식은 영원히 못 푸는 걸까요.
에르미트가 꺼낸 카드는 타원 함수였어요.
원래 진자의 운동이나 천체 궤도를 계산하는 데 쓰이던 개념인데, 에르미트는 이걸 5차 방정식에 연결했어요.

공식으로는 못 푸는 문제를, 완전히 다른 수학적 언어로 번역해서 표현한 거예요.
한국어로 번역이 안 되는 표현을 그림으로 그려서 전달하는 것처럼요.
1858년 이 결과가 발표됐을 때 수학계가 충격을 받은 이유가 있어요. "불가능하다"는 말이 "이 방법으로는 불가능하다"는 뜻이었을 뿐, 다른 길이 없다는 뜻이 아니었으니까요.

1873년 에르미트가 e가 초월수임을 처음으로 증명했다

1873년, 에르미트가 수학계의 오래된 수수께끼 하나를 해결했어요.
숫자 e가 초월수라는 거예요.

숫자에는 두 종류가 있어요.
대수적 수는 방정식의 답이 될 수 있는 수예요.
√2는 x² = 2의 답이니까 대수적 수예요.

반면 초월수는 아무리 복잡한 방정식을 만들어도 그 답이 절대 될 수 없는 수예요.
수학의 영역 밖에 존재하는 수처럼 들리지만, 사실 자연계에서 가장 자주 등장하는 수들이 초월수예요.

2.718...로 시작하는 숫자 e는 은행 이자 계산부터 인구 성장 예측까지, 세상의 변화를 설명할 때 계속 나타나는 수예요.
그런데 이 e가 대수적 수인지, 초월수인지는 에르미트 이전까지 아무도 몰랐어요.

에르미트의 증명 방식이 특이했어요.
"e가 초월수가 아니라면 모순이 생긴다"는 방식으로 증명했거든요.
마치 알리바이 없는 용의자를 소거해서 범인을 찾아내는 것처럼, 다른 모든 가능성을 하나씩 부수는 방법이에요.

이때 에르미트의 나이가 쉰한 살이었어요.
수학에서 오십 대에 이런 성과를 내는 건 오늘날에도 드문 일이에요.

에르미트가 포기한 π 증명을 제자 린데만이 9년 뒤에 완성했다

에르미트가 스스로 포기한 문제를, 제자가 9년 뒤에 완성해버렸어요.

e가 초월수라는 걸 증명한 에르미트는 π도 같은 방법으로 증명할 수 있다는 걸 알았어요.
하지만 계산이 훨씬 복잡했고, 에르미트는 그 시도를 직접 하지 않았어요.
1882년, 독일 수학자 페르디난트 폰 린데만이 에르미트의 방법을 확장해서 끝내 해냈어요. π도 초월수예요.

이 발견은 수천 년 된 문제 하나를 종결했어요.
원을 정사각형으로 만들기, 즉 원의 넓이와 똑같은 정사각형을 자와 컴퍼스만으로 그릴 수 있는가 하는 문제예요.
고대 그리스 시절부터 수학자들을 괴롭혀온 질문이었죠.

π가 초월수이기 때문에 이 작도는 원리적으로 불가능해요.
2천 년의 도전이 "이건 불가능한 게 맞다"는 결론으로 끝난 거예요.
그리고 그 결론을 가능하게 한 열쇠는, 시험장에서 번번이 머뭇거리던 한 청년의 편지에서 시작된 거예요.