바이어슈트라스는 본에서 학위 없이 돌아왔다

현대 미적분의 기준을 세운 사람은 정작 자신의 대학 졸업장을 끝까지 가져오지 못했다.

카를 바이어슈트라스는 1834년 본 대학교에 들어가요.
본 대학교는 독일의 이름난 대학이었고, 오늘로 치면 부모가 친척들에게 자랑하기 좋은 합격증 같은 곳이었죠.

하지만 그는 학위를 받지 못하고 떠나요.
수학의 뼈대를 다시 세울 사람이, 첫 출발에서는 “졸업장 없음”이라는 꼬리표를 달고 나온 거예요.

이건 전공이 안 맞는데 부모 기대 때문에 버티는 대학생의 이야기와 닮아 있어요.
겉으로는 안정된 길이 보입니다.
그런데 마음은 자꾸 다른 책상으로 돌아가요.

바이어슈트라스도 그랬어요.
부모가 바라던 길과 자신이 붙잡고 싶은 공부 사이에서 오래 흔들렸습니다.
그래서 그는 본을 떠난 뒤 뮌스터 아카데미로 갑니다.

뮌스터 아카데미는 대학 교수가 아니라 학교 선생님이 되기 위한 준비를 하던 곳이에요.
화려한 연구자의 문이 아니라, 교실로 들어가는 좁은 문이었죠.

그런데 바로 그 좁은 문이 이상하게도 수학사의 큰 문으로 이어집니다.
바이어슈트라스의 시작은 천재의 개선문이 아니었어요.
오히려 “망한 줄 알았던 방향 전환”에 가까웠습니다.

시골 교사의 밤이 베를린의 문을 열었다

그의 첫 연구실은 대학 강의실이 아니라, 중등학교 교사의 밤 책상이었다.

바이어슈트라스는 Deutsche Krone와 Braunsberg의 중등학교에서 오래 가르쳐요.
이곳들은 대도시 학문의 중심지가 아니라, 조용한 지방 학교에 가까웠습니다.

더 놀라운 건 가르친 과목이에요.
그는 수학만 맡은 게 아니었습니다.
물리, 식물학, 체조까지 가르쳤어요.

오늘로 치면 낮에는 회사 일, 회의, 잡무, 보고서를 처리하고 밤에 자기 프로젝트를 붙잡는 사람과 비슷해요.
다만 그의 프로젝트는 앱 개발이나 시험 준비가 아니었습니다.
그는 아벨 함수를 붙잡고 있었어요.

아벨 함수는 아주 거칠게 말하면 복잡한 곡선과 반복되는 수의 움직임을 다루는 고급 수학이에요.
초등학생에게 말하자면, 아주 꼬인 실타래의 규칙을 찾아내는 일에 가깝습니다.

그는 약 14년 동안 그렇게 살아요.
낮에는 교사.
밤에는 아무도 시키지 않은 연구자.

그래서 이 장면이 무섭게 좋습니다.
바이어슈트라스는 “연구할 시간이 생기면 시작하겠다” 쪽이 아니었어요.
시간이 없는데도, 남은 조각을 긁어모아 계속한 사람이었습니다.

결국 그 밤의 책상이 베를린의 문을 열어요.
베를린은 당시 독일 학문 세계의 중심 중 하나였고, 그에게는 지방 교사의 삶을 넘어서는 무대였죠.
그런데 그 무대는 갑자기 떨어진 행운이 아니라, 꺼지지 않은 램프 아래에서 조금씩 만들어진 결과였습니다.

바이어슈트라스는 미적분에 새 규칙을 세웠다

바이어슈트라스가 바꾼 것은 계산법이 아니라, 계산을 믿어도 되는 기준이었다.

미적분은 움직이는 것을 계산하는 도구예요.
자동차 속도, 떨어지는 물체, 휘어진 곡선처럼 계속 변하는 것을 숫자로 붙잡는 방법이죠.

그런데 바이어슈트라스가 보기에는 문제가 있었어요.
사람들이 계산은 잘했지만, 왜 그 계산을 믿어도 되는지 자주 감으로 넘겼습니다.

요리로 치면 이런 거예요.
할머니 손맛처럼 “대충 이만큼”으로 맛은 낼 수 있습니다.
하지만 같은 맛을 누구나 재현하려면 계량컵과 온도계가 필요하죠.

바이어슈트라스는 미적분에 그 계량컵을 들이민 사람입니다.
극한은 어떤 값에 점점 다가가는 과정을 말해요.
스마트폰 지도를 확대할수록 목적지 주변이 더 정확해지는 느낌과 비슷합니다.

연속은 선이 중간에 끊기지 않는 성질이에요.
펜을 종이에서 떼지 않고 그릴 수 있다면, 일단 연속처럼 느껴집니다.

함수는 숫자를 넣으면 정해진 규칙에 따라 다른 숫자가 나오는 장치예요.
자판기에 동전을 넣으면 정해진 음료가 나오는 것과 닮았습니다.

베를린에 간 바이어슈트라스는 이런 개념들을 감이 아니라 증명으로 다뤄요.
증명은 “그럴듯하다”가 아니라 “빠져나갈 구멍이 없다”에 가깝습니다.

그래서 그의 강의는 계산 기술 수업이 아니었습니다.
학생들이 당연하다고 넘기던 바닥을 뜯어보는 시간이었어요.
결국 그 바닥 공사가 현대 해석학의 기초가 됩니다.

해석학은 미적분의 핵심인 극한, 연속, 함수 같은 것을 아주 엄밀하게 다루는 수학 분야예요.
말하자면 “움직임을 계산하는 법”의 안전 점검표입니다.

바이어슈트라스의 괴물 함수가 곡선을 배신했다

그가 만든 곡선은 끊어지지 않았지만, 어느 한 점에서도 얌전히 누워 주지 않았다.

사람들은 오래도록 이렇게 느꼈어요.
선이 끊기지 않고 이어져 있으면, 대체로 어딘가에서는 부드럽게 방향을 잡을 수 있겠지.
멀리서 보면 해안선도 하나의 매끈한 선처럼 보이니까요.

그런데 가까이 가면 상황이 달라집니다.
해안선은 바위, 모래, 틈, 작은 굴곡으로 계속 흔들려요.
더 가까이 가면 또 더 작은 울퉁불퉁함이 나옵니다.

바이어슈트라스가 제시한 함수가 바로 그런 충격을 줬어요.
이 함수는 어디서나 이어져 있습니다.
하지만 어디에서도 매끄럽게 접선을 그을 수 없어요.

접선은 곡선의 한 점에 살짝 기대어 방향을 알려주는 직선이에요.
자동차가 커브를 도는 순간, 그 찰나에 어느 방향으로 달리는지 보여주는 화살표와 비슷합니다.

그런데 바이어슈트라스의 곡선은 그 화살표를 허락하지 않습니다.
끊기지는 않는데, 어느 점에서도 얌전한 방향을 내주지 않아요.

이건 당시 수학자들의 직관을 뒤흔드는 장면이었습니다.
연속이면 어느 정도 부드러울 것이라는 믿음이 깨졌거든요.
눈으로 보기 좋은 곡선이 수학의 전부가 아니라는 사실이 드러난 겁니다.

그래서 사람들은 이 함수를 바이어슈트라스 함수라고 부릅니다.
이름은 차분하지만, 역할은 꽤 사납습니다.
수학자들에게 “네가 보고 믿은 그 부드러움, 정말 증명했어?”라고 묻는 함수니까요.

바이어슈트라스의 삶도 조금 그렇습니다.
대학 졸업장 없이 돌아온 청년.
시골 학교의 밤 책상에 앉은 교사.
그리고 미적분의 바닥을 다시 깐 사람.

그는 수학을 더 어렵게 만든 사람이 아니에요.
오히려 무너질 수 있는 감을 걷어내고, 누구나 딛고 설 수 있는 발판을 만든 사람입니다.

그러니 이상하죠.
현대 해석학의 탄생은 번쩍이는 천재의 선언보다, 한 사람이 계속 의심한 질문에서 시작됩니다.
“이 계산, 정말 믿어도 되는 걸까?”