이자도어 싱어가 23살에 물리학을 버린 이유, 아티야-싱어 정리

물리학자가 되려던 싱어는 수학을 몰랐다

싱어가 수학자가 된 건 수학이 좋아서가 아니라, 물리학을 따라가지 못해서였어요.
1944년, 이자도어 싱어는 미시건 대학에서 물리학 학사를 받고 곧바로 전장으로 갔어요.
신호부대, 그러니까 2차 세계대전 당시 미군 통신부대에서 4년을 보냈죠.

1947년, 드디어 꿈이었던 물리학자의 길을 향해 시카고 대학원 문을 두드렸어요.
문제는 그 학기 첫 수업에서 일어났어요.
양자역학 강의가 시작되자마자 칠판에 수식이 쏟아졌는데, 싱어는 그 언어 자체를 읽을 수가 없었어요.

운전을 잘하고 싶어서 정비 학원에 잠깐 다니러 갔더니, 정비공들이 쓰는 언어 자체를 모른다는 걸 첫날 알게 되는 것과 같아요.
그래서 싱어는 결정했어요.
수학을 보조 도구로만 배우러 갔던 사람이, 그 순간부터 수학자의 길을 걷기 시작했어요.

23살의 싱어는 학부 수학부터 다시 들었다

1947년 시카고 대학원 강의실에서, 박사 과정생 싱어는 자신보다 다섯 살 어린 학부생들 사이에 앉아 노트를 펼쳤어요.
또래 박사 동료들은 이미 논문 주제를 잡고 지도교수와 미팅을 하고 있을 때, 싱어는 해석학과 위상수학 기초 수업을 처음부터 다시 듣기 시작했거든요.

해석학은 미분과 적분을 깊이 파고드는 수학이에요.
위상수학은 공간의 모양이 어떻게 연결되는지를 연구하는 분야예요. 도형을 찢거나 붙이지 않고 그냥 늘이거나 구겨도 변하지 않는 특성이 무엇인지를 따지는 학문이죠.
싱어는 이 두 분야를 뒤늦게, 하지만 동시에 익혔어요.

결국 1950년, 박사 논문을 완성하고 MIT에 자리를 잡았어요.
4년을 전쟁터에서 잃었고, 대학원에서 다시 학부 교재를 펴고 앉았어요.
하지만 바로 그 늦은 출발이, 싱어를 해석학과 위상수학을 동시에 꿰뚫는 드문 눈을 가진 수학자로 만들었어요.

싱어와 아티야가 1963년 발표한 한 정리

1962년 옥스퍼드의 한 칠판 앞에서, 두 사람은 수학에서 가장 멀리 떨어져 있던 두 대륙을 잇는 다리를 그렸어요.
싱어는 그해 영국 옥스퍼드를 방문했고, 거기서 마이클 아티야를 처음 만났어요.
아티야는 영국 수학자로, 훗날 수학계의 노벨상이라 불리는 필즈상을 받을 인물이었어요.

두 사람이 발견한 건 충격적으로 단순한 사실이었어요.
"이 미분방정식의 해는 몇 개일까?"라는 해석학의 질문과, "이 공간의 모양은 어떻게 생겼을까?"라는 위상수학의 질문이 정확히 같은 숫자로 연결된다는 거예요.
서로 만날 일이 없어 보이던 두 수학 분야가 하나의 등호(=)로 묶였어요.

비유를 들어볼게요.
서울 지하철 노선도(공간의 모양)만 보고, 출퇴근 시간에 혼잡 구간이 정확히 몇 군데 생길지(방정식 해의 개수)를 미리 계산할 수 있는 공식이 생긴 거예요.
1963년, 이 아티야-싱어 지표 정리가 세상에 나왔어요.

싱어의 수학은 결국 물리학으로 돌아왔다

1947년 물리학을 떠난 청년의 수학은, 30년이 지나 물리학의 가장 안쪽 방으로 돌아왔어요.
1970~80년대, 물리학자들은 게이지 이론과 끈 이론을 발전시키고 있었어요.
게이지 이론은 소립자들이 서로 힘을 어떻게 주고받는지를 설명하는 이론이고, 끈 이론은 우주의 근본 구성 요소가 점 입자가 아니라 진동하는 끈이라는 아이디어예요.

그런데 이 물리학자들이 자신들의 방정식을 풀어가다 보니, 아티야-싱어 지표 정리가 반드시 필요했어요.
계산 보조 도구가 아니라, 물리 현상을 이해하는 언어 자체로 필요했거든요.
수학을 모르겠어서 물리학을 떠난 사람이 만든 수학이, 결국 물리학자들이 없어서는 안 될 언어가 됐어요.

2004년, 아티야와 싱어는 함께 아벨상을 받았어요.
아벨상은 수학에서 가장 권위 있는 상 가운데 하나로, 노르웨이의 수학자 닐스 헨리크 아벨의 이름을 딴 상이에요.
물리학을 따라갈 수 없어서 수학을 배운 청년이 결국 그 수학으로 물리학을 바꾸었다는 이 이야기, 어쩌면 수학과 물리학 사이의 가장 이상한 우정 이야기가 아닐까요?