에바리스트 갈루아 군론, 결투 전날 밤 편지에 담긴 수학

결투 전날 밤, 스무 살 청년이 편지에 휘갈긴 수학 — 200년이 지나도 아무도 지우지 못했다

5차 방정식이라는 잠긴 문

레고 블록으로 집을 지을 때를 생각해보세요.

1층, 2층, 3층… 규칙만 알면 어떤 높이든 쌓을 수 있습니다.
수학자들도 한때 그렇게 믿었습니다.
1차 방정식에는 공식이 있었습니다.
2차 방정식에도 공식이 있었습니다.
르네상스 시대 이탈리아 수학자들이 피 터지게 싸우며 3차, 4차 방정식의 공식도 결국 찾아냈습니다.

그러니 5차는 당연히 시간문제처럼 보였습니다.

하지만 아니었습니다.

수백 년 동안 유럽 최고의 수학자들이 달려들었습니다.
뉴턴의 후예들이, 오일러의 제자들이, 가우스가 도전했습니다.
그런데 이상한 일이 벌어졌습니다.
열쇠가 만들어지지 않는 게 아니라, 그 문은 원래부터 열쇠로 열 수 없는 문이었던 겁니다.

문제는 '아직 못 찾은 것'이 아니었습니다.
불가능하다는 사실을 증명해야 하는 완전히 다른 차원의 문제였습니다.
그리고 그 증명을 해낸 사람은 대학 입시에 두 번이나 떨어진 스무 살짜리 청년이었습니다.

열여섯 살, 교실 대신 도서관을 택한 소년

1811년, 파리 근교의 작은 마을 부르라렌에서 에바리스트 갈루아가 태어났습니다.

그는 평범한 학생이었습니다.
아니, 솔직히 말하면 성적표로 보면 형편없는 학생이었습니다.
명문 에콜 폴리테크니크 입시에 두 번 떨어졌고, 선생님들은 그를 이해하기 어렵고 무례한 아이라고 기록했습니다.

하지만 열다섯 살 어느 날, 그는 수학자 르장드르가 쓴 두꺼운 교과서를 손에 들었습니다.
보통 학생이 몇 달에 걸쳐 공부하는 책이었습니다.
갈루아는 이틀 만에 읽었습니다.
마치 소설처럼.

문제는 그다음이었습니다.
갈루아는 자신이 발견한 것들을 논문으로 써서 당대 최고 권위의 기관, 파리 과학 아카데미에 제출했습니다.
당시 수학계의 거장 코시가 그 논문을 받아들었습니다.
그리고 잃어버렸습니다.

갈루아는 다시 썼습니다.
이번에는 아카데미 사무총장 푸리에에게 제출했습니다.
푸리에는 논문을 집으로 가져갔다가 세상을 떠났습니다.
논문도 함께 사라졌습니다.

세 번째 시도에서야 논문은 심사위원회에 도달했습니다.
심사위원들은 "이해하기 어렵다"는 짧은 말을 남기고 반려했습니다.

열일곱, 열여덟, 열아홉.
갈루아의 수학은 계속 성장했고, 세상은 계속 문을 닫았습니다.
그리고 그사이 갈루아의 삶은 점점 다른 방향으로 흘러가기 시작했습니다.

'구조'를 보는 눈 — 숫자 대신 움직임을 본 사람

루빅스 큐브를 생각해보세요.

큐브의 각 면을 돌리면 색깔들이 자리를 바꿉니다.
어떤 움직임은 되돌릴 수 있고, 어떤 순서로 돌리느냐에 따라 결과가 달라집니다.
중요한 건 숫자가 아닙니다.
움직임들이 서로 어떻게 연결되는가, 그 구조입니다.

갈루아가 본 것이 바로 이것이었습니다.

방정식을 풀 때 수학자들은 보통 해(解)를 구하려 합니다.
x가 얼마인지 찾는 거죠.
하지만 갈루아는 전혀 다른 질문을 던졌습니다.

"이 방정식의 해들은 서로 어떻게 자리를 바꿀 수 있을까?"

5차 방정식에는 해가 다섯 개 있습니다.
그 다섯 개의 해가 서로 위치를 바꾸는 방식, 그 '교환의 패턴'에는 규칙이 있습니다.
갈루아는 그 패턴에 이름을 붙였습니다.
군(群, group) 이라고.

무도회장을 상상해보세요.
댄서들이 정해진 규칙에 따라 파트너를 바꿉니다.
어떤 무도회는 단순해서 두 사람이 자리를 바꾸는 것뿐입니다.
어떤 무도회는 복잡해서 다섯 명이 뒤엉켜 돌아갑니다.

갈루아가 발견한 것은 이것이었습니다.
방정식이 '공식으로 풀린다'는 것은, 그 무도회의 춤이 특정한 방식으로 분해될 수 있다는 뜻입니다.
마치 복잡한 춤을 여러 개의 단순한 스텝으로 쪼갤 수 있는 것처럼.

그리고 5차 방정식의 해들이 추는 춤은, 그렇게 쪼갤 수 없는 구조를 가지고 있었습니다.
공식이 존재하지 않는 이유가 비로소 수학적으로 증명된 순간이었습니다.

수백 년 된 문은 잠긴 게 아니었습니다.
처음부터 손잡이가 없는 문이었습니다.

1832년 5월 29일, 마지막 밤의 편지

갈루아의 짧은 생은 수학 바깥에서도 격렬했습니다.

그는 공화주의자였습니다.
왕정 복고에 저항하는 정치 운동에 뛰어들었고, 두 번 감옥에 갔습니다.
혁명의 기운이 파리 거리를 뒤덮던 시절이었습니다.

그리고 1832년 봄, 스물한 살의 갈루아는 결투 신청을 받았습니다.
이유는 지금도 정확히 알려지지 않습니다.
정치적 음모라는 설도 있고, 연애 문제라는 설도 있습니다.
하지만 갈루아는 이 결투가 자신의 마지막이 될 것을 예감했던 것 같습니다.

1832년 5월 29일 밤.

결투는 다음 날 새벽이었습니다.
갈루아는 책상 앞에 앉아 친구 오귀스트 슈발리에에게 편지를 쓰기 시작했습니다.

편지는 길었습니다.
수학으로 가득했습니다.
그동안 세상이 알아주지 않았던 자신의 발견들을 빠짐없이 적었습니다.
방정식과 군, 그리고 그 둘 사이의 관계.

그리고 여백에, 이런 메모가 있었습니다.

"시간이 없다."

짧은 문장이었습니다.
하지만 그 문장이 담고 있는 무게를 생각하면 지금도 가슴이 잠깐 멈춥니다.
수학사에서 가장 중요한 편지 중 하나가, 밤새 촛불 아래서 떨리는 손으로 쓰였습니다.

다음 날 새벽, 갈루아는 총에 맞았습니다.
이튿날 아침, 그는 스물한 살의 나이로 세상을 떠났습니다.

친구 슈발리에는 그 편지를 소중히 보관했습니다.
14년이 지난 1846년, 수학자 리우빌이 그 편지를 읽었습니다.
리우빌은 경악했습니다.
그는 나중에 이렇게 기록했습니다.

"이 젊은이의 지성이 얼마나 비범한지를 이해했을 때, 나는 깊은 감동을 받았다."

갈루아의 수학은 그렇게 세상에 나왔습니다.
죽고 나서야.

스무 살의 유산이 지금 당신의 스마트폰 안에 있다

지금 당신의 스마트폰으로 메시지를 보낼 때, 주소창에 자물쇠 아이콘이 뜰 때, 택배를 추적할 때 바코드를 스캔할 때.

그 모든 순간에 갈루아가 있습니다.

현대 암호학은 수학적 구조 위에 세워져 있습니다.
당신이 보낸 메시지가 중간에 누군가에게 가로채이지 않는 이유는, 특정 수학적 구조를 역방향으로 풀기가 거의 불가능하기 때문입니다.
그 '풀기 어렵다'는 성질을 정밀하게 다루는 도구가 갈루아 이론에서 나왔습니다.

오류 정정 코드도 마찬가지입니다.
CD 표면에 흠집이 생겨도 음악이 재생되는 이유, 우주 탐사선이 수십억 킬로미터 떨어진 곳에서 보낸 신호가 지구에서 복원되는 이유.
손상된 데이터를 고치는 수학적 원리 역시 갈루아가 만든 구조에 뿌리를 두고 있습니다.

양자 컴퓨팅 분야에서도 갈루아의 흔적은 깊습니다.
양자 오류 정정, 양자 알고리즘 설계.
21세기 기술의 최전선에서 수학자들이 돌아보는 곳에, 1832년 5월의 편지가 있습니다.

갈루아가 만든 '군'이라는 개념은 수학을 넘어 물리학으로도 번졌습니다.
원자가 어떻게 생겼는지, 소립자가 어떻게 움직이는지, 우주의 기본 법칙이 어떤 대칭성을 가지는지.
20세기 물리학의 언어 자체가 갈루아가 열어준 구조론 위에서 자라났습니다.

스물한 살에 죽은 한 청년이 남긴 밤새 쓴 편지가, 200년 후 전 인류가 매일 쓰는 기술의 기반이 되었습니다.

역사에는 이런 아이러니가 있습니다.
살아 있을 때 가장 앞서 있었던 사람이, 죽고 나서야 이해받는 일.
두 번이나 논문을 잃어버린 학계가, 훗날 그 논문을 '현대 추상대수학의 출발점'이라 부르게 되는 일.

갈루아를 비극으로만 읽을 수는 없습니다.
물론 그의 죽음은 안타깝습니다.
더 살았다면 무엇을 더 발견했을지, 우리는 영원히 알 수 없습니다.

하지만 동시에 이런 생각도 듭니다.
스물한 해 동안 그가 보았던 것, 그것만으로도 이미 충분히 위대했습니다.

문이 잠겨 있다고 모두가 믿을 때, 그는 문에 손잡이가 없다는 사실을 증명했습니다.
그리고 그 증명을 위해 완전히 새로운 수학을 만들었습니다.

마지막 밤, 촛불 앞에서 "시간이 없다"고 적었던 그 청년.
그가 옳았습니다.
시간은 없었습니다.

하지만 그가 남긴 것은, 시간이 지워지지 않았습니다.