수학사에서 가장 외로운 학문이 '댓글'로 풀리기 시작했다

2009년 어느 날, 필즈상 수상자가 블로그에 글 하나를 올렸다.
"이 문제, 댓글로 같이 풀어봅시다."

팀 가워스가 던진 건 단순한 제안이 아니었다.
수학사 2천 년의 관습에 대한 선전포고였다.

수학은 언제나 혼자 하는 학문이었다.
방 한 칸, 노트 한 권, 그리고 수년간의 고독.
앤드루 와일스가 페르마의 마지막 정리를 풀 때도 7년을 홀로 버텼고, 그레고리 페렐만이 푸앵카레 추측을 해결했을 때도 세상과 단절된 채였다.

그런데 가워스는 달랐다.
그는 폴리매스 프로젝트(Polymath Project)를 시작했다.
불특정 다수가 온라인 댓글창에서 함께 수학 난제를 푸는, 당시로선 황당하게 들리는 실험이었다.

회사에서 혼자 밤새 보고서를 쓰다가 "구글 독스 링크 열어놓을 테니 아무나 와서 한 줄씩 써주세요"라고 사내 게시판에 올린 상황을 떠올려보면 된다.
그런데 그걸 연구소 소장이 먼저 했다.

첫 번째 문제는 밀도 할레스-주엣 정리였다.
조합론의 난제로, 쉽게 말하면 숫자들의 패턴 속에 반드시 특정 구조가 존재하는지를 증명하는 문제다.
이 문제는 6주 만에 풀렸다.
수십 명의 댓글이 하나의 논문이 됐다.
저자 이름은 'D.H.J. Polymath', 가상의 집단 필명이었다.

"어? 진짜로?"라는 생각이 드는 게 당연하다.
필즈상은 수학 분야의 노벨상이라 불리는데, 그 수상자가 스스로 '혼자 하는 수학'의 전통을 깼으니까.

이튼 출신 엘리트가 학술 출판의 성벽을 공격하다

논문 한 편을 읽는 데 4만 원.
그 논문을 쓴 학자에게 돌아가는 돈은 0원.
가워스는 이 구조가 "사기"라고 불렀다.

2012년, 그는 블로그에 글 한 편을 올렸다.
세계 최대 학술 출판사 엘스비어(Elsevier)를 공개적으로 보이콧하겠다는 선언이었다.
엘스비어는 연간 수조 원의 매출을 올리는 학술지 제국이다.
대학 도서관은 구독료로 수십억을 지출하고, 논문을 쓴 연구자는 한 푼도 받지 못한다.

그의 글 하나가 도화선이 됐다.
"The Cost of Knowledge"라는 청원이 시작되었고, 수학자와 과학자 수만 명이 서명했다.

여기서 반전이 있다.
가워스는 이튼 칼리지 출신이다.
영국 왕실과 총리를 배출한 그 명문 사립학교 말이다.
거기다 케임브리지까지.
그는 이 시스템이 만들어낸 수혜자 중 수혜자였다.

유명 맛집의 스타 셰프가 어느 날 "우리 레시피 전부 무료 공개합니다, 이 프랜차이즈 시스템은 잘못됐어요"라고 선언한 것과 같은 낙차다.
손해를 볼 이유가 없는 사람이 먼저 나선 것.

가워스가 말한 문제의 핵심은 간단했다.
연구자들이 논문을 쓰고, 동료 연구자들이 무료로 심사하고, 그 결과물을 출판사가 독점 판매한다.
공공 자금으로 이루어진 연구가 민간 출판사의 수익이 된다.
그는 그 구조를 참을 수 없었다.

바나흐 공간의 난제를 푼 사람이 '쉬운 수학책'을 쓴 까닭

필즈상 수상 연구를 이해할 수 있는 사람은 전 세계에 수백 명쯤 된다.
가워스는 나머지 80억 명을 위한 책을 썼다.

그의 필즈상 수상 연구 주제는 바나흐 공간이다.
무한 차원의 추상적 수학 구조인데, 무한히 많은 방향이 존재하는 공간을 다룬다고 생각하면 된다.
3차원 공간을 넘어 수십억 차원으로 확장된 세계의 이야기다.
동료 수학자 중에서도 이 분야를 깊이 이해하는 사람은 손에 꼽힌다.

그런데 1998년 필즈상을 받은 지 4년 뒤, 가워스가 낸 책은 《Mathematics: A Very Short Introduction》이었다.
150쪽짜리 얇은 입문서로, 수학을 한 번도 좋아한 적 없는 사람을 독자로 삼았다.

미슐랭 3스타 셰프가 '라면 맛있게 끓이는 법' 유튜브를 시작한 것과 같은 낙차다.

그가 이 책을 쓴 이유는 하나였다.
수학이 두렵고 낯선 사람들이 수학을 '발견'이 아닌 '암기'로 배웠기 때문이라는 것.
가워스에게 수학은 규칙을 외우는 과목이 아니라, 왜 그 규칙이 존재하는지를 이해하는 과정이었다.

가장 높은 곳에 있는 사람이 가장 낮은 계단에 손을 내민 셈이다.
그리고 그 손은 위선이 아니라 진심이었다.
그는 폴리매스 프로젝트에서도 같은 논리를 반복했다.
수학이 소수의 천재만을 위한 게 아니라면, 문제를 푸는 과정도 소수에게만 닫혀 있을 이유가 없다는 것.

케임브리지를 떠나 콜레주 드 프랑스로 간 수학자의 다음 질문

케임브리지 교수직은 수학자가 받을 수 있는 가장 안정적인 자리 중 하나다.
가워스는 그 자리를 두고 떠났다.

2020년, 30년간 몸담은 케임브리지를 나와 파리로 향했다.
목적지는 콜레주 드 프랑스(Collège de France)였다.
1530년 프랑수아 1세가 세운 이 기관의 철학은 단순하다.
누구든 들어올 수 있고, 수업료는 없다.
학위도 없고, 시험도 없다.
강의는 공개되고, 지식은 울타리 없이 흐른다.

브렉시트 이후의 영국을 떠났다는 점도 의미심장하다.
그가 선택한 곳은 더 좋은 연봉이나 더 높은 명성의 기관이 아니었다.
'누구에게나 열린 강의실'이라는 철학을 가진 곳이었다.

그의 커리어를 거꾸로 펼쳐보면 하나의 선이 보인다.
댓글창으로 수학을 끌어내리고, 학술 출판의 성벽에 금을 내고, 초등학생도 읽을 수 있는 수학책을 쓰고, 수업료 없는 강의실로 이동한 사람.

지금 그는 AI와 수학의 관계를 탐구하고 있다.
컴퓨터가 스스로 수학 증명을 찾아낼 수 있는지, 그 가능성의 경계가 어디인지를 묻고 있다.
이번에도 질문의 방향은 같다.
수학을 더 많은 사람에게, 더 다양한 방식으로 열 수 있는가.

필즈상 수상자가 댓글창에 수학을 던진 이유는 결국 이것이었을지 모른다.
수학이 얼마나 어려운지가 아니라, 얼마나 멀리까지 닿을 수 있는지를 확인하고 싶었던 것.
그 질문이 아직 끝나지 않았다.