페터 숄츠가 자기 증명을 의심한 이유

필즈상 수학자 숄츠는 자기 증명의 검증을 부탁했다

필즈상을 받은 지 2년 뒤, 페터 숄츠는 자기가 쓴 증명을 못 믿겠다고 공개적으로 인정했다.
필즈상은 4년에 한 번, 40세 미만 수학자에게만 주는 상이다.
수학계에서 노벨상보다 받기 어렵다고 불릴 만큼 희귀한 영예다.

2020년 12월, 숄츠는 수학 블로그 Xena Project에 글 하나를 올렸다.
자기가 동료와 함께 쓴 논문에서 핵심 단계 하나가 정말 맞는지, 컴퓨터로 검증해달라는 공개 요청이었다.
가장 권위 있는 상을 받은 수학자가 자기 증명을 스스로 의심한다고 손을 든 것이다.

베스트셀러 작가가 출판 직후 독자에게 "사실 3장이 맞는지 확신이 없어요. 같이 확인해줄 수 있나요?"라고 쓴 것과 같다.
그 작가가 그해 문학상까지 받은 상태라면 더 기이한 장면이다.
하지만 숄츠에게 이 요청은 허세도 퍼포먼스도 아니었다.

그는 자신이 틀렸을 가능성이 가장 높다고 의심하는 단계를 직접 특정해 공개했다.
수학자가 자기 증명의 약점을 스스로 지목하는 일은 흔치 않다.
그것이 가능했던 이유는, 이 수학자가 살아온 방식에 있다.

동독 드레스덴 소년은 16살에 페르마의 마지막 정리를 펼쳤다

대부분의 수학 천재가 책을 외울 때, 16살의 숄츠는 증명을 처음부터 다시 짰다.
1987년 동독 드레스덴에서 태어난 그는 14살부터 수학 올림피아드 금메달을 연달아 휩쓸었다.
하지만 대회 성적보다 눈에 띄는 것은 그가 공부하는 방식이었다.

16살 무렵, 숄츠는 앤드루 와일즈의 페르마의 마지막 정리 증명을 읽기 시작했다.
페르마의 마지막 정리는 17세기 수학자 피에르 드 페르마가 남긴 문제로, 350년 동안 아무도 풀지 못하다가 와일즈가 1995년에 처음 증명에 성공한 것이다.
그 증명은 수백 페이지에 걸친 현대 수학의 집약이다.

숄츠는 그 책을 그대로 따라 읽지 않았다.
노트도 거의 쓰지 않은 채, 머릿속에서 증명 전체를 직접 재구성하는 방식으로 읽었다.
강의 필기 한 장 없이 시험장에서 교수보다 깔끔한 풀이를 써내는 학생, 그런 모습이다.

숄츠의 박사 논문은 288페이지 정리를 37페이지로 다시 썼다

그가 박사 논문에서 만든 단어 하나는, 발표되자마자 정수론의 표준 어휘가 됐다.
2012년, 본 대학에서 박사 논문을 쓰던 숄츠는 퍼펙토이드 공간이라는 개념을 정의했다.
퍼펙토이드 공간이란, 서로 다른 두 수 체계 사이에 다리를 놓는 새로운 기하학적 구조다.

수학에는 우리가 아는 실수 외에, 소수 p를 기준으로 구성된 p진수라는 수 체계가 있다.
이 p진수 세계는 표수 p 세계라는 또 다른 대수 구조와 오랫동안 별개의 언어처럼 다뤄졌다.
그런데 숄츠는 퍼펙토이드 공간으로 그 두 세계가 사실 같은 말을 하고 있었음을 보였다.

그 결과, 288페이지짜리 폰테인-윈터버거 정리를 단 37페이지로 다시 증명했다.
폰테인-윈터버거 정리는 p진수 세계와 표수 p 세계가 본질적으로 같다는 정리로, 기존 증명은 배경 지식만 익히는 데 수백 페이지가 필요했다.
숄츠는 새 개념 하나로 그 전체를 압축했다.

그해 그의 나이는 겨우 스물넷.
같은 해 그는 독일 사상 최연소 정교수가 됐다.
신입사원이 첫 보고서에서 회사 전체 시스템을 갈아엎는 프레임워크를 제안하고, 그날 부사장으로 임명된 격이다.

숄츠는 컴퓨터에 자기 정리의 정답을 맡기는 길을 택했다

필즈상은 숄츠에게 종착지가 아니라, 자기 한계를 인정할 자유를 준 출발선이었다.
2021년 5월, Lean 커뮤니티가 마침내 결론을 냈다.
Lean은 수학 증명을 컴퓨터 코드로 변환해, 기계가 논리적 오류를 직접 검증하는 시스템이다.

커뮤니티는 18개월에 걸쳐, 숄츠가 의심했던 액체 벡터 공간 정리의 핵심 단계를 완전히 검증해냈다.
증명은 맞았다.
하지만 숄츠가 얻은 것은 단순한 정답 확인이 아니었다.

그는 이후에도 형식 증명 운동에 적극 참여하고 있다.
형식 증명이란, 수학자의 직관으로 쓴 증명을 컴퓨터가 읽을 수 있는 언어로 옮겨 기계에 오류 여부를 맡기는 방식이다.
인간 수학자의 직관이 끝나는 자리를 기계가 메우는 협업을 숄츠는 옹호한다.

노벨문학상 작가가 AI에게 원고를 맡긴다면, 그것이 나약함인지 엄밀함인지는 그 작가가 계속 글을 쓰는지 여부가 대답한다.
숄츠의 질문은 아직 끝나지 않았다.