전쟁터 한복판에서 수학 교과서의 오류를 고치기 시작했다

조조와 제갈량이 천하의 지도를 다시 그리던 시대에, 한 남자는 수학 교과서의 틀린 답을 고치고 있었어요.

263년, 위나라의 무명 관리 류휘(劉徽)는 《구장산술》에 주석을 달기 시작해요.
《구장산술》은 한나라 때 편찬된 수학 문제집으로, 오늘날로 치면 동아시아 전체에서 500년 동안 쓰인 수능 수학 교재 같은 거예요.
그런데 류휘가 한 일은 단순한 해설이 아니었어요.

그는 500년간 아무도 의심하지 않았던 공식들을 하나씩 꺼내, "이게 왜 맞는 건데?"라고 물었어요.
그리고 그 답을 증명과 함께 직접 써 내려갔죠.
동아시아 수학사에서 '증명'이라는 개념을 처음 체계화한 순간이에요.

학교에서 공식을 외우다가 "근데 이게 왜 맞아요?"라고 물었다가 "그냥 외워"라는 답을 들어본 적 있잖아요.
류휘는 그 질문을 500년 된 교과서에 정면으로 던진 사람이에요.
그리고 그 질문이 그를 원주율로 이끌었어요.

원에 칼을 대면 댈수록 원주율이 모습을 드러냈다

원은 직선으로 만들 수 없어요. 하지만 3072개의 직선이 모이면 거의 원이 돼요.

류휘는 원 안에 정육각형을 넣고, 변의 수를 6개에서 12개, 24개, 48개, 96개, 192개로 두 배씩 늘려가며 원의 둘레에 가까이 다가가는 방법을 고안해요.
이걸 할원술(割圓術), 즉 '원을 잘라나가는 기술'이라고 불러요.
원을 점점 잘게 쪼갤수록 다각형의 둘레가 원의 둘레에 가까워지는 원리예요.

피자를 얇게 자를수록 각 조각의 바깥 가장자리가 거의 직선처럼 보이는 것과 같은 원리예요.
류휘는 이 피자를 192조각으로 잘라 원주율 3.14159를 얻었고, 나중엔 3072조각까지 확장해서 소수점 다섯째 자리까지 정확한 값을 계산해요.
계산기도 없이, 손으로.

이건 단순한 계산 기술이 아니에요.
"무한히 잘게 쪼개면 곡선에 도달한다"는 극한의 개념을 손으로 직접 실현한 거예요.
뉴턴과 라이프니츠가 미적분을 정립하기 1400년 전에, 류휘는 이미 그 핵심 아이디어를 붓과 종이로 구현하고 있었어요.

막대기 두 개로 바다 건너 섬의 높이를 재는 법을 알아냈다

절대 가볼 수 없는 섬 위의 산 높이를, 류휘는 막대기 두 개와 수학만으로 알아냈어요.

류휘는 《해도산경(海島算經)》이라는 책도 썼어요.
제목을 풀면 '바다 섬의 수학'인데, 이 책의 첫 번째 문제는 이거예요: "바다 건너 섬에 있는 산의 높이를 육지에서 측정하라. 도구는 높이가 같은 막대기 두 개뿐이다."

강 건너편 건물의 높이를 자 없이 알아내야 한다고 생각해 보세요.
엄지손가락으로 대충 어림잡는 수준이 아니라, 정확한 수식을 만든 거예요.
류휘는 두 막대기 사이의 거리와 시선이 만나는 각도를 이용해 삼각측량의 원리를 이중, 삼중으로 확장했어요.

이 방법의 배경엔 현실적인 이유가 있었을 가능성이 높아요.
전쟁 중에 적진의 성벽 높이를 알아내야 하는 군사적 필요, 거대한 산맥 너머 지형을 파악해야 하는 측량의 필요가 이 수학을 불러냈을 거예요.
현대 측량학이 쓰는 기본 원리가 이미 3세기에 완성되어 있었던 거예요.

그가 풀지 못한 마지막 문제는 500년 뒤에야 답이 나왔다

류휘는 자신의 책에 "나는 이 문제를 풀 수 없다"고 썼어요. 그리고 그 한 줄이 500년 뒤 또 다른 천재를 불러냈어요.

그가 막힌 문제는 구의 부피를 정확히 구하는 것이었어요.
그는 모합방개(牟合方蓋)라는 독창적인 입체도형을 고안해요.
두 개의 원기둥이 직각으로 겹쳐질 때 생기는 그 교차 부분의 모양인데, 이 입체의 부피를 구하는 수식이 있으면 구의 부피도 정확히 나와요.

하지만 그 수식을 유도하는 데 필요한 수학적 도구가 3세기엔 아직 존재하지 않았어요.
그래서 류휘는 이렇게 적어요: "나는 이 문제를 풀 수 없다. 후대의 뛰어난 사람이 풀기를 기다린다."
시험에서 '모르겠습니다'라고 쓰면 0점이지만, 류휘의 이 한 줄은 달랐어요.

500년 뒤, 수학자 조충지(祖沖之)의 아들 조긍(祖暅)이 '등적분할의 원리'를 발견하고서야 이 문제가 비로소 풀려요.
단면의 넓이가 같으면 부피도 같다는 이 원리, 오늘날 우리가 고등학교에서 배우는 카발리에리의 원리와 동일한 내용이에요.
류휘가 남긴 "나는 모른다"는 고백이 없었다면, 조긍이 어떤 산을 넘어야 하는지도 몰랐을 거예요.

자신의 한계를 기록으로 남기고, 그 문제를 미래에 넘긴다는 것. 류휘가 없었다면 조긍도 없었고, 조긍이 없었다면 그 다음 누군가도 없었을 거예요. 1800년이 지난 지금, 우리가 쓰는 수학 교과서 안에 류휘의 질문이 여전히 살아 있어요.