잃어버린 수학을 찾아서

12년 동안 수학을 배운다. 그렇게 긴 시간과 많은 노력을 들여 고생했건만, 그 내용이 실제 수학이라는 학문의 본질과는 거리가 멀다는 사실을 깨닫게 된다면 정말 허탈할 것이다. 하지만 사실이다. 일반인에게는 잘 알려져 있지 않지만, 대학의 수학과에서도 적지 않은 수포자가 나온다. 그들은 고등학교 때까지 수학을 잘한다고 부러움을 사던 학생들이다. 학문으로서의 수학이 그전까지 배운 수학과 너무 달라서 끝내 좌절하고 만 것이다.
문제는 학교 수학에 있다. 학교에서 가르치고 배우는 수학 지식의 대부분은 2천년 이전의 것으로 고리타분 그 자체이다. 새로운 내용은 미적분과 확률 정도인데, 그마저도 3,4백 년 전의 것이다. 음악으로 치면 고대 바빌로니아의 음악이나 기껏 비발디나 헨델 시대의 바로크 음악에 머무는 셈이다. 모차르트나 베토벤의 음악조차 만나지 못하는 것과 진배없다.
반드시 새로운 것을 가르쳐야 한다고 주장하는 것은 아니다. 비발디의 〈사계〉나 헨델의 〈오라토리오〉가 여전히 고전이듯이, 유클리드의 기하학과 8,9세기 아랍에서 유래한 대수학은 오늘날에도 유용하다. 문제는 이들 옛날 수학의 대부분이 회계나 토지 측량 같은 실용적인 필요에 의해 탄생했다는 점이다. 그래서 ‘이렇게 저렇게 따라 하면 답을 구할 수 있다’는 마치 요리책에 담긴 레시피를 알려주는 수준에 불과하다.
냉정하게 말하면 오늘의 학교 수학은 여전히 요리책 수준에 머물러 있다. 그러니 사람들이 수학 학습을 요리 레시피를 익히는 것쯤으로 인식하는 것은 지극히 당연하다. ‘이 공식에 대입하여 이렇게 식을 조작하면 답이 나온다’는 기계적인 문제 풀이를 수학이라고 생각하는 것이다. 그 결과 많은 시간을 들여 수학을 공부했건만 정작 수학이 무엇인지는 알지 못한다. 분수 계산은 할 수 있어도 분수가 유리수와 어떻게 다른지, 삼각형의 세 가지 합동조건은 줄줄 암송해도 그 의미가 무엇인지는 모른다. 나는 이를 ‘내비게이션 수학’이라고 규정한다. 내비게이션의 지시대로 운전해 정확하게 목적지에 도착했건만, 정작 어떤 길을 따라 운전했는지 알지 못하는 것과 같다.
물론 수학은 문제를 해결하는 학문이다. 표준적인 풀이 방식의 습득은 필요하다. 적용할 공식이나 따라야 할 절차를 찾아보는 것도 필요하다. 하지만 거기에 그쳐서는 안된다. 실제 수학 문제는 숫자를 대입하면 되는 공식이나 풀이가 유사한 문제를 찾아서 해결할 수 없는 경우가 더 많다.
문제가 무엇인지를 생각하는 것, 그것이 답이다. 누군가가 분류해놓은 문제의 유형에 주목하기보다는, 문제가 말하는 것이 무엇인지를 제대로 파악하고 생각해야 한다. 수학 지식의 의미를 파고드는 ‘수학적 사고’야말로 수학의 본질이고 핵심이다. 이제는 내비게이션 수학에서 탈피해야 할 때다. 내비게이션이 지시하는 대로 따라가다가 무심코 지나쳤던 길이 어떤 길이었는지 되돌아볼 수 있어야 한다. 도중에 왜 마을이 들어섰는지도 잠시 살피고, 전망 좋은 곳에 들러 멋진 경치를 감상하는 여유도 만끽하자.
‘잃어버린 수학을 찾아서’ 시리즈는 초등학교에 갓 입학하며 배우는 아라비아 숫자와 간단한 곱셈구구에서부터 미적분과 확률에 이르는 수학의 궤적을 새로운 패러다임으로 되짚어가는 야심 찬 기획물이다. 수학의 넓은 대지를 문명사적으로 종횡으로 누비며 수학의 본령에 다가가는 이 같은 시도는 국내에서는 물론 처음이거니와 해외에서도 사례를 찾기 어려울 것이다. 이 시리즈가 더 나은 가르침을 주고 싶은 교사들과 교과서 너머의 지식에 목말라 하는 학생들, 그리고 삶의 여정 속에서 수학 지식의 유용함을 믿는 신실한 이들에게 귀한 자양분이 되었으면 좋겠다. 부디 비틀스의 음악에서 베토벤의 선율을 발견할 수 있기를!

책머리에

0, 1, 2, 3, 4, … 아라비아 숫자는 우리가 태어나서 최초로 배우는 수학 기호이다. 숫자는 어떻게 탄생하였을까? 수와 숫자는 어떤 차이가 있을까? 이 책은 이런 질문에 답을 구하는 내용이다.
짝짓기라는 단순한 행위가 수 개념을 낳고, 마침내 아라비아 숫자의 탄생으로 이어졌다. 더욱 놀라운 것은 19세기에 인류가 무한을 헤아리게 된 원동력도 다름 아닌 이 짝짓기였다는 사실이다.
인간의 수 감각은 동물의 수 감각과 비교할 때 그리 뛰어나지 않다. 그런데도 거대한 도약을 통해 빛나는 문명을 일굴 수 있었던 것은 무엇 때문일까? 그 주춧돌의 하나가 바로 숫자였다. 숫자를 토대로 형성된 수 세기 능력이 인류를 문명사회로 이끈 드라마틱한 과정을 이 책에서 만나게 될 것이다.
이어지는 내용은 아라비아 숫자의 정치학이다. 우리가 일상적으로 아라비아 숫자를 사용하게 되기까지 동서양의 얽히고설킨 역사를 문명사적으로 반추해본다. 누구나 재미 있게 술술 읽을 수 있는 내용이다.
하지만 자연수에 대한 내용은 힘겨운 도전을 각오해야 할 것 같다. 특히 수학적 기호로 이루어진 페아노 공리는 매우 건조하고 딱딱하다. 쉽게 풀이하려 노력하였지만 넘기 어려운 장벽으로 느끼는 사람이 꽤 될 것이다. 설령 내용을 완벽히 이해하지 못하였다 하더라도 실망할 것은 없다. 수학이라는 학문의 실체를 실감하는 것만으로도 가치가 있기 때문이다.
고등학생이라면 ‘수학적 귀납법’에 중점을 둘 것을 권하고 싶다. 교과서나 참고서에서는 찾아보기 어려운 설명이 사고의 폭을 확장시켜줄 것이다. 그리하여 귀납이라는 이름에도 불구하고 연역적 추론의 한 형태라는 점을 파악할 수 있다면, 고등학교 수학의 진면목을 이해하는 데 큰 도움이 될 것이다.
마지막 에필로그는 형식에 걸맞지 않게 길이가 무척 길다. 수학사상 가장 위대한 발견의 하나인 칸토르의 무한 개념이 원시인들이 사용한 짝짓기에서 비롯되었다는 것은 얼마나 흥미로운가. 수학의 독창성이 무엇인지 감상할 수 있는 기회가 되었으면 좋겠다.
아무쪼록 이 책을 통해 그동안 무심코 사용하던 수와 숫자의 위력에 새롭게 눈뜨는 계기가 되길 기대한다.