수학의 확실성

https://product.kyobobook.co.kr/detail/S000001290623

수학의 확실성 | 모리스 클라인 - 교보문고

    수학은 어디에서 와서 어디로 가고 있는가? 또 수학은 어디로 가야 하는가? 이에 대한 설명과 나름의 주장을 훌륭하게 해내고 있는 책 중 하나가 바로 모리스 클라인의 <수학의 확실성>이다. 저자는 12장까지 첫 번째 질문에 대해 답하고 있으며, 13장부터는 두 번째 질문에 대해 첫 질문의 답변을 가지고 자신의 생각을 피력한다. 따라서 이 책은 수학의 역사만을 다루는 책이 아니며, 현재 수학이 지향해야 할 방향을 제시하는 저자의 주장을 담은 책이라고 이해할 수 있다.

    이러한 저자의 이야기는 기존에 가지고 있던 나의 수학에 대한 생각에 큰 충격을 주었다. 기본적으로 과학이란 현상에 대한 관찰을 어떻게 형식화시키는지를 연구하는 학문이며, 수학이란 특정 공리들을 바탕으로 확실한 명제들을 연역해 가는 학문이라는 것이 기존의 나의 생각이었다. 때문에 본질적으로 과학과 수학은 그 방법론 자체가 다르며 구분되어야 하는 학문 분야라고 인식했다.

    그러나 자연 현상을 기술하는 수학 체계는 여러가지가 존재하며, 수학의 기초에 관해 온전히 합의된 내용은 없으며 - 따라서 수학이라는 학문 자체의 본질이 상이하게 거론되고, 명제의 유의미성이 택해진 기초 구조에 따라 달라진다 - 다른 학문과 구별되는 가장 두드러진 특징이라고 생각했던, 특유의 증명이라는 행위마저 앞선 내용과 동일하게 그 고귀함을 잃어버린다.

    비록 괴델의 불완비성 정리로 인해 수학도 완전무결한 학문이 아님을 인지하고 있었지만, ZFC 공리계의 집합론을 배우면서 무의식 중에 사고의 기저에 전제하고 있었던 것은 ZFC라는 공리 체계가 현대 수학을 기술하는 그나마 가장 이상적인 수학 체계라는 것이었다. 또한 다른 기초 체계들의 주장은 지극히 철학적이거나 소수의 의견에 가까운, 변두리에 있는 것들쯤으로 간주하고 있었다. 물론 많은 이들이 ZFC를 채택하고 있고, 이 체계가 가장 널리 알려져 있으며 다른 것들은 그렇지 않다는 점들로 미루어 볼 때 실제로 ZFC가 가장 완벽한 체계로 인정받을 수도 있다.

    그러나 이 책은 본질적으로 수학은 그러한 상태에 놓일 수 없다는 것을 말해주며, ZF 내에서도 수많은 선택지가 존재한다는 것을 알려준다. 이 책은 기존에 지극히 밋밋했던 내 수학에 대한 생각을 조금이나마 입체적으로 만들어 주었으며, 나의 지난 태도를 반성하게 해주었다. 

    나는 왜 수학을 사랑하는 것일까? 관성에 이끌려, 익숙함에 젖어왔던 대학교 1학년 때 이 질문에 답하기 시작해왔다. 내 나름의 답은 이러하다.

수학의 본질은 그 자유로움에 있다.
-게오르그 칸토어(Georg Cantor)-

    즉 앞선 공리와 개념, 정리들에 모순이 되지 않는 한 마음껏 수학적 대상물을 상상해 볼 수 있으며, 그것들을 가지고 한없이 뻗어나갈 수 있다. 이때 얻게 되는 수많은 놀라운 결과들을 마주할 때 나는 기쁨을 느꼈고, 이 명제들을 기상천외한 방법들로 증명해 나갈 때 즐거움을 얻었다.

    그런데 이 책을 읽고 나서 문뜩 떠올린 하나의 사실은, 이러한 일련의 과정들의 동기는 특정 현상으로부터, 그것이 물리적 현상이든 수학적 귀결이든, 기인했다는 것이다.

    예컨대, 왜 대각화(Diagonalization)라는 개념이 도입되었는가? 내적 공간(Inner Product Space)은 어떤 배경에 의해 수립된 것인가? 이런 물음들은 최근 선형대수학을 공부하면서 더욱 제기되었다. 그리고 더욱 분명해진 것은, 나는 이러한 수학적 개념들과 그에 따른 명제들을 탐구할 때도 즐거움을 느끼지만, 그 자체만으로는 공허함을 느낀다는 것이다. 이러한 훌륭한 결과들을 물리적 현상을 엄밀하게 기술하는 데 사용하고 싶다는 욕망이 항상 내 안에 강하게 있었다. 예컨대 양자역학을 제대로 공부학 위해서는 선형대수학과 푸리에 급수, 힐베르트 공간과 같은 내용들에 대한 학습이 필요하다는 주장은 이러한 토픽들에 대한 나의 학습 동기가 되기에 충분했다. 또한 미적분은 물리학에서 필수불가결한 방법론 중 하나이고, 이것들을 엄밀하게 수립하고 싶다는 욕망은 자연스러운 것이었다. 이러한 것들을 분명히 인식하고 나서야 수학과 물리학을 향한 나의 마음이 명확해지기 시작했다. 

    저자는 13장부터 15장까지의 여정에서 수학은 과학과 유리되어서는 안되며, 사실상 수학은 자연과학과 다름없는 존재이고 자연 현상의 정확한 기술을 수행하는 인간 이성의 놀라운 성과임을 역설한다. 저자의 모든 주장에 동의하지는 않지만 (수학의 목적과 방향을 너무 엄격히 제시하고 다른 방향의 연구를 평가절하한다는 느낌을 받았기에), 수학 체계는 물리 현상의 탁월한 기술과 그 효용성으로 가치를 평가받아야 한다는 주장에는 동의할 수밖에 없다는 것이 나의 생각이다. 이것이 본질적으로 내가 수학을 공부하는 이유이며, 수학에 빠진 이유이기 때문이다.

    저자는 비참해 보이고 갈 곳을 잃어버린 것처럼 보이는 수학의 상황 속에서, 수학의 가치를 다시 한 번 조명한다. 저자는 인간이 만들어 낸 높디높은 지식의 탑을 열렬히 사랑하고 찬사를 보낸다. 수학으로 이루어 낸 수많은 업적들을 공표하고, 그렇기에 자연을 탐구하는 방향으로 수학 연구를 독려한다. 이러한 흐름에 동참하고 싶은 것이 나의 비전이다. 그 구체적 실현이 어떻게 될지는 모르지만, 적어도 탐구자가 되고자 한다. 수학 연구는 인간 정신의 신령스러운 광기라고 하지 않았던가. 그 광기에 진정으로 내몰리기 원한다.