원문: 힐버트 1900년 파리 강의록(초강추)


1900년 20세기 시작에 맞추어 파리에서 열린 수학자들 Congress에 소개된 힐버트의 강의록입니다. 여기서 그는 23개의 안 풀린 난제를 소개합니다. 물론 독일어 아니면 불어였겟지만 올린 파일은 영어로 친절하게 번역된 것입니다.

힐버트는 23개의 난제를 말하기 앞서 어려운 문제의 미덕을 설명합니다.

1. 어려운 수학의 문제를 푸는 것은 수학 자체 뿐만 아니라 타 분야의 발전을 가져온다.
2. 위 사실은 역사적 사실이다.

그런데 왜 사람들은 처음 보기에 아무런 실제적 이득이 없어보이는 수학의 난제에 관심을 가질까? 현재 강한 의미의 사회구성주의자, 곧 과학은 사회적 요인에 의한 구성물로 보는 사람들은 상금과 직업 선택 등을 들먹이겠죠. 이러한 사회구성주의 입장은 1900년 대에는 매우 이질적이었습니다.

힐버트의 대답은 사고와 경험의 동조입니다.

1. 수학은 경험으로부터 시작했다.
2. 그 다음 수학은 경험과 무관한 순수 이성에 근거해 수학 자체의 영역이 굳어졌다.
3. 수학 자체는 그러나 타 분야의 풀리지 않는 문제에 응용된다.
4. 타 분야의 난제가 수학의 발전을 가져온다.

이러한 사고와 경험의 상호작용 속에서 난제를 풀려는 동기는 이성의 본능 혹은 수학자의 본능처럼 여깁니다. 문제는 이런 풀려는 의지를 지향하는 이성 개념을 우리가 인정할 수 있는가라는 점입니다. 또 하나 힐버트 당시 난제를 풀려는 맹목적인 의지 개념을 이성과 연관해 정당화될 수 있는지도 의문입니다. 하지만 이런 문제는 철학자들과 수학자들의 세계관의 차이에서 기인할 수도 있습니다.

저는 힐버트의 순수 이성이라는 것 혹은 경험과 무관한 순수 사고라는 것을 인정하지 않습니다. 어쨌거나 난제 풀기 과정이 수학과 물리학의 발전 추진제였다는 데는 동의합니다. 비트겐슈타인은 이점을 거부했지만, 수학자들이나 물리학자들은 거부할 수 없는 사실입니다. 페르마 정리를 풀다가 수론이 발전한 것은 사실이고, 포앙카레가 삼체 문제를 풀다가 다른 여러 상관 분야가 발전한 것은 분명히 사실입니다.

삼체문제나 페르마 정리의 특징은 무엇이 가능한가를 증명하는 것이 아니라 불가능한 것인가를 증명합니다, 이런 불가능한 것을 증명하는 것이 훨씬 더 매력적인 이유는 뭘까요? 정확한 대답은 없습니다. 또 하나 불가능하다는 것의 증명이 불가능한 경우가 있는데 이런 경우 더욱 풍부한 발전을 가져온다고 합니다. 연구해 볼 가치가 있습니다.

그리고 힐버트는 증명을 찬양함으로써 자신의 형식주의 입장을 옹호합니다. 가급적 적은 수의 가설 혹은 공리로부터 정리를 유도하라. 공리의 수가 적을 수록, 곧 공리체계가 단순할 수록 그 체계는 위대하다 혹은 아름답다. 이런 수학적 미와 단순성을 연결시킵니다. 단순성과 함께 무모순성 그리고 완정성을 수학적 미의 가치 판단 기준으로 봅니다. 이것도 힐버트는 우연이 아니라 그가 말하는 순수 이성 혹은 수학적 능력에 담긴 본성처럼 취급합니다. 이점은 수리철학에서 거의 다뤄진 적이 없습니다.

더욱더 흥미로운 점은 난제의 해결은 새로운 개념을 가져오고 결국 새로운 기호체계를 생산한다는 겁니다. 그런데 여기서 개념과 기호의 관계가 맞물립니다. 힐버트는 기호체계 이전에 그런 체계를 가능하게 해주는 사전 개념 틀을 인정합니다. 그런데 그런 개념 틀이 어디서 오느냐는 겁니다. 결국 발견입니다.

자 이쯤에 이르면 우리가 철학자들이 형식주의로 소개한 힐버트와는 다른 모습을 보게됩니다. 무슨 말이냐? 힐버트에게 공리들은 스스로 자명한 것이 아니라 증명에 필요한 개념들 및 관계들을 정의하는 체계입니다. 공리의 수가 적으면서 대등한 양의 정리를 생산해낸다면 그 공리체계가 더 뛰어나다고 말합니다. 공리로 선택되는 것은 절대적이 아니라 언급한 두 조건을 만족하는 형식체계입니다. 이런 식의 소개에서 보통 힐버트의 다른 측면, 곧 수학적 발견의 강조는 떼어놓고 말합니다.

이 강의록을 보면 힐버트가 발견을 또한 매우 중요시 여겼음을 알 수 있습니다. 기하학적 상상력이나 심지어 무의식을 언급하기도 합니다. 그러니까 힐버트 자신이 수학적 발견에 대해 자세한 언급은 하지 않았지만, 그가 생각하는 수학은 형식적 엄밀성의 추구, 곧 수학적 위대함 혹은 미적 추구와 함께 발견에 이르는 심리구조가 동조하는 것입니다. 결코 후자에 무관심했던 인물이 아닙니다.

마지막으로 중요한 사실은 힐버트의 수학의 분과 다양성에 대한 찬양입니다. 그 당시 일부 계보는 산수만이 진정한 수학 혹은 다른 수학의 분야들은 전부 대수적으로 환원될 수 있다고 생각했습니다. 프레게는 기하학의 대수적 환원을 거부했지만, 그의 영향을 받은 러셀 등의 논리주의는 인정합니다. 그러니까 암암리에 힐버트는 논리주의를 비판합니다. 그리고 수학이 유한한 절차에 의해서만 구성되는 것이라는 직관주의(intuitionism)를 부정합니다. 여기서 직관은 발견의 직관 이런 것이 아니라 무한 존재를 부정하는 사람들이 수학을 유한한 것에 의한 구성에국한시키기 위해 사용한 용어로 보시면 되고, 당연히 자연수가 수학의 기본 뿌리가 됩니다. 힐버트는 이런 논리주의와 직관주의 대신 그의 형식주의가 수학의 분과 다양성과 어울릴 수 있다고 본 겁니다. 그래서 산수가 수학의 기본이라는 관점을 한마디로 수학을 모르는 애들 장난으로 취급합니다.

자 이쯤 되면 그의 형식주의를 이렇게 규정해야 합니다.

1. 수학의 위대함 혹은 미적 가치는 공리체계의 단순성과 관련된다. 그런 체계는 무모순성과 완정성을 만족해야 한다.
2. 개념의 정의와 관계가 공리체계에 반영되고, 공리의 선택은 절대적이 아니다.
3. 공리체계가 수학적 미의 기준이지만, 난제의 발견 과정에서 공리체계의 형성은 선천적 수학적 직관과 동조한다. 즉 그의 형식주의는 발견과 동조하는 것이지 발견을 무시하는 것이 아니다.
4. 수학의 분과 다양성은 당연한 것이며, 스스로 자명한 주어진 공리들은 없다.

수리철학 교과서에 나오는 힐버트 형식주의를 100% 믿지 마시길! 아무튼 이쯤 되면 그의 형식주의가 괴델에 의해 위협받았지만, 힐버트와 괴델은 의외로 공유하는 점이 많습니다. 발견의 직관을 무시하지 않았다는 점, 수학의 다양성을 존중한다는 점입니다. 그래서 1과 관련해 완전한 정수론의 닫힌 공리체계가 없다는 것이 아니라 증명할 수 없다는 괴델의 결론을 가지고 무조건 힐버트를 대비시켜 말하는 것은 잘못입니다. 오히려 직관주의나 논리주의가 괴델과 어울릴 수 없습니다.

다만 괴델에게 있어서 수학적 직관의 원초적 작용은 추상적 구조의 지각인데 반해, 힐버트에게 있어서 그것은 사고가 사고의 대상이 되는 것 혹은 사고가 수학적 능력 혹은 그가 말하는 순수 이성의 대상이 되는 것에서 시작합니다. 이런 해석이 옳다면, 힐버트에게 수학적 발견은 곧 발견이자 동시에 구성이며 발명인 것 같습니다.

저의 집중적 관심사 영역에서 벗어난 주제지만 누군가 힐버트의 진정한 수학철학의 의미를 추후에 꼭 밝혀주었으면 합니다. 그 때 이 자료가 분명히 쓸모가 있을 겁니다.