수학의 밀레니엄 문제들

수학의 밀레니엄 문제들  by  케이스 데블린

 

 

2000년 클레이 재단은 역사적인 현상공모를 발표했다. 현재 세계에서 가장 어려운 수학문제 7개를 내놓고 문제 하나당 100만 달러를 내 건 것이다. 일반인에게 수학은 골치아프고 이해하기 힘든 과목으로 인식되어 있다. 우리들은 수학을 대학에 가기 위한 수단으로 배웠고 대학에서 수학을 전공하는 사람들이 아니라면 취미로 수학을 연구하는 사람들은 거의 없다. 여기 제시된 문제들은 단순히 기호를 사용해서 문제를 푸는 것들이 아니다. 일반인들은 상상도 하지 못할 고도의 추상성을 바탕으로 기존의 수학지식들을 모조리 동원해도 겨우 풀까 말까 할 정도의 문제들이다. 이 중에서 어떤 것들은 아예 문제의 답이 존재하는지 조차 알려지지 않았고, 왠만한 수학전문가들 조차 이해하지 못할 정도의 추상성의 숲에 둘러써야져 있다. 그렇다면 왜 이 책은 일반대중에게 발표된 것일까? 이 책에서 다루고 있는 건 수학 참고서와 같이 문제에 대한 힌트를 주려는 것이 아니다. 그런건 지금 시점의 수학으로는 가능하지도 않다. 저자는 극도의 비일상성의 세계를 다루는 수학이 사실은 현대 모든 문명의 기초가 되고 있다고 애기한다. 그리고 문제가 나오게 된 배경을 시간을 거슬러 올라가서 설명함으로써 수학의 거대한 추상성의 본질을 이해시키려는 노력을 하고 있다. 지금 현재 수학을 전공하고 있는 학생이라면 반드시 읽어봐야 할 것이다. 이것은 현재 인류의 문명이 어디로 가야 하는지에 대한 수많은 사람들의 물음에 대한 해답이 될 것이다.

 

 

1.“리만 가설” -  <인터넷 보안>

 

현재 인류의 생활에 가장 밀접하고 중요한 것은 무엇일까? 인터넷이 출현하게 되면서 세상은 가까워졌고, 그 전에는 불가능했던 여러가지 일들이 가능해지게 된다. 우리는 인터넷으로 정보를 얻고, 채팅을 하고, 국가적 차원에서의 비밀스러운 일들을 하게 된다. 하지만 그 중에서도 가장 중요한 것이라면 인터넷 보안을 들 수 있을 것이다. 은행에서 돈을 인출하고 타인의 계좌에 송금하고, 남들에게 알려지지 않아야 할 비밀 메일을 전송할 수 있는 것이다. 현재의 암호체계는 RAS라는 회사에서 판매하는 두개의 암호 키로 이루어진다. 각각은 100자리의 소수로 만들어지는데 현재 지구상에 존재하는 최고의 슈퍼컴퓨터 로도 몇 개월이 걸릴 정도로 엄청난 보안을 자랑하고 있다. 우리는 RSA의 암호체계를 믿고 은행이나 카드 거래를 마음 놓고 할 수 있는 것이다. 그리고 지금까지는 아무 문제가 없었다. 하지만 밀레니엄 문제 중 “리만 가설” 이 풀리게 되면 심각한 재앙이 닥칠 수도 있다. 그것은 개인에 국한된 것이 아니라 전세계 경제에 치명적인 타격을 주면서 붕괴할 수도 있다. 어떤 사람들은 그깟 수학문제 하나 풀렸다고 세상이 망하다니 하면서 과장이라고 할 수 있을 것이다. 하지만 현재 “리만 가설” 에 대해서 인터넷 보안 전문가들이 느끼는 불안감은 상상을 초월한다. 수학자들은 사실상 ‘리만 가설” 이 사실이라는 것을 전제로 증명을 풀려고 노력하고 있다. 이것이 왜 문제인가? 인터넷 보안 프로그램은 100자리 소수들의 곱으로 이루어져 있다. 100자리가 넘는 소수를 찾아내는 건 현재의 컴퓨터로도 그다지 어렵지 않다. 게다가 두개의 100자리 소수를 곱하기 때문에 실제로는 200자리가 넘는 소수가 만들어 지는 것이다. 그러한 암호를 푸는 것은 200자리가 넘는 소수를 2개의 100자리가 넘는 소수로 인수분해 하는 과정이다. 곱하는 것은 쉽지만, 이걸 반대로 인수분해 하는 것은 상상을 초월할 정도로 어렵다. 그렇기 때문에 인터넷 보안은 아무 문제가 없었지만, ‘리만 가설” 이 풀려서 우리가 소수의 패턴에 대한 새로운 지식을 알게 되면 현재의 인터넷 보안 체계가 붕괴되는 위험에 처하게 되는 것이다. 그래서 만일, 가까운 시일 안에 현재의 RAS 암호체계를 대신할 보다 강력한 암호체계를 개발해 내지 못하면 인터넷 상의 모든 상거래는 그 즉시 중단하게 되는 사태를 맞이 하게 되는 것이다. 이런 일련의 과정을 공상과학이라고 웃어버리기에는 사태가 너무나 심각하다. 이렇듯 수학은 현실과 동떨어진 상아탑의 학자들만의 영역이 아니라 우리의 일상에 너무나 밀접하게 연관되어 있다.

 

 

2. 양-밀스 이론과 질량 간극 가설  –
  

<우주를 이루는 물질의 본성>

 

우리는 과연 무엇으로 만들어졌을까? 20세기 물리학의 최대 관심사는 우리 자신을 포함한 우주를 이루는 물질의 본성을 탐구하는 과정이다. 그러한 여정으로 아인슈타인의 “일반 상대성이론” 과 수많은 물리학자들의 노력으로 만들어진 “양자역학” 을 통해서 우주의 본성을 이해하기 시작했다. 하지만 두가지 이론은 특수한 영역에서 부딧쳤고, 두가지 이론을 합치기 위한 노력들이 시작된다. 그것을 “양자중력” 이라고 한다. 우주를 이루는 가장 기본적인 네가지 힘은 “중력” “전자기력” “강력” “약력” 이다. 이 중에서 “중력” 을 제외하고는 나머지 세가지 힘은 양자역학과 서로 모순되지 않는다. 하지만 “중력” 만큼은 아무리 노력해도 양자역학과 합치시킬 수가 없었다. 그 이유는 플랑크 스케일에서의 양자요동 때문인데, 안정화 되지 않는 표면에서 일반상대성 이론의 방정식을 사용할 수가 없기 때문이다. 양자역학의 세계는 우리들의 상식으로는 도저히 이해 할 수 없는 세계이다. 지금 물리학자들의 문제는 양자역학을 다루는 방정식이 옳아서 그 움직임을 예측할 수 있지만, 그게 왜 올바르게 동작하는지를 이해하지 못하고 있다. 이것은 정말 믿기 힘든 사태이다. 추론의 완벽함이 보장되지 않았는데도 올바로 움직이고 있다니, 이러한 모순을 해결하기 위한 과정이 바로 ‘양-밀스 이론” 이다. 사실상 이 이론이 사실로 밝혀진다고 해도 그다지 놀라운 일은 아닐것이다. 그러나 “질량 간극 가설” 은 다르다. 이것은 현재 물리학자들이 이해하지 못한 자연의 본성을 알게 해 줄 것이기 때문이다. 흔히 수학은 물리학자들의 언어라고 한다. 물리학자는 자신들의 연구결과를 수학에서 사용되는 수식으로 표현한다. 그 유명한 아인슈타인의 “일반 상대성이론” 도 사실은 19세기의 수학자 리만의 곡면기하학에서 나왔다는 것은 물리학에서 수학이 차지하는 위치가 얼마나 큰 지에 대한 근거가 될 것이다.

 

 

3. P 대 NP 문제  –  

<필요한 건 오직 상상력>

 

우리의 삶에서 컴퓨터는 이제 없어서는 안될 존재가 되 버렸다. 일상사의 많은 것들을 컴퓨터에 의존하다. 그런데 우리는 컴퓨터를 일상적인 목적 이상으로 사용하는 경우는 거의 없다. 컴퓨터의 진정한 용도는 어떤 것이었을까. 초기에는 군사적 목적으로 사용되었고, 우주 왕복선 같은 과학적인 목적으로 사용하기도 했다. 현재도 SETI 라는 외계생명체 탐사계획에 사용되기도 한다. 또한 수학적인 목적으로도 사용할 수 있을 것이다. 예를 들어 인간의 힘으로는 도저히 불가능한 천문학적인 수를 계산할 때 쓰일 것이다. 컴퓨터의 칩 성능이 올라갈수록 계산은 점점 빨라지고 수의 크기는 상상을 초월하게 된다. 하지만 컴퓨터로도 풀 수 없는 경우가 존재하는데, 그것은 문제를 풀 수 없기 때문에 문제를 푸는 데 우주의 시간보다 더 많은 시간이 걸리기 때문이다. 그러한 문제를 해결하기 위해 수학자들은 좀 더 효율적인 방법으로 푸는 것에 대한 연구를 하고 있는 것이다. 사실 상 P 대 NP 문제는 전 분야에서 사용될 수 있다. 공장의 제품 조립라인을 어떤식으로 하면 가장 많이 제품을 생산할지에 대한 것과, 인터넷 암호체계를 대한 문제, 수많은 도시를 여행할 때 가장 빠른 경로를 만들 때도 이러한 지식은 유용하다. 이 문제는 밀레니엄 문제 중 아마추어가 풀 수 있는 유일한 문제일 것이다. 그러한 사실은 결코 이 문제가 쉽다는 걸 의미하는 건 아니다. 다만 수학적 지식보다는 상상력에 의존하게 될 거라는 뜻이다. 컴퓨터가 아무리 빠르다고 해도 인간의 영역을 침범할 수는 없다. 어떤 사람들은 컴퓨터가 결국은 인간의 두뇌를 능가하게 될 거라고 자신있게 말하지만, 결코 그런 일은 없다. 왜냐하면, 컴퓨터가 풀 수 없는 문제들은 인간의 두뇌는 풀 수 있으니까. 수학적 추상의 세계는 컴퓨터가 대신 할 수 없는 인간만의 영역이다.

 

 

4. 내비어 – 스톡스 방정식  –
 

<현대 문명의 기반을 이루는 수학>

 

미적분학의 등장은 수학을 새로운 영역으로 이끌었다. 그 전에는 수학은 종이에 그려진 수식들을 계산하는 정적인 분야였는데, 미적분학은 물체의 운동을 다루게 했다. 그것을 통해 뉴턴은 행성간의 움직임을 정확히 계산할 수 있었으며, 비행기나 배를 만드는 공학에도 많은 기여를 하게 된다. 그러니까 미적분학은 현대 문명의 기반을 이루게 한 커다란 발견이라고 할 수 있다. 우리가 극장에서 영화를 보는 것도 미적분학 이라는 수학적 기반이 있기에 가능한 것이다. 그 전까지는 미적분학은 3차원의 공간에 머물러 있었는데, 각각의 축의 기울기를 계산해서 다음 위치를 예측해 내는 것이다. 그런데 내비어-스톡스 는 여기에다 시간이라는 축을 더해서 4차원 상에서의 움직임을 예측할 방정식을 만들려고 시도한 것이다. 시간의 흐름에 따라 유체는 어떻게 변화할까? 누구도 여기에 대해서 해답을 제시하지 못하고 있다. 사실상 추상적인 영역을 다루는 수학에서 이 문제는 이례적으로 실용적이다. 만일 이 문제가 풀린다면 현재의 항공기, 배, 자동차 같은 운송수단 뿐 아니라, 뇌수술에 쓰이는 기계, 영화산업 같은 첨단 장치에 이르기까지 엄청난 발전을 이룰 수 있을 것이다. 지금으로써는 상상도 할 수 없는 효율적인 운송수단이 개발될 것이다. 그것은 상상만 해도 놀라운 일이다.

 

 

5. 푸앵카레 추측  -
 

<세상의 본성을 이해하기 위한 수학적 마술>

 

위상학은 현재 우리 삶에서 없어서는 안 될 중요한 요소이다. 우리는 매일매일 위상학에 의해 살아간다. 아침에 일어나서 아침을 먹고, 서둘러서 지하철을 탄다. 지하철 노선도를 보고 목적지에 내린다. 사실 지하철 노선도는 정확하지 않다. 다음 역이 어디라는 것과, 다른 노선으로 갈아타는 분기점만 제외하는 모든 것들은 사실과 일치하지 않는다. 노선도 처럼 직선으로 달리지도 않으며, 역 사이의 거리도 일정하지 않다. 위상학의 본질을 지하철 노선도는 가장 잘 설명해 준다. 그러니까 우리가 그것에서 얻어야 할 지식은 다음역과 분기점 밖에 없다는 것, 그러니까 불필요한 정보는 없애고 꼭 필요한 것들만 나타내는 것이다. 그래서 사물을 이루는 것 중 가장 핵심적인 것들만 표시해주는 것이다. 위상학에서는 도너츠와 컵이 동일하다고 애기한다. 그것이 실제로 가능한지에 대해서는 관심이 없다. 그것은 하루만에 가능할 수도 있지만, 어쩌면 평생이 걸려도 불가능할수도 있다. 현재 물리학의 최첨단인 초끈이론이 바로 위상학의 기반위에 있다. 눈에 보이지 않는 말려들어간 6차원의 모양을 통해 우주의 진정한 모습을 밝히고자 하는 것이다. 우주는 현재 알려진 것처럼 3차원 입방체일까, 현재로써는 알 수 없다. 왜냐하면, 우리는 과거에 지구가 2차원 평면이라고 생각했다. 그러다가 우주로 나가서 지구의 모양을 보게 되면서 3차원 입방체라는 것을 알게 됐다. 그렇다면 우주의 진정한 모습을 알려면 어떻게 해야 할까? 우주는 무한히 이어지므로 물리적인 방법으로는 도저히 불가능하다. 하지만 위상학이라는 수학적 마술을 통하면 추론이 가능하다. 위상학을 통해서 밝혀질 우주의 진정한 모습이 궁금하다.

 

 

♠♠ 버치와 스위너톤-다이어 추측  ♠♠ 호지 추측

 

밀레니엄 문제들 7개 중에서 2가지는 도저히 설명할 수가 없다. 그 부분을 몇 번을 읽었고 이해하려고 노력했지만 내 능력의 한계다. 여기서의 문제는 해답을 찾는 것이 아니라, 아예 문제가 뭘 의미하는지를 모르겠다. 그러니까 이 두 가지는 실용적인 것에는 전혀 상관없는 순전히 수학자의 머리속에만 존재하는 추상적인 문제라는 것이다. 그렇다면 도대체 왜 이런게 필요한지, 그리고 그걸 왜 풀어야 되는지에 대한 의문이 들 것이다. 사실 나도 정말 그 이유를 알고 싶다. 하지만, 수학의 문제는 그 당시에는 전혀 실용적인 것이 아닌 것도 시간이 흐르면서 실생활에 유용하게 쓰이는 경우가 많다. “리만 가설” 만 해도 그렇다. 19세기에는 그것은 순전히 추상적인 수학자들만의 문제였다. 그런데 인터넷이 널리 보급되고 보안 문제가 중요하게 여겨지면서 추상성을 탈피하고 현대 문명에서 가장 중요한 문제가 되 버린 것이다. 그렇다면 25세기에는 “버치와 스위너톤-다이어 추측” “호지 추측” 이 그 당시 문명세계를 이끌어갈 중요한 기반이 될지도 모를 일이다. 한가지 분명한 것은, 19세기의 수학자들이 세상에 존재하지 않는 음수의 제곱근인 허수의 존재를 받아들인 것은 지금으로써는 놀라울 것도 없지만 그 당시로써는 상상할 수 조차 없었던 놀라운 도약이었고, 이것을 가능하게 한 것은 인간 정신의 놀라운 잠재력이었다. 그렇다면 21세기의 인간정신 으로는 이것을 도저히 이해할 수 없지만, 무한한 인간 정신의 잠재력 이라면 언젠가 이 문제 역시 풀릴거라는 기대가 불가능한 바램만은 아닐 것이다. 난 이 문제도 언젠가 반드시 풀릴 거라고 믿는다. 그때가 되면 지금으로써는 도저히 상상할 수 없었던 새로운 영역이 펼쳐질 것이다. 그런 생각만 하면 너무나 흥분돼서 도저히 잠을 이룰 수가 없다.


P.S. 이 글은 2004년 7월 25일에 작성한 글이다. 수학에 대한 책이라 어렵게 읽은 기억이 난다. 지금도 시간 나면 읽어보는 책이다.