[노벨동산] 실패를 ‘즐기는’ 포스테키안을 바라며
[노벨동산] 실패를 ‘즐기는’ 포스테키안을 바라며
  • 최승진 / 컴공 교수
  • 승인 2004.01.02 00:00
  • 댓글 0
이 기사를 공유합니다

얼마 전 캐나다 밴쿠버로 출장을 갈 일이 있었다. 장시간 비행기 안에서 시간을 보내기에 좋은 방법은 평상시 읽지 못했던 책들을 읽는 것인데, 사실 이때 아니면 책읽을 시간 찾기가 쉽지 않다. 비행기를 타기 전 항상 들리는 인천공항 서점 구석진 서가에서 손에 쥔 한권의 책이 내 시선을 끌었는데, 그 책은 아포스톨로스 독시아디스의 소설 <골드바흐의 추측(Goldbach’s Conjecture)> 이었다.

정수론의 발전에 공헌한 러시아 수학자인 골드바흐는 1724년 스위스 수학자인 오일러에게 다음과 같은 편지를 보냈다. 골드바흐는 짝수들을 나열해 놓고 이런저런 계산을 하던 중 모든 짝수는 두 개의 소수의 합으로 표현될 수 있음을 알게 되었다. 예를 들어 4=2+2, 8=3+5, 50=19+31 등과 같이. 오일러에게 보낸 편지에서 이것이 일반적인 성질인지를 물어 보았다. 오일러는 골드바흐가 말한 명제를 두 개로 나누어 정리하였는데 다음과 같다: (1) 2보다 큰 모든 짝수는 두 소수의 합으로 나타낼 수 있다; (2) 5보다 큰 모든 홀수는 세 소수의 합으로 나타낼 수 있다. 두 번째 명제는 1937년 러시아의 정수론자 이반 비노그라도프가 증명을 하는데 성공했고 오늘날 우리가 골드바흐의 추측이라고 말하는 것은 첫 번째 명제이다. 이 골드바흐의 추측은 “페르마의 마지막 정리”, “리만의 가설”, “포앙카레의 추측”등과 함께 현대 수학에서 가장 어려운 문제로 꼽히는데, 이 중 “페르마의 마지막 정리”는 1995년 앤드류 와일즈 교수에 의하여 360년 동안 지속된 비밀이 벗겨지었지만 나머지 문제들은 여전히 수학자의 새로운 도전을 기다리고 있다.

첫 번째 명제의 증명에 있어서 가장 최근에 괄목할만한 성과를 남긴 사람은 중국의 수학자 첸 징런으로, 그는 2보다 큰 모든 짝수는 하나의 소수와 두 개의 인수를 갖는 합성수의 합으로 나타낼 수 있다고 증명했다. 1998년 슈퍼컴퓨터로 400조까지는 이 추측이 참이라는 것이 증명이 되었고, 아직까지 그 어느 누구도 골드바흐의 추측과 맞지 않는 짝수를 찾아내지 못했지만 400조 너머의 그 어느 한 숫자라도 이 추측에 위배되는 지는 증명이 되기 전까지 아무도 장담할 수 없는 문제이다.

골드바흐의 추측이란 소설로 다시 돌아가서, 소설의 주된 내용은 허구의 주인공인 가족들이 실패한 사람으로 취급하던 비운의 천재 수학자 페트로스의 삶을 그의 조카가 우연한 기회에 촉망받는 수학자였다는 것을 알게 되고 실패한 그의 삶을 추적하며 이야기가 전개된다. 하디, 라마누잔, 괴델, 튜링등 실존했던 현대 수학의 거장들이 등장하여 허구의 주인공 페트로스의 천재성을 뒷받침 해주는 허구와 실존을 구분하기 힘든 재미를 느끼게 해준다. 재미없고 어려운 주제일수도 있는 골드바흐의 추측이라는 소재로 재미를 이끌어내어 학문을 하는 사람들이 한번쯤은 읽어 볼만한 소설이라 생각된다.

수학이란 소재를 다루고 있어서 수학자의 삶을 엿볼 수 있는 소설이라고 생각되겠지만, 실제로 수학이 많은 학문의 기본이기 때문이기에, 폭 넓게 학문하는 사람이 어떤 자세를 가져야하는지 다시 한번 생각해 보게 한다. 내가 이 자리에서 하고 싶은 이야기는 사실, 골드바흐의 추측이 무엇인가, 아니면 이 소설의 내용이 무엇인가가 아니라 우리가 앞으로 평생 동안 학문을 하는 사람으로 과연 어떤 자세를 가져야 하는지에 관한 것이다.

젊은 시절, 사랑했던 여자로부터 실연의 아픔을 겪은 페트로스는 무언가 대단한 일을 성취하여 자기를 버리고 떠난 여자의 관심을 끌고 싶어서 선택한 것이 아무도 이제는 시도하려하지 않는 난공불락의 요새, 골드바흐의 추측이었다. 페트로스는 20대에 이 문제에 도전하기 시작해서 몇 년간 혼자서 열심히 연구를 했고 거의 완성이 되가는 듯 하였다. 골드바흐의 추측이 참이라고 굳게 믿고 있었기에 참인 명제는 꼭 증명이 가능하다는 것이 그의 생각이었다. 그러나 참인 명제라고 꼭 증명이 가능한 것은 아니라는 불완정성 정리가 괴델에 의하여 증명이 되고, 젊은 천재 수학자 앨런 튜링이 어떤 명제가 증명 가능한지 여부는 증명해 보기 전에는 선험적으로 알 수 없다는 사실을 증명하여 페트로스를 자포자기 상태로 몰고 간다. 포기한 듯 보인 페트로스는 그러나 마음 속 깊이 항상 골드바흐의 추측을 생각했고 죽기 바로 전 증명을 한 듯한 흔적을 남기고 행복한 표정으로 눈을 감았다.

과연 페트로스의 삶은 실패한 삶이었을까? 아마 많은 사람들은 당연히 실패한 삶으로 간주하고 심지어 많은 학자들도 그를 실패한 삶으로 생각하리라 본다. 하지만 나는 그렇게 생각하지 않는다. 그는 결코 실패한 삶을 산 사람이 아니고 오히려 그와 같은 포스테키안이 많이 나오길 바란다는 역설적인 얘기를 하고 싶다.

예전과 달리 현대의 학자들은 모험을 즐기려고 하지 않는다. 즉 그 분야의 주 흐름 (main stream)에서 벗어나지 않는, 실패할 확률이 적은 분야, 극단적으로 연구비가 많이 나오는 분야, 신문지상에서 떠드는 인기 있는 분야에서 승패를 걸려고 하는 것이 현실이다. 이는 우리나라가 그 정도만 약간 더 심할 뿐 세계적으로 비슷한 상황이다. 이것은 모든 정보를 우리가 너무 손쉽게 그리고 빠른 시간 안에 손에 넣을 수 있게 된, 살기편한 세상이 된 후유증이기에 우리는 다시 제2의 뉴튼을 보지 못하게 될지도 모른다. 남들이 뭐라 하던 자기만의 세상을 구축하고 집중할 수 있는 그런 학자들이 포스테키안에서 많이 나오게 되는 날 우리는 과학 강국으로 세계에서 인정받을 수 있을 것이다.

실패한 듯 보이는 페트로스처럼, 학창시절 증명 불가능한 듯한 문제를 잡고 몇 년을 고생할 수 있는, 아니 더 나아가서 그것이 참인지 거짓인지 모르는 문제를 증명하려고 고생할 수 있는 용기가 있는 학생들이 많이 있었으면 한다. 자기가 하고 있는 일이 현재에 인기가 있느냐 없느냐는 나의 경험으로 볼 때 전혀 중요하지 않았다. 정말 순수한 마음으로-이 순수하다는 의미를 시간이 지나면 알 것이라 믿고-학문을 대할 수 있는 학창시절을, 우리 포스테키안들이 보냈으면 한다. 우리의 선배 학자들이 어려운 환경에서 기초를 닦기 시작했고, 우리가 그 것을 발판삼아 경쟁력을 키워가고, 우리가 가르치고 있는 포스테키안들이 진정한 실력자로 세계를 군림할 그 날을 기다리며, 나 또한 그러한 후배 학자들에게 부끄럽지 않은 학자가 되기위해 노력할 것이다.