한국인 천재 수학자들, 스승님들 그리고 나
한국인 천재 수학자들, 스승님들 그리고 나
  • 김강태 교수 / 수학과, 기하학연구센터장
  • 승인 2016.09.28 23:21
  • 댓글 0
이 기사를 공유합니다

내가 진정으로 수학에 뜻을 두기 시작했던 1976년부터 최근에 이르기까지 나름 긴 세월이 흘렀지만, 그 동안 들어 온 천재 수학자는 온통 외국인 이야기들뿐이었다. 최근에 와서야 나는, 소위 일류 수학 학술지 편집위원으로 장기간 봉사한 경험 덕분인지, 우리 한국인 중에도 결코 선진 외국의 천재들에 못지않은 수학 천재들이 여러 분 계신 것을 깨닫게 되었다. 게다가 이분들 대부분이 우리 포스텍 및 나와 인연이 있는 스승님들이시기에 나는 큰 자부심을 지니고 있는데, 지금까지 내 마음 속에만 두었던 얘기를 이제는 독자들과 나눠보려 한다. 

1. 첫 번째 소개하려는 천재 수학자는  이임학(李林學 1922-2005) 교수이다. 이 교수는 함경도 함흥 태생이다. 그러므로 태어나고 자란 곳에서 익숙해진 이름은 “리림학”이며 당신께서 평생 사용하신 영문 이름도 Rimhak Ree이다.
1945년 일제 강점기에서 벗어난 후 우리나라의 뜻있는 분들은, 일본이 버리고 떠난 케이조(京城) 제국대학의 이름을 서울대학교로 바꾸고 교육을 재건하려 했다. 하지만 일본인 교수들이 떠나버린 교수진은 황량하였기에 초대 교수진 선발은 정말 중요한 일이었다. 이 때 경성제국대학에 수학과는 없었지만, 물리학과 수석 졸업생이며 수학에 특별한 재능을 보였던 청년이 수학 교수진에 선발되었다. 바로 이임학 교수였다. 이 시대에 일어났던 이야기 한 토막을 당신께서 포스텍과 대한수학회 초청으로 1996년 방한하셨을 때 회상하셨는데, 필자가 수학적인 내용을 보충하여 다시 구성해 보려고 한다.
1947년이 저물어갈 무렵, 청년 교수 이임학은 미군의 누군가가 서울 남대문시장에 두고 간 Bulletin of the American Mathematical Society 한 권을 발견하고 막스 초른 (Max Zorn) 교수가 쓴 두 쪽짜리 논문에 관심을 가지게 되었다. 그것은, 당시 세계 수학계를 선도하던 솔로몬 보크너 (1899-1982, 프린스턴 대학교) 교수가 제시한 질문이었다
“복소 멱급수 ∑amnzmwn이 주어졌다고 하자. (조건 |p|+|q|=1 를 만족하는) 임의의 복소수에 p, q대하여 z=pt, w=qt (t는 복소변수)로 두어 얻어지는 복소 멱급수의 수렴반경이 항상 양수이면, 원래 주어진 2변수 멱급수도 원점을 포함하는 적절한 열린 영역에서 수렴함을 증명할 수 있겠는가?”
위 질문에 긍정적으로 답하고, 끝 부분에 “같은 정리가 2변수 실수계수를 가지는 실변수 멱급수와 임의의 실수직선에 대하여 성립한다면 좋은 결과가 될 것이다.” 라고 논문 저자인 Max Zorn 교수가 제시한 연구 문제였다. 이임학 청년은 이 논문 내용과 제시된 문제에 큰 흥미를 가졌고 상당한 노력을 기울여 문제를 완전히 해결하였다. 요즘 같으면 이런 결과는 자신이 논문으로 정리하여 유수 학술지에 투고·출판을 시도했겠지만, 논문 투고 방법조차 아는 이가 드물었던 한국의 당시 형편이었기에, 이임학 청년은 논문에 적힌 Max Zorn 교수의 주소인 인디아나 대학교로 당신이 발견한 내용을 담아 편지를 보냈다. 그 때 당신께서 할 수 있는 최선이었을 것이다. 
그런데 이 편지의 내용은 1949년 Bulletin of American Mathematical Society에 “On a problem of Max A. Zorn”이라는 제목으로 저자는 Rimhak Ree, 소속은 Seoul University, Korea라고 뚜렷이 명시되어 (아무런 별도 설명 없이!) 출판되었다. 하지만 정작 이임학 교수께서는 이 논문의 존재를 캐나다에 유학을 간 1953년에야 알게 되셨다니, “정직하고 훌륭한 Zorn 교수의 선행”이라고 하면 적절할 것인가? 이 정리들은 금년에 출판된 필자의 연구인 포렐리-슈톨 벡터장 분류 이론과 이어지지만, 또 다른 이야기의 시작일 터라, 본 기고에서는 생략한다.
 한편, 이임학 교수의 진정한 주 업적은 이 논문과는 달리 복소함수론/복소기하학이 아닌 대수학 분야에 있다. 자명군과 자기 자신 외에는 normal subgroup을 가지지 않는 유한 단순군(finite simple group)이라는 개념의 분류 이론에 크게 공헌하셨던 것이다. 
이 업적을 겉핥기 수준으로라도 잠시 이해해 보자. 1950년대 세계 최고였던 프랑스의 Chevalley 교수가 1955년에 새로운 유한 단순군 족을 발견하여 세상을 놀라게 한 후,  이어서 새로운 단순군 족이 또 발견되었지만, 일반적으로 이런 대상을 어떻게 발견하는지 그 방법론은 “안개 속에 쌓여” 있었는데, 이임학 교수께서 이를 밝혀내어 그 생성과 발견에 대한 연구 방법론을 정립하였던 것이다. 또한, 이 방법론을 바탕으로 그때까지 발견된 대상들을 모두 재구성하였고, 거기에서 한 걸음 더 나아가, 오늘날 수학계에 “Finite simple groups of Ree type”으로 알려져 있는, 전인미답의 단순군 족을 더 발견하였다. 이 방향 후속 연구자들은 예외 없이 이 방법론을 익혀 연구했고, 결국은 후에 분류 이론을 완성하였으니, 이 교수의 엄청난 업적은 일찍이 높게 평가되었고, 이 교수는 캐나다의 왕립 학술원 학사로 추대되었다.
1960년경부터 캐나다의 브리티시 콜롬비아 대학의 수학과 교수가 된 이후 그곳에서 일생을 보내신 분이기에 한국인 기자들이 이 교수와 영어로 인터뷰를 하려고 한 것은 당연하지만, 그럴 때면 늘, “조선말로 해 주세요. 조선말로 해 주시면 생각이 더 많이 납니다” 라고 전화선 너머에서 요청하셨다는 수학자 이임학 교수는 그의 천재성을 수학에 바쳤으나 조국을 늘 마음에 두고 사랑하였던 위대한 대한민국 수재였다.

2. 두 번째 꼭지는 수학 교수로서 재직기간 마지막 10여년을 포스텍에 바치신 권경환(權慶煥, Kyung Whan Kwun: 1929~ ) 우리대학교 명예교수의 이야기이다. 
이분은 나의 은사이시다. 내가 학/석사과정 학생이던 1977-78년, 미국의 여러 유수 대학의 한국계 미국인 교수들이 서울대 방문교수로서 학생들을 가르치고 지도하는 일이 생겼는데, 이 때 내가 권 교수의 대수위상수학 강좌를 수강함으로써 사제의 인연을 맺게 되었다.
20세기의 동이 틀 무렵에 등장한, 국소적으로는 유클리드 공간과 “동형”이지만 전체적으로는 그럴 필요가 없는 다양체(manifold)라는 보다 일반적인 공간 개념은 지금까지도 활발히 연구되는데, 다양체의 연구가 곧 기하학이라고 해도 될 만큼 중요한 연구 대상이다. 이런 연구에는 항상 기존의 대상으로부터 새 대상을 만들어내는 방법론과, 또 거꾸로, 주어진 대상을 분해하여 그것을 재구성하는 방법론을 정립하는 것이 연구의 첫 번째 목표가 된다. 그런데 놀랍게도 “깨끗한” 위상다양체가 특이 집합 때문에 다양체가 되지 못하는 두 개의 위상공간으로 분해되는, 즉 수학적으로는 다양체가 아닌 위상공간들의 데카르트 곱이 다양체와 위상동형 관계에 있게 되는 일이 발생한다는, 위상수학 연구에 큰 영향을 끼친 발견이 이루어졌다. 1960년대에 알려진 이 유명한 발견의 저자가 바로 “우리”대학의 권경환 교수이다.
이런 연구를 성공시키고 나면, 연구 범위를 조정하여 이에 속하는 다양체의 위상적 분류 연구 프로그램을 만들고 연구에 매진하는 것이 수학자의 권리요 의무이다. 권 교수는 구분적으로 선형성을 가지는 PL다양체라는 대상의 분류 연구에 매진하며 여러 제자를 양성했고, 그들 다수가 미국을 비롯한 여러 나라 유수 대학의 교수가 되어 이 분야의 연구를 이어가고 있다.
권 교수는 대학 운영 관련 봉사에도 크게 공헌했다. 미시건 주립대학교의 수학과 학과장으로서 8년간 재직하면서 미국 대학의 수학과 분류로 제2 그룹에 속하던 수학과를 제1 그룹으로 끌어올리는 데 중요한 역할을 했으며, 이후 포스텍의 초청에 응하여 미시건 주립대를 명예퇴직하시고 본교 교수로 부임하여 우리대학 수학과의 정립과 발전을 위해 공헌했다. 내가 포스텍 교수진에 지원하고 부임하기로 결심하는 데에도 권 교수의 단호하고도 정확한 권면이 결정적이었고, 부임 후에도 내가 인생의 갈림길에서 망설일 때면, 당신께서는 선배요 은사로서 충고와 지도를 아끼지 않았다. 감히 그 가치를 따질 수 없는 값진 조언이었다.
2001년 2월 당신의 은퇴 기념 국제학술회의 끝에 열린 퇴임식 연회에서 
“이렇게 퇴임식이 멋지고 기분 좋을 줄은 예상치 못하였습니다. 후에 기회가 된다면, 한 번 더 은퇴하고 싶을 것 같습니다.”
라는 위트가 넘치는 인사를 남기고 포스텍을 떠난 후 자녀들이 있는 미국에서 노년을 보내고 계시는 천재 스승님, 이 글을 통해 다시 한 번 존경과 사랑을 전하고 싶다.

3. 하고 싶은 말이 많은 것은 생각 정리가 잘 되지 못했기 때문이라는 반 우스갯소리가 정확히 맞는 모양이다. 체흐 코호몰로지 연속성 정리를 증명하신 이정림 포스텍 명예교수 (1931~ ), 포스텍 방문교수로서 보내신 1년을 늘 즐겁게 추억하시는 펜실베이니아 주립대학교의 한경택 (韓慶澤 1929~ ) 명예교수, 뜻하지 않게 병으로 작고하셨으나 유한군 위에 정의된 모듈의 분류이론을 만드신 엄청난 업적으로 오늘날 “대수적 K이론”으로 정립된 연구 분야의 주춧돌을 놓으신 펜실베이니아 대학교의 임덕상 교수 (1928-1982) 등을 비롯한 한국이 낳은 여러 천재 수학자들의 위대한 업적과 일화, 그리고 내가 받은 가르침 등을 두루 소개하고 싶기도 하지만, 지금은 한경택 교수의 이야기로 이 글을 맺으려 한다.
한 교수는 경기도 평택 출신이시다. 고등학교 졸업반 시절 갑자기 선생님들이 모두 사라져 버려서 (해방과 함께 일본인 선생들과 “친일”했던 이들이 서둘러 자취를 감추었던 탓이었으리라) 교감으로부터 수학을 가르치라는 명령(?)을 받았고, 그래서 동기들을 가르치는 선생 역할을 하셨단다. 친구를 따라 연세대학교를 들어가 다니는데 6.25전쟁이 났다. 한경택 청년은 (당시에는 워낙 깡 시골이라 북한군마저도 관심이 없어 그냥 지나쳐 버렸던!) 평택으로 돌아가 3년을 보냈고, 전쟁이 끝났다는 소문을 듣고 서울에 갔다가 서울대 사범대학을 발견하여 시험을 치고 들어갔고, 졸업 후에는 연세대학교도 서울로 돌아와 있다는 소문을 듣고 찾아가 시험을 치고 그 대학원에 들어갔다. 또 소문을 듣고(!) 풀브라이트 장학금 신청을 했더니 선발되었고, 그래서 미국 스탠퍼드 대학교 대학원에 입학한 후 슈테판 베르그만 교수의 제자가 되었으며, 졸업 후에는 바로 펜실바니아 주립대학교 조교수로 임용되어 그곳에서 정교수로 은퇴할 때까지 여러 제자를 길러내었다. 한 교수의 대표 업적은 여러 복소다양체 위에서 베르그만 거리계가 카라테오도리 거리계보다 크다는 명제로 대략 설명되는 “비교정리”였다. 최근에 나를 포함한 연구진에 의해 Hahn-Lu Comparison Theorem이라는 이름으로 재정립된 이 이론은 한 교수의 박사과정 지도교수였던 베르그만 교수의 질문을 해결한 것으로 타이키뮬러 공간에 불변 캘러 거리가 존재함을 처음으로 보여 준 중요한 공헌이며 리만 곡면 연구자들에게는 아주 중요한 이론이다.
1977-78년 기간 동안 서울대 방문교수 시절 내 석사논문 지도를 해 주셨던 한경택 교수는, 내가 조교수였던 시절 어느 날 이렇게 질문하셨다. “김 박사, 이젠 어떤 연구를 하려는고?” 내가 “이러저러한 학자들의 연구가 좋아 보여 그 분야 연구 주제로 들어가 볼까 합니다” 라고 대답하자, 한 교수는 잠시 생각에 잠겨 망설이시더니, “음, 사실은 내가, 이것저것 좋아 보이는 남의 연구를 따라 기웃거리며 평생을 보냈는데 결국, 깊이 있는 연구 결과가 없는 얄팍한 학자가 되고 말았다네. 김 박사, 지금 시작한 연구의 전망이 내겐 좋아 보이는데 더 깊이 파 보면 어떤가?” 라고 하셨고, 그 말씀은 내 마음을 비수같이 찔렀다. 나는 그때 이후로 30년 가까이 외길을 걸어 왔고, 그 결과가 수학자인 지금의 나다. 큰 가르침을 주신 덕분에 오늘도 나는 장엄하고도 아름다운 수학 연구의 길을, 느리지만 멈추지 않고 즐겁게 걸어가고 있다.