얼마 전 성인잡지인 플레이보이지에 ‘흩어진 천재’라는 제목으로 수학의 노벨상이라고 일컫는 필즈상(Fields Medal), 100만 달러 상금, 명문 프린스턴 대학과 버클리 대학의 종신 교수직을 거절한 러시아 천재수학자 그리고리 페렐만의 이야기가 실렸다. 이 잡지는 지미 카터 전 대통령 등 저명인사와의 인터뷰로도 유명한데 최근에는 물리학자인 스티븐 호킹과 마이크로소프트의 빌 게이츠, 노벨 경제학상 수상자인 폴 크루그먼과 생물학자 리처드 도킨스가 있으니 페렐만을 찾아 나선 것이 전혀 이상한 일이 아니다.

한상근 KAIST 교수·수리과학

농구공 표면에 고무 밴드를 늘여 끼워 놓아도 항상 원래 모양으로 되돌아가지만 긴 기둥에서는 기둥 자체가 고무밴드를 가로막기에 원래 모양으로 줄어들 수 없다. ‘하나의 밀폐된 3차원 공간에서 곡선이 하나의 점으로 수렴될 수 있다면 이 공간은 반드시 원구(圓球)로 변형될 수 있다’는 것이 프랑스 수학자 푸앵카레의 가설인데 99년이 지난 후 페렐만이 이 3차원 공에 대한 가설을 증명한 바 있다.

한 기자가 언론을 극도로 기피하는 페렐만에 대한 조사에 나섰다. 러시아의 상트페테르부르크에 도착한 기자는 페렐만의 낡은 아파트 인근에 거처할 곳을 구하고 차 속에서 끼니를 때워가며 관찰했다. 그런데 페렐만은 매달 160달러 정도의 생활비로 어머니와 함께 요리할 버섯을 채취해가며 살고 있었다. 기자가 지켜본 지 3일 만에 아파트 밖으로 나타난 모자를 만났고 페렐만과 대화도 나눌 수 있었는데 그는 대중이나 모르는 사람 앞에 나서기를 싫어할 뿐이었다. 다만 분명하게 말한 것은 수학을 더 이상 하지 않겠다는 것과 현재는 다른 것을 하고 있는데 무엇에 관한 것인지 이야기하지 않겠다는 것이었다.

한때 페렐만은 미국에 몇 년간 머물며 문제를 해결하는 도구를 익혔다. 불행하게도 그 도구를 만든 사람은 페렐만을 무시했다. 러시아로 귀국한 그는 푸앵카레의 가설에 도전해 7년여 만에 이 난제를 풀어냈다. 그러나 페렐만은 숨어 버렸다. 페렐만은 푸앵카레의 가설을 해결하는 데 또 다른 공헌을 한 미국의 수학자 리처드 해밀턴의 공로가 충분히 평가되지 않았다며 미국 클레이수학연구소(CMI)가 그에게 수여하기로 한 상금 100만 달러를 끝내 거절한 것이다. 그도 다른 학자처럼 상이나 장려금을 받곤 했지만 이러한 물질적 보상을 수학의 모욕으로 받아들였을 뿐 아니라 학계에 환멸을 느낀 것으로 보인다.

페렐만은 문제를 해결해 인터넷에 3편의 논문을 올려놓았는데 그것을 공부한 중국인 학자가 논문에서 부족한 부분을 자기들이 채워 넣었다고 주장해 수학계의 조롱거리가 됐다. 부족한 부분이 있다는 의미는 저자가 질문에 대답하지 못하는 페르마 문제를 해결한 와일즈의 처음 논문처럼 논리의 비약 즉, 갭(gap)이 있는 것을 말한다. 그런데 페렐만의 논문에 부족한 부분은 없었으며 읽기 어려웠을 뿐이다. 중국인 학자는 논문을 읽어내지 못했던 것이다. 페렐만의 논문은 어떤 학술지에도 게재되지 않았음은 물론이다. 결국 그의 논문을 이해하지 못하는 사람들이 많은 것을 결정하는 데 문제를 삼은 것이다.

사람들은 페렐만이 현재 우주론을 연구하는 것이 아닌가 하는 막연한 추측을 하고 있다. 필자는 페렐만이 이 정도까지만 수학과 거리 두기를 했으면 하는 바람이다. 아무리 천재라고 해도 동떨어진 다른 분야를 연구하는 일은 거의 없기 때문이다. 천재는 창조성을 가지고 인류의 삶을 바꾸고, 인류 역사 발전에 큰 성취를 보여주지 않는가. 일례로 불완전성 정리를 보인 수리논리학자 쿠르트 괴델은 말년에 신의 존재를 논리학으로 증명했다는 글을 남겼다.

한상근 KAIST 교수·수리과학