FLT를 증명한 위대한 수학자 앤드루 와일즈1 (Andrew John Wiles, 1953-현재)

○FLT((Fermat's Last Theorem 페르마의 마지막 정리)

 

앤드루 와일즈는 조용하고 미소가 수줍은 소심한 사람이다. 하지만 용기를 내어 7년 동안 세상에서 가장 유명한 수학 문제의 비밀을 푸는 데 매달렸다. 300년 넘게 최고의 수학자들을 좌절에 빠뜨렸던 몹시 어려운 문제였다.

 

지난주 와일즈는 갖은 어려움을 극복하고 마침내 그 문제를 풀었다고 발표했다. 그 주장이 인정된다면 마흔 살의 이 프린스턴대학 수학 교수는 자기 분야에서 거장의 반열에 오르게 되며 수학자로서 경력의 정점을 찍고 그 즉시 사람들의 우상으로 떠오를 것이 분명했다.

 

'페르마의 마지막 정리'로 알려진 그리고 추종자들에게는 FLT라는 약어로 더 친숙한) 그 문제는 1637년으로 거슬러 올라간다. 프랑스의 걸출한 수학자 피에르 드 페르마는 책의 여백에 그 문제를 휘갈겨 쓰면서, 유감스럽지만 그 믿기 어려운 증명을 기록하기에는 여백이 너무 좁다는 말로 끝을 맺었다. 그때부터 위대한 수학자들은 물론 평범한 수학자들 까지도 그 정리를 증명하기 위해 매달렸다.

 

일부 수학자들은 와일즈의 증명에 여전히 미묘한 결함이 있는 것 같다고 말한다. 200쪽에 달하는 박사의 필사본은 아직 학술지에 실리지 않았다. 전문가들이 전체를 검증하려면 시간이 좀 걸릴 것이다. 하지만 지금까지 결함이 있는 것으로 판명되었던 수많은 증명과는 달리, 와일즈의 증명은 사람들의 박수갈채를 받았고 해당 분야의 선도적인 학자들에게도 환영받았다.

 

사람들이 관광객을 태우고 알베르트 아인슈타인이 살던 집을 일상적으로 지나다니는 프린스턴에서 와일즈는 이미 유명 인사가 되었다. 프린스턴대학의 수학과장인 사이먼 코헨 Simon Kochen 박사는 생면부지의 사람들도 와일즈에게 축하 인사를 건넨다고 말했다.

 

와일즈는 지난주 영국 케임브리지대학에서 페르마의 마지막 정리에 대한 증명을 공개한 다음에 행적이 묘연해졌다. 그 탓에 전 세계에서 쏟아지는 수천 통의 전화나 컴퓨터 메시지, 팩스는 코헨 박사나 프린스턴대학의 다른 수학과 교수들에게 집중되었다.

 

코헨 박사는 "지금 상황이 얼떨떨하기만 하다."고 말했다. 그는 그래도 결국 수학이란 학문은 수천 명에 불과한 전문가들만 연구하고 다른 사람들은 전혀 관심이 없어 보인다고 말했다. 하지만 와일즈의 증명에 관해서는 "인간의 정신이 아직 살아 있는 것 같다. 베토벤의 마지막 사중주를 듣는 것 같다. 우리가 살아 있는데 마지막 사중주가 나온 것 같은 느낌”이라고 말했다.

 

그런데 왜 하필 와일즈일까? 그리고 왜 지금일까? 지난 일요일에 연구실과 연구실에서 몇 블록 떨어진 집에서 진행한 인터뷰에서, 와일즈는 증명하려면 때와 장소가 잘 맞아떨어져야 한다고 설명했다. 또한 문제에 완전히 빠져야 가능한 일이라는 말도 덧붙였다.

 

와일즈는 어릴 적부터 페르마의 마지막 정리에 매료되었다고 말한다. 와일즈를 수학의 세계로 이끈 것도 바로 그 정리였다.

 

어린 시절의 꿈

 

영국 옥스퍼드대학에서 근무하는 신학자의 아들로 태어난 앤드루 와일즈는 열 살 때 마을 도서관에서 책을 보다가 페르마의 정리를 처음 알게 되었다. 그 책의 제목이나 저자는 잊어버렸지만, 그때의 느낌만큼은 생생하게 기억한다. 그 일로 와일즈는 수학자가 되고 싶었고 그 문제를 풀고 싶다는 생각을 품게 되었다.

 

와일즈는 "그 정리를 증명하면서 십 대 시절 대부분을 보냈다. 늘 마음속 깊이 자리 잡고 있었다"고 회상했다. 하지만 전문 수학자가 되자, 단순히 십 대 시절의 열정으로 문제를 풀 때보다 그 속에 더 많은 의미가 있음을 알게 되었다.

 

수학자들은 페르마의 정리를 보고 좌절에 빠졌다. 방정식의 지수인 ㅁ이 4일 때 정리가 참이라는 것은 페르마가 직접 증명했다. 100년이 지난 1780년 수학 천재 레온하르트 오일러는 지수가 3일 때 정리가 참이라는 것을 증명했다. 그 후 50년간 각기 다른 사람들이 지수가 5, 7, 13일 때 정리가 참이라는 것을 증명했다. 하지만 페르마의 이 장엄한 정리에서 의미하는 것은 지수가 무한대인 경우다. 지수의 특정 값을 하나씩 증명하는 방법으로는 페르마의 마지막 정리를 결코 증명할 수 없을 것이다.

 

전환점이 온 것은 대략 10여 년 전이었다. 독일 자를란트대학의 게르하르트 프레이 Gerhard Frey 박사가 언뜻 상관없어 보이는 어떤 명제 하나가 참이면, 페르마의 마지막 정리도 자동으로 참이 된다는 주장을 내놓았다. 그 명제는 바로 '다니야마 추측 Taniyama conjecture 3차 방정식으로 나타낼 수 있는 타원 곡선에 관한 것이었다. 실제로 페르마도 자신의 정리와 별 관계가 없는데도 3차 방정식을 집중적으로 연구한 적이 있었다.

 

게다가 7년 전에는 캘리포니아대학 버클리 캠퍼스의 수학자 케네스리벳 박사가 다니야마 추측의 주요 부분이 증명된다면 페르마의 정리도 참이 된다는 것을 실제로 증명하여 프레이 박사의 주장을 뒷받침했다.

 

리벳 박사는 다니야마 추측이 '수학 대통일 이론'(대수학부터 기하학, 수론, 해석학, 양자물리학까지 수학 각 분야의 연관성을 밝히는 이론으로 창시자인 로버트 랭글랜즈의 이름을 따서 랭글랜즈 프로그램이라고도 한다. 옮긴이)의 일부라며 "다니야마 추측은 광대한 랭글랜즈 철학의 일부"라고 말했다. 프린스턴 고등연구소 교수인 로버트 랭글랜즈Robert Langlands 박사가 오래전에 서로 달라 보이는 두 수학 분야가 실제로는 하나이며 똑같다는 주장을 한 적이 있다는 것이 리벳 박사의 설명이었다.

 

랭글랜즈 박사가 말한 두 수학 분야는 미적분학처럼 표면의 한 점 가까이에서 일어나는 수학적 구조의 변화를 다루는 해석학, 그리고 방정식을 다루는 대수학이다. 리벳 박사는 랭글랜즈 철학이 "수학이라는 학문에서 아주 심오하고도 원대한 비전"이라고 말했다. 그리고 다니야마 추측이 "랭글랜즈 박사의 추정 중에서 특별한 사례"라는 말도 덧붙였다.

 

다니야마 추측과 페르마의 마지막 정리를 연결한 리벳 박사의 증명은 와일즈의 상상력에 불을 댕겼다. 타원곡선과 페르마 방정식의 해법을 근본적으로 연관 지을 수 있게 된 것이다. 특정 타원곡선이 존재하지 않는다는 것만 증명할 수 있다면, 페르마 방정식의 해가 없다는 것도 증명된다.