FLT를 증명한 위대한 수학자 앤드루 와일즈2 (Andrew John Wiles, 1953-현재)

와일즈는 이렇게 말했다. "프레이 박사와 리벳 박사의 연구 결과를 듣고 나니 상황이 바뀌었다는 걸 직감했다. 두 사람의 연구가 심리적인 면에서 분명히 나를 완전히 바꿔놓았다. 그전까지만 해도 페르마의 마지막 정리가 정수론에 있는 다른 문제와 별반 다르지 않다고 생각했기 때문이다. 수천 년이 지나서도 절대 풀지 못할 것이고 수학계에서도 거의 주목하지 않을 거라고 말이다."

그런데 와일즈는 이런 말을 덧붙였다. "프레이 박사와 리벳 박사의 연구로 페르마의 마지막 정리는 수학에서 무시할 수 없는 문제가 되었다. 그 정리에 너무 많은 것이 걸려 있었다. 앞으로 나올 문제들의 전체구조가 거기에 달려 있었다. 페르마의 정리가 해결될 수도 있겠다는 생각이 들었다. 그렇게 확신이 들다 보니 손에서 놓을 수가 없었다.”

리벳 박사의 연구 결과를 들었던 바로 그날, 와일즈는 그 연구 결과를 이용해서 페르마의 마지막 정리를 푸는 데 평생을 바치기로 마음먹었다.

와일즈는 튜더 왕조 양식으로 지어진 자택 3층의 황량한 다락방 연구실에 앉아 남몰래 연구했다. 컴퓨터도 필요 없었고 전화기도 완벽한 고요를 깨뜨릴 수 있다며 갖다 놓지 않았다.

코헨 박사는 이런 말을 했다. "와일즈 박사가 페르마의 마지막 정리를 풀고 있다고 말했다면 사람들이 미심쩍어했을 것이다. 그리고 전문가들에게 털어놓기 시작하면 결국엔 그들과 공동 작업을 하게 된다. 하지만 와일즈는 그 문제를 혼자서 풀고 싶었다." 프린스턴대학 수학과에서 그런 사정을 아는 사람은 한 명밖에 없었다. 일종의 자문 역할을 해주기로 했던 니콜라스 캐츠Nicholas Katz 박사였다. 하지만 캐츠 박사는 비밀을 지키겠다는 서약을 했다.

와일즈는 "처음 몇 년 동안 진전이 있었다. 일관성 있는 계획을 따랐기 때문이다."라고 말했다. 그리고 2년 전에는 문제를 계산으로 바꾸는 핵심 아이디어가 떠올랐다. 와일즈는 그 계산이 “다른 사람들이 시도했다가 실패한 것과 비슷하지만, 풀 수 있다는 점이 달랐다"라고 말했다.

와일즈는 아주 열정적이었다. "기본적으로 연구와 가족에만 매달렸다. 연구를 잠시라도 멈춘다는 생각은 해본 적이 없었다. 늘 머릿속에 있었다. 해답을 찾고 싶은 생각이 정말 간절하다면, 절대 멈출 수 없는 법이다."

와일즈는 마침내 중요한 한 가지 경우를 제외하고는 증명을 모두 풀어냈다. 그리고 그 마지막 장벽도 6주 전쯤 하버드대학의 수학자 배리 마주르 박사의 논문을 읽다가 허물어뜨릴 수 있었다. "왜 그 논문을 보고 있었는지도 기억이 나지 않는다." 하지만 와일즈는 그 논문에서 언급한 어떤 해석에 주목했다. "이 해석을 이용해야 한다는 생각, 그리고 남아 있는 마지막 문제를 풀 수 있겠다 싶은 생각이 그 자리에서 명확하게 떠올랐다."

공교롭게도 그 해석은 새로운 것이 아니라, 이미 19세기에 나온 것이었다. 하지만 와일즈는 그전까지만 해도 그런 해석을 본 적이 없었다. 그 해석을 보자마자 와일즈의 입에서는 "그럴 줄 알았어!"라는 말이 튀어나왔다. 와일즈는 7년간의 연구를 끝내고 마침내 페르마의 마지막 정리를 증명했다.

와일즈는 지난주 영국 케임브리지대학에서 열린 소규모 수학자 회의에서 세 차례 강연을 통해 연구 결과를 발표했다. 작은 성과를 이룰 때마다 논문이나 언론 발표를 통해 과시하는 많은 과학자와는 달리, 와일즈는 이제 막 수학계에서 터뜨리려고 하는 그 폭탄 같은 연구를 발표 전까지도 전혀 언급하지 않았다. 강연의 취지를 듣고 어렴풋이 짐작한 사람도 있었지만, 대다수 청중은 와일즈가 페르마의 정리에 관해 발표하리라고는 전혀 예상하지 못했다. 강연 중간에 수학자들이 와일즈의 연구를 대략 눈치를 채게 되면서, 영국과 미국 사이에 이메일 메시지가 급박하게 오가기 시작했다.

어떤 사람은 이렇게 소식을 전했다. '와일즈 박사가 오늘 첫 강연을 했습니다. 다니야마 - 베이유 추측을 증명했다고 발표한 건 아니지만, 그와 비슷한 방향으로 가고 있어요. 아직 두 번의 강연이 남아 있습니다. 와일즈 박사는 지금도 최종 결과를 아주 철저히 비밀에 부치고 있습니다.'

프린스턴에 남아 기다리던 코헨 박사는 기대에 부푼 채 잔뜩 긴장하고 있었다. 코헨 박사와 프린스턴대학의 또 다른 수학자 존 콘웨이 박사는 서로 별말이 없었다. 그저 와일즈의 연구를 이해하는 극소수 수학자들이 그 증명을 인정할 것인지 아닌지에 관한 의견만 주고받을 따름이었다.

코헨 박사는 “화요일 밤이었는데 잠들 수가 없었다"고 말했다. 수요일 아침 5시 반쯤, 콘웨이 박사는 수학과가 자리한 갈색 고층 건물인 파인홀Fine Hall의 자물쇠를 열고 연구실로 들어가 컴퓨터를 켰다. 5시 53분에 첫 소식이 도착했다. 케임브리지대학의 회의에 참석했던 몬트리올 칸코디아 대학의 존 맥케이 John Mckay 박사가 보낸 메일이었다. "와일즈가 FLT를 증명했습니다”라고 쓰여 있었다.

와일즈는 세 번째이자 마지막 강연의 끄트머리에 가서 발표를 마무리할 즘에야 비로소 자신의 증명을 거론했다.

와일즈가 집에 돌아온 것은 금요일이었다. 일요일에는 의기양양하지만 지친 모습으로 아내와 딸들과 함께 시간을 보냈다고 말했다. 그리고 친구들이 열어준 파티에도 갔다고 한다. 자신이 거둔 성과의 결과를 받아들이는 모습이었다.

그것은 증명을 완료한 다음 맛보는 해방감이기도 했다. 와일즈는 "이 문제를 거의 7년 동안 붙잡고 있었다. 매일 같이 말이다. 그동안은 아침에 일어나서 다른 문제를 생각한다는 것 자체를 거의 잊고 살았다"고 말했다.

그런데 해방감과 함께 수학계에서 가장 유명한 문제가 사라지는 모습을 보면서 시원섭섭한 느낌도 들었다.

와일즈는 마지막 정리를 풀면서 일말의 슬픔도 느꼈다고 한다. "정수론 학자라면 다들 내심 비슷한 기분이었을 것이다. 우리들 대부분에게 페르마의 정리는 수학에 발을 들이게 된 계기였고 늘 꿈꾸지만 실제로는 풀 수 없는 그런 것이었기 때문이다. 정말 상실감이 든다."