페르마의 마지막 정리

중앙일보 <좋은 책 100선> 선정도서
KBS 선정도서
네이버 <오늘의 책> 선정도서

● 카이스트 정재승 교수 강력 추천!
우리 시대 젊은이들에게 단 한 권의 수학 책을 추천해야 한다면, 단연 《페르마의 마지막 정리》를 권하겠다. 이 책은 내 젊은 시절 가장 각별한 ‘단 한 권의 수학 책’이었기 때문이다. 나는 수학의 아름다움, 그리고 수학자의 치열한 열정을 이 책에서 제대로 배웠다. …… (중략) …… 이 책의 미덕은 <페르마의 마지막 정리>라는 수학 난제가 처음 제기되고 숱한 수학자들이 도전했다가 결국 엔드루 와일즈에 의해 증명된 하나의 이야기 안에 지난 수백 년간의 수학의 역사가 오롯이 담겨 있다는 사실이다. 수학에 흥미를 느끼는 가장 좋은 방법은 수학을 ‘숫자의 학문’이 아니라 ‘수의 세계를 이해하려는 수학자들의 역사’로 이해하는 것이다. 수학이 무엇을 하는 학문인지 궁금하다면 이 책에서 답을 찾을 수 있다. …… (중략) …… 이 수학 책은 그 어떤 영화보다 극적이며, 어떤 드라마보다 뭉클하다. 수학 교과서 앞에서 종종 ‘왜 우리가 이런 걸 배워야 하는지 모르겠어!’를 연발했던 사람이라면, 이 책에서 수학에 대한 편견을 깨볼 것을 권한다.

마침내 ‘유레카!’의 함성이 터지다.
역사상 최대의 수학 난제, 350년 만에 드디어 풀리다!

“ xn + yn = zn ; n이 3 이상의 정수일 때,
이 방정식을 만족하는 정수해 x, y, z는 존재하지 않는다.
나는 경이적인 방법으로 이 정리를 증명했다.
그러나 이 책의 여백이 너무 좁아 여기 옮기지는 않겠다…”

◆ 17세기 프랑스의 아마추어 수학자 피에르 드 페르마가 디오판토스의 저서 《아리스메티카》의 여백에 남긴 이 한마디에, 지난 350여 년 간 수학자들은 여지없이 짓밟힌 자존심을 추스르며 혹독한 시련을 겪어야 했다. 이 ‘증명’을 그 누구도 재현하지 못했기 때문이었다.
◆ <페르마의 마지막 정리>를 증명하는 것은 수학 역사상 가장 어려운 과제였지만, <정리> 자체만 놓고 본다면 내용이 너무도 단순하여 초등학생도 풀 수 있을 정도로 간단해 보인다. 하지만 당대 최고의 석학들도 이 <정리> 앞에서는 꼼짝없이 무릎을 꿇어야 했던, 수학 역사상 최대의 수수께끼였고 난제였다. 그 동안 수많은 사람들이 이 <정리>를 증명하기 위해 일생을 바쳐왔지만, 끝내 빗장은 열리지 않는 듯했다.
◆ 그러나 영국의 수학자 앤드루 와일즈가 이를 증명하는 데 성공, 1997년 마침내 <볼프스켈 상>을 수상하면서 수학사는 새로운 장을 열게 되었다. 소년 시절, 시골 도서관에서 이 <정리>와 처음 접하던 순간, 그것을 증명하는 데 일생을 걸기로 맹세했던 그는, 수많은 사람들의 무성한 실패담 속에서도 결코 포기하지 않고 오랜 세월을 견뎠다. 마침내 그의 꿈은 40대에 실현되었다. 그런 그의 꿈을, 멀리 피타고라스 시대부터 ‘수학의 아름다움’에 미쳐버린 사람들의 꿈을 한 편의 ‘드라마’로 엮어놓은 이 책은 수학에 친숙하지 못한 독자들에게 <페르마의 마지막 정리>가 갖고 있는 역사와 명멸해 간 위대한 천재들의 치열한 삶을 흥미롭게 펼쳐놓는다.

수학은 놀랍도록 아름답다! 그리고 완전하다!
문제풀이식 수학책의 개념을 뛰어넘은, 한 편의 깔끔한 다큐멘터리!

● 열 살 때 세운 삶의 목표 - 그리고 30년의 세월

1963년, 당시 열 살배기 소년이었던 앤드루 와일즈는 시골 도서관에서 한 권의 책과 마주친 뒤로 분명한 삶의 목표를 갖게 된다. 그로부터 30년이 지난 1993년 6월 23일, 프린스턴 대학 교수가 된 와일즈는 케임브리지 대학의 아이작 뉴턴 연구소에서 개최된 학술회의 강연장에서 <페르마의 마지막 정리>를 증명한 뒤 “이쯤에서 끝내는 게 좋겠습니다.”라는 차분한 한마디로 350년 동안 수학자들을 괴롭혀왔던 페르마의 수수께끼에 종지부를 찍었다. 강연장은 떠나갈 듯한 환호성과 흥분에 묻혀버렸고, 각국의 언론은 톱뉴스로 이 사실을 전했다. 하지만 다른 대가들이 그랬듯이 와일즈의 증명 역시 하나의 오류가 발견되어 자칫하면 사장될 위기에 처하게 되었다. 그 뒤 1년 간 오류를 수정하면서 고군분투하던 중, 1994년 9월19일에 와일즈는 순간적으로 떠오른 영감으로 오류를 수정함으로써 완벽한 증명을 이루어내는 데 성공했다. 그 뒤 1997년 6월 27일, 와일즈는 <볼프스켈 상>과 함께 5만 달러의 상금을 받았다. 이것으로 <볼프스켈 상>은 제정된 지 89년 만에 드디어 주인을 찾았으며, 그 당시 상의 시효는 10년을 앞두고 있었다.
앤드루 와일즈의 성공담만으로는 <페르마의 마지막 정리>에 얽힌 350년 간의 역사를 제대로 설명할 수 없다. 동시에 수학에 친숙하지 않은 일반 독자들에게 페르마의 정리가 갖고 있는 역사를 설명하는 것도 결코 쉬운 일이 아니다. 그러나 사이먼 싱은 <페르마의 마지막 정리>가 갖고 있는 역사, 저 아름다운 수학사(史)를 드라마틱한 내용 전개를 통해 누구나 쉽게 이해할 수 있는 문체로 훌륭하게 서술하고 있으며, 수학자들의 미묘한 감정, 그리고 수학계의 반향 등을 적절하게 인용하고 있다.
페르마의 마지막 정리는 다음과 같다.

xn + yn = zn ; n이 3 이상의 정수일 때,
이 방정식을 만족하는 정수해(x, y, z)는 존재하지 않는다.

수학자가 아닌 사람에게는 그저 따분하고 별 볼일 없는 정리로 들릴지도 모른다. 수학의 왕자라 불렸던 칼 프리드리히 가우스조차도 “페르마의 마지막 정리는 수학의 사변 정리로서, 나는 별관심이 없다.”고 공언했다. 그러나 사이먼 싱의 말대로, 페르마가 제기했던 문제는 수세기 동안 수학자들의 초유의 관심사가 되어왔으며, 수학계 전반에 걸쳐 중요한 영향을 끼쳤다. 19세기가 끝나갈 무렵, 페르마의 마지막 정리를 연구하던 수학자들 대부분이 사망하여 사상 최대의 수수께끼는 한때 사장될 위험에 처한 적도 있었다. 그때 19세기 독일의 사업가이자 아마추어 수학자였던 파울 볼프스켈이 실연의 아픔을 이기지 못하고 자살을 결심했다가, 자살 직전에 <페르마의 정리>에 대한 에른스트 쿰머의 논문을 읽게 되었다. 그러다 문득 쿰머의 논리에 오류가 있음을 발견하여 이 문제에 몰두하느라 예정된 자살시간을 놓치고 말았다. 볼프스켈 역시 이 문제를 풀지는 못했으나 자신에게 새로운 삶의 기회를 부여한 페르마의 마지막 정리에 보답하는 뜻에서 이 정리를 증명하는 사람에게 수여하는 <볼프스켈 상>을 제정했다.
이 책에 소개된 일화는 이뿐만이 아니다. 19세기 프랑스의 여류 수학자였던 소피 제르맹이 자신의 신분을 남자로 속이고 이 정리를 연구하던 끝에 증명의 실마리를 찾아낸 이야기와 불과 20세의 나이에 결투에서 죽어간 천재 에바리스트 갈루아의 혁신적인 아이디어 등이 현실감 넘치게 서술되어 있다. 갈루아의 업적은 뒤에 와일즈의 증명에 중요한 역할을 하게 된다.
와일즈가 이루어낸 증명의 특징은 몇 개의 전혀 다른 수학 분야의 테크닉을 종합적으로 사용했다는 점이다. 보통 수학자들은 다른 분야의 수학 영역을 넘나드는 모험을 좀처럼 하지 않는다. 그러나 와일즈의 논문은 한 분야의 전문가가 도저히 이해할 수 없을 만큼 다양한 분야의 수학을 포함하고 있다. 그래서 그의 논문 심사에는 이례적으로 여섯 명의 심사위원이 동원되었다. 이렇게 세심한 심사과정을 거쳤기에 그의 논문에서 오류를 발견할 수 있었으며, 이 오류는 와일즈의 열성 어린 노력에 의해 결국 성공적으로 수정되었다.

● 7년 동안의 칩거 - 그리고 <대통일 수학>의 첫 발!

와일즈는 <페르마의 정리>를 증명하는 동안 완전하게 고립된 상태에서 혼자 모든 계산을 수행했다. ‘페르마’와 사투를 벌이는 7년 동안 그의 비밀 연구를 알고 있는 사람은 그의 아내뿐이었다. 또 한 가지 중요한 점은 그의 논리의 상당 부분이 다른 수학자들의 업적에 기초하고 있다는 점이다. 그 중에서도 가장 중요한 것으로는 1950년대에 탄생한 <타니야마-시무라의 추론>을 들 수 있다. 이는 일본의 수학자 유타카 타니야마와 고로 시무라가 창안한 추론으로서 전혀 다른 두 개의 수학분야를 연관짓는 혁명적인 아이디어였다. 그 뒤 한 수학자에 의해, 만일 <타니야마-시무라의 추론>이 맞는다면 <페르마의 마지막 정리>도 자동으로 증명된다는 사실이 발견되었다.
그런 의미에서 와일즈가 증명한 것은 사실 <페르마의 정리>가 아니라 <타니야마-시무라의 추론>인 셈이다. 결국 와일즈는 <페르마의 마지막 정리>를 증명함과 동시에 <대통일 수학Grand Unified Mathematics>이라는 거대한 작업에 첫발을 내디딘 장본인이 되었다. 타니야마는 자신의 ‘추론’이 증명되는 것을 보지 못했다. 그는 1958년, 자살로 삶을 마감했다.

인류 문명 역사상 가장 위대한 업적 중의 하나로 기록될 와일즈의 <증명> 과정을 다 읽고 마지막 책장을 덮는 순간, 우리는 “유레카!”를 외치게 될지도 모른다.

● 뉴욕 8번가 지하철역에서 발견된 낙서 한 토막

“ xn + yn = zn ; 이 방정식에는 정수해가 존재하지 않는다.
나는 경이적인 방법으로 이 정리를 증명했다. 그러나 지금 내가 탈
기차가 오고 있기 때문에 여기 적을 만한 시간이 없다!”