수학에서 꺼낸 여행

근현대 수학이 만들어진 열띤 현장으로 떠난 여행

오랫동안 대중들에게 수학을 흥미롭게 전달하는 일에 몰두해 온 수학 저술가 안소정. 문득 피라미드가 직접 보고 싶어 훌쩍 떠난 여행은‘수학’이라는 주제로 판이 커졌고, 문명의 발상지인 그리스, 이집트, 이탈리아, 인도에서 만난 수학을 《배낭에서 꺼낸 수학》에 담은 데 이어, 이번에는 근현대 수학의 발자취를 찾아 다시 배낭을 메고 《수학에서 꺼낸 여행》을 떠났다.
《수학에서 꺼낸 여행》은 프랑스, 영국, 미국을 여행하며 르네상스 이후부터 지금 우리가 사는 세계를 만든 근현대 수학의 빛나는 현장을 찾아가 본다. 역사, 정치, 경제, 예술 속에 녹아 있는 수학의 아름다움을 소개하고, 독자 스스로 일상생활에서 수학의 원리를 찾아 수학적 사고를 넓힐 수 있게 돕는다. 여행기 속에 녹여 쉽게 풀어놓은 수학 이야기는 수학과 떼려야 뗄 수 없는 청소년뿐 아니라 수학을 잊고 지낸 성인 독자에게도 흥미롭게 다가갈 수 있을 것이다.


1. 수학에서 아름다운 여행지를 꺼내다
-프랑스, 영국, 미국에서 만나는 아주 특별한 수학

프랑스, 영국, 미국. 우리가 많이 여행하는 나라들이자 세계를 이끌어 가는 선진국이다. 특히 이들 나라는 혁명을 이루어냈고, 현대 문명을 눈부시게 발전시킨 나라라는 공통점이 있다. 원동력은 바로 ‘수학’에 있었다. 수학은 문명과 함께 발전하며 시대 상황을 반영한다. 그래서 수학을 잘 이해하려면 그 시대의 역사 및 문화를 살피는 것이 중요하고 수학사의 현장을 둘러보는 여행도 큰 도움이 된다. 유럽에서 인간의 권리와 의식을 높이고자 일어난 르네상스와 종교개혁은 17, 18세기 계몽주의 지적 운동과 학문의 발전으로 이어졌고 과학혁명과 함께 수학의 황금시대를 열었다.17세기 수학의 가장 큰 무대인 프랑스에서는데카르트, 파스칼, 페르마 같은 위대한 수학자들의 흔적을 만나며 혁명과 전쟁 속에서도 찬란하게 꽃핀 수학을 만날 수 있다. 그곳에서 도버해협을 건너산업혁명의 발상지인 영국으로 가면 뉴턴의 미적분학을 비롯해 네이피어의 로그와 튜링의 컴퓨터를 만나고, 통계학과 집합론과 수리논리학 분야 등을 돌아보는 시간도 즐길 수 있다.그리고 마지막 여행에서는 대서양 너머의 미국에서 첨단 건축물과 예술품을 둘러보면서 위상수학, 프랙털 이론 같은 현대 수학의 세계를 접하고 밀레니엄 수학 문제도 살펴본다. 근현대 문명과 수학의 발자취를 따라 떠난 여행은 지식일 뿐이던 수학을 살아 있는 수학이 되게 해 줄 것이다.

수학을 좋아한 나폴레옹은 평소에 수학 문제 풀기를 즐겼으며 전투에도 수학을 활용했다. 강 건너 적군에게 대포를 쏠 때는 포물선 이론과 탄도학을 적용하고, 강의 너비를 구하는 데는 피타고라스의 정리나 삼각법 같은 수학 이론을 이용했을 것이다. 수학에 대한 그의 열정은 세인트헬레나 섬으로 유배 가는 길에도 수학 문제를 풀 정도였다고 한다. (중략) 나폴레옹이 집권할 때 실제로 많은 수학자가 배출되었다. 국력이 왕성할 때 학문도 발전한다는 증거다. 나폴레옹은 수학자들에게 최고의 대우를 하고 수학 명문인 에콜폴리테크니크를 적극 지원했다. 이집트 원정에 참여한 몽주와 푸리에, 사관학교 때 스승 라플라스, 나폴레옹의 충실한 군인이던 퐁슬레 등 수학자들과 각별한 관계를 맺고 그들을 요직에 임명했다. 나폴레옹은 수학의 중요성을 강조하며 이렇게 말했다. “수학의 발전과 우수성은 그 나라의 번영과 밀접한 관계가 있다. 수학은 국력이다.” (중략)
나폴레옹 집권 시기에 탄도학뿐 아니라 측지학, 건축학, 지도 제작법 등 군사과학이 발전하면서 기하학도 발전했다. 몽주의 화법기하학과 미분기하학, 퐁슬레의 사영기하학이 모두 이때 발전했다. 그 전의 소규모 전쟁과 달리 징병제로 모은 수십만 대군을 동원하는 대규모 전쟁이 진행됨에 따라 정밀한 지도 제작이 절실했고 측지학이 급격히 발전했다. 나폴레옹은 ‘지형도가 군대의 눈’이라며 정밀 지도의 작성을 추진했다. 지도를 정밀하게 만들려면 곡면인 지구 표면의 성질을 밝혀야 했다. 그래서 곡면 공간을 연구하는 곡면기하학이 19세기부터 중요한 연구로 등장했고, 이것이 미분기하학의 출발이 되었다.
-106~107쪽, '수학은 국력이다: 나폴레옹의 수학' 중에서


2. 변화하는 세상을 이해하기 위한 가장 빠른 길, 수학 알기
-현대사회와 미래를 읽는 눈을 키워 줄 수학을 만나다

근현대 문명과 수학의 발자취를 따라 떠난 여행은 지식일 뿐이던 수학을 살아 있는 수학이 되도록 해 준다. 수학이 인류의 발전과 함께하며 이바지한 장면을 직접 보고 깨달을 수 있고, 수학사에 등장하는 많은 수학자를 만나는 동안 수학에 대한 그들의 무한한 열정을 느낄 수 있다. 위대한 건축물이나 예술품뿐만 아니라 날씨, 금융, 게임, 지도 등 우리가 사는 세상의 모든 것이 수학과 연결된다는 것을 알 수 있다. 갈릴레오는 “자연이라는 위대한 책은 그것을 쓴 언어를 이해하는 사람만 읽을 수 있다. 그리고 그 언어는 수학이다.”라고 말했다. 수학을 모르면 자연과 세계를 이해할 수 없다는 말이다. 즉 우리가 사는 세상을 알아 가는 발걸음은 수학에서 시작해야 한다. 현대사회를 살아가며 미래를 꿈꾼다면 더더욱 수학을 이해해야 한다. 세상이 아주 빠르게 변하고 있으며 무한한 가능성을 지닌 그 변화의 중심에 수학이 자리하기 때문이다. 우리가 손에서 놓지 못하는 스마트폰이나, 얼마 전 세기의 바둑 대결로 전 세계적 관심을 끌었던 컴퓨터 ‘알파고’의 성과만 봐도 수학이 이끄는 빠른 변화를 절실히 느낄 수 있다.
지은이는 수학의 원리나 공식이 문명과 유적에 어떻게 적용되어 나타나는지 차분히 설명한다. 공식을 외워 문제를 푸는 것에 급급한 것이 아니라, 그 공식이 어떻게 도출되어 적용되었는지 바탕에 깔린 이야기를 들려주며 수학과 수학자에 대한 이해를 끌어낸다. 이렇게 수학을 적극적으로 읽음으로써 머릿속에 갇혀 있던 지식들이 되살아나 살아 있는 지식이 되는 것은 지식 이상의 감동과 깨달음이다.

케임브리지의 킹스칼리지에서 수학을 전공한 튜링은 1936년에 현대 컴퓨터의 원형이 된 추상적 계산 기계를 고안했다. 그는 이 기계가 주어진 알고리즘에 따라 순차적으로 논리 조작을 실행하는 장치로서 어떤 계산도 할 수 있다고 생각했다. 이렇게 만든 튜링 머신을 기초로 디지털컴퓨터 기계가 탄생할 수 있었다. (중략) 2차세계대전 동안 튜링은 영국군 암호해독 사령부에서 일했다. 2차세계대전은 암호 전쟁이었고, 독일 수학자들이 만든 암호 체계인 ‘에니그마’는 난해하기로 유명했다. 그런데 튜링이 정수론 수학자들로 구성된 팀을 이끌고 이 암호를 푸는 해독기를 만들어 냈다. 이 기계 덕분에 영국군은 독일군의 암호를 빠르고 완벽하게 해독할 수 있어서 전쟁을 승리로 이끌었다. 튜링은 대영제국 훈장을 받을 만큼 전쟁 영웅으로 대접받고 그의 활약이 영화로도 제작되었다. 하지만 이런 성과가 그에게 불행의 씨앗이기도 했다. 그가 영국의 군사기밀을 너무 많이 알고 있었기 때문에 오랫동안 감시 대상이 된 것이다. (중략)
튜링의 마지막 연구는 인공지능에 관한 것이다. 그는 ‘생각하는 컴퓨터’를 제안하면서 기계의 생각도 사람의 생각과 비슷해지게 할 수 있다고 했다. 그는 기계가 인간을 모방하는 ‘이미테이션 게임’을 통해 기계가 지능을 가졌는지를 판단할 수 있다며 이를 위한 ‘튜링 테스트’라는 개념도 만들었다. 이 주제에 대한 튜링의 논문은 오늘날 인공지능 연구의 기초로 인정받는다. 그가 제안한 ‘생각하는 컴퓨터’는 이미 인공지능 형태로 실현되고 있다. 미래에는 사람과 소통할 수 있는 인공지능이 등장하거나 우리가 미처 예상하지 못한 결과가 있을 것이라는 추측과 함께 우려도 나온다.
-160~161쪽, '뉴턴과 라이프니츠의 미적분학' 중에서


3. 위대하고도 소박한 수학자들을 만나며 수학자를 꿈꾸다
-데카르트, 페르마, 네이피어, 뉴턴과 라이프니츠, 튜링… 행간을 따라 수학자들과 함께 걷다

지금 우리 눈앞에 펼쳐지는 일들은 수학사에서 고대 그리스의 수학과 17세기 과학혁명에 비길 만큼 중요하게 여겨진다.350여 년 만에 페르마의 마지막 정리가 증명되고 푸앵카레 추측도 풀렸다. 밀레니엄 문제 중 가장 어렵다는 리만 가설이 가까운 미래에 풀릴지도 모른다. 그러면 소수 체계의 비밀이 판도라의 상자처럼 열리며 수학이 미처 예견하지 못한 방향으로 나갈 수도 있다. 튜링이 창안한 인공지능 컴퓨터는 이제 인간과 바둑 대결까지 벌인다. 아인슈타인이 100년 전에 일반상대성이론으로 예견한 중력파가 최근 검출돼, 우주로 향한 인류의 꿈을 이룰 날도 앞당겨졌다. 수학적인 상상력과 실천이 미래를 만들고 있다. 그런데도 우리는 여전히 수학을 입시를 잘 치르기 위한 과목으로만 여기고 가르치는 것 같아 안타깝다. 세계수학자대회가 서울에서 열리기도 하고 학업성취도평가에서는 우리 청소년의 수학 실력이 세계 최고 수준을 자랑한다지만, 수학을 싫어하고 포기하는 청소년이 점점 늘어나는 실정이다. 이 책은 ‘수학 포기자’가 된 이들에게 수학의 참맛을 생생히 전달하며 그 재미를 알려 줄 것이다. 또한 독자들이 이 책의 행간을 따라 읽으며, 등장하는 수많은 수학자 중 한 사람이라도 닮고 싶고 수학을 깊이 공부해보고 싶은 마음이 든다면 더할 나위 없는 기쁨일 것이다.

마침내 2002년에는 러시아 수학자 페렐만Grigorii Perelman이 푸앵카레 추측을 풀었다. 이 문제는 100년 가까이 해결되지 못한 채 남아 있던 것이다. 푸앵카레는 문제의 증명 과정 없이 결론에 도달하는 직관이 뛰어난 수학자로 알려졌다. 그가 논문에서 증명 없이 추측을 하나 제기했는데, 이것이 푸앵카레 추측으로 불렸다. “닫힌 3차원 공간에서 모든 폐곡선이 수축되어 점 하나가 될 수 있다면, 이 공간은 반드시 구로 변형될 수 있다.” 이 추론은 구멍이 없고 구형인 3차원 입체를 변형할 때 구의 특징이 모두 있다면 사실상 구로 변형될 수 있다는 것이다. 이를 지구와 같은 거대한 공으로 추측해 볼 수도 있다. 푸앵카레가 논문 끝에 남긴 ‘이 질문은 우리를 아득히 먼 곳으로 이끌 것’이라는 말처럼, 우주의 모양에 대한 상상을 불러일으키는 질문이 될 수도 있다. 이것은 3차원 다양체에 관한 간단한 추론 같았지만 100년 동안 많은 수학자가 매달려도 풀리지 않았다. 물론 100만 달러라는 상금이 걸리자 잘못된 증명들이 난무했다.
2002년 러시아 상트페테르부르크의 스테클로프 연구소에 있던 페렐만은 푸앵카레 추측에 관한 증명을 웹사이트에 올리는 기이한 방식으로 세상에 알렸다. 그리고 이듬해에 CMI가 있는 매사추세츠 주 케임브리지의 MIT 강당에서 그에 대한 강의를 했다. 이 증명에 평생 매달린 많은 수학자가 열광했다가 낙담도 한 순간이다. 논문에 대해 철저한 검증이 진행된 뒤 페렐만은 푸앵카레 추측을 푼 수학자로 인정받았다. 이제 푸앵카레 추측은 확고한 이론이다. 페렐만은 전 세계의 주목을 받으며 2006년 필즈상 수상자로도 선정되었다. 그러나 그는 푸앵카레 추측을 풀고 그것을 세상에 알리는 방식이 특이했던 것만큼 세상의 인정을 받는 데도 남달랐다. 그는 CMI의 상금을 받지 않고 필즈상 수상까지 거부해 시상식에 나타나지 않았다. 그는 “우주의 비밀을 풀었는데 100만 달러가 무슨 필요가 있겠는가?”라고 말하며 수학계의 최고 대우를 거부한 채 잠적해 버려 은둔의 수학자로 불린다. 그는 지금 내로라하는 대학과 연구소를 모두 물리치고 상트페테르부르크의 허름한 아파트에서 어머니와 어렵게 생활하고 있다. 산속에서 버섯을 따며 사는 게 가장 행복하다는 그는 현대의 가장 위대한 수학자이자 괴짜가 아닐까?
-301~302쪽, '밀레니엄 시대의 수학 문제' 중에서