수학의 함정

“물리학자들은 수학이 아니라
수학의 선택에서 실패했다.”

만물의 이론을 찾는 하와이의 서퍼,
다중우주 때문에 정신과 의사를 찾은 물리학자,
노벨상을 수상한 석학에 이르기까지

아름답고 우아한 수학을 좇으며 40년을 허비한 물리학자들
물리학계의 현재를 젊은 여성 물리학자가 파헤친다!

도대체 이론물리학에 무슨 일이 생긴 걸까? 자비네 호젠펠더의 『수학의 함정』은 아름다움에 대한 추구가 어떻게 현대의 이론물리학을 위기로 몰아넣었는지를 통렬하고 날카로운 비판과 도발적인 인터뷰로 낱낱이 파헤치는 교양과학 도서다.
20세기는 ‘물리학의 세기’라고 말해도 과언이 아니다. 20세기 초 상대성이론과 양자역학으로 시작된 물리학의 혁명은 자연과 우주에 대한 우리의 이해를 바꿨다. 이론물리학은 시간이 관찰자에 따라 상대적으로 흘러간다는 것, 아주 작은 영역에서는 온갖 기이한 일들이 벌어진다는 것, 우주가 가속 팽창하고 있다는 것, 삼라만상을 24종류의 입자와 4가지 기본 힘으로 설명할 수 있다는 것을 밝혔다. 새로운 지식은 물질적 풍요와 사회적 변화를 가져왔다. 승승장구하는 이론물리학자들은 곧 더 원대한 꿈을 꿨다. 그들은 모든 힘을 통일하고 만물을 설명할 수 있는 단 하나의 법칙을 찾을 수 있다고 장담했고, 수십억 달러를 들여 거대한 가속기와 검출기, 우주망원경을 제작했다. 아인슈타인, 보어, 슈뢰딩거, 파인만, 호킹 등 전설적인 천재 이론물리학자들은 자연의 비밀을 파헤치는 탐험대의 선봉에 섰으며, 많은 존경을 받았다. 그야말로 영광의 시대였다.
이론물리학의 성공은 21세기에도 계속 이어지고 있다. 물리학자들은 힉스 입자를 발견했고, 중력파를 관측하는 데 성공했다. 그리고 이제는 더 크고 강력한 실험장비가 필요하다고 목소리를 높이고 있다. 대중은 궁극의 진리를 찾아 분투하는 물리학자들을 응원하고, 물리학의 밝은 미래를 전망하는 대중과학서들이 출간된다. 겉으로 보기에는 아무런 문제가 없어 보인다. 과연 그럴까?

힉스 입자를 확인하는 데는 거의 50년이 걸렸고, 중력파를 직접 검출하는 데에는 100여 년이 걸렸다. 이제는 자연의 새로운 기본 법칙을 실험하는 데 걸리는 시간이 과학자의 인생 전체보다 길어질 수도 있다.

“내가 속한 세대는 깜짝 놀랄 만큼 이렇다 할 성과를 내놓지 못했다.” 이론물리학자인 자비네 호젠펠더는 지난 40여 년 간 자신이 몸담은 학계가 이룬 성과를 냉정하게 평가한다. 그의 주장에 따르면 이론물리학자들은 수십 년 동안 어떤 새로운 법칙도, 유의미한 예측도 도출하지 못했다. 대신 그들은 만물이 너무나도 작아서 눈에 보이지 않는 끈으로 이루어져 있고, 아직 발견되지 않은 수십 개의 입자가 있고, 우리가 사는 우주가 11차원이며, 심지어 우리가 닿을 수 없는 곳에 수없이 많은 다중우주가 있다고 주장했다. 이론물리학자들이 이런 가설들을 만들고 지지하는 이유는 단 하나, 이 가설들이 ‘너무나도 아름다워서 진실이 아닐 리 없다’고 믿기 때문이다. 하지만 호젠펠더는 이렇게 대꾸한다. “내가 아름답다고 생각하건 말건, 자연법칙이 내 생각에 왜 관심을 두겠는가?”
『수학의 함정』은 오늘날의 물리학 연구에 미학적 판단이 어떻게 작용하고 있는지 그 실태를 추적한 책이다. 호젠펠더는 이론물리학자들의 주장 밑바닥에 깔린 가장 근본적인 믿음을 파헤친다. 그는 이론물리학자들의 저서, 강연, 논문 등 방대한 자료를 인용하지만, 가장 인상적인 것은 그의 인터뷰다. 니마 알카니-하메드, 스티븐 와인버그, 프랭크 윌첵, 조지프 폴친스키, 조지 엘리스 등 노벨 물리학상을 받거나 중요한 연구를 수행한, 이론물리학과 우주론 분야의 석학들에게 호젠펠더는 날카로운 돌직구를 던진다. 호젠펠더는 마치 소크라테스가 끝없는 질문으로 상대방의 무지를 일깨웠던 것처럼 끝없는 질문을 통해 이론물리학자들의 미학적 기준의 밑바닥에 어떠한 논리도 없다는 것을 보여준다. 과학자들의 대화를 보면서 독자는 물리학자 역시 인간에 불과하며, 감정과 편향을 가지고 있고 사회에 영향을 받는 존재라는 것을 새삼 깨닫게 된다.

“역사가 끊임없이 갈라지는 게 불가능하다는 걸 증명할 수 있었으면 좋겠어요. 물론 증명할 수 없습니다. 난 그게 역겨워요. 그런 생각을 떠올린 사람들은 당연히 역겹지 않겠죠. 하지만 난 아무래도 역겹습니다.”
또한 호젠펠더는 대부분의 이론물리학자들이 수학적 아름다움이라는 주관적인 기준을 사용하는 것에 어떤 문제의식도 없으며, 따라서 이를 해결하려 들지도 않는다고 말한다. “[그들은] 많은 사람이 어떤 아이디어를 연구한다면 거기에는 틀림없이 뭔가 있다고 믿을 뿐 아니라, 그것이 공공연하게 밝혀도 좋을 만한 논거라고 믿고 있다.” 심지어 몇몇 학자들은 과학적 방법론을 수정해서 ‘실험적 검증’이라는 항목을 제외해야 한다고 주장한다. 저자는 이런 주장들이 이론물리학계를 내부에서부터 좀먹고 있다고 비판한다. 더 나아가 “우리가 새로운 철학을 받아들여 사실 외의 것을 근거로 이론을 선택한다면, 그게 물리학에서 그치겠는가?”라며 이론물리학의 위기가 과학 전반에 대한 신뢰가 하락되는 결과를 낳을 수 있다고 경고한다.
그렇다면 우리는 무엇을 해야 할까? 호젠펠더는 과학자 사회 전반이 나서야 한다고 말한다. 과학자 개개인이 편향에 빠지지 않도록 주의하는 동시에 그런 편향을 (완전히 제거하지는 못하더라도) 줄일 수 있는 체계적인 시스템이 마련되어야 한다는 것이다. 과학계의 자성을 촉구하는 호젠펠더의 글에서 독자는 이론물리학에 대한 통렬하고 냉소적인 비판과 함께 자신이 몸담은 학문이 제 역할을 되찾기를 바라는 이론물리학자의 애정과 헌신을 느낄 수 있다.


추천사 김민형 (영국 워릭대학교 수학과 석좌교수, 『수학이 필요한 순간』 저자)
“『수학의 함정』에서 호젠펠더는 명료하면서도 간결한 글로 복잡한 ‘과학사회학’을 설명한다. 그 과정에서 어려운 이론을 절묘하게 요약하기도 하고 유명 물리학자들의 열정적인 헌신을 독특한 유머감각으로 묘사하기도 한다. 이 책은 과학자들의 사회를 다룬 책 중에 상당히 특이하다. 무엇보다도 옛날이야기가 아니라 현시대 과학자들의 어렵고도 중대한 관심사를 예리하게 포착했다는 점이 그렇다. 저자는 자신이 물리학자이면서도 외부인의 눈으로 동료들의 사회상을 관찰할 줄 아는 객관성을 지니고 있다. 이 책의 독자는 이런 보기 드문 통찰력을 즐기면서 물리학자들의 직관, 감정, 인간관계 등의 작용을 일목요연하게 관람할 기회를 가질 것이다.”