[책] 페르마의 마지막 정리

[책] 페르마의 마지막 정리

페르마의마지막정리 카테고리 과학 > 청소년 교양과학 지은이 사이먼 싱 (영림카디널, 2004년) 상세보기

프랑스의 수학자가 문제를 내고, 결국 영국의 수학자가 미국에 사는 동안 답을 했다. 그 과정에 일본의 수학자들이 중요한 역할을 했다. 독일의 수학자도 한 몫 했다.

프랑스의 수학자: 피에르 드 페르마

영국의 수학자: 앤드류 와일즈

일본의 수학자들: 타니야마, 시무라

독일의 수학자: 프레이

추리소설도 아니고, 스릴러도 아니고, 공상과학소설도 아닌데, 너무나 흥미진진해서 도저히 책에서 손을 놓을 수가 없었다. 아주 오래 전부터 제목만 알고 있었던 책이다. 뭐 뻔한 이야기겠지 하면서 그냥 지나쳤던 책. 책방에서 봐도, 도서관에서 봐도 그냥 그런 책이 있구나 하면서 넘어갔던 책. 그 책을 드디어 찾아서 봤다.

얼마 전 교회의 친구에게 이런 말을 했었다.

나: 나 요즘 호기심을 잃었다. 과학자에게는 안 좋은 일인데.

친구: 아마 박사과정을 마치고 나면 호기심을 되찾게 될 거야.

나: 호기심을 되찾도록 기도 좀 해주라.

호기심을 잃은 과학자는 죽은 거나 다름 없다. 의무감이나, 성공, 경제적 안정을 위해 연구를 한다는 건 그저 부수적인 것일뿐. 스스로 자신의 연구 결과가 어떻게 나올지 궁금해 해야한다. 그런데 한 동안 나는 내 연구결과가 궁금하지 않았다. 그래서 책 한 권을 읽어보기로 했다. 오래도록 수학자들을 괴롭혀왔던 페르마의 대정리를 드디어 풀어낸 끈기의 수학자 앤드류 와일즈의 이야기를 읽어보기로 한 것이다.

와일즈는 10살 때 동네 도서관에서 한 수학책을 본다. 그 제목이 대충 이런 것이다. "마지막 남은 수학문제" 그걸 펼쳐보면서 페르마의 대정리를 만난다. 그리고 설레이는 마음으로 그 정리의 증명이 궁금해서 책의 마지막장까지 넘겨가며 읽는다. 그런데 그 책에는 증명은 없고 "증명은 없어졌다."는 말만 써 있었다. 와일즈는 마치 사기 당한 느낌이었다고 한다. 그러면서 동시에 자기가 그걸 증명해야 겠다는 운명같은 것을 느꼈다고 한다.

10살짜리 소년이 수학문제 하나에 인생을 걸다니. 그런데 그 소년의 모험은 30년간 계속된다. 나도 어릴 때 페르마의 대정리를 봤다. 아마 중학생 때였던듯. 그렇지만 그걸 내가 풀겠다는 생각은 안 해봤다. 그런데 와일즈는 그 문제를 그냥 재미로만 본 것이 아니다. 그걸 풀기 위해 엄청난 양의 수학을 직접 공부하며 찾아보았던 것이다. 그리고 30년 뒤에 그 멋진 증명을 사람들 앞에서 발표하기에 이른다. 그게 바로 1993년의 일이다. 내가 중학생 때.

그걸 풀기 위해 많은 수학을 공부하던 그는 캠브리지에 들어가서 수학을 전공하게 된다. 그리고 대학원에 가서 페르마의 정리를 해결하고 싶었지만, 그의 지도교수는 그에게 정수론의 한 부분인 타원방정식에 대한 연구를 하도록 한다. 운명이 도와준 것인지, 결국 와일즈는 이 타원방정식을 써서 페르마의 대정리를 푼다. 그걸 풀기 위해 무려 7년 동안 학회 활동도 하지 않고, 세미나도 하지 않고, 다른 사람들과 토론도 최대한 자제하면서 혼자서 문제를 해결한다. 7년의 수도생활을 한 셈이다.

1993년 많은 사람들 앞에서 무려 사흘 동안이나 멋지게 발표를 하고 페르마의 그 유명한 식을 칠판에 쓰고는 말한다. "이쯤에서 멈추는 게 좋겠습니다." 그 때 사람들이 일어나 엄청난 박수를 보내고 기자들은 조명을 터뜨리며 사진을 찍어댄다. 7년의 연구결과가 결실을 맺는 순간이었다.

이 발표결과를 잘 정리해서 논문으로 내기 위해 투고한다. 심사위원들도 공개된 상태에서 앤드류 와일즈와 심사위원들 사이에 전자우편을 주고 받으며 심사를 진행한다. 작은 오류들을 바로바로 수정하면서 심사를 진행하던 중에 1993년 8월, 닉 카츠라는 심사위원이 어떤 사소한 문제를 지적한다. 그 문제가 쉽게 풀릴 줄 알았는데, 자세히 들여다보니 매우 근본적인 문제였고, 그게 해결되지 않을 경우 논문 전체의 근본이 흔들리는 문제였던 것이다. 와일즈는 심각해졌다. 그리고 지난 7년보다 더 엄청난 압박에 시달렸다. 수도승 같이 지냈던 7년의 시간은 외로웠지만 행복했다. 자신이 목표했던 문제의 답에 점점 다가가는 것이 느껴졌기 때문이리라. 그런데 발표를 공개적으로 하고 나서의 상황은 달랐다. 사람들은 발표가 끝났는데 왜 논문을 공개하지 않느냐며 물어보기 시작했고, 기자들도 자꾸 캐묻기 시작했다. 말하기 좋아하는 사람들은 와일즈 교수의 증명도 사실은 실패로 끝난 것이 아니냐며 수군거렸다. 그런 지옥같은 시간을 보내게 된 것이다.

다행히도 1년 뒤 리차드 테일러의 도움을 받아 와일즈 교수는 이 문제를 해결한다. 처음 논문 한 편과 이 문제를 해결한 또 다른 논문이 더해져서 페르마의 마지막 정리를 증명하게 된다. 무려 200쪽이 넘는 양이다. 그러니 페르마가 여백에 써 넣을 수는 없었겠지.

꿈을 발견하고, 그 꿈을 향해 30년 동안 달려온 놀라운 사람의 이야기를 보면서 참 대단하다는 생각을 했다. 진정한 학자가 풀기 어려운 문제를 대하는 자세는 이래야하지 않을까.

나의 호기심과 연구 의욕이 되살아나길 바라며 읽은 책. 이젠 연구결과에 미친듯이 궁금해하기로 마음먹었다. 글 마친다.