서울 남산 한옥마을을 찾은 어린이가 굴렁쇠를 굴리며 즐거워하고 있다. 바퀴 위의 한 점이 그리는 궤적이 사이클로이드다. 한겨레 자료 사진

<이미지를 클릭하시면 크게 보실 수 있습니다>

수학의 아름다움이 서사가 된다면
모비 딕의 기하학부터 쥬라기 공원의 프랙털까지
새러 하트 지음, 고유경 옮김 l 미래의창 l 1만8500원

“(고래기름을 정제해 기름을 만드는 초대형 가마솥) 그곳은 또한 심오한 수학적 명상을 위한 장소이기도 하다. 내 주위를 둘러싸고 있는 냄비 속의 비눗돌을 보면서 나는 기하학에서 사이클로이드를 따라 미끄러지는 모든 물체, 예를 들어 비눗돌이 정확히 같은 시간에 어느 지점에서 내려올 것이라는 놀라운 사실을 처음 깨달았다.” ‘아주 드문 존재’만이 허먼 멜빌의 ‘모비 딕’에서 이런 문장을 발췌할 것이다. 모르는 단어가 있다. ‘사이클로이드’. ‘사이클로이드’는 원 위의 한 점이 굴러가면서 그리는 궤적을 말한다. 자전거 바퀴에 형광등을 달고 어둠 속에서 굴릴 때 생기는 궤적이라고 생각하면 된다(그림 참조). 가마솥은 사이클로이드 궤적을 뒤집은 모양이다.

그림. 사이클로이드 궤적

멜빌은 1851년 ‘모비 딕’ 출판 뒤 혹평에 절필하고, 생의 마지막 20년을 세관에서 일하다 무명으로 세상을 떠났다. 소설을 써 받은 인세가 556달러에 불과했다. ‘모비 딕’ 이전 작품에서 수학적 비유가 넘쳐나자 편집자는 ‘폴리네시아의 젊은 여성들에 대해 쓰는 것만큼 수익성이 없을지도 모른다’고 ‘문학적’으로 우려했다. 앞에서 보시다시피, 멜빌의 “형이상학도, 원뿔 곡선도, 케이크와 에일 외에는 아무것도 없을 것”이라는 말은 편집자를 안심시키는 말에 불과했다.

멜빌을 연구한 학자에 따르면 어린 시절 멜빌이 다닌 학교의 산술 선생이 ‘유도계수’ 단위에 이름이 남은 조지프 헨리였다. 멜빌은 헨리 선생님으로부터 능력을 인정받아 상을 받았는데, 부상이 ‘시집’이었다. 이 정도면 문학과 수학을 좇는 모험에서 박진감 넘치는 순간이지 않은가.

한국에서 수학을 가장 많이 수식하는 형용사는 ‘지긋지긋’일 텐데, ‘수학의 아름다움이 서사가 된다면’의 제목에는 수학의 서술어로 ‘아름답다’가 온다. 예술과 수학이 어울린 문장을 가져와 보았다. 러시아의 수학자 소피야 코발렙스카야는 “시인의 영혼을 가지지 않으면 수학자가 될 수 없다”고 했고, 미국 천체물리학자 닐 디그래스 타이슨은 “예술가에게 수학은 도저히 뿌리칠 수 없는 뮤즈”라고 말했다. 안타깝게도 두 명 모두 수학자, 과학자다. 새러 하트는 시인·소설가 중 ‘수학이 아름답다’고 했을 법한 사람을 찾아 나섰다. 허먼 멜빌은 그중 확신범이다.

런던대학교 수학과 교수로 재직했고 현재 그래셤 기하학 교수인 하트는 ‘책이 좁다’ 외치는 달변가이며 ‘이러다 안 팔리겠네’라는 소심한 사람이지만 ‘무한의 수학자’다. ‘아름다움’은 개인의 심상이니, 그 미지의 영역까지 이끌렸는지는 차치하고, 문학 속에서 수학을 발견해서 상대방이 고개를 끄덕일 때까지 밀어붙이는 열정적 안내자다. 못 말리는 농담은 독자들이 뛰어넘어야 할 허들이다. “세상에는 10종류의 사람이 있다. 이진법을 이해하는 사람과 그렇지 않은 사람” 이런 농담을 막 내뱉는다. 10은 이진법으로 2를 말하며, 앞의 문장은 10진법으로는 ‘세상에는 2종류가 있다’는 말로 바꿀 수 있다.

허먼 멜빌 외에도 저자가 수학을 통해서 더 잘 이해할 수 있다고 거론한 작가에는 조지 엘리엇, 레프 톨스토이, 제임스 조이스가 있다. 수학은 난해하기로 유명한 제임스 조이스를 풀 열쇠가 되는 것일까. 조이스는 수학 기호와 개념을 문장 속에 자주 가져오고, 평론가들은 프랙털을 발견했다, 양자 물리학을 예상했다고 평가하기도 한다. 검색해보면 한국 제임스 조이스 학회에서 나오는 ‘제임스 조이스 저널’에는 ‘‘작은 구름’에서 숫자 “8”과 무한대의 딜레마: 8년 만의 만남을 중심으로’(2022)라는 논문이 있다. 숫자 8을 옆으로 누이면 무한대(∞)가 되는 것에서 착안했다. 그런 천하의 제임스 조이스조차 수학자 앞에서 수학 리포트를 써낸 학생이 된다. 천둥소리를 표현하는 백 글자 단어를 만들고, 그 단어들 글자 수의 합이 1001개가 되는 것으로 “문화적 울림을 가진 또 다른 상징적 숫자”를 만들었다는 평가를 받기도 하지만, 화려한 숫자 서술의 향연 중 ‘9의 9제곱의 9제곱’과 ‘9의 ‘9의 9제곱’’을 구분하지 못한 점 등이 ‘적발’되고 만다.

수학자에게 식겁할 정도로 당하는 것은 조이스뿐만이 아니다. 조너선 스위프트의 ‘걸리버 여행기’에서 12배의 거인은 뼈가 부러질 것이다. 뼈는 구조적으로 몸의 무게의 10배밖에 견디지 못하기 때문이다. 12배 작은 릴리퍼트 인간은, 인간이 25개의 사과를 먹는 것과 유사한 열량을 내려면 161개의 사과를 먹어야 하는데, 그것이 ‘수확’상으로 가능할지 의문이다. 릴리퍼트 인간은 수영도 불가능하다. 장력 때문에, 물에 들어갔다가 나오는 순간 인간으로 환산하면 10㎏의 물코트를 입게 되는 셈이다. ‘반지의 제왕’ 호빗의 음주 습관 역시 걱정을 산다. 호빗은 인간의 술집의 파인트 잔(568㎖)을 보고 기뻐하지만 그것을 다 마셨다가는 큰일 난다. 107㎝지만 ‘성인’으로 인정돼 인간의 술집에 들어갔겠지만, 알코올 효과는 부피에 비례하므로 인간의 1파인트는 호빗에게는 5파인트에 해당한다. 수학자의 일갈은 릴리퍼트 마을에 내리는 비처럼 가차 없이 이어진다. 인정사정없는 비평가였던 에드거 앨런 포 역시 ‘황금 풍뎅이’의 암호 설정에서 잘못을 저지른다. 의외로 암호 분야에서 수학자의 칭찬을 받은 소설가는 오 헨리다.

책의 1부는 시의 수학적 패턴과 구조 자체를 문학으로 가져온 울리포 모임, 2부는 수학이 문학의 문장에서 나오는 사례, 3부는 수학을 본격으로 언급하는 문학을 다룬다. 저자에게 한국의 작가들을 내밀고 분석을 맡기고 싶다. 특히 수학적으로 글을 쓴 이상의 시를 본다면 어떻게 해석할지 궁금하다.

“만약 각 도시가 체스 게임과 같다면, 내가 규칙을 배운 날, 나는 마침내 제국을 소유하게 될 것이다. 비록 그 제국에 있는 모든 도시를 결코 알지 못하더라도.” 이탈로 칼비노의 ‘보이지 않는 도시들’ 8장에서 쿠빌라이 칸이 체스 게임에 대해 하는 말이다. 체스는 8×8 정사각형에서 진행된다. 칼비노의 소설에서는 수학적 완결성이 필수불가결한 요소다. 수학이란 여러 가지 가능성(예시)에서 결론(수식)을 만들어낸다. 저자가 깜짝 놀랄 만큼 많은 문학적 사례들이 가득 찬 책을 쓴 것은 그런 훈련의 결과일 것으로 보인다. 이것이 바로 수학의 힘이다.

구둘래 기자 anyone@hani.co.kr