[머니투데이 김고금평 기자] [따끈따끈 새책] ‘다시, 수학이 필요한 순간’, ‘수학으로 생각하는 힘’


과학의 시대, 수학이 다시 핵심으로 떠올랐다. 수학은 수식에만 필요한 학문이 아니라, IT개발자, 예술, 미술, 인문 등 인간의 모든 문명에 영향을 주는 작동 방식이다. AI(인공지능)와 빅데이터가 각종 산업과 개인의 일상에 깊숙이 파고드는 지금, 수학적 사고로 세상의 문제와 사회 현안을 이해하려는 노력들이 계속 이어지고 있다.

최근 발간된 ‘다시, 수학이 필요한 순간’과 ‘수학으로 생각하는 힘’은 수학의 세계가 미친 우리 삶의 전반을 돌아보게 한다.

‘다시…’은 수학적 사고의 형성 과정을 탐색한다. “세상 모든 것이 수”라고 말했던 피타고라스는 변의 길이가 1인 사각형의 대각선이 √2임을 발견한 제자를 살해한다. 유리수만이 수라고 믿었던 그에게 무리수의 존재는 세상의 위기 그 자체였기 때문.

하지만 수천 년이 지난 지금 우리는 √2는 물론 더 정밀하고 훨씬 큰 수의 개념도 당연한 상식으로 받아들이고 있다. 게다가 전염병 감염 추이 그래프가 의미하는 바도 무리 없이 쉽게 이해한다.

책은 또 수 체계의 절대성을 믿은 힐베르트(2장), 알고리즘을 정의하고 기계적인 계산의 불가능성을 발견한 마티야세비치(3장), 수학적 사고를 논리학과 동일시한 철학자들(4장) 등 새로운 사고 틀을 제시하려 고군분투한 당대 수학자들의 경이로운 이야기도 다룬다. 이를 통해 수학이 인간 사고의 도약에 어떻게 기여해왔는지 생생하게 확인시킨다.

전작 ‘수학이 필요한 순간’과 달리, 이번 책은 벡터, 기하, 삼각함수 같은 수식을 대거 도입했다. 벡터가 AI의 학습을 표현하는 도구이며 행렬은 벡터의 공간 변환과 학습 계산을 가능하게 해주는 역할이라는 점을 또렷이 증명하기 위해서다.

아인슈타인의 상대성 이론을 통해 우주의 거대한 구조가 밝혀지듯, 상대론에 영향을 받은 20세기 예술가들과 작품들도 다룬다. 수학의 언어로 예술을 발견하는 과정은 어렵지만, 익숙한 사고의 틀을 벗어난 지적 여행은 그 자체로 남다르다.

‘수학으로 생각하는 힘’에선 특별한 이야기가 재미있게 나열된다. 예를 들어 유방암 선별검사에서 양성 판정을 받았다. 암에 걸린 경우와 그 반대 경우에서 10중 9를 정확하게 구별해낸다고 선별검사는 알려준다. 그럼 암일 확률이 90%인가? 하지만 간단한 수학적 논증을 거치면 이 검사의 양성 판정은 유방암이 아닐 가능성이 압도적으로 높다.

평균 발병률 0.4% 조건에서 50대 여성 1만명이 이 선별검사를 받았다고 치자. 1만 명 가운데 40명은 유방암이고 9960명은 아니다. 유방암 40명 가운데 참 양성은 90%인 36명이다.


문제는 유방암이 아닌 9960명 가운데 10%인 996명이 거짓 양성을 판정받는 데 있다. 양성 판정(참 양성 36명+거짓 양성 996명) 1032명 가운데 36명만이 진짜 암이다. ‘열에 아홉을 정확하게 구별해내는’ 이 검사의 정확도는 3.48%에 불과한 것이다.

검사 정밀도는 두 번째 검사에서 높일 수 있다. 첫 번째 검사는 대개 특이도가 낮은(거짓 양성이 많이 나오는) 선별검사로 진행된다. 값싼 비용으로 잠재적 환자를 최대한 많이 발견하도록 설계하기 때문이다. 두 번째 검사는 대개 진단검사인데, 특이도가 훨씬 높아 거짓 양성 대다수를 걸러낸다. 수학이라는 의심의 눈으로 검사 결과를 보면 불필요한 과정을 피할 수 있다.

또 다른 실용적 예를 수학의 눈으로 보자. 근사한 저녁을 먹기 위해 커플은 몇 개의 식당을 지나친 후 고르는 게 최선일까.

이것은 ‘최적 정지’ 문제로, 한번 지나친 식당은 돌아가지 않는다. 결국 지나치는 식당 수를 몇 개로 정해야 하느냐고 묻는 것과 같다. 너무 일찍 결정을 내리면 사실상 맹목적 선택이어서 성공 확률이 낮다. 너무 오래 따지면 최선의 선택을 지나칠 가능성이 높다.

이 문제 뒤에 숨은 수학은 복잡하지만, 결론적으로 최선의 식당을 선택할 확률은 처음 3.7곳(37%)의 식당을 배제했을 때 최대가 된다고 말한다. 즉, 3곳까지만 평가하고 배제한 뒤 3곳보다 더 나은 식당이 처음 나오는 순간 그곳을 선택하는 것이다.

이 37% 규칙은 대형마트에서 어느 계산대를 고를 것인가부터 최종 배우자를 선택하기 전에 몇 번의 연애를 할 것인가까지 실생활에 유용하게 적용할 수 있는 수학 힌트다.

이 책은 우리가 좀 덜 틀리며 살아가는 법을 알려준다. 방정식도 미분이나 적분 등 어려운 수학 개념어도 등장하지 않는 대신, 꼬리에 꼬리를 무는 이야기는 넘친다. 수학에서 출발해 세상 문제를 통찰하는 여정이 이 책의 목적이다.

저자는 특히 수학의 응용(또는 오용)이 결정적 원인이 돼 사람들의 운명을 확 바꾸어놓은 실제 사건들을 엮어서 들려준다. 에이즈 (거짓) 양성 판정을 받고 지옥 문턱까지 다녀온 사람, 잘못된 알고리즘 때문에 파산한 기업가, 악의적 확률 해석 탓에 두 자녀 살해 누명을 쓴 엄마 등이 대표적 사례다.

이밖에 통계적 속임수에 관련된 윤리적 딜레마도 다루고 선거와 팬데믹, 혐오, 인공지능 등 사회적 쟁점과 얽힌 수학도 살펴본다.

◇다시, 수학이 필요한 순간=김민형 지음. 인플루엔셜 펴냄. 448쪽/1만8800원.

◇수학으로 생각하는 힘=키트 예이츠 지음. 이충호 옮김. 웅진지식하우스 펴냄. 388쪽/1만6800원.

김고금평 기자 danny@mt.co.kr

<저작권자 ⓒ '돈이 보이는 리얼타임 뉴스' 머니투데이, 무단전재 및 재배포 금지>