수학의 즐거움

신 준 국 (충남대학교 수학과 교수)

수학의 역사는 인류의 문화역사 중 아주 오래된 것에 속하며 아마도 이 천년 이상 동안 학교에서 수학은 중심적인 학과목의 하나가 되어 왔습니다. 수학은 형태상으로는 수와 공간 이라는 개념을 바탕으로 세워져 있습니다. 이런 점에서 자연현상과 밀접한 관계가 있습니다. 그러나 수학은 여기서 더 나아가 아주 찬란한 가지와 꽃을 만들어 냅니다. 이런 면에서 예술을 닮고 있지만 적어도 수학을 전공하는 사람들은 수학에서 그것을 훨씬 진하게 느낍니다. 19세기의 수학자 야코비의 표현을 따르면 수학은 '인류의 지적 정신의 영광'입니다.

적어도 훌륭한 수학자는 대부분 자기의 직업이 즐거운 것이라고 생각합니다. 애를 써도 잘 풀리지 않던 문제가 갑자기 풀리고 명확해지는 황홀한 겨우 몇 분을 위하여 수개월 또는 수년 동안 고통을 이겨내는 것입니다. 위대한 수학자에게는 이런 황홀한 순간이 자주 일어난다고 합니다. 그러나 대부분의 사람들에게는 이런 일이 일생에 한두 번 일어날까 말까 합니다. 그것도 굉장한 노력을 하고 있는데도 말입니다. 그러나 이런 기쁨은 세상의 다른 어떤 기쁨과도 비교할 수 없는 것인 듯합니다. 무엇이 수학자로 하여금 강한 집념을 가지 고 수학을 추구하게 하는 것일까요? 이에 대한 답은 아마도 '산이 그곳에 있기 때문에 오른다.'고 말한 등산가의 본능과도 같은 것입니다. 수학에 있어서 몽블랑이나 에베레스트와 같은 산에 해당하는 것은 몇 세기동안이나 누구도 풀지 못했던 문제들이라고 할 수 있습니다.

17세기 프랑스 수학자 페르마가 디오판토스의 저서 <아리스케티카>의 여백에 남긴 "$x^n ＋y^n = z^n$, $n$이 $3$이상의 정수일 때, 이 방정식을 만족하는 정수해는 존재하지 않는다. 나는 경이적인 방법으로 이 정리를 증명했으나 이 책의 여백이 좁아 여기 옮기지 않겠다."는 이 한 마디에 지난 350여 년간 수많은 수학자들을 고통에 빠뜨렸으나 영국의 수학자 앤드루 와일즈 가 이를 증명하는 데 성공하여 1997년 <볼프스켈 상>을 수상하게 되었음을 알고 있습니다. 그의 소년 시절 시골 도서관에서 이 <페르마의 정리>와 처음 접하는 순간 그것을 증명하는 데 일생을 걸기로 맹세했던 그의 꿈이 40대에 실현되었던 것입니다.

최근에는 더욱 더 많은 분야에 있어 수학의 이론이 적용되어 가고 있습니다. 이를테면 스포츠 분야도 그 예외가 아닙니다. 처리속도가 빠른 컴퓨터가 이용될 수 있기 때문에, 회귀 분석이나 이에 관련된 통계적 수법이 운동 경기의 분석이나 축구경기의 전략결정에도 점차 이용되어 가고 있습니다. 그리고 비행기의 좌석 예약에도 과잉예약이나 공석이 있는데도 타 지 못하는 일이 없어진 것은 결코 우연이 아니며 치밀한 통계적 분석에 의한 처리방법이 도입된 결과입니다. 같은 방법으로 확률론의 세련된 분야인 차례 기다리기 행렬에 관한 이론 은 불필요한 보조 회선을 설치하지 않아도 전화회선의 설계와 같은 문제의 해결에 있어 도움이 되고, 비용을 절감시키는 결과를 가져오고 있습니다.

수학이 이와 같이 넓은 분야에서 또 상상하지도 못한 분야에서 쓰이기는 하지만 추상적이기 때문에 오늘날의 수학을 알기 쉽게, 그러나 왜곡되지 않게 소개한다는 것은 매우 어려 운 일입니다. 더욱 어려운 일은 경험적 사실에 기초를 둔 다른 학문과는 다리 수학의 연구 는 다방면에 관련된 과제와 문제에 초점을 두고 있다는 일입니다. 그러므로 수학에는 모든 사람에게나 납득될 수 있는 기본적인 과제가 없습니다. 수학을 잘 알지 못하는 사람에게는 수학은 낱낱으로 갈라진 단편적인 학문으로 받아들여지기가 쉽습니다. 그러나 최근의 눈부신 수학의 발전을 보게 되면 겉보기에는 전혀 관계없이 보이는 분야의 발상이나 수법이 서로 긴밀한 유대를 가지고 있음을 발견하고 놀라지 않을 수 없습니다. 현대 수학의 대부분은 추상적이고 전문가 이외의 사람에게는 이해하기 어렵기는 하지만 최근의 착상과 수법의 진보는 과학과 일상생활에 있어 많은 문제를 해결하는데 큰 도움을 주고 있습니다.

예를 들면, 1917년 오스트리아의 수학자인 라돈은 '이변수 함수 $f(x,y)$를 평면의 모든 직선에서의 적분 값으로부터 재구성할 수 있다'는 라돈의 정리를 밝혔습니다. 이것은 단순한 퀴즈 문제에 지나지 않는 것 같이 보이지만 실제로는 그렇지가 않습니다. 라돈 자신은 그렇게 생각하지 않았겠지만 라돈의 정리를 세 변수 함수로 확장시킨 정리 곧, '세 변수 함수를 삼차원 공간에서 모든 평면 위의 적분 값으로부터 재구성할 수 있다'라는 이러한 정리는 X-선 단층사진 촬영법(CAT)이라는 컴퓨터를 이용한 의료기기 개발의 수학적 기초가 되었습니다. 그래서 이 같은 일에 대해서 노벨 생리의학상이 1979년에 코맥에게 수여되었습니다. 19세기의 위대한 수학자 가우스는 3차원 유클리드 공간의 곡면에 관한 연구에서 가우스 곡률이라고 불리는 곡면의 고유한 곡률을 측정하는 방법에 관해서 획기적인 발견을 하였습니다. 이 이 론에 의하면 곡면위에서 살고 있으면서도 그 표면이 3차원 공간상에서 굽어져 있는 사실을 모르고 있는 생물이라도 그 곡면에서 적절한 측량을 하면 주어진 점에서 곡면이 얼마만큼 굽어져 있는지를 계산할 수 있습니다. 가우스에 이어서 리만은 곡면의 이론을 일반화하고 다차원 공간의 곡면이론을 전개시켜, 현재 리만 기하학이라고 불리고 있는 미분기하학의 기초를 쌓았습니다. 이러한 리만의 업적은 중력 이론을 밝히기 위하여 적절한 수학적 도구를 찾고 있던 아인슈타인에게 알려져 1916년에 그 유명한 일반상대성 이론을 완성하게 되었습니다. 이밖에도 수학의 동력학계 이론은 플라스마물리 등 핵융합 이론과 현대경제학에서 큰 역할을 하고 있으며 위상수학의 매듭이론은 분자 생물학에 DNA의 구조를 설명하는데 결정적인 공헌을 하였습니다. 한편 그라프 이론은 20세기의 전자공학, 특히 컴퓨터 공학에서 는 기본적인 이론으로 대두되고 있습니다. 또 지도 색칠이라는 4색 문제 자체는 모든 배치 의 문제, 경제학으로부터 컴퓨터의 정보 기억문제에 이르기까지 넓게 적용되고 있습니다.

또한 수학은 실생활에서도 밀접한 관련이 있으며 그 응용성이 훨씬 높습니다. 세일즈맨 이 N개의 도시를 방문하기로 되어있고, 도시 상호간의 교통비는 이미 알고 있다고 할 때, 모든 도시를 지나면서도 가장 적은 비용이 들게 순서를 정하는 문제가 순회 세일즈맨의 문제입니다. 이 문제는 일반적으로 자원 분배문제라고도 불리는 문제의 한 형태입니다. 이 문제를 풀려고 하면, 모든 가능한 순서를 생각하고 이 비용을 비교하지 않으면 안 됩니다. 그러나 도시의 수가 아주 클 경우에는 가능한 순서의 수가 아주 커져서 실제로 이 문제를 사람의 머리로만 푼다는 것은 불가능할 것입니다. 따라서 컴퓨터가 이와 같은 문제를 푸는데 있어서 얼마만큼 시간이 짧게 걸리는가 하는 문제는 매우 흥미로운 문제가 됩니다. 이 문 제는 그 자체가 수학적으로 아주 어려운 문제일 뿐만 아니라, $n$차원 공간의 다면체와 같은 순수한 수학에 관한 수많은 문제와 밀접한 연관이 있어 그 응용범위가 넓습니다.

최근에 활발히 연구되고 있는 분야로는 컴퓨터 수학이 있습니다. 이 분야는 튜링과 폰노이만이 1930년대에 이룩한 선구적인 업적 이후 급속히 발전되어 오고 있습니다. 현재의 목표 가운데 하나는 경제학, 공학을 비롯한 많은 분야에서 쓰이고 있는 일반 선형계획을 푸 는 알고리듬의 개선입니다. 이 분야를 푸는 컴퓨터 알고리듬은 보다 빨리, 보다 간단하게 되어가고 있지만, 이런 알고리듬의 분석연구는 현대 사회에서 가장 중요한 기계인 컴퓨터의 발전에 크게 영향을 줄 것입니다.

정보과학의 노벨상이라고 할 수 있는 튜링상의 수상자인 코넬대학의 하프크라프트교수는 로봇과 같은 기계의 제조에도 더 깊은 수학의 결과를 습득해서 응용하지 않으면 그 분야는 머지않아 침체될 것이라고 말하고, 수학과 대학원 수준에 해당하는 대수곡선의 리만 록크 정리와 대수 위상수학의 마이어 비토리스정리를 예로 들면서 설명하고 있습니다. 물리학이 아닌 다른 과학 기술 분야에서는 수학을 외면하려는 것이 일반적인 경향입니다. 그 이유는 수학이 어렵고 또 수학을 쓰지 않더라도 실험적이나 경험적인 추론에 의해서 연구를 할 수 있다고 믿기 때문입니다. 그러나 하프크라프트는 바로 이점을 지적하면서 앞으로 과학기술 을 더욱 발전시키려면 더 높은 수준의 수학을 응용해야 한다고 말하고 있습니다. 이 같은 문제의 책임은 우리 수학자들에게도 있습니다. 수학이 어떻게 응용되는가를 알기 위해서 는 다른 학문을 연구하는 사람들과의 대화를 필요로 대화를 필요로 하는데, 근본 개념과 용어가 다르기 때문에 의사소통에 어려움이 따릅니다. 그러므로 수학자들은 응용의 대상이 되 는 다른 분야의 언어부터 습득해서 실제 문제가 무엇인지, 그리고 그것을 어떻게 수학적인 문제로 바꾸어야 하는지를 먼저 해결해 나아가야 합니다.

수학 특히 순수수학의 사회공헌에 대하여 부정적인 태도를 가지고 있는 사람도 가끔 만납니다. 그러나 그런 사람들도 응용수학에 대해서는 아주 긍정적입니다. 수학의 역사에는 순수 수학이 중심이었고 앞으로도 그럴 것입니다. 이것은 응용수학의 본질을 발견한다는 것입니다. 최근에는 많은 순수수학자들이 응용수학을 비롯하여 경제학, 경영학, 계산기학, 물리학 등에 큰 업적을 내고 있습니다. 19세기에 많은 수학자들이 고전역학을 발전시켰는데, 그 당 시에 많은 사람들은 수학자들이 역학을 어렵게 만든다고 비판하였습니다. 그러나 이때 만들 어 놓은 해밀턴역학이나 라그랑지 역학은 20세기에 탄생한 양자역학의 발전에 필수적인 것이 되었고 요즈음은 학부과정에서도 으레 해밀턴역학의 발전에 필수적인 것이 되었고 요즈음은 학부과정에서도 으레 해밀턴역학과 라그랑지 역학을 배웁니다.

수학자에게는 앞에서 이야기한 「창조의 기쁨」 이외에 매일 「새로운 것을 알아간다는 기쁨」도 있습니다. 예술가의 훌륭한 작품에서도 기쁨을 발견하는 것과 같이 말입니다. 다른 사람이 만들어 놓은 훌륭한 수학을 이해한다는 것도 역시 즐거운 일입니다. 처음에는 피상 적인 이해에서 기쁨을 얻습니다. 그러다가 다른 것과의 관계를 발견하고 더 즐거워합니다. 그러고는 매우 드물지만 새로운 영역을 발견하고는 창조의 큰 기쁨을 맛보는 것입니다.

수학자의 또 하나의 기쁨은 가르치는 데서도 찾을 수 있습니다. 수학의 여러 훌륭한 아이디어를 다른 사람에게 전달하는 것은 매우 즐거운 일입니다. 학부 1학년 과정의 수학을 가르치는 데서도 기쁨을 얻습니다. 그리고 수학자들과 서로 의견을 교환하고 새로운 사실을 알아 가는 것은 더욱 즐겁습니다.

대학에서 수학을 공부하는 가장 근본적인 이유 중의 하나는 위에서 열거한 사례 외에도 자 신의 분야에서 추상적인 구조를 파악하는 힘을 배양한다고 생각합니다. 앞으로 우리 수학자들이 개방된 마음가짐과 인내심을 가지고 꾸준히 노력함에 따라 우리나라의 수학연구는 더욱 많은 발전을 하게 될 것입니다.

[출처] http://math88.com.ne.kr/text1/math-sin.html