[퍼온글] 행렬 이론의 과거와 현재 - 2. 선형대수학의 르네상스

※ 출처 - 선형대수학 멀티미디어 교재

선형대수학의 르네상스

선형대수학의 '르네상스'가 제2차 세계대전후에 오게된 이유에 대한 답은 우선, 제2차 세계대 전중 효과적인 군수지원을 위해 개발된 선형계획법의 효과와 이를 통해 미국이 갖게 된 행렬이론 의 중요성에 대한 인식이며, 동시에 컴퓨터의 개발에 따른 계산 능력의 향상에 있다. 사실 컴퓨터 의 개발에 대한 집중적인 투자가 이루어진 것도 이런 이론을 활용할 수 있다는 자신감이 있었기 때문이다. 흥미로운 사실은 선형대수학을 실질적으로 시작한 Cayley와 최초로 현대적인 계산기를 만든 Babbage는 유럽대륙 중심의 당시 수학계와는 거리가 있는 영국의 수학자였다는 것이다. 또, 2차 세계대전 후에 현대적인 컴퓨터의 발전과 더불어 행렬이론의 수치해석적인 장점이 부각되면서 유럽중심의 수학계에 의해 역시 한수 아래로 여겨졌던 미국에서 행렬이론이 크게 발전했다는 사실 도 관심을 끈다. 즉, 선형대수학의 '르네상스'와 현대적인 디지탈 컴퓨터의 발달은 불가분의 관계에 있다. 손으 로 문제를 풀어야 할 때는 유한이라도 크기가 커지면 어차피 풀 수 없으므로 그럴 바에야 더욱 일반 적인 무한차원 이론에 몰두하는 것이 현명했겠지만 현실의 문제는 사실 대부분이 유한차원 문제이다.

또, 비선형문제는 Taylor 전개식등으로 선형화(Linearization)하여 선형항과 비선형항을 분리시키면 결국 선형항의 문제로 되며, 그렇지 않은 경우에도 2차 항까지만 생각하면 결국 거의 모든 경우를 선형적으로 다룰 수 있다. 즉, 유한 선형문제를 말하는 것이며 이는 행렬의 문제라는 것이다. 더욱 흥미 있는 것은 선형계획법 또는 비선형계획법에서 보듯이 Quadratic technique은 선형 Technique의 자연스러운 이용에 근거를 둔 확장이므로 결국 유한차원 벡터공간상의 선형 연산자 즉, 행렬의 연구는 바로 우리 실생활의 거의 모든 문제와 관계되고 또 결국 답을 제공해 줄 것이며 단지, 크기가 큰 것, 즉 손으로 풀기 어려운 것만이 문제인데 이것이 바로 컴퓨터의 발 전으로 해결되어 왔고, 해결 될 수 있다는 자신감을 주었다. 이것이 바로 "행렬이론의 내용은 실제로 우리 주위 문제를 푸는데 쓸 수 있다. 따라서 연구 할 가치가 충분히 있다."는 분위기를 자극한 것이라고 본다.

선형대수학이야말로 우리가 컴퓨터와 함께 살고 있는 이 시대를 극단적으로 상징하는 수학의 한 분야라고 생각할 수 있다. 즉, 아나로그(Analog)에서 디지탈로 변해 온 이 시대가 바로 `보통사람들의 관심'에서 연속을 다루는 미적분학이 이산적인 대상을 다루는 대수학으로 중심 축이 변해 온 과정이고, 이는 이산적인 것만 공부해도 필요할 때는 언제나 연속 함수를, 또 미적분학의 지식을 모두 이용할 수 있 기 때문이다. 예를 들어, 화학과나 공대에서 매시간 마다 측정한 데이터 즉, 이산적인 자료를 Vandermond 행렬를 이용하는 Lagrange 보간법등으로 훌륭한 연속함수로 바꾸어서 미적분학을 이용하는 것 등, 행렬이 연속과 불연속의 가교 역할을 한다는 것을 말한다. 대부분의 (다변량 문제의 99.9% 정도인) 선형 상미분방정식 문제

\[ y^{(n)} + {a_{n-1}(t) y^{(n-1)}} + \cdots + {a_0}(t) y = g(t) \]

를 생각해 보면

\[ y = x_1,\, y^{(1)} = x_2,\, \cdots,\, y^{(n-1)} = x_n \]

으로 치환하여,

\[ x_n \prime + a_{n-1}{(t)} x_n + \cdots + a_0 {(t)} x_1 = g(t) \]

로 쓰고, 이것을

\[ x_n \prime = - a_{n-1}{(t)} x_n - a_{n-2}{(t)} x_{n-1} - \cdots - a_0 {(t)} x_1 + g(t) \]

즉,

\[ {\left[ \begin{array}{c} x_1 \\ x_2 \\ \vdots \\ x_{n-1} \\ x_n \end{array} \right]} \prime = {\left[ \begin{array}{cccc} 0 & 1 & \cdots & 0 \\ 0 & 0 & \cdots & 0 \\ \vdots & \vdots & & \vdots \\ 0 & 0 & \cdots & 1 \\ -a_0(t) & -a_1(t) & \cdots & -a_{n-1}(t) \end{array} \right]} {\left[ \begin{array}{c} x_1 \\ x_2 \\ \vdots \\ x_{n-1} \\ x_n \end{array} \right]} + {\left[ \begin{array}{c} 0 \\ 0 \\ \vdots \\ 0 \\ g(t) \end{array} \right]} \]

또는 ${\mathbf{x \prime}} = A {\mathbf{x}} + {\mathbf{b}}$로 쓸 수 있다. 위의 행렬 $A$를 위 다항식의 동반(Companion) 행렬이라 하는데 결국 모든 선형 상미방 문제는 이 동반행렬에 관한 지식과 연관됨을 알 수 있다. 또 일차 연립방정 식 $A {\mathbf{x}} = {\mathbf{b}}$의 해 중 $\Vert A {\mathbf{x}} - {\mathbf{b}} \Vert$가 최소가 되 게 하는 유일한 해인 최소제곱해(The Least Squares Solution)은 $(A^T A)^{-1} A^T {\mathbf{b}}$이며, 그에 관한 선형계획법 문제로서 80년대 중반에 개발된 Karmakar's algorithm의 basic projection step은 $I - A (A^T A)-1 A^T$ 이다.

주어진 수학적 문제를 푸는데 있어서 주목할 만한 사실은, 먼저 그 문제를 수식화(Modelling) 하고 선형화한 후 연립일차방정식으로 바꾸어 놓고나면 나머지는 행렬에 대한 지식과 그것을 곱 할 능력만 있으면 답이 나온다는 것이다. 또, 작용소이론, 즉 함수해석학, 그 중에서도 Hilbert 공 간이론과 Fourier 해석학등은 선형 수학의 일부로 여겨질 수 있다. 즉, 행렬과 그를 연구하는 선형대수학은 수학적 이론으로부터 우리가 기대하는 그 model, 즉 '왜 수학을 공부해야 하는가?' 하는 문제에 대한 자연스러운 답을 주고 있는 것이다.

이런 과정을 통하여, 선형대수학과 컴퓨터는 우리 주위에서 제기되는 거의 모든 문제를 이론적으로 또 실질적으로 해결하는 '열쇠(Midas Touch)'라는 것이 인식되었으며, 이 두 가지가 거의 같은 시기 에 영국에서 시작되어 그후 연구 및 사회 분위기가 다른 미국에 와서야 꽃 피웠다는 것은 상당히 시사적이다. 앞에서 보았듯이 19세기까지의 선형대수학의 연구는 그후 이런 주요한 결과들을 개선 발전시킨 연구와 그런 결과들을 잘 정돈하여 강의한 고전으로 여겨지는 강의록과 교재들이 Weierstrass(1903), Kronecker(1903), Bocher(1907), Turnbull와 Aitken(1930's), Mirsky(1955), Gantmacher(1959) 등에 의하여 나오면서 20세기에 들어서는 대학에서 배워야할 수학의 필수 분야의 하나로서 자리잡게 되었다. 그러나 20세기에 들어 연구분야로서의 가치는, 선형대수를 작용소이론의 특수한 경우 또는 벡터해석학의 일반적인 경우로 가볍게 생각했던 많은 수학자들에게, 간과되었었다. 실지로 행렬의 구체적인 응용의 예는 1947년 Von Neumann이 행렬의 condition number $\kappa (A)$를 정의하여 이용한 것으로부터 시작하여 선형대수학의 기본정리라 할 수 있는 $A {\mathbf{x}} = {\mathbf{b}}$를 푸는 문제에서 볼 수 있다. 예를 들어, $A = LU$ 로 분해한다면 $L U {\mathbf{x}} = {\mathbf{b}}$ 를 $L {\mathbf{y}} = {\mathbf{b}}$와 $U {\mathbf{x}} = {\mathbf{y}}$라는 두 개의 단순한 문제로 바꾸어 순서대로 대입하는 것과 거꾸로 대입하는 방법을 몇 번 반복함으로써 (역행렬의 존재와 상관없이) 너무도 쉽게 풀 수 있게 된다

이것이 Von Neumann과 함께 최초의 stored-program 컴퓨터를 개발한 Alan Turing이 1948 년에 소개한 LU-분해이며 그후 10년만에, 주어진 행렬를 그와 닮음인(similar) block 대각 행렬로 수렴시키는 QR-factorization을 이용한 QR-algorithm이 F. H. Wilkinson과 Househ lder 등의 기여로 개발되었으며 이러한 분해이론은 그후 Cholesky 분해, Polar Decomposition, Singular Value Decomposition 등으로 다양한 연구의 한 분야가 되어 오고 있다. 실제로, 이 기간동안 행렬이론의 기존의 또, 새로운 지식은 선형계획법, 비선형계획법, Markov Chain, 암호이론, 인구문제, 교통문제, 최적화이론, 수치해석학등의 다양한 연구분야를 개척하고 발전시키는데 큰 기여를 기여했던 것이다. 우리 사회의 여러 문제를 수학적으로 표현하여 수학 문제로 바꾸어 놓은 후, 그 문제를 선형 화하여 일차연립방정식과 관련된 문제로 바꾼 후, 행렬에 대한 지식을 이용하여 쉽게 해를 구한 다음 그 해를 원래 사회문제에 대한 답으로 해석하는 것이 바로 수학의 역할 중의 하나이다. 이 과정에서 선형성에 근거한 컴퓨터를 만들었으며 그러한 컴퓨터의 발전과 더불어 선형대수학을 포 함한 선형대수학의 연구와 이용이 20세기 후반에 가히 폭발적으로 활발해졌다. 

사실 수학은 고대, 중세, 근세, 현대의 어떤 시기에도 각각 그 당시의 여러 사회문제를 해결 해 주거나, 해결할 수 있는 방법을 제시하면서 중요한 위치를 점유해 왔다. 또, 지금도 수학은 그 역할을 성실히 수행 하고 있다는 것이다. 즉, 오늘날도 순수 수학자들이 개발한 행렬이론의 지식이 현대 사회의 여러 문제를 해결하는 그런 역할의 일부를 당당히 맡아오고 있다. 현재의 수학관련 지식과 기술은 예전과는 비교도 안되게 발전하였다. 눈을 떠서 세계를 돌아 보면 변화의 일부를 느낄 수 있다. 미적분학은 물론 편미분 중적분, 선적분, 면적분, 미분방정식, 행렬식, 역행렬, curve fitting, least square curve fitting, 선형 계획법, 3차원 그래프 그리기, 선형대수학, 군론, 체론, 가환대수, tensor 계산, 정수론, Fractal 등 적어도 대학에서 배우는 수학 내용 정도의 문제는 이미 우리 어린 학생들이 그리도 좋아하는 개인용 컴퓨터를 이용하여 Mathematica, MATLAB, Derive, MathTensor 등의 다양한 프로그램을 이용하여 쉽게 다룰 수 있다.

아마 우리의 학생들이 활동할 10년 후에는 20년 전의 방법으로 배운 수학 내용중 일부는 무 용지물이 될 것임은 분명하고 그들이 알아야할 새로운 지식은 늘어나고 있다. 수학 교육의 본 질은 단순히 오래 전의 지식을 전달하는 것이 아니라, 이러한 변화에 적응 할 수 있는 수학적 사고 능력 을 배양해주는 것이라고 생각한다면, 선형대수학에서의 이러한 발전의 역사가 우리의 갈 길을 잘 보여준다고 생각한다.

- 대한수학회 뉴스레터 V. 55, pp. 20-27 (1997 9월) S.G. Lee and O.K. Kang 씀