월리스-보여이-게르빈 정리(Wallace-Bolyai-Gerwien theorem)

분할 퍼즐(dissection puzzle)이란 평면 위에 주어진 다각형을 적당히 유한개의 다각형 조각들로 잘라낸 후에 다시 재결합하여 새로운 다각형을 만들어 내는 퍼즐의 한 분야를 말한다. 분할 퍼즐을 보면 매우 다양한 과제를 볼 수 있다. 삼각형, 사각형, 십자가 등등의 친숙한 다각형을 이리저리 잘라내고 붙여서 전혀 새로운 다각형을 만드는 것을 보면 그저 신기하기만 하다. 그러나 간혹 어떤 다각형들은 다른 다각형으로 변환하는 것이 불가능에 가까워 보이기도 한다. 과연 분할 퍼즐 중에서 불가능 한 것이 있을까?

답은 "아니다"이다. 월리스-보여이-게르빈 정리(Wallace-Bolyai-Gerwien theorem)에 따르면 크기가 같은 모든 두 단순다각형(simple polygon)에 대하여, 한 다각형을 잘 자르고 재결합하면 다른 다각형으로 변환할 수 있다. 이 정리는 헝가리 수학자 보여이(Farkas Bolyai)가 처음으로 이 정리의 내용을 공식화하였으며, 게르빈(Paul Gerwien)이 1833년에 이를 증명하였다. 그리하여 여기에 일반적인 이름인 '보여이-게르빈 정리'가 붙었으나, 1807년에 스코틀랜드 수학자 월리스(William Wallace)가 독립적으로 같은 정리를 이미 증명하였음이 알려져 현재의 이름을 갖게 되었다.

월리스-보여이-게르빈 정리(Wallace-Bolyai-Gerwien theorem)

이차원 평면상의 두 단순다각형 $P$와 $Q$에 대하여 $P$를 적당히 유한개의 다각형 조각들로 잘라낸 후에 다시 재결합하여 $Q$를 만들어 낼 수 있으면 $P$와 $Q$는 동등분할가능(equidecomposible) 또는 분할합동(scissors-congruent)이라고 한다.

보조정리1.

이차원 평면상의 단순다각형들에 대하여, 분합합동 관계는 동치관계(equivalence relation)이다.

위 보조정리에 대한 증명은 생략하도록 하자. 이제 보조정리에 따르면, 만약 $P$와 $R$이 분할합동이고 $Q$과 $R$가 분할합동이면 $P$와 $Q$ 또한 분할합동임을 알 수 있다. 

보조정리2.

이차원 평면상의 임의의 단순다각형 $P$에 대하여, $P$는 넓이가 같은 정사각형 $S$와 분할합동이다.

증명. 증명은 4단계를 거쳐서 보일 것이다.

1. $P$를 삼각형들 $T_1,\, \ldots,\, T_k$로 분할한다.
2. 각각의 삼각형 $T_i$를 분할하여 $T_i$와 넓이가 같은 직사각형 $R_i$를 만든다.
3. 각각의 직사각형 $R_i$를 분할하여 $R_i$와 넓이가 같은 정사각형 $S_i$를 만든다.
4. 정사각형 $S_1,\, \ldots,\, S_k$를 각각 분할하여 하나의 큰 정사각형 $S$를 만든다.

이제 각각의 단계를 자세히 증명해 보자.

먼저 주어진 단순다각형 $P$를 삼각형들 $T_1,\, \ldots,\, T_k$로 분할할 수 있음을 보이자. 만약 $P$가 볼록다각형(convex polygon)인 경우는 간단하다. 단순히 $P$에 한 꼭지점으로부터 다른 꼭지점을 잇는 선분을 모두 그으면 $P$를 삼각형들로 분할할 수 있다. $P$가 오목다각형(concave polygon)일 경우는 조금 더 복잡한데, 우선 주어진 $P$를 볼록다각형들로 분할한 뒤에 각각의 볼록다각형을 삼각형들로 분할하면 된다. 아래 그림은 삼각형 분할의 한 예를 보여준다.

그 다음 (2), (3), (4) 단계의 증명은 매우 간단하므로 각 단계마다 그림으로 대체하도록 하자.

아래 그림은 임의의 삼각형 $T$를 분할하여 넓이가 같은 직사각형 $R$을 만드는 과정을 보여준다.

아래 그림은 임의의 직사각형 $R$을 분할하여 넓이가 같은 정사각형 $S$를 만드는 과정을 보여준다.

아래 그림은 (피타고라스 정리의 증명과정을 응용하여) 두 정사각형 $S_1$과 $S_2$를 분할하여 하나의 큰 정사각형 $S$를 만드는 과정을 보여준다.

따라서 위의 과정을 주어진 다각형 $P$에 순차적으로 적용하면 $P$를 분할하여 넓이가 같은 정사각형 $S$를 만들 수 있음을 알 수 있다. 즉, $P$와 $S$는 분할합동이다.

이제 위 두 보조정리들을 바탕으로 월리스-보여이-게르빈 정리를 간단히 증명할 수 있다.

정리. 월리스-보여이-게르빈 정리(Wallace-Bolyai-Gerwien theorem)

이차원 평면상의 두 단순다각형 $P$와 $Q$가 주어졌다고 하자. 그러면 $P$와 $Q$가 분할합동일 필요충분조건은 두 다각형의 넓이가 같은 것이다.

증명. 먼저 $P$와 $Q$가 분할합동이라면 두 다각형의 넓이는 같다는 사실은 자명하다. 이제 $P$와 $Q$가 넓이가 같다고 가정하자. 이제 $P$와 $Q$의 공통넓이를 가지고 있는 정사각형 $R$을 생각하자. 그러면 보조정리2에 의해서 $P$와 $R$이 분할합동이고 $Q$과 $R$ 또한 분할합동임을 알 수 있다. 따라서 보조정리1에 의해서 $P$와 $Q$가 분할합동이다.

월리스-보여이-게르빈 정리의 증명 과정은 우리에게 일종의 알고리즘을 제시하고 있다. 넓이가 같은 두 단순다각형 $P$와 $Q$를 직접 분할하고자 하면 증명의 역과정을 밟아가면 된다. 따라서 위의 증명만 잘 이해하고 있으면 어떤 분할 퍼즐도 해답을 제시할 수 있다. 따라서 분할 퍼즐의 관심하는 $P$와 $Q$가 분할합동임을 보이는 최소의 분할을 찾는 것이다. 아래의 그림은 분할 퍼즐의 몇 가지 예를 보여준다.

월리스-보여이-게르빈 정리는 해의 존재성만 보여줄 뿐 최소 분할수가 얼마인지 알려주지 않기 때문에, 결국 분할 퍼즐에서 우아하면서도 논리적인 최소 분할수의 해법을 찾는 일은 아직도 무궁무진하게 남아있다.

힐베르트의 세번째 문제(Hilbert's third problem)

위 정리를 보고나서 가장 자연스럽게 던질 수 있는 질문은 윌리스-보여이-게르빈 정리의 삼차원 공간에 대한 확장이다. 즉, 삼차원 공간상의 두 단순다면체(simple polyhedron) $P$와 $Q$에 대하여 $P$와 $Q$의 부피가 같다면, 언제나 분할합동일까? 이 질문이 참인지 거짓인지의 여부를 밝히는 것이 1900년 힐베르트의 23개의 문제 중 세번째 문제(Hilbert's third problem)이다. 이 문제는 곧바로 힐베르트의 제자 덴(Max Dehn)에 의해 거짓임이 증명 되었다. 덴은 이 문제를 해결하기 위하여 단순다면체 $P$에 대한 델 불변량(Dehn invariant)을 도입하였는데, 이는 다음과 같이 정의된다.

\[ D(P) = \sum_{e} \ell(e) \otimes (\theta(e) + \pi\mathbb{Q}) \]

여기서 $\ell(e)$는 변 $e$의 길이, $\theta(e)$는 변 $e$를 구성하는 두 평면의 이면각을 의미한다. 덴의 증명의 개요는 다음과 같다: 먼저 주어진 단순다면체 $P$를 분할하여

\[ P = P_1 \cup P_2 \cup \cdots \cup P_k \]

를 얻었다고 하자. 그러면 $P$의 덴 불변량은 모든 $P_i$들의 덴 불변량의 합과 같다. 즉,

\[ D(P) = D(P_1) + D(P_2) + \cdots + D(P_k) \]

가 성립한다. 따라서 만약 두 단순다면체 $P$와 $Q$가 분할합동이라면 이들의 델 불변량 $D(P)$와 $D(Q)$는 같아야만 한다.

다음으로 덴은 직접 계산을 통하여, 모든 정육면체의 덴 불변량은 $0$인 반면, 모든 정사면체의 덴 불변량은 $0$이 아님을 보였다. 따라서 (넓이가 같은) 정육면체와 정사면체는 서로 분할합동이 될 수 없다.

그렇다면 어떤 조건하에 두 단순다면체 $P$와 $Q$가 분할합동이 될 수 있을까? 1965년 시들러(Jean-Pierre Sydler)는 삼차원 공간상의 두 단순다면체 $P$와 $Q$가 분할합동일 필요충분조건은 $P$와 $Q$의 넓이가 같고, 각각의 덴 불변량 또한 같은 것임을 보였다.