큰 수에 대하여 (1) - 테트레이션(Tetration)의 정의

테트레이션(tetration)이란, 거듭제곱(exponential) 다음에 오는 4번째 하이퍼 연산자(hyper operator)로써,거듭제곱의 반복 연산으로 정의된다. 테트레이션이라는 용어는 4를 뜻하는 접두어 tetra와 반복을 뜻하는 iteration의 합성어로, 19세기 영국의 수학자 구스테인(Reuben Louis Goodstein)이 처음 명명하였다. 테트레이션을 설명하기 앞서 처음 세개의 하이퍼 연산자에 대해 알아보자.

0. 다음수(succession)

\[ a' := a + 1 \]

1. 덧셈(Addition) : 다음수 연산의 \(n\)회 반복

\[ a+n := a + \underbrace{1 + 1 + \cdots + 1}_{n\text{-times}} \]

2. 곱셈(Multiplication) : 덧셈 연산을 \(n\)회 반복

\[ a \times n := \underbrace{a + a + \cdots + a}_{n\text{-times}} \]

3. 거듭제곱(Exponentiation)   :곱셈 연산을 \(n\)회 반복

\[ a^n := \underbrace{a \times a \times \cdots \times a}_{n\text{-times}} \]

4. 테트레이션(Tetration) : 거듭제곱 연산을 \(n\)회 반복

\[ ^{n}a := \underbrace{a^{a^{\cdot^{\cdot^{a}}}}}_{n\text{-times}} \]

\(n\)이 자연수인 경우, 각 하이퍼 연산은 이전 연산의 \(n\)회 반복으로 생각할 수 있고  이와 같은 방법으로 그 다음 하이퍼 연산자 (펜테이션(pentation), 헥세이션(hexation) 등)도 정의 할 수 있다. 수학자에 따라 테트레이션이라는 용어 대신에 super-exponentiation, hyper-power, power tower등의 용어를 사용하기도 하나, 테트레이션이라는 용어가 보편적으로 쓰인다. 이제 편의를 위해 테트레이션에서 \(a\)를 연산의 밑(base), \(n\)을 연산의 높이(height)라 정의하자. 

이제 테트레이션을 다시 수학적으로 정의해 보자:

임의의 양수 \(a>0\)와 음이 아닌 정수 \(n \geq 0\)에 대하여, \(^{n}a\)를 다음과 같이 정의한다.

\[ ^{n}a := \begin{cases} 1 & \text{if } n=0 \\ a^{\left[ ^{n-1}a \right]} & \text{if } n \geq 1 \end{cases} \]

흔히 어떠한 수학적 모델이 시간이 지남에 따라 급격히 성장하는 양상을 보일때 '지수적으로 증가한다(indreasing exponentially)'라는 표현을 사용하고는 한다. 테트레이션은 거듭제곱의 \(n\)회 반복이기 때문에, 몇 번의 연산 만으로도 그 값을 표현하지도 못할 정도로 큰 수를 얻게 될 것이다. 아래의 표를 통해서 실제로 테트레이션으로 얼마나 큰 수를 얻게 될 수 있는지 살펴보자.

\(a\)	\(^{2}a\)	\(^{3}a\)	\(^{4}a\)
1	1	1	1
2	4	16	65,536
3	27	7,625,597,484,987	3.6×10^{12} 자리수
4	256	155 자리수	8.0×10^{153} 자리수
5	3,125	2,185 자리수	1.3×10^{2184} 자리수

하이퍼 연산에서 첫 세개의 연산(덧셈, 곱셈, 거듭제곱)의 경우 \(a\)와 \(n\)의 범위를 복소수(complex number)의 범위까지 자연스럽게 확장이 가능하다. 따라서 우리는 자연스럽게 테트레이션에 대해서도 이와 유사하게 밑과 높이를 복소수로 확장할 수 있을까? 하는 질문을 던질 수 있다. 하지만 거듭제곱 이후의 하이퍼 연산자의 경우 제한된 상황에서만 복소수로의 확장이 가능하다. 이러한 이유로 테트레이션을 비롯한 그 이후의 하이퍼 연산자는 기본 연산자(elementry operation)로 취급하지는 않는다. 테트레이션의 밑 \(a\)와 높이 \(n\)의 범위의 확장에 대해서는 다음 포스트에서 알아보도록 하자.