$3$-주기점(period-$3$ point)은 혼돈(chaos)을 야기한다

닫힌 구간 $I$ 위에서 연속인 함수 $f:I\to I$에 대하여 다음을 정의하자.

정의 1.

정수 $m\ge 1$에 대하여, $f^m(a)=a$이지만 모든 $1\le i<m$에 대하여 $f^i(a)\ne a$ 을 만족하는 점 $a\in I$가 존재하면, $a$를 $f$의 $m$-주기점(period-$m$ point)이라 한다. 특히 $m=1$인 경우, $a$를 $f$의 고정점(fixed point)이라 한다.

이제 주어진 두 정수 $m\ne n,$에 대하여 $f$가 $m$-주기점을 가질 때, 언제나 $n$-주기점을 가지는지에 대한 질문에 대해 생각해 볼 수 있다. 예를 들어 $m=1$이고 $n=2$인 경우, 위 질문에 대한 대답은 '아니오'이다. 함수 $f(x)=x$를 생각해 보면 구간 $I$에서의 모든 점이 고정점이지만 $2$-주기점은 존재하지 않음을 알 수 있기 때문이다. 하지만 중간값 정리(intermediate value theorem)을 이용하면, $m=2$이고 $n=1$인 경우에는 위 질문에 대한 대답이 언제나 '예'임을 보일 수 있다.

정리 1.

만약 연속함수 $f$가 $2$-주기점을 가지면, $f$는 언제나 고정점을 갖는다.

증명. $a$가 $f$의 $2$-주기점이라 가정하고 $b=f(a)\ne a$라 하자. 그러면 $f(b)=f^2(a)=a\ne b$이고 $f^2(b)=f(a)=b$이므로, 따라서 $b$ 또한 $2$-주기점임을 알 수 있다. 이제 일반성을 잃지 않고 $a<b$를 가정하자. 이제 구간 $[a,b]\subseteq I$에서 함수 $g(x)=x-f(x)$를 정의하면, $g(a)=a-b<0$이고 $g(b)=b-a>0$. 임을 알 수 있다. 따라서 중간값 정리에 의해 $g(c)=0$을 만족하는 점 $c\in (a,b)$가 존재한다. 따라서 $f(c)=c$를 얻고 $c$는 $f$의 고정점임을 알 수 있다.

이제 함수 $f(x)=1-x$를 생각해 보자. 우선 $x=0$과 $x=1$이 모두 $f$의 $2$-주기점임을 쉽게 알 수 있으므로, 위 정리에 의해 $f$에 반드시 고정점이 존재한다. 실제로 계산을 해 보면, $x=0.5$를 제외한 모든점이 $2$-주기점이고 $x=0.5$는 고정점임을 알 수 있다. 하지만 이 예제로부터 알 수 있듯이 함수 $f$에 $2$-주기점이 존재한다고 해서, 정수 $m>2$에 대하여 $f$에 $m$-주기점이 존재한다는 보장은 없다.

리-요크 정리(Li-Yorke theorem)

이제 정수 $m=3$에 대하여 위와 같은 질문을 해보자. 즉, 주어진 함수 $f$에 $3$-주기점이 존재할 때,

• $f$의 고정점,
• $f$의 $2$-주기점,
• $m>3$에 대하여 $f$의 $m$-주기점

이 반드시 존재하는지에 대해 생각해 보자. 놀랍게도 1975년 리(Tien-Yien Li)와 요크(James A. Yorke)가 이 질문에 대한 답이 모두 '예'임을 증명하였다. 즉, 연속함수 $f$가 $3$-주기점을 가지면, 임의의 $m\ge 1$에 대하여 $f$는 언제나 $m$-주기점을 갖는다.

보조정리 1.

함수 $g:[a,b]\to \mathbb{R}$가 구간 $[a,b]$에서 연속이고 $[c,d]\subset g([a,b])$라 하자. 그러면 $g([a^{\prime },b^{\prime }])=[c,d]$을 만족하는 구간 $[a^{\prime },b^{\prime }]\subset [a,b]$가 반드시 존재한다.

증명. $g$가 연속이므로, $g^{-1}((c,d))$는 $[a,b]$에서 열린 집합이다. 따라서 이를 열린 구간 $(a_i,b_i)$들의 분리합집합(disjoint union)으로 나타낼 수 있다. 이제 모든 열린 구간 $(a_i,b_i)$에 대하여 $g((a_i,b_i))⊊(c,d)$라 가정해 보자. 그러면 

$$g(\bigcup _i(a_i,b_i))=\bigcup _{i}g((a_i,b_i))⊊(c,d)$$

이고 따라서

$$\bigcup _i(a_i,b_i)\subset g^{-1}(g(\bigcup _i(a_i,b_i)))⊊g^{-1}((c,d))=\bigcup _i(a_i,b_i)$$

이는 모순이므로, 적당한 열린 구간 $(a^{\prime },b^{\prime })\subset g^{-1}((c,d))$가 존재하여 $g(a^{\prime },b^{\prime })=(c,d)$를 만족한다. 그러면 $g$의 연속성에 의해서 $g([a^{\prime },b^{\prime }])=[c,d]$임을 알 수 있다.

보조정리 2.

연속함수 $g:I\to I$에 대하여 구간 $I_0=[a_0,b_0]\subset g(I_0)$가 존재한다고 가정하자. 그러면 닫힌 구간들의 수열 $(I_n{)}_{n=1}^{\mathrm{\infty }}$이 존재하여 모든 $n$에 대하여 $g(I_n)=I_{n-1}$이고 $I_n\subset I_0$를 만족한다. 특히, 이 닫힌 구간들에 대하여 $g^n(I_n)=I_0$이 성립한다.

증명. 수학적 귀납법으로 증명을 하자. 먼저 $n=1$인 경우는 보조정리 1에 의해 성립한다. 이제 $n\ge 1$에 대하여, $g(I_n)=I_{n-1}$를 만족하는 닫힌 구간 $I_n\subset I_0$가 존재한다고 가정하자. 이제 $[c,d]=I_n\subset I_0\subseteq g(I_0)$라 가정하면, 다시 보조정리 1에 의해, 닫힌 구간 $I_{n+1}=[a_{n+1},b_{n+1}]\subset I_0$가 존재하여 $g(I_{n+1})=I_n$를 만족한다. 따라서 수학적 귀납법에 의해 증명이 완료된다.

이제 리와 요크의 증명에 대해 살펴보자.

정리 2. 리-요크 정리(Li-Yorke theorem)

만약 연속함수 $f$가 $3$-주기점을 가지면, 임의의 $m\ge 1$에 대하여 $f$는 언제나 $m$-주기점을 갖는다.

증명. $a\in I$가 $f$의 $3$-주기점이라 가정하고 $b=f(a)\ne a$와 $c=f(b)\ne a,b$를 각각 정의하자. 그러면 $f(c)=f^3(a)=a$이므로 $a,b,c$가 모두 $f$의 $3$-주기점들임을 알 수 있다. 이제 일반성을 잃지 않고 $a<b<c$ 또는 $c<b<a$라 가정하자. 먼저 첫번 째 경우, 중간값 정리에 의해 다음을 얻는다. (두번쨰 경우도 같은 결과를 얻는다.)

$$\begin{array}{rl}[b,c]& =[f(a),f(b)]\subset f([a,b])\\ [a,c]& =[f(c),f(b)]\subset f([b,c])\end{array}$$

따라서 $[b,c]\subset [a,c]\subset f([b,c])$가 성립하므로, $f$는 구간 $[b,c]$에서 고정점을 가짐을 알 수 있다.

이제 정수 $m>1$을 고정하고 $I_0=[b,c]$라 하자. 우선 보조정리 2에 의해서 임의의 $n\ge 1$에 대하여 $f(I_n)=I_{n-1}$을 만족하는 닫힌 구간 $I_n\subset [b,c]$가 존재한다. 특히  $I_{m-2}\subset [b,c]\subset f([a,b])$이므로 보조정리 1에 의해 $f([a^{\prime },b^{\prime }])=I_{m-2}$을 만족하는 닫힌 구간 $[a^{\prime },b^{\prime }]\subset [a,b]$가 존재한다. 그러므로

$$[a^{\prime },b^{\prime }]\subset [a,b]\subset [a,c]\subset f([b,c])=f^{m-1}(I_{m-2})=f^m([a^{\prime },b^{\prime }])$$

따라서 고정점 정리에 의해, $f^m$은 고정점 $x_0\in [a^{\prime },b^{\prime }]$를 갖는다. 이제 임의의 정수 $1\le i<m$에 대하여

$$f^i([a^{\prime },b^{\prime }])=f^{i-1}(I_{m-2})=I_{m-i-1}\subset [b,c]$$

가 성립하므로 $f^i([a^{\prime },b^{\prime }])$와 $[a^{\prime },b^{\prime }]$은 서로소임을 알 수 있고, 따라서 $f^i(x_0)\ne x_0$가 성립한다. 그러므로 $x_0$는 $f$의 $m$-주기점임을 알 수 있다.

샤르코우시키 정리(Sharkovskii theorem)

위 증명의 요점은 $3$-주기점의 집합 $\{a,b,c\}$에 대하여, 대소관계가 언제나 $a<b<c$ 또는 $a>b>c$ 중의 하나의 경우가 되도록 할 수 있다는 사실에 있다. 하지만 $m>3$인 경우에도 이와 같이 $m$-주기점들 사이에 간단한 대소관계를 가질 수 있도록 할 수 있다는 보장이 없으므로, 위의 증명 방법을 적용할 수 있을 거란 보장 또한 할 수 없다. 그렇다면 $m>3$에 대하여 함수 $f$가 $m$-주기점을 가질 때, 어떤 정수 $n$에 대하여 $n$-주기점 또한 가질 것이라 언제나 보장 할 수 있을까?

놀랍운 사실은 위 질문에 대한 완전한 대답이 이미 1964년 우크라이나의 수학자 샤르코우시키(Oleksandr Sharkovskii)에 의해 증명되었다는 것이다. (하지만 그의 증명은 유럽 수학계에 널리 알려지지 않았다가 후에 재조명 되었다고 한다.) 샤르코우시키의 정리는 다음과 같다. 

정의 2.

양의 정수에 대한 샤르코우시키 순서(Sharkovskii's ordering)란 다음과 같이 정의되는 전순서 관계이다.

$$\begin{array}{rl}3& \prec 5\prec 7\prec 9\prec \cdots \\ & \prec 2\cdot 3\prec 2\cdot 5\prec 2\cdot 7\prec \cdots \\ & \prec 2^2\cdot 3\prec 2^2\cdot 5\prec 2^2\cdot 7\prec \cdots \\ & \prec \cdots \prec 2^3\prec 2^2\prec 2\prec 1\end{array}$$

위 전순서관계를 간단히 설명하면, 먼저 $3$ 이상의 홀수를 모두 나열하고, $2$의 거듭제곱 곱하기 홀수 형태의 수들을 차례로 계속 나열한 후에, 마지막에 $2$의 거듭제곱 꼴의 수를 감소 순서로 나열한 것이다.

정리 3. 샤르코우시키 정리(Sharkovskii theorem)

연속함수 $f:I\to I$에 대하여 $f$가 $m$-주기점을 가질 때, 샤르코우시키 순서관계 $m\prec n$을 만족하는 모든 정수 $n$에 대하여 $f$는 $n$-주기점을 갖는다. 역으로 고정된 정수 $m\ge 1$에 대하여 $m$-주기점을 갖고 $m\prec n$을 만족하는 모든 정수 $n$에 대하여 $n$-주기점 또한 갖는 연속함수 $f:I\to I$가 반드시 존재한다.

따라서 정리 1과 리-요크 정리 모두 샤르코우시키 정리의 따름정리로써 정립함을 알 수 있다. 즉, $2\prec 1$이므로 정리 1이 성립하고, 임의의 $m\ge 1$에 대하여 $3\prec m$이므로 리-요크 정리가 성립한다.

참고문헌

1. http://euler.genepeer.com/period-three/
2. Li, T. Y. and Yorke, J. A. "Period Three Implies Chaos" The American Mathematical Monthly 82.10 (1975): 985-992.