매끄럽지만 해석적이지 않은 함수

주어진 실함수 $f : \mathbb{R} \to \mathbb{R}$에 대하여, $f$가 $k$번 미분 가능하고 $k$계 도함수(derivative)가 연속(continuous)이면, $f$를 $C^k$ 함수라고 한다. (이때, $C^k$는 앞선 조건을 만족하는 모든 함수들의 집합을 뜻한다.) 예를 들어 $f$가 $C^0$ 함수이면 $f$는 연속함수이고, $f$가 $C^1$ 함수이면, $f$는 연속 미분 가능한(continuously differentiable) 함수, 즉 $f$ 가 한번 미분 가능하고, 그 도함수가 연속인 함수를 말한다. 만약 $f$가 무한번 미분 가능(infinitely differentiable)하면, '$f$가 매끈하다(smooth)'고 하거나 '$f$는  $C^\infty$ 함수이다'라고 한다.

이제 해석 함수(analytic function)에 대해서 살펴보자. '$f$가 주어진 점 $x_0$에서 해석적(analytic)이다'라는 뜻은 $x_0$의 근방(neighborhood)에서 $f$로 수렴하는 급수가 존재하여,

\[ f(x) = \sum_{n=0}^{\infty} a_n (x - x_0)^n = a_0 + a_1 (x-x_0) + a_2 (x-x_0)^2 + \cdots \]

와 같이 나타낼 수 있음을 말한다. 만약 $f$가 모든 점 $x_0 \in \mathbb{R}$에서 해석적이면, 간단히 '$f$는 해석 함수(analytic function)이다'라고 하거나 또는 '$f$는 $C^w$ 함수이다'라고 한다.

모든 (실)해석 함수는 매끄러운 함수이고, 따라서 모든 점에서 $f$의 테일러 급수(Taylor expansion)은 $f$로 수렴한다.

\[ f(x) = \sum_{n=0}^{\infty} \frac{f^{(n)}(x_0)}{n!} (x - x_0)^n = f(x_0) + f'(x_0) (x-x_0) + \frac{f''(x_0)}{2} (x-x_0)^2 + \cdots. \]

역으로 모든 매끄러운 함수는 해석적이다라고 할 수 있을까? 이 질문의 대답은 그렇지 않다이다. 이를 보이기 위하여 다음과 같은 함수 $f : \mathbb{R} \to \mathbb{R}$를 살펴보자.

\[ f(x) = \begin{cases} e^{-1/x} & \text{if} \ x > 0, \\ 0 & \text{if} \ x \leq 0. \end{cases} \]

먼저 $f$가 매끄러운 함수임을 증명해보자. 수학적 귀납법(induction)을 이용하여, 아래와 같이 정의된 함수들이 $f$의 연속인 $k$계 도함수임을 보일 것이다.

\[ f^{(n)}(x) = \begin{cases} \frac{p_n(x)}{x^{2n}}f(x) & \text{if} \ x > 0, \\ 0 & \text{if} \ x \leq 0. \end{cases} \]

여기서 $p_n(x)$는 $n-1$차 다항함수(polynomial)로서 귀납적으로 다음과 같이 정의다.

\[ \begin{aligned} p_1(x) & = 1, \\ p_{n+1}(x) & = x^2 p'_n(x) - (2nx-1) p_n(x), \qquad n \in \mathbb{N}. \end{aligned} \]

먼저 $x \leq 0$인 구간에서 $f$가 무한번 미분 가능하고 $f^{(n)}(x) = 0$임은 자명하다. 이제 $x > 0$인 구간에서 $n = 1$일 때, $f'(x) = \frac{1}{x^2}e^{-1/x} = \frac{p_1(x)}{x^2} f(x)$이고, 모든 $n \in \mathbb{N}$에 대하여,

\[ \begin{aligned} f^{(n+1)}(x) & =\left( \frac{p'_n(x)}{x^{2n}} - 2n \frac{p_n(x)}{x^{2n+1}} + \frac{p_n(x)}{x^{2n+2}} \right) f(x) \\ & = \frac{x^2p'_n(x)-(2nx-1)p_n(x)}{x^{2n+2}} f(x) \\ & = \frac{p_{n+1}(x)}{x^{2(n+1)}} f(x) \end{aligned} \]

이므로 귀납법에 의해 $x > 0$인 구간에서 $f^{(n)}$는 $f$의 $n$계 도함수이다.

이제 모든 $n \in \mathbb{n}$에 대하여 함수 $f$와 $f^{(n)}$가 $x=0$에서 연속이고 미분가능함을 증명해 보자. 먼저 $f$의 $x=0$에서의 미분계수는 

\[ \lim_{x \searrow 0} \frac{f(x)-f(0)}{x-0} = \lim_{x \searrow 0} \frac{e^{-1/x}}{x} = 0. \]

이고 임의의 $n \in \mathbb{N}$에 대하여,

\[ \lim_{x \searrow 0} \frac{f^{(n)}(x) - f^{(n)}(0)}{x-0} = \lim_{x \searrow 0} \frac{p_n(x)}{x^{2n+1}}\,e^{-1/x} = 0. \]

따라서 $f$는 매끄러운 함수임을 알 수 있다.

이제 함수 $f$가 $x=0$에서 해석적이지 않음을 증명해 보자. 앞서 모든 $n \in \mathbb{N} \cup \{0\}$에 대하여 $f^{(n)}(0) = 0$임을 보였으므로, $f$의 $x=0$에서의 테일러 급수는 다음과 같음을 알 수 있다.

\[ \sum_{n=0}^{\infty} \frac{f^{(n)}(0)}{n!} x^n = \sum_{n=0}^{\infty} \frac{0}{n!} x^n = 0, \qquad \text{for all} \quad x \in \mathbb{R}, \]

하지만 $x>0$ 이면, $f(x) = e^{-1/x} > 0$ 이므로 위 테일러 급수는 $x>0$인 구간에서 $f$와 같지 않다. 따라서 $f$는 $x=0$에서 해석적이지 않다.

이제 다시 처음으로 되돌아가 보자. $C^k$의 정의에 의하여, 자명하게 다음과 같은 포함관계가 성립한다.

\[ C^0 \supset C^1 \supset C^2 \supset \cdots \supset C^\infty. \]

또한 $C^w \subseteq C^\infty$임을 위헤서 보였고, 위의 반례에 의하여, $C^\infty \neq C^w$이므로, 최종적으로

\[ C^0 \supset C^1 \supset C^2 \supset \cdots \supset C^\infty \supset C^w \]

가 성립한다.