토매 함수(Thomae function)에 대하여

디리클레 함수(Dirichelet function)란 모든 점에서 불연속인 함수의 한 예로써, 다음과 같이 정의되는 함수이다.

\[ f(x) = \begin{cases} 0, \quad & \text{if $x \notin \Q$} \\ 1, \quad & \text{if $x \in \Q$} \end{cases} \]

이 함수가 모든 점에서 불연속임은 유리수와 무리수의 조밀성을 이용하면 간단하게 증명할 수 있다. 

토매 함수(Thomae function)

이제 위 함수의 변형인 토매 함수(Thomae function)에 대해 살펴보자. 먼저 토매 함수의 정의는 다음과 같다.

정의. 토매 함수(Thomae function)

토매 함수(Thomae function)는 다음과 같이 정의되는 함수를 말한다.

\[ f(x) = \begin{cases} 0, \quad & \text{if $x \notin \Q$} \\ 1, \quad & \text{if $x=0$} \\ \frac{1}{q}, \quad & \text{if $x = \frac{p}{q},\, \gcd(p,\,q)=1,\, q>0$} \end{cases} \]

이 함수에 대하여 다음과 같은 사실들이 성립한다.

정리.

토매 함수(Thomae function)에 대하여 다음이 성립한다.

1. $f$는 $\Q$에서 불연속이다.
2. $f$는 $\Q^c$에서 연속이다.
3. $f$는 $\Q$에서 미분불가능이다.
4. $f$는 $\Q^c$에서 미분 불가능이다.
5. $f$는 임의의 폐구간에서 리만적분 가능하고 그 값은 $0$이다.
6. $f$는 임의의 폐구간에서 르벡적분 가능하고 그 값은 $0$이다.

증명. 하나씩 살펴보도록 하자.

1. 임의의 $0$이 아닌 유리수 $x = \frac{p}{q} \in \Q$에 대하여, $x_n \to x$인 무리수 수열 $(x_n) \in \Q^c$가 존재한다. 그러면,\[ \lim_{n \to \infty} f(x_n) = 0 \neq \frac{1}{q} = f(x). \]따라서 $f$는 $x$에서 불연속이다. 마찬가지 방법으로 $x=0$에서 불연속임을 보일 수 있다. 즉, $f$는 $\Q$에서 불연속이다.
2. 임의의 무리수 $x \in \Q^c$와 $\varepsilon >0$을 잡자. 그러면 적당한 $\delta > 0$이 존재하여, 구간 $(x - \delta,\, x + \delta)$에 존재하는 모든 $y$가 $\abs{f(y) - f(x)} < \varepsilon$을 만족함을 보여야 한다. 이 때, $y \in \Q^c \cap (x - \delta,\, x + \delta)$인 경우에는 $\abs{f(y) - f(x)} = 0 < \varepsilon$이므로 $y \in \Q \cap (x - \delta,\, x + \delta)$인 경우만 고려하면 충분하다. 이제 $\frac{1}{q} < \varepsilon$을 만족하는 양의 정수 $q$를 택하고 다음과 같이 집합 $A$를 정의하자. \[ A = \set{\lfloor x \rfloor + \frac{n}{m}}{1 \leq n < m,\, 2 \leq m \leq q} \]자명하게 집합 $A$는 유한집합이다. 따라서 $y \in \Q \cap (x - \delta,\, x + \delta)$이면 $y \notin A$를 만족하는 $\delta>0$를 택할 수 있다. 즉, 이 구간 안의 $y$를 택하여 $y = \frac{u}{v}$로 나타내면, $v > q$를 얻는다. 따라서 \[ \abs{f(y) - f(x)} = \abs{f(y)} = \frac{1}{v} < \frac{1}{q} < \ \varepsilon \]그러므로 $f$는 $x$에서 연속이고, $x$가 임의의 무리수이므로 $f$는 $\Q^c$에서 연속이다.
3. $f$가 $\Q$에서 불연속이므로 미분 불가능함은 자명하다.
4. 임의의 무리수 $x \in \Q^c$를 택하자. 이제 $x_n \to x$인 무리수 수열 $(x_n) \in \Q^c$을 택하면\[ \lim_{n \to \infty} \frac{f(x_n) - f(x)}{x_n - x} = 0 \tag*{$(\ast)$} \]임을 쉽게 확인할 수 있다. 한 편, $x$의 무한소수 표현이 $x = d_0.d_1d_2d_3 \cdots$와 같이 주어진다고 가정하자. 이제 유리수 수열 $(x_n^*) \in \Q$를 다음과 같이 정의한다.\[ x_n^* = d_0.d_1d_2d_3 \cdots d_n \]그러면 $x_n^* \to x$임을 쉽게 확인할 수 있다. 또한 \[ \abs{x_n^* - x} = 0.000 \cdots d_{n+1}d_{n+2} \cdots < \frac{1}{10^n} \]\[ \abs{f(x_n^*)} \geq \frac{1}{10^n} \]이 성립한다. 따라서\[ \lim_{n \to \infty} \abs{\frac{f(x_n^*) - f(x)}{x_n^* - x}} = \lim_{n \to \infty} \frac{\abs{f(x_n^*)}}{\abs{x_n^* - x}} > \lim_{n \to \infty} \frac{10^n}{10^n} = 1 \tag*{$(\ast\ast)$} \]따라서 $(\ast)$, $(\ast\ast)$에 의해 $f$는 $x$에서 미분 불가능하고 $x$가 임의의 무리수이므로 $f$는 $\Q^c$에서 미분 불가능하다.
5. 유계함수 $f$가 임의의 폐구간에서 리만적분 가능함은 $f$의 불연속점의 집합의 측도가 $0$임과 동치이다. 주어진 함수 $f$는 유계함수이고 $f$의 불연속점의 집합은 $\Q$로써 측도가 $0$이므로,  $f$는 임의의 폐구간에서 리만적분 가능하다.
6. 유계함수 $f$가 주어진 폐구간에서 리만적분 가능하면 르벡적분 가능하다. 따라서 주어진 명제가 성립한다.

즉, 위 정리에 의해 토매 함수는 모든 유리수점에서 불연속이고 모든 무리수점에서 연속인 함수임을 알 수 있다. 그렇다면 반대로 모든 유리수점에서 연속이고 모든 무리수점에서 불연속인 함수도 있을까?