19세기 초, 수학계는 뉴턴과 라이프니츠가 개척한 미적분학의 눈부신 성공에도 불구하고 그 논리적 기반의 취약성이라는 그림자에 직면해 있었다. ‘무한히 가까워진다’ 또는 ‘무한소’와 같은 개념들은 강력한 계산 도구를 제공했지만, 그 의미는 직관에 의존할 뿐 엄밀하게 정의되지 않았다.1 이러한 지적 위기 속에서 오귀스탱 루이 코시(Augustin-Louis Cauchy)와 베르나르트 볼차노(Bernard Bolzano)와 같은 수학자들은 해석학을 견고한 반석 위에 세우기 위한 탐구를 시작했다.2
그들의 노력은 수열의 수렴에 대한 현대적인 엡실론-N 논법으로 결실을 보았다. 수열 ${a_n}$이 극한값 $L$로 수렴한다는 것은, 임의의 작은 양수 $\epsilon$에 대해 충분히 큰 자연수 $N$을 찾을 수 있어, 그 $N$번째 항부터는 모든 항이 $L$의 $\epsilon$-근방, 즉 구간 $(L-\epsilon, L+\epsilon)$ 안에 머무름을 의미한다.3 이 정의는 ‘가까워진다’는 모호함을 제거하고 극한 개념에 수학적 엄밀성을 부여한 위대한 성취였다.
하지만 이 정의는 근본적인 한계를 내포하고 있었다. 수열의 수렴성을 증명하기 위해서는 그 수렴값 $L$을 먼저 알아야 한다는 점이다. 즉, 어떤 수열이 특정 값으로 수렴할 것이라고 ‘추측’한 뒤에야 그 추측이 맞는지 검증할 수 있는 구조였다.4 이는 마치 목적지를 알아야만 그 길로 가는지를 확인할 수 있는 것과 같아서, 목적지를 알 수 없거나 추측하기 어려운 복잡한 수열의 수렴 여부를 판정하는 데에는 본질적인 어려움이 따랐다.
이러한 상황에서 코시는 다음과 같은 근본적인 질문을 던졌다: “수열의 극한값을 모르는 상태에서, 오직 수열 자체의 항들의 움직임만으로 수렴 여부를 판정할 수 있는 내재적(intrinsic) 기준은 없는가?” 이 질문은 수렴의 개념을 외부의 목표점($L$)과의 관계에서 찾는 것이 아니라, 수열 내부의 동역학(dynamics)에서 찾으려는 혁신적인 발상의 전환이었다.
이 질문에 대한 코시의 답이 바로 본 보고서의 핵심 주제인 ‘코시 수열(Cauchy Sequence)’이다. 코시 수열은 수열의 항들이 특정 값으로 다가가는지를 묻는 대신, 수열이 진행됨에 따라 항들끼리 서로 얼마나 ‘끈끈하게’ 뭉치는지를 측정한다.3 충분히 뒤쪽으로 가면 어떤 두 항을 뽑아도 그 거리가 원하는 만큼 작아질 수 있을 때, 그 수열을 코시 수열이라 부른다. 이는 수렴의 ‘필요조건’을 극한값 없이 기술한 것이다.
그렇다면 이러한 내재적 기준이 수렴을 보장하기에 충분한가? 즉, 항들끼리 뭉치는 모든 수열은 반드시 어떤 한 점으로 수렴하는가? 이 질문에 대한 답은 공간의 성질에 따라 달라지며, 이 질문에 “그렇다”고 답할 수 있는 공간의 성질을 ‘완비성(Completeness)’이라 한다.5 완비성은 이처럼 ‘수렴할 것처럼 보이는 것’이 실제로 ‘수렴하는’ 공간의 구조적 완결성을 의미한다. 바로 이 완비성이 유리수와 실수를 가르는 결정적인 차이점이며 7, 실해석학의 모든 위대한 정리들이 서 있는 단단한 초석이 된다.9
본 보고서는 먼저 코시 수열의 정의와 핵심적인 성질들을 엄밀하게 분석하고, 그것이 어떻게 수렴의 내재적 기준으로 작동하는지 탐구한다(II장). 다음으로 완비성의 개념을 정립하고, 이 기준을 통해 유리수 체계가 가진 구조적 ‘틈’ 즉, 비완비성을 명확히 드러낸다(III장). 나아가 게오르크 칸토어(Georg Cantor)의 구성을 따라, 이 비완비적인 유리수 공간의 틈을 메워 완비적인 실수 공간을 ‘건설’하는 완비화 과정을 상세히 살펴본다(IV장). 마지막으로, 이처럼 구성된 실수의 완비성이 어떻게 중간값 정리, 최대-최소 정리와 같은 해석학의 핵심 정리들을 논리적으로 보장하는지 그 증명 과정을 통해 심도 있게 논증하고(V장), 이 개념들이 현대 수학의 더 넓은 지평으로 어떻게 확장되는지 조망하며 결론을 맺는다(VI장).
코시 수열의 개념은 수열의 수렴성을 극한값이라는 외부 정보 없이, 오직 수열 항들 사이의 상호 관계만으로 포착하려는 시도에서 탄생했다. 그 수학적 정의는 다음과 같다.
정의 (코시 수열): 실수열 ${a_n}$이 주어졌을 때, 임의의 양수 $\epsilon > 0$에 대하여 적당한 자연수 $N$이 존재하여, $n, m \ge N$을 만족하는 모든 자연수 $n, m$에 대해 다음 부등식이 성립하면, ${a_n}$을 코시 수열(Cauchy sequence)이라고 한다.3 \(\forall \epsilon > 0, \exists N \in \mathbb{N} \text{ s.t. } n, m \ge N \implies |a_n - a_m| < \epsilon\) 이 정의를 직관적으로 해석하면, 수열의 ‘꼬리(tail)’ 부분이 임의로 작은 폭의 구간 안에 모두 모여 있음을 의미한다. 즉, 어떤 작은 양수 $\epsilon$을 제시하더라도, 우리는 수열에서 특정 지점 $N$을 찾을 수 있고, 그 지점 이후의 모든 항들($a_N, a_{N+1}, a_{N+2}, \dots$)은 서로 간의 거리가 $\epsilon$보다 작게 된다.12 이는 항들이 특정 목표점을 향해 가는지를 보는 것이 아니라, 항들끼리 서로 무한히 가까워지는 ‘군집 현상’ 또는 ‘끈끈함’을 포착하는 것이다.3
| 수렴의 엡실론-N 정의와 비교할 때 가장 중요한 차이점은 부등식 `` | $a_n - a_m | < \epsilon$에 극한값 $L$이 나타나지 않는다는 점이다. 여기서 자연수 $N$은 오직 우리가 제어하고자 하는 ‘끈끈함의 정도’ $\epsilon$에만 의존하며, $N = N(\epsilon)$의 함수 관계를 갖는다.3 이 내재적 특성 덕분에 코시 수열은 극한값을 추측하기 어려운 상황에서도 수열의 수렴 가능성을 논할 수 있는 강력한 도구가 된다. |
코시 수열은 수렴 수열과 밀접한 관계를 가지며, 모든 코시 수열은 그 자체로 중요한 성질을 지닌다.
정리 2.2.1: 모든 수렴하는 수열은 코시 수열이다.
이 정리는 수렴이라는 개념이 코시 조건보다 더 강한 조건임을 보여준다. 즉, 어떤 점으로 수렴하는 수열은 필연적으로 그 항들끼리 서로 가까워질 수밖에 없다는 것이다.
증명:
수열 ${a_n}$이 실수 $L$로 수렴한다고 가정하자. 수렴의 정의에 따라, 임의의 양수 $\epsilon > 0$에 대해, $\epsilon/2 > 0$ 역시 양수이므로 이에 대응하는 자연수 $N$이 존재하여 다음을 만족한다.
\(n \ge N \implies |a_n - L| < \frac{\epsilon}{2}\)
이제 $n, m \ge N$을 만족하는 임의의 두 자연수 $n, m$을 택하자. 그러면 $n \ge N$이고 $m \ge N$이므로, 두 항 모두 $L$과의 거리가 $\epsilon/2$보다 작다. 삼각부등식을 이용하면 두 항 사이의 거리를 다음과 같이 추정할 수 있다.3
\(|a_n - a_m| = |(a_n - L) + (L - a_m)| \le |a_n - L| + |L - a_m| = |a_n - L| + |a_m - L|\)
가정에 의해 |$a_n - L| < \epsilon/2$이고|$a_m - L| < \epsilon/2$이므로,
\(|a_n - a_m| < \frac{\epsilon}{2} + \frac{\epsilon}{2} = \epsilon\)
이는 ${a_n}$이 코시 수열의 정의를 만족함을 의미한다. 따라서 모든 수렴하는 수열은 코시 수열이다.
정리 2.2.2: 모든 코시 수열은 유계이다 (bounded).
유계라는 것은 수열의 모든 항들이 어떤 유한한 범위 안에 갇혀 있다는 의미이다. 코시 수열의 항들이 서로에게 한없이 가까워진다면, 그들은 무한히 흩어질 수 없다는 직관과 일치하는 결과이다.
증명:
${a_n}$을 코시 수열이라 하자. 코시 수열의 정의에서 $\epsilon = 1$을 택하자. 그러면 어떤 자연수 $N_1$이 존재하여 다음을 만족한다. \(n, m \ge N_1 \implies |a_n - a_m| < 1\) 이 식에서 $m = N_1$으로 고정하면, $n \ge N_1$인 모든 자연수 $n$에 대해 ``|$a_n - a_{N_1}| < 1$이 성립한다. 역삼각부등식($|a| - |b| \le |a-b|$)을 적용하면, \(|a_n| - |a_{N_1}| \le |a_n - a_{N_1}| < 1\) 따라서 $n \ge N_1$인 모든 $n$에 대해 `|$a_n| < |a_{N_1}| + 1$이다. 이는 수열의 $N_1$번째 항 이후의 모든 항들이 유계임을 보여준다.
수열 전체의 유계성을 보이기 위해서는 $N_1$ 이전의 유한개의 항들을 고려해야 한다. 다음과 같이 $M$을 정의하자.3 \(M = \max\{|a_1|, |a_2|, \dots, |a_{N_1-1}|, |a_{N_1}| + 1\}\) 그러면 모든 자연수 $n$에 대하여 ``|$a_n| \le M$이 성립한다. 즉, 수열 ${a_n}$은 유계이다.
정의를 실제 수열에 적용하여 코시 수열 여부를 판정하는 것은 그 개념을 이해하는 데 필수적이다.
예시 1 (코시 수열): 수열 $a_n = 1/n$
이 수열은 0으로 수렴하므로 정리 2.2.1에 의해 코시 수열임이 자명하다. 하지만 정의를 직접 적용하여 코시 수열임을 보일 수도 있다. 임의의 $\epsilon > 0$이 주어졌다고 하자. 아르키메데스 성질에 의해, $N > 2/\epsilon$을 만족하는 자연수 $N$을 선택할 수 있다. 이제 $n, m \ge N$인 임의의 두 자연수를 택하면, $n \ge N$이므로 $1/n \le 1/N < \epsilon/2$이고, 마찬가지로 $1/m \le 1/N < \epsilon/2$이다. 따라서 삼각부등식을 이용하면 다음을 얻는다.4 \(|a_n - a_m| = \left|\frac{1}{n} - \frac{1}{m}\right| \le \left|\frac{1}{n}\right| + \left|\frac{1}{m}\right| = \frac{1}{n} + \frac{1}{m} \le \frac{1}{N} + \frac{1}{N} < \frac{\epsilon}{2} + \frac{\epsilon}{2} = \epsilon\) 이는 ${1/n}$이 코시 수열의 정의를 만족함을 보여준다.
예시 2 (코시 수열이 아님): 수열 $a_n = 1 + (-1)^n$
| 이 수열은 ${0, 2, 0, 2, \dots}$와 같이 0과 2 사이를 진동한다. 이 수열이 코시 수열이 아님을 보이려면 코시 수열 정의의 부정을 보여야 한다. 즉, 어떤 특정한 양수 $\epsilon_0$가 존재하여, 우리가 어떤 큰 자연수 $N$을 선택하더라도 그 이후에 ` | $a_n - a_m | \ge \epsilon_0$을 만족하는 항 $a_n, a_m$을 항상 찾을 수 있음을 보여야 한다.4 |
$\epsilon_0 = 2$로 설정하자. 이제 임의의 자연수 $N$이 주어졌다고 하자. $n=2N$(짝수) 그리고 $m=2N+1$(홀수)로 선택하면, $n, m \ge N$ 조건은 자명하게 만족된다. 이 두 항의 차이를 계산하면 다음과 같다.4 \(|a_n - a_m| = |a_{2N} - a_{2N+1}| = |(1 + (-1)^{2N}) - (1 + (-1)^{2N+1})| = |(1+1) - (1-1)| = |2 - 0| = 2\) 따라서 ``|$a_n - a_m| = 2 = \epsilon_0$이므로, 이 수열은 코시 수열이 아니다. 항들이 서로 가까워지지 않고 항상 2만큼의 거리를 유지하는 쌍이 존재하기 때문이다.
이러한 판정 과정은 코시 수열의 진정한 위력을 드러낸다. 수렴값을 직관적으로 알기 어려운 수열의 경우, 코시 기준은 수렴성을 증명하는 거의 유일한 방법이 될 수 있다. 예를 들어, 자연로그의 밑 $e$의 역수를 나타내는 교대급수 $x_n = \sum_{k=0}^n \frac{(-1)^k}{k!}$를 생각해보자.4 이 수열의 극한값이 $1/e$라는 사실을 미리 알지 못한다면 전통적인 방법으로 수렴성을 증명하기는 매우 어렵다. 하지만 $m > n$일 때 두 항의 차이 ``|$x_m - x_n|$을 계산하면, \(|x_m - x_n| = \left| \sum_{k=n+1}^{m} \frac{(-1)^k}{k!} \right| \le \sum_{k=n+1}^{m} \frac{1}{k!}\) 이 되고, 이 나머지 항의 합이 $n \to \infty$일 때 0으로 수렴함을 보일 수 있다. 이는 수열 ${x_n}$이 코시 수열임을 의미하며, (실수의 완비성 덕분에) 이 수열이 수렴한다는 결론을 내릴 수 있게 한다. 이처럼 코시 기준은 수렴성 증명의 패러다임을 ‘목표값과의 비교’에서 ‘내재적 안정성 분석’으로 전환시키는 결정적인 역할을 한다.
코시 수열은 수렴의 강력한 ‘필요조건’을 제공한다. 그렇다면 역은 성립하는가? 즉, 모든 코시 수열은 항상 수렴하는가? 이 질문에 대한 답은 “공간에 따라 다르다”이며, 이 질문에 긍정적으로 답할 수 있는 공간의 성질이 바로 ‘완비성’이다.
완비성을 일반적인 맥락에서 이해하기 위해, 먼저 거리 공간의 개념을 도입해야 한다.
거리 공간 (Metric Space): 집합 $X$와 함수 $d: X \times X \to [0, \infty)$의 순서쌍 $(X, d)$가 다음 네 가지 공리를 만족할 때, 이를 거리 공간이라 한다.16
비부정성: $d(x, y) \ge 0$ 이고, $d(x, y) = 0 \iff x = y$
대칭성: $d(x, y) = d(y, x)$
삼각부등식: $d(x, z) \le d(x, y) + d(y, z)$
| 이 거리 함수 $d$는 집합 $X$의 두 점 사이의 ‘거리’라는 직관적 개념을 추상화한 것이다. 실수 집합 $\mathbb{R}$에 거리 함수 $d(x,y) = | x-y | $를 부여하면 $(\mathbb{R}, d)$는 대표적인 거리 공간이 된다. |
정의 (완비 거리 공간): 거리 공간 $(X, d)$ 안의 모든 코시 수열(Cauchy sequence)이 $X$ 안의 한 점으로 수렴할 때, $(X, d)$를 완비 거리 공간(Complete Metric Space)이라 한다.5
완비성은 공간에 ‘빠진 점’이나 ‘구멍’이 없다는 기하학적 직관을 엄밀하게 표현한 것이다.5
임의의 거리 공간에서 수열(점렬)들 사이에는 다음과 같은 포함 관계가 성립한다 14:
상수 점렬 $\subseteq$ 수렴 점렬 $\subseteq$ 코시 점렬 $\subseteq$ 유계 점렬
여기서 완비 거리 공간은 두 번째 포함 관계가 등호($=$)로 바뀌는, 즉 수렴 점렬과 코시 점렬의 집합이 정확히 일치하는 특별한 공간으로 정의할 수 있다.6
유리수 집합 $\mathbb{Q}$는 완비성의 중요성을 이해하는 데 가장 핵심적인 반례를 제공한다.
유리수는 ‘조밀성(density)’을 갖는다. 즉, 임의의 서로 다른 두 유리수 사이에는 항상 또 다른 유리수가 존재한다.18 이 성질 때문에 유리수는 수직선을 매우 빽빽하게 채우는 것처럼 보인다. 하지만 이 조밀함은 착시이며, 실제로는 무리수에 해당하는 위치마다 무한히 작은 ‘구멍’들이 존재한다. 완비성은 이 ‘틈’의 유무를 판별하는 성질로, 조밀성과는 근본적으로 다른 개념이다.1
| 유리수 체계 $(\mathbb{Q}, d)$ (여기서 $d(x,y) = | x-y | $)가 완비적이지 않음은 구체적인 반례를 통해 명확히 보일 수 있다. |
반례 1: 수렴하지 않는 코시 수열의 존재
$\sqrt{2}$의 근사값을 구하는 바빌로니아 법(Babylonian method)에 따라 다음과 같은 점화식으로 수열 ${x_n}$을 정의하자.13 \(x_1 = 1, \quad x_{n+1} = \frac{1}{2}\left(x_n + \frac{2}{x_n}\right)\) 이 수열의 첫 몇 항을 구해보면 $1, 3/2, 17/12, 577/408, \dots$ 이다.
모든 항은 유리수이다: $x_1$이 유리수이고, 점화식의 연산(덧셈, 나눗셈)이 유리수 체계 안에서 닫혀 있으므로, 모든 $x_n$은 유리수이다.
코시 수열이다: 이 수열은 실수 공간 $\mathbb{R}$에서 $\sqrt{2}$로 수렴한다는 사실이 잘 알려져 있다. 정리 2.2.1에 의해, $\mathbb{R}$에서 수렴하는 수열은 코시 수열이다. 코시 수열의 정의는 오직 항들 사이의 거리만을 포함하므로, 이 수열은 유리수 공간 $\mathbb{Q}$에서도 코시 수열이다.
$\mathbb{Q}$에서 수렴하지 않는다: 이 수열의 극한값은 $\sqrt{2}$인데, $\sqrt{2}$는 무리수이므로 유리수 집합 $\mathbb{Q}$에 속하지 않는다.
따라서, ${x_n}$은 $\mathbb{Q}$ 안의 코시 수열이지만 그 극한값이 $\mathbb{Q}$ 안에 존재하지 않는다. 이는 $\mathbb{Q}$가 완비 거리 공간이 아님을 직접적으로 보여주는 증거이다.13
반례 2: 최소상계 성질의 실패
완비성을 바라보는 또 다른 관점은 ‘최소상계 성질(Least Upper Bound Property)’이다. 집합 $A = {r \in \mathbb{Q} \mid r^2 < 2}$를 생각해보자.7
이 두 반례는 동일한 현상, 즉 유리수 체계의 $\sqrt{2}$라는 ‘구멍’을 다른 방식으로 드러낸다. 코시 수열의 존재는 공간의 ‘틈’을 탐지하는 동적(dynamic)인 ‘프로브(probe)’ 역할을 한다. $\sqrt{2}$로 향하는 코시 수열은 바로 그 $\sqrt{2}$라는 ‘구멍’의 존재를 정확히 지목한다. 반면, 최소상계 성질의 실패는 정적(static)인 관점에서 그 ‘구멍’의 경계가 $\mathbb{Q}$에 속하지 않음을 보여준다. 결국 “수렴하지 않는 코시 수열의 존재”와 “최소상계의 부재”는 비완비성이라는 동일한 실체의 다른 얼굴인 것이다.
실수는 유리수가 가진 이러한 ‘틈’을 모두 메운 완벽한 수 체계이다. 수학적으로 실수는 체 공리(사칙연산)와 순서 공리(부등호)를 만족하는 순서체일 뿐만 아니라, 유리수와 구별되는 결정적 성질인 완비성 공리를 만족하는 것으로 정의된다.7
완비성 공리 (Completeness Axiom):
실수의 완비성은 여러 동치인 명제로 표현될 수 있다. 가장 대표적인 형태는 최소상계 성질이다.
이 공리는 실수가 수직선 상의 어떤 ‘틈’도 없이 완벽하게 채워져 있음을 공리적으로 보장한다.6 유리수 집합에서 실패했던 반례 $A = {r \in \mathbb{Q} \mid r^2 < 2}$를 실수 집합의 부분집합 $A’ = {x \in \mathbb{R} \mid x^2 < 2}$로 생각하면, 이 집합은 위로 유계이므로 완비성 공리에 의해 실수 $\sqrt{2}$라는 최소상계를 갖는다.
코시 수열의 관점에서 완비성은 다음과 같이 기술된다.
실수 체계에서는 이 두 버전의 완비성이 서로 동치임이 증명된다. 이는 실수가 구조적으로 완결되어 있어, ‘수렴할 것처럼 보이는’ 모든 과정(코시 수열)이 실제로 그 공간 안에서 결실(극한값)을 맺음을 의미한다.
아래 표는 두 수 체계의 유사점과 결정적 차이점을 한눈에 보여줌으로써 완비성의 독특한 위상을 시각적으로 강조한다. 이 표를 통해 왜 유리수만으로는 해석학을 전개하기에 불충분한지를 직관적으로 이해할 수 있다.
| 속성 (Property) | 유리수 집합 ($\mathbb{Q}$) | 실수 집합 ($\mathbb{R}$) | 비고 |
|---|---|---|---|
| 체 공리 (Field Axioms) | O | O | 덧셈, 뺄셈, 곱셈, 나눗셈(0 제외)에 대해 닫혀 있음. 25 |
| 순서 공리 (Order Axioms) | O | O | 전순서 집합(total order)을 이룸. 25 |
| 조밀성 (Density) | O | O | 임의의 두 수 사이에 또 다른 수가 항상 존재함. 18 |
| 완비성 (Completeness) | X | O | 코시 수열이 항상 수렴하며, 최소상계 성질이 성립함. 18 |
이 표가 보여주듯, 대수적 구조와 순서 구조, 심지어 조밀성까지 공유하는 두 수 체계는 오직 ‘완비성’이라는 단 하나의 속성에서 갈라진다. 그리고 이 차이가 해석학이라는 거대한 학문 체계를 가능하게 하는 결정적 분기점이 된다.
유리수 체계 $\mathbb{Q}$가 비완비적이라면, 어떻게 그 ‘틈’을 메워 완비적인 실수 체계 $\mathbb{R}$을 만들 수 있는가? 19세기 후반, 게오르크 칸토어는 이 문제에 대해 코시 수열을 이용하여 답을 제시했다. 그의 방법은 $\mathbb{Q}$의 ‘구멍’을 가리키는 ‘유리수 코시 수열’ 자체를 새로운 수, 즉 ‘실수’로 정의하는 혁신적인 아이디어에 기반한다.18 이는 비완비 공간을 완비 공간으로 확장하는 일반적인 수학적 절차인 ‘완비화(completion)’의 원형이 되었다.14
칸토어의 실수 구성법은 다음과 같은 논리적 단계로 이루어진다.
1단계: 유리수 코시 수열의 집합 $\mathcal{C}(\mathbb{Q})$ 정의
첫 단계는 구성의 재료가 될 대상을 모으는 것이다. 여기서는 유리수 집합 $\mathbb{Q}$ 위에서 정의된 모든 코시 수열들의 집합을 $\mathcal{C}(\mathbb{Q})$라 정의한다.25 이 집합의 각 원소는 ${x_n}$과 같은 유리수열이며, 코시 조건을 만족한다. 예를 들어, ${1, 1.4, 1.41, 1.414, \dots}$와 같이 $\sqrt{2}$의 십진 전개로 만들어진 수열이나, ${3, 3.1, 3.14, 3.141, \dots}$와 같이 $\pi$로 향하는 수열 모두 $\mathcal{C}(\mathbb{Q})$의 원소이다.
2단계: 동치관계 $\sim$의 정의
$\mathcal{C}(\mathbb{Q})$에는 같은 ‘구멍’을 향해 가는 서로 다른 코시 수열들이 많이 존재한다. 예를 들어, ${1.414, 1.4142, \dots}$와 바빌로니아 법으로 생성된 수열 ${1, 3/2, 17/12, \dots}$는 서로 다른 수열이지만, 둘 다 $\sqrt{2}$라는 동일한 지점을 가리킨다. 이들을 하나의 ‘실수’로 취급하기 위해 동치관계를 도입한다. $\mathcal{C}(\mathbb{Q})$의 두 수열 ${x_n}$, ${y_n}$에 대해, 두 수열의 차가 0으로 수렴할 때 동치라고 정의한다.6 \(\{x_n\} \sim \{y_n\} \iff \lim_{n\to\infty} (x_n - y_n) = 0\) 이 관계는 반사성, 대칭성, 추이성을 만족하여 동치관계가 됨을 쉽게 보일 수 있다.
3단계: 실수 집합 $\mathbb{R}$의 정의
이제 실수 집합 $\mathbb{R}$을 2단계에서 정의한 동치관계에 대한 동치류(equivalence class)들의 집합으로 정의한다. 즉, $\mathbb{R} := \mathcal{C}(\mathbb{Q}) / \sim$.6 각 동치류가 하나의 실수를 나타낸다.
4단계: 연산과 순서의 정의 및 완비성 증명
마지막으로, 이렇게 정의된 동치류들 사이에 덧셈, 곱셈, 순서 관계를 자연스럽게 정의할 수 있다. 예를 들어, 두 동치류 $[{x_n}]$와 $[{y_n}]$의 합은 각 동치류에서 대표 수열 ${x_n}$과 ${y_n}$을 뽑아 항별로 더한 새로운 코시 수열 ${x_n + y_n}$이 속하는 동치류로 정의한다.25 \([\{x_n\}] + [\{y_n\}] := [\{x_n + y_n\}]\) 이러한 연산과 순서가 대표 수열의 선택에 무관하게 잘 정의됨(well-defined)을 보일 수 있다. 이렇게 구성된 $(\mathbb{R}, +, \cdot, \le)$는 체 공리와 순서 공리를 모두 만족하는 순서체가 되며, 더 나아가 완비적임이 증명된다. 즉, $\mathbb{R}$안의 모든 코시 수열(이는 ‘코시 수열의 동치류들로 이루어진 코시 수열’을 의미함)은 $\mathbb{R}$ 안에서 수렴한다.[21, 26] $\mathbb{Q}$ 의 ‘구멍’들이 $\mathbb{Q}$의 코시 수열들에 의해 ‘채워진’ 것이다.
칸토어의 구성법 외에도 실수를 구성하는 다른 유명한 방법으로 리하르트 데데킨트(Richard Dedekind)의 ‘절단(cut)’을 이용한 방법이 있다.
이러한 실수의 구성 과정은 단순히 하나의 수 체계를 발명한 것을 넘어, 현대 수학의 핵심적인 방법론을 보여주는 원형적 사례이다. 코시 수열을 이용한 완비화 과정은 유리수에서 실수로의 특수한 경우를 넘어, 임의의 비완비 거리 공간 $(X, d)$에 적용하여 그것의 완비화 $(\bar{X}, \bar{d})$를 구성하는 일반적인 절차로 확장될 수 있다.13 이 완비화 공간 $\bar{X}$는 원래 공간 $X$를 조밀한 부분 공간으로 포함하는 가장 작은 완비 거리 공간이다. 이 강력한 아이디어는 연속 함수들의 공간과 같은 불완비 함수 공간을 다루는 함수해석학에서, 이를 완비 공간인 바나흐 공간(Banach space)이나 힐베르트 공간(Hilbert space)으로 확장하여 미분방정식의 해의 존재성을 증명하는 등 수많은 분야에서 필수적인 도구로 사용된다.14 결국, 실수의 구성은 단지 수의 발명 이야기가 아니라, 수학적 공간의 ‘결함’을 체계적으로 ‘수선’하여 더 풍부한 이론을 전개할 수 있는 무대를 만드는, 일반적인 공학 기술의 첫 번째 위대한 성공 사례라 할 수 있다.
실수의 완비성은 그 자체로 중요한 성질일 뿐만 아니라, 해석학의 거의 모든 핵심적인 정리들을 떠받치는 기둥 역할을 한다. 완비성이 없다면, 우리가 당연하게 받아들이는 미적분학의 많은 정리들은 성립하지 않거나 증명될 수 없다. 이 장에서는 완비성이 어떻게 해석학의 대정리들을 보장하는지 구체적인 증명을 통해 탐구한다.
완비성의 가장 직접적인 결과는 II장에서 제기된 질문, 즉 “모든 코시 수열은 수렴하는가?”에 대한 답을 제공하는 것이다. 실수 공간 $\mathbb{R}$에서는 이 질문의 답이 ‘그렇다’이며, 이는 ‘코시 수렴 판정법’이라는 이름의 정리로 공식화된다.
이 정리는 실수 공간에서는 ‘수렴’과 ‘코시’가 동치임을 의미한다. ‘수렴 $\implies$ 코시’ 방향은 정리 2.2.1에서 이미 증명되었다. 이제 완비성을 이용하여 그 역, 즉 ‘코시 $\implies$ 수렴’ 방향을 증명해야 한다. 이 증명은 완비성의 강력한 힘을 직접적으로 보여준다.
증명 ($\Leftarrow$ 방향):
${a_n}$을 $\mathbb{R}$의 임의의 코시 수열이라 하자. 정리 2.2.2에 의해, 모든 코시 수열은 유계이다. 따라서 ${a_n}$은 유계인 실수열이다.
이제 실수의 완비성과 동치인 볼차노-바이어슈트라스 정리(5.2절에서 다룸)를 적용한다. 이 정리에 따르면, 모든 유계인 실수열은 반드시 수렴하는 부분수열을 갖는다. 따라서 ${a_n}$은 어떤 실수 $L$로 수렴하는 부분수열 ${a_{n_k}}$를 갖는다. 즉, $\lim_{k\to\infty} a_{n_k} = L$이다.
마지막으로, 부분수열의 극한값 $L$이 원래 수열 ${a_n}$의 극한값임을 보인다. 임의의 $\epsilon > 0$이 주어졌다고 하자.
| ${a_n}$이 코시 수열이므로, 정의에 의해 어떤 자연수 $N_1$이 존재하여 $n, m \ge N_1 \implies | a_n - a_m | < \epsilon/2$가 성립한다. |
| 부분수열 ${a_{n_k}}$가 $L$로 수렴하므로, 정의에 의해 어떤 자연수 $K$가 존재하여 $k \ge K \implies | a_{n_k} - L | < \epsilon/2$가 성립한다. |
이제 $k \ge K$이면서 동시에 $n_k \ge N_1$을 만족하도록 충분히 큰 $k$를 하나 선택하자 (이러한 $k$는 항상 존재한다). 이 특정 $n_k$에 대해, $n \ge N_1$인 모든 $n$을 생각하면 삼각부등식에 의해 다음이 성립한다 3: \(|a_n - L| = |(a_n - a_{n_k}) + (a_{n_k} - L)| \le |a_n - a_{n_k}| + |a_{n_k} - L|\)
$n \ge N_1$이고 $n_k \ge N_1$이므로, 코시 조건에 의해 |$a_n - a_{n_k}| < \epsilon/2$이다. 또한 $k$의 선택에 의해|$a_{n_k} - L| < \epsilon/2$이다. 따라서,
\(|a_n - L| < \frac{\epsilon}{2} + \frac{\epsilon}{2} = \epsilon\)
이는 $n \ge N_1$인 모든 $n$에 대해 성립하므로, $\lim_{n\to\infty} a_n = L$이다. 즉, 코시 수열 ${a_n}$은 수렴한다.
실수의 완비성은 하나의 명제로만 표현되지 않는다. 다음의 중요한 정리들은 모두 최소상계 성질과 논리적으로 동치이다. 즉, 어느 하나를 공리로 받아들이면 나머지를 모두 증명할 수 있으며, 이들의 상호 증명 과정은 완비성이라는 개념의 다각적인 면모를 깊이 있게 보여준다.18
단조 수렴 정리 (Monotone Convergence Theorem): 위로 유계인 단조증가수열(또는 아래로 유계인 단조감소수열)은 반드시 수렴한다.
증명 (완비성 $\implies$ 단조 수렴): ${a_n}$을 위로 유계인 단조증가수열이라 하자. 이 수열의 항들을 원소로 갖는 집합 $S = {a_n \mid n \in \mathbb{N}}$를 생각하자. $S$는 공집합이 아니고, 가정에 의해 위로 유계이다. 실수의 완비성 공리(최소상계 성질)에 따라, $S$의 최소상계 $\alpha = \sup S$가 실수 $\mathbb{R}$에 존재한다. 이제 이 $\alpha$가 수열 ${a_n}$의 극한값임을 보이자.
임의의 $\epsilon > 0$에 대해, $\alpha - \epsilon$은 $\alpha$보다 작으므로 $S$의 상계가 될 수 없다. 따라서 $\alpha - \epsilon < a_N$을 만족하는 어떤 항 $a_N$이 존재한다. ${a_n}$은 단조증가수열이므로, $n \ge N$인 모든 $n$에 대해 $a_N \le a_n$이다. 또한 $\alpha$는 상계이므로 $a_n \le \alpha$이다. 이들을 종합하면, $n \ge N$인 모든 $n$에 대해 다음이 성립한다. \(\alpha - \epsilon < a_N \le a_n \le \alpha < \alpha + \epsilon\) 즉, ``|$a_n - \alpha| < \epsilon$이다. 이는 $\lim_{n\to\infty} a_n = \alpha$를 의미한다.15
볼차노-바이어슈트라스 정리 (Bolzano-Weierstrass Theorem): 모든 유계인 실수열은 수렴하는 부분수열을 갖는다.
축소구간정리 (Nested Interval Property): 닫힌구간들의 감소열 ${I_n = [a_n, b_n]}$ (즉, $I_1 \supset I_2 \supset I_3 \supset \dots$)이 주어지고, 구간의 길이 $(b_n - a_n)$이 $0$으로 수렴하면, 모든 구간에 공통으로 포함되는 유일한 점이 존재한다. 즉, $ \bigcap_{n=1}^\infty I_n = {c}$ 인 실수 $c$가 유일하게 존재한다.
완비성은 수열 이론을 넘어 함수 이론에서도 그 위력을 발휘한다. 함수의 연속성에 대한 기본 정리들은 모두 정의역인 실수가 완비적이라는 사실에 결정적으로 의존한다.
샌드위치 정리에 의해 $\lim_{k\to\infty} f(d_{n_k}) = M$이다.이처럼 해석학의 기본 정리들은 함수의 ‘연속성’이라는 성질과 정의역인 실수의 ‘완비성’이라는 성질의 합작품이다. 완비성이 없다면, 연속적인 과정이 반드시 명확한 결과(중간값, 최댓값, 최솟값)를 낳는다는 보장이 없다. 완비성은 미적분학의 수많은 직관적 아이디어들을 흔들리지 않는 논리적 현실로 만들어주는 다리 역할을 하는 것이다.
코시 수열과 완비성에 대한 고찰은 실수 체계의 근본적인 구조를 이해하는 것을 넘어, 현대 수학의 광범위한 영역으로 나아가는 중요한 길목에 서 있다. 이 개념들은 실수를 넘어선 추상적인 공간으로 일반화되며, 그 과정에서 더욱 깊은 의미와 강력한 응용성을 드러낸다.
| 실수 집합 $\mathbb{R}$에서 절댓값 $ | x-y | $로 정의되었던 ‘거리’의 개념은 임의의 집합 위에서 거리의 공리(비부정성, 대칭성, 삼각부등식)를 만족하는 ‘거리 함수 $d(x,y)$’로 일반화되어 ‘거리 공간’이라는 개념을 낳는다. 이 추상적인 틀 안에서 코시 수열과 완비성의 정의는 거의 그대로 이식된다.13 |
이러한 일반화는 엄청난 파급 효과를 가져왔다. 예를 들어, 벡터 공간에 ‘노름(norm)’이라는 길이 개념을 부여한 ‘노름 공간’이나, 각도와 직교성까지 다룰 수 있는 ‘내적 공간’ 역시 자연스럽게 거리 공간이 된다. 이 공간들이 완비적일 때, 우리는 이들을 각각 바나흐 공간(Banach space)과 힐베르트 공간(Hilbert space)이라 부른다.14 이 공간들은 무한 차원일 수 있으며, 함수 자체를 하나의 ‘점’으로 취급하는 함수해석학의 핵심적인 연구 무대가 된다. 편미분방정식의 해의 존재와 유일성을 증명하거나, 양자역학의 상태를 수학적으로 기술하는 등, 현대 과학과 공학의 가장 진보된 이론들은 바로 이 완비적인 함수 공간 위에서 전개된다.
코시 수열은 ‘수렴’이라는 현상의 내재적 본질, 즉 외부의 목표점 없이도 수렴 과정을 특징지을 수 있는 가능성을 포착한 위대한 개념적 도약이었다. 그것은 수렴의 ‘과정’ 자체에 집중한 것이다.
완비성은 이러한 ‘수렴처럼 보이는’ 과정이 실제로 ‘결실을 맺는’ 공간의 구조적 안정성을 보장하는 성질이다. 이는 아리스토텔레스 철학의 용어를 빌리자면, ‘가능성(potentiality, 코시 수열)’이 항상 ‘현실성(actuality, 극한값)’으로 전환될 수 있는 수학적 세계를 구축한 것이라 비유할 수 있다. 유리수와 같이 ‘틈’이 있는 불완전한 세계에서는 수렴의 가능성이 좌절될 수 있지만, 실수와 같이 완비적인 세계에서는 모든 수렴의 약속이 지켜진다.
결론적으로, 코시 수열과 완비성에 대한 고찰은 단순히 실수 체계의 한 가지 중요한 속성을 배우는 것에 그치지 않는다. 이는 수학적 대상을 엄밀하게 구성하고(실수의 구성), 그 구조적 완결성을 판별하며(완비성 판정), 이를 바탕으로 풍부하고 강력한 이론(해석학의 대정리들)을 논리적으로 전개해 나가는 현대 수학의 핵심적인 사유 방식을 이해하는 과정이다. 코시와 칸토어로부터 시작된 이 위대한 지적 여정은, 눈에 보이지 않는 ‘틈’을 사유하고 그것을 메우는 방법을 고안함으로써, 수학이 더욱 깊고 넓은 세계로 나아갈 수 있는 단단한 토대를 마련해 주었다.