12.15 간접 증명의 사례 분석

12.15 간접 증명의 사례 분석

1. 절의 학술적 목표

본 절은 간접 증명(indirect proof)의 구체적 사례를 학술적으로 분석하는 것을 목표로 한다. 간접 증명은 귀류법(reductio ad absurdum)과 대우 증명법(proof by contraposition)을 포함하며, 수학과 논리학의 여러 고전적 정리의 증명에서 활용되어 왔다. 본 절은 2의 제곱근의 무리수성, 소수의 무한성, 홀짝성에 관한 조건 명제, 집합의 공집합성, 유일성 주장, 함수의 단사성, 무한 집합의 기수 비교 등의 사례를 체계적으로 분석한다.

2. 2의 제곱근의 무리수성

2의 제곱근이 무리수임의 증명은 간접 증명의 고전적 사례이다. 증명의 구조는 다음과 같다. 첫째, 2의 제곱근이 유리수라고 가정한다. 둘째, 유리수의 정의에 따라 2의 제곱근을 기약분수 “p/q“로 표현한다(p와 q는 서로소인 정수). 셋째, 양변을 제곱하여 “2 = p²/q²“를 얻고, 이로부터 “p² = 2q²“를 도출한다. 넷째, “p²“이 짝수이므로 p도 짝수이며, “p = 2k“로 쓸 수 있다. 다섯째, 이를 대입하여 “4k² = 2q²”, 즉 “q² = 2k²“를 얻는다. 여섯째, “q²“도 짝수이므로 q도 짝수이다. 일곱째, p와 q가 모두 짝수이므로 공약수 2를 가지며, 이는 p와 q가 서로소라는 가정과 모순된다. 여덟째, 귀류법에 의하여 2의 제곱근은 유리수가 아니라는 결론을 얻는다. 이 증명은 피타고라스 학파의 증명으로 알려져 있으며, 수학사에서 귀류법의 대표적 적용 사례이다(Euclides, trans. 1956).

3. 소수의 무한성

유클리드의 소수의 무한성 증명은 간접 증명의 또 다른 고전적 사례이다. 증명의 구조는 다음과 같다. 첫째, 소수의 집합이 유한하다고 가정한다. 둘째, 모든 소수를 “p₁, p₂, …, pₙ“으로 나열한다. 셋째, 이 소수들의 곱에 1을 더한 수 “N = p₁ × p₂ × … × pₙ + 1“을 구성한다. 넷째, N은 나열된 소수들 중 어느 것으로도 나누어떨어지지 않는다(각 소수로 나누면 나머지 1이 남음). 다섯째, 산술의 기본 정리에 의하여 N은 소수이거나 소수의 곱으로 분해된다. 여섯째, 만약 N이 소수라면 그것은 나열에 포함되지 않은 새로운 소수이며, 가정과 모순된다. 일곱째, 만약 N이 합성수라면 그 약수는 나열된 소수들 중 하나여야 하나, 이는 네 번째 단계의 결과와 모순된다. 여덟째, 따라서 소수의 집합이 유한하다는 가정은 모순이며, 귀류법에 의하여 소수의 집합은 무한하다는 결론을 얻는다(Euclides, trans. 1956).

4. 홀짝성에 관한 조건 명제

“n²이 짝수이면 n도 짝수이다“라는 명제는 대우 증명법의 표준적 사례이다. 증명의 구조는 다음과 같다. 첫째, 대우 명제 “n이 홀수이면 n²도 홀수이다“를 증명 목표로 설정한다. 둘째, n이 홀수라고 가정하면 “n = 2k + 1“의 형태로 쓸 수 있다. 셋째, 양변을 제곱하여 “n² = 4k² + 4k + 1 = 2(2k² + 2k) + 1“을 얻는다. 넷째, “n²“은 “2m + 1“의 형태이므로 홀수이다. 다섯째, 대우 명제가 증명되었으므로 원래 명제도 참이다. 이 증명은 대우 증명법이 직접 증명보다 간결한 경우의 전형적 사례이며, 수학 교육에서 간접 증명의 도입 예시로 자주 활용된다(Copi, Cohen, & McMahon, 2014).

5. 집합의 공집합성

“어떤 성질을 만족하는 대상이 존재하지 않음“의 증명은 귀류법으로 수행된다. 예를 들어, “4로 나누어 3의 나머지를 갖는 정수는 두 제곱수의 합으로 표현될 수 없다“라는 명제의 증명은 다음과 같이 진행된다. 첫째, 4로 나누어 3의 나머지를 갖는 정수 n이 두 제곱수의 합 “a² + b²“으로 표현된다고 가정한다. 둘째, 모든 정수의 제곱은 4로 나누어 0 또는 1의 나머지를 갖는다(짝수의 제곱은 0, 홀수의 제곱은 1의 나머지). 셋째, 따라서 두 제곱수의 합 “a² + b²“은 4로 나누어 0, 1, 2의 나머지만을 가질 수 있다. 넷째, 이는 n이 4로 나누어 3의 나머지를 갖는다는 가정과 모순된다. 다섯째, 귀류법에 의하여 4로 나누어 3의 나머지를 갖는 정수는 두 제곱수의 합으로 표현될 수 없다는 결론을 얻는다. 이 증명은 수론에서 간접 증명의 활용을 보여 준다(Hardy & Wright, 1979).

6. 유일성 주장

수학적 대상의 유일성 주장은 간접 증명으로 자주 증명된다. 예를 들어, “주어진 집합의 최소 원소는 유일하다“라는 명제의 증명은 다음과 같이 진행된다. 첫째, 집합 S의 최소 원소가 두 개 존재한다고 가정하고, 이를 “m₁“과 “m₂“로 표기한다. 둘째, 최소 원소의 정의에 의하여 “m₁“은 S의 모든 원소 이하이므로, “m₁ ≤ m₂“이다. 셋째, 마찬가지로 “m₂ ≤ m₁“이다. 넷째, 순서 관계의 반대칭성에 의하여 “m₁ = m₂“이다. 다섯째, 이는 두 개의 서로 다른 최소 원소가 존재한다는 가정과 모순된다. 여섯째, 귀류법에 의하여 최소 원소는 유일하다는 결론을 얻는다. 이러한 유일성 증명은 간접 증명이 유일성 주장의 표준적 도구임을 보여 준다(Mendelson, 2015).

7. 함수의 단사성

함수의 단사성(injectivity)에 관한 명제는 대우 증명법으로 증명되는 경우가 많다. 단사 함수의 정의 “f(x₁) = f(x₂)이면 x₁ = x₂이다“의 대우는 “x₁ ≠ x₂이면 f(x₁) ≠ f(x₂)이다“이다. 구체적 사례로서, 실수 전체에서 정의된 함수 “f(x) = 3x + 5“가 단사임을 증명하는 경우를 생각한다. 첫째, “f(x₁) = f(x₂)“를 가정한다. 둘째, 이는 “3x₁ + 5 = 3x₂ + 5“를 의미한다. 셋째, 양변에서 5를 빼고 3으로 나누어 “x₁ = x₂“를 얻는다. 넷째, 단사성의 정의가 충족되므로 f는 단사 함수이다. 이 증명은 대우 증명법의 활용이 함수의 성질 증명에서 효과적임을 보여 준다(Mendelson, 2015).

8. 무한 집합의 기수 비교

칸토어의 대각선 논법은 무한 집합의 기수 비교에서 간접 증명의 혁신적 적용이다. “실수의 집합은 자연수의 집합과 동일한 기수를 갖지 않는다“의 증명은 다음과 같이 진행된다. 첫째, 실수의 집합이 자연수의 집합과 동일한 기수를 갖는다고 가정한다. 둘째, 이 가정에 의하여 단위 구간 [0, 1]의 모든 실수를 자연수로 번호를 매긴 목록을 구성할 수 있다. 셋째, 각 실수를 소수 전개로 표현한다. 넷째, 목록의 n번째 실수의 n번째 소수 자리와 다른 숫자를 선택하여 새로운 실수를 구성한다. 다섯째, 이 새로운 실수는 단위 구간에 속하지만 목록의 어떠한 실수와도 일치하지 않는다. 여섯째, 이는 목록이 모든 실수를 포함한다는 가정과 모순된다. 일곱째, 귀류법에 의하여 실수의 집합은 자연수의 집합보다 큰 기수를 갖는다는 결론을 얻는다. 이 증명은 귀류법의 가장 창의적이고 영향력 있는 적용 사례 중 하나이다(Cantor, 1891).

9. 무리수의 제곱의 유리수성

“무리수의 무리수 제곱이 유리수일 수 있다“라는 명제의 증명은 배중률에 기반한 비구성적 간접 증명의 흥미로운 사례이다. 증명은 다음과 같이 진행된다. 첫째, 2의 제곱근의 2의 제곱근 제곱 “(√2)(√2)“를 고려한다. 둘째, 이 수가 유리수이거나 무리수이거나 둘 중 하나이다(배중률). 셋째, 만약 이 수가 유리수라면, 무리수의 무리수 제곱이 유리수인 예가 존재한다. 넷째, 만약 이 수가 무리수라면, 이 무리수에 2의 제곱근을 제곱한 결과 “((√2)(√2))^(√2) = (√2)² = 2“를 고려한다. 이는 유리수이다. 다섯째, 따라서 이 경우에도 무리수의 무리수 제곱이 유리수인 예가 존재한다. 여섯째, 두 경우 모두 명제가 참이므로, 무리수의 무리수 제곱이 유리수일 수 있다는 결론을 얻는다. 이 증명은 비구성적 증명이며, 어느 경우가 실제로 성립하는지를 식별하지 않는다. 이 증명은 고전 논리의 배중률과 간접 증명의 특징적 적용을 보여 준다(Bishop, 1967).

10. 그래프 이론에서의 간접 증명

그래프 이론에서는 간접 증명이 자주 활용된다. 예를 들어, “임의의 단순 그래프에서 동일한 차수를 갖는 두 정점이 반드시 존재한다“라는 명제의 증명은 비둘기집 원리와 귀류법의 결합으로 진행된다. 첫째, n개의 정점을 가진 단순 그래프 G에서 모든 정점의 차수가 서로 다르다고 가정한다. 둘째, 단순 그래프의 정점의 차수는 0부터 “n-1“까지의 값 중 하나를 가진다. 셋째, n개의 정점이 서로 다른 차수를 가지려면 0부터 “n-1“까지의 모든 값을 한 번씩 가져야 한다. 넷째, 그러나 차수 0의 정점(고립 정점)과 차수 “n-1“의 정점(모든 다른 정점과 연결된 정점)이 동시에 존재할 수 없다. 다섯째, 이는 모순이다. 여섯째, 귀류법에 의하여 동일한 차수를 갖는 두 정점이 존재한다는 결론을 얻는다. 이 사례는 조합론에서 간접 증명의 활용을 보여 준다(Bondy & Murty, 2008).

11. 간접 증명 사례 분석의 학술적 의의

간접 증명의 사례 분석은 다음과 같은 학술적 의의를 가진다. 첫째, 그것은 간접 증명이 수학의 여러 분야(수론, 해석학, 집합론, 조합론 등)에서 광범위하게 활용됨을 보여 준다. 둘째, 그것은 간접 증명의 형식적 구조가 구체적 증명에서 어떻게 구현되는지를 예시한다. 셋째, 그것은 간접 증명이 직접 증명으로는 접근하기 어려운 명제를 증명하는 데 유용함을 보여 준다. 넷째, 그것은 귀류법과 대우 증명법의 차이를 구체적 사례를 통하여 명료히 한다. 다섯째, 그것은 수학적 증명의 학습에서 간접 증명 사례의 분석이 증명 능력의 배양에 기여함을 보여 준다(Polya, 1945).

12. 본 절의 결론적 정리

간접 증명의 사례는 수학의 여러 분야에 걸쳐 있으며, 간접 증명의 형식적 구조가 구체적 증명에서 어떻게 구현되는지를 보여 준다. 2의 제곱근의 무리수성, 소수의 무한성, 홀짝성 관련 조건 명제, 집합의 공집합성, 유일성 주장, 함수의 단사성, 무한 집합의 기수 비교, 무리수의 제곱의 유리수성, 그래프 이론의 차수 정리 등은 간접 증명의 대표적 사례이다. 각 사례는 귀류법의 일반 절차(가정의 설정, 모순의 도출, 가정의 해소) 또는 대우 증명법의 절차(대우 명제의 직접 증명)에 따라 진행되며, 고전 수학의 핵심 정리를 엄밀하게 증명한다. 칸토어의 대각선 논법과 같은 혁신적 사례는 간접 증명이 수학의 새로운 발견을 가능하게 하는 도구임을 보여 준다. 학습자는 이러한 사례의 구조를 정확히 이해하고, 각 사례에서 간접 증명의 적용 방식을 분석함으로써 증명 능력을 배양해야 한다.

13. 출처

  • Cantor, G. (1891). Ueber eine elementare Frage der Mannigfaltigkeitslehre. Jahresbericht der Deutschen Mathematiker-Vereinigung, 1, 75–78.
  • Euclides. (trans. 1956). The Thirteen Books of Euclid’s Elements (T. L. Heath, Trans.). New York: Dover.
  • Polya, G. (1945). How to Solve It: A New Aspect of Mathematical Method. Princeton: Princeton University Press.
  • Bishop, E. (1967). Foundations of Constructive Analysis. New York: McGraw-Hill.
  • Hardy, G. H., & Wright, E. M. (1979). An Introduction to the Theory of Numbers (5th ed.). Oxford: Clarendon Press.
  • Bondy, J. A., & Murty, U. S. R. (2008). Graph Theory. New York: Springer.
  • Copi, I. M., Cohen, C., & McMahon, K. (2014). Introduction to Logic (14th ed.). London: Routledge.
  • Mendelson, E. (2015). Introduction to Mathematical Logic (6th ed.). Boca Raton: CRC Press.

14. 버전

  • 문서 버전: 1.0
  • 작성 기준일: 2026-04-15