6.6 기호주의 인공지능에서 형식적 추론의 한계
1. 기호주의 AI와 형식적 추론
기호주의 인공지능(Symbolic AI)은 지식을 형식적 기호 구조(명제, 규칙, 프레임 등)로 표현하고, 명시적 추론 규칙(전건 긍정, 해소 등)의 기계적 적용에 의해 새로운 지식을 도출하는 접근법이다. 이 접근법은 본질적으로 형식 체계(Formal System)로 모델링 가능하며, 따라서 불완전성 정리에 의한 한계가 직접 적용된다.
2. 자동 정리 증명(Automated Theorem Proving)의 한계
2.1 완전한 자동 증명의 불가능성
처치의 정리(Church’s Theorem, 1936)에 의해, 일차 술어 논리의 타당성 문제(주어진 공식이 모든 해석에서 참인지)는 결정 불가능하다. 따라서 임의의 논리적 명제의 증명 가능성을 판정하는 범용적 자동 정리 증명기는 원리적으로 불가능하다.
그러나 일차 술어 논리는 반결정 가능(Semi-Decidable)하다. 타당한 공식에 대해서는 증명이 발견되지만, 타당하지 않은 공식에 대해서는 탐색이 종료되지 않을 수 있다.
2.2 반자동 정리 증명의 성공
완전한 자동 증명은 불가능하지만, 반자동적(Semi-Automatic) 접근은 실용적으로 성공적이다:
- 증명 보조기(Proof Assistant): 인간이 증명의 구조를 제시하고 기계가 세부 단계를 검증하는 협업 방식. Coq, Isabelle/HOL, Lean 등.
- SMT 솔버: 특정 이론(산술, 배열, 비트벡터 등)에 대해 충족 가능성을 판정하는 결정 절차. Z3, CVC5 등.
- 인터랙티브 정리 증명: 인간의 직관과 기계의 검증 능력을 결합.
3. 전문가 시스템의 한계
3.1 지식 표현의 불완전성
전문가 시스템(Expert System)의 지식 기반(Knowledge Base)은 형식적 규칙의 유한 집합이다. 불완전성 정리에 의해, 충분히 강력한 지식 기반에서는 도출 가능한 결론의 범위가 원리적으로 제한된다.
3.2 프레임 문제(Frame Problem)
맥카시(John McCarthy)와 헤이스(Patrick Hayes)가 1969년에 제기한 프레임 문제는 형식 체계에서 행동의 효과와 비효과를 기술하는 것의 어려움이다. 이 문제는 불완전성 정리와 직접적으로 연관되지는 않으나, 형식적 표현의 한계라는 동일한 맥락에 속한다.
행동이 세계의 어떤 측면을 변화시키고 어떤 측면을 변화시키지 않는지를 형식적으로 완전하게 기술하려면, 모든 가능한 변화와 비변화를 명시해야 하며, 이는 조합적으로 폭발한다.
3.3 상식 추론(Commonsense Reasoning)의 어려움
인간이 암묵적으로 사용하는 상식적 지식을 형식적으로 부호화하는 것은 극도로 어렵다. Cyc 프로젝트(1984–현재)는 수백만 개의 상식적 규칙을 형식화하였으나, 여전히 인간 수준의 상식 추론에 도달하지 못하였다.
이 어려움은 불완전성 정리의 직접적 귀결이라기보다, 형식적 표현의 실용적 한계와 관련된다. 그러나 “형식적 체계로는 포착할 수 없는 지식이 존재한다“는 관점에서 불완전성 현상의 실용적 유사물로 해석할 수 있다.
4. 논리 프로그래밍의 한계
4.1 프롤로그(Prolog)의 한계
프롤로그는 호른 절(Horn Clause)에 기반한 논리 프로그래밍 언어이다. 일차 술어 논리의 부분집합에 해당하며, 부정(Negation)의 처리에 한계를 갖는다.
프롤로그에서의 “부정에 의한 실패(Negation as Failure)“는 폐쇄 세계 가정(Closed World Assumption)에 기반하며, 이는 불완전한 정보의 처리에 한계를 갖는다.
4.2 비단조 추론(Nonmonotonic Reasoning)의 필요성
상식 추론은 새로운 정보에 의해 이전의 결론이 철회될 수 있는 비단조적(Nonmonotonic) 성격을 갖는다. 표준 형식 논리는 단조적(Monotonic)이므로—전제가 추가되면 결론이 증가만 한다—비단조 추론의 자연스러운 표현에 한계가 있다.
기본 논리(Default Logic, Reiter 1980), 외접(Circumscription, McCarthy 1980), 자동 인식 논리(Autoepistemic Logic, Moore 1985) 등의 비단조 논리 체계가 개발되었으나, 이들 체계의 추론 문제 대부분이 NP 난해(NP-Hard) 이상이다.
5. 형식적 추론의 한계와 연결주의의 부상
5.1 기호주의의 한계가 연결주의를 촉진
기호주의 AI의 형식적 추론 한계—프레임 문제, 지식 획득 병목, 상식 추론의 어려움—는 대안적 접근으로서 연결주의(Connectionism, 신경망 기반 접근)의 부상을 촉진하였다.
연결주의에서 “지식“은 명시적 규칙이 아닌 신경망의 연결 가중치에 분산적으로 인코딩되며, “추론“은 형식적 규칙 적용이 아닌 활성화 패턴의 전파에 의해 수행된다. 이 접근은 형식적 추론의 한계를 우회하지만, 설명 가능성(Explainability)과 논리적 추론 능력에서 새로운 한계를 갖는다.
5.2 신경-기호 통합의 현대적 탐구
기호주의의 형식적 추론 능력과 연결주의의 학습·패턴 인식 능력을 결합하는 신경-기호 통합(Neuro-Symbolic Integration)이 현대 AI 연구의 중요한 방향이다. 이 통합은 형식적 추론의 한계와 통계적 학습의 한계를 상호 보완적으로 극복하려는 시도이다.
기호주의 AI의 형식적 추론 한계는 불완전성 정리, 결정 불가능성, 프레임 문제 등 다층적 원천에서 발생하며, 이 한계의 인식이 현대 AI 연구의 방법론적 다양화—연결주의, 확률적 방법, 신경-기호 통합—를 추동하는 이론적 배경이다.