6.7 전문가 시스템의 지식 표현 불완전성

6.7 전문가 시스템의 지식 표현 불완전성

1. 전문가 시스템의 구조와 한계

전문가 시스템(Expert System)은 특정 영역의 전문 지식을 규칙 기반(Rule-Based)으로 부호화하고, 추론 엔진(Inference Engine)에 의해 지식을 활용하는 지식 기반 시스템(Knowledge-Based System)이다. 지식 기반(Knowledge Base)과 추론 엔진의 분리가 핵심 아키텍처 원리���다.

전문가 시스템의 지식 표현은 형식 체계(Formal System)의 특수한 형태이다. 규칙은 공리에, 추론 엔진의 규칙 적용은 형식적 도출에, 도출된 결론은 정리에 대응한다. 따라서 불완전성 정리에 의한 한계가 원리적으로 적용된다.

2. 지식 획득 병목(Knowledge Acquisition Bottleneck)

2.1 문제의 기술

전문가 시스템의 가장 심각한 실용적 한계는 지식 획득 병목(Knowledge Acquisition Bottleneck)이다. 전문가의 암묵적 지식(Tacit Knowledge)을 명시적 형식 규칙으로 변환하는 과정이 극도로 노동 집약적이며, 지식의 규모가 증가함에 따라 규칙 간 충돌과 유지보수의 복잡성이 기하급수적으로 증가한다.

2.2 불완전성과의 관계

지식 획득 병목은 불완전성 정리의 실용적 발현으로 해석할 수 있다. 전문가의 지식은 본질적으로 형식적 규칙으로 완전히 포착될 수 없는 측면을 포함한다. 이는 폴라니(Michael Polanyi)의 “암묵적 차원(The Tacit Dimension)”—“우리는 말할 수 있는 것보다 더 많이 알고 있다”—과 일맥상통한다.

형식 체계가 모든 진리를 포착할 수 없다는 불완전성 정리의 결론이, 전문가의 모든 지식을 형식적 규칙으로 포착할 수 없다는 전문가 시스템의 한계에 유비적으로 대응한다.

3. 폐쇄 세계 가정(Closed World Assumption)의 한계

3.1 폐쇄 세계 가정의 정의

전문가 시스템에서 표준적으로 채택되는 폐쇄 세계 가정(Closed World Assumption, CWA)은 “지식 기반에 명시적으로 기술되지 않은 사실은 거짓으로 간주한다“는 가정이다.

3.2 CWA의 문제

CWA는 지식 기반의 불완전성을 부정(Negation)으로 처리하며, 이는 다음의 문제를 야기한다:

  1. 정보의 부재와 부정의 혼동: “알려지지 않음(Unknown)“과 “거짓(False)“이 구별되지 않는다.
  2. 새로운 정보에 의한 결론 철회의 필요성: 새로운 사실이 추가되면 이전의 부정적 결론이 무효화될 수 있으나, 이 철회를 체계적으로 관리하기 어렵다.
  3. 열린 세계 문제의 처리 불능: 지식이 불완전한 상황에서 올바른 추론을 수행하는 것이 CWA에서는 본질적으로 어렵다.

4. 규칙 기반 표현의 표현력 한계

4.1 예외 처리의 어려움

규칙 기반 지식 표현에서 예외(Exception)의 처리가 근본적으로 어렵다. “새는 날 수 있다“라는 규칙에 대해 “펭귄은 새이지만 날 수 없다“라는 예외를 처리하려면, 규칙의 우선순위(Priority), 기본값(Default), 예외 목록 등의 추가적 메커니즘이 필요하다. 예외의 예외, 예외의 예외의 예외… 등 무한 후퇴의 가능성이 존재한다.

4.2 맥락 의존성(Context Dependence)

동일한 사실이 맥락에 따라 상이한 결론을 도출할 수 있으나, 형식적 규칙 체계에서 맥락의 완전한 형식화가 어렵다. 맥락의 수가 폭발적으로 증가하며, 모든 맥락에 대한 규칙을 사전에 부호화하는 것이 실용적으로 불가능하다.

4.3 상식 지식의 형식화 난점

상식 지식(Commonsense Knowledge)은 인간이 암묵적으로 공유하는 방대한 배경 지식이다. 이 지식의 형식화는 다음의 난점에 직면한다:

  1. 양의 문제: 상식 지식의 양이 사실상 무한하다.
  2. 자명성의 문제: 상식 지식의 대부분이 “너무 당연하여” 명시적으로 기술할 동기가 없다.
  3. 암묵성의 문제: 상식 지식의 상당 부분이 언어적 기술로 포착되지 않는 암묵적 지식이다.

5. MYCIN, DENDRAL, R1/XCON의 한계 사례

5.1 MYCIN의 한계

MYCIN(1976)은 혈액 감염 진단을 위한 전문가 시스템이다. 약 600개의 규칙을 포함하며, 전문가 수준의 진단 정확도를 달성하였다. 그러나:

  • 설명 능력이 규칙의 나열에 그쳤다.
  • 새로운 질병이나 치료법에 대한 적응이 수동적 규칙 추가에 의존하였다.
  • 의료 영역의 불확실성 처리가 확신도(Certainty Factor)라는 ad hoc 메커니즘에 의존하였다.

5.2 R1/XCON의 한계

R1/XCON(1980)은 DEC 컴퓨터 시스템 구성을 위한 전문가 시스템이다. 약 10,000개의 규칙을 포함하며, 상업적으로 성공하였다. 그러나:

  • 규칙 수의 증가에 따른 유지보수 비용이 급격히 증가하였다.
  • 규칙 간 상호작용의 예측이 어려워졌다.
  • 새로운 하드웨어 제품 출시 시 대규모 규칙 갱신이 필요하였다.

6. 지식 표현 불완전성의 교훈

전문가 시스템의 지식 표현 불완전성은 다음의 교훈을 제공한다:

첫째, 형식적 규칙만으로는 전문 지식의 전체를 포착할 수 없다. 이는 불완전성 정리의 실용적 유비이다.

둘째, 지식의 동적 성격이 정적 규칙 기반 표현과 근본적으로 충돌한다. 지식은 지속적으로 변화하고 확장되지만, 형식적 규칙의 수동적 갱신은 이 변화를 따라가지 못한다.

셋째, 학습에 의한 지식 획득이 수동적 규칙 부호화의 대안이다. 현대 기계 학습(Machine Learning)의 성공은 전문가 시스템의 지식 획득 병목을 데이터로부터의 자동적 학습으로 우회한 것이다.

전문가 시스템의 지식 표현 불완전성은 기호주의 AI의 한계를 실증적으로 보여준 역사적 경험이며, 이 경험이 연결주의와 기계 학습 기반 접근법으로의 패러다임 전환을 촉진하였다.