11.4 AI 챗봇 구현: 의도 파악과 슬롯 필링(Slot Filling)의 정확도 확보

이원화된 오라클 시스템(Dual-Oracle System) 아키텍처에서 AI 챗봇이 맡은 유일무이하고도 가장 중요한 역할은 사용자의 모호하고 비정형화된 자연어 쿼리를 파싱하여, 레거시 비즈니스 규칙 엔진(BRE)이 이해할 수 있는 **결정론적 규격 데이터(Deterministic Structured Data)**로 변환하는 것이다. 이 과정을 자연어 처리(NLP) 분야에서는 ’의도 파악(Intent Classification)’과 ’슬롯 필링(Slot Filling)’이라고 정의한다.

1. 개방형 프롬프트의 한계와 함수 호출(Function Calling) 강제

과거의 챗봇 구현은 “사용자의 질문을 분석하여 JSON으로 만들어줘“라는 식의 시스템 프롬프트(System Prompt)에 의존했다. 그러나 이러한 방식은 모델의 자유도를 너무 많이 허용하여 환각(Hallucination)에 의한 잘못된 키(Key) 생성이나 데이터 타입 오류를 빈번하게 유발한다.

• 해결책: 현대의 엔터프라이즈 챗봇은 반드시 LLM API가 제공하는 도구 사용(Tool Use, Function Calling) 기능을 이용해 슬롯 필링을 강제해야 한다.
• 작동 원리: 개발자는 BRE API의 명세서를 JSON Schema 형태로 모델에게 제공한다. 모델은 텍스트를 생성하는 대신, “사용자의 의도는 loan_calculator 함수를 호출하는 것이고, 이 함수의 annual_income 슬롯에는 50000000이, credit_score 슬롯에는 850이 들어가야 한다“는 구조화된 아규먼트(Argument) 객체를 프로그래밍적으로 반환한다.

2. 필수 슬롯(Required Slots) 누락 시의 되묻기(Re-prompting) 로직

사용자는 대화의 첫 턴(Turn)에 시스템이 필요로 하는 모든 필수 정보를 제공하지 않는다. 예를 들어, 사용자가 “대출 한도 알아봐 줘“라고만 입력했다면, annual_income이라는 필수 슬롯이 누락된 상태다.

AI의 능동적 추론 엔진은 이 누락을 스스로 채워 넣으려는 환각 편향을 지니므로, 이를 억제하고 확정적 데이터를 수집하는 제어망이 필수적이다.

• 상태 기계(State Machine) 연동: 챗봇의 컨트롤러는 LLM이 반환한 슬롯 데이터를 받아 즉시 BRE API로 넘기지 않고, 데이터 무결성을 검사한다.
• 결정론적 폴백(Fallback): 필수 슬롯이 채워지지 않았다면(예: 값이 null), 시스템은 “정확한 한도 조회를 위해 고객님의 연봉 정보를 먼저 입력해 주십시오“라는 하드코딩된 안내 문구를 출력하거나, LLM에게 “연봉 정보를 사용자에게 되물어라“라는 내부 지시를 내려 명시적인 슬롯 필링 대화를 유도해야 한다.

3. 오라클 기반 슬롯 검증(Slot Validation Oracle)

슬롯이 채워졌다고 해서 그 데이터가 비즈니스적으로 올바른 값인지는 LLM이 판단할 수 없다. 슬롯 필링의 정확도를 보장하는 최종 방어선은 추출 즉시 실행되는 파이프라인 상의 오라클(Oracle)이다.

• 타입 및 범위 검증(Type & Range Check): 추출된 연봉 데이터가 정수형 상수인지, 대출 기간이 정책상 허용된 (12, 24, 36 등) 열거형(Enum) 값 중 하나가 맞는지를 정적(Static)으로 검사한다.
• 도메인 지식의 분리: “대출 가능 최소 연령은 19세“라는 정책은 프롬프트에 구구절절 적어 넣어 LLM에게 암기시킬 내용이 아니다. 슬롯 필링 모델은 사용자가 입력한 나이를 있는 그대로 추출하고, 그것이 정책에 위배되는가는 그 슬롯 값을 전달받은 백엔드의 룰 엔진(Rule Engine)과 이를 모니터링하는 검증 오라클이 판단하고 차단하는 구조를 확립해야 한다.

의도 파악과 슬롯 필링은 확률의 바다(자연어)에서 결정론의 육지(API)로 넘어오는 항구와도 같다. 이 항구에 마련된 함수 호출과 오라클 기반의 엄격한 데이터 검역소만이 AI 챗봇의 엔터프라이즈급 신뢰성을 확보하는 유일한 길이다.