8.4.7 수치 데이터 및 고유 명사(Named Entity)의 정확한 인용 검증

B2B 엔터프라이즈 법무 환경, 금융 기관의 투자 분석 리포트 파이프라인, 그리고 치명적인 생명이 오가는 의료 처방 도메인 등의 특수한 컴플라이언스(Compliance)를 강박적으로 요구하는 RAG 시스템에서는, 언어 모델 특유의 문맥적 요약이나 부드러운 동의어 패러프레이징(Paraphrasing)이 어느 정도 허용될지라도, 결코 0.1%의 왜곡이나 확률적 변형도 허용되지 않는 시스템 통제의 절대적 성역(Sanctuary)이 존재한다. 그것은 다름 아닌 **숫자(수치 데이터 텐서)**와 고유명사(Named Entity)다.

만약 생성된 답변 프롬프트에 타겟 LLM이 유창한 말투로 “이 약의 1일 권장 복용량은 500mg입니다“라고 자신 있게 요약 번역하여 내뱉었는데, 원본 안전 문서에는 분명히 “50mg“이라고 하드코딩되어 있었다면, 이 트랜스포머의 단 하나의 토큰(Token) 생성 에러는 기업의 천문학적 파산 소송과 직접적인 인명 사고로 직결되는 거대한 재앙이다. 따라서 지식 검증 오라클 파이프라인의 가장 마지막 출력단(Output Layer)에는, 오직 이 민감 데이터만을 감시하고 가차 없이 잘라내는 전용 하드웨어 스캐너 아키텍처가 반드시 배치되어야 한다.

1. NER(Named Entity Recognition) 기반 강제 토큰 적출 파이프라인

타겟 생성 모델이 수 초에 걸쳐 유창하고 아름다운 답변의 렌더링을 모두 마치면, 오라클 미들웨어는 이 렌더링된 텍스트 덩어리가 지닌 ’전체 맥락(Context)이나 논리 구조’를 아예 무시한 채, 오로지 가장 원시적인 정규표현식(Regex Boundary)과 로컬에 경량화된 독립 NER(개체명 인식) 모델 텐서만을 병렬 동원하여 생성된 문장들 안의 ’숫자’와 ’대문자 고유명사’만을 핀셋으로 갈기갈기 적출(Extraction)해 낸다.

• 1급 추출 타겟 (Tier-1 Targets): 통화 금액 단위($100, 10억 원), 정밀 날짜/시간(2024-10-12, 3분기), 비율 및 퍼센티지(15.4%), 물리적 측정 체계 단위(kg, mg, km/h, rpm), 특수 식별자(제품 일련번호, IP 주소), 사람 이름 텍스트, 법인명.

오라클은 추출된 이 민감한 정보들을 [Detected_Entities]라는 독립적인 검증용 JSON 배열(Array)에 차갑게 담아둔다.

2. 의미론을 거부하는 문자열 완전 일치(Exact Bar Match)의 결정론적 룰

적출된 이 민감 텐서 배열은 이제 확률론적이고 유연한 시맨틱 임베딩(Semantic Embedding) 렌즈의 세계를 완전히 강제로 벗어나, 오직 0과 1만이 존재하는 차갑고 엄격한 결정론적(Deterministic) 바이트(Byte) 인덱스 탐색의 컨베이어 벨트로 옮겨진다.

오라클 백엔드는 적출된 각 숫자의 텍스트 스트링(Ext\_Num\_i)이, 검색 단계 초기에서 LLM의 프롬프트에 주입되었던 거대한 원본 문서 집합의 바이트 스트림 안에 ’단 띄어쓰기 하나 틀리지 않고 완벽하게 동일한 연속된 문자열(Substring Exact Match)’로 부분 교착되어 존재하는지를 1:1로 루프를 돌며 전수조사 스캐닝을 실시한다.
만약 원본 DB 텍스트에 10,000,000이라고 하드코딩되어 적혀 있는데 타겟 생성 모델이 글을 유저 친화적으로 이쁘게 쓴답시고 이를 1천만으로 변형했다면 어떻게 될까? 이 팩트 체크 스캐닝 시스템은 인간의 언어학적 의미론(Semantics)을 전혀 쳐다보지 않는 멍청하고 고지식한 정규식 엔진이므로, 즉시 바이트 매칭 실패(Fail) 플래그를 띄우고 이 답변 전체를 즉각 기각해 버린다.
이 융통성 없는 처사는 결코 시스템의 버그가 아니다. 이는 뉴럴 네트워크 모델이 감히 인간처럼 ’숫자의 형식을 이쁘게 포매팅’하려 드는 파라미터의 건방진 오만함을 공학적으로 기계적으로 원천 봉쇄(Origin Block)하는 치밀한 오라클의 의도된 설계다.

3. 치명적 조작 토큰과 환각(Number Hallucination)의 방위선 셧다운

오라클의 스캐닝 결과, 단 하나의 숫자나 단위 텍스트라도 원본 문서의 바이트 공간에서 찾을 수 없는 출처 불명의 외부 숫자가 응답 배열에 섞여 들어왔음이 적발된다면, 이 수치 창작 현상(Number Hallucination)은 논리적으로 타협이 절대 불가능한 컴플라이언스 최악의 에러 상태다.

오라클 미들웨어 거버넌스는 이 변조 오염이 확인된 전체 답변 트랜잭션을 “Critical Entity Mismatch & Injection” 에러 코드로 마킹하여 백엔드 메모리에서 즉시 터뜨리고(Kill Event), 대기 중이던 타겟 LLM 프로세스를 강제 셧다운 시킨다. 그 후 사용자 프론트엔드 포트에는 시스템에 미리 텍스트로 안전하게 하드코딩된 폴백 메시지(“죄송합니다. 모델이 생성한 답변의 수치 데이터 무결성 검증망이 실패하여, 안전을 위해 해당 답변은 서버에서 자동으로 파기되었습니다.”) 화면을 출력한다.
엔터프라이즈 환경의 RAG 오라클에 있어 ’민감 수치의 투박한 정확성’이란, 트랜스포머 모델의 그 화려하고 유창한 요약 능력을 전부 제물로 바쳐서라도 최우선으로 지켜내고 숭배해야만 하는 가장 완고하고 절대적인 확정 정답(Deterministic Ground Truth) 그 자체다.