10.5 UL 4600: 자율주행 제품의 안전성 평가

ANSI/UL 4600 Standard for Safety for the Evaluation of Autonomous Products는 운전자를 요구하지 않는 자율 제품의 안전성을 평가하기 위한 안전 사례 기반의 표준이다. 이 표준은 Underwriters Laboratories가 제정하였으며, 자율주행 차량을 포함한 자율 제품의 평가에 광범위하게 적용된다. 이 절에서는 표준의 발전, 적용 범위, 목표 기반 접근, 안전 사례의 구성, 평가 절차의 학술적 의의를 학습 순서에 따라 기술한다.

1. 표준의 발전 과정

UL 4600 초판은 2020년 4월에 ANSI/UL 4600:2020로 발간되었다. 이후 갱신을 거쳐 ANSI/UL 4600:2022, ANSI/UL 4600:2023이 발간되었다. UL 4600은 처방적 표준(prescriptive standard)이 아니라 목표 기반 표준(goal-based standard)으로서, 안전성을 입증하기 위한 구체적 절차를 강제하지 않고 입증해야 할 안전 사례의 항목을 지정한다.

2. 적용 범위

UL 4600은 운전자를 요구하지 않는 자율 제품, 특히 Level 4 및 Level 5 자율주행 차량의 안전성 평가에 적용된다. 표준은 다음의 영역을 다룬다.

• 자율 기능의 안전성
• 운용 설계 영역의 정의와 모니터링
• 사용자 상호작용
• 환경적 위험과 운용 환경의 변화
• 데이터 의존성과 머신러닝의 안전성
• 사이버 보안의 통합
• 사고 대응과 운용 단계의 안전성

UL 4600은 ISO 26262, ISO 21448, ISO/SAE 21434와 같은 분야별 표준을 대체하지 않으며, 이 표준들이 다루는 위험을 통합적으로 평가하는 상위 수준의 평가 기준으로 작용한다.

3. 목표 기반 접근

처방적 표준은 특정 절차나 기법의 채택을 강제하는 반면, 목표 기반 표준은 입증해야 할 결과를 정의하고 입증 방법은 제조사의 선택에 맡긴다. UL 4600의 목표 기반 접근은 다음과 같은 학술적 장점을 가진다.

• 새로운 기술과 절차에 대한 적응성: 머신러닝, 폐회로 시뮬레이션과 같은 새로운 기술의 채택을 허용한다.
• 입증의 충분성에 초점: 절차의 형식적 수행이 아닌 결과의 충분성에 평가의 초점이 있다.
• 통합적 평가: 다수의 분야별 표준이 다루는 위험을 통합적으로 평가할 수 있다.

목표 기반 접근은 동시에 평가의 일관성을 유지하기 위한 학술적 부담을 동반하며, 평가자의 전문성과 평가 기준의 명확화가 요구된다.

4. 안전 사례의 구성

UL 4600은 안전 사례의 구성을 핵심 평가 단위로 다룬다. 안전 사례는 다음의 구성 요소로 작성된다.

• 주장(claim): 시스템이 만족해야 할 안전 속성에 관한 진술
• 논증(argument): 주장을 뒷받침하는 추론 구조
• 증거(evidence): 논증의 근거가 되는 시험, 분석, 검증 결과
• 가정(assumption): 논증의 전제로서 명시되는 조건

안전 사례의 작성에는 GSN (Goal Structuring Notation)이나 CAE (Claim-Argument-Evidence) 표기법이 자주 활용된다.

5. 평가 항목

UL 4600은 평가 항목을 다음의 큰 범주로 분류한다.

각 범주는 입증해야 할 다수의 안전 사례 항목을 포함하며, 각 항목은 평가의 충분성에 대한 권고를 동반한다.

6. 머신러닝 함수의 평가

UL 4600은 머신러닝 함수가 자율 제품의 안전성에 미치는 영향을 명시적으로 다룬다. 평가 항목은 다음과 같다.

• 학습 데이터의 충분성과 대표성
• 분포 외 검출과 강건성
• 학습 절차의 검증과 재현성
• 모형 갱신과 운용 단계 학습의 통제
• 머신러닝 출력에 대한 안전 모니터의 적용

이러한 항목은 ISO 21448과 ISO/AWI TS 5083의 원리와 정합되도록 평가된다.

7. 안전 사례의 지속적 관리

UL 4600은 안전 사례를 단일 시점의 산출물이 아닌 살아있는 문서로 다룬다. 운용 단계의 데이터, 사고 보고, 위협 정보, 표준의 갱신은 안전 사례에 반영되어야 한다. 이러한 지속적 관리는 자율 제품의 운용 수명 동안 안전성을 입증하는 학술적 기반을 제공한다.

8. 출처 및 버전 정보

• ANSI/UL 4600:2023, Standard for Safety for the Evaluation of Autonomous Products, Underwriters Laboratories
• ANSI/UL 4600:2020, Standard for Safety for the Evaluation of Autonomous Products, Underwriters Laboratories (초판 참조)
• ISO 26262:2018, Road vehicles — Functional safety, International Organization for Standardization
• ISO 21448:2022, Road vehicles — Safety of the intended functionality, International Organization for Standardization
• ISO/SAE 21434:2021, Road vehicles — Cybersecurity engineering
• Kelly, T., Arguing Safety — A Systematic Approach to Managing Safety Cases, University of York, 1998
• Bloomfield, R., Bishop, P., Safety and Assurance Cases: Past, Present and Possible Future — an Adelard Perspective, Safety-Critical Systems Symposium, 2010