5.4 베타 테스터가 된 대중과 안전성 논란

5.4 베타 테스터가 된 대중과 안전성 논란

테슬라의 자율주행 기술이 안고 있는 근본적인 하드웨어 센서 결함(라이다의 부재)과 완성되지 않은 인공지능 알고리즘의 맹점은 필연적으로 도로 위에서 예측 불가능한 치명적 버그들을 끊임없이 양산해 냈다. 정상적이고 상식적인 자동차 제조사라면 이토록 생명과 직결된 소프트웨어의 오류를 폐쇄된 자체 주행 시험장(Proving Ground)에서 수만 번, 수십만 번 반복 검증하여 100퍼센트 무결성을 확인한 뒤에야 비로소 세상 밖으로 내놓아야 마땅하다. 그것이 자동차 공학이 100년간 무수한 피를 흘리며 축적해 온 최소한의 도의적, 법적 윤리 마지노선이었다.

하지만 테슬라의 조타수를 쥔 일론 머스크는 이 절대적인 윤리의 제방을 굴삭기로 가차 없이 박살 내 무너뜨렸다. 그는 미완성의 FSD(Full Self-Driving) 소프트웨어를 ’베타(Beta)’라는 면피성 꼬리표 하나만 교묘하게 남겨둔 채 수십만 명의 일반 소비자 차량에 무선으로 강제 배포해 버렸다. 안전선이 확보되지 않은 쇳덩어리 인명 살상 기계가 일반 대중들이 걸어 다니는 횡단보도와 스쿨존, 교차로 한복판으로 통제 없이 무방비로 쏟아져 나온 것이다.

이 순간부터 도로 위의 모든 테슬라 오너들은 자신도 모르는 사이에 일론 머스크의 딥러닝 데이터를 공짜로 수집해 바치는 무급의 아마추어 시험 조종사이자 ‘베타 테스터’ 마루타로 완벽하게 전락했다. 더욱 끔찍한 것은 테슬라를 타지 않는 무고한 주변 차량 운전자들과 보행자들조차 테슬라의 오류 난 알고리즘 폭주를 온몸으로 막아내야 하는 강제적 실험 대상의 희생양으로 도로 위 카지노 판돈 위에 무참히 내던져졌다는 사실이다.

이 5.4장에서는 테슬라가 어떻게 인명을 담보로 도로 위 규제 공백을 파고들어 무책임한 실험을 강행했는지 그 반윤리적 실체를 조명한다. 또한 시스템이 명백히 실패해 사람이 끔찍하게 피 흘리며 죽어 나갈 때, 테슬라와 머스크가 어떻게 책임을 운전자의 부주의 탓으로 가장 악랄하고 비겁하게 꼬리 자르기 책임 전가를 시전해 왔는지 고발할 것이다. 나아가 도를 넘은 살상 사고의 연쇄 고리 속에서 마침내 칼을 빼든 미국 규제 기관(NHTSA)과의 처절한 마찰과 숨바꼭질의 역사를 낱낱이 파헤친다.

1. 공공 도로 위에서의 실험: FSD 베타 버전 배포의 윤리적 문제

IT 실리콘밸리식 사고방식에 뼛속까지 절여진 일론 머스크에게 제품 개발의 완성이란 존재하지 않는다. 그는 출시가 된 이후에도 수백 번의 업데이트를 통해 오류를 잡아나가는 ‘애자일(Agile)’ 철학을 무겁고 치명적인 자동차 공학에 가장 폭력적으로 밀어 넣었다. 스마트폰에서 작동하는 비디오 게임이나 메신저 앱에 치명적 버그가 터지면 수백만 명이 불편해하며 짜증을 낼 뿐 지구가 무너지지는 않는다. 하지만 시속 100킬로미터로 달리는 2톤짜리 금속 자동차 소프트웨어에 ‘베타(Beta)’ 버전을 달아 일반인에게 넘긴다는 것은, 언제든 오작동하여 수십 명의 행인을 동시에 즉사시킬 수 있는 핀 뽑힌 수류탄을 무차별적으로 길거리에 흩뿌리는 극도로 사이코패스적인 행위와 다름없다.

테슬라는 FSD(Full Self-Driving) 베타 소프트웨어를 출시하면서 자사 홈페이지에 기만적인 면책 경고문을 숨겨두었다. “이 시스템은 최악의 순간에 최악의 선택을 할 수 있습니다(It may do the wrong thing at the worst time).” 이는 스스로가 내놓은 기술이 얼마나 불완전하고 치명적인 살상 버그 덩어리인지를 스스로 정확히 인지하고 있다는 모순적 자백이다. 그럼에도 머스크는 운전자들의 호기심과 과시욕을 자극하며, 운전자 안전 운행 점수(Safety Score) 따위를 매겨 합격한 사람에게만 FSD 베타를 열어주겠다는 식의 천박한 게임ification 특권 마케팅 쇼까지 벌였다.

결과적으로 엄청난 수의 비전문가 운전자들이 공공 도로 위로 쏟아져 나와 통제되지 않은 아수라장 시뮬레이션을 돌리기 시작했다. 테슬라 차량이 자전거 전용 도로의 플라스틱봉을 연달아 부수고 돌진하거나, 역주행 차량을 피하지 못하고 정면으로 마주 돌격하는 아찔하고 심장 철렁한 결함 영상들이 매일 유튜브와 엑스(X, 옛 트위터)에 중계방송처럼 업로드되었다. 이는 테슬라 연구원들이 철저히 통제하고 안전망을 갖춘 울타리 내부에서 목숨을 걸고 해야 할 위험천만한 품질 테스트 검수 작업을 돈 한 푼 어치 지급하지 않고 일반 대중에게 떠넘긴, 가장 잔악한 형태의 자본주의적 노동 착취이자 생명 경시 행위다.

더욱 기막힌 것은 이 무책임한 주행 실험실에 강제로 동원된 보행자들과 타 차량 운전자들은 이 끔찍한 게임에 동의한 적이 단 한 번도 없다는 사실이다. 내 가족이 걸어 다니는 횡단보도 옆으로 핸들에서 손을 논 초보 운전자의 베타 소프트웨어 테슬라가 지나갈 때마다, 대중은 잠재적 살인 기계의 로시안 룰렛 총구 앞에 무방비로 강제 노출되어야만 했다. 일론 머스크는 자동차의 혁명가라는 환상적 마천루를 쌓아 올리기 위해 수많은 불특정 다수 대중의 존엄한 일상 생명권을 무단으로 탈취하여 가장 거대하고 비윤리적인 실험실의 장기판 말로 써버린 극악성을 지니고 있다.

2. 시스템 한계인가, 운전자 과실인가: 사고 책임의 전가

테슬라 오토파일럿과 FSD 베타의 기만적인 과장 마케팅에 홀려 경계심이 마비된 운전자들은 결국 도로 위에서 처참한 물리적 대가를 피를 흘리며 치러야만 했다. 고속도로를 시원하게 내달리던 테슬라가 전방에 가로로 전복되어 넘어져 있는 흰색 대형 트럭의 거대한 옆면을 도화지 조각이나 파란 하늘로 착각하고 시속 100킬로미터 노브레이크로 풀 악셀 직진하여 운전자의 머리가 통째로 날아가며 즉사한 사건. 야간에 교차로를 향해 사이렌을 울리며 서 있는 붉은색 소방차의 깜빡이는 불빛을 테슬라 신경망 알고리즘이 전혀 인식하지 못하고 박아버려 대형 참사 화재로 번진 사건 등. 테슬라의 라이다 배제 순수 비전(Pure Vision) 알고리즘이 빚어낸 치명적 동체 시력 맹점 사고는 셀 수 없이 빵빵 터져 나왔다.

자신들이 입이 마르고 닳도록 자랑하던 거대한 딥러닝 시스템이 처참하게 바보처럼 박살 나고 사람이 피투성이가 되어 죽어 나갈 때, 일론 머스크와 테슬라 본사가 보여준 태도는 사이코패스에 가까울 정도로 경악스럽고 비열했다. 그들은 단 한 번도 시스템의 불완전함을 뉘우치거나 책임지고 무릎 꿇지 않았다. 사고 조사관이 들이닥치면 테슬라는 가장 먼저 부서진 차량의 블랙박스와 로그 데이터를 흡혈귀처럼 뽑아내어 정밀 분석한 뒤, 가장 비겁한 한마디를 내뱉었다. “로그 기록을 확인해 보니 충돌 직전 0.5초 전에 시스템은 운전자에게 핸들을 잡으라고 시각적 경고를 보냈다. 운전자가 전방을 100% 주시하고 즉각 통제권을 회수해야 하는 레벨 2 규정을 어겼으므로, 이 사망 사고의 100퍼센트 법적 명백한 도의적 책임은 테슬라가 아니라 목숨을 잃은 운전자 본인의 부주의 탓이다.”

이것은 대기업이 법률과 약관이라는 무소불위의 칼을 휘둘러 죽은 자의 입을 틀어막는 가장 악질적인 꼬리 자르기 책임 전가다. 머스크 본인은 트위터에서 “FSD는 인간보다 몇 배나 안전하며 차 안에서 잠을 자도 무방할 시대가 왔음“을 암시하는 사기꾼 같은 선동 영상 밈(Meme)들을 버젓이 수억 명에게 공공연하게 방치 유포하고 즐겼으면서도, 정작 사고가 나 법정에 끌려갈 위기 앞에서는 가장 교활하게 ’운전자 100% 책임’이라는 약관의 좁은 구멍 뒤로 비굴하게 도망쳐버렸다.

대중에게는 로봇 기술의 환상을 팔아먹어 수천만 원의 막대한 폭리 옵션 장사를 챙기고, 사고가 발생하면 시스템의 결함을 은폐하고 모든 피의 형벌을 소비자 개개인의 부주의로 떠넘기는 이 모순적 이중 플레이 구조. 이것이야말로 혁신이라는 화려한 이름표 뒤에 독버섯처럼 썩어 문드러진 일론 머스크 식 ’수익 사유화 밎 위험 사회화(Privatizing profits and socializing risks)’라는 가장 추악한 윤리적 붕괴 폭주범죄다.

3. 잇따른 치명적 사고와 미 도로교통안전국(NHTSA)의 대대적 조사

테슬라 오토파일럿과 FSD 베타의 기만적인 질주가 공도 위에 사망자의 핏자국을 연일 그로테스크하게 흩뿌리자, 그간 실리콘밸리 기술 혁신이라는 후광에 눈이 멀어 뒷짐만 지고 나태하게 방관하던 규제 당국도 더 이상 치솟는 대중의 분노 폭발을 외면하고 뭉갤 수 없는 턱밑 위기에 직면했다. 미국의 가장 막강한 자동차 안전 규제 권력인 도로교통안전국(NHTSA)과 연방교통안전위원회(NTSB)가 마침내 두꺼운 서류 가방을 들고 테슬라의 멱살을 쥐기 위해 살벌하게 전면에 등판했다.

NHTSA는 오토파일럿이 가동 중인 테슬라 차량들이 고속도로 갓길에 사이렌을 울리며 주차되어 있던 경찰차, 구급차, 소방차 등 응급 차량 끄트머리를 상습적이고 고의적으로 식별하지 못한 채 풀 속도로 들이박은 끔찍한 연쇄 10여 건의 특수 충돌 사고들을 핀셋으로 집중 발췌해 대대적이고 극단적인 강제 심층 조사의 칼날을 빼 들었다. 규제 조사의 핵심은 단순히 카메라 센서 결함을 지적하는 것을 넘어, 테슬라 시스템 디자인 자체가 애초에 운전자들이 너무나도 쉽고 달콤하게 불법적인 딴짓(스마트폰 충전, 동영상 시청, 수면)을 할 수 있도록 방조하고 의도적으로 안전 경고 알고리즘을 부실하게 타협해 설계했는지에 대한 매우 날카롭고 뼈아픈 윤리적 조준이었다.

압도적인 조사 압박의 목 조르기가 들어오자, 일론 머스크는 고압적이고 불쾌한 조롱으로 맞대응했다. 그는 트위터에서 안전 규제 위원들을 향해 “혁신도 모르는 재미없는 늙다리 꼰대 관료 집단“이라며 유치한 모욕을 퍼붓는가 하면, 정부의 리콜(Recall)이라는 규제 단어 자체가 OTA(무선 소프트웨어 업데이트) 시대에는 맞지 않는 낡은 쓰레기 단어라며 궤변 핑계 언플 조작을 멈추지 않았다.

그러나 쏟아지는 사망 참사 물증 앞에서 NHTSA의 칼날은 테슬라의 심장부를 무자비하게 후벼 팠다. 결국 자존심을 구긴 테슬라는 2023년 말 굴욕적으로 수백만 대에 달하는 대규모 강제 소프트웨어 리콜 조치를 수용해야만 했다. 이 리콜 패치는 오토파일럿 실행 중 운전자가 스마트폰을 보거나 한눈을 팔면 실내 모니터링 카메라가 이를 적발해 시끄러운 경고음을 미친 듯이 울리고, 경고를 무시하면 강제로 주행 보조 시스템 접근 권한을 일주일간 박탈 정지시켜 버리는 강압적인 운전자 감시 징벌 시스템을 소프트웨어 펌웨어에 억지로 이식하는 조치였다. 하지만 이마저도 근본적인 화이트 트레일러나 악천후 인식 불능이라는 순수 비전(Pure Vision) 알고리즘의 치명적 장님 결함은 털끝 하나 고치지 못한 채, 그저 “우리는 운전자 주시 감시 장치를 달았으니 앞으로 일어날 사망 사고도 전부 태만한 네놈들 소비자 탓이다“라는 거대한 면책 회피 책임 전가의 꼼수 업데이트에 불과하다는 뼈아픈 비판을 면치 못하고 있다. 규제 당국과의 힘겨루기 속에서도 머스크는 절대로 기술 결함을 인정하지 않는 지독한 구제불능의 독선가 마인드에 함몰되어 있다.

참조