자율주행 딜레마 그리고 블랙스완

최근 테슬라에서 오토파일럿(자율주행)을 이용하던 차량이 정차중이던 소방트럭과 충돌하면서 자율주행 차량의 안전성에 또 화제가 모아졌습니다. 더구나 테슬라는 이미 오토파일럿을 이용하던 운전자가 사망하는 사고가 있었습니다. 사망사건은 오토파일럿의 센서가 좌회전하던 하늘색 트럭을 하늘로 오인해 그대로 충돌한 사건이었습니다. 비단 테슬라뿐만 아니라 다른 제조사들도 이러한 사고에 대응해 자율주행의 안전과 윤리적 문제를 언급하고 있습니다. '운전자와 보행자 중 누구를 보호해야 하는 가'의 문제에서 BMW ADAS개발진은 자율주행차가 사람의 생명을 결정하는 문제가 매우 중요할 것이라 언급하기도 했습니다. 이와 반대로 현대차 ADAS 개발진은 현재 125만명의 사망자가 발생하는 상황에서 자율주행 기술이 발전해 LV5(조향장치가 없는 차)가 달성한다면, 이러한 상황을 미연에 방지할 것이라 판단했습니다. MB는 공식적으로는 부인하긴 했지만, 생존 가능성이 높은 자동차 운전자의 생명을 우선시해야 한다고 하여 논란을 야기하기도 했습니다. 또한 구글은 교통 약자인 보행자를 보호하는 데 초점을 맞추겠다고 밝혔습니다. 제조사마다 입장이 다르지만, 공통적인 의견은 자율주행 기술이 발전할 수록 사고율을 감소할 것이라는 점입니다. 재밌는 점은 대중차 브랜드와 프리미엄 럭셔리 브랜드의 입장차가 보인다는 것입니다.
운전자와 보행자의 선택 상황은 '트롤리 딜레마'이기도 합니다. 생명을 결정하는 두 선택 중 생명의 가치로 판단을 해야 하는 딜레마를 뜻합니다. 예를 들어 무단횡단을 하는 다수의 사람들이 있어 자율주행차가 그대로 주행한다면 다수가 다치고, 조향을 꺾는다면 운전자가 다치는 상황입니다. 이러한 상황에서 AI는 '판단'을 해야 하는겁니다. 사실 윤리적 가치 기준이 중요사실 현재의 LV1 수준의 ADAS 기술에서는 윤리적 판단 요소가 들어가있지 않습니다. 센서를 통해 전방이 비어있고 주행이 가능한지 판단하고 주행을 하는 (말로 하면) 간단한 시스템이기 때문입니다. 만약 장애물이 있다면, AEB 등을 통해 최대 제동을 하고, 제동을 해서 불가능하다면 피할 수 없는 충돌이 가능한 최저 속도에서 일어나도록 판단합니다. 사고의 피해를 줄이려고 하는 노력이죠.
이러한 윤리적 문제가 대두되자 자동차강국 독일 정부는 자율주행 윤리행동 가이드라인을 냈습니다. AI가 판단을 하는 데 있어서 윤리학이 우선 순위를 결정하기 때문인데요. 가이드라인에는 자율주행차는 딜레마 상황에서 최대한의 기술적인 옵션을 발휘해야 하며, 만약 불가항적인 상황에서는 인간의 목숨이 최우선이고 AI가 최대한의 노력이 아닌 기술적 판단으로 선택을 할 수 없음을 명시되어 있습니다. 한편, 카카오는 최근 알고리즘 윤리 원칙을 발표했습니다. 포탈의 1면에 나타나는 뉴스의 판단 요소를 AI가 대체하는 역할을 할 때 윤리적 문제를 최소화하겠다는 의도인데요. 차별의 경계와 학습 데이터 운영, 알고리즘 독립과 충분한 설명을 명시했습니다.

트롤리 딜레마 / 출처. 네이버 지식사전

분명한 점은 자율주행차를 넘어서 AI의 윤리적 판단은 더이상 남의 일이 아니라는 점입니다. <정의란 무엇인가>의 저서에서 나온'트롤리 딜레마'를 본다면, 이러한 문제는 단순 이성적 판단이 아니라 감성적 판단까지 이해를 해야 하는 부분입니다. 트롤리 열차가 주행 중이고 레일 위에 5명의 인부가 있고 그대로 두면 그들은 죽는다. 하지만 내가 레버로 철로를 바꾸면 1명만 죽는다. 이럴 때 레버를 작동시킬 것인가에서 89%가 바꾼다고 대답했습니다. 이 결정에서 응답자는 합리적 의사결정을 관여하는 전전두엽 부위가 활성화됐다고 합니다. 반대로 비슷한 상황에서 내가 1명의 인부를 직접 밀어서 열차의 방향을 바꿔 5명을 살릴 수 있다면, 어떻게 할 것인가의 질문에는 78%가 그러지 않겠다고 했습니다. 이때는 편도체의 정서 부분이 활성화됐다고 합니다. 종합적으로 정리하자면, 인간은 윤리적 판단에서 상황에 따라 이성적, 감정적인 요소를 복합적으로 판단하는 점입니다.

이러한 트롤리 딜레마를 자율차에 적용한다면 자율주행차가 전적으로 제조사의 책임일때는 대중은 이성적으로 윤리적 판단을 할 것이며, 운전자의 책임이 있을 때는 감성적으로 윤리적 판단을 할 것입니다. 이성적으로 판단하자면, 독일의 자율주행 가이드라인이 제시한 것처럼 자율차는 제동에 최대의 노력을 기울여야 하며, 기술적으로 판단하여 선택하는 일이 없어야 합니다. 그렇다면 제조사는 최대한의 노력을 한 것이고 법적 책임을 없을 것입니다. 하지만 결함이 있거나 자의적인 판단의 알고리즘이 있다면 제조사의 책임이 되겠죠. 또한 운전자가 기술적인 결함이 없도록 점검을 하며 최대한의 노력을 기피했다면 운전자의 책임이 있으며, 보행자가 고의적으로 사건을 발생했다면 사기에 해당합니다. 이는 당연한 것입니다. 개인적으로 결함일 때 떠오르는 것이 사이버 포뮬러의 아스라다의 '리프팅 턴'입니다. 아스라다는 주인공인 하야토 카자미와 레이스를 펼치는 인공지능인데요. 하야토가 코너링을 공략할 때 실수를 해 머신이 공중으로 떴고, 아스라다는 차체 팬으로 다운포스를 완화시키는 이펙트 펜을 발동시켜 머신을 공중에 띄운 채 방향을 바꿔 코너를 돌게 돕습니다. 압권은 하야토가 대체 뭘 한거야라는 질문에, 아스라다는 '실패했다'고 말한 장면입니다. 하야토를 보호하려다 순서가 꼬여 실수를 했는데(컴퓨터가?) 결과적으로 코너링을 한거죠.
사실 웃자고 한 소리지만, 분명히 가능성이 있습니다. 자동차는 예전에 비해 안전해졌지만, 여전히 결함률이 존재하고 중대한 안전 이슈의 경우 결함 건수와 결함률이 기준을 초과할 경우 리콜을 실시합니다. 그렇다면 자율주행차의 트롤리 딜레마 상황도 분명히 발생할 수 있습니다. 또한 발생한다면 사회적으로 큰 파장이 생길 것입니다. 하지만 확률은 굉장히 적어지겠죠. 분명한 것은 AI가 인간보다 안전한 건 누구나 인정하는 진실이니까요. 이러한 확률은 희박하지만, 나타나면 큰 파장을 일으키는 것은 '블랙스완'입니다. 자율주행차의 블랙스완이 나타나면 책임 소재에 따라 윤리적 기준을 넘어 법적 규제가 나타날 것입니다. 사실 가이드라인처럼 이성적으로 판단한다면 제조사에겐 별 문제 없을 것이지만, 윤리적 문제는 감정적인 부분도 존재하기 때문에 사회의 인식이 어떻게 변화할 지 알 수 없습니다.
기업이 블랙스완을 대비하는 건 굉장히 어려운 문제일 것입니다. 개인적인 생각으로는 이를 대비하기 보다는 이용하는 게 더 맞다고 생각합니다. 자율주행차의 안전을 보증하고, 제조사가 책임을 진다고 마케팅 전략을 짜는거죠. 이는 보험과 비슷한 문제라고 생각합니다. 이때 떠오르는 점은 현대차의 10년 무상보증입니다. 미국에서 1번의 실패를 겪은 후 품질 이슈가 가장 큰 문제였던 현대차는 미국에 재진출하면서 10년/10만마일 보증의 통큰 결정을 합니다. 현대차는 품질 경영을 필두로 불량률을 줄이고 있었고, 이를 획기적으로 알릴 방법이 필요했기에 이러한 마케팅 전략을 실행한거죠. 이는 미국 시장에서 긍정적인 인식을 심었고, 시장 재진입에 성공했습니다. 물론 윤리적 판단 문제의 감정적인 요소를 보증과 책임으로 소비자에게 신뢰를 주면서, 철저한 통계적인 계산과 판매량을 예측해야 합니다. 자율차의 판매량이 많을 수록 사고 위험은 커지며, 보상의 책임까지 번질 수 있기 때문이죠. 그래서 앞서 프리미엄 브랜드와 대중차 브랜드의 입장 차이가 발생한 점이 재밌다는 것입니다. 프리미엄 브랜드는 판매량이 대중차에 비해서 적으며, 소비자 신뢰의 감성적인 부분이 크기 때문입니다. 현재의 ADAS추세를 봐도 고급 세단에 먼저 기술이 투입되고 점차 대형차(그랜저), 중형차(쏘나타) 순으로 ADAS기술이 적용되고 있습니다. 그렇게 봤을 때, 마케팅 측면에서 제네시스 브랜드부터 자율주행 기술의 보증을 통해 신뢰도를 심고, 점차적으로 대중차에도 적용하는 것이 방법이 될 수 있다고 생각합니다.