죽을 것인가, 죽일 것인가? 트롤리 딜레마

자율주행차와의 위험한 공존

 
질문입니다. 

멈추지 않고 주행 중인 열차의 트랙 변환을 해야 할까요? 

 

누굴 죽일 것인가?

트롤리 딜레마 (광차문제)

 
법적인 처벌을 받지 않는 조건에서 단지 도덕적인 기준에 의거하여 위와 같은 상황 시에 당신이라면 어떤 결정을 내리게 될까요? 대를 희생하기보다는 소를 선택해야 할지, 아니면 기존의 노선을 유지해야 할지 선뜻 명확한 결정을 내리기 힘들 것입니다.
 
왜 그럴까요?
 
아마도 그것은 인간의 목숨과 연관된 문제이기 때문일 것입니다. 
한 사람의 목숨이 여러 사람의 목숨에 견주어 봤을 때 가볍다 할 수 있을까요?
 
'네'라고 생각하시는 분은 이렇게 질문을 바꿔 보면 어떨까요.
 
한 사람은 아인슈타인이고, 여러 명은 IS의 테러범들이라면 그래도 많은 쪽의 목숨이 중요하다고 생각할까요?
이 모든 것은 조건에 따라 달리 결정될 수도 있는 문제이지만 윤리적인 기준으로 판단할 때 정답이란 게 있을까 싶을 정도로 어려운 문제임에 틀림없습니다. 
 
그러나 반드시 결정해야 하는 상황이 있습니다. 
 
인공지능(AI)에 의해 움직이는 자율주행차량이 바로 그것입니다. 
 
만일 불행하게도 부득이한 사고 상황에 따라 대로변의 많은 사람들과 차 안의 운전자 중 어느 한쪽을 살려야 한다고 가정해 봅시다. 차량의 핸들을 돌리지 않으면 운전자가 , 핸들을 돌리면 보행자들이 죽는 상황입니다. 
 

어느 쪽을 살리고, 어느 쪽을 포기해야 할까요? 

 
생각만 해도 섬뜩해지는 트롤리 딜레마는 더 이상 책 속이나 수업 속에서 논의되는 문제가 아닙니다. 바로 자율주행차에게 있서는 현실이기 때문이지요. 자율주행차가 도로상에 움직이게 되면 트롤리 딜레마는 바로 우리의 문제가 됩니다.
 
2015년 10월 MIT 테크놀로지 리뷰에는 ‘자율주행 자동차가 누군가를 죽이도록 설계되어야 하는 이유’라는 논문이 실렸습니다. 논문은 운행 중 고장 나 인명피해가 불가피한 3가지 경우를 가정했는데요.
(A) 그대로 직진하면 보행자 10명을 치게 되고, 방향을 틀면 보행자 1명을 치게 된다.
(B) 직진하면 보행자 1명을 치게 되고, 방향을 틀면 (벽에 부딪혀) 탑승자 1명만 죽거나 다친다.
(C) 직진하면 여러 명을 치게 되고, 급격히 방향을 틀면 탑승자 1명만 죽거나 다친다.

이와 관련한 메르세데스 벤츠사의 입장은 이렇습니다.
 
2016년 파리 모터쇼에서 벤츠의 ‘운전자 지원 시스템 및 안전부문’ 책임자 크리스토프 폰 후고는 “우리는 탑승자를 구한다.”라고 밝혔습니다. 벤츠사 입장이 역시나 언론에 보도되자 비난여론이 들끓었습니다.
사이언스지의 설문조사에서도 응답자의 76%가 “탑승자를 희생시키고 많은 사람을 구하는 것이 더욱 도덕적”이라고 답했다고 합니다. 

 
그러나 바꾸어 생각해 보시기 바랍니다. 
 

많은 사람을 구하기 위해 탑승자를 희생시키는 자율주행차를 과연 누가 구매할까요?

결국 자율주행차량이 현실화되면 많은 사람들을 죽일 수 있는 살인무기들이 태연히 활보하게 될 것입니다. 
생각만 해도 소름 끼치지 않습니까? 
편안한 기술적 진보도 좋지만, 이런 미래는 사양하고 싶네요.
 
미국 샌프란시스코와 중국의 우한은 자율주행의 성지로 떠오르고 있습니다. 상상 속에 존재하던 무인차량이 존재하는 도시가 되었으니 말입니다. 미국의 혁신기업 테슬라도 26년쯤에는 모델 2를 기반으로 한 로보택시가 미국 내 가능해질 것으로 보고 있습니다. 물론 중국 내 허가는 좀 더 빨라질 가능성도 있고요.
중국과 미국을 시작으로 한 자율주행 사업이 궤도에 오르면 유럽이나 아시아 역시 규제의  장벽을 하나하나 낮출 가능성이 높습니다. 물론 도입을 위해서는 '트롤리 딜레마'와 같은 윤리적인 문제를 어떻게 규정할 것인지 매우 중요해 질 것입니다. 어쩌면 이 윤리의 기준이 누군가의 생명권을 쥐고 흔들 수 도 있습니다. 물론 그렇게까지 리스크가 남아 있다면 허가를 해서는 안 될 것입니다.