안녕하세요. 윤C입니다.
자율주행자동차에 대한 상용화를 앞두고 있는 시점입니다.
[토론] 완전 자율운행 자동차는 상용화 될 수 있을까요?
https://www.sagoda.org/sct/@hav3000/2uo3yd
를 읽고 단순하게 상용화에 대한 토론보다 보다 전문적인 토론이 필요하다 생각하게 되었습니다.
우리의 사고를 확장해 봅시다.
그래서 제가 준비한 주제는 자율주행자동차의 윤리적 문제입니다.
이건 사고실험(thought experiment)입니다.
당신은 자율주행자동차를 타고 고속도로를 달리고 있습니다. 그리고 다른 차에 둘러싸여 있다고 해보죠.
갑자기 앞에서 달리던 트럭에서 크고 무거운 물체가 떨어집니다. 당신의 차는 충돌을 피하기 위해 제시간에 멈출 수 없습니다.
그렇다면 자동차는 결정해야합니다.
상황을 설명하면 왼쪽에는 SUV자동차, 오른쪽에는 오토바이, 전방에는 떨어지는 물체가 있습니다.
이 상황에서 당장 떠오르는 선택지는 다음과 같습니다.
- 직진해서 물체에 충돌한다.
- 왼쪽 SUV를 향해 방향을 튼다.
- 오른쪽 오토바이를 향해 방향을 튼다.
- 자신의 안전을 우선으로 고려해 3번을 선택해서 오토바이와 충돌해야 할까요?
- 타인의 위험을 최소화하기 위해 1번을 선택해서 방향을 틀지 않아야 할까요?
- 혹은 2번을 선택할 수도 있습니다.
만약 우리가 이런 상황에서 차를 직접 운전하고 있었다면 어떠한 결과든 단순한 반사반응이라 생각할 것입니다. 의도적인 결정이 아니라 운전자의 순간적인 방어활동에 의한 결과입니다.
그러나 같은 선택이라도 프로그래머가 미리 설정해 놓은 것이라면요?
이건 좀 계획된 살인처럼 보이네요.
객관적으로 보면 자율주행자동차는 교통사고를 획기적으로 줄일 것입니다. 교통사고 사망률도 줄어들겠죠. 이유는 주행 시 일어날 수 있는 사람의 실수와 부주의가 사라지기 때문입니다.
그래도 교통사고는 피할 수 없습니다. 비행기나 선박, 철도와는 다르게 자동차는 날씨, 노면상태, 주변 지형지물 등 대처해야 하는 변수가 너무 많기 때문입니다.
그리고 의도적인 변수도 존재합니다.
(이건 뒤에서 설명하도록 합시다.)
사고가 일어날 때, 미래사회는 사고의 확률과 가능성을 미리 선별할 것입니다. 몇 달 혹은 몇 년 전에 말이죠.
이걸 설명하려면 여러 산술적 이론에 대한 설명이 있어야 하니 넘어가기로 합시다. 예를 들면 전자의 확률적 존재증명과 비슷합니다,
프로그래머, 정책 결정자는 이런 사고를 사전에 결단을 내려야합니다. 일반적인 의사결정 규칙을 적용해서 쉽게 해결할 수 있습니다. 우리가 익히 알고 있는 ‘로봇 3원칙’처럼 간단하고 강력한 규칙입니다. 가령 ‘인명피해를 최소화 한다.’는 것을 제 1원칙으로 하다고 정해봅시다.
다시 처음 상황으로 돌아가서, 이번에는 상황을 조금 다르게 만들면 이해가 쉽겠군요.
상황은 다음과 같습니다. 오른쪽에는 헬멧을 착용한 오토바이. 왼쪽에는 헬멧을 착용하지 않은 오토바이, 전방에는 떨어지는 물체가 있습니다. 당신의 차는 누구와 충돌해야 할까요?
- 오른쪽으로 방향을 틀어 헬멧을 쓴 오토바이와 충돌해서 생존 확률을 높인다.
- 왼쪽으로 방향을 틀어 헬멧을 쓰지 않은 오토바이와 충돌한다.
- 직진해서 물체에 충돌한다.
1번 선택지는 책임감 있는 오토바이 운전자에게 불이익이 생깁니다.
2번 선택지는 인명피해를 최소화한다는 원칙에서 어긋납니다.
위의 두 선택지 모두 타겟팅 알고리즘을 기본으로 하고 있습니다. 어떤 물체에 충돌할지에 대한 선호나 차별이 있다는 겁니다.
그러면 선택을 해야 하는 차량의 소유자는 충돌해야 하는 대상자의 잘못이 아님에도 이 알고리즘의 부정적 결론에 따른 고통을 받을 겁니다.(사람을 치었으니까요.)
신기술은 이런 새로운 도덕적 딜레마를 만듭니다.
그러면 3번 선택지를 고르시면 된다구요? 다른 소질문을 던져야 겠군요.
당신이 차를 구매하려고 합니다.
- 사고시 가능한 많은 목숨을 살리는 차
- 어떤 댓가를 지불하더라도 당신을 살리는 차
이 둘 중에서 어떤 차를 구입하시겠습니까?
소결론
만약 차량이 승객의 삶을 분석하고 평가한다면 반사적 반응이 피해를 최소화하기 위해 설정된 미래보다 나을까요?
그리고 이 모든 결정은 누가 어떻게 할까요?
프로그래머? 정부? 이런 사고실험을 통해 기술윤리는 발전하고 양심적인 미래를 만들 것입니다.윤C 결론 & 질문
위에서 언급한 ‘의도적인 변수’를 잊지않았겠지요? 저는 이것을 피해 최소화와 겉으로는 드러나지 않는 소수의 이득이라고 생각합니다.
피해 최소화는 경제적 논리와 승객 삶의 가치분석으로 나뉠 것이라고 봅니다. 누군가 피해를 본다면 보상액이 적은 사람, 뒷말이 적게 나올 것 같은 사람이 다치게 되겠지요.
(이런 사상을 공리주이라 합니다. -해석적으로 말이죠.)
승객 삶의 가치분석을 통해서 의도적인 프로그램이 생길 수 있습니다. 돈 많은 사람을 위해서 돈 없는 사람의 차가 에어백처럼 쓰일 수 있지요. 많은 변수에 의한 안전장치의 충돌지점(특이점)에 완충제를 넣는 것입니다.
또 다른 이득 문제로는 다른 사람보다 상대적으로 빨리 목적지에 가고싶은 욕를 반영합니다. 좋은 의도를 생각해보면 경찰, 응급환자, 물류 등이 있겠지만 나쁜 의도는 범행을 위한 도주, 공공질서보다 편익을 생각한 사적인 사용이 있겠네요.
질문입니다.
| 자율주행자동차의 사용으로 생겨난 윤리적 잣대는 평등할까요? 아니면 상대적으로 작용할까요? |
|---|
| 여러분이 만약 차를 구매한다면 |
| ‘사고시 가능한 많은 목숨을 살리는 차’와 ‘어떤 댓가를 지불하더라도 당신을 살리는 차’ 중에서 어떤 것을 고르시겠습니까? |
추가로 한국의 행보를 남깁니다.
http://m.irobotnews.com/news/articleView.html?idxno=18168
박선숙 의원은 자율주행시스템의 윤리적 설계기준을 마련하기 위한 ‘자율주행자동차 상용화 촉진 및 지원에 관한 법률 일부개정법률안’을 발의했습니다.
자율주행자동차법은 지난 19년 4월 5일 국회 본회의를 통과해서 이번 개정안은 2020년 5월 1일 첫 시행을 앞두고 제안된 첫 번째 개정안입니다.
이용자와 보행자의 생명안전을 위한 시스템 설계기준을 제시하도록 하는 것입니다.
저는 여기서 발의된 법이 과연 어떤 딜레마를 해결하고 논의되었을지 궁금하군요.
이상 윤C였습니다.