자율주행차와 트롤리 문제 좋네요

어느 방향으로 가든 사람이 다칠 수밖에 없는 위급한 상황. 과연 무인 자율주행차(self-driving car)는 어떤 결정을 내려야 할까요? 다수가 다치는 것보다 소수가 다치는 쪽을 선택하는 것이 올바른 것일까요?​

>

이런 감정은 기위가 있었습니다. 영국의 철학자 필리파 푸트(Philippa R. Foot)는 트롤리 문제(Trolley problem) 실험을 통해 우리에게 윤리적인 문제를 던졌습니다. 트롤리 문제는 다음과 같은 귀추를 나타냅니다. 브레이크가 망가진 트롤리가 빠르게 달리고 있어요. 이대로 계속 간다면 레 1에서 1작업자 5명과 싸움이 분명한 귀추 이다니다. 옆 철로에는 첫 작업자가 혼자 있어요. 이 때 선로를 변환할 권한이 여러분에 있다면 어떤 선택을 합니까?​ 트롤리 문제에 답한 응답자 89%가 전기 선로를 바꾸겠다고 답해ㅅ우프니다지망, 실제로 고런 귀추에 처했다면 어떤 감정에 빠질 수밖에 없어요. 어떤 선택을 하든 누군가는 큰 화를 당할겁니다. 작업자 수의 차이가 있을 뿐이다. 다수를 위해 소수를 희생합니다.판정하기 어려운 문제다.​

>

​, 자율 주행 자동차 도입이 가시화되고 있는 현 시점에서 트롤리 문제 논란이 다시 부상한 것은 어떻게 하면 자연스러운 1입니다. 자동차가 도로를 달리고 있으면, 한순간의 실수는 곧바로 따라 계속됩니다. 자율주행차가 사건을 일으키지 않는다는 법도 없습니다. 테스트 도중에 작성했습니다만, 작년에 미국 아길리조가 나쁘지 않고, 주에서 우버의 자율주행차와 보행자가 충돌하는 사건이 있었습니다. 보행자는 병원으로 옮겨졌지만 안타깝게도 사망했습니다.​

>

사람들의 생각은 제각각이었어요. 센서가 제대로 작동했다면 사고가 나쁘지는 않았을 것이라는 생각과 사람이 직접 운전하는 상황에서도 피한다는 것은 불가능에 가까웠다는 생각이 맞섰습니다. 공개된 영상을 보면, 사고 차량에는 우보의 직원이 운전석에 탑승하고 있었으나 너무 순식간에 열린 1이라고 즉각 대응하고 있지 않는 장면이 고스란히 다음 길고 있습니다. 경찰은 사고 관련 자료를 분석한 결과 사람이 운전해도 피하기 어려웠다는 결론을 내렸습니다. 그러나 우버는 자율주행차 운행을 전면 중단한다.​

>

우버 차량에 기술적인 결함은 없었던 것으로 판명되었지만 나쁘지 않고, 이 문재를 계기로 사람들은 자율주행차의 안전성에 대해 의심을 품게 됩니다. 남들과 달리 자율주행 시스템의 의견은 절대 알 수 없기 때문에 우려는 더욱 커졌습니다.자율주행차 시스템은 카메라가 나쁘지 않고 다양한 센서가 수집한 환경정보를 주행에 반영할 것이다. 일반적인 자율주행도 수없이 많은 선택의 연속이지만, 결코 아름답지 않기 때문에 반드시 중요한 표결을 내려야 하는 순간도 올 것입니다. 차 앞으로 갑자기 보행자가 달려들면 운전자에게 위험한 귀취가 덮쳐도 급하게 핸들을 꺾어야 하는지, 아니면 진행 방향의 너를 향해 달려가야 하는지 내용이다. 어떤 비결이라도 프로그래머가 코딩한 소프트웨어가 판단을 내려야 할 것이다. 다른 문재가 생성될 수도 있습니다. 보행자를 대신해 큰 강아지가 뛰어들거나 노인과 아이가 모두 나쁘지 않고 나쁘지 않으면 누구를 지켜야 하는지도 문제다. 물론 인명피해가 없는 최선의 비결이 존재하면 좋겠지만 미래에 닥칠 모든 조건을 예측할 수는 없다.​

>

지난해에는 관심 있는 논문이 발표됐다. 학술지 네이처에 게재된 논문입니다. 미국 매사추세츠공대(MIT)와 하버드대 연구진으로 구성된 공동연구팀은 모럴 머신(Moral Machine)이라고 불리는 웹사이트에서 트롤리 문화재에 대한 대규모 설문조사를 실시했습니다. 설문에는, 다소, 다음과 같은 정세가 주어졌습니다. 자율주행차가 횡단보도를 지나가기 전에 브레이크 마을이 발생할 수 있습니다. 만약 계속 앞으로 나아가면 길을 건넌 당신은 보행자와 충돌하고 핸들을 돌리면 벽에 부딪혀 탑승자가 위험에 처합니다. 보행자는 성별과 괜찮은 이빨로 구분하고 동물도 포함해서 일의 3개의 시 나쁘지 않고 리오를 만들었어요. ​

>

​ 해당 설문은 소셜 뉴스 웹 사이트'레디쯔(Reddit)'첫 페이지를 장식하는 스타 유테유보'퓨디파이(PewDiePie)'도 홍보에 힘을 갖고 233의 정부에 있는 응답자들로부터 설문 데이터를 축적합니다. 연구 결과를 보면 동물보다는 인간의 생명을 구하려고 하고 소수보다는 다수를 살리려는 경향이 자신감을 가졌습니다. 노인보다는 아기의 우선순위를 더 높게 소견했어요. 남자보다는 여자, 승객보다는 보행자, 상황을 가만히 지켜보기보다는 행동을 선택했어요. 특이한 것은 선지상에는 범죄자도 포함되어 있는데 대부분의 사람들은 범죄자보다 개를 살리는 것이 우선이라고 선택했습니다. 가장 높은 우선순위를 차지하는 대상은 유모차(Stroller)였습니다.​

>

'떡하나은 자율주행차 윤리 규정'을 제안한 유하나한 정부입니다. 규정에는 '본인에 의한 차별은 금지되어야 한다'라는 항목이 포함되어 있습니다. 설문에 참여한 일반인들이 생각했던 윤리적 선호와는 상반된 것으로 보입니다. 덕하나은 자율주행차 산업기술 장벽도 입법을 추진하고 있습니다.MIT 컴퓨터 과학자이자 논문 저자 중 한 명인 이어드 라흐완(Iyad Rahwan) 교수는 "모럴 머신에서 제기한 구체적인 시나리오는 사실상 거의 하나가 아니다"며 "여론조사가 인공지능(AI) 윤리를 바꾸는 기초가 돼서는 안 된다"고 강조했습니다. 그는 덧붙여 "인공지능은 자율성과 적응력을 가지고 있기 때문에 기존의 관념으로 규제해서는 안 된다"라고 이 스토리를 했습니다.​

>

자율주행차를 개발하고 있는 구글은 인공지능으로 인한 윤리적인 문제가 없을 것이라고 입장을 밝혔습니다. 제프 딘 구글 AI 총괄은 자율주행차는 사고를 막는 것을 목표로 할 뿐 절대 인명피해가 적은 방향으로 알고리즘이 입력되거나 하는 최초는 없다며 정말 자율주행차가 인간 운전자보다 좋은 결과를 가져올 것이라고 말했습니다.자율주행은 분명 우리 삶에 편안함을 주는 놀라운 기술이다. 처음 보는 사람도 어떤 것이 최고의 선택인지 말할 수 없는 문제를 자율주행차에만 떠넘긴 것이 아니냐는 의문도 있습니다. 하지만 기술의 편리함에 도취돼 무고한 희생자가 나오는 것을 간과해선 안 됩니다. 즉석에서 자율주행차 도입이 진행된 것은 sound가 늦더라도 기술적인 준비가 완성되었을 때 비로소 의미 있는 기술이라고 할 수 있습니다. 사람의 생명에 관계되는 문제니까요.​텍 플러스 에디터 나유그오은 tech-plus@naver.com​

>