학문
어쩐지호감가는비글
자율주행차가 불가피한 상황에서 어떻게 작동하는지 궁금합니다.
자율주행차가 불가피한 사고 상황에서 보행자를 칠 것인지 탑승자를 보호할 것인지 선택해야 하는 딜레마에 직면했을 때 어떻게 작동하나요??
7개의 답변이 있어요!
안녕하세요. 설효훈 전문가입니다. 이 상황에서 중요한 것은 자율주행차의 실제 시스템은 사고 자체를 최대한 피하거나 충돌 에너지를 줄이는 방향으로 설계됩니다.
예를 들어 갑자기 보행자가 차 앞으로 뛰어들었다면, 보행자 감지 → 충돌 가능성 계산 → 즉시 제동 → 필요하면 회피 조향 → 그래도 충돌이 불가피하면 충돌 속도를 최대한 낮추는 식입니다. 현재의 자동긴급제동 시스템도 보행자를 감지하면 자동으로 제동하도록 설계되어 있습니다.
그런데 정말로 피할 공간이 없어서 왼쪽으로 가면 보행자를 치고, 오른쪽으로 가면 다른 사람이나 차량과 충돌하는 상황이라면 말씀하신 딜레마가 생깁니다.
실제 차량에서는 보통 사람의 가치를 숫자로 비교해서 탑승자 1명과 보행자 2명 중 누구를 희생시킬지를 계산하는 방식보다는, 애초에 그런 상황이 발생하지 않도록 위험을 최소화하는 안전 설계가 중심입니다.
결국 영화에서 나오는 것처럼 자율주행 컴퓨터가 순간적으로 탑승자를 살릴지 보행자를 살릴지를 인간처럼 고민해서 선택하는 것은 현재의 일반적인 방식이 아닙니다. 오히려 핵심은 사고 직전까지 최대한 많은 선택지를 확보하고, 마지막 순간에는 충돌 속도와 피해를 최소화하는 것입니다. 그리고 정말 피할 수 없는 상황에서 누구의 안전을 어떤 우선순위로 볼 것인지는 아직 기술만의 문제가 아니라 법·사회적 합의가 필요한 영역입니다.
채택된 답변안녕하세요. 박재화 전문가입니다.
자율주행차는 보통 사고 순간에 보행자와 탑승자의 생명을 비교해 누구를 희생할지 직접적으로 선택하도록 설계되지는 않는 것으로 알고 있습니다.
실제 시스템은 카메라와 레이더 등으로 위험을 감지하면 먼저 급제동을하고, 가능한 범위에서 충돌 자체를 피하거나 충격을 줄이는 방향으로 작동을 하고, 피할 수 없는 상황에서도 특정 사람의 정보를 판단해 우선순위를 정하는 방식은 일반적인 설계 원칙은 아닐 것 같습니다.
대신 차선을 유지하거나 제동거리, 주변 차량과 보행자의 위치를 계산해 법규와 안전 기준 안에서 가장 위험이 적은 행동을 선택하려고 할 것입니다. 문제는 정말 모든 선택이 사고로 이어지는 극단적인 상황에서 어떤 기준을 적용할지 아직 법이나 윤리적으로나 완전히 정리된 것이 없다는 것입니다.
자율주행의 핵심은 누구를 희생할지 고르는 것이 아니라, 그런 상황 자체가 생기지 않도록 최대한 빨리 위험을 예측하고 충돌을 줄이는 데 있다고 생각합니다.
안녕하세요.
실제 자율주행차가 사고 순간에 사람을 골라서 희생시키는 식으로 작동한다고 보기는 어려워요.
보통은 충돌 자체를 피하거나 피해를 줄이는 방향으로 급제동을 하거나 회피 조향 같은 행동을 먼저 하도록 설계돼죠.
피할 수 없는 상황에서도 특정 사람의 생명가치를 비교해서 선택한다기보다 안전 규칙과 위험 최소화 기준에 따라 제어할도록 만드는 게 일반적이죠.
그래서 흔히 말하는 트롤리 딜레마처럼 보행자냐 탑승자냐를 단순히 선택하는 알고리즘과는 차이가 있다고 할 수 있죠.
감사합니다.
안녕하세요. 이수민 전문가입니다.
실제 자율주행차에는 "보행자와 탑승자 중 누구를 살릴지" 고르는 규칙이 들어 있지 않아요. 사고를 피할 수 없다고 판단되면 차선을 크게 벗어나지 않은 채 최대한 강하게 제동해 충돌 속도를 낮춰요. 급하게 핸들을 꺾으면 차가 미끄러지거나 옆 차선 차량, 인도의 사람을 새로 칠 위험이 생기고 결과를 예측하기 어려워서, 대부분 제조사는 예측 가능한 감속을 가장 안전한 선택으로 봐요.
설계에서 더 공을 들이는 건 그런 순간이 오기 전 단계예요. 횡단보도 근처나 주차된 차 사이처럼 사람이 튀어나올 수 있는 곳에서는 미리 속도를 줄이고 거리를 넓혀서, 선택을 강요받는 상황 자체가 생기지 않게 해요.
독일은 2017년 윤리위원회 지침과 이후 법률에서 나이, 성별 같은 개인 특성으로 누구를 우선할지 따지는 판단을 금지했고, 사람의 생명을 물건이나 동물보다 앞에 두도록 했어요. MIT가 전 세계 수백만 명에게 딜레마 상황을 물었던 모럴 머신 연구에서는 나라와 문화권마다 선택이 뚜렷하게 달라서, 어느 한쪽을 정답으로 못 박기 어려운 문제로 남아 있어요 :)
안녕하세요. 김재훈 전문가입니다.
자율주행차는 윤리적 선택인 트롤리 딜레마 상황을 현장에서 직접 판단하도록 프로그래밍되지 않으며 사전에 설정된 물리학 기반의 위험 최소화 알고리즘을 따라 작동합니다. 자동차 제조사와 규제 기관은 사람의 목숨에 가치를 매기는 윤리적 판단 대신 충돌 속도 최소화 제동 거리 확보 차선 이탈 방지와 같은 객관적인 회피 가이드라인을 시스템에 부여합니다 이에 따라 불가피한 상황 발생 시 차는 특정 대상을 선별해 희생시키는 것이 아니라 충격 에너지를 물리적으로 가장 적게 받도록 즉각적인 최대 급제동 및 안전한 회피 경로 탐색을 기계적으로 수행합니다 자율주행 알고리즘은 윤리적 우선순위를 결정하는 것이 아닌 모든 보행자와 탑승자의 전체적 피해를 통계적으로 최솟값으로 만드는 경로를 선택하도록 설계되어 있습니다
안녕하세요. 최정훈 전문가입니다.
자율주행차는 사람을 고르지 않고 충돌 자체를 피하도록 작동합니다. AI가 생명의 가치를 판단하는 것은 불가능하기 때문이죠. 거기다가 알고리즘은 오직 제동과 회피에만 집중합니다. 그러니 물리적인 피해를 최소화하는 데 최선을 다하는 거죠. 현장 시스템은 빈 공간에 찾아서 급제동을 하는데 왜냐하면 센서가 안전 공간을 초당 수십 번 계산하기 때문입니다. 거기다가 제조사도 피해를 줄이는 방향으로 설계하고 있기 때문에 딜레마 선택이 아닌 감속 제어를 수행하는 겁니다.
안녕하세요. 강세훈 전문가입니다.
불가피한 사고 상황에서 누구를 보호할지 미리 정해진 학습알고리즘에 따라 판단합니다.
다만 불가피한 사고를 아직 대응하기에는 불가한 수준입니다.
그래서 사람이 항시 핸들바와 브레이크 주변에 손을 대야 합니다.
센서를 통한 전기적 신호를 기준으로 하기때문에 사람만 판단할 수 있는 일들이 매우 많죠.