자율주행 자동차가 도로 위에서 피할 수 없는 사고 상황에 직면했을 때, 누구를 우선적으로 보호해야 할지에 대한 트롤리 딜레마

Question

자율주행 자동차가 도로 위에서 피할 수 없는 사고 상황에 직면했을 때, 누구를 우선적으로 보호해야 할지에 대한 트롤리 딜레마를 인공지능의 알고리즘에 어떻게 프로그래밍 되는건지 궁금합니다

Answer 1

현재 개발되는 자율주행 자동차는 영화처럼 “보행자와 탑승자 중 누구를 살릴지”를 선택하도록 프로그래밍되어 있는 것은 아닙니다.

실제로는 사고 자체를 최대한 피하는 것이 가장 우선입니다. AI는 카메라, 라이다, 레이더 등의 센서를 통해 주변 상황을 실시간으로 분석하고, 가장 안전한 경로를 찾거나 급제동·회피 등의 동작을 수행하도록 설계됩니다.

만약 피할 수 없는 사고가 발생하는 상황이라면, 특정 사람을 우선적으로 희생시키는 알고리즘을 적용하기보다는 피해를 최소화하는 방향으로 차량을 제어하는 것이 현재 연구와 개발의 기본 원칙입니다. 다만 어떤 상황을 ‘피해 최소’로 볼 것인지는 윤리적·법적 논란이 많아 아직 전 세계적으로 통일된 기준은 없습니다.

그래서 자율주행의 트롤리 딜레마는 기술적인 문제라기보다 윤리와 법, 사회적 합의가 함께 필요한 문제로 여겨집니다. 앞으로 자율주행이 더욱 보급될수록 각 나라의 법과 사회적 기준에 맞는 알고리즘이 만들어질 가능성이 크지만, 현재까지는 “누구를 우선적으로 희생하도록 프로그래밍한다”는 방식으로 운영되지는 않습니다.

Answer 2

윤리적 딜레마에 대한 국제적 통일 기준은 없으나 대다수 제조사는 탑승자와 보행자 모두를 보호하기 위해 충돌을 회피하거나 제동력을 극대화하여 전체 피해를 최소화하도록 프로그래밍합니다.