자율주행 소프트웨어에서 직면하는'트롤리 딜레마

Question

자율주행 소프트웨어에서 직면하는'트롤리 딜레마(사고 시 누구를 보호할 것인가)'를 AI윤리 가이드라인이 해결하는 코딩적 접근법은 무엇인가요?

Answer 1

안녕하세요. 이동호 전문가입니다.

트롤리 딜레마는 사고를 피할수없는 상황에서 누구의 안전을 우선시할 것인지에 대한 윤리적 문제입니다.

하지만 실제 자율주행 소프트웨어는 이러한 상황을 누구를 희생시킬지 계산하는 코드로 구현하지 않습니다.

대신 AI윤리 가이드라인은 다음과 같은 코딩적 접근법을 권장합니다.

• 사고 예방 우선 : 가장 중요한 원칙은 딜레마 상황 자체가 발생하지 않도록 하는 것입니다. 센서, 카메라, 라이다 등을 이용해 위험을 조기에 감지하고 감속/회피 하도록 프로그래밍합니다.

• 규칙 기반 의사결정 : 사람의 신분이나 나이, 직업등으로 판단하는 것이 아닌 교통 법류를 준수하는 범위 내에서 가장 안전한 행동(긴급 제동, 차선 유지 등)을 우선하도록 설계합니다.

• 위험 최소화 : 충돌이 불가피 한 경우에는 전체 피해를 최소화하는 방향으로 제어합니다. 예를 들어 차량 속도를 최대한 줄여 충격을 감소시키거나, 2차 사고 가능성이 가장 낮은 경로를 선택합니다.