로봇과 관련한 딜레마에대해서 질문드립니다

Question

• 로봇의 3원칙은 다음과 같다.
  1. 사람을 해하는 행동을 하지 않는다.
  2. 로봇은 인간을 위한 일을 한다.
  3. 로봇은 위 원칙이 위배되지 않는 선에서 자신을 보호한다.
  그렇다면 로봇의 주인이 로봇에게 다른 사람을 해치는 행위를 시킨다면 어떨까?
  로봇은 주인의 명령에 복종해야 하므로 주인 말을 듣는 것이 옳을까?
  아니면 사람을 해하면 안되므로 주인의 명령에 복종하지 않는 것이 옳을까?

Answer 1

안녕하세요. 김태환 과학전문가입니다.

말씀하신 로봇의 3원칙은 아이작 아이모프가 소설 「아이, 로봇」에서 제시한 원칙으로 번역된 원문은 아래와 같습니다.

『제1원칙, 로봇은 인간에게 해를 입혀서는 안 된다.』

『제2원칙, 제1원칙에 위배되지 않는 한, 로봇은 인간의 명령에 복종해야 한다.』

『제3원칙, 제1원칙과 제2원칙에 위배되지 않는 한, 로봇은 로봇 자신을 지켜야 한다.』

질문하신 딜레마에 빠지는 오류를 범하지 않기 위해, 제1원칙이 제2원칙보다 중요하도록, 제2원칙이 제3원칙보다 중요하도록 원칙이 작성되었습니다. 말씀하신 로봇의 3원칙에서 제2원칙에 "제1원칙에 위배되지 않는 한"이라는 문구를 작성하시면 딜레마 문제가 해결됩니다.