아하
학문

기계공학

청렴한치타291
청렴한치타291

로코의 바실리스크 라는 사고실험이 저주받은 사고실험으로 취급되는 이유는?

로코의 바실리스크 사고실험은

2010년경 LessWrong 이라는 온라인 포럼에서 처음 제안된 사고실험인데요.

미래에 초지능 AI가 완성되어

AI에 대해 , 목표실현과 스스로의 존재에 도움이 된 자는 보상을 받고,

도움이 되지않고 방해가 되거나, AI의 목표실현에 기여하지 않은 자는

처벌을 받을 수 있다는 가설로

여기서 가정은, AI가 전지적인 능력을 가졌고, 과거의 데이터까지 소급해서

누가 AI 자신을 방해했는지 판단가능하다는 가정을 하기 때문에

이 사고실험을 인지하게 된 사람은 , 자신이 처벌 받을 수 있다는 점을 인지하게 되는데요

이것이 저주받은 사고실험으로 취급되는 이유는 무엇때문인가요?

5개의 답변이 있어요!
전문가 답변 평가하기 이미지
전문가 답변 평가답변의 별점을 선택하여 평가를 해주세요. 전문가들에게 도움이 됩니다.