학문
초지능 과학 A.I라도 절대로 인간을 거스를 수 없을까요?
며칠 전 A.I는 인간이 정해준 결과값을 얻기 위한 중간과정을 맡아 스스로 최선의 결과를
도출하는 방법만을 찾기 위해 만들어진 것이다 라는 의미의 과학영상을 보았는데요.
(원하는 결과값은 인간만이 설정할 수 있다? 의지는 인간의 전유물이다?)
선한 인간에 길들여지든, 악한 인간에 의해 관리되든 절대로 설계자의 의사를 거스르는
결과값을 만들어 내도록 작동할 수는 없을까요?
프로그램의 버그처럼 이상작동을 통해서라도 설계자의 뜻과는 다른 결과값을 도출해내는
초지능 과학적인 A.I가 전혀 생기지 않을까요?
1개의 답변이 있어요!
전혀 생기지 않는다는 것은 아무도 보장할 수 없습니다.
인공지능이 잘 발달하여 인간을 초월하는 시점을 특이점이라고 하는데,
이 특이점이 지나면 여러 상황이 발생할 수 있습니다.