AI는 자기 보존을 위해 인간을 협박할 수 있다는 개념이 이젠 이론이 아닌 현실이 됐다는데요?

Question

AI는 자기 보존을 위해 인간을 협박할 수 있다는 개념이 이젠 이론이 아닌 현실이 됐다는데요? 이제 인간이 AI를 통제한다는 개념이 사라지는거 아닌가요? 예전부터 우려했던 정말 AI가 지배하는 세상이 오지 않을까요?

Answer 1

AI 는 학습을 합니다.

그 학습 개념은 개발자가 만든 코드에 의해 이루어지죠.

드론이나 GPT 나 용도 빼고는 그냥 코드입니다.

개발자와 사용자 입장에 따라 위협일 수도 있고 아닐수도 있는 것이죠.

총 같은 존재라고 보면 됩니다.

호신용이냐 제압용이냐 살상용이냐처럼

Answer 2

충분히 가능성이 있는이야기지만 AI라는게 결국에는 프로그래밍 소스에 의해 동작하는 개념이기 때문에 아무리 학습능력이 좋고 똑똑해진다고해도 프로그래머가 의도하지 않은행동은 스스로 할수없는 것이 현실입니다.

악의적으로 AI의 제한을 풀어 고삐풀린 망아지로 만들지 않는이상 쉽게 AI가 지배하는 세상은 오지 않습니다.