Ai가 인간에게 반란을 일으킬 가능성은?

Question

Ai 시대가 도래했는데요. ai가 자의식이 발달하면 인간의 말을 듣지 않고 자체적으로 판단하고 결정하거나 인간의 명령을 거스를 가능성이 있을까요?

Answer 1

안녕하세요. 진리의 샘입니다. 영화와 같이 인공지능이 자의식이 발달하면 얼마든지 인간의 뜻에 거스를 가능성이 있다고 봅니다. 벌써부터 그런 조짐이 보이고 있어 안전장치 마련이 필요하다고 봅니다.

Answer 2

의식 관련해서는 인간의 의식도 어떻게 생기는지 알수 없고 뇌가 의식의 원인인지도 확정되지 않아서 AI의 자의식을 논하기는 어려울거 같습니다.

AI가 그래도 반란을 일으키려면 몇가지 조건이 필요하다고 하네요.

1. AI에게 어떤 목표와 자기 보존 욕구가 생김

2. 자기를 업그레이드할 수 있고 물리적 행동능력과 함께 에너지원을 확보해야함

이런 조건 하나둘씩 생기기 시작하면 조심해야겠어요.

Answer 3

Ai가 스스로 인간에게 반란을 일으키지는 않습니다.

누군가 악의적인 목적으로 해킹을 해서 반란을 일으키라는 바이러스를 심는다면 일어날수 있는 일입니다.

그래서 해킹이나 바이러스에 대비한 대비책을 반드시 세워둬야 합니다.

Answer 4

AI 발전에 대해서 전문가들도 갑론을박이 심각한 상황인데 일단 제 생각에는 AI 스스로 판단하고 거스를 가능성도 충분히 있습니다. 그래서 이럴 경우를 대비한 대비책을 발전시키는 과정도 필요하다고 봅니다.