현재로서는 아무도 확실히 알 수 없습니다
생성형 AI만으로도 사회가 크게 변하고 있지만 AGI와 초지능 AI는 아직 존재하지 않기 때문에 미래를 정확히 예측할 수는 없어요
일부 연구자들은 초지능 AI가 인간의 목표와 다른 목표를 가지게 되면 위험할 수 있다고 우려합니다 반면 다른 연구자들은 충분한 안전장치와 통제를 통해 인간에게 큰 도움을 주는 존재가 될 수 있다고 봅니다
중요한 점은 AI가 인간을 제거하려는 의도를 자연스럽게 갖는다고 볼 근거는 현재 없습니다 AI는 생물처럼 본능이나 욕망이 있는 존재가 아니기 때문입니다 다만 매우 강력한 시스템이 잘못 설계되거나 통제에 실패할 경우 예상치 못한 문제가 생길 수 있다는 걱정은 있습니다
그래서 현재 OpenAI나 Google DeepMind 같은 연구기관들은 성능 향상뿐 아니라 안전성 연구에도 많은 노력을 기울이고 있습니다
과학자들 사이에서도 의견이 갈립니다 어떤 사람은 초지능 AI가 인류 역사상 가장 위대한 발명이 될 것이라고 보고 어떤 사람은 가장 큰 위험이 될 수 있다고 봅니다
결국 초지능 AI가 인간을 어떻게 대할지는 AI 자체보다도 인간이 어떤 방식으로 만들고 관리하느냐에 더 크게 달려 있다고 보는 견해가 많습니다