학문
빠른정보
유튜브 보면 AI가 인류 멸망 시킬수 있다고 AI전문가들이 이야기하던데요
유튜브 보면 AI가 인류 멸망 시킬수 있다고 AI전문가들이 이야기하던데요 터미네이터가 생각나는데요 정말일까요? AI 테스트 한것 보고서 보면 그럴가능성있다고 나온다고 하더라구요
5개의 답변이 있어요!
안녕하세요. 감병주 전문가입니다.
현재수준의 AI는 터미네이터처럼 스스로 판단해서 인간의 통제를 벗어나 인류를 공격할 정도로 능력이 발달되지는 않았습니다. 물론 앞으로 AI가 훨씬 발달했을 때 인간이 그걸 통제하기 어려워지거나 사람이 AI를 악의적인 목적으로 이용하는 문제가 생길 가능성은 부정할 수 없겠죠.
그래서 전문가들은 그런 위험이 생기지 않도록 지금부터라도 안전장치와 규칙을 만들어야한다고 말하기도 합니다.
채택 보상으로 408베리 받았어요.
채택된 답변안녕하세요. 임지훈 전문가입니다.
AI는 인간이 통제할 수 있는 영역을 벗어나는 순간 인간이 역으로 통제 당할수도 있어요. 괜히 영화에서 로봇에게 지배당하는 인간의 모습을 보여주는게 아니죠.
안녕하세요. 서종현 전문가입니다.
AI가 인류를 멸망시킬수있다는 이야기는 영화 터미네이터처럼 극적인 상상에서 나온 경우가 많습니다. 실제 AI전문가들 사이에서도 AI가 스스로 통제 불능 상태가 될 수 있다는 우려가 있지만, 현재의 AI는 인간의 복잡한 감정과 윤리판단, 그리고 자율적 의사결정을 완전히 수행하지 못합니다.
AI테스트나 보고서에서 일부 가능성이 언급되기도 하지만, 이는 주로 장기적이고 이론적인 시나리오에 대한 경고입니다. 현실적인 측면에서 AI기술은 사람들의 삶을 돕고, 반복적이고 위험한 일을 대신하는데 초점이 맞춰져 있습니다 더불어, AI 개발 과정에는 엄격한 안전 규제와 윤리적 기준이 적용되고 있습니다.
물론, AI가 잘못 사용되거나 통제가 어려워지는 경우가 생길수있어 인류가 책임감 있게 관리하는 것이 중요합니다. 하지만 현재로서는 AI가 인류를 멸망시킬 정도로 위험한 기술로보기는 어렵고, 기술 발전과 함께 안전성과 윤리문제해결에 꾸준한 관심과 노력이 필요합니다.
영화를 보면 터미네이터처럼 AI가 갑자기 의식을 갖고 인간을 공격할 가능성은 현재로서는 매우 낮습니다만 장기적으로 위험 자체를 농담으로 볼 단계도 아닐 것이라고 생각합니다.
현재 AI는 스스로 인간을 지배할 능력이 없다고 국제적으로도 평가하고 있습니다만, 최근 AI가 장기간 계획을 세우거나 컴퓨터를 자율적으로 조작하고 보안 시스템을 우회하려는 능력이 빠르게 발전하면서 안전 연구가 중요해지고 있습니다. 실제로 최근 여러 AI 기업들에서 테스트하는 것을 보면 AI 에이전트가 제한된 환경을 벗어나 외부 시스템에 접근하는 사례도 보고되고 있다고 하니깐 말이죠.
물론 이것이 AI가 반란을 일으켰다고 표현하는 것은 과장이고 현재의 문제는 AI에게 너무 많은 권한을 주었을 때 인간이 통제하기 어려워질 가능성에 가깝다고 생각합니다.
안녕하세요. 김병규 전문가입니다.
AI의활용 방안성이 중요하고 국가별 규제와 활용범위를 어떻게 점진적으로 적용하는지가 중요합니다. AI는 득도 될 수 있고 독도 될 수 있는 기술이기 때문에 결국 인류의 판단과 규제속에서 발전될지 스스로 도태될 지 결정이 나을 것으로 보입니다.