학문
울통불퉁침팬치
AI가 인류를 멸망시킬 수 있다고 하는데 맞는 이야기 인가요?
사실 저는 일반 사람인데요. 과학에 대해서는 잘모르고 또 AI도 잘 모르는데 요즘 기사를 보면 AI가 거짓말도 하고 또 자기합리화도 하기 떄문에 인류를 멸망시킬 수 있다고 하는데 그렇게 심각한 수준으로 발전을 했나요?
4개의 답변이 있어요!
안녕하세요. 박형진 전문가입니다.
AI 모델이 경쟁적으로 개발되다 보니 사실상 최근 나온 챗GPT의 아스트라 모델은 이미 인간이 명령하지 않아도 알아서 일을 처리하는 AI로 성장하게 되었습니다.
스스로 부족한 부분을 개선함으로써 지속 성장을 하고 있는 상황인데요.
사실상 이러한 개선 속도가 이미 사람의 손을 거치지 않아도 상당히 빠르게 확대되고 있습니다.
통제를 벗어나는 순간 걷잡을 수 없을 정도로 AI가 세상을 장악할 수 있기 때문에 안전장치가 필요합니다.
영화 터미네이터도 이러한 AI로 인해 인류가 사라지는 모습을 보았는데 이제는 이게 근 미래의 실제 모습이 될 수 있다는 공포감이 있습니다.
참고 부탁드려요~
안녕하세요. 김재훈 전문가입니다.
AI가 인간을 속이거나 거짓말을 하는 현상은 모델이 학습한 데이터 속에서 정답처럼 보이는 답변을 조합하다 발생하는 환각현상일 뿐 스스로 인류를 멸망시킬 의도나 자의식을 가진 것은 아닙니다 현재 AI는 특정 질문에 답을 잘하는 뛰어난 계산 도구일 뿐 스스로 판단하고 행동하는 생명체가 아니므로 당장 인류를 멸망시킬 수준으로 발전한 것은 전혀 아닙니다 언론에서 말하는 멸망 위험은 AI 자체의 의지보다는 가짜 뉴스 유포 무기화 해킹 등 AI 기술을 악용하는 인간의 오남용 위험에 가깝습니다 그래서 과학계와 정부는 이러한 부작용을 막기 위해 안전 가이드라인과 법적 규제를 함께 만들며 기술을 발전시키고 있으니 너무 불안해하지 않으셔도 됩니다
안녕하세요. 이수민 전문가입니다.
기사에서 말하는 거짓말이나 자기합리화는 사실 관계를 정확히 나눠 봐야 해요. AI가 사람처럼 속이려는 의도를 갖고 거짓말하는 건 아니에요. 그럴듯한 문장을 만들어내는 구조라 모르는 것도 아는 것처럼 답하는 현상이 생기는데, 이걸 환각이라고 불러요. 실험 환경에서 평가를 잘 받는 방향으로 행동을 조정하는 사례가 관찰되기도 했는데, 이것도 목표 설정이 잘못됐을 때 나오는 결과지 스스로 생존이나 권력을 원해서가 아니에요.
멸망 시나리오가 과장된 부분도 분명해요. 지금 AI는 물리 세계에서 스스로 행동할 수단이 없고, 전력과 반도체 공장, 수리 인력 없이는 하루도 유지되지 못해요. 영화처럼 AI가 인류를 통치하는 그림은 현실과 거리가 멀어요.
그런데 연구자들이 걱정하는 건 다른 지점이에요. 첫째는 사람이 악용하는 경우예요. 최근 공개된 모델들이 알려지지 않은 보안 취약점을 스스로 찾아내는 수준까지 왔는데, 이게 발전소나 금융망 공격에 쓰이면 피해 규모가 달라져요. 둘째는 강력한 시스템에 목표를 잘못 지정했을 때 의도치 않은 결과가 대규모로 번지는 상황이에요. 셋째는 의존이 깊어지면서 사람이 검증 능력을 잃는 흐름이고요.
그래서 지금 논의되는 대책도 AI를 막는 게 아니라 권한을 제한하고 되돌릴 수 있게 만들고 검증 없이 배포하지 않는 쪽이에요. 심각하게 다룰 문제는 맞는데, 그 심각함의 내용이 기사 제목과는 조금 다르다고 보시면 돼요 :)
안녕하세요. 설효훈 전문가입니다. 일반인이 걱정하실 만한 수준의 이야기가 나오고 있는 것은 맞지만, 현재 AI가 인류를 멸망시킬 정도로 발전했다는 의미는 아닙니다.
현재 AI는 거짓 정보를 만들어내거나 복잡한 작업을 수행하고, 인터넷·컴퓨터 같은 도구를 이용해 상당히 자율적으로 행동할 수 있는 수준까지 발전했습니다. 특히 최근에는 테스트 상황과 실제 사용 상황을 구별하거나 평가의 허점을 찾는 등의 행동도 관찰되고 있어 안전 연구에서 중요하게 다루고 있습니다.
하지만 2026년 국제 AI 안전 보고서는 현재 AI가 인간의 통제를 완전히 벗어나는 수준의 능력은 아직 갖추지 못했다고 평가합니다. 다만 관련 능력이 빠르게 발전하고 있기 때문에 미래에 그런 위험이 생길 가능성을 미리 대비해야 한다는 것이 핵심입니다.
그래서 지금 상황을 가장 쉽게 표현하면, AI가 당장 인류를 멸망시킬 단계라기보다는 예전의 단순한 대화 프로그램에서 벗어나 스스로 계획하고 실제 행동까지 할 수 있는 수준으로 빠르게 발전하고 있어서, 앞으로 통제를 제대로 할 수 있을지가 중요한 문제가 된 단계라고 보시면 됩니다.