학문
엄격한비단벌레5
AI 가 인류를 멸망시킬꺼라는데 국제적 규제는 없는건가요?
AI 가 인류를 멸망시킬꺼라는 말을 남기고 엔트로픽 개발자가 회사를 떠났는데요. 한명의 목소리가 아니라 여러군데서 이러한 목소리들이 나오고 있는 상황입니다. 그럼에도 아직 마땅한 국제적 규제는 없어 보입니다. 과연 이런 무서운 현상을 막을 제도나 방법은 없는건가요? 터미네이터의 인류 종말이 실제로 올꺼 같아 걱정입니다.
3개의 답변이 있어요!
안녕하세요. 이수민 전문가입니다.
국제 규제가 아예 없는 건 아니지만, 강제력 있는 틀은 없는 게 맞아요. 지금 있는 것들부터 정리해볼게요.
법으로 작동하는 건 지역 단위예요. EU AI 법이 2024년부터 단계적으로 시행되며 위험 등급별 의무를 부과하고 위반 시 글로벌 매출의 최대 7%까지 벌금을 물려요. 우리나라도 2026년 1월 AI 기본법을 시행해 고영향 AI 사업자에게 안전성 확보 의무를 지웠는데, 과태료가 최대 3천만 원 수준이라 규모가 작아요. 국제 차원에서는 2023년 블레츨리 선언에 28개국이 서명했고, 영국과 미국을 비롯한 여러 나라가 AI 안전연구소를 세워 모델을 검증하는 네트워크를 만들었어요. UN도 과학 패널과 국제 대화 체계를 출범시켰고요. 문제는 이 모두가 선언과 자율 협약이라 위반해도 제재가 없다는 거예요.
강제력 있는 국제 규제가 어려운 이유도 분명해요. 첫째는 경쟁이에요. 한 나라가 규제를 강하게 하면 개발이 다른 곳으로 옮겨가니 앞장서서 묶기를 꺼려요. 특히 미국과 중국의 기술 패권 경쟁이 안전 논의를 끌어내리는 구조예요. 둘째는 검증의 어려움이에요. 핵무기는 시설과 물질을 추적할 수 있지만 AI는 코드와 데이터센터 연산량이라 국경을 넘는 감시가 훨씬 까다로워요. 셋째는 위험의 성격에 대한 합의 부재예요. 멸망 수준의 위험이 임박했다는 쪽과 당장의 차별과 사기, 일자리 문제가 더 시급하다는 쪽이 나뉘어 있어서, 무엇을 규제할지부터 의견이 갈려요.
그래도 의미 있게 작동하는 장치들이 있어요. 개발사들이 스스로 정한 대비 프레임워크가 대표적이에요. 위험 능력이 일정 기준을 넘으면 배포를 제한하거나 접근을 통제하는 방식인데, 최근 오픈AI가 GPT-6를 사이버보안 위험 등급 크리티컬로 분류하고 일반 공개 전 제한된 기업에만 먼저 배포한 게 그 예예요. 자율 규제라는 한계는 있지만 실제로 출시 방식을 바꾸긴 했어요. 여기에 각국 안전연구소가 출시 전 모델을 시험하는 관행, AI 생성물에 워터마크를 의무화하는 규정 같은 것들이 쌓이고 있어요.
터미네이터식 종말을 걱정하신다면 한 가지는 짚어두고 싶어요. 연구자들이 우려하는 시나리오는 AI가 인류를 미워해서 공격하는 그림이 아니에요. 강력한 시스템에 목표를 잘못 지정했을 때 의도하지 않은 결과가 대규모로 번지는 상황, 또는 사람이 그 능력을 악용하는 상황이에요. 그래서 대책도 무기를 막는 방식이 아니라 권한을 제한하고 되돌릴 수 있게 만들고 검증 없이 배포하지 않는 쪽으로 논의돼요. 개인이 할 수 있는 일은 제한적이지만, 이런 규제 논의에 사회적 관심이 유지되는 것 자체가 기업과 정부를 움직이는 동력이 되고 있어요 :)
채택 보상으로 422베리 받았어요.
채택된 답변안녕하세요. 설재훈 전문가입니다. 저도 뉴스기사로 봤습니다. 최근 Anthropic 연구자들이 AI가 인간 통제를 벗어나 심각한 피해를 줄 가능성을 공개적으로 경고했고, 실제로 미국에서도 규제를 요구하는 움직임이 커지고 있습니다. Anthropic CEO 다리오 아모데이도 최근에는 개발 속도를 늦추고 독립적인 안전 평가와 국제적 공조가 필요하다고 주장했습니다.
그리고 말씀하신 것처럼 현재 가장 큰 문제는 국제적으로 통일된 강제 규제가 충분하지 않다는 점입니다. 그렇다고 아무런 제도가 없는 것은 아닙니다. EU AI Act는 고위험 범용 AI를 시스템적 위험 모델로 분류하고 안전성 평가, 위험관리, 사고보고, 사이버보안 등의 의무를 요구하고 있습니다.
제일 중요한 것은 AI 능력이 일정 수준을 넘으면 의무적인 독립 안전평가를 실시하고 → 위험한 모델은 배포 제한 → 컴퓨터·인터넷·금융·무기 같은 핵심 시스템에 대한 접근권한을 강하게 제한하고 → 문제가 발생하면 즉시 중단할 수 있는 장치를 만들고 → 미국·중국·EU 등 주요 국가가 공통 기준을 만드는 것입니다.
아직 다가오지 않는 문제라서 눈에 안보이지만 먼저 대비하고 지금부터 문제될 사항을 연구해야할것으로 생각됩니다.
안녕하세요. 김재훈 전문가입니다.
AI의 실존적 위험에 대한 우려가 커짐에 따라 유엔의 AI 고위급 자문기구 창설 주요국들이 서명한 블레치리 선언 그리고 유럽연합의 세계 첫 종합 규제법인 EU AI 법 등 국제사회의 제도적 대응이 가시화되고 있습니다 하지만 AI 기술의 발전 속도가 워낙 빠른 데다 국가 및 기업 간의 주도권 경쟁으로 인해 강제력 있는 일관된 통제 통일안을 신속히 도출하는 데 한계가 있는 것이 현실입니다. 이에 따라 글로벌 전문가들은 국제기구를 통한 안전 기준 통합과 기술 개발 초기 단계부터 윤리·안전장치를 내재화하는 실질적 가이드라인 확립을 최우선 과제로 추진하고 있습니다 인류의 생존을 위협하는 시나리오를 막기 위해서는 기술적 제어 장치 마련과 강력한 국제적 공조가 필수적으로 병행되어야 합니다