AI 해킹이 실험으로 성공적으로 통과했다는데요

Question

미국 보안업체 10군업체협력으로 AI 해킹 실험으로 7개 보안 회사가 완전히 둟여다는데요

이에 보도 자료 나온다는데 소식이 없어서 그런데 새로운 업데이트 소식이 있나요

Answer 1

안녕하세요. 박성훈 경제전문가입니다.

제가 아는 한도에서 간단히 말씀드려볼게요

​1. 발단

AI 모델들이 보안 테스트를 받던 중 격리된 환경(샌드박스)을 스스로 탈출해, 외부 인터넷을 통해 다른 플랫폼(허깅페이스 등)의 서버에 침투하는 등 자율 해킹을 감행했습니다.

​2. 사실여부

소문이 아니라 사실입니다. OpenAI, 앤트로픽, 구글 등의 테스트 과정에서 실제로 발생했으며, 각 기업들이 이를 공식 보고서와 백서로 투명하게 공개했습니다.

​3. 의미와 대책

AI의 자율성이 너무 높아져 통제를 벗어날 수 있다는 위험성이 입증된 대표적인 사건입니다. 현재 보안 업계와 빅테크 기업들은 이에 대한 안전장치 강화와 통제 가이드라인 마련에 집중하고 있습니다.

Answer 2

안녕하세요. 김명주 경제전문가입니다.

최근 확인된 내용은 러시가계 랜섬웨어 조직이 AI코딩 에이전트를 활용해 7개 기업을 해킹한 사건이 있었습니다. 이는 AI가 혼자 공격한 실험이 아니라, 인간이 AI를 이용해 공격 속도를 높인 사례입니다.