안녕하세요. 이동호 전문가입니다.
가능성은 있습니다. 다만 현재 우려하는 것은 영화처럼 Ai가 갑자기 인간에게 적대감을 품고 직접 공격한다기보다, 높은 자율성을 가진 AI가 잘못된 목표를 수행하거나, 인간이 AI를 무기/사이버 공격 등에 악용하면서 실제 피해가 발생하는 상황입니다.
특히 Ai가 컴퓨터시스텀, 로봇, 드론, 무기체계 등에 연결되어 스스로 여러 단계를 실행할 수 있게 되면 위험성이 커집니다.
그래서 미국에서도 2026년 7월 강력한 AI시스템을 필요할 떄 감속/중단/종료할 수 있도록 하는 AI Kill Switch Act가 발의됏고, Ai기반 자율무기의 치명적 공격에는 인간의 판단을 의무화하라는 법안도 제출되었습니다.