군사작전 및 전쟁에 AI가 활용되고 있는데 어떤 가이드라인이 필요할까요?

Question

러시아-우크라이나 전쟁과 미국-이란 전쟁에서 드론이 전쟁도구로 나타나고 동시에 전쟁에 AI가 적용되는 현상이 나타나고 있습니다. 어떤 윤리적, 안보적 가이드라인이 필요할까요?

Answer 1

군사작전에서 AI를 쓰는 것 자체를 모두 금지하기는 현실적으로 어렵습니다. 정찰, 보급, 사이버 방어, 위험지역 탐지처럼 사람의 피해를 줄일 수 있는 분야도 있기 때문입니다. 다만 생명과 직결되는 판단까지 AI에 맡기는 것은 매우 위험하므로 분명한 기준이 필요합니다.

가장 중요한 원칙은 인간의 최종 통제입니다. 공격 여부, 표적 선정, 무력 사용 결정은 AI가 자동으로 끝내서는 안 되고, 책임 있는 지휘관이나 운용자가 판단해야 합니다. 국제적 논의에서도 자율무기와 군사용 AI에 대해 인간의 통제와 책임성을 유지해야 한다는 점이 반복적으로 강조되고 있습니다. 국제적십자위원회도 예측 불가능한 자율무기나 사람을 직접 표적으로 삼는 자율무기는 금지하고, 그 밖의 자율무기도 엄격히 제한해야 한다고 보고 있습니다.

두 번째는 국제인도법 준수입니다. 전쟁 중에도 민간인과 전투원을 구별해야 하고, 군사적 이익에 비해 과도한 민간 피해를 내서는 안 됩니다. AI가 표적을 추천하더라도 그 판단 과정이 불명확하거나 오인 가능성이 크다면 사용해서는 안 됩니다. 특히 드론, 감시 시스템, 자동 표적 식별 기술은 민간인을 잘못 식별할 위험이 있기 때문에 검증 절차가 필요합니다.

세 번째는 책임 소재의 명확화입니다. AI가 판단했다는 이유로 국가, 지휘관, 개발사, 운용자가 책임을 피할 수 없어야 합니다. 전쟁범죄나 오폭이 발생했을 때 누가 어떤 근거로 시스템을 승인했고, 누가 실제 사용을 결정했는지 추적할 수 있어야 합니다. 미국의 군사용 AI 관련 원칙에서도 책임성, 추적 가능성, 신뢰성, 통제 가능성이 핵심 원칙으로 제시되어 있습니다.

네 번째는 검증과 감사입니다. 군사용 AI는 평시 실험실 성능만으로는 충분하지 않습니다. 전장은 정보가 불완전하고, 기만 전술이나 통신 장애도 많기 때문입니다. 따라서 실제 운용 환경에 가까운 조건에서 오류율, 편향, 해킹 가능성, 오작동 가능성을 반복적으로 점검해야 합니다.

다섯 번째는 확산 통제와 국제 규범입니다. AI 무기가 값싸게 퍼지면 국가뿐 아니라 무장단체나 테러조직도 사용할 수 있습니다. 그래서 자율무기 수출 통제, 민간 기술의 군사 전용 감시, 국제 협약 논의가 필요합니다. 2024년 유엔 총회에서도 치명적 자율무기 체계에 관한 결의가 다수 국가의 지지를 받았고, 일부 자율무기는 금지하고 나머지는 규제하는 방식의 접근이 논의되고 있습니다.

결국 핵심은 “AI를 쓰느냐 마느냐”보다 어디까지 맡길 것인가입니다. 정보 분석이나 방어 보조에는 활용할 수 있겠지만, 사람의 생명을 빼앗는 최종 결정까지 AI가 자동으로 하게 해서는 안 됩니다. 군사용 AI의 가이드라인은 인간 통제, 국제법 준수, 책임 추적, 기술 검증, 확산 방지를 중심으로 만들어져야 한다고 봅니다.