안녕하세요. 서종현 전문가입니다.
기업에서 챗 GPT,Bard같은 AI를 보안 문제로 제한하는 이유는 주로 데이터 유출 위험과 민감 정보 관리 때문입니다.
AI서비스는 사용자가 입력한 데이터가 서버로 전송되어 처리되는데, 민감한 기업 정보가 외부 서버에 저장되거나 처리 과정에서 노출될 우려가 있습니다. 특히 기업 내부 기밀이나 고객 정보가 AI와의 대화중 포함되면, 이를 완벽히 차단하기 어렵기 때문에 보안 사고 가능성이 높아집니다.
또한, AI모델 자체가 입력된 정보를 학습 데이터처럼 일부 저장하거나 재활용할 가능성도 있어, 내부 정보가 외부 AI시스템에 남을 위험성이 존재합니다. 이런 특성 때문에 기업은 민감 데이터 보호를 위해 외부 AI사용을 제한하거나 자체 보안망 내에서 운영되는 AI활용을 선호합니다.
기술적으로 보면, 클라우드 기반 AI는 사용자 데이터 암호화와 접근 제어를 통해 보안을 강화하지만, 궁극적으로 외부 네트워크를 거치며 데이터가 이동하기 때문에 완전한 보안 보장은 어렵습니다. 따라서 민감 정보가 포함된 업무에는 별도의 보안 정책과 통제가 필요합니다.