학문
느낌의 그림자
AI를 이용한 범죄 피해를 막을 수 있는 방법은 없을까요?
AI가 지인의 음성이나 얼굴을 완벽히 복제할 정도로 기술이 발전하면서 기존의 예방기술로는 막기가 어렵다고 하는데요.
AI를 이용한 범죄 피해를 막을 수 있는 방법은 없을까요?
5개의 답변이 있어요!
안녕하세요. 이수민 전문가입니다.
완벽히 막는 기술은 지금 없어요. 목소리와 얼굴을 복제하는 능력이 탐지 능력보다 빠르게 좋아지고 있고, 딥페이크 판별 프로그램도 새 생성 기법이 나오면 정확도가 떨어져요. 그래서 방어의 무게중심이 기술로 가짜를 가려내는 쪽에서 진짜를 확인하는 쪽으로 옮겨가고 있어요.
개인이 당장 쓸 수 있는 가장 확실한 방법은 다른 경로로 되짚어 확인하는 거예요. 자녀나 지인 목소리로 급하게 돈을 요구하는 전화가 오면, 그 통화를 끊고 원래 알던 번호로 직접 걸어보는 것 하나로 대부분 막혀요. 가족끼리 미리 정해둔 확인 질문이나 암호를 하나 만들어두는 것도 효과가 커요. 아무리 목소리를 복제해도 어릴 때 살던 동네 이름이나 둘만 아는 약속은 대답 못 하거든요. 그리고 급하다, 지금 당장, 아무에게도 말하지 말라는 세 가지 조합이 나오면 일단 의심하시면 돼요. 판단할 시간을 뺏는 게 이런 사기의 공통 수법이에요.
기술과 제도 쪽에서도 대응이 진행 중이에요. AI 생성물에 워터마크를 넣도록 하는 규정이 우리나라 AI 기본법에도 들어갔고, 반대로 진짜 촬영본에 촬영 기기와 시각 정보를 암호로 붙여 원본임을 증명하는 방식도 카메라 업계에서 표준화되고 있어요. 금융권은 이상 거래를 탐지하는 시스템에 음성 사기 패턴을 넣고, 통신사는 발신번호 조작을 차단하는 쪽으로 움직이고요. 다만 이런 장치들이 자리 잡기까지 시간이 걸려서, 당분간은 개인의 확인 습관이 제일 실질적인 방어선이에요.
한 가지 더 신경 쓰실 부분은 재료를 덜 주는 거예요. 목소리와 얼굴 복제에는 짧은 영상 몇 초면 충분해서, SNS에 얼굴과 음성이 담긴 영상을 공개로 올리는 걸 줄이고 계정을 비공개로 두는 것도 예방이 돼요. 가족 중에 어르신이 계시면 이런 수법이 있다는 사실 자체를 알려드리는 게 어떤 기술적 대책보다 효과가 커요 :)
채택 보상으로 386베리 받았어요.
채택된 답변안녕하세요. 강세훈 전문가입니다.
AI 범죄를 100% 막는 기술은 현재 없답니다.
진짜를 확인하는 절차를 습관화하면 대부분의 피해를 예방할 수 있습니다.
안녕하세요.
AI의 피해를 막으려면 보안을 얼마나 철저히 해야할까에 대체로 집중하는데
이런 범죄들은 왜 발생하는지에 대한 원론적인 원인에 집중해봐야 합니다.
결국 돈때문이라는 걸로 귀결이되며 이런 범죄들의 목적은 돈을 갈취하기 위함으론 결론지어지죠
사기를 막으려면 사기패턴에 대해서 파고들어가봐야합니다.
AI기술로 어떻게든 침투한들 모든건 인터넷망을 통해서 이뤄지기에 이걸 끊어버리면 모든게 무용지물이 됩니다.
예컨데 휴대폰에 앱을 설치해서 해킹후 뱅킹앱에서 돈을 빼간다고하면 폰을 꺼버리면 그놈들은 아무것도 못하게되는 거죠
(제가 베터리 분리형 휴대폰을 고집하는 이유이기도 하고요)
생각보다 다양한 사기패턴들이 있는데 요즘은 돈을 먼저 준 후 라포를 형성하고나서 사기치는 경우로 진화를 했습니다.
답변하다보니 살짝 새긴했네요
AI범죄 예방은 완벽히 이뤄질수 없기에 뭘 어떻게 조심해야하는지 구체화 시키려면
AI범죄자들이 그걸로 뭘 취하려하는지 그보다 한수 앞을 예측하는게 한 방법일듯 합니다.
안녕하세요. 박재화 전문가입니다.
AI 범죄를 완전히 막기는 어렵지만, 피해 가능성을 크게 낮추는 방법들은 있습니다.
가족이나 가까운 사람끼리는 돈을 요구하는 전화가 왔을 때 확인할 비밀 질문을 하나 만들어 놓거나, 약속된 문구를 미리 정해두는 것이 효과적입니다. 그리고 음성이나 영상이 진짜처럼 보여도 송금이나 개인정보 제공 전에는 기존에 알고 있는 전화번호로 직접 다시 연락해 확인하셔야 합니다.
금융계정에 있어서는 다중인증이나 이체 한도, 지연이체 같은 기능을 활용해 한 번의 실수로 큰 피해가 나지 않도록 하는 것이 좋습니다. 플랫폼과 금융기관도 AI 생성물 탐지, 출처 표시, 이상거래 감지, 그리고 계정 본인확인 같은 것들을 강화해야 합니다.
AI가 계속 발전할 수록 이러한 문제는 더욱 기승할 것 같습니다. 앞으로는 목소리나 얼굴만 믿지 말고 별도의 확인 절차를 거치는 습관이 AI 사기 예방의 핵심이라고 봅니다.
안녕하세요. 김재훈 전문가입니다.
기술적 예방이 어려운 딥페이크·음성 복제 범죄를 막기 위해서는 가족이나 지인 간에 미리 자신들만 아는 비밀 암호를 설정해 두고 금전 요구나 긴급 상황 연락 시 반드시 이 암호로 본인 여부를 직접 확인하는 것이 가장 확실한 방법입니다. 또한 낯선 번호는 물론 아는 번호로 온 연락이라도 돈을 요구할 때는 즉시 통화를 끊고 기존에 저장된 번호로 다시 걸어 사실을 확인해야 합니다 SNS 등 온라인상에 개인의 얼굴이 잘 나온 사진이나 고화질 음성 데이터를 공개적인 장소에 과도하게 올리지 않는 생활 습관도 범죄의 표적이 되는 것을 막아줍니다. 만약 이미 속아 금전을 송금했다면 즉시 경찰이나 해당 금융회사에 연락하여 피해금 지급유지를 요청해야 피해를 최소화할 수 있습니다