학문
라인은 자동 검열 기능이 없나요???
라인에서 아청물이나 불법촬영물을 보내면 자동으로 ai가 검열해서 메타데이터나 해시값을 분석하기 어렵나요? 기본적으로 암호화가 걸려있어서 이런 경우는 어렵나요?
4개의 답변이 있어요!
안녕하세요. 김재훈 전문가입니다.
일반적으로 메신저 서비스는 불법 촬영물 아동성착취물 유통을 막기 위해 알려진 불법 이미지의 해시값과 비교하는 기술을 활용할 수 있으며 이 경우 원본 내용을 사람이 직접 보지 않아도 탐지가 가능합니다. 다만 종단간 암호화가 적용된 대화는 서버에서 내용을 직접 열람하기 어렵기 때문에 탐지는 기기 내 스캔이나 신고 기반 검토 등 다른 방식으로 이뤄지는 경우가 많습니다. 결국 암호화가 있으면 서버 측 실시간 내용 분석은 제한되지만 해시 매칭·이용자 신고·수사기관 협조 등 여러 경로로 대응이 이루어질 수 있습니다.
채택된 답변안녕하세요. 최정훈 전문가입니다.
라인은 종단간 암호화 기술인 '레터 실링'을 사용하고 있습니다. 그러다보니깐, 서버가 메시지내용을 미리 들여다보고 자동으로 검열하는 기술은 어렵다고 하네요. 하지만 수신자가 해당 메시지를 직접 신고하면, 암호화가 풀린상태로 운영진에게 전달되서 분석이 가능해집니다. 결론은 실시간으로 자동차단은 안 되더라도, 신고를 통한 사후조치는 확실히 이뤄질수있다는게 핵심일것 같습니다.
안녕하세요. 조규현 전문가입니다.
라인과 같은 메신저 서비스는 사용자 간 주고받는 메시지에 종단 간 암호화를 적용하는 경우가 많아, 플랫폼에서 메시지 내용을 직접 검열하거나 AI가 자동으로 분석하기가 기술적으로 제한되는 것으로 보입니다. 이 때문에 아동 음란물이나 불법촬영물과 같은 민감한 콘텐츠가 메타데이터나 해시값으로 식별되어 자동 차단되기 어려운 측면이 있습니다. 다만, 사용자가 신고를 하면 라인 측은 법적 절차에 따라 해당 콘텐츠를 조사하고 필요한 조치를 취할 수 있습니다.
따라서 기본적으로 암호화된 통신 환경에서는 자동 검열 기능에 한계가 존재하지만, 신고 및 법적 대응 체계가 마련되어 있어 이용자의 신고가 중요한 역할을 합니다. 이런 점을 고려해 부적절한 콘텐츠에 대해선 적극 신고하는 방식이 가장 현실적인 대응 방법일 것입니다.
참고 부탁드립니다.
안녕하세요. 설효훈 전문가입니다. 라인 메신저의 경우 E2EE라는 종단간 암호화 기술을 사용합니다. 이것은 메시지나 사진 동영상등 모든 데이터를 암호화해서 송신하고 수신하는 사람만 내용을 확인 할수 있습니다. 그래서 별도 라인 서버에 저장을 한다고 해도 그 내용이 암호화 되어 있어서 확인이 어렵습니다. 그래서 말씀 주신것처럼 불법 영상이나 사진등의 검열은 힘든 것입니다. 그래서 만약에 그런것들이 확인이 되면 경찰의 수사가 완료 되어서 위법 사항이 있으면 그것을 확인해서 계정을 조치 할수는 있으나 직접적으로 확인은 어렵습니다. 경찰에서도 라인자체협조 요청을 해도 내용은 알수 없고 그래서 위법을 행한 사람의 라인을 직접 확인 하는 방법 밖에는 없습니다.