안녕하세요. 말씀해주신 문제는 의료 AI가 널리 사용될수록 더욱 중요해질 가능성이 있는데요, 희귀질환 환자는 환자 수 자체가 적기 때문에 익명화된 데이터라도 다른 정보와 결합하면 개인을 다시 식별할 위험이 일반적인 질환보다 더 높을 수 있습니다. AI 모델이 학습 과정에서 특정 데이터를 과도하게 기억하는 경우에는 이론적으로 일부 정보가 노출될 가능성도 연구되고 있습니다.
이러한 위험을 줄이기 위해서는 여러 주체가 함께 책임을 져야 할 필요성이 있는데요, 우선 AI 개발사는 개인정보를 그대로 학습하지 않도록 차등 개인정보보호, 연합학습, 모델의 정보 암기 여부를 점검하는 보안 테스트 등을 적용해야 합니다. 또한 병원과 연구기관은 최소한의 데이터만 제공하고, 환자의 동의를 명확히 받으며, 데이터 접근 권한을 엄격하게 관리해야 합니다. 정부와 규제기관은 의료 AI에 대한 보안 기준과 개인정보 보호 기준을 마련하고, 유출 사고가 발생했을 때 책임 소재와 배상 절차를 명확히 해야 하며, AI를 사용하는 의료기관 역시 모델을 무분별하게 도입하는 것이 아니라 정기적인 보안 점검과 위험 평가를 실시해야 합니다. 감사합니다.