안녕하세요. 서종현 전문가입니다.
자동화된 의사결정 시스템 도입시 사람의 최종 확인 업무는 다음과 같이 정하는 것이 좋습니다.
첫째, 자동화가 담당하는 일반적인 반복 업무와 판단 기준을 명확히 구분해야 합니다. 반복적이고 표준화된 결정은 시스템이 처리하되, 시스템이 판단 근거나 데이터가 불확실한 경우, 예외 상황 및 오류 발생 가능성이 높은 업무는 반드시 사람이 최종 점검 하도록 설정합니다.
둘째, 업무별 리스크 수준과 중요도를 기준으로 통제 범위를 정합니다. 예컨대, 법적 책임이 따르거나 인권 및 개인정보에 영향을 미치는 결정은 자동화 여부와 무관하게 반드시 사람의 검토를 거치게 해야 하니다.
셋째, 자동화 시스템의 판단 과정과 결과가 투명하게 기록되고 검토될 수 있도록 설계해, 문제가 발생할때 신속하게 원인 분석과 책임 소재 규명이 가능해야 합니다.
마지막으로 담당자의 역할과 업무 절차를 명확히 하여 자동화된 결정에 대한 최종 승인이 책임 잇게 이루어지도록 내부 규정을 마련하고 교육해야 합니다. 이러한 통제 기준은 효율적 업무처리와 함께 인간 중심의 책임성 확보를 동시에 달성하는데 필수적입니다.