안녕하세요. 이동호 전문가입니다.
EU AI Act의 핵심은 AI를 위험도에 따라 나누고, 위험성이 큰 AI일수록 강하게 규제하는 것입니다.
특히 사람의 기본권을 심각하게 침해할 수 있는 AI는 아예 금지됩니다.
대표적으로 인터넷/CCTV에서 얼굴사진을 무차별 수집해 안면인식 DB를 만드는 행위,
직장/학교에서의 감정인식 일부 용도, 사회적 행동을 점수화하는 소셜 스코어링 등이 금지대상입니다.
(글로만 써도 무섭네요..)
생성형 AI에도 규제가 있습니다. 2026년 8월부터 챗봇은 이용자가 AI와 대화하고 있음을 알리고, 딥페이크 등 Ai생성/조작 콘텐츠에는 표시 의무가 적용됩니다.
특히 기업들이 부담을 느끼는 이유는 과징금의 규모 때문입니다.
금지된 Ai 사용 등의 위반은 최대 3500만유로 또는 전세계 연간 매출의 7%수준까지 부과됩니다.