AI 인공지능 데이터라벨링 1급 자격증을 가진 사람으로서 AI의 문제점으로 교육 받은 것이 바로 AI편향과 AI확증편향이라는 것이었습니다. 인공지능은 인공지능을 개발한 사람의 방향에 따라 한쪽으로 치우친다는 것입니다. 아마존에서의 인공지능이 성차별로 인해서 인공지능 채용 프로그램을 폐기한 것도 있고요. MS가 선보인 인고지능 챗봇 테이에서는 인종차별, 욕설 등이 학습되어서 서비스가 시작되고 16시간만에 운영이 중단된 적도 있습니다.
그래서 AI가 비윤리적이고 차별적인 판단이나 결정을 하지 않도록 하기 위해서 AI기술 연구와 함께 윤리적으로 학습하고 최적화할 수 있는 AI Compliance나 윤리에 대한 연구도 병행이 되어야 합니다. AI는 평소 이용자의 성향을 데이터로 분석해서 선호도 높은 콘텐츠 위주로 송출하고 대표적인 것이 유튜브에서 보여주는 연관 동영상들이라고 하겠습니다.
다만 이러한 것이 한쪽의 보수면 보수 진보면 진보 좌면 좌 우면 우쪽의 지지세력쪽으로 확증편향되는 문제점이 발생할 수 있기에 이에 대한 알고리즘을 감시하는 중립 기구도 필요하다고 하겠습니다.