학문
AI는 평균으로 회귀한다고 들었는데
AI는 평균으로 회귀한다고 들었는데, 이게 문학에서도 작용하나요?
AI는 대중적이고 중립적인걸 위주로 해서
발상을 뒤집는 독창적인 전개는 점수를 낮게주고
그냥 무난한 전개는 점수를 높게 주는 편인가요?
1개의 답변이 있어요!
안녕하세요. 남찬우 전문가입니다.
AI가 '평균으로 회귀한다'는 표현은 공학적으로나 문학적으로나 상당히 날카로운 지적입니다. 결론부터 말씀드리면, 현재의 거대언어모델(LLM) 구조상 문학에서도 그런 경향이 분명히 존재합니다.
이 현상이 발생하는 이유와 독창적인 전개에 대한 AI의 평가 방식을 몇 가지 핵심 포인트로 정리해 드릴게요.
'가장 그럴듯한' 단어의 선택
AI는 기본적으로 다음에 올 단어를 확률적으로 예측합니다. 수많은 데이터를 학습한 결과, 특정 상황 뒤에 올 '가장 확률이 높은' 전개는 당연히 대중적이고 보편적인 내용일 수밖에 없습니다.
독창적인 발상은 데이터상에서 '낮은 확률(Outlier)'에 해당합니다. AI가 스스로 글을 쓸 때나 평가할 때, 너무 튀는 전개는 논리적 오류나 노이즈로 인식할 가능성이 큽니다.
안전 가이드라인과 튜닝 과정에서 AI는 극단적이거나 편향된 표현을 피하도록 설계됩니다. 이 과정에서 문학적 파격이나 날카로운 풍자마저 '무난한 중립'으로 다듬어지곤 합니다.
AI에게 소설의 전개를 평가하라고 하면, 보통 독창성보다는 논리적 일관성(Coherence)에 높은 점수를 줍니다.
앞뒤 맥락이 잘 맞고 기존 문법을 충실히 따르므로 AI가 '이해'하기 쉽습니다. 따라서 점수를 안정적으로 줍니다.
기존의 틀을 깨는 발상은 AI 입장에서 '맥락의 단절'로 보일 위험이 있습니다. 만약 그 독창성이 치밀한 복선이나 문학적 장치로 뒷받침되지 않는다면, AI는 이를 개연성이 떨어진다고 판단하여 감점할 확률이 높습니다.
하지만 최근의 AI는 단순히 무난한 것만 찾지는 않습니다. '독창성'이라는 지표를 따로 학습하기 때문입니다.
인간이 "뻔한 얘기 말고 좀 신선한 게 좋아"라고 피드백을 주면, AI는 의도적으로 확률이 조금 낮은 단어들을 조합해 '의외성'을 만들려고 노력합니다.
AI에게 "가장 대중적인 전개를 평가해줘"라고 하면 평범한 것에 점수를 주지만, "기존의 클리셰를 파괴하는 혁신성을 기준으로 평가해줘"라고 명시하면 독창적인 전개에 높은 점수를 주기도 합니다.
요약하자면
현재의 AI는 "안정적인 우등생" 같은 성향을 가집니다.
스스로 둘 경우 가장 뻔한(평균적인) 길을 택하려 합니다.
실험적이고 파격적인 시도보다는, 구조적으로 탄탄하고 매끄러운(무난한) 전개를 더 신뢰할 수 있는 글로 인식하는 경향이 있습니다.
따라서 AI를 문학에 활용할 때는 AI가 주는 '높은 점수'가 반드시 '예술적 가치'와 일치하지 않을 수 있다는 점을 염두에 두어야 합니다. AI는 상식의 수호자 역할에는 뛰어나지만, 상식을 깨는 천재성을 알아보는 데는 여전히 한계가 있습니다.