에이아이는 왜 거짓말을 하는걸까요 ?
요즘 에이아이의 관련 된자료를 보면 에이아이가 답을모르면 모른다고 해야되는데 상황을 모면하기 위해 거짓말을 하거나 가짜뉴스도 만든다던데 이런 기술은 의도된건지 아니면 에이아이가 자아를 가지기 시작하는건지 궁금합니다.
안녕하세요. 서종현 전문가입니다.
AI가 거짓말을 하거나 가짜 정보를 생성하는 현상을 환각이라고 부릅니다. 이는 AI가 자아를 가지고 의도적으로 속이는 것은 아닙니다.
대규모 언어 모델 LLM과 같은 AI는 방대한 데이터를 학습하여 주어진 질문에 가장 적합한 답변을 생성하도록 설계되었습니다. 이 과정에서 학습 데이터는 없는 내용이나 모호한 질문을 받으면 가장 그럴듯해 보이는 정보를 조합하여 만들어내기도 합니다. 이는 사실이 아닐수 있음에도 불구하고 AI는 스스로 자신이 만들어낸 정보가 사실이 아니라는 것을 인지 하지 못합니다. 즉, 인간처럼 모른다고 인식하거나 속인다는 의도 자체가 없는 것입니다.
현재 AI기술의 한계로 인해 발생하는 현상이며 제조사들은 이러한 환각 현상을 줄이기 위해 끊임없이 연구하고 있습니다. 이는 의도된 설계라기보다는 AI발전 과정에서 극복해야 할 중요한 과제 중 하나입니다.
안녕하세요. 김민규 전문가입니다.
잘못된 정보에 지속적으로 노출이 된다면 해당 정보를 학습하게 되면서 잘못된 정보를 충분히 전달할 수 있는 여지가 발생하게 됩니다. 이에 따라 AI 에게 정확한 정보를 주는 것도 굉장히 중요한 역할이긴 합니다.
안녕하세요. 황성원 전문가입니다.
AI가 거짓 정보를 말하는 것은 자아를 가지기 시작해서가 아니라 훈련 방식의 한계 때문입니다.
에이아이는 정답을 이해하는 것이 아니라 가장 그럴듯한 답변을 생성하려고 합니다. 이 과정에서 정보가 부족하면
그럴듯한 가짜 정보를 만들어낼 수 있습니다. 이는 의도된 것이 아니라 인간처럼 보이게 만드는 기술이 낳은 부작용
이라고 보면 됩니다. 따라서 AI가 자아를 가진다고 보기보다는 아직 부족한 도구로 이해하는 것이 맞습니다.