생성형 모델관련하여 LLM과 SLLM이 정확히 무엇인지 궁금합니다.
애플이나 마이크로소프트 구글의 생성형 모델 경쟁이 진행하고 잇는데요.
그리고 이런 모델을 설명할때 각각의 기업에 따라 LLM과 SLLLM이라는 용어를 사용하던데요. 그렇다면 이 LLM과 SLLM이 생성형모델과 어떤관련이 있으며 이 구조가 중요한 이유가 무엇인지 자세히 알고 싶습니다
안녕하세요. 서종현 전문가입니다.
애플 , 마이크로 소프트, 구글 등 주요 기업들이 생성현 모델 경쟁을 하는 가운데, LLM과 SLLM은 핵심적인 기술 용어입니다. 생성형 모델은 AI가 새로운 텍스트, 이미지, 오디오 등을 생성하는 기술 전반을 일컫는 광범위한 개념입니다. 이 생성형 모델의 한 종류가 바로 언어를 다루는 언어 모델입니다.
LLM : 방대한 양의 텍스트 데이터를 학습하여 사람처럼 언어를 이해하고 생성하는 AI 모델입니다. 복잡한 문맥 파악, 추론, 요약 등 고도의 언어 능력을 보여주며, 챗GPT나 Gemini등이 대표적인 예시입니다. 일반적으로 클라우드 기반의 강력한 컴퓨팅 자원을 필요로 합니다.
SLLM 또는 SLM : LLM보다 훨씬 적은 매개변수와 데이터로 학습된 모델입니다. 크기는 작지만 특정 분야나 기기환경에 최적화되어 LLM에 준하는 효율적인 성능을 내기도 합니다.
구조가 중요한 이유 : 이 모델들이 크기(구조)가 중요한 것은 활용성에 큰 차이를 주기 때문입니다. LLM은 막대한 데이터로 높은 성능을 내지만 비용이 많이 들고 무겁습니다. 반면 SLLM은 스마트폰 같은 개인 기기나 엣지 디바이스에 직접 탑재(온디바이스AI)하여 사용할 수 있어 응답 속도가 빠르고 개인 정보 보호에 유리하며 인터넷 연결 없이도 작동 할수 있습니다.
따라서 기업들은 클라우드 기반의 범용적인 LLM과 개인 기기에 특화된 SLLM을 모두 발전 시켜 다양한 사용 환경에 맞는 생성형 AI 서비스를 제공 하기 위해 경쟁하고 있습니다.
안녕하세요. 홍성택 과학전문가입니다.
SLLLM은 "Structured Large Language Model"의 약자로, 구조화된 대규모 언어 모델을 의미합니다. 이는 LLM에 추가적인 구조화된 정보를 제공하여 더 정확하고 효율적인 작업을 수행할 수 있도록 설계된 모델을 말합니다. 예를 들어, 구글의 BERT는 SLLLM의 한 예입니다.