헤라아레스

헤라아레스

채택률 높음

소형언어모델(sLLM)이 기업의 내부 기밀

소형언어모델(sLLM)이 기업의 내부 기밀 데이터 유출을 막기 위해 프라이빗 클라우드 환경에 맞춤형으로 구축되는 시장 트렌드는 뭔가요?

2개의 답변이 있어요!

  • 안녕하세요. 감병주 전문가입니다.

    기업의 중요한 정보를 안전하게 보호하기 위해 소형언어모델을 회사 내부 서버나 프라이빗 클라우드에 직접 구축하는 것입니다. 이렇게 하면 외부 AI에 데이터를 보낼 필요가 없어 정보 유출 위험을 줄일 수 있습니다. 그리고 회사 업무에 맞게 AI를 최적화할 수 있어 보안과 활용성을 모두 높일 수 있다는 점에서 보안은 강화하고 필요한 기능만 갖춘 기업 맞춤형 AI를 내부에서 직접 운영하는 것이 현재 시장 트렌드라고 볼 수 있겠습니다.

    채택된 답변
  • 안녕하세요. 조일현 전문가입니다.

    외부 서버로 전송을 아예 차단 및 단절된 소형 언어 모델을 통해 데이터가 빠져 나가지 못하게 하는 것입니다.

    소형언어를 쓰는 이유는 거대 모델은 아무래도 유지비와 전기세가 크다 보니 비용 측면 회사에 규모에 따라 다르다고 볼 수 있습니다.