SOLOMON-V1 > 제품정보

본문 바로가기

(주)테크엔

인공지능 AI

SOLOMON-V1

제품사진

제품 특징

SOLOMON-V1


빠르고 저렴한 AI : sLLM 서버

 

sLLM은 small Large Language Model의 약자로, 경량화된 대규모 언어 모델을 의미합니다. 이는 일반적인 LLM(대규모 언어 모델)과 동일하게 텍스트 생성, 질문 응답, 문맥 이해 등 다양한 자연어 처리 작업을 수행하지만, 모델의 크기와 자원 소모를 줄인 버전입니다.

테크엔은 이 경량화된 AI 솔루션을 다음과 같은 이유로 개발하였습니다. 테크엔이 출시하는 온-프레미스​(On-premise) LLM 제품인 SOLOMON-V1은 다음과 같은 장점이 있습니다.

 

  1. 자원 효율성: 메모리와 계산 자원을 덜 소모하므로, 서버 비용이 줄어들고 더 적은 하드웨어 자원으로도 실행이 가능합니다. 특히 모바일 디바이스나 IoT 같은 자원이 제한된 환경에서도 활용할 수 있습니다.

  2. 빠른 응답 속도: 크기가 줄어든 만큼 추론 속도가 빨라져 응답 시간이 짧아집니다. 기존 동일 사양 대비 약 20배 빠른 추론 속도를 제공합니다.

  3. 보안성: 데이터를 외부로 보내지 않고도 온-프레미스(On-premise)에서 실행할 수 있기 때문에 데이터 프라이버시와 보안 측면에서도 유리합니다.



용도

[교육] [법률] [회계] [의료] [금융] [공장] [식품] [온라인 쇼핑몰]

제품사양

도입하는 기업이나 연구소가 가질 수 있는 장점은 다음과 같습니다.

 

  1. 비용 절감: 중소기업이나 스타트업은 완전한 대규모 LLM보다는 비용이 적게 드는 sLLM 솔루션이 필요합니다. 자원 소모가 적고, 매우 고가의 고성능 서버 없이도 활용할 수 있어 초기 도입 장벽이 낮습니다.

  2. 데이터 보안: 많은 기업들이 AI를 온프레미스(On-premise)환경에서 사용하기를 원합니다. sLLM은 비교적 작은 규모로 현지 배포가 가능하기 때문에, 외부 서버와의 통신 없이도 내부 데이터를 활용할 수 있는 장점이 있습니다.

  3. 맞춤형 솔루션 수요 증가: 산업마다 특화된 도메인 지식이 필요해 맞춤형 LLM을 원하는 경우가 많습니다. sLLM을 기반으로 특정 분야에 최적화된 언어 모델을 사용할 수 있다면 더 많은 산업에 진입할 수 있습니다.

  4. 경량 모델 활용성 증대: 이동식 장치나 제한된 하드웨어 환경에서 실행 가능한 모델에 대한 수요가 높아지고 있습니다. 모바일 디바이스나 IoT 기기에서의 AI 기능 확장이 빠르게 진행되면서, 경량화 모델에 대한 수요가 늘어며 이에 대응할 수 있습니다.

 ​ ​ 

(주)테크엔