솔루어 LLMOps: 기업 AI 혁신의 열쇠

1. 요약

• 이 리포트는 SK C&C가 개발한 혁신적인 플랫폼인 '솔루어 LLMOps'에 대해 다룹니다. 이 플랫폼은 기업들이 소형거대언어모델(sLLM)을 쉽게 구현할 수 있도록 도와주며, 다양한 산업 분야에서의 AI 서비스 구축 경험을 바탕으로 맞춤형 AI 서비스를 보다 효율적으로 개발할 수 있게 합니다. 솔루어 LLMOps의 주요 기능으로는 데이터 수집 및 전처리, 자동 학습 데이터 생성, 외부 파운데이션 모델 활용, sLLM 생성 및 테스트가 있습니다. 이 플랫폼은 하이퍼오토메이션을 적용하여 전체 과정의 효율성을 높이고 비용을 줄이는 데 기여합니다. 기업들은 이를 통해 특정 비즈니스 요구에 맞는 최적의 AI 서비스를 구현하고, AI 환각 현상을 해결할 수 있는 능력을 갖출 수 있습니다.

2. 솔루어 LLMOps 플랫폼 개요

• 2-1. 플랫폼 소개 및 목적

• SK C&C가 제공하는 '솔루어 LLMOps' 플랫폼은 기업들이 소형거대언어모델(sLLM)을 손쉽고 빠르게 구현하도록 지원하는 혁신적인 도구입니다. 이 플랫폼은 금융, 제조, 통신, 서비스 등을 포함한 다양한 산업 분야에서 쌓아온 생성형 AI 서비스 구축 경험을 바탕으로 개발되었습니다. 솔루어 LLMOps는 여러 외부 파운데이션 모델을 조합하고 활용할 수 있도록 지원하며, 기업 맞춤형 sLLM 구성을 위한 데이터 수집, 전처리, 학습, 모델 생성 및 테스트 과정 전반에 하이퍼오토메이션을 적용하여 효율성을 높이고 비용을 절감할 수 있게 돕습니다.

• 2-2. 소형거대언어모델(sLLM)의 정의

• 소형거대언어모델(sLLM)은 오픈AI의 GPT, 구글의 제미나이, 네이버의 하이퍼클로바X 등에 비해 소형이지만 특정 영역에 특화된 학습이 가능합니다. 이는 컴퓨팅 자원을 훨씬 적게 소모하므로 개발 비용을 줄이고 보안을 강화할 수 있어 기업 전용 AI 서비스를 효율적으로 구축할 수 있도록 합니다. 솔루어 LLMOps는 이런 sLLM을 구현하기 위해 기업의 특성에 맞는 파운데이션 모델을 추천하고 조합하여 최적의 결과를 이끌어냅니다.

3. 솔루어 LLMOps의 주요 기능

• 3-1. 데이터 수집 및 전처리

• 솔루어 LLMOps 플랫폼은 기업이 보유한 데이터를 수집함과 동시에 비정형 데이터를 전처리하여 학습용 데이터로 자동으로 생성하는 기능을 제공합니다. 이를 통해 기업 맞춤형 AI 서비스를 효율적으로 구현할 수 있는 기반을 마련합니다.

• 3-2. 자동 학습데이터 생성

• 이 플랫폼은 기업의 데이터에 맞춰 자동으로 학습 데이터를 생성하는 과정을 지원합니다. Data pre-processing을 통해 비정형 데이터를 학습에 적합한 형태로 변환하고, 이러한 자동화 과정은 전체적인 프로젝트의 효율성을 대폭 향상시킵니다.

• 3-3. 외부 파운데이션 모델 활용

• 솔루어 LLMOps는 오픈AI의 챗GPT, 네이버클라우드의 하이퍼클로바X와 같은 상용 LLM은 물론, 다양한 오픈소스 LLM으로 만들어진 외부 파운데이션 모델을 활용할 수 있는 기능을 지원합니다. 이로 인해 기업은 자신의 AI 특성에 맞는 최적의 모델을 추천받고, 선택 및 조합할 수 있는 자유를 가집니다.

• 3-4. sLLM 생성 및 테스트

• 솔루어 LLMOps는 선택된 외부 생성형 AI 파운데이션 모델을 활용해 신속한 학습을 진행하고, 기업 업무 목적에 부합하는 소형거대언어모델(sLLM)을 생성합니다. 또한, 플랫폼은 AI가 오답을 생성하는 환각 현상을 해결하기 위한 테스트 기능을 제공하여 사용자가 안심하고 모델을 구축할 수 있도록 돕습니다. 사용자는 플랫폼 내의 채팅창을 통해 간단한 질문으로 모델의 완성도를 테스트할 수 있으며, 필요한 질문도 자동으로 제공합니다.

4. sLLM의 이점 및 활용 사례

• 4-1. 비용 절감 효과

• sLLM은 오픈AI GPT, 구글 제미나이, 네이버 하이퍼클로바X 등 기존의 대형 언어 모델에 비해 소형이지만, 특정 분야에 특화된 학습이 가능합니다. 이러한 특성 덕분에 sLLM은 컴퓨팅 자원을 훨씬 적게 소모하여 개발 비용을 절감할 수 있는 효과가 있습니다. SK C&C는 솔루어 LLMOps 플랫폼을 통해 기업들이 효율적으로 AI 서비스를 구축할 수 있도록 지원하고 있습니다.

• 4-2. 보안 강화

• sLLM은 특정 영역에 맞춘 학습이 가능하여, 기업의 전용 AI 서비스로 보안을 강화할 수 있습니다. SK C&C는 기업의 데이터 수집과 비정형 데이터를 전처리하여 학습용 데이터로 자동 생성하고, 이를 통해 외부 생성형 AI 파운데이션 모델을 활용한 신뢰할 수 있는 sLLM을 개발하도록 돕고 있습니다.

• 4-3. 특정 영역에 특화된 학습

• 솔루어 LLMOps는 기업 특성에 적합한 sLLM 구축을 위해 다양한 파운데이션 모델을 추천하고, 조합 및 활용하는 과정을 지원합니다. 기업의 업무에 맞춘 데이터 수집 및 전처리, 자동 학습 데이터 생성, sLLM 생성 및 테스트에 하이퍼오토메이션이 적용되어 업무 효율성을 높이며, 다수의 데이터를 동시에 처리할 수 있는 기능도 제공합니다.

5. 하이퍼오토메이션과 서버리스 아키텍처

• 5-1. 하이퍼오토메이션의 개념

• 하이퍼오토메이션은 기업들이 손쉽게 맞춤형 소형거대언어모델(sLLM)을 구현할 수 있도록 지원하는 기법입니다. SK C&C의 ‘솔루어 LLMOps’ 플랫폼은 데이터 수집 및 전처리, 자동 학습 데이터 생성, 외부 파운데이션 모델을 활용한 학습, sLLM 생성 및 테스트 등 전 과정에 하이퍼오토메이션을 적용하여 효율성을 혁신적으로 높이고 비용을 절감하는 데 기여하고 있습니다.

• 5-2. 서버리스 학습 자원 관리의 장점

• 서버리스 아키텍처를 통해 ‘솔루어 LLMOps’는 제한된 리소스를 최적화하여 제공할 수 있습니다. 이는 기업이 보유한 데이터와 비정형 데이터를 신속하게 전처리하고 학습용 데이터로 자동 생성하는 과정에서 더 적은 자원을 소모하면서도 높은 성능을 유지할 수 있도록 지원합니다. 또한, 이 플랫폼은 AI에서 발생할 수 있는 환각(할루시네이션) 현상을 자동으로 처리하는 도구도 제공하여 비전문가가 안심하고 sLLM을 생성할 수 있는 환경을 마련합니다.

6. 할루시네이션 문제 해결 및 테스트 기능

• 6-1. AI 환각 현상 정의 및 해결 방안

• AI 환각 현상(Hallucination)은 AI가 사실에 기반하지 않은 잘못된 정보를 생성하는 현상으로 정의됩니다. SK C&C의 '솔루어 LLMOps' 플랫폼은 이러한 환각 현상을 제거하기 위한 다양한 도구를 제공합니다. 데이터 전처리, 모델 생성, 평가, 활용의 각 단계에서 할루시네이션을 처리할 수 있는 AI 자동화 도구를 지원하고 있어 비전문가도 안심하고 sLLM을 제작할 수 있는 환경을 마련하고 있습니다.

• 6-2. sLLM 테스트 기능의 중요성

• sLLM 테스트 기능은 솔루어 LLMOps의 핵심 기능 중 하나로, AI 모델이 생성하는 결과물의 신뢰성을 높이기 위해 필수적입니다. 이 플랫폼의 채팅창에서는 사용자가 간단한 질문을 통해 모델의 완성도 테스트를 수행할 수 있으며, 테스트에 필요한 질문을 자동으로 제공하여 사용자의 편의를 도모합니다. 이러한 테스트 기능은 기업들이 구축한 AI 모델이 실제 비즈니스 요구에 적합한지 검증하는 중요한 과정입니다.

결론

• 솔루어 LLMOps는 기업들이 sLLM을 구현하여 AI 서비스를 혁신적으로 발전시킬 수 있도록 돕는 데 중요한 역할을 합니다. 데이터 수집부터 sLLM 생성과 테스트까지, 모든 과정에 하이퍼오토메이션을 적용하여 기업들은 효율적인 AI 구축과 비용 절감을 이룰 수 있습니다. 또한, 이 플랫폼은 AI 환각 현상을 해결할 수 있는 자동화 도구를 제공하여 비전문가도 안심하고 사용할 수 있는 환경을 제공합니다. 그러나 플랫폼의 최적 활용을 위해서는 지속적인 피드백과 사용자의 요구에 맞춘 추가 개발이 필요할 것입니다. 미래에 솔루어 LLMOps가 산업 전반으로 광범위하게 적용됨에 따라 기업 디지털 트랜스포메이션을 가속화하고, AI 분야에서의 경쟁력을 강화할 수 있을 것으로 예상됩니다. 이를 통해 기업은 더 신뢰할 수 있는 데이터를 바탕으로 의사 결정을 내리고, 각자의 전문 분야에 특화된 모델을 맞춤형으로 발전시킬 수 있습니다.

용어집

• 솔루어 LLMOps [플랫폼]: SK C&C가 제공하는 솔루션으로, 기업들이 소형거대언어모델(sLLM)을 효율적으로 구축할 수 있도록 돕는 플랫폼입니다. 다양한 파운데이션 모델을 조합하고 활용할 수 있으며, 데이터 전처리와 자동 학습데이터 생성을 지원합니다. 이 플랫폼은 기업 맞춤형 AI 서비스의 구현을 가속화하는 데 기여합니다.

• sLLM [전문용어]: 소형거대언어모델(Small Large Language Model)의 약자로, 특정 영역에 특화된 학습이 가능한 경량화된 AI 모델입니다. 기존의 거대언어모델보다 컴퓨팅 자원을 적게 소모하며, 보안과 비용 효율성을 높이는 데 기여합니다.

• 하이퍼오토메이션 [기술]: 업무 프로세스를 자동화하는 기술로, SK C&C의 솔루어 LLMOps 플랫폼에서 데이터 수집, 전처리 및 학습 과정을 혁신적으로 효율화하는 데 사용됩니다.

출처 문서

• SK C&C, 기업 스스로 sLLM 구현 돕는 '솔루어 LLMOps' 플랫폼 공개https://v.daum.net/v/20240520132817679
• SK C&C, 고객 맞춤형 sLLM 구현 지원 플랫폼 ‘솔루어 LLMOps’ 선보여 - 뉴스와이어https://www.newswire.co.kr/newsRead.php?no=989963