Your browser does not support JavaScript!

솔루어 LLMOps: 기업 AI 혁신의 열쇠

일반 리포트 2024년 12월 25일
goover

목차

  1. 요약
  2. 솔루어 LLMOps 플랫폼 개요
  3. 주요 기능 및 이점
  4. 하이퍼오토메이션 적용
  5. AI 신뢰성 및 안전성 향상
  6. 산업 전반에 미치는 영향
  7. 결론

1. 요약

  • SK C&C가 발표한 '솔루어 LLMOps' 플랫폼은 기업들이 맞춤형 소형거대언어모델(sLLM)을 쉽게 구현할 수 있도록 돕는 도구로, AI 서비스 구축의 효율성과 비용 절감을 목표로 하고 있다. 이 플랫폼은 데이터 수집 및 전처리부터 sLLM 생성 및 테스트에 이르는 모든 과정을 자동화하여 비전문가도 쉽게 활용할 수 있게 만들어졌다. 특히, 환각 현상 제거와 같은 AI 신뢰성 개선 기능을 통해 안정적이고 신뢰성 있는 AI 솔루션 구축을 지원한다. SK C&C의 광범위한 산업별 경험을 바탕으로, 솔루어 LLMOps는 금융, 제조, 통신 등 다양한 산업에서 AI 서비스의 확산을 촉진할 전망이다.

2. 솔루어 LLMOps 플랫폼 개요

  • 2-1. 솔루어 LLMOps의 정의와 목적

  • SK C&C는 기업들이 손쉽고 빠르게 맞춤형 소형거대언어모델(sLLM)을 구현할 수 있도록 지원하는 '솔루어 LLMOps' 플랫폼을 공개하였습니다. 이 플랫폼은 다양한 파운데이션 모델을 조합하여 기업들이 필요로 하는 AI 서비스를 효율적으로 구축할 수 있도록 돕고 있습니다. SK C&C는 금융, 제조, 통신, 서비스 등 다양한 산업 분야에서 생성형 AI 서비스 구축 운영을 해온 경험을 바탕으로, 솔루어 LLMOps에 생성형 AI 파운데이션 모델 적용 방안, 기업 데이터 결합, 학습 노하우 및 기업 맞춤 sLLM 구현 전 과정을 담고 있다고 밝혔습니다.

  • 2-2. sLLM의 개념과 특징

  • 소형거대언어모델(sLLM)은 오픈AI의 GPT, 구글의 제미나이, 네이버의 하이퍼클로바X 등 거대언어모델(LLM)에 비해 소형이지만 특정 영역에 특화된 학습이 가능하여, 컴퓨팅 자원을 훨씬 적게 소모하고 개발 비용을 줄이며 보안을 강화할 수 있습니다. 이를 통해 기업은 효율적으로 전용 AI 서비스를 구축할 수 있게 됩니다. 솔루어 LLMOps는 상용 LLM뿐만 아니라 오픈소스 LLM을 조합하고 활용할 수 있도록 지원하며, 기업의 특성에 맞는 sLLM 구축을 위해 파운데이션 모델을 추천하곤 합니다. 이 플랫폼은 데이터 수집 및 전처리, 자동 학습데이터 생성, 외부 파운데이션 모델 활용 학습, sLLM 생성 및 테스트 등 여러 과정에 하이퍼오토메이션을 적용하여 효율성을 높입니다. 또한, 사용자는 데이터 선택 후 드래그 앤 드롭 방식으로 데이터 정제부터 모델 튜닝 및 테스트까지 손쉽게 반복 수행할 수 있으며, 이를 통해 실무자가 본인 업무에 맞는 sLLM을 쉽게 만들 수 있습니다.

3. 주요 기능 및 이점

  • 3-1. 데이터 수집 및 전처리 기능

  • ‘솔루어 LLMOps’ 플랫폼은 기업이 보유한 데이터를 수집하는 동시에 비정형 데이터를 전처리하여 학습용 데이터로 자동 생성하는 기능을 가지고 있습니다. 이 과정은 효율적인 데이터 활용을 통해 기업 전용 AI 서비스를 빠르게 구축할 수 있도록 지원합니다.

  • 3-2. 자동 학습데이터 생성

  • 이 플랫폼은 외부 생성형 AI 파운데이션 모델을 활용하여 빠른 학습을 진행합니다. 기업 업무의 목적에 맞는 소형거대언어모델(sLLM)을 신속하게 완성하는 데 기여합니다. 자동 생성된 학습데이터는 기업 맞춤형 AI 솔루션 구축의 일환으로, resource 관리 측면에서도 중요한 역할을 합니다.

  • 3-3. sLLM 생성 및 테스트 프로세스

  • ‘솔루어 LLMOps’는 sLLM 생성과 테스트 과정에서 필요한 다양한 도구와 기능을 제공합니다. 이 플랫폼은 할루시네이션(환각) 현상의 제거를 위한 AI 자동화 도구를 포함하고 있어, 데이터 전처리, 모델 생성, 평가, 활용의 각 단계에서 신뢰성을 높입니다. 비전문가도 안심하고 sLLM을 만들 수 있도록 지원하며, 플랫폼 내 채팅창에서 간단한 질문으로 테스트 수행이 가능합니다.

4. 하이퍼오토메이션 적용

  • 4-1. 하이퍼오토메이션의 개념과 필요성

  • 하이퍼오토메이션은 기업이 다양한 오토메이션 기술을 조합하여 운영 효율성을 극대화하는 접근 방식입니다. SK C&C의 솔루어 LLMOps 플랫폼은 이 하이퍼오토메이션 개념을 바탕으로, 기업들이 경량 거대언어모델(sLLM)을 쉽게 구현할 수 있도록 돕고 있습니다. 특히 데이터 수집 및 전처리, 자동 학습데이터 생성, 외부 파운데이션 모델을 활용한 학습, sLLM 생성 및 테스트 등의 모든 과정을 자동화함으로써, 기업 맞춤형 AI 서비스 구축 과정에서의 효율성을 크게 향상시키며 비용 절감에도 기여합니다.

  • 4-2. 솔루어 LLMOps에서의 하이퍼오토메이션 활용 사례

  • 솔루어 LLMOps 플랫폼은 기업이 보유한 데이터를 수집하고, 비정형 데이터를 전처리하여 학습용 데이터로 자동 생성합니다. 이후 선택된 외부 생성형 AI 파운데이션 모델을 활용하여 빠르게 학습을 진행하고, 최종적으로 기업 업무 목적에 맞는 sLLM을 완성하는 과정을 제공합니다. 예를 들어, 사용자는 웹 화면에서 데이터 선택 후 드래그 앤 드롭으로 데이터 정제 및 모델 튜닝 작업을 쉽게 반복 수행할 수 있습니다. 또한, 솔루어 LLMOps는 AI의 환각 현상을 처리하는 AI 자동화 도구를 제공하며, 사용자가 텍스트 생성 정확성을 테스트할 수 있는 기능도 포함되어 있습니다. 이를 통해 기업들은 신뢰할 수 있는 AI 솔루션을 보다 효율적으로 구축할 수 있습니다.

5. AI 신뢰성 및 안전성 향상

  • 5-1. 환각 현상 처리 기능

  • SK C&C가 제시한 ‘솔루어 LLMOps’ 플랫폼은 AI가 오답을 생성하는 환각(Hallucination) 현상 제거 기능을 갖추고 있습니다. 이 기능은 데이터 전처리, 모델 생성, 평가, 활용 각 단계에서 할루시네이션을 처리하는 AI 자동화 도구를 제공합니다. 이를 통해 비전문가도 안심하고 sLLM을 만들 수 있도록 지원합니다. 이러한 환각 처리 기능은 기업들이 맞춤형 AI 서비스를 구축하는 데 있어 신뢰성을 높이는 중요한 요소로 작용합니다.

  • 5-2. sLLM 테스트 기능과 그 중요성

  • ‘솔루어 LLMOps’ 플랫폼은 sLLM 테스트 기능을 제공합니다. 이 기능을 통해 기업은 채팅창에서 간단한 질문으로 완성도 테스트를 수행할 수 있으며, 테스트에 필요한 질문도 자동으로 제공됩니다. sLLM 테스트는 기업 맞춤형 AI 서비스를 평가하고 개선하는 데 필수적인 과정으로, AI 모델의 신뢰성 및 안전성을 향상시키는 데 기여합니다.

6. 산업 전반에 미치는 영향

  • 6-1. SK C&C의 산업별 AI 서비스 구축 경험

  • SK C&C는 다양한 산업 분야에서 생성형 AI 서비스 구축 운영을 해온 경험을 보유하고 있습니다. 금융, 제조, 통신, 서비스 등 여러 분야에서 쌓은 노하우를 바탕으로 기업의 데이터 결합과 학습 방법을 개선해 왔습니다. 이 과정에서 SK C&C는 기업 맞춤형 소형거대언어모델(sLLM)을 구현하기 위한 다양한 방안을 제시하고 있습니다.

  • 6-2. 국내 산업에의 sLLM 확산 가능성

  • 국내 산업 전반에 걸쳐 소형거대언어모델(sLLM)의 확산 가능성이 높아지고 있습니다. SK C&C는 솔루어 LLMOps 플랫폼을 통해 기업들이 손쉽게 맞춤형 sLLM을 구현할 수 있도록 지원하며, 이를 통해 데이터 수집 및 전처리, 자동 학습 데이터 생성을 포함한 하이퍼오토메이션 기능을 제공합니다. 이와 같은 기술적 지원 덕분에 기업들은 비용을 절감하고 효율성을 높이면서 AI 서비스를 신속하게 구축할 수 있습니다.

결론

  • SK C&C의 솔루어 LLMOps 플랫폼은 기업이 맞춤형 소형거대언어모델(sLLM)을 구현하는 데 필수적인 도구로 자리 잡고 있다. 이 플랫폼의 핵심 기능은 데이터 수집 및 전처리, 자동 학습데이터 생성, 그리고 sLLM 테스트 등 모든 과정을 자동화하여 기업이 신속하고 경제적으로 AI 서비스를 구축할 수 있도록 한다. 특히 하이퍼오토메이션을 통해 효율성을 대폭 개선하고, AI 솔루션의 신뢰성을 높이는 기능을 통해 기업들이 최신 AI 기술을 적극적으로 활용할 수 있게 된다. 미래에는 더욱 많은 기업들이 이 플랫폼을 통해 실질적인 AI 솔루션을 구축할 것이며, 이는 산업 전반에 긍정적인 영향을 줄 것이다. 그러나 플랫폼의 효과성은 각 기업의 독자적인 상황에 따라서 다를 수 있으며, 지속적인 개선과 피드백이 필요할 것이다. 따라서 앞으로도 SK C&C는 사용자의 다양한 요구를 반영하여 플랫폼을 발전시켜 나갈 것으로 기대된다.

용어집

  • SK C&C [회사]: SK C&C는 기업들이 AI 기술을 활용하여 맞춤형 서비스를 효율적으로 구축할 수 있도록 지원하는 IT 서비스 기업이다. 최근 발표한 솔루어 LLMOps 플랫폼을 통해 기업들이 sLLM을 쉽게 구현할 수 있도록 돕고 있으며, 이는 다양한 산업분야에서 AI 서비스의 확산과 발전에 기여하고 있다.
  • 솔루어 LLMOps [플랫폼]: 솔루어 LLMOps는 SK C&C가 개발한 플랫폼으로, 기업들이 소형거대언어모델(sLLM)을 손쉽게 구현할 수 있도록 지원한다. 다양한 파운데이션 모델을 조합하여 맞춤형 AI 서비스를 셀프 구현할 수 있는 기능을 제공하며, 데이터 전처리, 자동 학습데이터 생성, sLLM 생성 및 테스트 등의 과정에서 효율성을 높이고 비용을 절감할 수 있도록 설계되었다.

출처 문서