Your browser does not support JavaScript!

솔라 프로: AI 비용 절감 혁신

일반 리포트 2024년 10월 29일
goover

목차

  1. 요약
  2. 솔라 프로 프리뷰 버전 개요
  3. 솔라 프로의 기술적 특징
  4. 벤치마크 성능 분석
  5. 업스테이지의 시장 전략
  6. AI 기술의 응용 사례 및 기대 효과
  7. 결론

1. 요약

  • 업스테이지는 차세대 대형언어모델인 ‘솔라 프로’의 프리뷰 버전을 공개하였다. 이 모델은 220억 개의 매개변수를 통해 기존 ‘솔라 미니’보다 두 배 이상의 성능 향상을 이뤄냈으며, DUS(깊이 확장 스케일) 기술을 활용하여 단일 GPU에서도 성능을 최적화하였다. 업스테이지는 이를 통해 기업의 AI 비용을 절감하고 다양한 산업의 AI 솔루션을 제공할 계획이다. 또한, 최신 벤치마크 테스트에서 평균 51% 이상의 성능 향상을 기록하며 신뢰성을 입증하였고, 이를 통해 AI 기술의 시장 경쟁력을 강화하고자 한다.

2. 솔라 프로 프리뷰 버전 개요

  • 2-1. 프리뷰 버전 공개 일정 및 목적

  • 업스테이지는 11월 출시 예정인 차세대 대형언어모델 \'솔라 프로(Solar Pro)\'의 초기 테스트용 모델인 \'솔라 프로 프리뷰(Solar Pro Preview)\' 버전을 오픈소스로 공개하였습니다. 이 버전은 무료 API를 통해 제공되며, 사용자는 이를 통해 현재 개발 중인 모델을 미리 테스트해볼 수 있는 기회를 가집니다. 프리뷰 버전의 공개 목적은 사용자로부터 피드백을 받아 모델을 개선하고, 솔라 프로에 대한 관심을 높이는 것입니다. 또한, 업스테이지는 API 호출 비용을 전면 지원하여 사용자들이 쉽게 접근할 수 있도록 하고 있습니다.

  • 2-2. 프리뷰 버전의 기본 사양

  • 솔라 프로 프리뷰 버전은 220억 개의 매개변수를 갖추고 있으며, 이는 기존 모델인 \'솔라 미니(Solar Mini)\'의 107억 매개변수 대비 두 배 이상 증가한 수치입니다. 이 모델은 4096자의 입력 토큰 수로 제한되며, 현재 영어만 지원하고 있습니다. 업스테이지는 DUS(깊이 확장 스케일) 기술을 활용해 1개의 GPU에서 구동이 가능한 수준으로 경량화에 성공하였으며, 이를 통해 효율적으로 성능을 향상시킬 수 있었습니다. 또한, 솔라 프로는 MMLU 프로 및 IFEval과 같은 최신 LLM 벤치마크 지표에서 성능이 평균 51% 이상 향상된 것으로 보고되었습니다.

3. 솔라 프로의 기술적 특징

  • 3-1. 220억 매개변수의 구조

  • 업스테이지의 차세대 대형언어모델 ‘솔라 프로’는 220억(22B)개의 매개변수를 보유하고 있습니다. 이는 기존 모델인 ‘솔라 미니’의 107억(10.7B) 대비 두 배 이상 증가한 수치로, 성능 또한 대폭 향상되었습니다.

  • 3-2. DUS(깊이 확장 스케일) 기술의 적용

  • 솔라 프로는 업스테이지의 고유 기술인 깊이 확장 스케일(DUS)을 적용하여 모델 성능을 극대화하고, 여전히 단일 GPU에서 구동 가능하도록 경량화되었습니다. 이는 최근 GPU 가격이 급등하고 수급의 어려움이 있는 기업용 AI 시장에 중요한 기술적 이점을 제공합니다.

  • 3-3. 단일 GPU에서의 경량화

  • 솔라 프로는 단일 GPU에서 최대 47.91GB의 VRAM 요구량으로 가동되며, 평균 성능은 68.24점을 기록합니다. 이는 구글의 젬마2(62.46GB의 VRAM 요구량, 60.52점의 평균 성능)를 초월하는 성능입니다. 이로 인해 비용 효율성이 큰 장점으로 작용할 것으로 예상됩니다.

4. 벤치마크 성능 분석

  • 4-1. MMLU 프로 및 IFEval 지표 성능

  • 솔라 프로는 인문학 및 STEM(과학·기술·공학·수학) 지식을 평가하는 'MMLU Pro' 및 지시 이행 능력을 평가하는 'IFEval' 지표에서 평균 51% 이상의 성능 향상을 기록하였습니다. 이는 기존 모델인 '솔라 미니' 대비 상당한 개선을 나타내며, 최신 LLM 벤치마크 지표에서 두각을 나타내고 있습니다.

  • 4-2. 경쟁 모델들과의 비교

  • 솔라 프로는 마이크로소프트의 '파이-3 미디엄', 메타의 '라마 3.1 8B', 미스트랄AI-엔비디아의 '네모 12B', 구글의 '젬마2 27B' 등과 비교했을 때 성능이 모두 뛰어난 것으로 나타났습니다. 업스테이지의 설명에 따르면, 솔라 프로는 이러한 빅테크 모델들보다 전반적으로 우수한 성능을 보여주고 있습니다.

  • 4-3. 성능 향상 비율

  • 솔라 프로는 220억 개의 매개변수로 구성되어 있으며, 이전 모델인 '솔라 미니'(107억 개의 매개변수)에 비해 두 배 이상의 성능 향상을 이루었습니다. 이러한 성능 개선은 DUS(깊이 확장 스케일) 기술 등 독자적인 모델링 방법론이 고도화된 결과로, 단일 GPU에서도 구동이 가능한 경량화에 성공한 것입니다.

5. 업스테이지의 시장 전략

  • 5-1. AI 시장 내 경쟁 우위

  • 업스테이지는 차세대 대형언어모델인 '솔라 프로'의 프리뷰 버전을 오픈소스로 공개하며 AI 시장에서의 경쟁 우위를 강화하고 있습니다. 솔라 프로는 220억 개의 매개변수를 갖추고 있으며, 기존 모델인 '솔라 미니'에 비해 두 배 이상의 성능 향상을 이루었습니다. 이는 AI 기업들이 필요로 하는 다양한 작업을 수행하는 데 있어서 중요한 경쟁력으로 작용합니다.

  • 5-2. 비용 절감 효과

  • 업스테이지는 '솔라 프로'의 경량화로 GPU 요구량을 최소화하여 기업의 AI 비용 절감 효과를 제공합니다. 특히, '솔라 프로'는 단일 GPU에서 구동이 가능하도록 설계되어 있어 인프라 비용을 절감할 수 있습니다. 업스테이지는 이러한 점을 강조하며, 기업들이 AI를 더 쉽게 채택하고 활용할 수 있도록 돕고 있습니다.

  • 5-3. 향후 비즈니스 모델 전망

  • 업스테이지는 솔라 프로의 프리뷰 버전을 오픈소스 및 무료 API로 공개하면서 다양한 분야에서의 활용 가능성을 열어두고 있습니다. 이를 통해 AI 시장에서의 입지를 더욱 확대할 계획입니다. 김성훈 대표는 "최소의 인프라 비용으로 업계 최강의 성능을 자랑하는 솔라 프로를 프리뷰 버전을 통해 많이 테스트해보기를 바란다"고 언급하며 향후 비즈니스 모델에 대한 기대감을 나타냈습니다.

6. AI 기술의 응용 사례 및 기대 효과

  • 6-1. 업스테이지의 솔라 프로 활용 사례

  • 업스테이지는 자사의 차세대 대형언어모델 '솔라 프로'를 통해 기업에서의 AI 활용 가능성을 높이고 있습니다. 최근 신한투자증권은 AI를 활용하여 반복적인 사내 업무를 자동화하고, 각종 보고서 작성 및 정보 요약, 번역 등의 업무를 보조하도록 하였습니다.

  • 6-2. AI의 기업 내 적용 가능성

  • AI 기술은 금융업계에서도 효율성을 증대시키는 중요한 도구로 자리잡고 있습니다. NH투자증권 또한 AI 기술을 활용하여 디지털 혁신을 추진하고 있으며, 사내 업무의 효율화를 위해 여러 AI 서비스를 적용하고 있습니다. 미래에셋증권은 'AI 어시스턴트' 플랫폼을 도입하여 직원들이 개인 업무 매뉴얼을 기반으로 챗봇을 생성하여 활용할 수 있는 환경을 제공하고 있습니다.

  • 6-3. 미래 AI 시장에서의 역할

  • AI 기술의 발전은 금융 서비스 및 데이터 처리의 새로운 트렌드를 창출하며, 기업들이 경쟁력을 유지하는 데 중요한 요소로 작용할 것입니다. 업스테이지는 '솔라 프로' 모델을 통해 이러한 시장의 변화를 주도하려 하고 있으며, AI 솔루션의 활용 확대를 통해 기업의 생산성 향상에 기여할 것으로 보입니다.

결론

  • 업스테이지의 ‘솔라 프로’ 프리뷰 버전은 AI 기술의 혁신을 견인하며 기업들의 비용 효율성을 크게 높일 수 있는 강력한 도구로 자리 잡을 것이다. 단일 GPU로 경량화를 이룬 기술적 특징 덕분에 AI 채택이 더욱 용이해질 전망이며, 다양한 산업에서 생산성을 높일 수 있는 잠재력을 가지고 있다. 다만, 해당 모델의 운영 환경에 대한 추가 테스트 필요성과 더 다양한 언어 지원 확대가 추후 과제일 것이다. 미래에는 ‘솔라 프로’를 바탕으로 업스테이지가 글로벌 AI 시장 내 입지를 더욱 강화할 것으로 기대한다. 아울러, 해당 모델이 기업의 경쟁력 강화와 함께 AI 솔루션을 통한 생산성 향상에 기여할 가능성이 높다.

용어집

  • 업스테이지 [회사]: 업스테이지는 인공지능(AI) 기술 기업으로, 대형언어모델(LLM)인 '솔라(Solar)'를 개발하여 AI 기술의 선도 기업으로 자리매김하고 있다. 자사의 솔라 모델은 허깅페이스 Open LLM Leaderboard에서 세계 1위를 기록하며, 다양한 산업 분야에서의 AI 솔루션을 제공하고 있다.

출처 문서