Your browser does not support JavaScript!

솔라 프로, 차세대 AI 기술의 혁신

일반 리포트 2024년 11월 07일
goover

목차

  1. 요약
  2. 업스테이지의 솔라 프로 소개
  3. LLM 벤치마크 성능
  4. AI 시장 내 솔라 프로의 위치
  5. 신한금융의 AI 활용 사례
  6. 업스테이지의 향후 계획
  7. 결론

1. 요약

  • 업스테이지는 차세대 대형언어모델(LLM)인 ‘솔라 프로(Solar Pro)’의 프리뷰 버전을 공개하여 기술적 우위를 강화하고 있다. 솔라 프로는 기존 모델보다 두 배 이상의 매개변수를 탑재하고 있으며, 최신 LLM 벤치마크에서 51% 이상의 성능 향상을 기록하였다. 특히, MMLU 프로 및 IFEval 등에서 두드러진 성능을 보이며, 경량화 기술(DUS)을 통해 단일 GPU 구동이 가능하여 비용 효율성을 제공한다. 본 리포트는 솔라 프로의 기술적 특징 및 시장 반응에 대한 분석을 통해 업스테이지의 경쟁력과 향후 전망을 조망한다.

2. 업스테이지의 솔라 프로 소개

  • 2-1. 솔라 프로의 기본 개요

  • 업스테이지는 차세대 대형언어모델(LLM) ‘솔라 프로(Solar Pro)’의 초기 테스트용 모델인 ‘솔라 프로 프리뷰(Solar Pro Preview)’를 2024년 11월에 오픈소스 및 무료 API 형태로 공개하였습니다. 이 모델은 솔라 LLM 시리즈의 상위 모델로, 기존 모델인 ‘솔라 미니’보다 매개변수가 두 배 이상 증가한 220억 개(22B)의 매개변수를 가지고 있습니다. 프리뷰 버전은 영어만 지원하며, 입력 토큰 수는 4096자로 제한됩니다.

  • 2-2. 솔라 프로의 매개변수 및 성능

  • 솔라 프로는 기존 ‘솔라 미니’ 모델과 비교했을 때 두 배 이상의 매개변수를 자랑하며, 최신 LLM 벤치마크 지표에서 평균 51% 이상의 성능 향상을 기록하였습니다. 특히, MMLU 프로 및 IFEval 등의 기준에서 성능이 크게 향상되었으며, 이는 소속 기업인 업스테이지의 기술적 역량을 입증하는 사례입니다. DUS(깊이 확장 스케일) 기술을 통해 1개의 GPU에서 구동이 가능한 경량화에 성공하였다는 점도 강조됩니다.

  • 2-3. 솔라 프로의 경량화 기술(DUS)

  • 업스테이지는 솔라 프로의 경량화 기술인 DUS를 통해 GPU 요구량을 줄이면서도 높은 성능을 유지할 수 있게 되었습니다. 현재 AI 관련 GPU의 가격이 급등하는 가운데, 솔라 프로는 단일 GPU로도 구동 가능하여 비용 통제에 유리한 효과를 제공합니다. 업스테이지는 이와 같은 경량화 기술 덕분에 기업 고객에게 보다 합리적인 AI 솔루션을 제공할 수 있을 것으로 판단하고 있습니다.

3. LLM 벤치마크 성능

  • 3-1. MMLU Pro 성능 향상

  • 업스테이지의 차세대 LLM ‘솔라 프로(Solar Pro)’는 MMLU Pro 벤치마크에서 기존 ‘솔라 미니’ 모델과 비교하여 평균 51% 이상의 성능 향상을 기록하였습니다. MMLU Pro는 LLM의 답변 정확도를 평가하는 고난도의 지표로, 선택지가 10개로 늘어나면서 더 깊은 사고를 요구하는 학부생 수준의 문제 해결 능력을 평가합니다.

  • 3-2. IFEval 성능 지표

  • ‘솔라 프로’는 지시 이행 능력을 평가하는 IFEval 벤치마크에서도 평균 51% 이상의 성능 향상을 보였습니다. IFEval은 AI의 지시를 얼마나 잘 이행하는지를 평가하는 기준으로, 이 모델이 기업용 AI 시장에서의 실제 문제 해결 능력을 갖추었다는 것을 강조합니다.

  • 3-3. 경쟁 모델과 성능 비교

  • 이번 벤치마크 테스트에서 ‘솔라 프로’는 단일 GPU에서 가동되는 여러 유사 사이즈의 모델들과 성능 비교를 진행하였으며, 마이크로소프트의 ‘파이(Phi)-3 미디엄’, 메타의 ‘라마(Llama) 3.1 8B’, 미스트랄AI-엔비디아의 ‘네모(NeMo) 12B’, 구글의 ‘젬마(Gemma)2 27B’ 모델을 초과하는 성과를 보였습니다. 특히, ‘솔라 프로’는 47.91GB의 VRAM 요구량으로 68.24점의 평균 성능을 기록하여, 62.46GB의 VRAM 요구량을 가진 젬마2보다 더 높은 성능을 냈습니다.

4. AI 시장 내 솔라 프로의 위치

  • 4-1. AI 시장의 현재 동향

  • 2024년 9월 13일 기준, 국내 벤처캐피털(VC) 업계가 3년 이하 초기 스타트업 투자에 소극적이라는 경향이 드러났습니다. 이는 장기간 이어진 경기 침체로 인해 펀드레이징이 어려워지자, 기업공개(IPO)나 인수합병(M&A) 가능성이 높은 스타트업에 집중 투자하여 회수 안정성을 높이려는 전략으로 분석됩니다. 2024년 7월까지 1436개 기업에 3조4513억원의 벤처 투자가 집행된 가운데, 3년 이하 초기 기업의 투자 유치 규모는 6929억원(20.1%)으로 최근 10년 중 가장 낮은 수치를 기록했습니다.

  • 4-2. 업스테이지의 시장 전략

  • 업스테이지는 차세대 대형언어모델(LLM) ‘솔라 프로’를 오픈소스 및 무료 API 형태로 제공하여 AI 시장에서의 입지를 강화하고 있습니다. 솔라 프로는 220억 매개변수를 보유하며, 기존 ‘솔라 미니’ 모델보다 두 배 이상 커진 성능을 갖추고 있습니다. 이 모델은 최신 LLM 벤치마크에서 평균 51% 이상의 성능 향상을 기록하여, 마이크로소프트와 구글의 유사 사이즈 모델들을 뛰어넘는 결과를 보여주었습니다.

  • 4-3. AI 기술의 발전과 기업의 수요

  • AI 기술은 빠르게 확산되고 있으며, 대형 증권사들은 AI 도입을 통해 대고객 서비스 및 사내 업무의 효율화에 집중하고 있습니다. 예를 들어, 미래에셋증권은 AI 어시스턴트를 도입하여 직원들이 개인 맞춤형 업무 매뉴얼을 제작하고 쉽게 사용할 수 있도록 하고 있습니다. 이러한 흐름은 AI 기술 기반 스타트업에 대한 투자 선호가 높음을 보여줍니다. 특히, 업스테이지와 같은 기업들이 큰 투자를 유치한 사례가 있습니다.

5. 신한금융의 AI 활용 사례

  • 5-1. 신한금융의 AI 솔루션 도입

  • 신한금융은 AI 기술을 통해 업무 효율화를 추구하고 있습니다. 신한투자증권은 올해 ‘AI 적용 사업화’를 목표로 하여 AI 도입에 나섰습니다. 구체적으로 신한투자증권의 AI 솔루션부에서는 ‘챗프로(chatPro)’를 통해 반복적인 사내 업무 자동화 및 보고서 생성, 정보 요약 번역 등에 AI를 활용하고 있습니다.

  • 5-2. AI를 통한 업무 효율화 사례

  • 신한투자증권은 AI솔루션부를 신설하고 AI 관련 사업 확대에 집중하고 있습니다. 중점적으로 AI 서비스를 사내 업무에 적용하는 것 외에도, 향후 대고객 AI 서비스인 AI 프라이빗뱅커(PB) 출시를 준비하고 있습니다. 이를 통해 고객에게 더욱 경쟁력 있는 금융 서비스를 제공할 계획입니다. 또한, IT 기반의 새로운 AI 포트폴리오 구성을 위해 미래에셋증권은 AI 어시스턴트 플랫폼을 도입하였습니다. 이를 통해 직원들이 독자적으로 업무 매뉴얼을 업로드하고 학습시켜 전용 챗봇을 생성할 수 있도록 하고 있습니다.

  • 5-3. AI 기술의 금융업 적용 가능성

  • 전 세계적으로 AI 기술이 빠르게 확산되는 가운데, 신한금융은 이러한 흐름에 맞춰 AI 기술의 도입을 적극 추진하고 있습니다. 특히 증권업계에서는 AI 전담 조직을 신설하거나 디지털 부서를 확대해 투자자들에게 강화된 금융 서비스를 제공하기 위해 노력하고 있습니다. 권민경 자본시장연구원 연구위원은 증권사들이 생성형 AI를 사업화하면서 경쟁력 있는 서비스 제공을 위해 준비하고 있다고 언급하였습니다.

6. 업스테이지의 향후 계획

  • 6-1. 솔라 프로의 정식 출시 일정

  • 업스테이지는 차세대 LLM '솔라 프로(Solar Pro)'의 정식 출시를 올해 11월로 예정하고 있습니다. 이 모델은 기존 '솔라 미니' 모델보다 두 배 이상의 매개변수를 보유하고 있으며, 성능 또한 크게 향상되었습니다.

  • 6-2. 업스테이지의 기술적 발전 방향

  • 업스테이지는 DUS(깊이 확장 스케일) 기술을 포함한 자체 LLM 모델링 방법론을 고도화하여 경량화를 이루었습니다. 이를 통해 단 1개의 GPU에서 구동이 가능하도록 설계하였으며, API 호출 비용을 무상으로 지원하는 등 개발자들이 손쉽게 사용할 수 있도록 환경을 마련하고 있습니다.

  • 6-3. AI 시장 내 경쟁력 강화 전략

  • 업스테이지의 '솔라 프로'는 MMLU 프로 및 IFEval과 같은 최신 LLM 벤치마크에서 평균 51% 이상의 성능 향상을 기록하여, 마이크로소프트의 '파이-3 미디엄', 메타의 '라마 3.1 8B' 등 유사 사이즈의 빅테크 모델 성능을 초월하고 있습니다. 이러한 성과를 토대로 업스테이지는 기업용 AI 시장에서의 입지를 강화하고 있습니다.

결론

  • 업스테이지의 '솔라 프로'는 기존 솔라 미니 대비 두 배 이상의 매개변수를 기반으로 최신 LLM 벤치마크에서 우수한 성능을 입증하였다. 이는 AI 기술의 지속적 발전과 함께 업스테이지가 글로벌 시장에서의 경쟁력을 강화하고 있음을 보여준다. 특히, AI 기술이 금융을 포함한 다양한 산업에 점차 신속하게 도입됨에 따라, ‘솔라 프로’는 시장에서 폭넓은 응용 가능성을 보유하고 있다. 업스테이지는 경량화 기술을 통해 개발자들에게 더욱 효율적인 사용 환경을 제공하며, 이로 인해 기업 고객들에게 더 나은 AI 솔루션을 제공할 것이다. 그러나 모델의 언어 지원 제한 등은 향후 개선이 요구되며, 이를 보완하기 위해 다국어 지원 및 다양한 애플리케이션 개발이 추가적으로 필요할 전망이다. 이러한 발전 방향은 업스테이지가 글로벌 AI 시장에서의 입지를 더욱 공고히 할 수 있는 계기가 될 것이다.

용어집

  • 업스테이지 [회사]: 업스테이지는 인공지능(AI) 기술 기업으로, 대형언어모델(LLM) 솔라(Solar)를 개발하고 있으며, 차세대 모델인 솔라 프로(Solar Pro)를 통해 AI 기술을 혁신하고 있다. 이 회사는 AI 기술을 활용하여 다양한 산업 분야에 맞춤형 솔루션을 제공하고 있으며, AI 기술의 발전에 기여하고 있다.
  • 솔라 프로(Solar Pro) [제품]: 솔라 프로는 업스테이지가 개발한 차세대 대형언어모델(LLM)로, 220억 매개변수를 가지고 있으며, 경량화 기술을 통해 단일 GPU에서 구동이 가능하다. 이 모델은 최신 LLM 벤치마크에서 뛰어난 성능을 보여주며, AI 기술의 발전을 선도하는 제품이다.

출처 문서