Your browser does not support JavaScript!

아마존웹서비스(AWS)의 멀티 거대언어모델(LLM) 전략 분석

일일 보고서 2024년 08월 13일
goover

목차

  1. 요약
  2. AWS의 멀티 거대언어모델 전략 개요
  3. 아마존 베드록의 주요 기능
  4. 주요 사례 분석
  5. 멀티 LLM 전략의 시장 반응 및 전망
  6. 결론

1. 요약

  • 아마존웹서비스(AWS)는 멀티 거대언어모델(LLM) 전략을 통해 AI 시장에서의 포지션을 강화하고 있습니다. AWS는 다양한 LLM을 통합한 '아마존 베드록(Amazon Bedrock)' 플랫폼을 만들어, 기업들이 다양한 산업에서 맞춤형 AI 솔루션을 유연하고 안전하게 활용할 수 있도록 지원합니다. 이 리포트는 AWS의 멀티 LLM 전략, 주요 기능, 사례, OpenAI와의 차별점을 중심으로 작성되었습니다. 주요 발견 사항으로는 베드록의 확장된 데이터 커넥터 기능, 가드레일 기능을 통해 유해 콘텐츠 필터링과 환각 현상 감지, 그리고 다양한 산업 사례에서 LLM의 효과적인 활용을 통해 기업들이 높은 개발 생산성과 효율성을 구현하고 있다는 점입니다.

2. AWS의 멀티 거대언어모델 전략 개요

  • 2-1. AWS의 LLM 전략 배경

  • AWS는 다양한 산업에서 AI 활용을 촉진하기 위해 멀티 거대언어모델(LLM) 전략을 채택했습니다. 오픈AI와 같은 특정 AI 공급업체에 의존하지 않고, 다양한 LLM을 통합하여 기업들에게 선택의 자유를 제공하고 있습니다. 이러한 전략의 일환으로 AWS는 아마존 베드록(Amazon Bedrock) 플랫폼을 통해 다양한 파운데이션 모델을 연동하고 있습니다. LG유플러스와 같은 기업들은 이 플랫폼을 활용하여 개발 생산성을 높이고 있으며, 엔트로피, 코히어, 메타 등 여러 LLM을 동시에 테스트하고 선택할 수 있다는 점에서 큰 장점을 누리고 있습니다.

  • 2-2. 베드록의 주요 기능 및 장점

  • 아마존 베드록은 LLM 기반의 다양한 기능을 제공하는 완전 관리형 서비스입니다. 주요 기능으로는 데이터 커넥터 확장, 가드레일(Guardrails) 기능, 메모리 보존 기능 및 코드 해석 지원 등이 있습니다. 특히, 데이터 커넥터 기능은 아마존 S3 외에도 웹 도메인, 컨플루언스, 세일즈포스, 쉐어포인트를 데이터 소스로 연결할 수 있어 기업의 다양한 데이터 요구에 부응합니다. 가드레일 기능은 유해한 콘텐츠를 85%까지 줄이고 환각 현상을 75%까지 필터링할 수 있어 안정성을 높입니다. 또한, 메모리 보존 기능을 통해 사용자의 상호작용을 기억하고 중단된 지점에서 대화를 이어갈 수 있으며, 코드 해석 기능으로 복잡한 작업도 효율적으로 수행할 수 있습니다. 베드록의 이러한 기능들은 기업들이 단일 API를 통해 다양한 LLM을 유연하게 활용할 수 있도록 지원하며, AI 솔루션의 확장성과 안정성을 보장합니다.

3. 아마존 베드록의 주요 기능

  • 3-1. 단일 API를 통한 멀티 LLM 사용

  • 아마존 베드록은 단일 응용프로그램 인터페이스(API)를 통해 여러 파운데이션 모델(FM)을 제공합니다. 아마존의 자체 LLM인 '타이탄'을 포함해 클로드, 커맨드-R, 라마2 등의 다양한 LLM을 지원하여, 사용자들은 단일 API로 여러 모델을 동시에 테스트하고 사용할 수 있습니다. CB인사이츠 조사에 따르면, 3개 이상의 LLM을 사용하는 기업이 63%에 달했으며, 이는 아마존 베드록의 멀티 LLM 전략의 이점을 극대화할 수 있는 환경을 조성합니다.

  • 3-2. 가드레일 기능: 유해 콘텐츠 필터링 및 환각 현상 감지

  • 아마존 베드록에는 유해한 콘텐츠를 최대 85%까지 필터링하고, 환각 현상을 75%까지 차단할 수 있는 가드레일 기능이 있습니다. 이는 '컨텍스트 크라운딩 검사(Contextual Grounding Checks)'를 통해 거짓 정보를 감지하여 차단하며, 모든 파운데이션 모델에서 사용할 수 있는 독립 API 기능도 제공합니다. 고객은 앱 내에서 특정 주제에 대한 자연어 설명만으로 가드레일을 생성하고 설정할 수 있습니다.

  • 3-3. 데이터 연결 성능 및 최적화 기능

  • 아마존 베드록은 다양한 데이터 소스를 연결할 수 있는 확장된 데이터 커넥터 기능을 제공합니다. 아마존 S3 외에도 웹 도메인, 컨플루언스, 세일즈포스, 쉐어포인트 등을 데이터 소스로 RAG 애플리케이션에 연결할 수 있으며, 이를 통해 기업은 맞춤형 모델 최적화를 위해 더 많은 비즈니스 데이터를 활용할 수 있습니다.

  • 3-4. 베드록의 서버리스 구조 및 관리형 서비스

  • 아마존 베드록은 서버리스 구조로 인프라 관리를 필요로 하지 않으며, 완전 관리형 서비스로서 사전 학습된 모델에 API를 통해 쉽게 접근할 수 있습니다. 이를 통해 고급 AI 기능을 적은 노력으로 빠르게 통합할 수 있으며, AI 모델의 코드 해석 기능도 제공하여 데이터 분석이나 시각화 같은 복잡한 작업도 지원합니다. 예를 들어, 부동산 데이터의 분석과 같은 복잡한 작업을 수행할 수 있습니다.

4. 주요 사례 분석

  • 4-1. 식신: 외식메타 인덱스 대시보드 구축

  • 푸드테크 기업 식신은 아마존웹서비스(AWS)의 아마존 베드록을 활용하여 LLM(거대언어모델) 기반의 AI 대시보드 '외식메타 인덱스'를 구축했습니다. 이 대시보드는 식신이 보유한 100만개 이상의 맛집 데이터와 월간 350만명의 이용자 데이터를 통합하여 지역별 인기 메뉴, 스토리가 있는 메뉴 트렌드, 상황에 맞는 테마 데이터, 메뉴별 사용된 식자재 등의 데이터를 실시간으로 제공합니다. 이를 통해 금융·공공·검색·SNS·GA(방문자 정보, 유입경로, 웹사이트 내 사용자 행동, 전환) 등 다양한 이기종 데이터를 분석합니다. 구축된 데이터는 고객의 니즈에 따라 API, 콘텐츠형 위젯, 분석형 대시보드 등 다양한 형태로 제공됩니다.

  • 4-2. LG유플러스: 유큐브 시스템에 베드록 도입

  • LG유플러스는 자사의 영업전산시스템인 '유큐브(Ucube)'에 아마존 베드록을 도입하여 생성형 AI를 활용한 솔루션을 개발했습니다. 이를 통해 AI 모델들이 제공하는 기능 및 성능과 속도를 높일 수 있었으며, 다양한 모델을 동시에 테스트하면서 최적의 모델을 선택할 수 있었습니다. 베드록은 특히 RAG(Retrieval-Augmented Generation) 기능에 최적화되어 있으며, 가드레일을 통해 유해한 콘텐츠를 85% 차단하고 환각 현상을 75% 필터링할 수 있는 기능을 제공하고 있습니다.

  • 4-3. 업스테이지: 솔라 LLM의 글로벌 도입

  • AI 기업 업스테이지는 AWS와의 전략적 협력 계약(SCA)을 통해 자체 거대언어모델(LLM) '솔라'를 글로벌 시장에 도입하였습니다. 업스테이지는 AWS 클라우드를 이용하여 전 세계 다양한 기업 및 공공부문에 맞춤형 LLM 솔루션을 제공하며, 한국어, 영어, 일본어 등 다국어를 지원하는 솔라 모델을 더욱 고도화하고 있습니다. 이를 통해 더 많은 기업들이 최신 생성형 AI 솔루션을 손쉽게 도입할 수 있도록 지원하고 있습니다.

5. 멀티 LLM 전략의 시장 반응 및 전망

  • 5-1. OpenAI와의 차별점

  • AWS의 멀티 LLM 전략은 OpenAI와의 독점적 관계를 피하려는 방향으로 구현되었습니다. AWS는 다양한 모델을 사용할 수 있는 유연성을 제공하며, 특히 '아마존 베드록' 플랫폼을 통해 개발자들이 여러 AI 모델을 동시에 테스트하고 선택할 수 있도록 지원합니다. 이는 OpenAI의 GPT-4와 같은 단일 모델에 의존하는 접근 방식과는 차별화되는 점입니다. 예를 들어, LG유플러스는 자사 영업 전산시스템 '유큐브'에 베드록을 도입하여 다양한 모델을 테스트하고 결합함으로써 최적의 성능을 달성하고 있습니다.

  • 5-2. 시장과 기업의 반응

  • 시장은 AWS의 멀티 LLM 전략에 긍정적으로 반응하고 있습니다. 푸드테크 기업 식신은 아마존 베드록을 활용한 AI 대시보드를 구축하여 자신들의 방대한 데이터 분석을 최적화하고, 다양한 형태로 데이터를 제공함으로써 비즈니스를 확장하고 있습니다. 또한, AWS는 앤트로픽과의 협력을 통해 LLM 시장에서의 입지를 더욱 공고히 하고 있습니다. 앤트로픽의 클로드(Claude) 3 모델은 높은 벤치마크 성능을 기록하며 OpenAI의 GPT-4에 필적하는 경쟁력을 보여주고 있습니다. 이러한 기업들의 긍정적인 사례는 AWS의 멀티 LLM 전략이 시장에서 성공적으로 자리잡고 있음을 보여줍니다.

  • 5-3. 향후 전망 및 도전 과제

  • 향후 AWS의 멀티 LLM 전략은 여러 도전 과제에 직면할 것으로 보입니다. OpenAI의 리더십 변화와 같은 사건은 기업들로 하여금 단일 LLM 공급 업체에 대한 의존성을 줄이게 만들었으며, 이는 AWS가 멀티 LLM 전략을 더욱 강화할 수 있는 기회이자 도전입니다. AWS는 베드록 플랫폼을 통해 다양한 파운데이션 모델을 제공하며, 가드레일 기능을 통해 유해 콘텐츠 필터링을 강화하고 있습니다. 그러나 시장에서 지속적인 경쟁 우위를 유지하기 위해서는 지속적인 기능 업데이트와 시장 대응이 필요합니다.

6. 결론

  • AWS의 멀티 거대언어모델(LLM) 전략은 다양한 산업에서 AI 활용을 촉진하고, 기업들이 AI 모델을 보다 유연하고 안전하게 사용할 수 있도록 지원하고 있습니다. 특히, 베드록 플랫폼을 통해 다양한 파운데이션 모델을 통합하고, 가드레일 기능을 통해 유해 콘텐츠 필터링을 강화하며, 다양한 데이터 소스를 통합하는 기능을 제공함으로 AI 솔루션의 확장성과 안정성을 높였습니다. 이러한 전략은 기업들이 특정 AI 공급업체에 대한 의존성을 줄이고, 다양한 모델의 장점을 최대한 활용할 수 있도록 도와줍니다. 향후 AWS의 멀티 LLM 전략이 생성형 AI 시장에서 지속적인 경쟁 우위를 유지할지에 대한 관심이 모아지고 있으며, 이를 실현하기 위해 지속적인 기능 업데이트와 시장 대응이 필요합니다.시장에서는 AWS의 멀티 LLM 전략에 긍정적인 반응을 보이고 있으며, 이는 식신과 LG유플러스 등의 성공적인 사례를 통해 입증되고 있습니다. 그러나 지속적인 경쟁 우위를 유지하기 위해 AWS는 베드록 플랫폼의 기능을 계속해서 개선하고 업데이트해야 할 필요성이 존재합니다.

7. 용어집

  • 7-1. 아마존 베드록(Amazon Bedrock) [플랫폼]

  • AWS가 제공하는 관리형 생성형 AI 플랫폼으로, 다양한 파운데이션 모델을 통합하여 사용자가 단일 API를 통해 접근하고 활용할 수 있도록 함. 멀티 LLM 전략의 핵심 플랫폼으로, 서버리스 구조와 데이터 통합 기능을 제공.

  • 7-2. 가드레일(Guardrails) [기능]

  • AWS 베드록에 포함된 유해 콘텐츠 필터링 및 환각 현상 감지 기능으로, 안전한 AI 사용 환경을 조성하고 예기치 못한 결과를 방지하는 데 기여함. 유해 콘텐츠를 85%까지 줄이고, 환각 현상을 75%까지 필터링 가능.

  • 7-3. 식신 [기업]

  • 푸드테크 기업으로, 아마존 베드록을 활용한 LLM 기반의 AI 대시보드 '외식메타 인덱스'를 구축. 100만 개 이상의 맛집 데이터 및 실시간 데이터를 통합하여 제공함.

  • 7-4. LG유플러스 [기업]

  • 국내 통신사로, 영업전산시스템 '유큐브'에 AWS 베드록을 도입하여 개발 생산성을 높이고 다양한 LLM을 통해 효율적인 AI 기능을 활용.

  • 7-5. 업스테이지 [기업]

  • AI 스타트업으로, AWS와의 협력을 통해 자사 거대언어모델 '솔라(Solar)'를 글로벌 시장에 도입하고 있으며, 한국어, 영어, 일본어 등을 지원.

8. 출처 문서