Your browser does not support JavaScript!

국내 금융권의 LLM 도입 및 사례 분석

일일 보고서 2024년 07월 05일
goover

목차

  1. 요약
  2. KB국민카드 및 우리은행 LLM 도입 사례
  3. Allganize의 금융 특화 LLM 모델
  4. 솔트룩스와 핑거의 협력 사례
  5. 하나금융그룹과 신한은행의 LLM 도입
  6. 업스테이지와 KT, 케이뱅크의 협력 사례
  7. VESSL AI의 금융 AI 인프라 구축 사례
  8. 결론

1. 요약

  • 이번 리포트는 국내 금융권에서 대형 언어 모델(LLM)을 도입한 다양한 사례를 분석하고 그 도입 목적 및 방법, 그리고 적용된 활용 사례들을 살펴보는 것을 목적으로 합니다. 주요 금융 기관인 KB국민카드, 우리은행, 하나금융그룹, 신한은행 등의 각기 다른 도입 사례를 통해 고객 상담 개선, 데이터 분석 효율화, 디지털 개편 및 주식 시황 제공 등 다양한 분야에서 LLM의 실질적 활용을 다룹니다. 또한, 올거나이즈, 솔트룩스, 업스테이지, VESSL AI 등의 AI 전문 기업이 금융권 맞춤형 솔루션을 제공하며 금융 서비스 품질 향상과 업무 효율성을 강화하는데 기여한 사례들을 포함하고 있습니다.

2. KB국민카드 및 우리은행 LLM 도입 사례

  • 2-1. KB국민카드의 고객 상담 개선

  • KB국민카드는 고객 상담 개선을 위해 LLM(대형 언어 모델)을 도입했습니다. 이진우 크라우드웍스 NLP 팀 리더와 KB국민카드 데이터서비스부 과장 박창용, 조은종 과장은 LLM을 활용한 고객 상담 개선 사례를 발표했습니다. 이를 통해 KB국민카드는 고객 문의 응답 속도와 정확성을 높이고, 고객 만족도를 크게 향상시켰습니다. 행사에는 200여명의 금융권 중심 AI 업계 실무 관계자들이 참석해 강연을 듣고 질의응답을 주고받았습니다.

  • 2-2. 우리은행의 데이터 분석 효율화

  • 우리은행은 데이터 분석 효율화를 위해 LLM을 도입하여 내부 업무의 효율성을 높이고 있습니다. 김효준 우리은행 AI Banker PO 차장은 우리은행의 LLM 도입 사례와 적용 분야, 그리고 그로 인한 데이터 분석 효율화 방안을 발표했습니다. 이를 통해 우리은행은 데이터 처리와 분석 속도를 크게 향상시켰으며, 이를 통해 업무 프로세스를 최적화하고 있습니다.

3. Allganize의 금융 특화 LLM 모델

  • 3-1. 알리 파이낸스 LLM 출시 배경

  • 올거나이즈(Allganize)는 금융 산업에 특화된 한국어 LLM모델인 '알리 파이낸스 LLM'을 출시했습니다. 이 모델은 금융 산업 내에서 필요한 높은 정확도의 답변 찾기(RAG) 기능을 갖추고 있으며, 고객이 직면한 문제를 해결하기 위해 설계되었습니다. 올거나이즈의 신기빈 CAIO는 이 모델을 만들기까지의 고민과 필요성에 대해 공유했습니다. 오픈AI의 GPT-4와 같은 대형 모델을 사용하는 대신, 금융 분야에 최적화된 모델을 개발하는 것이 중요하다는 결론에 도달했습니다.

  • 3-2. 학습 전략 및 비용

  • 올거나이즈는 알리 파이낸스 LLM을 학습시키기 위해 효율적인 전략을 취했습니다. 먼저, 기업용 모델을 on-premise 환경에서 운영하기 위해 필요한 데이터 양과 학습 비용을 철저히 검토했습니다. 데이터의 양이 충분치 않은 상황에서는 작은 모델을 선택하는 것이 비용 절감에 효과적이라는 결과를 도출했습니다. 예를 들어, BloombergGPT가 700B token을 학습하고, llama2는 2T token을 학습한 것과 비교해, 올거나이즈의 모델은 비교적 적은 데이터로도 충분한 성능을 발휘하도록 설계되었습니다. 또한, 내부 자료와 전문 용어를 학습시킴으로써, 실제 금융 환경에서 유용하게 쓰일 수 있도록 했습니다. 이 과정을 통해 초기 비용을 최소화하면서도 높은 ROI를 달성할 수 있도록 했습니다.

4. 솔트룩스와 핑거의 협력 사례

  • 4-1. 금융권 대상 생성 AI 개발

  • 솔트룩스는 핀테크 기업 핑거와 협력하여 금융권용 생성형 인공지능(AI) 개발을 추진하고 있습니다. 이 협력은 2024년 7월 5일에 양해각서(MOU)를 체결하면서 공식적으로 시작되었습니다. 솔트룩스는 LLM(대형 언어 모델)인 '루시아(LUXIA)'와 관련 소프트웨어를 통해 기술 지원을 제공하며, 핑거는 금융 플랫폼과 기업 솔루션을 통해 지원합니다. 이 프로젝트는 새로운 사업 모델 발굴 및 영업과 마케팅 활동에서도 협력을 강화하며, 금융권 내 생성 AI 도입을 촉진하고자 합니다.

  • 4-2. 맞춤형 생성 AI 솔루션

  • 솔트룩스와 핑거는 각자의 기술력과 노하우를 결합하여 맞춤형 생성 AI 솔루션을 개발하고 있습니다. 이 솔루션은 금융권의 다양한 요구를 충족시키기 위해 설계되었으며, 주요 목표는 금융 산업의 혁신을 이루는 것입니다. 솔트룩스는 이미 서울교통공사, 삼성전자, KT 등 다양한 기관과 기업에 AI 솔루션을 제공한 경험을 보유하고 있으며, 핑거는 스마트 금융 플랫폼을 통해 제1·2 금융권과 다수의 금융기관에 서비스 제공 경험을 가지고 있습니다. 양사는 이 협력을 통해 금융권에서의 AI 적용 범위를 넓혔으며, 고객 서비스와 내부 업무 효율성 향상 등에 기여하고 있습니다.

5. 하나금융그룹과 신한은행의 LLM 도입

  • 5-1. 하나금융그룹의 디지털 개편과 AI 도입

  • 하나금융그룹은 생성AI를 적극 도입하여 디지털 개편을 추진하고 있습니다. 하나은행은 특히 직원을 대상으로 한 지식 챗봇을 개발하여 업무 효율성을 높이고 있습니다. 이는 고객 서비스의 질을 향상시키고, 업무 처리를 빠르고 정확하게 수행할 수 있는 환경을 제공하기 위한 것입니다. 생성AI 기반 챗봇은 반복적인 질문에도 빠르게 응답하고 다양한 정보를 제공할 수 있어 내부 업무 프로세스를 크게 개선하고 있습니다.

  • 5-2. 신한은행의 주식 시황 챗봇

  • 신한은행은 금융 특화 LLM 모델을 개발하여 주식 시황이나 금융 경제 정보를 제공하는 대고객 챗봇서비스 '모물'을 출시하였습니다. '모물'은 신한투자증권 MTS에 탑재되거나 은행 뱅킹앱에 적용될 예정입니다. 또한, 신한AI는 자산 챗봇을 준비하여 보다 심도 있는 금융 서비스를 제공하기 위해 노력하고 있습니다. 이러한 챗봇들은 고객들에게 실시간으로 금융 정보를 제공하고, 개별적인 상담을 통해 맞춤형 금융 서비스를 제공합니다.

6. 업스테이지와 KT, 케이뱅크의 협력 사례

  • 6-1. 특화된 LLM 개발

  • 업스테이지는 KT, kt cloud, 케이뱅크와 손잡고 금융권 생성형 AI 혁신을 추진하고 있습니다. 2024년 7월 27일, 이들은 생성형 AI 기술 적용 및 확산을 위한 업무협약(MOU)을 체결했습니다. 업스테이지는 이를 통해 자체 LLM(거대언어모델) '솔라'를 금융 도메인 특화 데이터로 학습하고 파인튜닝하여 성능을 고도화할 계획입니다. 이로써 케이뱅크의 다양한 금융 서비스에 특화된 LLM을 구현할 예정입니다.

  • 6-2. 금융 서비스 향상 프로젝트

  • KT와 kt cloud는 생성형 AI 플랫폼과 인프라 구축을 맡고 있으며, 케이뱅크는 생성형 AI 도입 기반으로 적용할 상품 및 서비스를 리스트업하고, 도입 후의 효과성을 분석하고 있습니다. 또한, 기업 내부 데이터 학습을 통해 환각 현상 방지와 보안 강화를 목표로 하고 있습니다. 이 협력은 금융 맞춤형 생성형 AI 환경을 구축하여, 케이뱅크의 금융 서비스 향상을 위한 새로운 상품 및 서비스 기획∙개발을 추진하는 것을 목적으로 합니다.

7. VESSL AI의 금융 AI 인프라 구축 사례

  • 7-1. 클라우드 및 MLOps 환경

  • 2024년 1월 26일, VESSL AI가 주최한 'AI in Finance 2024' 세미나에서 안재만 VESSL AI 공동 창업자 겸 대표는 '금융 AI를 위한 클라우드 및 MLOps 인프라'라는 주제로 발표를 진행했습니다. 이 발표에서는 금융 LLM 도입 사례와 프라이빗 클라우드 및 온프레미스 MLOps 환경 구축 시 유의할 점 등을 다루었으며, VESSL AI의 LLM Suite를 소개했습니다.

  • 7-2. LLM 기반 금융 서비스

  • 동일 세션에서 이루어진 이한울 엔씨소프트 AI 리서처의 발표에서는 LLM의 전반적인 트렌드와 최신 연구를 금융 분야에 적용한 사례를 공유했습니다. 또한 정한얼 원라인에이아이 CEO는 원라인에이아이의 LLM 기반 금융 플랫폼인 OLA를 중심으로 최신 LLM 연구 및 제품 동향을 소개하며, LLM을 활용한 글로벌 주식시장 분석과 투자 모델 구축에 대해 설명했습니다.

8. 결론

  • 국내 금융권의 LLM 도입은 고객 서비스의 혁신과 효율성 향상에 큰 기여를 하고 있습니다. KB국민카드와 우리은행은 LLM을 통해 각각 고객 상담과 데이터 분석의 효율성을 크게 개선하였으며, 하나금융그룹과 신한은행은 주식 시황 제공과 디지털 개편을 통해 사용자 경험을 높이고 있습니다. Allganize의 '알리 파이낸스 LLM'은 금융 특화 모델로 고유한 언어 데이터를 처리하며, 솔트룩스와 핑거, 업스테이지와 KT, 케이뱅크의 협업 사례는 맞춤형 생성 AI 솔루션 개발과 금융 서비스 개선에서 중요한 역할을 하고 있습니다. VESSL AI는 MLOps 및 클라우드 인프라를 통해 금융 AI의 도입 및 효율성을 증대시켰습니다. 이러한 기술과 협력은 금융 산업의 혁신을 가속화하며, 더 많은 기관이 이를 도입함으로써 금융서비스의 전반적 품질이 향상될 것입니다. 그러나, 초기 도입 비용과 데이터 보안 문제 등의 한계를 인지하고, 지속적인 개선과 효율적 적용이 중요합니다. 앞으로의 전망은 금융권 전반에 걸쳐 LLM 기반 AI 기술이 더욱 확산되고, 이를 통해 보다 개인화되고 효율적인 금융 서비스를 제공할 것으로 기대됩니다.

9. 용어집

  • 9-1. KB국민카드 [회사]

  • KB국민카드는 LLM을 도입하여 고객 상담의 효율성을 향상시키고 있습니다. 이를 위해 데이터서비스부에서 고객의 다양한 질문에 신속하고 정확한 답변을 제공하는 시스템을 구축하였습니다.

  • 9-2. 우리은행 [회사]

  • 우리은행은 데이터 분석 효율성을 높이기 위해 LLM을 활용하고 있으며, 이를 통해 고객의 패턴 인식 및 맞춤형 금융 상품 추천 등의 서비스를 제공하고 있습니다.

  • 9-3. Allganize [회사]

  • Allganize는 금융 특화 한국어 LLM 모델인 '알리 파이낸스 LLM'을 개발하여 금융 산업에서 고유한 언어 데이터를 이해하고 처리하는 데 최적화된 솔루션을 제공합니다.

  • 9-4. 솔트룩스 [회사]

  • 솔트룩스는 핀테크 기업 핑거와 협력하여 금융권 대상 맞춤형 생성 AI 솔루션을 개발하고, 다양한 디지털 자산 관련 신사업을 확장하고 있습니다.

  • 9-5. 하나금융그룹 [회사]

  • 하나금융그룹은 디지털 개편을 통해 AI데이터본부를 확장하고 금융AI부를 신설하여, 초개인화된 금융 서비스를 제공하고 있습니다.

  • 9-6. 신한은행 [회사]

  • 신한은행은 금융 특화 대형 언어 모델을 자체 개발하여 주식 시황 및 경제 이슈 정보를 제공하는 챗봇 서비스를 운영하고 있습니다.

  • 9-7. 업스테이지 [회사]

  • 업스테이지는 KT, 케이뱅크와 협력하여 프라이빗 LLM을 활용한 금융 서비스 개선 프로젝트를 진행하고 있으며, 고도화된 금융 도메인 특화 데이터를 학습시켜 성능을 높이고 있습니다.

  • 9-8. VESSL AI [회사]

  • VESSL AI는 클라우드 및 MLOps 환경을 구축하여 금융 LLM 도입 및 관리의 효율성을 높이고 있으며, 이를 통해 금융 AI 서비스를 제공하고 있습니다.

10. 출처 문서