Your browser does not support JavaScript!

CXL 스위치, AI 데이터센터 혁신 주도

일반 리포트 2024년 12월 01일
goover

목차

  1. 요약
  2. CXL 스위치 개발의 배경
  3. 소형언어모델(sLLM)의 대두
  4. CXL 스위치의 기술적 장점
  5. 이음의 전략과 목표
  6. CXL 생태계의 발전 방향
  7. 결론

1. 요약

  • 본 리포트는 데이터센터에서 CXL 스위치 기술의 중요성과 소형언어모델(sLLM)의 급부상에 대해 설명합니다. 데이터센터의 효율성 문제를 해결하기 위해 CXL 스위치의 개발이 필요하며, 데이터센터 반도체 전문기업 이음이 이러한 기술을 활발히 개발하고 있습니다. 특히, CXL 스위치는 기존 엔비디아 시스템보다 더 높은 효율성을 자랑하며, 메모리 관리와 데이터 처리 속도를 획기적으로 향상시키는 기술 혁신을 이룹니다. 더불어, AI 데이터센터가 초거대언어모델(LLM)에서 소형언어모델로 변화하는 현재의 추세를 분석하고, 이 변화가 AI 서비스 수익성을 어떻게 개선할 수 있을지를 다룹니다. 또한, 이음의 기술적 접근과 시장 전략이 미래 AI 데이터센터 운용에 미치는 영향을 파악합니다.

2. CXL 스위치 개발의 배경

  • 2-1. CXL 스위치의 필요성

  • CXL 스위치는 AI 데이터센터의 효율성을 높이기 위해 필수적인 기술로 여겨집니다. AI 서비스에 대한 대규모 투자가 이루어지고 있지만, 현재 이러한 투자로부터 실질적인 수익을 창출하는 기업이 드물다는 점에서 CXL 스위치의 필요성이 강조됩니다. 데이터센터 반도체 전문기업 이음이 개발 중인 CXL 스위치는 소형언어모델(sLLM)의 대중화에 맞춰 설계되고 있으며, 엔비디아와 비교하여 더욱 효율적인 AI 시스템을 제공할 것으로 예상됩니다. 특히, CXL 스위치는 메모리 연결을 최적화하고, 다양한 AI 모델을 모듈화하여 서버 구축의 유연성을 높이는 역할을 합니다. 이음은 CXL 스위치가 AI 데이터센터의 구조를 혁신할 가능성을 가지고 있다고 하였습니다. 한진기 이음 대표는 현재 데이터센터의 구조가 초거대언어모델(LLM) 중심에서 sLM 모델 구조로 변화할 것이라고 전망하고 있습니다.

  • 2-2. AI 데이터센터의 변화

  • AI 데이터센터는 기존의 초거대언어모델(LLM) 중심에서 소형언어모델(sLLM) 중심으로 변화하고 있습니다. 이러한 변화는 AI가 다양한 도메인에 특화되어 개별 산업에 맞는 AI 서비스를 제공하기 위한 것입니다. 현재 LLM의 파라미터 사이즈는 400GB를 초과하고 있으며, 이러한 거대 모델을 효율적으로 운용하기 위해서는 고대역폭 메모리(HBM)와 같은 기술이 필수적입니다. 그러나, 한진기 대표는 거대 AI 모델의 고비용 문제로 인해 소형 모델 여러 개를 통합한 구조가 선호될 것이라고 설명했습니다. 이런 구조에서는 메모리 대역폭을 높이기보다는 용량(Capacity)을 중요시하게 되며, 인터커넥트 시스템의 중요성이 강조됩니다. CXL 스위치는 이러한 변화에 적합한 기술로, AI 가속기, 저장장치, 메모리 간의 빠른 연결을 지원하여 데이터센터의 동작 효율성을 높일 수 있습니다.

3. 소형언어모델(sLLM)의 대두

  • 3-1. 소형언어모델의 정의

  • 소형언어모델(sLLM)은 특정 분야에 특화되어 개발된 인공지능 모델로, 현재의 거대언어모델(LMM)과는 달리 상대적으로 작은 크기로 설계되어 있습니다. 이러한 모델들은 50~80GB의 파라미터를 가지며, 현재 AI 서비스의 효율성을 높이는 중요한 요소로 떠오르고 있습니다. 특히, 데이터센터 반도체 전문 기업 이음이 개발 중인 CXL 스위치는 이러한 소형언어모델의 대중화를 목표로 하고 있습니다.

  • 3-2. sLLM의 시장 전망

  • 소형언어모델의 시장 전망은 매우 밝습니다. 이음의 한진기 대표는 "AI에 대한 대규모 투자가 이루어지고 있지만, 아직 수익을 창출하는 기업은 드물다"고 언급했습니다. 그는 이러한 문제를 해결하기 위해 더욱 효율적인 AI 시스템이 필요하다고 강조하며, CXL 스위치를 중심으로 소형언어모델의 발전이 이루어질 것이라고 보았습니다. 또한, 고비용 문제로 인해 데이터센터에서는 메모리 관리가 더욱 중요해질 것이며, CXL(컴퓨트 익스프레스 링크) 기술의 필요성이 증가할 것이라고 전망했습니다.

4. CXL 스위치의 기술적 장점

  • 4-1. CXL의 고속 연결 기능

  • CXL(컴퓨트 익스프레스 링크)은 CPU, GPU, NPU 등 간의 고속 연결을 지원하는 기술입니다. 이는 매우 뛰어난 확장성을 제공하여, 데이터센터에서 발생할 수 있는 여러 병목현상과 전력 문제를 줄이는 데 기여할 것으로 기대됩니다. 한진기 이음 대표는 기존의 거대언어모델(LLM) 중심의 데이터센터가 앞으로 소형언어모델(sLLM) 중심으로 변화할 것이라고 예상하며, CXL의 역할이 더욱 중요해질 것이라고 언급하였습니다. CXL을 활용하면 메모리, 저장장치, 네트워크, AI 가속기 등을 필요에 따라 모듈로 변경할 수 있는 유연성을 갖추게 됩니다. 기존 엔비디아의 시스템에서 메모리 한계를 극복하기 위해 필요했던 NV 스위치나 NV 링크가 더 이상 필요하지 않게 될 것이며, CXL 스위치가 대안으로 각광받을 것으로 보입니다.

  • 4-2. 메모리 효율성 증대

  • CXL 스위치는 메모리의 효율성을 증가시키는 중요한 기술로 부각됩니다. 현재 LLM의 파라미터 사이즈는 400GB 이상에 이르고 있으며, 이와 같은 고용량 데이터를 처리하기 위해 HBM(고대역폭메모리)와 같은 고성능 메모리가 필요합니다. 그러나 CXL 스위치를 활용한 sLM(소형언어모델) 구조에서는 여러 소형 모델을 조합하여 사용할 수 있어, 큰 데이터를 한꺼번에 불러들이지 않고도 효율적으로 작동할 수 있습니다. 이로 인해 메모리 대역폭을 높이지 않아도 되고, 인터커넥트 시스템과 하드웨어를 보다 효율적으로 구성할 수 있는 가능성을 열어줍니다. 따라서 CXL 스위치는 AI 가속기와 저장장치, 메모리 간의 접근 속도를 높이는 데 큰 도움이 될 것입니다.

5. 이음의 전략과 목표

  • 5-1. 이음의 비전

  • 이음의 한진기 대표는 데이터센터 및 AI의 핵심은 인터커넥트에 있으며, CXL 스위치가 대안이 될 것이라고 주장하였습니다. 그는 AI가 막대한 데이터를 메모리로 처리하는 과정에서 발생하는 병목현상과 전력 문제를 크게 줄일 것으로 기대되고 있으며, 이는 CXL 인터페이스가 특히 주목받는 이유 중 하나입니다. 현재 데이터센터의 구조는 초거대언어모델(LLM)을 중심으로 작동하며, 향후 소형언어모델(sLLM) 또는 도메인 특화 모델(DSM)로 전환될 것으로 전망하고 있습니다. 이는 메모리 대역폭을 높일 필요 없이 여러 개의 소형 모델을 효율적으로 사용할 수 있게 한다는 점에서 큰 장점을 가지며, CXL 스위치를 활용한 데이터센터의 운영 개선을 목표로 하고 있습니다.

  • 5-2. CXL 스위치의 상용화 계획

  • 이음은 2026년까지 CXL 스위치의 양산을 목표로 하고 있습니다. 이를 위해 이미 CXL 스위치 시스템온칩(SoC)의 설계 및 해당 기능이 동작하는 것까지 확인한 상태입니다. 한진기 대표는 "다양한 소형 모델(sLLM)을 통합하여 비용 문제를 해결하고, 효율적인 AI 데이터센터를 구축하는 것이 현재 업계의 방향성"이라고 밝히며, CXL 스위치를 활용하여 AI 가속기와 저장장치, 메모리를 더욱 빠르게 연결할 수 있는 인터커넥트 시스템을 구축하겠다고 언급했습니다. 이로 인해 데이터센터의 효율성을 크게 향상시키는 한편, 메모리와 용량의 중요성을 강조했습니다.

6. CXL 생태계의 발전 방향

  • 6-1. CXL 기술의 확산

  • CXL(컴퓨트 익스프레스 링크) 기술은 데이터센터에서 메모리, 저장장치, 네트워크, AI 가속기 등을 유연하게 연결할 수 있는 인터커넥트 솔루션으로 주목받고 있습니다. 이음의 한진기 대표는 CXL 스위치가 필요에 따라 모듈을 변경할 수 있어 서버 구축의 유연성을 증가시킨다고 설명했습니다. 특히, CXL 스위치의 채택은 AI가 막대한 데이터를 처리하는 과정에서 발생하는 병목현상을 줄일 수 있는 가능성을 지니고 있습니다. CXL은 CPU, GPU, NPU 간의 고속 연결을 지원하여 매우 뛰어난 확장성을 제공하기 때문입니다. 데이터센터의 반도체 기업인 이음은 개발 중인 CXL 스위치가 50~80GB의 소형언어모델(sLLM)을 위한 솔루션으로 자리 잡을 것으로 기대하고 있습니다.

  • 6-2. 산업 전반에 미치는 영향

  • CXL 기술의 발전은 데이터센터 운영비용과 AI 서비스의 수익성 문제 해결에 기여할 것으로 예상됩니다. 현재 대부분의 AI 모델은 높은 비용과 운영상의 문제를 가지고 있으며, 이를 해결하기 위한 방법으로 소형언어모델(sLLM) 사용이 제안되고 있습니다. 한진기 대표는 CXL 스위치가 기존의 고비용 엔비디아 시스템보다 훨씬 효율적인 AI 시스템 개발을 가능하게 할 것이라고 전망했습니다. CXL 스위치를 통한 데이터센터의 구조적 변화는 AI 서비스의 방향을 소형언어모델 중심으로 바꾸고 있으며, 이는 산업 전반에 걸쳐 큰 영향을 미칠 것으로 보입니다.

결론

  • 리포트는 CXL 스위치와 소형언어모델이 데이터센터의 미래에 미칠 영향을 집중 조명합니다. CXL 스위치를 통해 이음이 구현하고자 하는 기술 혁신은 AI 서비스의 수익성을 높이는 데 있어 매우 중요합니다. 이는 데이터센터의 메모리 관리와 처리 속도를 크게 개선하여 AI 데이터센터의 운영 구조를 혁신할 잠재력을 가집니다. CXL 기술은 소형언어모델 활용을 통해 효율성을 극대화하며, 이음의 기술적 리더십은 CXL 생태계의 상용화 가능성을 확대합니다. 그러나 상용화까지는 여러 기술적 도전과제가 남아 있으며, 이를 극복하기 위한 지속적인 연구와 개발이 필수적입니다. 이음의 전략적 비전은 이러한 과정에서 중요한 역할을 할 것입니다. CXL 스위치는 기존 기술의 한계를 뛰어넘고 미래 데이터센터 혁신을 주도할 가능성을 가지고 있으며, 이를 실현하기 위한 방향성 제시가 필요합니다.

용어집

  • CXL 스위치 [기술]: CXL(컴퓨트 익스프레스 링크) 스위치는 CPU, GPU, NPU 등 간의 고속 연결을 지원하는 기술로, 데이터센터에서 메모리와 저장장치의 효율성을 극대화하는 데 기여한다. 이 기술은 특히 AI 연산에 적합하며, 데이터 처리 속도를 향상시키는 데 중요한 역할을 한다.
  • 이음 [회사]: 이음은 데이터센터 반도체 전문기업인 파두의 미국 자회사로, AI 데이터센터용 CXL 스위치를 개발하고 있다. 한진기 대표를 중심으로 AI에 특화된 소형언어모델의 시장을 겨냥하고 있으며, 혁신적인 기술 개발을 통해 데이터센터의 효율성을 높이는 것을 목표로 하고 있다.

출처 문서