AI 시대를 선도하는 CXL 기술 혁명과 데이터 센터 인프라 변화
목차
- 요약
- CXL 기술 개요와 발전
- CXL 기반 솔루션의 실제 적용 현황
- CXL 기술이 데이터 센터에 미치는 영향
- AI와 클라우드 최적화에서 CXL의 역할
- 결론
1. 요약
본 리포트는 AI 시대를 선도하는 CXL(Compute Express Link) 기술과 데이터 센터 인프라 변화에 대해 다룹니다. 삼성전자의 혁신적인 CXL 기반 솔루션 개발 현황과 주요 기술, 데이터 센터의 구성 요소, AI와 클라우드 최적화 추세를 분석하여, 기술 혁명이 산업과 경제에 미치는 영향을 평가합니다. 특히 삼성전자가 2021년 처음 개발한 CXL D램부터, CXL 2.0 기술로 인한 메모리 풀링 기능 등이 상세히 소개되며, 이 기술이 어떻게 데이터 센터의 성능을 극대화하고, 운영 비용 절감을 실현하는지를 설명하고 있습니다. 또한, 델 테크놀로지스의 AI 팩토리 개념을 통해 AI와 클라우드 통합 과정에서 CXL 기술의 역할을 강조합니다.
2. CXL 기술 개요와 발전
2-1. CXL의 정의
CXL(Compute Express Link)은 중앙처리장치(CPU), 그래픽처리장치(GPU), 저장기기(스토리지) 등의 다양한 장치를 효율적으로 연결하여 더욱 빠르게 연산을 처리하는 차세대 인터페이스 기술입니다. CXL은 빠르게 연결해서 연산한다는 의미를 담고 있으며, 특히 AI와 같은 대규모 데이터 처리가 요구되는 환경에서 주목받고 있습니다. CXL 기반의 D램인 CMM-D(CXL Memory Module-DRAM)는 다양한 종류의 프로세서를 하나의 시스템으로 연결해 대용량 데이터를 효율적으로 처리할 수 있습니다.
2-2. CXL 기술의 발전과 주요 특징
CXL 기술은 기존 D램 대비 확장성 측면에서 큰 장점을 가지고 있습니다. 삼성전자는 2021년 5월 업계 최초로 CXL 기반 D램을 개발했으며, 업계 최고 용량 512GB CMM-D 개발, 업계 최초의 CMM-D 2.0 개발에도 성공했습니다. 지난해 5월 개발된 CXL 2.0 D램은 메모리 풀링(Pooling) 기능을 지원하여, 서버 플랫폼에서 다수의 CXL 메모리를 하나의 풀(Pool)로 묶어 각 호스트가 필요에 따라 메모리를 사용할 수 있게 합니다. 이를 통해 데이터 전송 병목 현상을 줄이고, 효율적인 메모리 사용으로 서버 운영비 절감을 기대할 수 있습니다.
2-3. CXL 2.0 및 3.1 기술의 목표
CXL 2.0 기술은 메모리 풀링 기능을 지원하는 업계 최초의 솔루션으로, 이를 통해 유휴 메모리 영역 없이 CXL 메모리의 전체 용량을 사용할 수 있습니다. 2023년에는 멤콘 2024에서 다양한 CXL 기반 솔루션(CMM-D, CMM-H, CMM-B)을 선보였으며, CXL 2.0을 지원하는 256GB CMM-D 제품을 출시하고 주요 고객사들과 검증 작업을 진행 중입니다. 삼성전자는 2024년 하반기부터 CXL 2.0 D램 양산을 시작할 계획입니다. 향후 CXL 3.1은 데이터 전송 성능과 용량 확장성 면에서 더욱 혁신적인 발전을 이루어, 2028년까지 본격적인 성장세를 탈 것으로 전망됩니다.
3. CXL 기반 솔루션의 실제 적용 현황
3-1. 삼성전자의 CXL 기반 D램 개발
삼성전자는 2021년 5월 업계 최초로 CXL(Compute Express Link) 기반 D램을 개발했습니다. 이후 업계 최고 용량인 512GB의 CMM-D를 개발했으며, 업계 최초로 CMM-D 2.0 개발에도 성공했습니다. CXL D램 솔루션은 기존 D램의 용량과 성능 확장을 가능하게 하며, AI 시대의 차세대 솔루션으로 떠오르고 있습니다. 특히 '메모리 풀링' 기능을 통해 서버 플랫폼에서 다수의 CXL 메모리를 묶어 필요에 따라 나누어 사용할 수 있어 데이터 전송 병목 현상을 줄이고 총 소유 비용(TCO)을 줄일 수 있습니다.
3-2. CXL 제품군: CMM-D, CMM-H, CMM-B
삼성전자는 다양한 CXL 기반 솔루션을 선보였습니다. CMM-D는 D램만 사용하는 제품으로, 다양한 프로세서를 하나의 시스템으로 연결해 대용량 데이터를 효율적으로 처리할 수 있습니다. CMM-H는 D램과 낸드(NAND)를 함께 사용하는 하이브리드(Hybrid) 솔루션으로, 데이터 처리의 유연성을 높입니다. CMM-B는 메모리 풀링(Box) 솔루션으로, 여러 개의 CXL 메모리를 묶어 하나의 풀(Pool)로 만들고, 필요한 만큼 나누어 사용할 수 있습니다. 이러한 제품들은 삼성전자가 2024년 3월 글로벌 반도체 학회 '멤콘 2024'에서 소개되었습니다.
3-3. CXL 2.0 D램 양산 계획
삼성전자는 올해 2분기에 CXL 2.0을 지원하는 256GB CMM-D 제품을 출시했고, 주요 고객사들과 함께 검증 작업을 진행하고 있습니다. 또한, '메모리 풀링' 기능을 지원하는 CXL 2.0 D램은 데이터센터에서 효율적인 메모리 사용으로 총 소유 비용(TCO)을 절감할 수 있습니다. 자체 기술력 확보와 생태계 조성을 위해 삼성전자는 리눅스 업체 레드햇으로부터 CXL 인프라에 대한 인증을 받았으며, 이를 통해 CXL 관련 제품부터 소프트웨어까지 서버 전 구성 요소를 검증할 수 있습니다. 삼성전자는 글로벌 빅테크 기업 15곳과 함께 2019년 CXL 컨소시엄을 결성하고, CXL 표준화와 생태계 확산을 위해 노력하고 있습니다.
4. CXL 기술이 데이터 센터에 미치는 영향
4-1. 데이터 센터의 핵심 구성 요소
데이터 센터는 다양한 핵심 구성 요소들로 이루어져 있습니다. 서버는 CPU, GPU, 메모리, 저장 장치를 포함하며 데이터 센터의 컴퓨팅 파워를 제공합니다. 네트워킹 인프라는 라우터, 스위치, 방화벽, 로드밸런서, 고속 인터커넥트 등을 포함하여, 데이터 센터 내부 및 외부 간의 데이터 흐름을 효율적으로 관리합니다. 스토리지 시스템은 SAN, NAS, DAS 등이 포함되며, 데이터의 관리와 검색을 효율적으로 수행하게 합니다. 냉각 시스템은 서버 및 기타 장비의 과열을 방지하며, CRAC 유닛, 인로우 냉각, 액체 냉각 시스템, 칠러 등을 포함합니다. 또한, 신뢰할 수 있는 전원 공급 시스템도 매우 중요하며, 이는 UPS, PDU, 백업 발전기 등을 통해 이루어집니다. 물리적 보안 및 사이버 보안 또한 필수적이며, 이를 통해 데이터 센터를 외부 위협으로부터 보호합니다.
4-2. CXL 기술과 데이터 센터 비용 절감
CXL(Compute Express Link) 기술은 데이터 센터에서 CPU, GPU, 스토리지 등의 장치를 효율적으로 연결하여 신속한 연산 처리를 가능하게 합니다. 특히 CXL 기반 D램 솔루션은 기존의 서버에서 사용하던 D램의 용량 확장 한계를 극복할 수 있어, 대규모 데이터를 더욱 효율적으로 처리할 수 있습니다. 예를 들어, 데이터 센터 저장 용량을 늘리기 위해 별도의 서버를 증설하는 대신, 기존 서버에 CXL 메모리를 추가하는 방식으로 용량을 확장할 수 있습니다. 이는 데이터센터의 운영비 절감 및 총 소유 비용(TCO) 절감에 상당한 기여를 합니다.
4-3. 데이터 전송 병목현상 해소와 메모리 풀링
CXL 2.0 D램은 업계 최초로 메모리 풀링(Pooling) 기능을 지원합니다. 이 기능을 통해 서버 플랫폼에서 다수의 CXL 메모리를 하나의 풀(Pool)로 묶어, 각각의 호스트가 풀에서 필요한 만큼 메모리를 나누어 사용할 수 있습니다. 이를 통해 CXL 메모리의 전 용량을 유휴 영역 없이 사용할 수 있어 데이터 전송 병목현상을 줄일 수 있습니다. 삼성전자는 업계 최초로 CXL 기반 D램을 개발하고, 다양한 CXL 기반 솔루션을 선보이며, 주요 고객사들과 검증을 진행 중입니다. 또한, 업계 최초로 리눅스 업체 레드햇으로부터 인증 받은 CXL 인프라를 보유하고 있어, 신뢰할 수 있는 솔루션을 제공하고 있습니다.
5. AI와 클라우드 최적화에서 CXL의 역할
5-1. AI 시장에서의 CXL 기술 활용 사례
델 테크놀로지스는 AI 시장에서의 CXL 기술을 활용하는 대표적인 사례로 'AI 팩토리' 개념을 도입하고 있습니다. AI 팩토리는 AI 워크로드를 수행하기 위한 고성능 GPU 서버, 고속 AI 패브릭, 고속 AI 스토리지 등 다양한 하드웨어 솔루션을 포함합니다. 이는 온프레미스 데이터 센터 및 엣지 환경에서도 효율적으로 작동하며, 데이터를 실시간으로 분석하고 추론할 수 있도록 지원합니다. 김경진 총괄사장은 “AI 팩토리를 통해 AI 도입에 소요되는 기간과 비용을 획기적으로 줄일 수 있다”고 설명했습니다.
5-2. 델 테크놀로지스의 AI 팩토리 및 데이터센터 전략
델 테크놀로지스는 AI 팩토리라는 비전을 제시하며, 고성능 GPU 서버, 고속 AI 패브릭, 고속 AI 스토리지와 같은 주요 구성 요소를 강조하고 있습니다. 이 회사는 엔비디아와 협력하여 AI 팩토리를 처음 도입했으며, 이를 통해 데이터 성능, 서비스 비용, 보안 등의 측면에서 고객사들이 AI를 효율적으로 운영할 수 있도록 지원합니다. 델 테크놀로지스는 2025년 회계연도 1분기 동안 AI 최적화 서버 매출이 26억 달러에 달하였으며, 이 기간 동안 AI 최적화 서버 출하량은 이전 분기 대비 100% 증대했습니다.
5-3. 클라우드 최적화와 AI 통합
클라우드 최적화 분야에서 AI의 역할은 점차 중요해지고 있습니다. 최근 24개월 동안 클라우드 지출은 거시경제적 환경과 자원 최적화의 이중적인 압박을 받고 있으며, 그럼에도 불구하고 주요 클라우드 서비스 제공업체의 매출은 지속적으로 증가하고 있습니다. 특히 Microsoft의 AI 서비스는 지난 분기에 약 8억 달러의 매출을 기록했으며, 전체 클라우드 지출에서 AI가 차지하는 비중은 아직 작지만 그 성장 잠재력은 큽니다. AI와 클라우드 최적화의 통합은 기업들이 데이터 활용을 최대화하고 비용을 절감하는 데 큰 도움을 줄 것으로 기대되고 있습니다.
6. 결론
본 리포트는 CXL(Compute Express Link) 기술이 AI 시대에 미치고 있는 중대한 영향을 분석했습니다. 주요 발견으로는 CXL 기술이 CPU, GPU, 저장장치를 효율적으로 연결하여 데이터 전송 병목 현상을 줄이고, 데이터 센터 운영 비용을 절감하며, 더 높은 확장성을 제공한다는 점입니다. 삼성전자는 업계 최초로 CXL 기반 D램을 개발하고, 다양한 CXL 솔루션을 통해 글로벌 시장을 선도하고 있습니다. 또한, 델 테크놀로지스는 AI 팩토리 개념을 도입하여 CXL 기술을 활용한 AI 비즈니스를 구현하고 있습니다. 리포트는 CXL 기술의 날로 확대되는 중요성을 강조하며, 이 기술이 데이터 센터뿐 아니라 AI와 클라우드 최적화에서도 중추적인 역할을 할 것으로 전망합니다. 다만, 리포트는 CXL 기술의 표준화와 상호운용성 문제를 해결하기 위한 추가 연구와 개발이 필요함을 짚어냅니다. 향후 CXL 기술은 2028년까지 지속적인 성장을 이룰 것으로 예상되며, 이는 데이터 활용 극대화와 비용 절감을 통해 실질적으로 적용될 것입니다.