에이전틱 AI가 이끄는 디지털 혁신: 국내외 도입 현황과 기술 동향
2025년 9월 26일 기준, 에이전틱 AI(Agentic AI)는 사용자 목표 달성을 위해 자율적으로 작업을 수행하며, 그 기능성이 단순 보조를 넘어선 혁신적 디지털 동료로 자리잡았습니다. 에이전틱 AI는 특히 구조화된 인지 루프(SCL) 기술을 중심으로 발전하였으며, 이는 AI의 신뢰성과 정확성을 높이는 데 필수적인 역할을 하고 있습니다. 글로벌이슈에서부터 국내 사례까지 다양한 경향들이 문서에 포함되어 있으며, 스냅드래곤 서밋에서 제시된 에이전틱 PC와 NPU 아키텍처의 혁신이 이러한 기술 진보의 중요한 부분을 차지하고 있습니다. 마이크로소프트의 국내 도입 사례는 여러 프론티어 기업들이 AI 퍼스트 전략을 통해 비즈니스 혁신을 이루어내는 과정을 보여주며, 특히 KB라이프, LG전자, SK이노베이션 등은 이를 통해 각기 다른 분야에서 성공적인 변화를 일으켰습니다. 또한, 에이전틱 AI의 도입이 글로벌기업에서도 급속히 확산되고 있음을 확인할 수 있습니다. 조원우 한국마이크로소프트 대표의 언급처럼 AI가 기업 시스템 전반에 통합되고 있으며, 이는 기업의 운영 방식을 보다 효율적으로 변화시키고 있습니다.
SCL 기술의 도입은 안정적이고 신뢰할 수 있는 AI 모델 개발에 직접적인 영향을 미치고 있습니다. MIT의 'The GenAI Divide' 보고서는 글로벌 기업들이 AI 프로젝트에서 예상보다 낮은 ROI를 기록하고 있는 상황을 경고하며, SCL이 이러한 문제를 해결할 수 있는 희망으로 자리잡고 있음을 강조하고 있습니다. AI 기술의 신뢰성은 이제 단순한 선택이 아니라 필수 항목으로 점차 자리 잡고 있으며, 특히 의료 및 금융 분야에서는 필수가 되고 있습니다. 이러한 요구에 발맞춰 SCL 기술은 AI의 투명성을 높이고, 의사결정 과정의 신뢰성을 보장하는 데 기여하고 있습니다.
스냅드래곤 서밋 2025에서는 퀄컴이 에이전틱 PC와 고성능 신경망처리장치(NPU) 아키텍처 혁신을 통해 AI 시대의 새로운 컴퓨팅 경험을 제시했으며, 이는 AI의 미래와 관련하여 중요한 변화로 평가되고 있습니다. NPU의 성능 향상은 현대의 AI 요구 사항을 충족하는 데 기여할 것으로 기대되며, 혁신적 아키텍처는 다양한 작업 부하를 효율적으로 처리할 수 있게 함으로써 사용자 경험을 개선하는 데 중점을 두고 있습니다. 이와 함께 NVIDIA의 Blackwell Ultra 솔루션은 차세대 AI 인프라를 위해 중요한 혁신을 제공하며, 데이터 센터의 최적화 전략은 더욱 효과적인 운영을 가능하게 할 것입니다.
마지막으로, 솔트룩스의 FY25 경영회의에서 논의된 전략적 협력 모델은 기업 간의 협력의 중요성을 보여줍니다. KT 주관의 AI 파운데이션 모델 컨소시엄 참여와 내부 조직 간의 협력 강화는 솔트룩스의 경쟁력을 더욱 높이는 핵심 요소로 작용할 것입니다. 이러한 협력 방식은 기업들이 AI 생태계에서의 입지를 확고히 하고, 지속 가능한 성장을 추구하는 데 큰 기여를 할 것입니다.
에이전틱 AI 도입 현황과 국내 사례
에이전틱 AI 정의 및 특징
에이전틱 AI(Agentic AI)는 인공지능(AI)의 한 종류로, 사용자가 설정한 목표를 달성하기 위해 자율적으로 작업을 수행할 수 있는 기능을 갖추고 있습니다. 전통적인 AI가 사용자의 명령에 따라 반응하는 것과 달리, 에이전틱 AI는 스스로 판단하고 결정을 내리며, 실행할 수 있는 능력을 보유하고 있습니다.
에이전틱 AI의 특징은 다음과 같습니다: 1) 자율성: 사용자의 개입 없이도 스스로 특정 작업을 수행할 수 있습니다. 2) 상황 인식: 과거의 데이터와 현재의 환경을 분석하여 최적의 판단을 내릴 수 있는 능력입니다. 3) 상호작용성: 사용자를 비롯한 다른 시스템과 원활하게 소통하며, 정보를 교환하고 협업하는 기능이 포함됩니다.
마이크로소프트 국내 에이전틱 AI 통합 사례
2025년 9월 25일, 마이크로소프트는 한국의 여러 프론티어 기업들이 자사의 에이전틱 AI를 통해 비즈니스의 혁신을 이루어낸 사례를 발표했습니다. 이들 기업은 포춘 500대 기업 중 85% 이상이 마이크로소프트의 AI 퍼스트(AI-first) 전략을 채택하고 있으며, 이로 인해 업무 방식이 효과적으로 변화하고 있습니다.
예를 들어, KB라이프는 MS 365 코파일럿을 도입하여 문서 처리, 회의록 작성, 일정 관리의 효율성을 높였습니다. 또한 LG전자는 MS의 애저와 애저 오픈AI를 활용하여 기업용 빅데이터 분석 AI 플랫폼인 '찾다(CHATDA)'를 개발하며, 고객 인사이트를 위해 데이터 분석 속도를 크게 개선했습니다.
SK이노베이션은 마이크로소프트의 생성형 AI 플랫폼을 활용하여 반복적인 업무를 자동화하고 있으며, 아모레퍼시픽은 개인화된 뷰티 상담을 위한 AI 뷰티 카운슬러를 개발했습니다. 이와 같이, 마이크로소프트의 기술은 국내 여러 산업에 혁신을 불러일으키고 있습니다.
‘AI 퍼스트’ 전략과 산업별 성공 사례
마이크로소프트의 AI 퍼스트 전략은 기업들이 업무 혁신을 위한 디지털 노동력을 확대하도록 돕고 있습니다. 한국의 산업 분야에서도 이 전략을 체화한 기업들이 속속 등장하고 있습니다. 예를 들어, 이마트는 MS 365 코파일럿과 파워 플랫폼을 결합하여 반복적 업무를 자동화하며 본사와 현장의 업무 효율을 증대시키고 있습니다.
또한, 포스코인터내셔널은 마이크로소프트 애저 패브릭 기반의 데이터 플랫폼을 통해 데이터 관리 체계를 개선하고, 한화 그룹은 코파일럿 스튜디오를 통해 부서별 업무를 자동화하여 보안과 생산성을 동시에 강화하고 있습니다. 이러한 사례들은 'AI 퍼스트' 전략이 실제 비즈니스에서 어떻게 적용되고 있는지를 보여줍니다.
글로벌 기업 적용 동향
글로벌적으로도 에이전틱 AI의 도입이 가속화되고 있습니다. 마이크로소프트는 전 세계 주요 산업 분야의 고객과 파트너들이 AI 중심으로 비즈니스를 혁신하도록 지원하고 있으며, 이는 협업, 품질, 의사 결정의 모든 분야에 걸쳐 확산되고 있습니다.
조원우 한국마이크로소프트 대표는 '이제 AI는 단순한 기술적 도구를 넘어 직원들의 디지털 동료로 자리잡고 있으며, 이는 기업 시스템 전반에 통합되고 있다'고 언급했습니다. 이러한 경향은 특히 비즈니스 환경에서 AI의 중요성이 더욱 강조되고 있음을 나타냅니다.
구조화된 인지 루프(SCL) 기술의 의의
SCL 개념과 구조적 신뢰성
구조화된 인지 루프(SCL, Structured Cognitive Loop)는 AI 기술의 발전에서 중요한 패러다임 전환을 이끌고 있는 혁신적인 개념이다. SCL은 인간의 사고 과정을 모방하여 인지 과정의 구조를 체계적으로 구축함으로써 AI의 신뢰성을 높이는 것을 목표로 한다. 이 기술은 대형 언어 모델(LLM)이 자주 마주하는 환각 현상(hallucination)과 예측 불가능성 등의 문제를 극복하는 데 중점을 두고 있다. 특히, SCL의 도입은 AI가 신뢰성이 필요로 하는 영역에서 특히 중요한 변화로 평가된다. 예를 들어, 의료 및 금융 분야와 같이 높은 정확성이 요구되는 산업에서는 AI의 투명성과 정확성이 필수적이다. SCL은 이러한 요구에 발맞추어 모든 의사결정 과정을 기록하고, 이를 통해 AI의 작동 방식과 그 근거를 명확히 드러낼 수 있는 기반을 마련한다.
MIT 보고서 기반 ROI 분석
MIT의 'The GenAI Divide: State of AI in Business 2025' 보고서에 따르면, 전 세계적으로 기업들이 AI 프로젝트에 대한 투자에서 만족스러운 성과를 내지 못하고 있는 실정이다. 조사 결과, 기업 AI 프로젝트의 95%가 투자 대비 수익(ROI)을 달성하지 못하고, 실제 비즈니스 가치로 이어진 경우는 단 5%에 불과하다. 이는 기존의 AI 기술이 가진 근본적인 한계, 즉 불확실한 의사결정과 불투명성이 주요 원인으로 지적되고 있다. SCL 기술은 이러한 문제를 해결할 수 있는 명확한 해결책을 제공하여, 기업이 직접적으로 실질적인 성과를 거둘 수 있도록 돕는다.
환각 문제와 예측 불투명성 극복
기존의 LLM은 고 기대성과 그에 상응하는 현실적인 성과 간의 괴리에서 비롯된 환각 문제에 직면해 있다. AI 모델이 생성하는 정보의 정확성과 진정성을 보장하기 위해서는 환각 문제를 극복해야 한다. SCL은 이러한 환각을 완전히 제거할 수는 없지만, 이를 제어 가능한 인지 구조 안에서 운영함으로써 에이전트의 오류를 최소화하고 신뢰성을 보장할 수 있다. 이와 같은 구조적 접근은 AI의 작용이 불투명한 블랙박스에서 벗어나, 사용자와 AI 간의 신뢰를 가능하게 하는 중요한 변화로 작용할 것이다.
새로운 AI 패러다임 전환
SCL의 도입은 단순한 기술적 발전을 넘어 AI 산업 전반에 걸친 패러다임의 전환을 의미한다. "규모에서 구조로"라는 새로운 논의는 AI 모델의 크기를 키우는 데 초점을 맞추었던 기존의 접근 방식에서 벗어나, 더 작은 모델이라 하더라도 어떻게 효율적이고 투명하게 알고리즘을 운용할 수 있는지를 강조한다. 이는 기업들이 AI 기술을 보다 전략적으로 도입하고 활용할 수 있는 기회를 제공하며, AI 개발자들은 구조적으로 신뢰할 수 있는 에이전트를 설계할 수 있는 경로를 열어준다. 따라서 SCL의 활성화는 AI 기술의 진화를 가져올 뿐만 아니라, 사용자의 신뢰를 배가시키는 중요한 전환점이 될 것으로 예상된다.
에이전틱 PC와 칩 아키텍처 혁신: 스냅드래곤 서밋 2025
에이전틱 PC 개념 확장
퀄컴이 '스냅드래곤 서밋 2025'에서 강조한 에이전틱 PC는 AI 처리 능력을 활용하여 사용자의 행동을 이해하고 예측하는 기능을 갖춘 새로운 차원의 컴퓨터로 진화하고 있다. 특히, 이러한 PC는 단순한 보조 역할을 넘어 스스로 상황을 판단하고 작업을 수행하는 능동적인 에이전트의 역할을 수행하는 것을 목표로 하고 있다. 이는 퀄컴이 목표로 하는 'AI 시대의 컴퓨팅'을 실현하기 위한 핵심 요소로 자리 잡고 있다.
80 TOPS NPU 성능 강조
스냅드래곤 서밋 2025에서 퀄컴은 신경망처리장치(NPU)의 성능을 80 TOPS라고 발표하였다. 이는 초당 80조 번의 연산을 처리할 수 있는 능력으로, 최신 PC에서 요구되는 고성능 AI 작업을 가능하게 한다. 비네쉬 수쿠마 퀄컴 AI 제품 총괄 부사장은 이러한 성능 향상이 AI 사용 사례의 폭을 넓히고, 날로 발전하는 AI 기술에 발맞춰 활용될 것이라고 설명했다.
CPU·GPU·NPU 3대 축 전략
퀄컴은 차세대 PC 아키텍처 전략을 CPU(중앙처리장치), GPU(그래픽처리장치), NPU(신경망처리장치)로 삼고 이들 간의 협력 강화를 통해 종합적인 성능을 끌어올리는 것을 목표로 하고 있다. 특히, CPU의 경우 신규 생성된 '오라이온 CPU'는 프라임 코어와 퍼포먼스 코어의 하이브리드 구조로 설계되어 다양한 작업 부하를 효율적으로 처리할 수 있게 되었다. GPU 또한 최신 아드레노 아키텍처를 통해 성능과 전력 효율을 동시에 개선하여 사용자 경험을 증진시키는 역할을 수행하고 있다.
마이크로아키텍처 재조합
퀄컴은 마이크로아키텍처의 재조합을 통해 실제 사용자 경험을 개선하는 데 주안점을 두고 있다. 단순히 벤치마크 점수를 높이는 것에 그치지 않고, 실사용 환경에서의 성능을 향상시키는데 크게 기여한다는 점을 강조하고 있다. 'X2 엘리트 익스트림' 모델은 12개의 고성능 프라임 코어와 6개의 퍼포먼스 코어를 결합하여 18코어 구조를 지니며, 메모리 아키텍처 또한 대폭 향상되었다. 이처럼 새로운 아키텍처는 에이전틱 PC의 발전을 가속화할 것으로 기대된다.
AI 인프라와 서버 솔루션 진화
Blackwell Ultra 솔루션 특징
NVIDIA의 Blackwell Ultra 솔루션은 차세대 AI 인프라를 위한 혁신적인 제안으로, GB300 슈퍼칩을 기반으로 하고 있습니다. 이 솔루션은 이전 세대인 GB200 대비 약 1.5배 향상된 성능을 제공하며, 특별히 AI와 하이 퍼포먼스 컴퓨팅(HPC) 환경에 최적화되어 있습니다. GB300은 GPU당 최대 288GB의 HBM3e 메모리를 장착하여 대규모 AI 모델과 복잡한 데이터셋을 효율적으로 처리할 수 있습니다. 또한, FP4, FP8, FP16 성능 부문에서 각각 1,400페타플롭스, 700페타플롭스, 350페타플롭스를 달성함으로써 대규모 AI 학습 및 실시간 추론에 필요한 모든 요구 사항을 충족시킵니다.
GB300·HGX B300 시스템 성능
슈퍼마이크로의 GB300 NVL72 랙 스케일 시스템은 최대 1.1엑사플롭스의 높은 FP4 컴퓨팅 성능을 실현하며, 실시간으로 필요로 하는 AI 대규모 학습에 최적화된 솔루션을 제공합니다. HGX B300 시스템은 GPU당 최대 144페타플롭스의 성능을 내며, 기존 엔비디아 호퍼 기준으로 최대 7.5배 빠른 처리를 가능하게 합니다. 특히, 액체 냉각 기술이 적용되어 열 관리를 효율적으로 수행할 수 있으며, 데이터센터의 공간과 전력 소비를 현저히 줄이는 데 기여하고 있습니다.
슈퍼마이크로 액체 냉각 기술
슈퍼마이크로는 최근에 발표된 블랙웰 울트라 솔루션에 액체 냉각 기술을 포함하여 데이터센터의 효율성을 극대화하고 있습니다. 이 기술을 통해 전력 소비를 최대 40%, 물 사용량을 40%, 데이터센터 공간을 60% 절감할 수 있게 설계되었습니다. 이러한 접근법은 총소유비용(TCO)을 20%까지 낮출 수 있어 운영 비용 절감에 크게 기여하며, 고객이 AI 팩토리를 신속하게 구축할 수 있도록 돕고 있습니다.
데이터센터 최적화 전략
데이터센터의 최적화는 이제 단순히 하드웨어의 성능 향상에 그치지 않고, 소프트웨어와 하드웨어 간의 통합적인 관리가 필수적입니다. 슈퍼마이크로의 데이터센터 솔루션은 엔비디아 AI 엔터프라이즈와 결합하여 고객이 필요한 모든 도구를 신속하게 제공하며, 클러스터 케이블링, 전력 공급, 열 관리 장비의 현장 구축 서비스도 포함되어 있어 배포의 속도 또한 개선되었습니다. 슈퍼마이크로는 이를 통해 AI 인프라의 구축과 운영을 간소화하여 고객에게 최적의 솔루션을 제공하고 있습니다.
기업 전략과 협력 모델: 솔트룩스 FY25 경영회의
FY25 경영회의 핵심 논의사항
2025년 7월 23일에 진행된 솔트룩스 FY25 경영회의는 기업의 향후 전략과 경쟁력을 확보하기 위한 다양한 주제가 논의되었습니다. 회의에서는 KT 주관의 AI 파운데이션 모델 컨소시엄 참여, 매출 및 손익 목표, 내부 개발 및 생산성 혁신, 그리고 조직 간 협력 강화 방안 등이 중점적으로 다뤄졌습니다. 참석자들은 각자의 부문에서 성과 목표를 설정하고 있으며, 이를 통해 경쟁력을 극대화하려는 의지를 분명히 나타냈습니다.
KT 주관 AI 파운데이션 모델 컨소시엄
솔트룩스는 KT와의 전략적 연합을 통해 국가대표 AI 모델 사업에 참여합니다. 단독으로 추진하기에는 현실적인 제약이 많았기에, KT와의 협력이 실질적 이익을 구체화하는 결정으로 보입니다. 이 협업을 통해 GPU 지원 및 데이터 구축비를 절감할 수 있으며, LUXIA 모델의 학습 자산을 활용할 계획입니다. 이러한 방식은 파운데이션 모델의 전 과정을 내부 자산으로 구축하고 기여 기업 간 라이선스 계약 구조를 제안함으로써 기업 간 협력의 탄탄한 기반을 마련하는 데 기여할 것입니다.
조직 간 협력 강화 방안
회의에서는 솔트룩스의 내부 조직 간 협력이 더욱 중요하다는 논의가 있었습니다. 특히, 유지보수 영업과 개발팀의 전문화가 강조되었으며, 이러한 협력이 매출 증가와 비용 효율성을 높이는데 중요한 역할을 할 것입니다. 따라서 각 본부에서 상호 보완적인 전략을 모색하고, 조직 내에서 자유로운 정보 공유와 협업 문화를 구축할 필요성이 제기되었습니다.
매출·이익 목표 달성 전략
솔트룩스는 FY25 전체 매출 목표로 172억 원에서 186억 원을 설정하였습니다. 회의에서는 상반기 동안 57억 원의 매출을 기록했으며, 하반기에는 71억 원을 목표로 설정하였습니다. 매출 목표 달성을 위해 각 본부는 고객 확보 및 신규 사업 기회를 찾는데 집중할 계획이며, 지속적인 유지보수 체계 강화도 병행할 것입니다. 이와 함께 파트너사와의 협력을 통해 매출 경로를 다각화하는 것도 중요한 방안으로 논의되었습니다.
마무리
에이전틱 AI는 현재의 디지털 혁신을 이끄는 중심적인 요소로 자리매김하였으며, 특히 SCL과 같은 구조적 신뢰성 기반의 새로운 접근 방식은 AI의 미래를 결정짓는 중요한 요소로 부상하고 있습니다. 이러한 기술 혁신과 더불어, 에이전틱 PC와 아키텍처의 발전은 사용자의 경험을 획기적으로 개선할 가능성을 높이고 있으며, 기업들은 이를 통해 비즈니스 모델을 재편할 필요성이 커지고 있습니다. 현재 진행되는 NPU 아키텍처의 혁신은 AI의 다양한 적용 가능성을 더욱 확대하고 있으며, 이는 모든 산업 분야에 걸쳐 활용될 전망입니다.
미래의 AI 환경에서는 윤리와 보안이 더욱 중요한 화두가 될 것이며, 기업들은 에이전틱 AI의 사회적 법적 준수를 보장하기 위한 시스템을 구축하는 데 집중해야 할 것입니다. 각 기업은 이러한 기술을 통합하는 방식으로 비즈니스 가치를 실질적으로 극대화해야 하며, 향후 AI 생태계에서의 경쟁력을 유지하기 위해 지속 가능한 혁신을 추구하는 방향으로 나아가야 합니다. 더불어, 개발자 도구와 리트리벌 증강 생성(RAG) 솔루션의 결합을 통해 업무의 효율성을 높이고 혁신 과제를 동시에 해결하는 것이 장기적인 성공 전략으로 자리 잡을 것입니다.
결과적으로, 에이전틱 AI와 관련된 기술, 전략, 협력 모델의 발전은 향후 모든 산업에 걸쳐 광범위한 변화와 혁신을 이끌어낼 것으로 예상되며, 기업들은 이러한 기회를 활용하여 미래 지향적인 비즈니스 환경에서 우위를 차지해야 할 것입니다.