2025년 한국 공공시장 AI 솔루션 전망: 도전과 기회

1. 요약

• 2025년 5월 기준으로, 한국 정부는 공공부문에 인공지능(AI) 솔루션을 도입하기 위해 범정부 차원의 대규모 사업을 추진하고 있다. 이는 AI 기술의 도입 및 확산을 목적으로 하며, 현재 진행 중인 초거대 AI 공통기반 구현 사업이 그 중심에 있다. 특히 2025년 5월 15일에 발표된 바와 같이 삼성SDS 컨소시엄이 우선협상대상자로 선정되었으며, 이번 사업에는 약 90억 원의 예산이 배정되었다. 이 플랫폼은 공공기관이 안전하게 AI 서비스를 이용할 수 있도록 설계되어 있어 기술 신뢰성 확보에 기여할 것이다. 또한, 과학기술정보통신부는 생성AI 선도 인재양성사업을 확대하기 위해 2025년도 사업을 공고하였으며, 이는 신속한 인재 공급을 목표로 하고 있다. 공고 기한은 2025년 6월 11일까지이며, 35억 원의 예산으로 3개의 과제를 선정할 예정이다. 생성AI 분야의 변화하는 수요에 맞춰 실제 산업에 기여할 수 있는 연구 및 교육 과정을 운영할 계획이다. 이처럼 공공부문에서 AI의 도입과 그 활용을 위한 다각적인 전략이 필요하다. AI 기술 도입에 따른 현 주소는 '딥시크' 사태와 같은 사건으로 인해 AI 시스템의 신뢰성과 책임 있는 운영이 더욱 중시되고 있는 상황이다. 한국의 공공부문에서 AI 시스템 구축이 증가하고 있음에도 불구하고, 유지 관리의 필요성이 간과되고 있는 실정이다. 이에 따라 이러한 양측의 균형 잡힌 접근이 필요하며, 정책적 지원과 지속 가능한 관리 체계 확립이 절실히 요구된다.

• 결론적으로, 한국의 공공 AI 생태계는 현재 삼성SDS의 초거대 AI 플랫폼 구축 및 전문인력 양성을 통해 지속 가능한 혁신을 모색하고 있으며, 이 모든 과정에서 AI 기술의 도입을 위한 정책적 개선과 다양한 민관 협력이 긴요하다.

2. 범정부 초거대 AI 사업 추진 현황

• 2-1. 사업 개요와 우선협상대상자 선정 결과

• 2025년 5월 15일, 한국 정부는 공공부문에서 생성형 인공지능(AI) 기술을 도입하기 위한 ‘범정부 초거대 AI 공통기반 구현’ 사업의 우선협상대상자로 삼성SDS 컨소시엄을 선정하였다. 이번 사업은 클라우드 기반의 AI 플랫폼을 구축하여 각 부처, 지자체 및 공공기관들이 필요에 맞는 안전한 생성형 AI 서비스를 활용하는 것을 목표로 한다. 총 사업 예산은 90억 원에 이르며, 사업기간은 2025년 6월부터 12월까지 약 7개월로 계획되어 있다.

• 삼성SDS는 네이버클라우드, 세림티에스지, 투이컨설팅과 함께 컨소시엄을 구성하고, 대구의 민관협력형(PPP) 클라우드센터 내에 삼성클라우드플랫폼(SCP) 존을 운영할 예정이다. 이 플랫폼은 공공기관의 공무원들이 보안 문제 걱정 없이 AI 서비스를 이용할 수 있도록 지원할 것으로 기대된다. 이번 선정은 삼성SDS가 소프트웨어(SW) 사업에 제약을 받는 대기업임에도 불구하고 특별히 사업 참여를 허용한 결과로, 그 평가에서 종합평점 99.9906점을 기록하여 LG CNS(98.5점) 및 KT(96.6907점) 컨소시엄을 제치고 1위 사업자로 선정된 것이다.

• 2-2. 참여 컨소시엄 구성 및 평가 점수

• 삼성SDS 컨소시엄은 특히 AI 기술력 평가 부문에서 경쟁사보다 우수한 성적을 거두었으며, 이는 공정한 평가 체계를 위해 조달청이 전문 평가위원을 분야별로 배정했기 때문이다. 그러나 사업 추진 과정에서 몇 가지 기술적 문제도 제기되었으며, 정보시스템 안정성을 위해 필요한 재해복구(DR) 시스템 계획이 부족하다는 우려가 발생하였다.

• 한국지능정보사회진흥원(NIA)은 DR 구축 기준 설정을 진행 중이며, 첫 번째 사업 단계에서 AI 플랫폼을 구축한 후, 나중에 DR 시스템 결합 여부를 검토할 계획이라고 밝혔다. 행정안전부 또한 기술적 검토 과정에서 과잉투자나 중복투자를 방지하기 위한 실용적인 방안 마련이 필요하다고 강조하였다.

• 2-3. 향후 계약 협상 일정과 기대효과

• 정부는 이번 범정부 초거대 AI 사업을 통해 디지털 전환을 촉진하고, AI 서비스의 도입과 함께 기술적 신뢰성과 보안 요건을 충족하는데 중점을 두고 있다. 계약 협상은 2025년 6월로 예정되어 있으며, 성공적인 사업 실행을 통해 공공부문에서의 AI 활용이 확대되고, 민간 부문과의 협력도 강화될 것으로 기대된다.

• 이와 함께 오는 5월 28일, 서울 소공동 롯데호텔에서 개최될 ‘AI 웨이브 2025’ 컨퍼런스에서는 정부의 AI 전략 및 다양한 산업별 AI 응용 사례가 공유될 예정이다. 이는 생태계 활성화와 함께 공공 및 민간의 협력 증대를 위한 중요한 기회로 작용할 것으로 보인다.

3. 공공부문 AI 도입 현주소와 유지관리 과제

• 3-1. ‘딥시크’ 사태가 던진 시사점

• 2023년에 발생한 ‘딥시크’ 사태는 공공부문에서 AI 기술을 운영하는 데 있어 신뢰성과 책임이 얼마나 중요한지를 극명히 보여주었다. 이 사건을 통해 고객의 데이터를 처리하는 AI 시스템이 예기치 않은 오류를 발생시키면서, AI 시스템의 신뢰성 문제와 인프라의 안정성에 대한 근본적인 질문이 제기되었다. 공공기관은 기술 도입에만 집중할 것이 아니라, 그 운영과 유지보수에서의 책임 있는 접근이 필요하다는 점을 인식해야 한다. 특히 '딥시크'와 같은 사례는 AI시스템의 성공적인 운영도 기술 자체만으로는 부족하며 인적 자원과 성과 관리 체계가 결합되어야 함을 보여준다.

• 3-2. 구축 단계와 유지관리 단계의 균형 필요성

• 한국의 공공부문에서 AI 시스템의 구축이 증가하면서 그 유지관리 측면에서 소홀해진 현상이 우려되고 있다. 데이터에 따르면 AI 시스템 구축은 연평균 약 500건에 달하지만, 유지관리 단계의 비중은 여전히 낮다. 공공기관들이 신규 시스템의 구축에 치중함에 따라 기존 시스템의 재학습과 성능 유지를 위한 관리 체계가 부족해지고 있다. AI 시스템은 지속적인 학습 과정을 필요로 하며, 이는 고품질의 학습 데이터와 적절한 예산이 수반되어야 가능하다. 따라서 양 단계 간의 균형을 맞추기 위해 정책적 지원과 체계적 관리가 필요하다.

• 3-3. AI WAVE 2025 주요 트렌드

• ‘AI WAVE 2025’는 공공부문 AI 도입의 흐름을 주도하는 주요한 트렌드를 제시하고 있다. 이 트렌드는 AI 기술의 신뢰성, 효율성 및 카운터와 같은 책임 있는 활용 필요성을 강조하고 있다. 또한, 정부는 AI 시스템의 구축뿐만 아니라 지속 가능한 유지 관리 체계와 전문인력 양성을 위한 인프라 투자 등을 포함하여, AI 기술의 지속가능한 발전을 꾀하고 있다. 이러한 변화는 공공부문에 AI를 도입함에 있어 기업과 학계 간의 협력과 공동 연구가 필수적임을 의미한다. 이와 같은 다각적인 접근은 지속 가능한 AI 생태계를 조성하기 위한 초석이 될 것이다.

4. 생성AI 선도인재양성 사업 확대

• 4-1. 사업 목적과 공고 일정

• 2025년 5월 15일, 과학기술정보통신부는 생성AI 선도인재양성 사업의 확대를 발표하며 2025년도 사업을 공고하였다. 이번 사업의 주요 목적은 급변하는 기술 환경 속에서 생성AI 분야의 전문인력을 산업 현장에 적시에 공급하는 것이다. 특히, 이 사업은 생성AI의 중요성이 커지고 있는 가운데, 빠르게 변화하는 수요에 맞춘 인재 양성을 위해 설계되었다. 공고 기한은 2025년 6월 11일까지로 설정되어 있으며, 35억원 규모의 예산을 통해 3개의 과제를 선정할 예정이다.

• 4-2. 예산 규모 및 과제 선정 기준

• 올해의 사업 추진을 위해 할당된 35억원은 주로 연구개발과 인재 양성 프로그램 운영에 사용될 예정이다. 선정된 과제는 생성AI 기업이 주관 연구개발기관으로 참여하고, 이를 통해 대학과의 협력을 강화하는 구조로 운영된다. 과제 선정 기준은 기술 수요를 충족하며, 실제 산업에 기여할 수 있는 공동연구 주제를 우선시한다. 이를 통해 기업들은 젊은 연구자들과의 협업을 통해 기술과 인사이트를 교환하고, 대학 측은 현장 중심의 교육과 연구를 활성화할 수 있다.

• 4-3. 2025년 인재양성 방향

• 이 사업을 통해 생성AI 분야에서 실전형 고급 인재가 양성될 것으로 기대된다. 기업들은 선정된 과제에 따라 자신들이 보유한 생성AI의 파운데이션 모델을 활용하여 연구 및 교육을 진행하며, 이 과정에서 석·박사 과정 학생들이 참여하게 된다. 또한, 과제당 최소 2개의 공동 연구 프로젝트를 발굴해야 하며, 각 프로젝트에는 최소 24명의 대학생이 포함될 예정이다. 특히, 2026년부터는 매년 3명 이상의 우수 연구자를 기업에 파견하여 실질적인 연구 경험을 쌓을 수 있도록 지원할 예정이다.

5. 향후 전망과 도전 과제

• 5-1. 인재 양성과 유지관리 역량 강화

• 2025년 5월 기준으로, 생성AI 선도 인재양성 사업이 진행 중이며, 이는 AI 기술 도입에 따른 인재 부족 문제를 해결하기 위한 핵심 전략으로 주목받고 있다. 과학기술정보통신부는 총 35억원 규모의 예산으로 3개 과제를 선정하여, 기업과 대학 간의 협력을 통해 실전형 AI 인재를 확보하려는 목표를 세우고 있다. 특히, 생성AI 기업이 대학과 공동 연구를 진행하며, 최신 기술을 활용한 인재 양성이 이루어지기에, 이는 공공부문에서 AI 도입을 가속화할 중요한 발판이 될 것이다. 하지만 AI 시스템의 지속 가능성을 위해서는 단순한 인재 양성을 넘어, AI 시스템의 유지관리 역량도 강화해야 한다. AI 기술은 지속적인 학습을 필요로 하며, 재학습 데이터의 정확한 관리가 필수적이다. 현재까지 대부분의 공공기관에서는 AI 시스템 도입 후 유지관리 측면에서 체계적인 접근이 미흡한 실정이다. 따라서 공공기관은 인력과 예산을 포함한 관리 체계를 강화하고, AI 시스템의 지속적인 재학습이 가능하도록 노력해야 한다.

• 5-2. 퍼블릭-프라이빗 파트너십 확대

• AI 기술의 발전과 공공부문 도입을 성공적으로 이끌기 위해 퍼블릭-프라이빗 파트너십(PPP)의 확대가 필수적이다. 삼성SDS가 주관하는 범정부 초거대 AI 공통기반 구현 사업과 같은 대형 프로젝트에서, 민간기업의 기술력과 정부의 정책적 지원이 결합되어야 한다. 이렇게 결합된 파트너십은 기술 개발의 우수성을 높이고, 공공부문에 특화된 솔루션을 적시에 공급하는 데 중요한 역할을 수행할 것이다. 향후에는 공공기관과 민간기업 간의 협력 모델이 더욱 다양화되어, 각 기관의 연구개발(R&D) 자원을 효율적으로 공유하고 활용할 수 있는 시스템을 구축해야 한다. 이를 통해 공공부문에서 AI 기술의 신뢰성과 안전성을 확립할 수 있을 것이다.

• 5-3. 데이터센터 및 인프라 투자 필요성

• AI 기술의 성공적인 도입을 위해서는 강력한 데이터센터와 클라우드 인프라에 대한 지속적인 투자가 필요하다. 한국 정부는 최근 AI 경쟁력 강화를 위해 1만 장의 GPU를 확보한 데이터센터 구축을 발표했으며, 이는 공공부문 AI 전략의 중요한 요소로 자리잡고 있다. 이를 통해 공공기관이 필요로 하는 대량의 데이터를 안전하게 처리하고, AI 기반 서비스의 안정성을 높일 수 있을 것이다. 하지만 데이터센터에 대한 투자는 단기적인 성과를 목표로 하기보다는 중장기적인 관점에서 이루어져야 한다. 포괄적인 AI 생태계를 구성하는 데 필요한 서버 하드웨어, 시스템 소프트웨어 등 관련 기술 확보 또한 필수적이다. 이러한 인프라가 제대로 갖추어지지 못한다면, AI 시스템의 효과와 성과를 기대하기 어려울 것이다.

• 5-4. 정책 지원과 규제 환경 개선

• AI 기술의 도입을 촉진하기 위해서는 정책 지원과 규제 환경의 개선이 반드시 필요하다. 정부는 AI 기술과 혁신을 위한 규제 샌드박스를 확대하고, 새로운 기술에 대한 유연한 정책을 추진해야 한다. 기술의 발전 속도에 맞추어 변화하는 법률과 제도가 필요하며, 이는 기업들이 AI 프로젝트를 추진하는 데 있어 안정성을 제공할 것이다. 특히, 공공부문에서 AI를 활용할 때는 개인정보 보호와 데이터 보안 측면에서의 정책적 접근이 중요하다. 따라서 규제 개선은 기업이 안심하고 AI 기술을 도입할 수 있도록 하는 중요한 기반이 될 것이다. 이러한 정책적 개선은 궁극적으로 공공부문에서 AI 기술의 지속 가능한 발전을 뒷받침할 것이다.

결론

• 한국의 공공시장에서 AI 솔루션은 초거대 AI 플랫폼 구축, 관리 및 운영 리스크 해소, 그리고 전문인력 양성이라는 세 가지 축으로 발전하고 있다. 특히 삼성SDS 컨소시엄과의 협상을 통해 범정부 공통기반 구현 사업을 신속하게 착수해야 할 시점에 도달했다. 이 사업의 성공은 공공부문에서 AI 활용의 확대를 촉진할 뿐만 아니라 민간 부문과의 협력도 강화할 것으로 기대된다. 둘째, '딥시크' 사례에서 드러난 관리 및 운영 리스크를 줄이기 위해서는 AI 시스템 유지관리 전담 조직의 설립과 정기적인 시스템 모니터링 및 업데이트 체계 구축이 필수적이다. 이를 통해 공공기관은 AI 시스템의 신뢰성을 높이고, 시스템 운영에서의 책임을 강화해야 한다. 셋째, 생성AI 선도인재 양성 사업은 AI 기술 도입을 가속화하고, 공공 및 민간 분야의 협력적 연구 기반을 마련하는 중요한 방안이 될 것이다. 이로 인해 데이터센터 GPU 증설, 클라우드 인프라의 고도화, 민관 협력 거버넌스 구축 등 다각적인 전략을 통해 지속 가능한 AI 생태계를 조성해야 한다. 이러한 모든 요소들이 결합될 때, 한국의 공공부문은 AI 기술을 통한 혁신과 효율성 향상이라는 목표를 성취할 수 있을 것이다.

용어집

• 공공 AI: 공공부문에서 효율성을 높이기 위해 인공지능(AI) 기술을 도입하여 운영하는 시스템을 의미한다. 한국 정부는 공공 AI의 도입을 통해 행정 서비스의 혁신을 추구하고 있다.

• 초거대 AI: 인간의 언어와 사고를 이해하고 생성하는 능력을 가진 대규모 AI 모델을 지칭한다. 이러한 AI 모델은 방대한 데이터베이스를 기반으로 훈련되며, 한국에서는 범정부 초거대 AI 사업의 일환으로 관련 기술이 확대되고 있다.

• 삼성SDS: 삼성 그룹의 IT 서비스 전문 기업으로, 인공지능 및 클라우드 서비스 분야에서 중요한 역할을 수행하고 있다. 최근 범정부 초거대 AI 공통기반 구현 사업의 우선협상대상자로 선정되어 공공부문 AI 플랫폼 개발에 기여하고 있다.

• 범정부 플랫폼: 한국 정부의 여러 기관이 공동으로 사용할 수 있도록 설계된 통합 플랫폼을 뜻한다. 공공 AI 프로젝트에서는 다양한 기관들이 효율적으로 협업하고 정보 공유를 촉진하기 위해 이러한 플랫폼의 구축이 필요하다.

• 데이터센터 GPU: 데이터 처리 및 AI 연산을 위해 고성능의 그래픽 처리 장치(GPU)를 사용하는 데이터센터를 의미한다. 한국 정부는 AI 기술 강화를 위해 대규모 데이터센터를 구축하고 있다.

• 인재 양성: AI 기술을 활용할 수 있는 전문 인력을 교육하고 훈련시키는 과정을 의미한다. 과기정통부는 생성AI 분야에서 인재 양성을 확대하기 위해 관련 사업을 추진하고 있다.

• 과기정통부: 한국의 과학기술정보통신부로, 국가의 과학기술과 정보통신 정책을 수립하고 추진하는 정부 기관이다. AI 정책과 관련된 다양한 사업을 관리하고 있다.

• 컨소시엄: 특정 프로젝트나 사업 수행을 위해 여러 기관 및 기업이 협력하는 형태로 구성된 단체를 의미한다. 범정부 초거대 AI 사업에서는 삼성SDS가 주도하는 컨소시엄이 형성되어 있다.

• AI 정책: 인공지능 기술의 연구, 개발, 보급, 활용, 윤리적 사용을 촉진하기 위한 정부의 정책적 방향 및 규제를 포함한다. 한국 정부는 AI 관련 법률 및 규제를 강화하고 있다.

• 유지관리: AI 시스템의 운영에 있어서 발생할 수 있는 오류 및 문제를 예방하고 해결하기 위한 지속적인 관리와 후속 지원을 의미한다. 최근 AI 시스템의 도입 증가로 인해 이에 대한 필요성이 강조되고 있다.

출처 문서

• AI 반도체 자립의 시작점 | 서울경제https://www.sedaily.com/NewsView/2GSTJY1OQU
• 범정부 초거대 AI 사업 삼성SDS가 따냈다, 우선협상대상자 선정https://www.ddaily.co.kr/page/view/2025051610150048701
• 공공부문 AI 도입 현주소…“‘구축’만큼 ‘유지관리’ 중요해” - 디지털데일리https://www.ddaily.co.kr/page/view/2025051511062872174
• 정부, 생성AI 선도인재양성 사업 확대…3개 과제 공고https://www.news1.kr/it-science/general-it/5783423