Your browser does not support JavaScript!

AI 기반 스마트 민원 응답 혁신: 챗봇 2.0과 전용 LLM으로 서울시 민원 서비스 가속화

일반 리포트 2025년 08월 10일
goover

목차

  1. 서울시 AI 민원 서비스 도입 현황
  2. 실시간 민원 대응을 위한 AI 챗봇 적용 방안
  3. 내부 업무 지원: 공무원 효율성 강화
  4. 시민 참여 및 피드백 고도화
  5. 공무원 AI 역량 강화 교육 프로그램
  6. 결론

1. 요약

  • 2025년 8월 10일 기준으로 서울시는 AI 기반 민원 응답 시스템을 도입해 시민들에게 신속하고 고품질의 피드백을 제공하기 위한 혁신적인 전략을 모색하고 있습니다. AI 행정의 새로운 패러다임으로 자리 잡고 있는 이번 프로젝트에서는 챗봇 2.0과 전용 LLM(대규모 언어 모델)을 중심으로 다양한 기술들이 결합되어 민원 처리 효율성을 높이는 것을 목표로 합니다.

  • 서울시는 전용 LLM 구축 및 챗봇 2.0 프로젝트를 통해 자동 분류 및 우선순위 지정, 생성형 AI 응답, 내부 업무 지원, 시민 참여 고도화, 공무원 교육 등 다섯 가지 주요 전략을 설정했습니다. 이러한 다각적인 접근은 민원 처리 시간을 대폭 단축시키고, 행정 서비스의 질을 개선하는 데 중점을 두고 있다는 점이 특징입니다.

  • 특히, 서울시는 AI 기술을 활용해 시민들의 의견을 정교하게 분석하고, 이를 바탕으로 개선 방안을 제시하는 다양한 채널을 마련하고 있습니다. '서울톡' 시스템을 통해 시민들은 언제 어디서나 AI와 상호작용하며 실시간으로 필요한 정보를 얻을 수 있게 되며, 이는 공공행정의 AI 전환을 가속하는 중요한 기반이 될 것입니다.

  • 마지막으로, 현재 진행 중인 LLM 프로젝트는 2025년 9월에 발주 될 예정이며, 이는 행정 업무의 디지털화를 실현할 초석이 될 것입니다. 이러한 변화가 서울을 '글로벌 AI 행정도시'로 나아가는 데 높은 기대를 모으고 있으며, 차세대 민원 처리 시스템에 대한 창의적인 구상과 실행이 수반될 것입니다.

2. 서울시 AI 민원 서비스 도입 현황

  • 2-1. 전용 LLM 구축 사업

  • 서울시는 2025년에 행정 업무의 효율성을 높이기 위해 전용 거대언어모델(LLM) 구축을 진행 중입니다. 이 모델은 공무원들의 반복적인 업무를 인공지능이 지원함으로써 행정 지원 체계를 개선하고 시민의 질의에 대한 응답률을 높이는 것을 목표로 하고 있습니다. 기존의 AI 시스템은 정해진 규칙에 따른 고정 응답 방식으로 운영되어 왔으나, 새로운 LLM은 유연한 대화 생성을 가능하게 해 주며 복합적인 질의응답을 처리할 수 있는 역량을 갖추고 있습니다.

  • 특히, 서울시는 이 시스템이 내부 망에서 운영될 것이라고 밝혔습니다. 이는 데이터 보안을 강화하기 위한 조치로, 민감한 공공 데이터를 안전하게 처리할 수 있는 독립적 AI 인프라를 확보하는 데 중점을 두고 있습니다. LLM은 검색증강생성(RAG) 기술을 활용하여 필요한 문서와 데이터를 기반으로 검색 및 응답을 지원하며, 이는 더 나은 데이터 중심 업무 환경을 구축하는 데 기여할 것입니다.

  • 2-2. 챗봇 2.0 프로젝트 개요

  • 챗봇 2.0 프로젝트는 서울시가 AI 기술을 바탕으로 민원 처리를 더욱 효율화하기 위해 기획한 혁신적인 프로그램입니다. 이 프로젝트는 기존의 1세대 챗봇의 한계를 극복하고, 생성형 AI가 결합된 더 유연하고 정교한 행정 지원 체계로의 전환을 목표로 진행되고 있습니다. 이는 공무원이 민원 응대 시 보다 신속하고 정확한 정보를 제공받을 수 있는 환경을 조성합니다.

  • 서울시는 이 프로젝트를 통해 직원과 시민이 보다 효율적으로 소통할 수 있도록 하고 있습니다. 특히, '서울톡'이라는 시스템을 통해 시민들이 AI와 직접 상호작용하며 필요한 정보를 실시간으로 받을 수 있도록 구성되어 있습니다. 이러한 변화는 공공행정의 AI 전환을 가속화하고, 서울이 '글로벌 AI 행정도시'로 거듭나는데 중요한 기반이 될 것입니다.

  • 2-3. 주요 추진 일정 및 현황

  • 서울시는 전용 LLM을 연내 구축할 계획이며, 특정 부서를 대상으로 시범 운영을 진행할 예정입니다. 현재 LLM 프로젝트는 예산 17억 원으로, 2025년 9월 발주되어 AI 강소기업들로부터 기술을 채택할 예정입니다. 이 과정에서 서울시는 엔비디아 H200 GPU 서버를 도입하여 AI 서비스의 안전하고 고도화된 인프라를 마련할 것입니다.

  • 챗봇 2.0의 정식 운영은 내년부터 거행될 예정이며, 이는 행정 시스템과 연계된 고도화 기능으로 확장됩니다. 주요 일정에 따르면, 시범 적용 후에는 문서 자동화, 의사결정 지원 등의 기능이 단계적으로 추가되어 행정 효율성이 더욱 향상될 것으로 기대됩니다. 강옥현 서울시 디지털도시국장은 이러한 변화가 공무원과 시민 모두에게 혜택을 줄 것이라고 강조하고 있습니다.

3. 실시간 민원 대응을 위한 AI 챗봇 적용 방안

  • 3-1. 자동 분류 및 우선순위 지정

  • AI 챗봇의 자동 분류 및 우선순위 지정 기능을 통해 민원 처리의 효율성을 극대화할 수 있습니다. 이 시스템은 민원의 성격에 따라 자동으로 분류하고, 긴급성 또는 중요도에 따라 우선순위를 매길 수 있는 인공지능 알고리즘을 활용할 예정입니다. 이를 통해 민원 신고가 들어오자마자, 시스템이 적절한 부서로 신속하게 분배되고, 담당 공무원이 보다 효과적으로 민원에 대응할 수 있습니다.

  • 예를 들어, 서울시는 복잡한 민원 형태에 대해 선진 AI 기술을 도입하여 이를 자동으로 평가하고 분류하는 방안을 계획하고 있습니다. 이 과정에서는 머신러닝(transformer 모델 계열의 언어 처리 기법)을 이용해 작성된 민원 내용의 구문 분석이 이루어지며, 그 결과에 따라 관련 부서로의 분배가 이루어질 것입니다. 이러한 접근 방식을 통해 공무원의 업무 부담이 줄어들고 민원 처리 시간 또한 단축될 것으로 예상됩니다.

  • 3-2. 생성형 AI 기반 응답 생성

  • 생성형 AI는 기존의 단순한 규칙 기반 응답 시스템에서 한 걸음 나아가고, 보다 유동적이고 적응적인 방식으로 민원에 대한 응답을 제공하는 기능을 갖추게 됩니다. 서울시는 챗봇 2.0의 일환으로 이러한 기능을 강화해, 다양한 형태의 질문에 대해 더 자연스러운 응답을 생성하는 방식으로 민원 처리의 질을 높일 계획입니다.

  • 이번 사업에서는 '서울톡'에서 지원하는 민원 응답 기능이 더욱 발전하여, 시민들이 실시간으로 문의한 사항에 대한 맞춤형 응답을 제공할 수 있습니다. 예를 들어, 민원이 제출되면 생성형 AI는 해당 민원에 대한 과거 데이터를 분석하고, 유사한 사례를 바탕으로 신뢰할 수 있는 답변을 생성하게 됩니다. 이는 사용자 경험을 극대화하고, 민원 처리의 신뢰성을 높일 수 있는 중요한 요소가 될 것입니다.

  • 3-3. 다중 채널(웹·앱·음성) 통합 제공

  • AI 챗봇의 다중 채널 통합 제공 전략은 시민들이 편리하게 다양한 플랫폼에서 민원에 접근하고 이를 해결할 수 있도록 하는 중요한 방법입니다. 서울시는 웹, 모바일 애플리케이션, 그리고 음성 기반 인터페이스를 통합하여 시민들이 선택한 채널을 통해 언제 어디서나 편리하게 민원 서비스를 이용할 수 있도록 할 것입니다.

  • 특히 음성 인식 기술이 접목되면, 시민들은 간단한 음성 명령만으로도 필요한 정보를 조회하고 민원을 제출할 수 있게 되며, 이는 접근성을 크게 향상시킬 것입니다. 나아가 이러한 다중 채널 통합은 공무원이 민원 사항을 실시간으로 체크하고 응답할 수 있는 유연성을 제공하여 전체적인 업무 효율성을 높이는 데 기여할 것입니다.

4. 내부 업무 지원: 공무원 효율성 강화

  • 4-1. LLM 기반 문서 작성 지원

  • LLM(대규모 언어 모델)은 공무원의 문서 작성 과정을 혁신적으로 변화시킬 기술로, 높은 데이터 처리 능력과 자연어 이해 능력을 바탕으로 효율적인 문서 작성을 지원합니다. 서울시는 자체 LLM을 내부망에 도입하여, 공무원이 필요로 하는 다양한 문서 형식을 자동으로 생성하고, 필요한 정보를 신속하게 검색할 수 있도록 하는 시스템을 구축할 예정입니다. 이러한 시스템은 느린 수동 작업을 줄이고, 공무원의 시간과 노력을 절감하여 더욱 창의적이고 전략적인 업무에 집중할 수 있는 기반을 마련할 것입니다.

  • 4-2. 규정 및 지침 자동 검색

  • LLM을 활용한 자동 검색 기능은 공무원들이 규정 및 지침을 필요한 순간에 쉽게 찾아볼 수 있도록 설계됩니다. 이는 특히 복잡한 법률이나 정책이 자주 바뀌는 행정 환경에서 공무원들이 적시에 정확한 정보를 확보할 수 있게 함으로써 결정 과정을 더욱 신속하고 효율적으로 만들어 줍니다. 예를 들어, 특정 지침에 대한 질문을 LLM에게 입력하면, 해당 규정을 자동적으로 찾아내어 중요한 정보를 제공함으로써 불필요한 검색 시간을 절약하게 됩니다.

  • 4-3. RPA 연계 프로세스 자동화

  • RPA(로봇 프로세스 자동화) 기술과 LLM을 결합함으로써 반복적이고 정형화된 행정 업무를 자동화할 계획입니다. RPA는 정해진 규칙에 따라 자동으로 작업을 수행하는 소프트웨어를 의미하는데, 이를 통해 공무원들이 수행해야 했던 수작업 업무를 최소화할 수 있습니다. LLM은 필요한 정보를 제공하고, 작업을 효율적으로 처리할 수 있도록 지원하여, 공무원들이 더욱 가치 있는 업무에 집중할 수 있도록 돕습니다. 이러한 연계는 업무의 질을 향상시킬 뿐만 아니라, 시민 서비스의 개선에도 기여할 것입니다.

5. 시민 참여 및 피드백 고도화

  • 5-1. 의견 수집 및 분석

  • 서울시는 AI를 활용하여 시민의 의견을 보다 효과적으로 수집하고 분석하는 시스템을 구축하고 있습니다. 이 시스템은 시민들이 직접 민원을 제기하거나 제안할 수 있는 다양한 채널을 제공하며, 수집된 데이터는 자연어 처리(NLP) 기술을 통해 자동으로 분류되고 분석됩니다. 예를 들어, 특정 키워드가 포함된 민원이나 제안은 자동으로 관련 부서에 전달되며, 이를 통해 시민의 목소리를 신속하게 반영할 수 있는 체계를 마련하고 있습니다.

  • 특히, 서울시는 'AI로 제안하는 아이디어톤'과 같은 행사에서 적극적으로 시민의 의견을 수렴하고 있으며, 이러한 행사는 시민들이 직접 AI를 활용한 아이디어를 제출하고, 전문가 및 동료 시민들과 함께 심사하는 방식으로 진행됩니다. 이러한 마라톤형 경연에서는 AI 활용 아이디어가 많게는 375건에 달하는 등 시민들의 높은 참여율을 나타내고 있습니다.

  • 5-2. 감정 분석을 통한 서비스 개선

  • 수집된 시민 의견과 피드백을 단순히 수치로 나열하는 것을 넘어, 서울시는 감정 분석 기술을 활용하여 시민의 감정을 보다 깊이 있게 이해하고자 합니다. 감정 분석은 시민들이 제출한 민원, 제안 또는 피드백의 감정을 긍정적, 부정적, 중립적으로 분류하면서, 해당 정보에 대한 인사이트를 제공합니다.

  • 이런 방식으로 분석된 감정 데이터는 서비스 개선의 기초 자료로 활용되며, 시민이 느끼는 직접적인 불만 사항을 파악하여 시설 관리나 서비스 향상이 이루어지도록 하고 있습니다. 예를 들어, 특정 분야에서 부정적인 피드백이 지속적으로 발생한다면, 해당 분야의 서비스를 더욱 개선하기 위한 정책 수립이 절실하게 필요함을 시사합니다.

  • 5-3. 공공 아이디어톤 연계

  • 서울시는 공공 아이디어톤을 통해 시민들이 직접 행정 서비스의 개선 사항을 제안할 수 있는 기회를 제공합니다. 이러한 아이디어톤은 특별한 경연 방식으로 진행되며, 시민, 전문가, 직원 등이 함께 조직되어 우수한 아이디어들을 공동으로 발굴합니다. 중앙에서 주최되는 이행사에서는 제출된 아이디어가 실질적인 서비스 개선으로 이어지도록 후속 조치가 이루어집니다.

  • 예를 들어, 이번 'AI로 제안하는 아이디어톤'에서는 내부 프로세스 및 대시민 서비스 개선을 위한 아이디어가 제안되었고, 선정된 아이디어는 즉시 실행하도록 계획되었습니다. 이를 통해 시민들은 직접 제안한 서비스 개선 사항이 현실로 반영되는 과정을 보고 경험할 수 있어, 행정에 대한 신뢰를 높이는 효과도 기대할 수 있습니다.

6. 공무원 AI 역량 강화 교육 프로그램

  • 6-1. Introduction to AI Programming 과정

  • AI Programming 과정은 공공 부문 혁신을 지원하기 위한 실용적인 프로그래밍 기술을 제공하는 교육 프로그램입니다. 이 과정은 인공지능에 대한 경험이 적은 공무원이나 행정 전문가를 대상으로 만들어졌으며, AI 도구가 정부 워크플로우 내에서 어떻게 구축되고 활용될 수 있는지를 배우게 됩니다.

  • 교육 내용은 AI의 핵심 개념, 대규모 언어 모델 및 API 활용 방법, 그리고 AI 프로토타입 개발을 포함합니다. 참가자들은 기본적인 Python 프로그래밍 기술을 배우고, 이를 통해 시민 서비스를 위한 챗봇 개발 또는 데이터 분석과 같은 실제 사례를 다룰 수 있는 역량을 갖추게 됩니다.

  • 또한, AI 개발 시 주의해야 할 프라이버시, 설명 가능성, 준수 등 다양한 위험 요소를 평가하는 방법도 배우며, 교육을 통해 참가자들은 공공 부문에서의 AI 적용 가능성을 심층적으로 탐구하는 기회를 얻게 됩니다.

  • 6-2. ChatGPT 활용 교육 과정

  • ChatGPT 활용 교육 과정은 공공 부문에서 ChatGPT를 효과적으로 사용할 수 있는 방법을 목표로 하는 교육입니다. 이 과정은 AI 도구에 익숙하지 않은 공무원과 커뮤니케이션 전문가들에게 적합합니다.

  • 참가자들은 ChatGPT를 사용하여 공공 메시지, 안내 및 소셜 미디어 콘텐츠를 작성하고, 다양한 이해관계자에 맞춰 메시지를 조정하는 기술을 학습합니다. 교육 후, 참가자들은 AI 도구를 이용하여 공공 서비스를 개선하고 시민소통을 효율적으로 증진할 수 있는 능력을 갖추게 됩니다.

  • 또한, ChatGPT를 활용한 다국어 서비스 제공 및 문화적 맥락에 맞춘 콘텐츠 조정 방법도 포함되어 있어, 더 넓은 범위의 시민과의 소통을 도모하게 됩니다.

  • 6-3. 지속적 역량 강화 체계

  • 공무원 AI 역량 강화 교육 프로그램의 일환으로, 지속적인 역량 강화를 위한 체계를 마련하는 것이 중요합니다. 이는 정기적인 교육뿐만 아니라, AI 기술의 최신 동향과 사례를 반영한 프로세스를 통해 이루어져야 합니다.

  • 지속적인 교육 프로그램은 AI 도구의 지속적 변화에 대응하고, 공공 부문 종사자들이 최신 기술과 도구를 빠르게 습득할 수 있는 기회를 제공합니다. 이를 위해 온라인 교육 플랫폼을 통해 언제 어디서나 교육을 제공할 수 있는 시스템을 구축하고, 실제 사례를 바탕으로 한 프로젝트 중심의 교육을 강화하는 것이 필수적입니다.

  • 또한, 교육 참가자 간의 네트워킹 및 경험 공유를 통해 협업과 아이디어 교환이 이루어질 수 있는 커뮤니티를 활성화하는 것도 중요한 요소가 될 것입니다.

결론

  • 서울시의 AI 민원 시스템 도입은 행정업무의 혁신을 의미하며, 전용 LLM과 챗봇 2.0이 실현되면 민원 처리에서 두 가지 주요 목표—시간 단축과 서비스 품질 향상—을 동시에 달성할 수 있을 것입니다.

  • 이러한 시스템의 핵심 기능은 자동 분류, 응답 생성, 내부 문서 지원, 시민 감정 분석 등으로 구성되어 있으며, 이들은 유기적으로 결합하여 더 빠르고 정확한 민원 처리를 가능하게 합니다. 공무원의 부담을 줄이는 동시에 시민들의 신뢰를 높이는 데 기여할 것으로 예상됩니다.

  • 나아가, RPA와 API 연계를 통해 부서 간 데이터 공유를 확대하고, 지속적인 AI 성능 튜닝 및 공무원 교육 시스템을 마련함으로써 스마트 행정 혁신을 완성해야 합니다. 이는 서울시가 공공 서비스의 디지털 격차를 줄이고, 민원 서비스의 획기적인 변화를 이끌어 낼 수 있는 기반이 될 것입니다.

  • 결국, 서울시는 이러한 혁신을 통해 'AI 행정'의 선두주자로 자리매김하고, 다른 지방자치단체에 모델이 되는 과정을 거치며, 혁신적이고 지속 가능한 행정 체계를 구축해 나갈 것입니다.

용어집

  • AI 행정: 인공지능(AI)을 활용하여 행정 서비스를 개선하고 효율화를 꾀하는 방안을 의미합니다. 이는 민원 처리, 서비스 제공, 데이터 분석 등을 포함하여 공공 부문에 혁신을 가져오는 데 기여하고 있습니다.
  • 챗봇 2.0: 서울시가 기존 챗봇의 한계를 극복하고 생성형 AI를 활용하여 민원 처리를 효율화하기 위해 개발 중인 고도화된 챗봇 시스템입니다. 이는 시민이 AI와 실시간으로 상호작용하며 필요한 정보를 얻을 수 있도록 돕고 있습니다.
  • LLM(대규모 언어 모델): 대량의 데이터로 학습되어 자연어 처리(NLP) 능력을 갖춘 인공지능 모델을 말합니다. 서울시는 이를 통해 공무원들이 반복적인 업무를 지원하고, 민원에 대해 유연한 대응을 할 수 있도록 시스템을 구축하고 있습니다.
  • 서울톡: 서울시가 시민과 AI 간의 실시간 소통을 위해 구축한 시스템입니다. 이 플랫폼을 통해 시민들은 AI와 상호작용하며 필요한 정보를 얻을 수 있으며, 민원 사항을 신속하게 해결할 수 있는 기능을 제공합니다.
  • 실시간 응답: 민원이 접수되었을 때 즉각적으로 AI가 응답하는 시스템을 의미합니다. 이는 민원 처리 속도를 높이고 시민의 만족도를 극대화하기 위해 필수적으로 활용됩니다.
  • 자연어 처리(NLP): 컴퓨터가 인간의 언어를 이해하고 처리하는 기술로, 기계 번역, 감정 분석, 챗봇의 응답 생성 등 다양한 응용 분야에서 활용되고 있습니다. 서울시의 AI 서비스에서도 중요한 역할을 수행하고 있습니다.
  • 업무 효율화: 行정 및 업무 과정을 개선하여 더 적은 자원으로 더 높은 성과를 내는 것을 의미합니다. 서울시는 AI 도입을 통해 공무원의 반복 업무를 줄이고 서비스 품질을 높이려 하고 있습니다.
  • 공무원 교육: AI 및 기술 활용 능력을 갖춘 공무원을 양성하기 위한 교육 프로그램을 의미합니다. 서울시는 AI 프로그래밍, ChatGPT 활용 및 지속적 역량 강화 체계를 통해 공무원의 기술 역량을 제고하고 있습니다.
  • 시민 참여: 시민들이 행정 및 정책 결정에 적극적으로 참여하는 것을 의미합니다. 서울시는 다양한 플랫폼을 통해 시민의 의견을 수렴하고 이를 행정에 반영함으로써 소통의 질을 높이고 있습니다.
  • 생성형 AI: 기존의 규칙 기반 시스템을 넘어, 데이터에 기반하여 적응적이고 유연한 방식으로 응답을 제공하는 인공지능 기술입니다. 서울시는 이를 통해 민원 처리의 질을 높이고 있습니다.
  • RPA(로봇 프로세스 자동화): 소프트웨어를 활용하여 반복적이고 정형화된 작업을 자동으로 수행하는 기술을 의미합니다. 서울시는 이를 통해 공무원들의 수작업 부담을 줄일 계획입니다.

출처 문서