이 리포트는 한국의 공공기관이 OpenAI API를 활용하는 과정에서의 보안 및 법적 이슈를 분석합니다. 한국 공공기관의 거대한 데이터 보유량과 데이터 특성을 설명하며, 개인정보보호위원회의 지침과 한국 개인정보 보호법, 글로벌 AI 규제 동향 등을 다룹니다. 공공기관이 안전하고 효율적으로 OpenAI API를 도입할 수 있는 방안을 제시하고, AI 시스템의 투명성 및 책임성 확보를 위해 필요한 내부 정책과 실천 방안에 대해 논의합니다.
한국의 공공기관은 방대한 데이터를 보유하고 있으며, 그 중에서도 국립중앙도서관이 모든 분야의 데이터를 아카이빙하고 국민이 사용할 수 있도록 할 법적 의무가 있는 기관으로 가장 많은 데이터를 보유하고 있는 것으로 확인되었습니다. 이는 공공기관이 데이터의 소유자로서 중요한 역할을 수행하고 있다는 것을 의미합니다. 또한, 아마존웹서비스(AWS)에서는 공공기관이 보유한 데이터가 디지털공공인프라(DPI)를 통해 국민에게 개방될 경우, 기술 발전의 기반이 된다고 언급하였습니다. 공공기관의 데이터는 정부와 국민 간의 신뢰를 증진시키는 기초가 되고 있으며, 오픈데이터가 정부와 국민을 연결하는 유용한 수단이라고 강조되었습니다.
공개된 데이터 활용의 긍정적인 사례로는 영국의 바이오뱅크를 들 수 있습니다. 이 기관은 50만 명의 자원봉사자가 기부한 유전정보를 외부에 공개하여 세계에서 가장 큰 리서치 개발 플랫폼으로 성장하였으며, 이는 공공 데이터의 개방이 어떻게 사회에 기여할 수 있는지를 보여줍니다. 또한, 인도 정부는 DPI를 도입하여 2013년에서 2019년 사이에 약 34억 달러(한화 약 47조 원)를 절감한 것으로 추정되며, 이는 데이터 개방이 행정 효율성을 높이는 데 기여할 수 있음을 시사합니다. 데이터 공개는 내부 정책과 협업을 통해 보다 나은 서비스 제공으로 이어질 수 있습니다.
개인정보보호위원회는 생성형 인공지능(AI) 서비스 개발에 필요한 ‘공개된 데이터’를 안전하게 사용할 수 있도록 ‘AI 개발·서비스를 위한 공개된 개인정보 처리 안내서’를 마련하였습니다. 이 안내서는 인터넷 상에서 공개된 데이터에 대한 법적 기준을 명확히 하고, 기업들이 AI 개발 및 서비스 단계에서 참고할 수 있도록 하기 위해 작성되었습니다. 인터넷 상의 공개된 데이터는 누구나 합법적으로 접근할 수 있으며, AI 기업들은 이러한 데이터를 웹 스크래핑 등의 방식으로 수집하여 AI 학습 데이터로 활용하고 있습니다. 그러나 공개된 데이터에는 개인정보가 포함될 수 있어, 개인정보 유출에 대한 우려가 제기되고 있습니다. 따라서 개인정보위는 공개된 개인정보 수집 및 활용의 법적 기준을 제시하고, 정당한 이익 조항(개인정보 보호법 제15조)에 따라 공개된 개인정보를 AI 학습 및 서비스 개발에 활용할 수 있는 조건을 명확히 하였으며, 이 조건에는 AI 개발 목적의 정당성, 공개된 개인정보 처리의 필요성, 구체적 이익형량의 3가지 요건이 충족되어야 합니다. 또한, 안내서에서는 개인정보 주체 관리의 중요성과 AI 기업이 모든 안전조치를 의무적으로 시행해야 하는 것은 아니며, 기업의 특성에 맞게 안전조치의 순기능과 부작용을 고려하여 활용할 수 있다고 설명하고 있습니다.
한국의 개인정보 보호법은 개인의 정보 보호를 위한 규정을 포함하고 있으며, AI 서비스 개발 및 활용에 있어서도 이 법의 준수가 필수적입니다. 개인의 신원정보, 금융정보 등 다양한 개인정보의 처리 및 보호와 관련된 세부 규정이 있으며, 이를 통해 개인의 권리를 보호하고 있습니다. AI 기업들은 이러한 법적 기준을 준수해야 하며, 특정 개인정보가 포함된 데이터의 경우, 사전에 이용자의 동의를 받거나 적법한 사유가 있어야 활용할 수 있습니다. 개인정보 보호법은 AI 서비스의 개발과 운영 과정에서 개인정보의 수집, 저장, 처리 및 파기에 대한 명확한 지침을 제공합니다. 특히 법령 제정 및 개정 과정에서 AI 기술 발전을 반영하기 위한 논의가 필요하며, 공공기관은 이에 주의를 기울여야 합니다.
유럽연합의 AI Act는 개인이나 집단을 개인적 특징이나 사회적 행동에 기반하여 평가하는 소셜 스코어링(social scoring)과 '실시간 생체정보 수집 및 식별 시스템'을 포함하여 AI의 위험도를 기준으로 규제를 마련하고 있습니다. 이 법안은 AI를 4개의 카테고리로 나누어 규제하며, 고위험 AI 시스템의 경우 위험 관리 시스템 및 데이터 거버넌스를 구축하여 인간의 직접적인 감독 환경을 제공해야 하며, 특정 가이드라인을 준수해야 합니다. AI의 훈련과 테스트 결과에 대한 기술 문서 공개와 저작권 지침 준수가 요구되는 일반목적 AI(GPAI)와 공공의 안전성을 위하여 AI로 생성된 콘텐츠에 대한 표기, 불법 콘텐츠 생성을 예방하기 위한 조치 등이 포함되었습니다. 이 법안은 유럽 시장 진출을 고려하는 국내 기업들에게도 영향을 미치며, 한국을 포함한 여러 국가들의 AI 법안 마련에 중요한 참고 자료로 작용할 것입니다.
AI 기술의 발전에 따라 시민 참여와 책임성 확보의 필요성이 대두되고 있으며, AI 알고리즘의 투명성과 의사결정 과정에 대한 기술 업계뿐만 아니라 시민사회의 이해가 요구되고 있습니다. AI 시스템 개발의 각 단계에서 시민사회의 참여와 모니터링이 중요해지고 있으며, AI 거버넌스 구축이 필요하다는 목소리가 커지고 있습니다. 미국의 경우 공공기관에서 AI의 안전한 사용을 위한 가이드라인을 마련하였고, AI 기술의 잘못된 사용 사례가 보도되면서 사회적 경각심이 높아지고 있습니다. EU의 인공지능 법안 또한 한국에서 주목을 받고 있으며, 그 제정 차제 및 표현이 모호하다는 점에서 여전히 논란의 여지가 있음을 언급하고 있습니다. 이러한 여러 국제적 동향을 통해 AI의 안전성과 신뢰성을 지키기 위한 시민의 역할과 데이터의 통제권 문제가 더욱 중요해지고 있습니다.
OpenAI는 사용자 데이터를 처리하는 데 있어 투명성을 중시하며, 개인정보 보호와 관련된 법규를 준수해야 할 의무가 있습니다. 특히, 개인정보 보호법에 따라 사용자의 동의를 기반으로 데이터를 수집하고 처리하는 데 기초한 방침을 가지고 있습니다.
AI의 안전한 사용을 위한 노력은 국제적으로 확산되고 있으며, 이에 따라 미국 공공기관은 AI의 안전한 사용을 위한 가이드라인을 수립하고 있습니다. 이러한 가이드라인은 AI 기술 사용 시 발생할 수 있는 문제를 사전에 예방하기 위하여 마련되었습니다. 또한, EU의 인공지능 법안은 AI를 위험도에 따라 4개 카테고리로 구분하여 규제하고 있으며, 이는 한국에서도 주목받고 있습니다. 공공기관에서는 이러한 법적 요구사항을 준수하여 AI 시스템의 개발 및 활용에 신중을 기해야 합니다.
공공기관은 인공지능과 관련된 내부 가이드라인을 체계적으로 마련해야 합니다. 아마존웹서비스(AWS)에 따르면, 공공기관은 방대한 데이터를 보유하고 있으며, 이러한 데이터를 국민에게 개방함으로써 신뢰를 형성하고 기술 발전의 기초를 다질 수 있습니다. 예를 들어, 국립중앙도서관은 국민이 이용할 수 있도록 다양한 분야의 데이터를 아카이빙하고 법적 의무를 다하고 있습니다. 이를 위해서는 데이터 사용의 정책과 기준이 명확히 설정되어야 하며, 데이터 카탈로그 구축 등의 절차가 필요합니다.
직원들이 인공지능 기술을 이해하고 활용할 수 있도록 하는 교육과 지원 체계가 마련되어야 합니다. 데이터트러스트의 토론에서는 AI의 사용자 데이터 활용과 관련하여 시민 참여의 중요성이 강조되었습니다. 따라서 AI 알고리즘의 투명성을 높이고 의사결정 과정에서 시민사회와의 협력이 필요합니다. 특히, 미국의 공공기관들은 AI 안전 사용을 위한 가이드라인을 만들어 시민의 이해를 높이고 있습니다. 이러한 접근은 공공기관이 AI를 활용할 때 중요한 요소가 될 것입니다.
최근 아마존웹서비스(AWS)는 공공기관이 방대한 데이터를 보유하고 있으며, 이를 국민에게 오픈함으로써 신뢰를 증진하고 일자리를 창출할 수 있다고 강조했습니다. AWS는 서울에서 개최된 ‘AWS 퍼블릭 섹터 데이 서울 2024’에서 디지털공공인프라(DPI)의 중요성을 언급하며, DPI가 공공기관 데이터를 어떻게 활용할 수 있는지를 설명했습니다. 특히, 클린트 크로시어 AWS 항공우주·위성 총괄은 오픈 정보가 정부와 국민 간의 신뢰를 쌓는 수단이 될 것이라고 밝혔습니다. 이러한 맥락에서 데이터의 투명한 공개는 AI 시스템의 신뢰성을 높이는 중요한 요소로 작용합니다.
AI 기술의 발전과 함께 공공기관이 AI를 활용하면서 발생할 수 있는 법적 문제에 대한 우려도 높아지고 있습니다. 성균관대학교의 연구에 따르면, 오픈 AI는 AI 모델이 초래할 수 있는 위험을 평가하고 예측하며 인권과 저작권 등의 문제에 대한 목소리가 커지고 있음을 지적했습니다. 이러한 책임 분배 문제는 신뢰할 수 있는 AI 환경을 구축하기 위한 필수적 요소로, 기관들이 올바른 법적 프레임워크 안에서 AI를 운영하도록 해야 합니다. 네이버는 ‘사람을 위한 CLOVA X 활용 가이드’를 통해 AI 윤리 준칙을 제시하고 있습니다. 이에 따라 공공기관은 AI 시스템의 결과에 대해 명확한 책임을 설정하고, 사용자와의 상호작용에서 발생할 수 있는 문제들을 사전에 예방해야 합니다.
리포트의 주요 발견은 한국 공공기관이 OpenAI API를 활용할 때 보안과 법적 측면에서 반드시 고려해야 할 사항들이 많다는 점입니다. 특히, 개인정보보호위원회가 제시한 공개된 개인정보 처리 기준과 한국 개인정보 보호법의 준수가 필수적입니다. 또한, 유럽연합의 AI Act와 같은 글로벌 규제 동향을 이해하고 대응하는 것이 공공기관의 AI 정책 수립에 중요합니다. 리포트는 공공기관이 내부 가이드라인을 명확히 하고, 직원 교육 및 기술적 지원을 통해 AI 기술을 효과적으로 도입할 수 있는 방안을 제안합니다. 이에 따라 AI 시스템의 투명성과 책임성을 보장하며, 국민의 신뢰를 얻기 위한 노력이 필요함을 강조합니다. 추가적으로, AI 기술 발전에 따라 공공기관은 끊임없는 법적 검토와 내부 정책 수정을 통해 지속적으로 개선해야 합니다. 앞으로 AI 기술의 잠재력을 실현하기 위해선 투명하고 책임감 있는 접근이 필수적이며, 이를 통해 공공 서비스의 효율성 또한 높아질 것입니다.
OpenAI는 인공지능 기술을 개발하는 회사로, 자연어 처리(NLP) 등 다양한 AI 서비스를 제공합니다. 그 API는 공공기관에서도 활용될 수 있으나, 보안과 프라이버시 이슈가 중요한 고려사항입니다.
개인정보보호위원회는 한국의 공공기관으로, 개인정보 보호법 준수와 데이터 활용을 지원하는 가이드라인을 제공합니다. AI 개발 시 개인정보 처리 기준을 명확히 하여 보안 문제를 해결하는 데 중요한 역할을 합니다.
유럽연합에서 제정한 AI 관련 법안으로, AI 시스템을 위험도에 따라 분류하고 각 카테고리에 맞는 규제를 적용합니다. 이는 글로벌 AI 규제의 기준으로서, 한국을 비롯한 다른 국가의 AI 법안 마련에 영향을 미칩니다.