2024년 12월 26일, 한국의 'AI 기본법'이 국회 본회의를 통과하면서 세계에서 두 번째로 인공지능 산업을 법제화한 사례가 되었다. 이 법안은 인공지능 기술을 통해 산업을 발전시키고, 신뢰와 안전 기반을 마련하겠다는 목표를 가지고 있으며, 이에 따라 AI 추진체계 구축, R&D 및 데이터센터 지원을 포함한 여러 조항이 포함되었다. 특히, 본 법안은 1년의 유예기간을 거쳐 2026년 1월부터 본격 시행될 예정이다. 하지만 법안 내용을 둘러싸고 안전과 인권 보호 측면에서의 우려가 커지고 있다. 금지 AI 조항이 부재하고, 고위험 AI에 대한 규제와 정의가 모호하여 산업 혁신을 저해할 가능성이 우려된다. 이러한 맥락에서 인터넷기업협회는 과도한 규제가 산업 발전을 저해할 것이라는 보고서를 발표했으며, EU AI법 설계자 가브리엘레 마치니는 리스크 기반 접근법의 채택을 강조했다. 한국의 AI 기본법 제정에는 이제 구체적인 고위험 AI 기준 수립과 법 개정 논의가 필요한 상황이다.
AI 기본법의 주요 내용 중 하나는 AI 안전 연구소 운영 및 국가인공지능위원회 설치를 통한 산업 육성 지원 조항이다. 이에 따라 정부는 인공지능 기술의 안전하고 윤리적인 활용을 위한 기반을 마련할 수 있을 것으로 기대된다. 그러나 이에 대한 실제 실행 가능성과 고위험 AI에 대한 구체적인 가이드라인의 필요성이 커지고 있다. 특히, 유예기간 동안 정부는 업계와 협력하여 이러한 가이드라인을 체계적으로 마련해야 하며, 여러 업계 전문가들은 이러한 작업이 법의 시행 이후의 혼란을 최소화하는 데 필수적이라고 강조하고 있다.
결과적으로, 한국 AI 기본법은 산업의 빠른 발전을 도모하면서도 안전과 인권 보호라는 두 가지 목표 간의 균형을 이루어야 하는 복잡한 상황에 직면하고 있다. AI 기술의 발전 속도와 산업의 변화에 능동적으로 대처하기 위해서는 모든 이해관계자 간의 협력이 필수적이며, 특히 법안의 세부조항들이 명확히 규정되어야 기업들이 법적 정의와 규제를 효율적으로 준수할 수 있는 환경이 조성될 것이다.
2024년 12월 26일, 한국의 'AI 기본법'이 국회 본회의에서 통과되었다. 이 법은 인공지능 산업의 법적 프레임워크를 제공하며, 산업 발전과 신뢰 기반 조성에 기여하고자 하는 목표를 담고 있다. 이 법안은 2020년 처음 발의된 이후, 다양한 논의와 수정 과정을 거쳐 4년 만에 완료된 것이다. 본회의에서 통과된 이 법은 이제 유럽연합(EU)에 이어 세계에서 두 번째로 공식화된 AI 관련 법안이 되었다. 이는 한국 정부가 AI 산업의 발전을 위해 강력한 법적 뒷받침을 마련한 것으로 평가받고 있다.
AI 기본법은 AI 산업을 진흥하기 위해 다양한 지원 조항을 포함하고 있다. 여기에는 ▲AI 기본계획 수립 및 시행, ▲국가인공지능위원회 설치, ▲AI 안전 연구소 운영 등이 포함된다. 이러한 조항들은 정부가 AI 기술과 관련된 다양한 연구 및 실용화 사업을 지원할 수 있는 법적 근거를 제공한다. 또한, 고영향 AI 및 생성형 AI와 관련하여 사업자가 준수해야 할 의무도 부과되어 있으며, 이는 이용자에게 사전 고지해야 하는 의무를 포함한다. 업계 관계자들은 이러한 조항이 AI 기술의 안전한 활용과 산업 발전에 기여할 것이라고 기대하고 있다.
AI 기본법은 본회의 통과 후 국무회의 의결 및 공포 절차를 거친 뒤 1년의 유예기간을 둔 뒤 2026년 1월부터 본격 시행될 예정이다. 이 유예기간 동안 정부는 AI 기본법의 시행령을 제정하고, 관련 업계와 협력하여 세부적인 가이드라인을 마련해야 한다. 특히, 유예기간 내에 고영향 AI에 관한 세부 기준과 가이드라인의 구체화가 매우 중요하다는 지적이 많다. 여러 업계 관계자들은 이러한 준비가 법의 시행 이후 산업계의 혼란을 최소화하는 데 필수적이라고 강조하고 있다.
2024년 12월 26일, 한국 국회의 법사위에서 'AI 기본법'이 통과되기 전, 안전·인권 보호에 관한 논란이 있었습니다. 특히 해당 법안에서 금지 AI 조항이 부재하다는 점이 우려를 불러일으켰습니다. 금지 AI란, 인권 침해의 가능성이 있는 AI 시스템을 의미하며, 예를 들어 공공장소에서의 실시간 생체 인식 시스템이나 감정 인식 시스템 등이 이에 해당합니다. 이러한 시스템은 유럽연합의 AI법에서는 명백히 금지되고 있습니다. 그러나 한국의 AI 기본법에서는 그러한 시스템에 대한 명시적 금지 조항이 없습니다.
AI 기본법은 고영향 AI를 정의하고 이를 규제하는 근거는 마련했으나, 법안의 내용이 실제 인권을 보호하는 데에는 한계가 있다는 지적이 있습니다. 예를 들어, AI에 의해 영향을 받는 개인이 그 결과에 대해 설명을 받거나 이의를 제기할 수 있는 권리는 보장되지만, 그 규제의 실효성에 대해서는 회의적인 시각이 많습니다. 고영향 AI 시스템에서 발생할 수 있는 인권 침해 사례, 예를 들어 불공정한 채용이나 대출 결정을 초래할 수 있는 AI 기능에 대해 최소한의 규제가 수립되었지만, 이러한 규정이 현실적으로 이행될 수 있을지에 대한 의문이 제기되고 있습니다.
AI 기본법이 국회를 통과하기 전, 법사위에서는 AI의 발전을 장려하면서도 안전과 인권을 보호해야 한다는 점에 대한 논의가 있었습니다. 그러나 이러한 논의가 실질적인 법안의 내용으로 반영되지는 않았다는 점이 비판받고 있습니다. 예를 들어, 국가 안보 목적의 AI는 AI 기본법의 적용을 받지 않도록 예외로 두어, 이로 인해 국가의 안전을 이유로 시민 감시를 정당화할 수 있는 여지가 생기고 있습니다. 이는 과거 민간인 사찰과 같은 문제를 고려할 때 심각한 우려를 낳고 있습니다.
AI 기본법의 제정된 규정은 여러 면에서 모호성을 지니고 있으며, 이는 AI 산업의 발전에 심각한 영향을 미칠 수 있다. 특히, '고위험 AI'의 정의는 '사람의 생명, 신체 안전, 기본권에 대한 중대한 영향을 미칠 우려'라는 기준에 근거하고 있으나, 이를 구체적으로 규명할 기준이 부재하다는 점이 문제로 지적되고 있다. 이러한 모호성은 기업이 어떤 기술이 규제 대상인지 판단하기 어렵게 만들어, 기술 개발 시점을 잃거나 불필요한 법적 책임을 우려하게 만든다. 예를 들어, 데이터의 품질 및 공정성 기준이나 윤리적 기준 또한 명확하지 않아서, 실질적으로 어떤 AI 솔루션이 법의 보호를 받거나 위협을 받을지를 판단하기 어려운 상황에 처해 있다.
AI 기본법은 고위험 AI와 생성형 AI에 대한 투명성 의무를 명시하고 있으며, 이는 위험 평가, 인증, 영향을 사전에 평가하는 과정을 포함하고 있다. 그러나 이러한 요구는 기업들에게 과도한 행정적 및 재정적 부담으로 작용할 수 있다. 이는 특히 기술 변화가 급속하게 일어나는 AI 산업에서 시장 출시 속도를 더욱 느리게 만들고, 기업의 혁신 능력을 저해하는 결과를 초래할 수 있다. 보고서는 이러한 규제가 실질적으로 기업의 기술 개발을 방해하고 있다는 점을 강조하고 있으며, 이는 세계 시장에서의 경쟁력을 약화시킬 수 있다고 경고하고 있다.
2024년 12월 31일, 인터넷기업협회 디지털경제연구원은 '산업을 가로막는 진흥법: AI 기본법의 역설'이라는 주제로 이슈페이퍼를 발표하였다. 이 보고서는 AI 기본법이 제정되었음에도 불구하고, 과도한 규제로 인해 산업 발전이 저해될 것이라는 우려를 담고 있다. 특히, 보고서는 규제가 지나치게 포괄적이며, 반면에 통제적이고 과도한 정부 규제 권한이 부여되고 있다는 점을 지적하고 있다. 이로 인해 기업들이 글로벌 경쟁에서 뒤처질 가능성이 커지며, 이러한 규제가 실제로는 혁신의 발목을 잡는 대신 오히려 시장에서의 생존을 어렵게 만들 수 있음을 강조하고 있다.
유럽연합(EU)은 AI 기술 규제에 있어 리스크 기반 접근 방식을 채택하여 AI 기술을 저위험, 제한된 위험, 고위험, 허용할 수 없는 위험 등 4가지 등급으로 분류한다. 이 방안은 인공지능이 발생시킬 수 있는 다양한 위험 요소를 사전에 판단하고, 이에 따라 각 등급별로 서서히 강도 높은 규제를 시행함으로써 AI의 안전성을 확보하고 있다. 이 방식은 기업들이 AI 기술을 도입할 때 자율성을 부여하고, 동시에 예방적 조치를 강화하는 것이 핵심이다. 즉, 안전한 고위험 AI의 개발을 촉진하기 위한 환경이 조성된다는 점에서 의미가 크다.
EU AI법은 강력한 과징금 규정을 포함하여 AI 기술을 위반할 경우, 기업의 전체 매출의 최대 7% 또는 약 505억 원의 과징금을 부과하는 조치를 명시하고 있다. 이는 기업들이 보다 주의 깊게 규제 준수에 나서게 하려는 의도를 담고 있으며, AI 기술의 사용에 따른 책임을 명확히 하는 데 기여한다. 따라서 기업들이 AI 관련 법을 준수하지 않을 경우 발생할 수 있는 막대한 경제적 부담은 규제 준수의 필요성을 더욱 부각시키고 있다.
가브리엘레 마치니 박사는 AI 규제와 관련하여 정책 입안자들이 과대광고와 감정적 반응 또는 추측에 의존하지 말고, 근거 기반의 증거와 철저한 평가 절차에 집중할 것을 촉구하고 있다. 즉, 새로운 규제가 도입되기 전에는 현재의 문제가 기존 법률에 의해 해결되고 있는지 먼저 평가해야 한다고 강조한다. 이러한 접근은 AI 기술의 빠른 변화에 대응하고, 정책의 유연성을 유지하는 데 필수적이다. 특히 AI 기술의 발전 속도와 그 복잡성을 감안할 때, 정부와 전문가 간의 긴밀한 협력이 필요하다는 점이 두드러지며, 마치니 박사는 초기에는 혁신과 실험을 지원하는 유연한 규제를 적용하되, 상황이 명확해지면 더 엄격한 규칙을 적용할 수 있어야 한다고 제안하고 있다.
고위험 AI에 대한 규제는 현 AI 기본법의 중요한 구성 요소 중 하나이나, 현재 그 기준이 모호하다. 이는 기술 발전을 저해할 수 있으며, 정부와 산업계 간의 불필요한 갈등을 유발할 수 있다. 이에 따라, 다양한 이해관계자 간의 협의를 통해 고위험 AI에 대한 구체적인 가이드라인을 마련하는 것이 시급하다. EU에서 적용하는 리스크 기반 접근법을 참고하여, 고위험 AI의 정의와 그에 따른 규제 체계가 명확화되어야 한다. 이를 통해 기업이 규정 준수를 위하여 필요한 안전장치를 마련할 수 있도록 지원할 수 있다.
AI 기본법의 시행이 2026년 1월로 예정된 만큼, 유예기간 동안 정부와 기업은 준비를 철저히 해야 한다. 정부는 산업계와의 밀접한 협의를 통해 법적 요구사항에 대한 명확한 안내를 제공해야 하며, 기업은 규제에 대응할 수 있는 역량을 강화할 필요가 있다. 특히, AI의 안전성과 신뢰성을 확보하기 위해 자발적인 표준을 개발하고, 산업별로 맞춤형 가이드라인을 수립해야 한다. 이를 통해 기업은 법적 불확실성을 최소화하고, 기술 혁신을 도모할 수 있는 기반을 마련할 수 있을 것이다.
AI 기본법의 향후 성공적인 시행을 위해서는 국제 표준과의 정합성을 유지하는 것이 필수적이다. 이를 위해, 한국이 EU의 AI 법안을 포함한 다양한 국제 규범들과 잘 조화될 수 있도록 법 개정을 지속적으로 검토해야 한다. 또한, AI 기술은 글로벌한 특성을 갖고 있기 때문에, 국제 사회와의 협조를 통해 각국의 법적 틀과의 충돌을 미연에 방지할 방안을 모색해야 한다. 향후 법 개정 과정에서 한국의 AI 정책이 국제적으로도 신뢰받을 수 있도록 지속적인 정책 연구와 전문가 자문이 필요할 것으로 보인다.
현재로서는 한국 AI 기본법이 산업 진흥과 안전·신뢰 기반 조성을 동시에 목표로 하고 있으나, 금지 AI 조항 부재 및 고위험 AI 가이드라인 미비, 그리고 모호한 규제 정의가 산업 현장에 큰 불확실성을 초래하고 있다. 향후 EU의 사례를 참조하여 리스크 기반 분류 체계를 도입하는 것이 시급하며, 이는 고위험 AI에 대한 구체적인 기준 수립과 함께 이루어져야 할 것이다. 특히, 유예기간 동안 산업계, 학계, 정부 간의 협의가 필수적이며, 이를 통해 각 이해관계자가 만족할 수 있는 균형점을 찾는 노력이 필요하다.
덧붙여, 향후 법 개정 과정에서는 국제 표준과의 정합성을 높여야 한다. 급속히 변화하는 AI 기술 환경 속에서 안정성과 인권 보호가 조화되도록 제도적 보완이 이루어지는 것이 중요하다. 이는 한국의 AI 정책이 국제사회와의 협력 속에서 신뢰를 받을 수 있는 기반이 될 것이며, 안전과 혁신을 동시에 추구할 수 있는 모델을 구축하는 데 기여할 것이다.
궁극적으로, 한국 AI 기본법은 산업의 혁신과 발전 촉진을 가능케 하면서도, 안전과 인권 보호가 동시에 이뤄질 수 있도록 지속적인 정책 연구와 전문가 자문을 통해 진화해 나가야 할 것이다.