가상정보 악용 방지를 위한 인공지능 생성 콘텐츠 표시제 분석
목차
- 요약
- 배경과 필요성
- 법안의 주요 내용
- 주요 사례 및 규제 현황
- 사회적 기대효과
- 결론
1. 요약
이 리포트는 인공지능 기술 발전으로 인한 가짜 정보 및 딥페이크 문제를 해결하기 위해 제안된 인공지능 생성 콘텐츠 표시제에 대해 다룹니다. 법안의 필요성, 주요 내용 및 사회적 기대효과를 중심으로 분석합니다. 딥페이크 생성물의 급증과 이에 따른 범죄 사례를 조명하고, 김장겸 의원이 제안한 정보통신망법 개정안의 주요 내용과 주요 규제 현황을 설명합니다. 리포트는 이러한 법안이 정보의 신뢰성을 높이고, 범죄를 예방하며, 사회적 신뢰를 회복하는 데 기여할 것이라는 사회적 기대효과를 다룹니다.
2. 배경과 필요성
2-1. AI 기술 발전과 딥페이크 문제
최근 인공지능 기술의 발전으로 인해 합성된 영상과 음성을 쉽게 생성할 수 있는 환경이 조성되었습니다. 이에 따라, 유명인의 얼굴과 목소리를 이용한 딥페이크 생성물이 증가하고 있으며, 이러한 물질은 종종 '리딩방 사기'와 같은 범죄에 활용되고 있습니다. 특히 허위의 성적 영상이 무분별하게 유포되는 현상이 심각한 사회 문제로 대두되고 있습니다. 딥페이크 영상의 피해는 대학생, 여군, 교사뿐만 아니라 중고교생 등 미성년자에게도 영향을 미치고 있습니다.
2-2. 사회적 피해 사례
김장겸 의원의 보고서에 따르면, 딥페이크와 관련된 범죄는 법적 대응이 어려운 점에서 문제를 야기하고 있습니다. 이를 방지하기 위해 국민동의청원이 등장하는 등의 사회적 반응이 일어나고 있습니다. 현재 법적인 한계로 인해 방송통신심의위원회는 불법정보에 대해서만 삭제 및 차단 요구를 할 수 있으며, 시정명령이 이행되지 않을 경우 형사 고발이 가능하나, 대량으로 쏟아지는 불법 유통물에 대한 즉각적이고 실효적인 대응은 매우 어렵다는 지적이 있습니다.
2-3. 법안 도입 배경
김장겸 의원은 '포털·플랫폼 딥페이크 표시의무제'를 골자로 하는 정보통신망법 개정안을 대표발의하였습니다. 이 법안은 불법 AI 생성물 유포를 미리 차단하기 위해 포털 및 플랫폼의 역할과 책임을 규명한 것입니다. 개정안의 주요 내용은 AI 기술을 이용해 생성된 가상의 정보인지 여부를 명확히 표시할 수 있는 기능을 포털 및 플랫폼 사업자가 제공해야 한다는 것입니다. 이를 통해 정보 이용자들이 AI 생성물을 쉽게 식별할 수 있도록 하는 것이 목표입니다.
3. 법안의 주요 내용
3-1. AI 생성물의 의무 표시
김장겸 의원이 대표발의한 정보통신망법 개정안에 따르면, 일정 규모 이상의 포털 및 플랫폼 사업자는 AI 기술을 통해 생성된 정보를 쉽게 식별할 수 있도록 표시하는 기능을 제공해야 합니다. 이를 통해 정보 이용자가 AI 생성물 여부를 분명히 알 수 있도록 하는 것이 목적입니다.
3-2. 과태료 및 처벌 조항
포털·플랫폼 사업자가 딥페이크 표시 방법을 제공하지 않는 경우, 1,000만원 이하의 과태료를 부과하도록 규정하였습니다. 또한 표시의무를 위반한 AI 생성물에 대해 탐지 및 삭제 등 유통 방지 조치를 취해야 하며, 이를 이행하지 않을 경우에는 경고 및 이용정지 등의 제재 조치를 취할 수 있습니다.
3-3. 이용자 및 콘텐츠 제작자의 책임
정보를 게재하고자 하는 이용자에게는 AI 생성물 표시 의무가 부과되며, 이들은 표시를 임의로 제거하거나 훼손할 수 없습니다. 이러한 규정은 플랫폼 사업자가 표시의무를 이행하지 않거나 임의로 제거·훼손한 이용자에게 경고 및 이용중지, 수익 제한 등의 조치를 할 수 있도록 하고 있습니다.
3-4. 포털·플랫폼 사업자의 의무
포털·플랫폼 사업자는 AI 생성물의 표시의무를 이행해야 하며, 이를 위해 AI 개발자에게 판독 방법을 제공할 의무가 있습니다. 이 개정안은 불법 AI 생성물의 유포를 선제적으로 차단하기 위한 포털·플랫폼의 책임과 역할을 명확히 규정하고 있습니다.
4. 주요 사례 및 규제 현황
4-1. 국내외 정책 현황
2023년 2월, 미국의 데이터혁신센터(CFDI)에서는 ‘AI 혁신을 위한 10대 규제 원칙’을 발표하였습니다. 미국 저작권청(USCO)은 AI에 의해 생성된 자료를 포함하는 저작물 등록에 대한 가이드라인을 제시하며, AI로 생성한 결과물도 기존 저작물과 동등하게 저작권 심사를 받을 수 있는 기회를 제공하되, 사람의 창의성이 드러나야 한다고 규정하였습니다. 이는 AI가 만든 생성물이 단순히 배열하거나 수정하는 것에 국한되지 않고, 사람의 직접적인 참여가 필요함을 강조합니다. 중국에서는 2023년 1월 10일 시행된 ‘인터넷정보서비스 심층종합관리규정’에 따라 AI를 활용해 생성된 딥페이크나 합성 이미지에 대한 지침을 발표하였습니다. AI 생성 이미지는 법률과 행정 법규에 의해 금지되는 활동에 사용되어서는 안 되며, 사람 얼굴이 등장하는 콘텐츠에는 '이 그림은 AI에 의해 생성되었습니다'라는 워터마크를 부착해야 합니다. 유럽연합은 인공지능법(Artificial Intelligence Act, AIA)을 제정하여 AI를 위험도에 따라 3단계로 분류하고, AI로 생성된 자산에 대한 지식 재산 보호를 위한 내용을 포함하고 있습니다.
4-2. 유튜브의 AI 라벨 정책
KISDI 보고서에 따르면, 유튜브는 2023년 3월부터 크리에이터에게 영상 업로드 시 AI 사용 여부를 반드시 표시하도록 의무화했습니다. 이를 통해 콘텐츠 일부가 변형·합성되었다는 라벨을 추가하거나 민감한 주제를 다룬 콘텐츠의 경우 눈에 띄는 라벨을 표시하게 됩니다. 만약 크리에이터가 이러한 정보를 공개하지 않을 경우, 문제 있는 콘텐츠는 삭제될 수 있으며, 유튜브 파트너 프로그램에서 제외될 수 있는 불이익도 주어집니다. 그러나 명백히 비현실적인 콘텐츠나 애니메이션, 특수 효과가 포함된 콘텐츠는 AI 라벨 정책의 적용에서 제외되어 허위 정보가 무분별하게 수용될 우려가 커지고 있습니다. KISDI의 노은정 전문연구원은 어린이들이 딥페이크 콘텐츠의 조작 여부를 인지하지 못할 위험성이 크므로, 애니메이션 또한 AI 라벨 등록 대상으로 삼아야 한다고 주장하였습니다.
4-3. 다른 국가들의 규제 사례
미국, 중국, 유럽연합 외에도 캐나다는 ‘디지털 헌장(Digital Charter)’을 통해 AI 활용에 대한 규제를 강화하고 있습니다. 이러한 다양한 규제 사례들은 AI를 통한 정보 생성이 늘어남에 따라 각국에서 신뢰성을 제고하고 사회적 위험을 최소화하기 위한 노력의 일환으로 볼 수 있습니다. 각국은 AI의 발전에 따른 법적 및 윤리적 문제를 해결하고자 구체적인 규제를 도입하고 있으며, 이는 AI 기술의 안전한 활용을 위한 필수적인 조치로 평가받고 있습니다.
5. 사회적 기대효과
5-1. 정보의 신뢰성 향상
인공지능 생성 콘텐츠 표시제의 도입으로 사용자는 가상 정보와 실제 정보를 명확히 구분할 수 있게 됩니다. 이는 AI 기술이 생산한 콘텐츠에 대한 신뢰도를 높여, 사용자들이 허위 정보에 속지 않고 보다 정확한 정보를 접하게 할 수 있는 기반을 마련합니다.
5-2. 악용 방지 및 범죄 예방
김장겸 의원이 대표발의한 '플랫폼 딥페이크 표시의무제'는 AI 기술을 이용한 부정적인 악용 사례, 특히 성적 내용의 딥페이크 영상에 의한 범죄를 사전에 차단할 수 있도록 설계되었습니다. 개정안에 따르면, 일정 규모 이상의 포털 및 플랫폼 사업자는 AI 생성물에 대한 표시 기능을 의무적으로 제공해야 하며, 이를 통해 불법 유통물의 신속한 탐지와 삭제가 가능해집니다.
5-3. 사회적 신뢰 회복
AI 생성 콘텐츠에 대한 명확한 표시 의무화는 범죄 예방 외에도, 사회 전반에서 정보의 신뢰성을 회복하는 데 기여할 것으로 기대됩니다. 법안이 시행되면 가상 정보와 실제 사실을 구분할 수 있어, 사회적 혼란이 줄어들고, 이는 궁극적으로 국민의 안전과 신뢰를 증진시키는 결과를 초래할 것입니다.
6. 결론
인공지능 생성 콘텐츠 표시제는 디지털 정보 환경의 신뢰성을 높이고 사회적 위험을 최소화하기 위한 필수적인 조치입니다. 법안의 시행을 통해 AI 기술의 긍정적인 면을 최대한 살리면서도, 딥페이크와 같은 악용으로 인한 부정적인 면은 제거할 수 있는 기반을 마련할 수 있습니다. 이를 통해 보다 안전하고 신뢰성 있는 디지털 환경을 구축할 수 있을 것으로 기대됩니다. 김장겸 의원이 발의한 이 법안은 AI 생성물의 명확한 표시를 통해 정보 이용자들에게 신뢰를 제공하고, 포털 및 플랫폼 사업자가 불법 유통물을 신속하게 탐지하고 삭제할 수 있는 법적 근거를 마련합니다. 그러나 제도 시행 이후에도 지속적인 모니터링과 보완이 필요하며, 이를 통해 법안의 실효성을 높여 나가야 할 것입니다. 미래에는 AI 기술이 더욱 발전함에 따라, 법적 제도 역시 이에 발맞춰 진화할 필요가 있습니다. 성공적인 시행을 위해선 각국의 사례를 참조하는 것도 중요합니다.