딥페이크: 기술 발전과 법적 대응

1. 요약

• 본 리포트는 딥페이크 기술의 빠른 발전으로 인해 발생하는 여러 사회적 문제와 이를 해결하기 위한 법적 대응을 다룬다. 딥페이크는 인공지능을 활용하여 음성이나 영상을 조작하는 기술로, 특히 딥페이크 음란물의 급증 문제를 해결하기 위한 다양한 국제 규제 방안을 분석한다. 최근 딥페이크 기술의 악용으로 성범죄가 심각한 사회적 문제로 대두되고 있으며, 그 해결을 위한 법적 처벌과 국내외 규제 현황, 그리고 사회적 고민들이 주요 내용이다. 이를 통해 딥페이크의 부작용을 예방하고 안전한 디지털 환경 조성을 위한 기초 자료를 제공하고자 한다.

2. 딥페이크 기술의 정의 및 발전

• 2-1. 딥페이크의 개념

• 딥페이크(Deepfake)란 딥러닝(Deep Learning)과 Fake의 합성어로, 인공지능(AI) 기술을 활용하여 사람의 이미지나 음성을 합성하는 기술입니다. 이 기술은 2017년 말 소셜 뉴스 웹사이트 레딧(Reddit)에서 처음으로 사용된 것으로, 이후 가짜뉴스 생성, 디지털 성범죄 확대 등의 문제를 야기하고 있습니다. 딥페이크 음란물은 연예인, 타인, 지인의 사진을 합성하여 배포하는 범죄로, 특히 대학가에서는 피해자가 증가하면서 사회적 문제가 되고 있습니다.

• 2-2. 딥페이크 기술의 발전 배경

• 최근 딥페이크 기술은 급격히 발전해왔으며, 이를 악용한 성적 허위 영상물의 생성과 유포도 증가하고 있습니다. 방송통신심의위원회의 발표에 따르면, 2024년 1월부터 4월까지 딥페이크를 활용한 성적 허위 영상물의 건수는 4,691건으로, 전년 대비 400% 증가했습니다. 이러한 상황에서 텔레그램과 같은 플랫폼을 통해 딥페이크 음란물이 유포되고 있는 실정이며, 이에 대한 법적 제재가 필요한 상황입니다.

3. 딥페이크의 사회적 문제

• 3-1. 딥페이크 음란물의 유포 현황

• 최근 사회에서는 딥페이크 음란물의 생성 및 유포가 급증하고 있습니다. 경찰청 통계에 따르면, 딥페이크 관련 범죄 발생 건수는 2021년 156건에서 2022년 160건, 2023년 180건, 2024년 1~7월에는 297건으로 증가하였습니다. 특히 텔레그램 단체 채팅방을 통해 대량으로 딥페이크 음란물이 유포되었으며, 남녀를 불문하고 성인 및 미성년자에 이르는 폭넓은 피해가 발생하고 있습니다.

• 3-2. 딥페이크 기술의 악용 사례

• 딥페이크 기술은 인공지능 기반 이미지 합성을 통해 가짜 영상을 만들고 유포하게 됩니다. 이러한 기술이 저조한 품질의 영상에서 고화질로의 변환 등 긍정적인 용도로도 사용가능하지만, 음란물 제작에 악용되는 경우가 빈번합니다. 예를 들어, 최근 미국에서는 세계적인 팝스타의 얼굴이 합성된 딥페이크 음란물이 유포되어 논란이 되기도 했습니다.

• 3-3. 딥페이크로 인한 피해 사례

• 딥페이크 음란물 피해자들은 성인뿐만 아니라 미성년자까지 포함되며, 이는 사회적 문제로 대두되고 있습니다. 딥페이크 음란물을 제작 및 유포하는 자는 형사상 처벌 대상에 포함되지만, 법적 공백으로 인해 제작자에 대한 처벌이 어려운 경우가 많습니다. 이는 성착취 관련 허위 영상물을 유포한 사람과 비교할 때 더욱 문제가 되고 있습니다. 2020년에는 ‘N번방 사태’로 인하여 성폭력범죄의 처벌 등에 관한 특례법이 개정되었고, 성폭력처벌법 제14조의2에 따라 딥페이크에 대한 처벌 규정이 신설되었으나, 여전히 입법 사각지대가 존재합니다.

4. 법적 대응 현황

• 4-1. 국내 법적 규제 현황

• 딥페이크 음란물 소장용 제작에 대한 처벌이 없다는 점이 문제로 지적되고 있습니다. 지난 2020년 성폭력범죄의 처벌 등에 관한 특례법이 개정되면서 딥페이크 기술에 대한 처벌 규정이 신설되었습니다. 이 법의 제14조의2에 따르면, 딥페이크 음란물을 제작·유포하는 자는 형사상 처벌 대상이 됩니다. 하지만, 실제로 허위영상물을 유포하지 않고 단순히 제작하는 경우에는 처벌 대상이 되지 않는 입법 사각지대가 존재합니다.

• 4-2. 성폭력처벌법의 개정 내용

• 성폭력처벌법은 음란물 제작 및 유포에 대한 처벌을 강화했습니다. 이 법에 따르면 반포 등의 목적으로 얼굴, 신체 또는 음성을 대상으로 한 영상물 또는 음성물을 성적 욕망을 유발하는 형태로 편집·합성·가공하여 반포하는 행위는 처벌됩니다. 이러한 범죄는 5년 이하의 징역 또는 5,000만원 이하의 벌금에 처해질 수 있으며, 영리를 목적으로 한 경우에는 7년 이하의 징역형이 적용될 수 있습니다. 또한, 상습적으로 범죄를 저지른 경우에는 형의 2분의 1까지 가중 처벌될 수 있습니다.

• 4-3. 딥페이크 관련 법적 처벌 사례

• 최근 딥페이크 성범죄가 사회적 문제로 대두되며 관련 범죄 건수가 급증하고 있습니다. 경찰청 통계에 따르면, 딥페이크 관련 범죄 발생 건수는 2021년 156건, 2022년 160건, 2023년 180건, 그리고 2024년 1월부터 7월까지 297건으로 증가하고 있습니다. 이러한 증가세는 개인이 손쉽게 딥페이크를 제작할 수 있는 환경이 조성되었기 때문으로, 각종 오픈 소스 프로그램이 널리 사용되고 있습니다. 이로 인해 많은 피해자가 양산되고 있으며, 피해자 중에는 미성년자도 포함되어 있습니다.

5. 국제적 규제 방안

• 5-1. 유럽연합의 AI법

• 유럽연합(EU)은 2024년 5월, 세계 최초로 AI를 포괄적으로 규제하는 「AI법(Artificial Intelligence Act)」을 제정하였습니다. 이 법은 AI 시스템의 공급자와 사용자에게 투명성 의무를 부과하며, 딥페이크 콘텐츠에 대해서는 명확한 라벨링과 공개 의무를 요구하고 있습니다. AI법은 AI를 잠재적 위험에 따라 금지, 고위험, 제한적 위험, 최소한의 위험으로 분류하고 있으며, 딥페이크는 ‘제한된 위험’에 해당합니다. 법을 위반할 경우, 최대 1,500만 유로 또는 직전 회계 연도 전세계 연간 매출액의 3% 중 더 높은 금액이 벌금으로 부과될 수 있습니다.

• 5-2. 미국 주정부의 딥페이크 규제

• 미국에서는 현재 연방 차원에서 딥페이크를 직접적으로 규제하는 법은 없습니다. 그러나 주정부 차원에서는 선거와 음란물과 관련한 딥페이크 규제가 이루어지고 있습니다. 캘리포니아주는 2019년 10월 선거법 개정을 통해 선거 60일 전부터 후보자에 대해 기만적인 음성 혹은 영상을 배포하는 것을 금지하였고, 텍사스주는 2019년 9월 선거법 개정을 통해 선거 30일 이내에 딥페이크 영상을 게시 및 배포하는 것을 금지하였습니다. 또한, 뉴욕주는 2023년 9월 형법을 개정하여 당사자의 동의 없이 딥페이크를 포함한 디지털로 제작된 성적인 이미지를 의도적으로 유포하거나 게시하는 행위를 금지하고 있습니다.

• 5-3. 글로벌 딥페이크 대응 사례

• 딥페이크 기술의 빠른 발전은 허위정보 유포, 명예훼손, 저작권 침해 등의 사회적 문제를 야기하고 있습니다. 특히, 성적 허위 영상물의 생성 및 유포가 큰 문제로 대두되고 있으며, 방송통신심의위원회에 따르면 2024년 1월부터 4월까지 딥페이크 기술을 악용한 성적 허위 영상물은 4,691건으로 전년 대비 400% 증가하였습니다. 이러한 문제에 대응하기 위해 구글과 유튜브는 딥페이크 탐지 기술을 개발하고, 불법 딥페이크 콘텐츠의 광고를 금지하는 조치를 취하였습니다. 2024년 5월부터는 딥페이크를 활용한 음란물 등을 변경하거나 생성하는 서비스의 광고가 금지되며, 유튜브는 2024년 3월부터 크리에이터가 AI 사용 여부를 영상 업로드 시 표시하도록 의무화하였습니다.

6. 사회적 고민 및 향후 방향

• 6-1. 딥페이크 기술의 잠재적 위험성

• 딥페이크 기술은 인공지능을 기반으로 이미지를 합성하는 기술로, 갈수록 고도화되고 있습니다. 이로 인해 발생한 다양한 부작용이 사회적으로 문제로 대두되고 있습니다. 특히, 딥페이크 음란물의 생성은 사회적 피해를 유발하고 있으며, 이는 미성년자를 포함한 일반인을 대상으로 하는 성범죄로 이어지고 있습니다. 경찰청의 통계에 따르면, 2021년에는 156건이던 딥페이크 관련 범죄 발생 건수가 2024년 1~7월에는 297건으로 증가하였습니다. 이는 딥페이크 기술이 쉽게 접근 가능해지고 비전문가 및 미성년자도 제작에 쉽게 유혹되는 환경이 조성된 탓입니다.

• 6-2. 사회적 인식 제고의 필요성

• 딥페이크 기술의 발전은 많은 이점을 가져올 수 있지만, 그 이면에 도사리고 있는 위험성을 간과해서는 안됩니다. 사회는 현재 딥페이크의 부작용에 대한 인식이 부족한 상황입니다. 딥페이크 기술이 활용된 실제 사례를 통해 사람들에게 경각심을 일깨우는 것이 중요합니다. 예를 들어, 테일러 스위프트의 얼굴이 합성된 음란물이 유포된 사건은 단순한 기술적 문제를 넘어 사회가 직면하고 있는 딥페이크의 위험성을 잘 보여줍니다. 이러한 사건들이 반복되지 않도록 하기 위해서는 교육과 홍보를 통해 사회적 인식을 제고할 필요가 있습니다.

• 6-3. 미래의 법적 대응 방향

• 딥페이크 기술의 발전과 범죄 발생 증가에 따라, 법적 대응 방안도 시급히 요구되고 있습니다. 현재 우리나라는 딥페이크 관련 성범죄에 대한 법적 규제를 강화하고 있습니다. 성폭력처벌법의 개정 및 유럽연합의 AI법 제정과 같은 긍정적인 변화가 있지만, 여전히 입법 사각지대가 존재합니다. 따라서 보다 포괄적이고 체계적인 법적 프레임워크가 필요합니다. 효과적인 법적 대응을 위해 다양한 이해관계자들이 협력하여 디지털 환경에서의 안전성을 강화해야 할 시점입니다.

결론

• 딥페이크 기술의 고도화와 함께 성적 허위 영상물의 유포 등 심각한 사회적 문제를 낳고 있다. 이 문제를 해결하기 위해 국내에서는 성폭력처벌법을 통해 법적 규제가 강화됐지만, 여전히 입법 사각지대가 존재한다는 한계가 드러났다. 유럽연합의 AI법은 딥페이크 콘텐츠의 라벨링과 공개 의무를 부과하여 긍정적 방향을 제시하고 있으나, 더욱 포괄적이고 체계적인 규제 시스템의 필요성이 제기된다. 딥페이크에 대한 사회적 인식 제고 및 다양한 이해관계자 간의 협력이 필요하며, 이러한 노력이 디지털 환경의 안전성을 강화할 것이다. 앞으로 이와 관련된 연구와 정책은 지속적으로 발전해야 하며, 실질적인 법적 프레임워크 구축이 요구된다.

용어집

• 딥페이크 [기술]: 딥페이크는 인공지능을 활용하여 사람의 음성이나 영상을 조작하는 기술로, 최근에는 성적 허위 영상물의 생성과 유포가 큰 사회적 문제로 대두되고 있다. 이 기술은 디지털 성범죄와 허위정보 유포 등 다양한 분야에서 악용되고 있으며, 법적 대응이 시급한 상황이다.

• 성폭력처벌법 [법률]: 성폭력범죄의 처벌 등에 관한 특례법은 딥페이크 관련 범죄에 대한 처벌 규정을 포함하고 있으며, 이를 통해 피해자 보호와 범죄 예방을 목표로 하고 있다. 법 개정은 딥페이크 기술 악용에 대한 경각심을 높이고, 법적 책임을 명확하게 규정하는 데 기여하고 있다.

• AI법 [법률]: 유럽연합이 제정한 AI법은 AI 시스템의 공급자와 사용자에게 투명성 의무를 부과하고, 딥페이크 콘텐츠에 대한 라벨링과 공개 의무를 요구하는 법이다. 이는 딥페이크 기술의 악용을 방지하고, 이용자에게 안전한 디지털 환경을 제공하기 위한 규제 방안으로 마련되었다.

출처 문서

• 딥페이크 음란물 소장용 제작은 처벌 피한다? < 팩트체크 < 이슈&팩트 < 기사본문 - 시사위크https://www.sisaweek.com/news/articleView.html?idxno=217691
• 가짜와 진짜의 경계, 딥페이크의 두 얼굴https://outsourcing.co.kr/news/articleView.html?idxno=99608
• 짙어진 딥페이크의 그림자… "악용하는 사람이 문제" - 머니Shttps://www.moneys.co.kr/article/2024083001311460851