딥페이크 위협, 탐지 기술 발전의 열쇠

1. 요약

• 딥페이크 기술은 AI를 활용해 사람의 이미지, 영상, 음성을 합성하여 심각한 사회적 문제를 야기하고 있습니다. 특히, 음란물의 확산으로 인해 이 기술의 부작용이 더욱 도드라지고 있습니다. 본 리포트는 딥페이크 탐지 기술의 발전 현황과 이에 대한 대응 방안을 다루고 있으며, 이를 통해 딥브레인AI, 라온시큐어, 샌즈랩과 같은 기업들이 어떻게 탐지 솔루션을 개발하고 있는지를 설명합니다. 딥페이크 탐지 기술의 상용화가 이루어지고 있지만, 여전히 탐지 기술의 발전 속도는 더디며 실질적인 수익 창출의 어려움이 존재합니다. 또한, 정부는 관련 연구개발을 지원하면서 딥페이크 범죄 예방을 위한 정책을 시행하고 있습니다. 이를 통해 기술적 진보와 사회적 책임을 다하기 위한 노력이 강조되고 있습니다.

2. 딥페이크의 정의와 문제점

• 2-1. 딥페이크의 정의

• 딥페이크는 AI 기술인 ‘딥러닝’과 허위를 의미하는 ‘페이크’의 합성어로, 인공지능(AI) 기술을 활용하여 특정 인물의 얼굴을 음란물에 합성하는 기술입니다. 이러한 딥페이크 성 착취물들은 AI를 이용해 생성되며, 현재 사회적으로 큰 문제로 대두되고 있습니다.

• 2-2. 딥페이크 음란물의 사회적 문제

• 딥페이크 음란물이 텔레그램과 같은 플랫폼을 통해 대량으로 유포되면서 사회적 문제가 되고 있습니다. 이에 따라, 딥브레인AI와 같은 AI 전문 기업들은 딥페이크의 진위를 판별할 수 있는 탐지 솔루션을 학교 및 관공서에 제공하고 있습니다. 이 솔루션은 딥페이크로 의심되는 영상을 즉각적으로 분석하여 결과를 제공합니다. 딥브레인AI는 520만 건의 데이터를 학습하였으며, 추가로 200만 건의 데이터 학습을 통해 탐지 기술의 질적 완성도를 높였습니다. 또한, 경찰청은 이런 탐지 솔루션을 활용하여 딥페이크 기반의 지능형 범죄에 대처하고 있습니다. 뿐만 아니라, 글로벌 빅테크 기업인 인텔과 마이크로소프트도 각각 96%의 정확도로 딥페이크 영상을 탐지하는 기술을 개발하여 상용화하였습니다. 하지만 딥페이크 생성 기술에 비해 탐지 기술의 발전 속도는 느리며, 이는 수익화 방안이 모호하다는 이유로 설명됩니다.

3. 딥페이크 탐지 기술의 발전

• 3-1. 딥페이크 탐지 솔루션의 상용화

• 최근 딥페이크 탐지 솔루션의 상용화가 이루어지고 있습니다. 예를 들어, '딥브레인AI'는 이미지, 오디오, 동영상 등을 분석하여 5~10분 내로 딥페이크 여부를 탐지할 수 있는 솔루션을 개발하였습니다. 이 기업은 총 520만 개의 데이터를 학습시켜, 딥페이크를 생성하는 다양한 기법인 '페이스 제너레이션', '페이스 스왑', '립싱크' 등의 탐지가 가능합니다. 경찰청은 이러한 솔루션을 사용하여 딥페이크 기반의 피싱 및 성 착취와 같은 지능형 범죄에 대응하고 있으며, 탐지율은 약 80%로 수사 방향 설정에 기여하고 있습니다. 또한, 인텔은 96%의 정확도로 딥페이크 영상을 탐지하는 '페이크캐처'를 개발하였으며, 마이크로소프트는 '마이크로소프트 동영상 인증기'를 통해 프레임 단위로 사진 및 영상을 판독하는 신뢰도 점수 제공 기능을 선보였습니다.

• 3-2. 딥페이크 탐지 기술의 원리

• 딥페이크 탐지 기술은 여러 가지 기술적 방법론을 통해 가짜 영상을 식별합니다. 주요 방법으로는 얼굴 변화 감지, 혈류 및 피부 특성 분석, 눈 깜박임 비정상 탐지 및 입 모양 분석 등이 있습니다. 이 기술들은 AI 알고리즘을 통해 구현되며, 합성된 얼굴 이미지를 실제 얼굴 이미지와 비교하여 유사성을 측정하기도 합니다. CNN(Convolutional Neural Network) 등의 기법을 통해 생성된 AI 모델의 흔적을 분석하거나, 딥페이크 영상의 메타데이터에서 의심스러운 정보를 탐지하는 것도 포함됩니다. 시장에서 라온시큐어와 샌즈랩과 같은 정보보안 기업들이 이러한 기술 개발에 참여하고 있으며, 정부 또한 탐지 기술 연구 및 개발을 위한 예산을 편성하여 지원을 아끼고 있습니다. 그러나 현재 국내 시장은 기술 개발 초기 단계에 있으며, 더 많은 투자와 시장 형성이 필요하다는 지적이 있습니다.

4. 국내외 기업의 대응 사례

• 4-1. 딥브레인AI의 탐지 솔루션

• 딥브레인AI는 딥페이크 탐지 솔루션을 상용화하는 데 성공하였습니다. 이 솔루션은 이미지, 오디오, 동영상 등을 분석하여 5~10분 내에 딥페이크 여부를 탐지할 수 있습니다. 딥브레인AI는 한국인 데이터 100만 개와 아시아계 인종 데이터 13만 개를 포함하여 총 520만 개의 데이터를 학습하여 탐지 기법을 강화했습니다. 이 솔루션은 페이스 제너레이션, 페이스 스왑, 립싱크 등을 탐지할 수 있으며, 조작된 음성을 감지하기 위해 음성의 주파수와 지연 시간 등을 고려합니다. 또한, 행동 패턴을 분석하여 실제 인물과의 유사도를 측정하여 진위를 판단합니다. 경찰청은 이 기술을 활용하여 딥페이크 기반의 피싱 및 성 착취물 등 지능형 범죄에 대응하고 있으며, 탐지율은 약 80%에 달합니다.

• 4-2. 라온시큐어와 샌즈랩의 기술 개발

• 라온시큐어와 샌즈랩 등 보안 업계에서 딥페이크 탐지 기술 개발에 박차를 가하고 있습니다. 라온시큐어는 딥페이크 탐지를 위한 안면인식 기술을 개발 중이며, 기존 모바일 보안 애플리케이션에 자사의 딥페이크 감지 안면인식 기술과 AI가 생성한 콘텐츠 탐지 기술을 탑재할 예정입니다. 이에 대한 정부의 지원도 확대되고 있으며, 총 64억 규모의 연구 개발(R&D) 예산을 편성하여 딥페이크 탐지 기술의 발전을 촉진하고 있습니다. 전문가들은 현재 국내 시장이 초기 단계에 있으며, 보다 활발한 투자와 시장 형성이 필요하다고 강조하고 있습니다. 딥페이크 탐지 기술은 AI를 통해 얼굴 변화를 감지하거나, 음성 및 입 모양의 부자연스러움을 분석하는 등의 방법으로 발전하고 있습니다.

5. 정부의 지원과 정책

• 5-1. 정부의 R&D 예산 지원

• 최근 딥페이크 디지털 성범죄가 급속히 확산되면서, 정부는 딥페이크 성범죄 예방을 위한 연구개발(R&D) 예산을 지원하고 있습니다. 내년에는 20억원 규모의 예산을 편성하여 딥페이크 탐지 기술의 개발에 박차를 가하겠다는 입장을 보이고 있습니다. 구체적으로, 총 64억원 규모의 탐지기술 R&D를 확대하고자 하고 있으며, 이는 보안 업계의 기술 개발과 시장 형성을 위한 적극적인 노력의 일환으로 이해됩니다.

• 5-2. 딥페이크 범죄 예방을 위한 정책

• 딥페이크의 활용이 증가함에 따라, 정부는 디지털 성범죄를 예방하기 위해 다양한 정책을 모색하고 있습니다. 정보보안 기업들, 예를 들어 라온시큐어와 샌즈랩 등이 딥페이크 관련 기술을 개발하고 있으며, 이와 동시에 정부의 지원이 필요하다는 의견이 병행되고 있습니다. 이러한 기업들은 딥페이크를 탐지하고 가짜 영상을 추적·삭제할 수 있는 기술을 개발 중에 있으며, 이 과정에서 눈 깜박임 비정상 탐지, 얼굴 움직임 분석, CNN(Convolutional Neural Network) 등을 활용한 탐지 방법들이 사용되고 있습니다.

6. 딥페이크 탐지 기술의 한계와 미래

• 6-1. 탐지 기술의 발전 속도와 한계

• 최근 딥페이크 음란물의 급속한 확산으로 인해 딥페이크 탐지 기술에 대한 관심이 높아지고 있습니다. 현재 많은 기업들이 딥페이크 탐지 기술을 개발하고 있으며, 대표적으로 '딥브레인AI'가 상용화한 탐지 솔루션이 있습니다. 이 솔루션은 이미지, 오디오, 동영상 등을 분석하여 5~10분 내로 딥페이크 여부를 탐지합니다. 딥브레인은 한국인 데이터 100만 개와 아시아계 인종 데이터 13만 개 등 총 520만 개의 데이터를 학습하여 탐지 성능을 향상시키고 있습니다. 그러나 딥페이크 생성 기술에 비해 탐지 기술의 발전 속도는 여전히 더디며, 그 이유로는 투자에 비해 수익이 낮은 점이 지적되고 있습니다. 더불어, 딥페이크 탐지 기술은 진짜와 가짜 데이터를 모두 학습해야 하기 때문에 고비용의 데이터 수집과 학습이 필요합니다. 인공지능(AI) 기술의 역기능이 드러나면서 많은 기업들이 딥페이크 대응 기술에 대한 연구 및 개발에 노력을 기울이고 있습니다. 그러나 국내 상황은 여전히 걸음마 단계에 머물고 있으며, 시장이 형성되고 투자가 늘어나는 것이 필요하다는 지적이 제기되고 있습니다.

• 6-2. 미래 기술 개발 방향

• 국내외에서 심각한 사회적 이슈로 부각되고 있는 딥페이크 음란물에 대해, 보안 기업들은 다양한 탐지 기술을 개발하고 있습니다. 라온시큐어, 샌즈랩 등은 AI 기술을 활용해 얼굴 변화, 혈류 불일치를 분석하는 등 다양한 방식으로 딥페이크 탐지 기술을 발전시키고 있습니다. 예를 들어, 눈 깜박임 비정상 탐지, 얼굴 표정 변화 분석 등을 통해 딥페이크 여부를 확인할 수 있는 기술이 개발되고 있습니다. 딥페이크는 현실 인간의 자연스러운 행동을 완벽하게 재현하지 못하므로 이러한 비정상적인 움직임을 탐지하여 진위를 파악할 수 있습니다. 추가적으로, 딥페이크 탐지에 사용되는 기술로는 CNN(Convolutional Neural Network)을 활용하거나 생성적 적대 신경망(GAN)의 흔적을 탐지하는 알고리즘을 포함합니다. 또한, 파일의 메타데이터에서 의심스러운 정보를 발견하는 방법도 모색되고 있습니다. 이러한 기술들은 딥페이크 성범죄 예방을 위해 더욱 발전이 필요하며, 정부도 관련 연구개발에 64억 원 규모의 예산을 편성하는 등 의지를 보여주고 있습니다.

결론

• 리포트는 딥페이크 탐지 기술이 사회적 문제로 대두된 딥페이크의 악용을 방지하는 데 중요한 역할을 하고 있음을 강조합니다. 현재 딥브레인AI, 라온시큐어, 샌즈랩 등 여러 기업들이 탐지 기술 개발에 힘쓰고 있으며, 경찰청도 이 기술을 활용해 지능형 범죄에 대응하고 있습니다. 딥페이크 탐지 기술은 다양한 분석 기법과 AI 알고리즘을 통해 가짜 콘텐츠를 판별할 수 있지만, 발전 속도가 느리고 수익화가 불분명한 점이 한계로 남아 있습니다. 향후에는 더 많은 투자와 시장 형성을 통해 기술 발전을 촉진해야 하며, 이는 곧 사회적 안전망을 강화하는 방향으로 나아가야 합니다. 정부의 지속적인 R&D 지원과 정책 마련이 뒷받침된다면, 딥페이크 문제에 대한 보다 적극적인 대응이 가능해질 것입니다. 특히, 탐지 기술의 상용화를 통해 실질적인 적용이 이루어질 것으로 기대됩니다.

용어집

• 딥페이크 [기술]: 딥페이크는 인공지능(AI) 기술을 이용해 사람의 이미지, 영상, 음성을 합성하는 기술로, 주로 음란물 등의 범죄에 악용되고 있습니다. 최근 사회적 문제로 대두되며, 이에 대한 탐지 기술의 개발과 대응이 시급한 상황입니다.

• 딥브레인AI [회사]: 딥브레인AI는 딥페이크 탐지 솔루션을 개발하여 다양한 기관에 지원하고 있는 기업입니다. 그들의 솔루션은 음성 및 영상 탐지 기능을 갖추고 있으며, 탐지 속도가 빠르고 정확한 결과를 제공하는 것으로 알려져 있습니다.

• 라온시큐어 [회사]: 라온시큐어는 딥페이크 탐지 기술 개발에 참여하고 있는 정보 보안 기업입니다. 이들은 딥페이크 감지 안면 인식 기술 및 AI 콘텐츠 탐지 기술을 개발하고 있으며, 금융기관 및 공공기관에 다양한 보안 솔루션을 제공하고 있습니다.

• 샌즈랩 [회사]: 샌즈랩은 딥페이크 탐지 기술을 개발 중인 정보 보안 기업으로, 정부의 연구 개발 과제에 참여하고 있습니다. 이들은 딥페이크 대응 기술의 상용화를 목표로 하고 있습니다.

출처 문서

• AI가 퍼뜨린 ‘딥페이크 음란물' 공포…AI로 막을 수 있을까 - 이투데이https://www.etoday.co.kr/news/view/2394711
• "얼굴변화·혈류 불일치로 가짜영상 잡는다"…딥페이크 탐지기술 어디까지 왔나https://n.news.naver.com/mnews/article/003/0012754254
• "딥페이크 성범죄 막아야"…IT 기업들도 대응 나섰다 : 네이트 뉴스https://news.nate.com/view/20240830n01510?mid=n0105
• "얼굴변화·혈류 불일치로 가짜영상 잡는다"…딥페이크 탐지기술 어디까지 왔나 < 사회이슈 < 사회 < 기사본문 - 와이드경제https://www.widedaily.com/news/articleView.html?idxno=243852