ChatGPT로 요약 정리해보는 딥페이크 이슈

요즘 국내에 딥페이크 범죄가 크게 이슈화되고 있습니다. 보통은 연예인들이나 인플루언서 등 유명인들 위주로 있었던 딥페이크 문제가 이젠 일반인 심지어 최근에는 중고교생들인 미성년자들 사이에 크게 문제가 되고 있습니다.

ChatGPT에게 현재 국내에 발생하고 딥페이크에 대해 문의하고, 해외 처벌 사례, 예방법 등을 문의해보았습니다.

1.딥페이크란 무엇인가?

딥페이크(Deepfake)는 인공지능(AI) 기술을 사용해 사람의 얼굴이나 목소리를 합성하여 실제와 같은 가짜 영상이나 음성 파일을 만드는 기술입니다. 이 기술은 주로 사진이나 영상을 성적이거나 악의적인 목적으로 합성하는 데 사용되며, 개인의 사생활을 침해하거나 명예를 훼손하는 범죄로 이어질 수 있습니다.

 

2. 딥페이크 범죄에 대한 한국 내 상황 종합 정리

 

딥페이크 기술이 발전하면서, 이를 악용한 성범죄가 한국 사회에서 심각한 문제로 떠오르고 있습니다. 여성가족부 산하 디지털성범죄피해자지원센터(디성센터)에 따르면, 2024년 1월부터 8월까지 딥페이크 피해 지원을 요청한 사람 중 36.9%가 10대 미성년자로, 2년 만에 4.5배 증가했습니다. 이는 특히 10대와 20대 등 저연령층이 SNS 등을 활발히 이용하는 환경과 관련이 깊습니다.

최근 텔레그램 등에서 딥페이크 영상물이 유포되며 학생과 교사를 대상으로 한 피해도 급증하고 있습니다. 2024년 기준 학생 및 교사 피해 건수는 총 196건에 달하며, 교육부는 긴급 태스크포스를 구성해 피해 확산 방지에 나섰습니다. 경찰도 텔레그램 내 ‘딥페이크봇’을 비롯한 8개의 불법 합성물 제작 채널에 대해 수사를 진행 중입니다.

또한, 딥페이크 피해자보다는 가해자의 부모들이 디지털장의사에게 증거 삭제를 의뢰하는 경우가 많아, 피해자들이 피해를 드러내기를 꺼리는 현상이 있습니다. 피해자 보호를 위한 국가 차원의 지원이 부족하다는 점도 문제로 지적됩니다. 디성센터는 딥페이크 피해 삭제와 지원을 위해 ‘DNA 시스템’을 활용하고 있지만, 해외 플랫폼 대응에는 여전히 한계가 있는 상황입니다.

전문가들은 딥페이크 제작 및 유포에 대한 강력한 처벌과 함께, 청소년 대상 디지털 윤리 교육의 필요성을 강조하고 있습니다.

 

ChatGPT로 생성한 이미지

3. 해외의 딥페이크 범죄 처벌 사례

 

1) **영국 (2021년):** 한 남성이 유명인의 얼굴을 음란물에 합성해 딥페이크 영상을 유포한 혐의로 체포되어 징역 2년을 선고받았습니다. 이는 피해자의 심각한 정신적 피해를 고려한 처벌이었습니다.

2) **미국 (캘리포니아, 2019년):** 캘리포니아에서는 딥페이크를 이용한 허위 정치적 영상 제작 및 유포를 금지하는 법안이 통과되었습니다. 선거에 영향을 미칠 수 있는 정보 조작을 막기 위한 법적 조치로, 최대 징역형을 포함하고 있습니다.

3) **호주 (2020년):** 한 남성이 타인의 얼굴을 포르노 영상에 합성해 유포한 혐의로 체포되어 징역 3년을 선고받았습니다. 법원은 개인의 명예와 사생활을 침해한 점을 엄중히 다루었습니다.

 

4. 딥페이크 예방 방법

 

- 기술적 대응 : 딥페이크 탐지 소프트웨어 및 AI 기술을 활용하여 합성 영상의 식별 및 차단.
- 법적 규제 : 딥페이크 제작 및 유포에 대한 강력한 법적 처벌 규정 마련.
- 교육 및 인식 제고 :  청소년 및 일반인들에게 딥페이크 기술의 위험성에 대한 교육 강화.
- 플랫폼의 책임 강화 : 딥페이크 관련 콘텐츠 유포를 방지하기 위해 SNS 및 온라인 플랫폼의 모니터링 및 책임 강화.
- 신고 체계 구축: 피해자들이 쉽게 접근할 수 있는 신고와 지원 시스템 마련 및 강화.

 

Midjourney로 표현한 이미지