[그것이 알고 싶다] 1251회 가짜와의 전쟁 , 딥페이크 기술의 위험성

안녕하세요

오늘은 '그것이 알고 싶다'

2021년 2월 27 (토)

보고, 듣고, 의심하라 - 가짜와의 전쟁 , 딥페이크 편에 대한

간략한 리뷰 및 위험성을 알리고자 
포스팅을 작성하였습니다.

 

딥페이크 란?

 

인공지능의 한 분야인 딥 러닝 (deep learing)을 활용해 사람의 얼굴이나 
특정 부위를 합성해 만들어 내는 기술, 딥페이크(Deepfake)

 

** 딥러닝: 사물이나 데이터를 군집화하거나 분류하는 데 사용하는 기술
**딥페이크: 인공지능(AI) 기술을 이용해 가짜 동영상 또는 제작 프로세스 자체를 의미.

딥러닝(deep learing) + 페이크 (fake)의 합성어

 

그것이 알고싶다 딥페이크

이미지 출처 : 네이버 이미지

 

현재 딥페이크의 문제점

최근, 세계적으로 유명한 연예인들을 대상으로 특정부위를 합성하여 성 착취 동영상 및 포르노 형태로 합성되어 연예인들의 얼굴을 이용한 딥페이크 영상물이 만들어지고 있다. 2014년에 개발된 딥 페이크의 경우 예상했던 기대 효과는 1) 이미 사망한 사람의 얼굴을 재현해 가족들을 위로하기 , 2) 과거의 추억을 통해 새로운 감동을 만들어 내기 , 3) 신원 보호가 필요한 사람들을 위한 신변 보호장치, 4) 유명한 강사의 얼굴(유명인)로 교체하여 학습에 대한 집중력 및 학습효과 증대 등 다양한 긍정적 부분이 많다는 기술이라고 합니다.

하지만, K-pop연예인들의 얼굴을 이용한 딥페이크 영상물이 만들어지고 있으며, 이 속도는 점점 빨라져서 유명 연예인을 넘어 일반인에게 까지 뻗치고 있는 현상입니다.

위의 수치는 딥 페이크 영상이 만들어진 국가의 순위입니다.
영국이 1위를 차지하며 2등과 3등은 우리나라입니다.

그만큼 많은 사람들에게 잘못된 딥페이크 영상이 공개되고 노출되고 있는 현실입니다.

그럼 누가 딥페이크를 만들고 유포하고 있는가?

그것이 알고 싶다 딥페이크 편에서는 딥페이크를 처음 만들었던 직업에 대해 이야기해줬습니다.

바로IT 직군에 있는 개발자

만들어진 자체 영상을 보았을 때

"얼굴 처리 부분 및 다른 부위와의 합성은 일반인이 아닌 전문가가 만든 것이다."

느껴진다라고 합니다.

 

'가짜로 만들어진 영상' 딥페이크 영상을 해외사이트에 배포 및 유포하여
많은 사람들이 클릭했을 경우 그에 대한 광고 수익을 얻기 위해 개발자들이
만들었던 것입니다.

돈에 눈이 멀어 거짓된 영상을 만들어 배포, 유포하고 생각이 없다는 생각이 많이 드네요.

한 번 올린 영상에 대해선 완전한 삭제는 어렵다고 합니다.
삭제되는 속도보다 유포, 배포되는 속도가 더 빨라서
완전한 삭제는 없다고 합니다.

아직도 이런 행동을 하는 분들 꼭 죄 값을 받았으면 합니다.
요즘 세상 너무 무섭네요.
그로 인해 피해받을 사람에 대한 생각 조차 없는 거 같습니다.

'

딥페이크의 시작

이미지 출처: 네이버 이미지

딥페이크의 시작은 국민청원 게시판에 등장하였습니다.
여성 연예인들을 고통받게 하는 불법 영상 '딥 페이크'를 강력히 처벌해주세요.
참여인원 390,0415명

이를 통해 사회적 문제로 제기되고 현재는 그 위험성을 알리기 위한 행동 및
각종 예방대책을 마련 중인 것으로 생각됩니다.

 

→아직 국민청원에 대한 답변은 나오지 않은 상태입니다.

 

또한, 소속 연예인을 지켜야 하고 보호해야 할 소속사 관계자들의 경우
딥 페이크에 대해서 잘 모르거나 그에 대한 답변을 하지 않는 장면을 보여주고 있습니다.

그에 대한 답변을 하지 않는 것은 아마도 2차 피해가 발생할 수 있기 때문일 거 같습니다.
"000 씨의 딥페이크 영상 거짓입니다."라고 바로 얘기해 봤자
그것을 보호하고 삭제해주기보단 더욱 궁금해져서 '000 씨 딥페이크 영상'을 검색해보고 다운로드하으려고
갖은 노력을 다할 것이기 때문입니다.

 

현재 딥페이크의 처벌법

 

현재 형법에서 성폭력범죄 처벌법으로 개정되었습니다.
때문에 전에는 부과하지 못했던 전자발찌 착용, 신상공개, 취업제한 등 부가적으로 적용할 수 있게 되었습니다.

제작 및 배포한 자

징역 5년 이하 또는 벌금 5000만 원 이하

영리 목적의 경우 징역 7년 이하

 

딥페이크 해결방안 및 해결책

1) 개인 정보는 개인이 보호하자

 

카카오톡 사진 및 페이스북, 트위터 등 각종 SNS에 올라온 사진들에 대해서
본인의 얼굴이 올라간 사진들에 대해서 내리는 걸 추천드립니다.
본인의 얼굴과 신상은 본인이 먼저 관리하고 지켜야 합니다.

 

2) 딥 페이크 영상에 대한 조작 여부 판다 프로그램 개발
어제 소개된 '그것이 알고 싶다'에서는 딥페이크 편에서는

이미지 출처 :네이버 이미지

이대 학생들의 딥 페이크 영상에 대한 판단 프로그램을 개발 중에 있다고 합니다.

'이화여대 사이버 보안 전공 탐지 기술 개발팀 딥트'

무협, 스타트업 경진대회

'딥페이크 자동 탐지' 대상

사이버 보안을 담당하는 5명의 대학생이 만든 기술

→홈페이지 딥페이크로 의심되는 영상을 업로드하면 영상이 진짜인지 가짜인지 판단해주는 프로그램

인공지능으로 만들 딥 페이크 영상을 인공지능으로 판단하는 프로그램
이와 같이 많은 사람들이 딥페이크 영상에 대한 피해 방지를 위해 많은 노력을 하고 있습니다.
하루빨리 딥페이크에 대한 가짜와 진짜를 구분하는 방법이 빨리 개발되었으면 좋겠습니다.

 

3) 한국여성인권진흥원 디지털성범죄지원센터

한국여성인권진흥원 디지털성범죄지원센터

24시간 온라인 게시판을 통해서 피해 접수를 받고 있으며

삭제 지원 요청 시 유표 정황이 발견되면

즉시 3개월 동안 긴급지원하고
공적 지원을 무료로 하고 있다고 합니다.
피해받은 분이 없으면 좋겠지만, 피해를 받으신 분은 상담 신청 꼭 하세요!!

 

 

 

이상으로 그것이알고싶다 가짜와의 전쟁 딥페이크에 대한
포스팅을 마치겠습니다.
구독과 하트는 감사합니다!!