특정 인물의 얼굴이나 신체 등을 인공지능(AI) 기술을 이용해 영상에 합성한 편집물, 딥페이크(Deepfake).

미국에서 2017년 말 ‘deepfakes’라는 아이디를 가진 네티즌이 미국 온라인 커뮤니티 레딧(Raddit)에 유명 배우의 얼굴과 포르노를 합성한 편집물을 올리면서 시작됐습니다.

그 후 연예인, 정치인 등 유명인뿐만 아니라 일반인도 대상이 되면서 사회적 문제가 되고 있습니다.

딥페이크는 온라인에 공개된 소스 코드와 머신러닝 알고리즘으로 손쉽게 제작이 가능하며 진위를 구분하기 어려울 만큼 정교해지고 있습니다.

정치인의 얼굴을 합성해 가짜 뉴스를 만들고 특히 연예인 등의 얼굴과 목소리로 가짜 섹스 동영상이나 가짜 리벤지 포르노를 제작하는 등 딥페이크 영상물의 피해가 극심합니다.

딥페이크를 이용한 가짜 포르노 영상을 제작해도 현행법상 처벌 규정이 미비해 적시에 처벌할 수 없고 명예훼손, 음란물유포의 요건을 충족할 경우에만 처벌이 가능했습니다.

형법 제307조(명예훼손)

②공연히 허위의 사실을 적시하여 사람의 명예를 훼손한 자는 5년 이하의 징역, 10년 이하의 자격정지 또는 1000만원 이하의 벌금에 처한다.

형법 제243조(음화반포등)

음란한 문서, 도화, 필름 기타 물건을 반포, 판매 또는 임대하거나 공연히 전시 또는 상영한 자는 1년 이하의 징역 또는 500만원 이하의 벌금에 처한다.

새롭게 등장하는 디지털 성범죄에 대한 처벌 규정이 미비하다는 비판이 제기되자 정부는 딥페이크 영상물 등의 제작‧반포 등에 대한 처벌을 강화하는 내용의 성폭력범죄의 처벌 등에 관한 특례법 일부개정법률의 공포안이 3월17일 국무회의에서 의결되어 6월25일부터 시행될 예정입니다.

개정안에 따라 대상자의 의사에 반해 성적 욕망이나 수치심을 유발할 수 있는 딥페이크 영상물을 제작·반포한 자는 ‘5년 이하의 징역 또는 5000만원 이하의 벌금’, 영리를 목적으로 대상자의 의사에 반해 정보통신망을 통해 죄를 범한 사람은 ‘7년 이하 징역’으로 가중처벌 됩니다.

성폭력범죄의 처벌 등에 관한 특례법 제14조의2 제1항

①반포‧판매 등의 목적으로 사람의 얼굴‧신체‧음성을 대상으로 한 촬영물‧영상물‧음성물을 대상자의 의사에 반하여 성적 욕망 또는 성적 수치심을 유발할 수 있는 형태로 편집‧합성‧가공한 자는 5년 이하의 징역 또는 5000만원 이하의 벌금

②제1항에 따른 편집물‧합성물‧가공물 또는 복제물을 반포‧판매‧임대‧제공 또는 공공연하게 전시‧상영한 자 또는 제1항의 편집 등을 할 당시에는 의사에 반하지 아니한 경우에도 사후에 대상자의 의사에 반하여 반포 등을 한 자는 5년 이하의 징역 또는 5000만원 이하의 벌금

③영리를 목적으로 대상자의 의사에 반하여 정보통신망을 이용하여 제2항의 죄를 범한 자는 7년 이하의 징역

진짜라고 착각할 만큼 정교한 기술에 자신도 모르는 사이 음란물 영상의 피해자가 될 수 있습니다. 인공지능을 선하고 바른 목적으로 사용하는 것은 어떨까요.