그것이 알고 싶다 딥 페이크
'그것이 알고 싶다'가 딥 페이크로 인한 범죄 발생에 경각심을 요구했다.
27일 방송되는 SBS 시사교양 프로그램 '그것이 알고 싶다'에서는 '딥 페이크' 기술과 이를 악용한 범죄에 대해 파헤쳤다.
이날 방송에서는 20대 배우 세 명을 섭외해 딥페이크 영상을 이용해 부모님을 속여 돈을 요구하는 피싱 사기가 가능할지 실험에 나섰다.
실험에서는 병원에 입원한 자녀가 부모에게 돈을 요구하는 상황을 만들어 돈을 요구하는 피싱 사기 모의실험을 했다.
실험 결과 약간의 의심은 있었지만 2명이 실제 신용카드 정보를 보냈고, 한 명은 아예 답을 하지 않았다.
김상중은 "사진 한 장으로 영상 속 주인공을 다른 사람을 바꿀 수 있는 기술이기는 하지만, 가족이나 지인도 감쪽같이 속을 만큼 정교한 딥 페이크 기술을 만드는 건 아직 전문가의 영역이다"며 "하지만 딥페이크 기술이 처음 개발된 것이 2014년이고 세상에 알려진 것이 2017년임을 감안하면 매우 빠르게 발전하고 있다는 것을 부인할 수 없다"라고 말했다.
이어 "보이스피싱도 지금은 대부분의 사람들이 속지 않는 사기 범죄이지만, 범죄가 처음 발생한 2006년 당시만 해도 수많은 사람들이 속수무책 피해를 입었고, 그 수법이 알려져 경각심을 가지게 되기까지 10년이 훌쩍 넘는 시간이 걸렸다"라고 전했다.
그러면서 "딥 페이크를 이용한 신종 범죄가 시작된다면 그 양상도 이와 비슷할 것"이라며 "더 무서운 점은 동영상을 이용한 범죄는 피해가 더 커질 수 있다는 전문가들의 지적이다. 우리가 아직 발생하지도 않은 범죄를 재현해 실험한 이유도 바로 그것 때문"이라고 설명했다.
김상중은 "지금이 대비할 수 있는 적기"라며 "오늘 이 방송을 보신 분들은 반드시 기억하시고 주변 사람들에게 알려주시기를 바란다"라고 당부했다.
딥 페이크란?
딥 페이크(deepfake)란 인공지능 기술을 활용해 기존에 있던 인물의 얼굴이나, 특정한 부위를 영화의 CG처리처럼 합성 영상편집물을 말한다.
과거 인물의 사진이나 영상을 조악하게나마 합성해 게시하던 것이 디지털 기술과 인공지능의 발전으로 몇 단계 정교해진 결과라 볼 수 있다.
원리는 다음과 같은데 합성하려는 인물의 얼굴이 주로 나오는 고화질의 동영상을 통해 딥러닝 하여, 대상이 되는 동영상을 프레임 단위로 합성시키는 것이다.
병렬 연산장치의 성능에 따라 속도와 품질이 결정된다.
음성에는 전혀 손대지 않지만, 얼굴 표정을 적절하게 매칭 시켜 합성을 하기 때문에 목소리가 다르다 하더라도 입모양이 발음과 일치하여 자연스럽게 느껴진다.
오래전부터 여자 연예인뿐만 아니라 남자 연예인, 미성년 연예인과 일반인들을 영상에 합성해 배포 혹은 유포되는 문제점을 지니고 있으며 특히 일반인의 얼굴을 합성한 영상을 트위터 등의 여러 인터넷상 게시판 혹은 비공개적인, 불법적인 사이트에 업로드되는 일도 빈번히 일어나며 사회적 문제점으로 떠오르고 있다.
딥 페이크 어플
최근에는 스마트폰 어플로도 쉽게 다운로드해 딥 페이크를 쉽게 만들 수가 있다.
현재 많이 사용되고 있는 어플은 Reface와 Jiggy가 있으며 Reface 어플은 스마트폰으로 셀카를 찍기만 하면 얼굴을 감지해서 딥페이크를 해주고 Jiggy 어플은 상반신 이상을 찍은 사진을 업로드하면 댄스 비디오에 딥페이크를 해주는 기능을 가지고 있다.
딥페이크 초창기에는 조악한 수준의 영상들이 많아서 대부분 가짜임을 짐작할 수 있었지만 영상의 화질이나 처리되는 데이터의 질에 따라 딥페이크 영상과 원본 영상의 구분이 어려울 정도로 발전하는 추세이다.
가짜 영상을 통해서 보이스 피싱이나 범죄에 악용될 소지도 있어서 한국의 경우에는 관련 법안도 만들어진 상태이다.
딥 페이크 영상을 제작해서 인터넷을 이용해 불법 배포했다면 성폭력범죄의 처벌 등에 관한 특례법 제14조의 2에 따라 처벌받을 수 있는 조항이 있다.
연예인뿐만 아니라 머지않은 시점에 정치인이나 기업을 공격할 목적으로 합성한 사실적인 영상이 대중과 사회에 미칠 영향은 그야말로 무궁무진하며, SNS가 발달한 오늘날에는 일반인들 또한 딥 페이크 영상에서 안전지대에 있다고 장담할 수가 없는 상태이다.
딥페이크 방지 액세서리
폴란드의 한 다자이너 이와 노왁은 딥 페이크의 문제점을 인식하고 이와 관련된 디자인을 만들어 내었다.
바로 딥페이크 방지 페이스 액세서리이다.
그녀는 딥 페이크 알고리즘을 연구한 끝에 이와같은 딥페이크 방지 액세서리를 제작하였는데 이 액세서리를 얼굴에 착용하면 페이스북의 알고리즘이 착용자의 얼굴을 인식 못한다고 한다.
해당 액세서리는 이마 중앙에 이마를 세로로 가로지르는 금속 물체, 그리고 양 눈 아래에 원형의 금속 물체를 매달아 두었는데 이 세 개의 금속 물체는 두꺼운 와이어로 연결되어 마치 안경처럼 착용이 가능하다고 한다.
물론 해당 액세서리가 실생활에 적용될 가능성은 극히 적다.
하지만 딥 페이크가 크게 문제가 되는 시점이 오면 해당 액세서리를 안경처럼 쓰고 다니는 날이 오게 될지도 모르겠다.
하긴 우리가 마스크를 매일 쓰고 다나는 날이 올 거라고 생각한 적 있었겠는가?
댓글