최근 딥페이크 기술을 이용한 범죄가 급증하면서 사회적 문제로 부각되고 있다. 딥페이크는 '딥러닝'(Deep Learning)과 '가짜'(Fake)의 합성어로, 인공지능(AI) 기술을 활용해 기존 사진·영상을 다른 이미지에 겹쳐 생성하는 '이미지 합성 기술'을 의미한다.

딥페이크가 성범죄, 명예훼손, 사기 등 다양한 범죄에 악용되고 있어 심각한 사회적 우려를 낳고 있다. 고도의 기술이 필요했던 과거와 달리 AI 기술 발전으로 누구나 인터넷 검색만으로 딥페이크봇 등에 접속해 허위영상물 등을 제작할 수 있게 되면서다.

경찰청에 따르면 최근 지인이나 유명인의 일상 사진이나 영상을 대상으로 나체사진을 합성하는 등 딥페이크 성범죄의 위협이 크게 증대되고 있는 것으로 나타났다. 올해 7월 기준 허위영상물 등 범죄 관련 발생 건수는 297건으로, 2021년(156건)과 비교해 2배 가까이 증가했다.

문제는 딥페이크 제작이 쉬워지면서 10대 청소년들의 범행이 증가하고 있다는 점이다. 올해 상반기 기준 딥페이크 범죄로 입건된 전체 피의자(178명) 중 10대는 131명으로 73.6%를 차지했다.

또한 텔레그램을 비롯한 소셜미디어에서 여성의 얼굴에 음란물을 합성해 편집한 허위 영상물을 생성·유포하는 것으로 의심되는 단체 대화방도 대규모로 발견되면서 대책 마련이 시급한 상황이다.

사회적으로 만연해가는 딥페이크 범죄를 근절하기 위해 경찰청(국가수사본부)은 7개월간 특별 집중단속을 실시한다고 27일 발표했다. 단속기간은 8월 28일부터 내년 3월 31일까지다.

경찰청은 집중단속 배경에 대해 "일부 소셜미디어에서는 참여자들이 특정 지역 및 학교의 공통 지인을 찾아 그 지인을 대상으로 허위영상물 등을 공유하는 일명 '겹지방' 범행이 증가하고 있다"라며 "시간이 지남에 따라 해당 수법이 구체화 및 체계화되고 있어 시급한 대응책 마련이 필요한 상황"이라고 설명했다. 

단속기간 동안 경찰청은 시도경찰청과 긴밀히 협력해 딥페이크 제작부터 유포까지 철저히 추적하고 검거할 계획이며, 딥페이크 탐지 소프트웨어를 활용한 분석, 국제공조 등 수사에 필요한 사항을 적극 지원할 예정이다. 

특히 딥페이크 대상이 아동·청소년일 경우에는 아동·청소년성착취물에 해당하므로 청소년성보호법을 적용해 더욱 엄격하게 대응하기로 했다. 

아울러 경찰청은 10대 청소년들의 딥페이크 등 디지털 성범죄를 예방하기 위해 학교전담경찰관(SPO)을 중심으로 △범죄첩보 수집 △경각심 제고를 위한 사례 중심 예방 교육 △홍보 등 예방 활동도 병행한다는 방침이다. 

경찰청은 "딥페이크 성범죄는 피해자의 인격을 말살하는 중대한 범죄이다. 이를 발본색원하여 국민의 불안감을 불식시킬 수 있도록 최선을 다하겠다"라며 "국민의 적극적인 신고·제보를 당부드린다"라고 전했다.

한편, 윤석열 대통령도 딥페이크를 이용한 사이버 범죄에 강력히 대응할 것을 지시했다. 윤 대통령은 27일 열린 37회 국무회의에서 "딥페이크 영상물은 단순 장난이라 둘러대기도 하지만, 익명의 보호막에 기대 기술을 악용하는 명백한 범죄 행위"라며 "관계 당국은 철저한 실태 파악과 수사를 통해 이러한 디지털 성범죄를 근절하고, 건전한 디지털 문화가 자리매김할 수 있도록 교육 방안을 마련해 달라"라고 당부했다.

◆과기부-여가부, 피해자 지원 체계 고도화로 디지털 성범죄 대응

과학기술정보통신부(과기정통부)도 여성가족부(여가부)와의 협력으로 딥페이크 예방 및 피해자 지원방안 마련에 나섰다.

28일 과기정통부는 "최근 생성형 AI 기술을 활용해 손쉽게 허위 음란영상물을 제작할 수 있게 되면서 일반인 대상으로 디지털 성범죄 피해가 빠르게 확산되고 있다"라며 "이에 두 부처는 신속한 대응방안 모색을 위해 디지털 성범죄 피해자지원센터를 방문했다"라고 밝혔다.

현장에서 강도현 과기정통부 제2차관과 신영숙 여가부 차관은 현재 디지털성범죄피해자지원센터의 삭제지원시스템 운영 현황 등을 청취하고, 딥페이크 탐지 및 사진 한 장으로 허위 영상을 추적할 수 있는 체계 고도화 방안에 대해 논의했다.

해당 방안의 핵심은 기존의 수동 판별 시스템을 자동화하는 것이다. 기존 방식은 딥페이크 식별이 불가한데다, 다양한 형태로 변형된 합성·편집물을 탐지하지 못하는 한계가 있었다. 그러나 자동화 방식이 도입되면 피해영상물에 대한 자동모니터링이 가능해지고, AI 기반의 딥페이크 탐지 기술로 딥페이크 여부를 판별할 수 있을 것으로 기대된다.

또한 양부처는 7월부터 공동으로 진행한 '딥페이크 기반 디지털 성범죄 피해 예방 및 대응을 위한 정책연구'(이하 디지털 성범죄 대응 정책연구)결과를 바탕으로, 올해까지 디지털 성범죄 관련 법제 정비 방향과 딥페이크 성적합성물 탐지체계 구축방안 등을 도출하기로 했다. 디지털 성범죄 대응 정책연구는 지난 5월 국무회의에서 보고된 범부처 '새로운 디지털 질서 정립 추진계획'에 포함된 핵심 정책 과제 중 하나다.

신영숙 여가부 차관은 "디지털 기술을 악용해 갈수록 정교해지는 디지털 성범죄로부터 피해자를 보호하기 위한 국가적 노력이 요구되고 있다"라며 "딥페이크 성착취물을 빠르게 탐지할 수 있는 삭제 체계 고도화 등 현장에서 개선이 필요한 사항을 중심으로 과기정통부와 협력방안을 논의해 건전한 디지털 환경을 조성해 나가겠다"라고 강조했다.

딥페이크가 범죄에 악용되는 사례가 증가하면서 증권시장에서는 관련 주식들이 강세를 보이고 있다. 국내 정부가 딥페이크 범죄에 대한 대대적인 규제 강화 움직임을 보이면서 사이버보안 관련주가 수혜를 받을 것으로 예상되면서다.

특히 한빛소프트가 이달 들어 눈에 띄는 주가 상승률을 기록하며 강세를 주도하고 있다. 한빛소프트는 딥페이크 등의 디지털 콘텐츠의 위변조 여부에 신속하게 대응할 수 있는 기술을 개발하고, 이를 미국에 특허 출원한 점이 부각되고 있다.

한국거래소에 따르면 29일 기준 한빛소프트의 주가는 전일 대비 0.19% 상승한 2,585원을 기록했다. 이는 이달 초 대비 86.91% 증가한 수치이다. 또한 회사는 지난 6일 52주 최저가 1,169원를 기록한 이후 13거래일 연속 상승세를 이어가며 반등에 성공했다.

이밖에 다른 사이버보안 관련 기업들도 투자자들의 매수세가 몰리며 긍정적인 주가 흐름을 보였다. AI 얼굴인식 솔루션 제공업체 씨유박스는 전일 대비 7.47% 오른 4,750원으로 가장 높은 주가 상승률을 기록했고, 시큐센(7.01%), 샌즈랩(7%), 디지캡(4.40%), 모니터랩(3.88%) 등이 그 뒤를 이었다.