[메가경제=이상원 기자] 인공지능(AI)과 디지털 기술이 일상을 빠르게 바꾸고 있다. 편리함과 새로운 기회를 제공하지만 ‘딥페이크’·‘AI 보이스피싱’ 같은 신종 범죄와 사이버 폭력, 허위정보 확산 등 새로운 사회문제도 낳고 있다.

디지털 전환 과정에서의 소외현상도 문제로 지적된다. 어린이와 청소년의 올바른 AI 활용부터 고령층의 키오스크 이용, 장애인의 디지털 접근성 등 기술 발전의 혜택이 모두에게 고르게 돌아가는지 살펴볼 필요가 있다. ‘모·디·세(모두를 잇는 신뢰의 디지털 세상)’를 통해 AI와 디지털 기술이 만든 변화와 그 이면을 짚어본다. - 편집자 주

“SNS에 있는 사진을 AI로 조작한 성적 허위영상물을 만들어 유포하겠다고 협박해요.”

“DM으로 협찬을 제안하며 프로필 사진을 요구하더니, 그 사진으로 성적 허위영상물을 제작해 유포하겠다고 하더라고요.”

인공지능(AI) 기술 발전과 함께 딥페이크를 악용한 범죄가 빠르게 확산하고 있다. 실제와 구분하기 어려운 수준으로 얼굴과 목소리를 합성할 수 있게 되면서, 타인의 신체와 개인정보를 악용해 일상을 위협하는 사례가 늘고 있다.

17일 업계 관계자에 따르면 AI 기술 발전과 함께 딥페이크를 악용한 범죄도 빠르게 늘고 있다. 누군가의 삶을 무너뜨리는 범죄가 교묘한 수법으로 진화하며 사회문제가 되고 있는 것이다.
 

▲ 딥페이크 범죄 이미지. [사진=AI제작]

 

경찰청 국가수사본부에 따르면 올해 1~7월 허위영상물 범죄 피의자 419명이 검거됐으며 이 가운데 17명이 구속됐다. 경찰은 딥페이크 탐지 소프트웨어와 영상 정밀 판독, AI 범행도구 분석 등을 활용해 관련 범죄에 대응하고 있다.

딥페이크는 AI를 활용해 실제처럼 보이거나 들리는 이미지·영상·음성을 생성·변조하는 기술이다. 콘텐츠 제작 등 순기능도 있지만, 타인의 얼굴을 성적 영상물에 합성하는 등 동의 없는 성적 콘텐츠 제작에 악용되며 피해자의 인격과 사생활을 심각하게 침해하고 있다.

◆SNS 사진 도용해 협박… “악성 앱 설치 유도까지”

대표적인 수법은 SNS에 올라온 사진을 도용하거나, 협찬을 미끼로 사진을 받아낸 뒤 성적 허위영상물을 제작해 유포를 협박하는 방식이다.

실제로 지난 5월 충남경찰청 사이버수사대는 SNS에서 협찬을 미끼로 미성년자 얼굴 사진을 받아 딥페이크 성 착취물을 제작한 말레이시아 기반 보이스피싱 조직 총책 A씨 등 6명을 구속 송치했다. 이들은 피해자와 가족·지인에게 영상물을 유포하겠다고 협박하며 금품을 요구하고, 유관기관을 사칭해 악성 앱 설치까지 유도한 것으로 조사됐다.

AI를 활용한 로맨스스캠도 확산세다. 딥페이크 기술로 제작한 영상 등을 활용해 실제 인물과 대화하는 것처럼 연출해 피해자의 의심을 낮추는 수법이다. 실제 한 피해자는 “SNS에 상대방 사진뿐 아니라 직접 촬영한 듯한 동영상이 올라와 있어 로맨스스캠이라고 의심하기 어려웠다”고 토로했다.

◆피해자 91%가 10·20대… ‘10대 미만 피해도’

피해는 10대와 20대에 집중되고 있다. 중앙디지털성범죄피해자지원센터의 ‘2025 디지털성범죄 피해자 지원 보고서’에 따르면 지난해 센터에 접수된 딥페이크 등 합성·편집 피해는 745건에 달한다. 이 중 10대와 20대 피해자가 678명으로 전체의 91%를 차지했다. 특히 10대 미만 피해자도 1명 발생해 충격을 더했다.

2025년 이전에 접수돼 지속 지원 중인 피해자 871명을 포함하면 총 피해자는 1616명이다. 연령별로는 10대 749명(46.3%), 20대 725명(44.9%)으로, 10·20대를 합치면 전체의 91.2%(1474명)에 달한다.

문제는 범죄자 검거 이후에도 피해가 회복되지 않을 수 있다는 것이다. 이미 복제된 영상물이 온라인에 남아 최초 게시물이 삭제된 뒤에도 다른 계정이나 플랫폼을 통해 재유포될 가능성이 크기 때문이다. 피해 영상물과 함께 신상정보까지 유출될 경우 피해는 학교·직장·가족관계 등 일상 전반으로 확대될 수 있다.

연령대별 피해 유형 중에서는 ‘유포 불안’이 가장 높게 나타났다. 실제 유포를 경험한 피해자의 경우 초기 삭제 이후에도 반복적인 재유포 경험으로 불안감이 증폭됐다. 유포 피해가 발생하지 않은 경우에도 AI 합성 기술 확산과 협박·그루밍 등 사전 범죄 증가로 잠재적 위험 인식이 커졌고, 선제적으로 불안을 호소하는 사례가 늘고 있는 것으로 분석됐다.

◆‘신속한 삭제·유통 차단이 핵심… 지원 건수 35만 건↑

이에 따라 플랫폼의 신속한 삭제와 유통 차단이 중요하다는 게 업계 전문가들의 주장이다. 센터는 피해 접수 이후 피해 영상물과 유포 게시물을 확인하고, 플랫폼별 삭제 요청과 유포 현황 모니터링, 재유포 여부 확인 등을 지원하고 있다.

실제 지난해 중앙디지털성범죄피해자지원센터가 지원한 디지털성범죄 피해자는 1만637명으로 전년(1만305명) 대비 3.2% 증가했다. 지원 건수는 35만2103건으로 전년(33만2341건)보다 5.9% 늘었다.

지원 유형별로는 피해영상물 삭제지원이 31만8020건으로 전체의 90.3%를 차지했다. 이어 상담지원 3만1591건(9.0%), 수사·법률지원 연계 2387건(0.7%), 의료지원 연계 105건(0.03%) 순이었다. 삭제지원은 전년 대비 5.9%, 상담지원은 12.1% 증가한 반면 수사·법률지원 연계는 37.6% 감소했다.

업계 관계자는 “정부는 피해영상물 삭제뿐 아니라 상담과 심리·정서 지원, 수사·법률·의료지원 연계 등을 제공하고 있다”며 “여성긴급전화1366 을 통한 초기 상담 이후 중앙디지털성범죄피해자지원센터의 삭제·유포 모니터링, 지역센터의 심리상담·수사지원, 경찰 수사 등으로 이어지는 원스톱 지원 체계를 통해 더 많은 피해가 발생되지 않도록 해야 한다”고 설명했다.

 

[제작지원 : 한국언론진흥재단]

[ⓒ 메가경제. 무단전재-재배포 금지]