클릭 몇 번에 사진 속 여성 ‘탈의’…미국서 ‘AI로 옷 벗기기’ 앱사용 폭증에 우려 고조

미국에서 인공지능(AI)으로 사진 속 여성의 옷을 벗기는 ‘딥페이크(deepfake)’ 애플리케이션(앱)과 웹사이트의 이용자가 폭증하면서 악용 우려도 커지고 있다.

딥페이크는 딥러닝과 페이크의 합성어로, AI를 기반으로 얼굴 등을 실제처럼 조작한 이미지나 영상을 뜻한다.

10일(현지시간) 블룸버그통신은 지난 9월 한 달 동안에만 2,400만 명이 AI를 사용해 옷을 벗기는 딥페이크 웹사이트를 방문했다고 보도했다.

서비스형 소프트웨어 기업 그래피카에 따르면 올해 들어 X(엑스·옛 트위터)와 레딧 등 SNS에서 AI 옷 벗기기 앱을 광고하는 링크 수가 2,400% 늘었다.

딥페이크 앱과 웹사이트에 옷을 입고 있는 사람의 사진을 올리면 사람이 옷을 벗고 있는 것처럼 조작한 이미지가 뜬다. 사진 속 인물 대부분은 여성이다.

유명 인사는 물론이고 직장 동료나 같은 학교 동급생, 지하철에 탄 낯선 사람, 어린이 등의 사진을 입력하면 클릭 몇 번 만에 사진 속 인물의 옷을 제거할 수 있다고 외신은 보도했다.

AI 기술 발달이 이 같은 딥페이크 앱이 범죄에 악용될 수 있다는 우려를 심화시키고 있다.

실제로 X에 올라온 한 광고는 “사용자가 AI로 다른 사람의 나체 이미지를 만들어 다시 그 사람에게 보낼 수 있다”며 성희롱을 조장하기도 했다.

개인정보 보호 전문가들은 AI 기술의 발전으로 딥페이크 소프트웨어가 더 쉽고 효과적으로 만들어졌다고 우려한다.

우리나라는 성폭력 처벌법 제14조의2는 허위 영상물을 편집, 합성, 가공할 경우 5년 이하, 5000만 원 이하 형에 처하도록 규정하고 있고, 판매할 경우 7년 이하 징역형에 처할 수 있도록 하고 있다.

2019년 네덜란드의 사이버 보안 연구 회사인 딥트레이스가 발간한 보고서에 따르면 전 세계 딥페이크 영상의 96%가 포르노 영상이었다. 또 피해자의 25%가 한국 여성 연예인인 것으로 나타났다.