제보
로그인
중국에서도 딥페이크 기반 성범죄가 '산업망'을 형성할 정도로 기승을 부리고 있습니다.
28일 현지 매체 신경보에 따르면 중국 내 지하 플랫폼에서는 왕훙(網紅·중국의 온라인 인플루언서)이나 여성 연예인을 대상으로 하는 인공지능(AI) 나체사진 채팅방이 다수 운영되고 있습니다.
제작자들은 5위안(약 900원)이면 '옷 벗기기'가 가능하고, 20위안(약 3,700원)이면 '동영상 얼굴 합성'이 가능하다고 홍보합니다.
신경보는 이런 합성 사진·영상 제작이 일종의 산업망을 형성한 상태라고 전했습니다.
온라인에서 시선을 끄는 사진으로 네티즌 유입을 유도해 '회원 그룹' 서비스 수익을 창출하는 종사자와 비리비리(Bilibili·중국 동영상 플랫폼)나 샤오훙수(小紅書) 등 소셜미디어에서 'AI 옷 벗기기 교육과정' 등을 올리고 실제 교육도 하는 영상 제작자 등이 하나의 생태계를 이룬 셈입니다.
신경보는 인플루언서의 나체 합성물을 공유한다는 이름의 한 채팅방을 확인한 결과 참여자가 1만 5천 명에 달했고, 여기에는 연예인과 운동선수들을 소재로 한 사진 등도 존재했다고 전했습니다.
채팅방 운영자들은 우선 '미끼' 사진을 몇 장 던져 회원 가입을 유도하는데 회비는 70위안(약 1만 3천 원)이었습니다.
중국 현행법상 'AI 옷 벗기기'는 치안관리처벌법에 어긋나고, 돈을 받고 '주문 제작'해주는 행위는 음란물 제작·판매죄를 구성할 수 있습니다.
사진을 팔지 않고 유포만 해도 음란물 유포죄가 되며 합성 기술을 가르치는 것은 방조범이나 교사범에 해당한다고 전문가들은 지적합니다.
그럼에도 이런 행위가 끊이지 않는 데는 AI의 효율은 계속 높아지고 기술적 문턱은 낮아진 점이 배경으로 작용했다고 신경보는 짚었습니다.
올해 6월 베이징시 경찰은 "(한화 수백 원가량의) '배춧값'만 내면 AI 옷 벗기기가 가능하다"거나 "주변인, 인플루언서, 스타 모두 가능" 등의 광고를 앞세워 합성 사진 약 7천 장을 351명에게 판매한 전직 인터넷 업체 기술자를 적발한 바 있습니다.
이 사건은 중국 내에서 딥페이크 범죄가 관심을 끄는 계기가 됐습니다.
페이즈융 중국 QAX테크놀로지 업계안전연구센터 주임은 "기술의 끊임없는 발전으로 AI 생성·합성 동영상의 진위를 결국 판단할 수 없게 되는 것은 필연적"이라면서도 "국내의 경우 인터넷 음란 동영상·사진에 대해 매우 성숙한 관리 방법이 갖춰져 있어 기술적으로 진위를 판별할 수 없다고 해도 플랫폼 차원에서 전파를 막고 출처를 찾아 타격할 수 있다"고 설명했습니다.
페이 주임은 "특정 브랜드·모델·일련번호의 휴대폰으로 찍은 사진에는 맨눈으로는 볼 수 없지만 기계적으로 식별 가능한 인증코드가 있는데, 누군가 이 사진을 수정하면 AI를 쓰든 사람이 하든 시스템적으로 '원본'이 아님을 식별할 수 있다"며 "이는 새로운 기술이 아니다. 필요한 것은 홍보와 대중화일 뿐"이라고 덧붙였습니다.
베이징 보안업체 신둔스다이의 쑨웨 최고기술책임자(CTO)는 "각종 대형 플랫폼이 신원 인증을 강화하고, 다차원 인증·리스크 감지·빅데이터 분석 등 기술과 '지식 그래프 인과추론' 같은 수단을 이용해 위조 위험을 낮출 수 있다"며 "심층 진위 탐지와 디지털 워터마크 등 연구·개발을 확대해야 한다"고 제언했습니다.
댓글
(0)