소식

"얼마 전 누군가 내 사진을 봤다고 비공개 메시지를 보내서 비공개로 전화를 받을 수 있냐고 물었다. 열심히 검색해본 결과 소위 사진이 AI로 합성된 것임을 알게 됐다"고 블로거 샤오 씨는 말했다. K(가명)씨는 여전히 두려움이 남아있다.

최근 몇 년 동안 AI 기술은 점점 더 많은 사람들의 삶에 들어왔지만, 비뚤어진 생각을 가진 일부 사람들도 사업 기회를 보았습니다. 베이징 뉴스 쉘 파이낸스(Beijing News Shell Finance) 기자의 조사에 따르면 현재 블랙 앤 그레이 제품 플랫폼에서 인터넷 유명인과 여배우를 판매하는 'AI 옷을 벗는' 사진 그룹이 많이 있는 것으로 나타났습니다. 흑백 업계 종사자들에 따르면 5위안이면 '옷을 벗을 수 있다'고 하고, 20위안이면 '영상 얼굴 바꾸기'를 할 수 있다고 한다. 이 업계 체인에는 눈길을 끄는 사진으로 트래픽을 유도한 후 '멤버십 그룹' 서비스를 통해 수익을 창출하는 실무자도 있습니다. 또한 Bilibili, Xiaohongshu 등의 플랫폼에는 'AI 옷 벗는 튜토리얼' 등의 제목으로 주목을 받는 영상 작가들이 있다.

이에 대해 베이징 중원 법률사무소의 자오후 파트너는 AI가 옷을 벗거나 AI가 얼굴을 바꾸는 사진을 판매하는 것은 공안국처벌법 조항을 위반하는 것이며, 가해자는 구류 또는 벌금의 행정처분을 받게 될 것이라고 말했다. , 형사상 책임을 물을 수도 있습니다. 사진을 판매하지 않고 유포만 하는 경우, 사안이 엄중한 경우에도 음란물 유포죄에 해당하며, 법에 따라 상응하는 형사책임을 추궁할 것입니다. 교육 기술은 범죄자를 돕거나 교사하는 것으로 의심됩니다. 또한, 가해자가 행하는 AI 옷 벗기, AI 얼굴 바꾸기 등의 행위 역시 시민 개인정보 침해에 해당한다.

"심층 위조에 AI를 사용하는 것과 전통적인 기술 위조 사이에는 본질적인 차이는 없지만 전통적인 위조 방법보다 효율성이 훨씬 높고, 기술적 한계가 훨씬 낮아 일반 사람들도 쉽게 달성할 수 있으며, '작품'은 '심각한 위조는 인터넷을 더욱 범람시킬 것입니다.' Qi'anxin Group의 산업 보안 연구 센터 소장 Pei Zhiyong은 Beijing News Shell Finance 기자에게 사진과 비디오에 대한 위조 방지 기술을 적극적으로 탐색하고 홍보해야 한다고 말했습니다.

다중 플랫폼 인터넷 유명인이 트래픽을 유도하기 위해 '옷을 벗는' 일을 겪습니다: 5위안 맞춤형 사진

Little K는 간단한 조사 끝에 마침내 자신의 사진 유출 출처를 찾아냈습니다. 누군가가 자신의 'AI 옷을 벗는' 사진을 사용해 외국 소셜 플랫폼과 음란물 웹사이트에서 트래픽을 유도하고 AI 사진 편집 서비스를 판매했다는 것입니다.

Little K의 경험은 독특하지 않습니다. 이르면 지난해 3월, 샤오홍슈(Xiaohongshu) 블로거가 지하철에서 찍은 사진이 인공지능에 의해 '옷을 벗고' 위챗 그룹에 퍼졌다. 본 블로거의 댓글란에는 많은 여성들이 비슷한 경험을 호소하며 서로 공감하며 감정을 숨기지 못하고 있다.

쉘파이낸스 기자들은 단서를 찾아 'AI 스트리핑'에 가담한 판매자를 발견했다. 상대방은 사진을 제공하면 추가로 5위안의 "의류 제거" 서비스를 제공할 수 있다고 말했습니다. 사진이 효과를 얻을 수 없으면 저희에게 연락하여 사진을 변경하세요. 또한 20위안으로 '얼굴 바꾸기 영상'도 받을 수 있다.

판매자는 "최근 '옷벗기' 주문이 너무 많아 얼굴 교환도 할 엄두가 나지 않는다"고 말했다.

Beijing News Shell Finance 기자와 'AI 스트리핑' 판매자 간의 채팅 기록 스크린샷.

음란물에 'AI 옷벗기' 기술이 남용된 것은 2020년 해외에서 출시된 소프트웨어로 거슬러 올라간다. 논란이 일자 개발자에 의해 빠르게 퇴출됐다. 그럼에도 불구하고 일부 범죄자들은 ​​여전히 ​​이 기술을 이용해 돈을 벌고 있습니다.

올해 6월 베이징 경찰은 한 인터넷 기업에 근무했던 기술자가 "컴퓨터 AI가 헐값에 옷을 벗겨줄 수 있다"며 "주변 사람이나 인터넷 연예인, 연예인이 이용할 수 있다"고 주장한 사건을 수사했다. "라고 말하고 그렇게 하여 추가 돈을 벌었습니다. 각 사진의 가격은 $1.50에 불과합니다. 그는 관련 사진을 인터넷을 통해 351명에게 팔았고, 총 7000여 장에 가까운 사진을 팔았다. 결국 그는 영리를 목적으로 음란물을 배포한 혐의로 베이징 하이뎬구 검찰원에 기소됐다.

Shell Finance 기자의 조사에 따르면 AI 딥 페이크 사진 판매, 일반 사진의 유료 AI 'P-사진', 옷을 벗는 '기술' 교육 등 'AI 옷 벗기'가 이제 산업 체인을 형성한 것으로 나타났습니다. .

또한 블랙앤그레이 제품은 이미 인터넷 여성 연예인, 여성 연예인 등 유명인사를 타겟으로 하여 'AI 스트리핑'이 교통비밀번호로 자리 잡았다.

Shell Finance의 기자들은 "인터넷 연예인 XX의 옷 제거 교환 그룹"이라는 흑백 제품 플랫폼에 이 그룹의 회원이 거의 15,000명에 달하는 것을 발견했습니다.

Shell Finance 기자들은 이 그룹이 처음에는 인터넷 유명 미인의 일부 사진에 대해서만 'AI 스트리핑'을 수행했으며 나중에 점차 연예계와 스포츠계로 확대되었다는 사실을 발견했습니다. 이러한 유형의 "커뮤니케이션 그룹"의 수익 창출 방법도 비교적 간단합니다. 블랙 앤 그레이 업계 종사자들은 먼저 그룹에 사진을 던져 회원들이 "멤버십 그룹" 서비스를 구매하도록 유도합니다.

Bilibili와 Xiaohongshu는 여전히 "AI 옷 벗기 튜토리얼"을 가지고 있습니다 변호사: 교육 기술은 부범죄가 될 수 있습니다

기자는 AI 생성 모델 기술이 성숙된 후, 해당 '원클릭 옷 벗기' 기능이 유명 외국 오픈소스 AI 생성 모델의 네티즌들에 의해 '개발'되어 점차 널리 보급되었다는 사실을 발견했다. 각국의 규제 규정이 개선됨에 따라 대형 모델에서는 "옷을 벗다"와 같은 지침이 수정되었습니다. 그러나 Shell Finance 기자들은 Bilibili와 Xiaohongshu를 검색한 결과 여전히 일부 'AI 옷 벗기 튜토리얼' 동영상이 있다는 사실을 발견했습니다. 일부는 실제로 AI가 '옷을 갈아입는 것'이지만 이는 이러한 유형의 기술이 여전히 만연하고 있음을 의미합니다.

기자는 'AI 옷벗기' 등 관련 키워드를 사용해 영상사이트에서 검색결과를 찾았다.

이런 점에서 국내 많은 인터넷 연예인들은 상당히 무력하다. 지난해 5월 팔로어 50만 명이 넘는 인기 여성 블로거는 "사진을 도용해 외부 네트워크에 올려 트래픽을 유도하고 '동영상 판매'를 하는 것은 물론, 사진 등 음란한 사진을 올리는 등의 피해를 입은 사례가 많다"고 고소장을 올렸다. 눈썰미가 있는 사람들은 이런 저급 루머가 거짓이라는 걸 한 눈에 알 수 있다. 나는 평소에는 그런 루머에 관심을 두지 않는다. 비공개 메시지가 갑자기 많아지고 나서야 '리듬'이 늘어나는 걸 눈치챘다. 소문을 반박해야 했다고.”

Zhao Hu는 Shell Finance 기자들에게 AI가 옷을 벗거나 얼굴을 바꾸는 사진을 판매하는 것은 공안국 처벌법 조항을 위반한다고 말했습니다. AI가 옷을 벗는 사진을 유료로 '맞춤화'하는 것은 이익을 위해 음란물을 제작하고 판매하는 범죄에 해당할 수 있습니다. 사진을 판매하지 않고 유포만 했다면, 사안이 엄중한 경우에도 음란물 유포죄에 해당됩니다. 기술 교육은 범죄를 방조하거나 교사하는 행위가 될 수 있습니다.

Zhao Hu는 “AI의 옷을 벗는 사진을 '맞춤'화하는 데 도움을 주기 위해 청구하는 것은 영리를 목적으로 음란물을 제작, 복사, 출판, 판매 및 유포하는 범죄에 해당할 수 있습니다.”라고 Zhao Hu는 말했습니다. 시민의 개인정보. 이 정보가 유출되거나 오용되면 개인의 사생활과 보안에 심각한 위협이 될 수 있습니다.

"위조에 AI 도구를 사용하는 것이 기존 위조 방법보다 훨씬 효율적이라는 점은 분명하지만 기술적 한계는 훨씬 낮습니다. 소문을 퍼뜨리면 반박하면 다리를 잃을 것입니다." Pei Zhiyong은 Shell Finance Reporters에게 현재 AI 딥페이크 동영상과 사진은 전문적인 기술 수단이나 전문가 평가를 통해 식별할 수 있지만 비용도 매우 높다고 말했습니다. 생성되거나 합성된 영상은 인증할 수 없습니다.”

그의 견해로는 사람들이 AI를 이용해 가짜 동영상이나 사진을 생성하는 것을 막는 것이 비현실적이지만, 그렇다고 해서 가짜 동영상이나 사진에 대해 할 일이 없다는 뜻은 아니다. “우리나라는 온라인 음란물 영상·사진 관리 방식이 매우 성숙해 있다. 기술로 사진의 진위 여부를 확인할 수 없더라도 플랫폼 측에서는 음란물 확산을 막고, 음란물 확산 출처를 찾아낼 수 있다. 내용을 확인하고 단속을 실시합니다."

Pei Zhiyong은 인터넷 플랫폼이 일방적으로 트래픽을 추구할 수는 없지만 해당 법률의 지침에 따라 네트워크 거버넌스에 적극적으로 참여하고 관련 정보의 전파 범위를 효과적으로 제한해야 하며 확인되지 않은 주요 정보는 '미확인' 라벨을 적당히 표시해야 한다고 말했습니다. 일반 대중이 오해를 받을 위험을 줄입니다.

Pei Zhiyong은 사진과 비디오에 대한 위조 방지 기술이 적극적으로 탐구되고 홍보되어야 한다고 믿습니다. “예를 들어 특정 브랜드, 모델 및 일련번호의 특정 휴대폰을 사용하여 사진을 촬영하는 경우 사진 파일에는 육안으로는 보이지 않지만 기계로는 인식할 수 있는 문자열 암호화된 인증 코드 누군가 이 사진을 수정하든 AI 수정이든 수동 수정이든 검증 시스템은 원본 이미지가 아님을 인식할 수 있습니다. . 이 방식은 새로운 기술은 아니지만 성숙한 암호화 기술의 보급과 대중화가 필요합니다.”

Beijing Core Shield Times Technology Co., Ltd.의 창립자이자 CTO인 Sun Yue는 Shell Finance 기자와의 인터뷰에서 심층 위조 기술이 만연하고 있으며 음성, 얼굴과 같은 생체 인식 기능이 원래의 높은 신뢰도를 잃었다고 말했습니다. 인증 속성. 기술을 통해 이로 인한 피해를 방지하려면 주요 시스템 플랫폼에서 응용 시스템의 신원 인증을 강화하는 것이 좋습니다. 다단계 신원 확인을 통해 달성할 수 있는 신원 위조 위험에 대비하려면 강력한 인증 조치가 필요합니다. 인증, 단말기 위험 인식, 빅 데이터 분석 등. 사용자 행동 모델링, 지식 그래프 인과 추론 및 기타 수단을 결합한 제품 기술은 심층 위조로 인한 신원 위험을 효과적으로 방지할 수 있습니다.

“향후 AI의 건전한 발전을 위해서는 심층 위조 기술로 인한 위험에 대처하기 위해 우선 정부와 업계 규제 기관이 관련 법규를 적극적으로 개선하고, 둘째, 연구 개발을 늘려야 합니다. 심층 위조 탐지, 디지털 워터마크 및 기타 기술에 대한 투자와 더불어 관련 부서와 언론 매체는 사기 방지 선전을 강화하고 국민의 개인 및 재산 안전을 보호하기 위해 협력해야 합니다. "라고 Sun Yue는 Shell Finance 기자들에게 말했습니다.

기자 연락처 이메일 : [email protected]

베이징 뉴스 Shell Finance 기자 Luo Yidan 편집자 Wang Jinyu Yang Li 교정