ai가 만든 사진의 5대 혼돈 ②│'음란사진' 속 사업: 얼굴 변신과 탈의, 반복적인 금지, 하지만 멈추기는 어렵다
2024-09-27
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
ai가 어디에나 있고 진입 장벽이 거의 무제한인 이 시대에 ai를 사용하여 사진이나 비디오(이하 통칭하여 ai 생성 사진이라고 함)를 생성해 본 적이 없다면 실제로는 충분히 "트렌디"하지 않습니다.
다른 신기술과 마찬가지로 ai 영상 기술도 탄생부터 꽃과 가시를 동반하는 등 논란으로 가득 차 있다. 지지자들은 이를 파괴적인 기술 혁명으로 보는 반면, 반대자들은 이를 재앙으로 본다. 특히 지난 2년 동안 chatgpt와 sora로 대표되는 대규모 ai 데이터 모델이 등장했으며 ai 이미지 생성이 인기 트렌드로 자리 잡았으며 점점 더 많은 네티즌들의 관심을 받고 있습니다. 사람들에게 큰 편리함과 놀라움, 편안함을 선사하는 반면, 황당하고 짜증나고 심지어 불법적이라는 등 부정적인 문제도 필연적으로 많이 노출시킵니다.
ai는 결백하며, 핵심은 이를 어떻게 사용하느냐에 있습니다. 윤리와 법치의 원칙을 고수해야만 기술이 인류에게 더 나은 혜택을 줄 수 있습니다. 오늘, 업스트림 뉴스(upstream news)는 최근 ai 이미지 생성 분야에서 노출된 다양한 혼란에 초점을 맞춰 소스 추적, 원인과 결과 분석, 해결책 탐구에 초점을 맞춘 "ai 이미지 생성의 5대 혼란"에 대한 특별 보도를 시작합니다. ai산업의 건전한 발전에 기여하고자 합니다.
2024년 2월, 충칭시 위베이구에 거주하는 샹(가명)씨는 갑자기 흑백 누드 사진이 포함된 문자 메시지를 받았습니다. 사진 속 샹 씨는 호텔 침대에 누워 있는 젊은 여성을 품에 안고 "이미지 데이터를 모두 갖고 있으니 빨리 연락주세요"라는 추신과 함께 전화번호를 알려주었다. 평소 자신을 깨끗하게 유지하고 인터넷 사기, ai 변태 등 상식에 익숙하기 때문에 샹 씨는 ai를 사용해 사진을 생성하는 범죄자들에게 사기를 당하고 있다는 사실을 알면서도 아내에게 자신의 이야기를 무시했다. 자신의 wechat 친구 그룹과 경험을 공유했으며 선량한 조롱을 많이 받았습니다. 이에 대해 샹 씨는 업스트림 뉴스(보도 이메일: [email protected]) 기자에게 “이 사진은 ai가 신분증에 있는 얼굴을 사용해 나체를 만든 것으로 알고 있다. 이 사기꾼들이 내 신분증 사진과 휴대폰 번호를 어디서 알아냈는지 궁금해요.” 업스트림 뉴스 기자의 조사에 따르면 많은 언론과 경찰의 보도에 따르면 최근 몇 년 동안 유사한 ai 얼굴 변경 사기가 발생했으며 많은 사람들이 이를 사실이라고 믿었으며 그 결과 막대한 양의 자산이 사기를 당하고 심지어 가족이 붕괴되었습니다. . 사진과 영상을 제작·유포하고 사기 행위를 한 범죄자들도 법에 의해 엄중히 처벌받는 경우가 많다.
피해자: 돈을 사기당한 사람도 있었고, 얼굴이 변한 사람도 있었습니다.
충칭의 샹 씨는 범죄자들로부터 협박 문자 메시지를 받았지만 운이 좋게도 탈출했습니다. 반면 산둥성 웨이하이 출신의 왕씨도 같은 사기를 당했고 68만 위안을 요구해 결국 20만 위안을 송금해야 했다.
왕 씨가 받은 문자 메시지의 내용은 샹 씨가 받은 내용과 거의 똑같았고, 그는 별 생각 없이 문자 메시지에 있는 번호로 전화를 걸었습니다. 상대방은 그의 이름과 직장을 정확하게 밝히고, 왕씨에게 68만 위안을 송금하면 영상을 사줄 수 있다고 말했다. 상대방의 위협에도 불구하고 왕씨는 그것을 믿었다. 이후 왕 씨는 여러 당사자로부터 자금을 모아 20만 위안을 이체했습니다. 그러나 이 20만 위안은 상대방의 식욕을 전혀 만족시킬 수 없습니다. 이후 경찰은 왕씨에게 연락을 취했다.
사건을 조사한 경찰은 면밀히 관찰한 끝에 문자메시지 속 사진에서 얼굴은 왕씨와 비슷하지만 얼굴형과 체형은 전혀 다르다는 사실을 발견했다. 이후 경찰은 왕 씨가 송금한 두 개의 은행 계좌에 대해 신속하게 긴급 지급 정지 작업을 진행했다. 경찰은 추심 계좌를 조사 분석한 뒤 범죄 용의자 정씨와 종씨의 신원 정보를 잠갔다. 올해 1월 웨이하이 경찰은 용의자 2명을 체포해 재판에 회부했다.
shang 씨와 wang 씨는 문자 메시지 사기를 당했고 그들의 아바타는 ai에 의해 누드 사진으로 만들어졌습니다.
웨이하이 경찰에 따르면 이번 사건의 피의자는 우선 인터넷 등을 통해 피해자의 영상과 사진, 관련 정보를 수집했다. 그런 다음 소위 '음란물'이나 '음란물 사진'을 ai 얼굴 변경 기술을 사용하여 합성한 다음 sms, 이메일 및 기타 채널을 통해 선택한 대상에게 정확하게 전송하고 연락처 정보를 남겨서 신고하려고 합니다. 가족에게 알리고 다른 방법으로 선정된 대상을 위협하고 피해자에게 지정된 은행 계좌로 돈을 이체하도록 요구합니다. 경찰은 이런 상황이 발생하면 증거 보관에 주의를 기울이고 적시에 경찰에 신고해야 한다고 상기시켰다.
남성에 비해 젊고 아름다운 여성, 특히 인터넷에 잘 알려진 여성 연예인들은 ai의 얼굴 변화와 ai의 '원클릭 옷 벗기'에 영향을 받을 가능성이 더 높다. 지난해 7월 400만 명이 넘는 팬을 보유한 한 여성 인터넷 연예인 블로거는 많은 팬들이 자신의 '음란물'을 봤다는 글을 남긴 것을 발견했다. 결백한 사람은 스스로 조사할 것이고 소문은 결국 지나갈 것입니다. "어느 날 친구가 여주인공이 자신과 똑같이 생긴 포르노 비디오를 전달한 후에야 그녀는 자신이 악의적으로 '얼굴이 바뀌었다'는 사실을 깨달았습니다. 음란영상으로 만들어졌습니다.
당시 언론 보도에 따르면 판매자 가격표에는 인터넷 연예인 수백 명을 팬 수준에 따라 50만 명 미만부터 1,000만 명 이상까지 분류했고, 이에 상응하는 얼굴 교환 포르노 영상이 판매됐다. 30위안에서 50위안까지 다양하지 않습니다. 이밖에도 테이블에는 여자 스타들이 많다. 한 판매자는 자신이 80명 이상의 연예인과 15,000장 이상의 사진을 소유하고 있다고 말했습니다. 모두 구매하시면 가격은 단돈 60위안이며, 23개의 영상을 선물로 드립니다. 판매자는 또한 단일 연예인의 얼굴 교환 사진을 구매하면 수량에 따라 300장의 사진을 5위안으로 구매할 수 있다고 말했습니다.
또한 학교, 쇼핑몰, 사무실, 지하철 등 일상적인 장면에서 평범한 여성들의 사진도 ai의 얼굴 도용의 대상이 되거나 ai가 옷을 벗기는 경우도 많다. 수천 또는 수만 개의 관련 사진 조회수.
광저우의 한 젊은 여성이 지하철을 타던 중 클릭 한 번으로 옷을 벗은 사진이 공개됐다.
제작자: 거의 7,000장의 누드 사진을 위조했으며 가격은 장당 1.5위안입니다.
음란물, 음란물을 생산하는 행위자로서 온라인에 숨어 있는 많은 작가들이 엄중한 법적 처벌을 받았습니다.
올해 7월 cctv뉴스는 ai 기술을 이용해 음란물 7000여 장을 위조한 불법 사건을 보도했다. 범죄 용의자 바이 모무(bai moumou)는 베이징에 거주하며 원래 인터넷 회사의 기술자였습니다. 그는 ai '원클릭 의류 제거' 기술을 사용하여 약 7,000장의 음란한 사진을 딥페이크하여 각각 1.5위안의 가격에 판매했습니다. 사진에는 학생, 교사, 동료 등 많은 여성이 등장합니다. 검찰기관은 피고인 바이모모가 이익을 목적으로 음란물을 제작, 판매한 행위가 중화인민공화국 형법 관련 규정을 위반한 행위라고 판단한다. 영리를 목적으로 음란물을 제작, 판매하는 범죄.
베이징의 한 남성은 음란 사진 7000여 장을 제작해 한 장당 1.5위안에 팔았습니다.
지난해 4월 항저우시 인민검찰원에 따르면 1980년대 안휘성 출신 남성 유씨는 영리를 목적으로 음란물을 제작·유포한 혐의로 기소됐다. 유 씨는 'ai 얼굴 바꾸기'가 막 등장하기 시작한 2020년 초부터 이 기술에 관심을 갖게 됐고, 이 기술도 독학을 통해 터득했다. 이후 유씨는 외국 소셜 플랫폼에 계정을 등록하고 그룹을 만들었다. 다른 사람이 '내부 그룹'에 가입하려면 그룹 가입 후 198위안에서 498위안까지의 '회원비'를 지불해야 했다. ai를 활용하는 사람들도 많이 볼 수 있다. 얼굴 교환 기술을 사용해 제작한 포르노 영상도 고객의 요구에 따라 다양한 여성 연예인의 이미지를 활용해 '맞춤형'으로 제작할 수 있다. 불과 몇 달 만에 yu는 수만 위안을 벌었습니다.
유 씨가 설립한 공개그룹에서 공안기관은 1200여 장의 음란물과 1600여 장의 사진을 조사한 결과 모두 음란물이었다. 지난해 11월 항저우시 샤오산구 인민법원은 영리를 목적으로 음란물을 제작·유포한 피고인 유씨에게 징역 7년 3개월과 벌금 6만위안을 선고했다.
젊고 아름다운 여성들이 ai의 얼굴 변화에 희생양이 되기 쉽고, 일부 기업에서는 '맞춤형 서비스'를 제공하기도 합니다.
설문 조사: 소프트웨어 구매가 어렵고 tieba가 차단되었습니다.
이전 언론 보도에 따르면 2023년에는 '원클릭 옷 제거' 기능을 갖춘 관련 소프트웨어가 많은 플랫폼에서 제공될 예정이다. 많은 네티즌들은 온라인에서 관련 소프트웨어와 제품에 대한 경험을 구매하고 교환하기도 합니다.
예를 들어, 특정 제품에는 "이 소프트웨어는 실제 사람을 만화로 변환하고, 머리를 바꾸고, 옷을 갈아입는 기능을 실현할 수 있습니다."라고 명확하게 표시되어 있습니다. 이 소프트웨어는 단 16.66위안에 판매되며 월간 판매량은 200건 이상입니다. 매장 댓글란에 누군가 "정말 옷을 벗을 수 있나요?"라고 묻자 많은 사람들이 "그렇다"고 답했다.
당시 '딥페이크(deepfake)'라는 게시판에는 ai 얼굴 변신 관련 게시물이 9000여개 이상 올라 있었는데, 여기에는 연예인들의 얼굴 변신 영상에 대한 판매 정보가 대거 담겼다. '합성 얼라이언스(synthetic alliance)'라는 사용자는 그룹 내에서 얼굴 교환 포르노 동영상을 공개적으로 판매하고 있는데, 목록에는 150개가 넘는 동영상이 있는데, 그는 "가격이 58위안밖에 안 된다"고 말했다.
업스트림 뉴스 기자가 딥페이크 게시물 바를 검색한 결과 게시물 바가 차단된 것을 발견했습니다. 기자는 여러 전자상거래 플랫폼에서 'ai 얼굴 바꾸기', '원클릭 옷 제거'라는 키워드를 검색했지만, 아무것도 표시되지 않았다. 일부 매장에는 '지능형 삭제', '지능형 이미지 확장' 등의 기능을 갖춘 소프트웨어 제품이 많이 있지만, 점주들은 '원클릭 옷 제거' 기능이 없다고 답했다. 그러나 기자는 저장성의 한 판매자가 "옷을 갈아입을 때나 다시 칠할 때나 쉽게 처리할 수 있다"며 '의류 교환 아티팩트'라는 소프트웨어를 18.80위안에 판매한 것을 발견했다.
기자는 개인 메시지를 통해 판매자에게 연락했다. "옷을 벗겨도 될까요?"라는 질문에 판매자는 "너무 무뚝뚝하게 말하지 마세요. 저희가 모니터링하고 있어요!"라고 조심스럽게 말했고, 이어 "y(옷)로 가셔도 됩니다"라고 막연하게 말했다. 기자가 필요에 따라 비용을 지불한 후 판매자가 발급한 네트워크 디스크 다운로드 주소 및 사용법 튜토리얼은 다음과 같습니다.
기자는 상인의 지시를 따랐고 앱이 실제로 '원클릭 옷 제거' 기능을 실현할 수 있다는 것을 발견했습니다.
모 중고거래 플랫폼에는 아직도 '원클릭 옷 제거' 기능이 있는 소프트웨어를 몰래 판매하는 상인들이 있다.
변호사 진술: 상황이 특히 심각할 경우 최대 형량은 무기징역이다.
기자는 일부 포럼에서 여전히 비밀리에 무료 "원클릭 옷 제거" 소프트웨어를 찾는 네티즌들이 있다는 사실을 발견했습니다. 그렇다면 관련 소프트웨어를 게시하거나 판매하는 가맹점은 법을 위반하거나 심지어 범죄를 저지른 것으로 의심됩니까? 네티즌이 관련 사진과 영상을 생성하고 게시하기 위해 소프트웨어를 사용하는 경우, 이를 '즐거움'을 위해 저장하는 데만 사용한다면 법 위반인가요? 공유하면 어떤 처벌을 받게 되나요?
유명한 형사 변호인이자 허난 택진 법률 사무소 이사인 푸 지안(fu jian)은 기자들에게 사진과 비디오 제작, '원클릭 의류 제거' 소프트웨어 판매 등의 활동은 개인 사생활과 초상권 침해 혐의를 받고 있다고 말했습니다. 불법적이거나 범죄적인 행위로 간주되어 형사처벌을 받을 수 있습니다. 우선, 관련 소프트웨어를 판매하는 가맹점은 형법 규정에 따라 영리를 목적으로 음란물을 제작, 복제, 출판, 판매, 유포한 자로 의심됩니다. 3년 이하의 유기징역, 구금 또는 감시에 처하고, 사안이 엄중한 경우에는 3년 이상 10년 이하의 유기징역에 처한다. 사안이 특별히 엄중한 경우에는 10년 이상의 유기징역 또는 무기징역에 처하고, 벌금을 병과하거나 재산을 몰수한다.
둘째, 자연인의 초상권은 법률로 보호되어 있으며, 자연인의 동의 없이는 타인의 초상을 직접 사용할 수 없습니다. 네티즌들이 소프트웨어를 이용해 관련 사진과 영상을 생성해 '즐기기' 목적으로 저장한다면 타인의 초상권 침해 의혹도 받고 있다. 제작 후 위챗그룹이나 소셜 플랫폼에 공유할 경우 타인의 초상권, 명예권을 침해하는 것으로 의심되어 일정한 민사책임을 져야 합니다. 그의 행위는 '공안관리처벌법' 위반 혐의를 받고 있으며, 심할 경우 음란물 유포 혐의도 받을 수 있다. 사안의 심각성에 따라 유기징역, 구류, 벌금 등의 처벌을 받을 수 있습니다.
ai의 얼굴 변화, 옷 벗기 등의 현상에 대해 리량(li liang) 중국 민주대 법학전문대학원 교수는 우선 인공지능 불법적용 침해 주체를 명확히 구분할 필요가 있다고 말했다. 둘째, 인공지능의 불법적용에 대한 책임(결과)을 공유하는 메커니즘을 구축해야 한다. 셋째, 법적 원칙과 사회적 이익을 종합적으로 고려하여 과학적 입법이 이루어져야 하며, 인공지능과 관련된 법체계를 확립하고 개선해야 한다. 응용, 기술 연구 및 과학 개발 촉진, 감독 및 규제 메커니즘 강화.
업스트림 뉴스 기자 jin xin은 cctv 뉴스, cctv, 베이징 뉴스, 인민일보 등의 정보를 부분적으로 합성했습니다.
