소식

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

지난 8월 30일에는 '한국 ai의 음란 영상 심층 위조'에 대한 여러 유행어가 네티즌들 사이에서 뜨거운 논의를 불러일으켰습니다.

몇몇 한국 여성들은 낯선 사람들로부터 괴롭힘을 당하는 메시지를 받았습니다. 이들은 자신의 이름, 전화번호, 학교, 집 주소 등 개인정보가 여러 대화방에 퍼져 있다는 사실도 몰랐다.

이들의 신상정보와 함께 사진도 유포됐다. 범죄자들은 ​​자신의 사진을 채팅방에 있는 사람들이 볼 수 있도록 음란물 이미지로 만들었습니다.

피해자는 대학생일 수도 있고, 간호사, 교사, 심지어 초등학생일 수도 있고, 이런 메시지를 퍼뜨리는 사람은 피해자의 지인일 수도 있는데…

한 초등학교 여교사는 "학생들이 대화방에 자신의 음란물 사진이 있다는 말을 들었다"고 기자들에게 말했다. 그녀를 무너뜨린 것은 업로더가 사실은 자신의 학생이었기 때문이다.

국내 복수의 언론보도에 따르면, 최근 대한민국이 '룸n' 스캔들에 다시 등장했고, ai를 활용해 얼굴을 바꿔 음란물을 제작해 소셜미디어 플랫폼을 통해 유포하는 성범죄 '딥위조'가 등장했다. 심하게 노출되었습니다.

경찰과 취재진이 조사한 바에 따르면 'n번방 사건' 등 특정 직종의 여성을 성적 대상화하는 '심층위조' 범죄가 여군, 여교사, 여간호사 등을 불법 합성한 음란물들의 표적이 됐다. '방', '간호사 방', '여군' 등의 그룹이 등장했다.최근에는 여성가족을 대상으로 한 '가족방', '친척방'도 발견됐다.

한국 국적이라고 주장하는 한 여성은 도움을 요청해 중국 웨이보에 관련 사건을 폭로하기도 했다.

"당신이 주화징이요?”

1,200명이 그녀의 사진을 보았습니다.

2023년 봄, 여대생 주화징(zhu huajing)은 "소셜 미디어 텔레그램의 누군가가 당신의 사진을 공유하고 있습니다"라는 익명의 문자 메시지와 함께 채팅방 링크를 받았습니다.

채팅방에 들어간 뒤 채팅 내용을 보고 경악했다.

zhu huajing은 "거기에는 내 사진처럼 보이는 누드 사진이 수십 장 있습니다. 하지만 저는 그런 사진을 찍은 적이 없습니다"라고 말했습니다. "명문대를 졸업하고 좋은 직장을 구했지만 결국 남자들의 놀기 위한 도구일 뿐이라고 조롱하는 보기 흉한 욕설이 내 얼굴에 적혀 있었습니다."

해당 사진은 딥페이크 기술을 사용해 합성됐다. 누군가는 ai 소프트웨어를 사용하여 "스승님, 저는 당신의 노예입니다."라는 오디오를 생성하기도 했습니다.

zhu huajing은 그것을 여러 번 들었고 목소리가 그녀의 목소리와 매우 비슷했습니다. 그러나 그녀는 그것이 사실이 아니라는 것을 알고 있었습니다.

소프트웨어를 사용하여 채팅방에서 사람들의 옷을 "벗을" 수 있습니다.

2020년에 채팅방을 개설했고, 그룹 인원은 무려 1,200명에 이른다. 즉, 주화징의 사진을 본 사람은 최소 1,200명에 이른다. 범죄자들은 ​​그녀의 오랜 친구들과 마찬가지로 그룹 내에서 그녀의 이름으로 zhu huajing을 불렀지만 그녀는 그 그룹에 대해 아무것도 몰랐습니다.

그 범죄자 무리에게 둘러싸여 있다고 생각하자 zhu huajing은 현기증이 나고 구역질이 나서 구토를 할 정도였습니다. 그러나 다음에 일어난 일은 그녀를 더욱 겁나게 만들었습니다.

그녀가 채팅방에 있었다는 사실을 누군가가 알게 된 후, 그들은 공개적으로 그녀를 괴롭히기 시작했습니다.

주화징은 "매일 20~30통씩 괴롭히는 전화를 받는다. 전화로 음란한 말을 하고 '대화방에서 봤다'는 문자 메시지를 보낸다"고 말했다. " ".

그녀의 소셜 미디어 계정에도 비공개 메시지가 넘쳐났고, 그녀의 채팅 소프트웨어는 낯선 사람들로부터 많은 친구 요청을 받았습니다.

zhu huajing은 괴롭힘에 냉정하게 대처할 계획이었고 모든 전화에 응답을 거부했으며 소셜 미디어 계정을 취소했습니다. 그러나 한 무리의 사람들은 그녀를 점점 더 세게 압박했습니다. 누군가가 그녀의 친구들의 사진을 합성하여 그녀에게 복종을 강요했습니다. 그렇지 않으면 그녀는 "그녀 때문에 친구들이 고통받게 만들 것"이었습니다.

필사적으로 zhu huajing은 경찰에 신고하기로 결정하고 수집한 정보를 경찰에 넘겼습니다. 곧이어 경찰은 사진출판사의 ip를 바탕으로 남성 용의자를 추적해 검거했다.

경찰은 주화징에게 그 남자가 그녀와 같은 대학에 다녔다고 말했다. 그들은 같은 강의를 듣고 같은 학생식당에서 식사를 했습니다.

zhu huajing이 쓰러졌습니다. "그 사람은 나에 대해 다 알고 있어요. 스쳐 지나갈 때까지요. 저 1,200명이 이런데 난 모르겠어요..."

이 사건은 현재 서울중앙지방법원에서 1심이 진행 중이다. 8월 14일, 주화징(zhu huajing)은 법정에 출석하여 피해자로서 자신의 경험을 판사에게 진술했습니다.

그녀는 "대화방이 저에게 끼친 피해를 이해하지 못하는 분들이 많을 수도 있고, 제가 소란을 피우고 있다고 생각하는 분들도 계실 텐데요. 하지만 저는 이 일을 해야 하고, 이 경험을 널리 알려서 더 많은 분들이 그 사람들이 한 일이 얼마나 나쁜지 이해할 수 있습니다. 더 많은 나쁜 사람들이 대가를 치르게 해주세요!”

1,300명이 넘는 대규모 대화방 안에는 국내 수십 개 대학의 소규모 개인 대화방이 수없이 많다.

최근 3년간 국내 딥페이크 음란물 사례

미성년자는 피해자의 약 60%를 차지

제1야당인 더불어민주당 양부안 의원이 30일 경찰청에서 입수한 자료에 따르면, 2021년부터 2023년까지 딥페이크 음란물 피해자 전체 527명이 범죄를 신고했으며, 미성년자가 59.8%를 차지했다. 20~29세(32.1%), 30~39세(5.3%), 40~49세(1.1%)보다 훨씬 높았다. 미성년자 비율은 2021년 64.6%에서 2022년 52.9%로 소폭 감소했다가 지난해 62%로 늘었다.

기술이 발전하면서 딥페이크 기술을 활용해 가짜 영상을 만드는 것이 더욱 편리해졌고, 이로 인해 가해자 중 미성년자의 비율이 크게 늘어났다. 허위영상 제작 혐의로 등록된 가해자 중 10~19세는 2021년 65.4%를 차지했으나 2022년 61.2%로 소폭 감소했다가 지난해 75.8%로 반등했고, 올해 1~7월에는 73.6%를 기록했다.

파일사진: 소셜 플랫폼 텔레그램에 등장하는 딥 페이크 음란물이 담긴 단체 채팅 채널 스크린샷

딥페이크를 이용해 불법 합성 영상을 제작해 텔레그램에 유포한 일명 '지인 모욕방' 운영자가 검찰에 넘겨졌다. 피해자는 246명에 이른다.

서울지방경찰청 '딥페이크 등 허위영상 중앙대응실무단'은 텔레그램에 '지인 모욕방'을 개설·운영한 20대 남성 a씨를 지난 22일 긴급체포했다고 30일 밝혔다. 그리고 같은 날 검찰로 송치됐다. 검찰은 아동·청소년 성착취물 등 불법 성영상 2만여 건을 접수한 30대 남성도 같은 혐의로 구속됐다.

참여자 수는 220,000명에 이를 수 있습니다.

환구시보에 따르면 윤석유 한국 대통령은 8월 27일 최근 불특정 다수를 대상으로 한 딥 페이크 기술 이미지가 소셜 미디어를 통해 급속도로 확산되고 있으며, 피해자 중 다수가 미성년자이며, 가해자는 대부분 10대라고 밝혔다. 그는 익명성에 의존해 심층위조기술을 악의적으로 이용하는 것은 범죄이며, 관련 부서가 실태를 파악하고 조사해 이러한 디지털 기술 범죄를 완전히 근절할 수 있기를 바란다고 말했다.

한국에서는 여성을 대상으로 한 위조 범죄가 점점 만연하고 있다. 이러한 사례는 대학 캠퍼스뿐만 아니라 초중등 학교, 군대 등에서도 발생하며, 특히 텔레그램 정보를 중심으로 한 사례가 끊이지 않고 있다. 피해 학교와 피해자에 대한 내용이 유출됐다.

한국여성친선협회는 지난 8월 26일 '집단 성폭력 가담자가 22만 명에 달하는데, 언제 사회 붕괴를 방치할 수 있는가'라는 제목의 보고서를 내놨다. 지인 사진을 업로드해야 결제 후 5초 이내에 누드합성사진을 생성할 수 있습니다. 놀랍게도 이 채팅방의 참가자 수는 무려 227,000명에 달합니다. 인민의 민주친구들은 보고서에서 “(남조선의) 여성들은 여성에 대한 범죄와 폭력을 효과적으로 처벌하거나 예방하지 못하는 사회에 살고 있으며, 마치 살아가는 것처럼 일상생활에서도 안정감을 상실하고 있다”고 질문했다. 나라가 없는 나라에서 그런 사회가 존재해야 합니까?”

딥페이크 범죄가 확산되자 한국의 각계는 정부에 더욱 강력한 조치를 취할 것을 촉구했습니다.

국회 여성가족위원회는 9월 긴급대책회의를 열고 관련 해법을 논의한다고 27일 밝혔다. 국회 관련 홈페이지에는 텔레그램 플랫폼 성범죄 가해자에 대한 엄중한 처벌을 요구하는 국민동의 청원도 게재됐다.

'심각한 위조' 범죄가 자주 발생해 대중의 분노가 촉발됐다.

한국, 단속 강화할 것

29일 연합뉴스 보도에 따르면, 정부와 여당 한나라당은 이날 '딥페이크' 기술을 활용한 범죄 행위에 대한 단속을 강화하기로 합의했다. 보도에 따르면 최근 젊은 여성을 대상으로 한 가짜 및 외설적인 이미지가 소셜 미디어에 대량으로 등장해 한국 대중의 분노를 불러일으켰다.

연합뉴스는 최근 소셜미디어 플랫폼 '텔레그램'(텔레그램)에서 불특정 집단을 대상으로 '심각한 위조'와 얼굴 변조를 통해 음란 영상을 공유한 것으로 의심되는 집단이 다수 발견됐다고 밝혔다. 피해자에는 일반 시민과 여군도 포함됐고, 피해자와 가해자들도 10대들이 많았다.

정부·여당도 현지시간 8월 29일 긴급국회에서 '텔레그램' 운영사와 협력 핫라인 구축을 추진하고, 이에 대한 입법조치를 취하기로 의결했다. 음란물 범죄의 경우 형량이 현행 5년에서 7년으로 늘어난다.

김상훈 한나라당 정책위원장은 회의 뒤 "('딥페이크' 음란물이) 텔레그램을 통해 널리 유포되고 있지만, 국제협력에 어려움을 겪고 있는 것 같다"고 말했다. 서버는 해외에 있다”며 “정부는 텔레그램 운영자들과 간담회를 갖고 핫라인 구축을 추진해 정기적인 협의체 구축을 추진할 것”이라고 덧붙였다.

이와 함께 한국 언론 감시단체인 방송통신위원회는 '텔레그램' 창립자이자 ceo인 파벨 두로프가 프랑스에서 체포된 이후 한국이 프랑스 당국에 긴급 지원을 요청하는 서한을 보냈다고 밝혔다. 온라인 음란물 범죄.

한동훈 더불어민주당 대표는 정부의 조속한 범죄 근절을 촉구하고, 미성년자의 형사책임 기준을 낮춰야 한다고 강조했다. 현재 우리나라의 소년법에 따르면 10~14세 사이의 아동은 자신의 행위에 대해 형사책임을 지지 않으며, 대신 소년원에 보내지거나 사회봉사를 받게 된다.

보도에 따르면 이번 회의에서 한국 정부와 여당은 '심층위조' 범죄 근절을 주도하기 위해 부처간 실무그룹을 구성하기로 합의하기도 했다.

국방부는 경찰 수사에 적극 협조하고, 상담, 신고 접수 등 피해자 보호를 위한 조치를 취하고 있다고 밝혔다. 방역당국 관계자는 "상황의 심각성을 인지하고 있다"며 "예방교육 등 다양한 예방조치도 강구하겠다"고 밝혔다.

윤석유 대통령은 8월 27일 정부 국무회의에서 인공지능(ai) 기술을 이용해 생성된 '딥페이크' 콘텐츠 근절을 위해 디지털 성범죄 대응 노력을 강화해 줄 것을 수사기관에 촉구했다.