소식

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

39세의 이연지는 한국의 공공 복지 단체의 창립자이자 ceo입니다. 그녀는 전국적으로 퍼지고 있는 '딥페이크 범죄'에 맞서 싸우고 있습니다.

일부 분석가들은 여성의 얼굴을 음란 영상으로 합성해 널리 유포하는 '심층 페이크 범죄'가 한국 여성을 '공황'에 빠지게 만들었다고 지적했다.

올해 5월에는 서울대 졸업생이 음란물 사진과 영상을 합성하기 위해 심층위조 기술을 사용한 혐의를 받고 있다. 약 1,700개의 불법 사진 및 동영상.

3개월 후, 한국 인하대학교에서 또 다른 딥페이크 범죄가 발생했습니다. 1,200명 이상의 참가자가 텔레그램에서 딥페이크 포르노 이미지를 합성하고 해당 콘텐츠를 사용하여 여성을 협박하고 모욕했습니다. 지난 8월 말 국내 언론은 텔레그램에 전국의 학교 관련 채팅방이 대거 등장했다고 보도했고, 이용자들은 자신이 알고 있는 여성의 사진을 업로드했고, 다른 이용자들은 이 사진을 딥페이크 음란물 콘텐츠로 변조하는 경우도 있었다. 특정 피해자를 위한 '수치의 방'.

사전 조사 결과 피해자의 80%가 여성인 것으로 나타났으며, 범죄 행위는 중·고등학생, 대학생, 교사, 간호사 등 미성년자에게도 확산됐다.

이러한 소식은 li juanzhi에게 큰 영향을 미쳤습니다. 그녀는 누군가가 "수치의 방"을 조사하기 위해 소셜 미디어 플랫폼 x에 게시하고 내부 상황을 폭로하는 데 도움을 줄 사람을 찾는 것을 보았습니다. li juanzhi는 남성 사용자로 가장하여 몰래 들어가 정보를 수집했습니다. 그녀는 불법 딥페이크 포르노의 확산이 이미 무료 방에서도 널리 퍼져 있다는 사실을 발견했습니다.

리후안지는 수집한 영상과 스크린샷을 함께 작업한 동료들에게 모아 수사관들에게 넘겼다. li juanzhi는 자신들이 제출한 자료가 일부 사건에 연루된 사람을 식별하는 데 도움이 되었다는 소식을 듣고 다소 위안을 받았습니다.

'굴욕실'의 내용은 이환지를 매우 불편하게 만들었고, 어느 순간 잠을 잘 수 없을 정도로 아팠지만 계속해서 행동했습니다. 한편으로는 더 강력한 징계 기준을 요구하는 온라인 청원이 시작되었고, 다른 한편으로는 거리에서 시위가 벌어졌습니다. "정부는 범죄에 맞서 싸우고 '무관용' 처벌법을 시행하기 위해 확고한 입장을 취해야 합니다."라고 li juanzhi는 말했습니다.

온·오프라인 시위

9월 6일 저녁 7시, 서울은 밤이 되었고, 비가 조금씩 내리고 있었다. 이연지는 약속된 시간에 종로구 보신각 근처에 도착했다. 잠시 후 공식적으로 시위가 시작되었고, 단체 대표들과 개인들이 앞장서서 각자의 입장문을 낭독했고, 이후 500~600명의 사람들이 검은 바탕에 흰색 구호를 들고 거리로 나섰습니다.

이날 밤 시위에 참여한 이들은 현직 교사와 성교육 단체, 여성단체, 학교 학생들 등으로 “두려움과 불안이 없는 삶을 살자”, “성범죄 딥페이크 조장 플랫폼을 규제하자”, “우리는 우리다”라고 외쳤다. 여성혐오적 딥페이크를 타도할 것입니다”와 같은 슬로건을 사용합니다.

시위는 약 2시간 동안 진행됐다. 리환지는 자신과 일행도 9월 21일 지하철 혜화역에서 2차 시위를 벌일 계획이라고 말했다. 전국 각지에서 서울까지 시위대를 수송할 버스를 빌릴 수 있도록 여러 곳에서 연락이 오기 시작했다.

오프라인 거리 시위는 온라인 소셜미디어를 통해 한국 여성들의 목소리가 반영됐다. 딥 페이크 성범죄에 대한 뉴스 보도가 국내에서 세간의 이목을 끌자, 많은 한국 여성들은 사건이 가볍게 노출될 것을 우려해 소셜미디어에서 '학교 디지털 성범죄'를 활용해 '딥 페이크 섹스'를 널리 알리는 등 적극적으로 목소리를 내고 있다. '여성을 보호하라' 등의 해시태그를 통해 '심오한 가짜 성범죄' 소식을 홍보해 전 세계의 주목을 받았고, 많은 한국 여성들이 중국 인터넷을 통해 도움의 메시지를 보내왔다.

이번 '해시태그 항의' 캠페인은 현재까지 좋은 성과를 거두고 있다. 9월 1일 소셜미디어 플랫폼 x에서 '공공 딥페이크 성범죄자'를 포함한 태그가 폭발적으로 늘어나 총 60개의 게시물이 1만 개가 넘는 게시물로 2위를 기록했다. 글로벌 실시간 트렌드는 물론 한국 실시간 트렌드에서도 2위를 차지하고 있다"고 li juanzhi는 말했습니다.

추진력을 구축하기 위한 온라인 및 오프라인 연결 외에도 li juanzhi는 심층 위조 범죄와 관련된 처벌 법안을 조사하고 연구하기 시작했습니다. 그 중에서도 '전파를 목적으로'라는 말이 특히 눈길을 끌었다. 한 분석 기사에서는 이러한 딥페이크 범죄자를 처벌하기 어려운 이유 중 하나가 확산 의도가 있음을 입증하기 어렵기 때문이라고 분석합니다.

과거 대한민국에서 일어난 'n번방' 사건을 연상케 하는 몇몇 핵심 범죄자를 제외하면 대부분의 사람들이 처벌을 받지 않았다. li juanzhi는 대규모 딥페이크 범죄를 가능하게 하는 것이 기존 법률 시스템의 허점이라는 것을 깨달았습니다.

li juanzhi는 소위 "굴욕실"에 잠입하는 동안 각 그룹 룸은 약간 다르지만 참가자들은 일반적으로 그룹에 들어가거나 사진을 합성하기 위해 여성의 사진 10장을 제공해야 하며 이는 딥페이크로 간주된다는 사실을 발견했습니다. 새로운 피해자 대상이 제공되었습니다. 일부 단체방은 1회 무료로 합성되며, 이후 참가자는 "비밀번호"를 제공하거나 새로운 남성을 방에 초대해야 서비스를 계속 사용할 수 있습니다. 단체방에는 '여교사 사진 300장 필수', '고교생 할인' 등의 안내문이 붙어 있다.

"수치실"은 참가자의 성별을 식별하는 방법도 모색합니다. 일부 단체방에서는 단체 가입을 원하는 사람들이 특정 은행 계좌에 1원을 입금해야 하며, 해당 은행 계좌 입금 이름을 사용하여 새 구성원이 남성인지 확인해야 합니다.

일부 참가자는 딥페이크 이미지나 비디오를 합성하는 비용을 청구받고, 다른 참가자는 딥페이크 콘텐츠를 판매하여 돈을 벌며, 텔레그램 자체는 더 많은 사용자가 있는 방에서 광고 수익을 창출합니다. “그들은 범죄 조직처럼 이익을 공유합니다.” li juanzhi는 그들이 이익 중심 조직이며 “수동적 청중”이라는 개념이 없다고 말했습니다.

여기서 그녀는 의회에 청원하자는 생각을 떠올렸다. li juanzhi는 이러한 단체방에 참여한 모든 참가자를 범죄 조직 구성원으로 간주하여 처벌할 것을 요구했습니다. 한국 법은 아동·청소년 사건에 대해서만 비공개 수사를 허용하고 있기 때문에 성인 대상 성범죄에 대해서도 비공개 수사가 가능하도록 청원제도가 개선되기를 바란다.

인공지능으로 구현하는 '간편한 심층위조'

딥페이크 스캔들의 중심에는 메시징 앱 텔레그램이 있습니다.

이는 사용자가 일반적으로 익명으로 처리되고, 방을 "비공개" 모드로 설정할 수 있으며, 콘텐츠가 흔적도 남기지 않고 빠르게 삭제되는 암호화된 메시징 앱입니다. '텔레그램'의 원래 디자인은 사용자의 발언의 프라이버시를 보호하는 것이었지만, 범죄 행위가 만연하는 주요 장소로 판명되었습니다.

딥페이크 콘텐츠를 만드는 데 사용되는 기술도 구하기 어렵지 않습니다. 버팔로 소재 뉴욕주립대 컴퓨터공학과 교수인 류 시웨이(siwei lyu)는 베이징뉴스 기자에게 딥페이크(deepfake)라는 단어 자체가 딥러닝(deep learning)과 가짜 미디어의 혼합어이며 멀티미디어를 의미한다고 설명했다. 심층 신경망 모델에 의존하는 생성 인공 지능 모델을 사용하여 생성된 텍스트, 오디오, 이미지 및 비디오를 포함한 텍스트입니다. 생성적 ai 시스템은 레이블이 지정되지 않은 대량의 데이터를 학습할 수 있으며 이러한 모델은 매력적인 콘텐츠를 생성할 만큼 강력합니다. 따라서 기술적 한계가 크게 낮아졌습니다.

"인공지능 기술을 사용하면 딥페이크 시청각 자료를 쉽고 빠르고 저렴하게 제작할 수 있으며, 이는 영화, 소매 산업 등 보다 유익한 측면에서 사용될 수 있습니다. 네덜란드 틸뷔르흐 대학의 법률, 기술 및 사회 연구에 참여하세요." bart van der sloot 교수는 불행히도 딥페이크 기술의 가장 일반적인 응용은 음란물이며, 특히 어린 소녀들이 피해자가 될 때 이는 비참한 결과를 초래할 수 있다고 말했습니다.

딥페이크 사용을 조사한 2019년 보고서에 따르면 온라인 딥페이크의 96%가 음란물과 관련되어 있으며 이 수치는 여전히 증가하고 있는 것으로 나타났습니다.

현재의 관점에서 보면 심층 위조를 방지하는 데에는 많은 장애물이 있습니다. slote는 딥페이크 포르노 콘텐츠가 생성될 때 피해자가 이를 알지 못하는 경우가 많으며, 콘텐츠가 인터넷을 통해 유포된 후에야 외부 세계에서 해당 콘텐츠를 발견하고 그에 따른 조치를 취한다는 사실을 발견했습니다. 온라인에 딥페이크 포르노가 너무 많기 때문에 법 집행 기관에서는 해당 콘텐츠가 실제 사람인지, ai로 생성된 사람인지 여부에 관계된 사람이 해당 콘텐츠에 동의했는지 여부를 평가하기가 어렵습니다. 가해자가 발견되고, 피해자가 확인되고, 자료가 제거되더라도 그때쯤이면 피해가 발생하고 너무 늦어지는 경우가 많습니다.

li juanzhi는 이벤트 후 추적이 단지 "일을 바로잡는 것"일 뿐이며 플랫폼 수준의 감독이 소스로부터 강화되어야 한다고 믿습니다. "만약 범죄자가 익명의 플랫폼에 숨어 있다면 이 플랫폼은 범죄의 온상이 될 것입니다."

구체적인 조치와 관련하여 lu siwei는 단기적으로 유해한 영향을 미치려는 의도의 딥페이크 콘텐츠를 금지하거나 제한하기 위한 일련의 정책과 규정이 도입되어야 한다고 믿습니다. 장기적인 해결책은 기술 자체에 있으며, 이를 위해서는 딥페이크를 자동으로 감지, 제거 또는 추적하는 기술의 추가 개발이 필요합니다.

딥페이크 범죄가 한국 사회에서 논의를 촉발하자 현지 시간 9월 2일 우종수 경찰청 수사본부장은 정례 기자회견에서 경찰이 소셜미디어 수사에 착수했다고 밝혔다. '딥페이크 범죄 조력' 의혹 플랫폼 '텔레그램'이 사건 전 조사를 진행한다. 텔레그램 자체는 플랫폼에서 유해한 콘텐츠에 적극적으로 대처하겠다고 약속했습니다.

해결되지 않은 여성혐오

이번 사건과 더불어 외부에서는 왜 한국이 심층위조의 가장 큰 피해를 입는 지역이 됐는지 묻기 시작했다.

신원 도용 보호에 주력하는 미국 스타트업 '시큐리티 히어로(security hero)'가 2023년 발표한 글로벌 딥페이크 보고서에 따르면 딥페이크 포르노 콘텐츠의 주요 타깃은 한국이며, 이러한 딥페이크 작품 속 인물은 한국 가수와 배우들이 차지하고 있는 것으로 나타났다. %.

국내 딥페이크 범죄도 2021년 156건, 2022년 160건, 지난해 180건으로 늘고 있다. 올해 1월부터 7월까지 심층위조 관련 성범죄 사건은 297건에 이른다.

관찰자들은 겉보기에 갑작스러워 보이는 딥페이크 스캔들이 표면 아래에 숨어 있어 오랫동안 지속되어 온 성차별 문제를 반영하고 있을 수 있다고 믿습니다.

oecd 국가 중 한국 여성의 교육 수준은 가장 높지만 경제활동 참여율은 가장 낮다. 한국의 성별 임금격차는 oecd 35개국 중 31.2%로 1위다.

'그냥 재미삼아', '지인의 사진을 좀 더 실감나게 활용한다' 등의 이유로 딥페이크는 엔터테인먼트 게임만큼 널리 확산됐다. 일부 분석가들은 딥 페이크 성범죄든, 화장실이나 탈의실에서 작은 몰래카메라로 한국 여성들을 몰래 촬영하는 것이든, 이것이 기술의 발전과 함께 등장한 최신 형태의 '여성혐오'라고 말한다.

이는 li juanzhi의 관찰과도 일치합니다.

여성 문제에 대한 그녀의 초기 초점은 딥페이크 범죄가 아니라 운전 분야의 성평등 주제였습니다.

li juanzhi는 한국 여성들이 운전을 배울 때 종종 차별에 직면한다는 사실을 발견했습니다. 예를 들어 여성이 1종 운전면허(참고: 대형차를 운전할 수 있는 고급면허)를 취득하고 싶어하면 2종 운전면허로 바꾸도록 설득된다. 여성은 운전면허를 취득하더라도 교통사고 처리, 자동차 보험, 자동차 수리 등에 관한 정보를 얻기가 쉽지 않다. 여성 운전자들은 정보 부족으로 운전을 두려워하는 경우가 많고, 운전 실력이 부족한 여성을 '미스 골드'라고 멸시하기도 한다.

2020년 한국 여성가족부의 도움으로 리 주안지는 강의와 도서를 제공하고 '남성 설교' 없이 운전을 처음 접하는 여성들을 돕는 것을 목표로 하는 '언니카'라는 여성 운전 프로젝트를 만들었습니다. 안전하고 정확한 정보를 얻으세요. 지난 몇 년 동안 li juanzhi는 여성의 사회 문제에 대한 관심도 확대되어 여성의 권리 보호를 강조했습니다.

li juanzhi는 차별을 주도하는 것부터 심각한 가짜 범죄까지 믿습니다. 한국사회에 존재하는 '여성혐오'는 효과적으로 해결되지 않았다. 뿐만 아니라 '여성혐오'는 정치에서도 악용돼 남성 집단의 반감을 더욱 증폭시키고, 정치인들이 표를 유도하는 수단으로 활용되기도 한다. 남녀 간의 평등하고 자연스러운 관계를 구축하기보다 여성을 소외시키는 것이 '룸n'과 딥페이크가 발생하게 된 환경이다."

딥페이크 스캔들이 폭로된 후, 한국의 84개 여성인권단체들은 차별이 문제의 핵심임을 지적하는 성명에 서명했다. “이 현상의 근본 원인은 구조적인 성차별이며, 해결책은 성평등을 이루는 것입니다.”

계속되는 사회단체의 신고와 항의에 윤석유 대통령은 익명성을 바탕으로 심층위조기술을 악의적으로 이용하는 것은 범죄이며, 관련 부서에서 철저한 조사를 통해 이 일이 완전히 근절되길 바란다고 답했다. 디지털 기술 범죄.

한국 정부도 딥페이크 범죄에 대한 처벌을 강화할 계획이다. 김상훈 한나라당 정책위의장은 "한나라당과 정부는 허위영상 유포 등 범죄에 대한 형량 상한을 5년에서 7년으로 늘리는 법안을 추진할 계획"이라고 밝혔다. 연령.

그러나 리준지는 여전히 한국 정부의 의지에 의구심을 갖고 있으며, 그 조치가 이행될 것인지에 대해 우려하고 있다.

이 의심은 근거가 없는 것이 아닙니다. 인시웨는 2022년 대선 캠페인 기간 동안 한국의 구조적 성차별 존재를 항상 부인하고, 낮은 출산율을 페미니즘으로 비난했으며, 허위 성폭행 신고는 더 엄중하게 처벌될 것이라고 주장해왔습니다. 윤석유 정권이 집권한 뒤 한국 정부도 교과서에서 '성평등'이라는 단어를 삭제하고 일상적인 성차별 퇴치 프로그램에 대한 자금 지원을 취소하는 등의 조치를 추진했다.

“오랫동안 정부가 성차별을 해결하기 위한 정책을 도입하는 것을 보지 못했습니다. 오히려 성평등의 진전을 훼손하고 있습니다.” 리 주안지는 한국의 출산율이 최저 수준으로 떨어졌다고 말했습니다. 전 세계적으로 '여성혐오'가 심각하게 다루어지지 않으면 '성범죄는 계속 늘어날 것이다. 성범죄를 엄중하게 처벌하지 않으면 앞으로 범죄자들은 ​​신기술을 이용해 더욱 복잡한 범죄를 저지를 것이고, 한국 사회는 준비가 되어 있지 않을 것이다. 그때에."

슬롯은 심층위조범죄를 근본적으로 처리하기 위해서는 모든 링크의 연계가 필수적일 수 있다고 말했다. 정부는 대응 노력의 우선순위를 정하고, 명확한 처벌 기준을 마련하고, 벤치마킹 사례를 설정하고, 필요하다면 딥페이크 범죄에 전담팀을 꾸려야 한다. 학교와 직장에서도 합의되지 않은 온라인 음란물에 대해 교육해야 합니다. 인터넷 서비스 제공업체는 딥페이크 포르노의 확산을 방지하기 위해 플랫폼을 모니터링해야 하며 일단 딥페이크 포르노가 서비스 플랫폼을 통해 확산되면 영구적으로 제거될 것임을 사용자에게 경고해야 합니다.

9월 7일 리쥔지는 베이징 뉴스 기자에게 자신이 의회에 제출한 청원이 필요한 5만명의 동의를 얻었으며 한국 정부의 관련 부서가 청원에 응답할 의무가 있다고 말했다.

공은 한국 정부 쪽으로 넘어갔다”며 “그들의 다음 행보를 기대하고 있다”고 말했다.

베이징 뉴스 기자 luan ruoxi

편집자 hu jie와 교정자 zhang yanjun