новости

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

39-летний ли ёнджи является основателем и генеральным директором организации общественного благосостояния в южной корее. она борется с «дипфейковой преступностью», которая распространяется по стране.

некоторые аналитики отмечают, что «глубокое фейковое преступление», заключающееся в синтезировании женских лиц в непристойные видеоролики и их широком распространении, привело к тому, что корейские женщины «впали в панику». подобные инциденты заставят женщин потерять чувство безопасности в повседневной жизни.

в мае этого года выпускника сеульского национального университета заподозрили в использовании технологии глубокой подделки лиц для синтеза порнографических фотографий и видео. он создал около 200 онлайн-чатов в социальной сети «telegram» и участвовал в производстве и распространении порнографических фотографий. около 1700 нелегальных фотографий и видео.

три месяца спустя еще одно фальшивое преступление произошло в университете инха в южной корее. более 1200 участников синтезировали в telegram фейковые порнографические изображения и использовали их для шантажа и унижения женщин. в конце августа южнокорейские сми сообщили, что в telegram появилось большое количество чат-групп, связанных со школами по всей стране. пользователи загружали фотографии знакомых женщин, а другие пользователи конвертировали эти фотографии в дипфейковый порнографический контент. «комната позора» для конкретной жертвы.

предварительное расследование показывает, что 80% жертв — женщины, а преступная деятельность распространилась среди несовершеннолетних, таких как учащиеся средних и старших классов, студенты колледжей, учителя и медсестры. жертвами становятся даже женщины-солдаты.

такие новости оказали большое влияние на ли цзюаньчжи. она увидела, как кто-то разместил в социальной сети x сообщение с просьбой исследовать «комнату позора» и искать кого-то, кто поможет раскрыть внутреннюю ситуацию. ли цзюаньчжи притворился пользователем-мужчиной, проник в него и собрал информацию. она обнаружила, что распространение нелегального дипфейкового порно уже широко распространено даже в бесплатных комнатах.

ли цзюаньчжи передала собранные видео и скриншоты своим коллегам, работавшим вместе, и передала их следователям. несколько утешительно то, что ли цзюаньчжи услышал, что представленные ими материалы помогли установить лиц, причастных к некоторым делам.

содержание «комнаты унижения» доставляло ли цзюаньчжи очень дискомфорт, и ей даже было так плохо, что в какой-то момент она не могла спать, но продолжала действовать. с одной стороны, есть онлайн-петиции, призывающие ужесточить дисциплинарные нормы, с другой — протесты на улицах; «правительство должно занять твердую позицию по борьбе с преступностью и ввести в действие законы о «нулевой терпимости» к наказанию», - сказал ли цзюаньчжи.

протесты онлайн и оффлайн

в 7 часов вечера 6 сентября в сеуле наступила ночь, и шел небольшой дождь, ли цзюаньчжи прибыл в район босингак в чонногу в оговоренное время. через некоторое время протест официально начался. представители групп и отдельные лица зачитали свои заявления. после этого группа из пяти-шестисот человек вышла на улицы с белыми лозунгами на черном фоне.

в ту ночь в акции протеста участвовали действующие учителя, организации полового воспитания, женские группы и школьники. они кричали: «давайте проживем жизнь без страха и беспокойства», «регулируйте платформы, которые продвигают фейки о сексуальных преступлениях», «мы». свергнет женоненавистнические дипфейки» и другие лозунги.

акция протеста длилась около двух часов. ли цзюаньчжи рассказала, что она и ее спутники также планируют провести вторую акцию протеста на станции метро hyehwa 21 сентября. различные места начали обращаться к ним с просьбой арендовать автобусы, которые доставят протестующих со всей страны в сеул.

уличные протесты в офлайн-режиме повторили голоса корейских женщин в социальных сетях. поскольку сообщения о глубоких фейковых сексуальных преступлениях привлекли внимание общественности в южной корее, многие корейские женщины активно высказались в социальных сетях из-за опасений, что инцидент будет мало разоблачен, используя «школьные цифровые сексуальные преступления» для «пропаганды глубокого фейкового секса». такие хэштеги, как «защитите женщин», способствовали продвижению новостей о «глубоких фальшивых сексуальных преступлениях», чтобы привлечь внимание всего мира, и многие корейские женщины отправили сообщения о помощи через китайский интернет.

«на данный момент эта кампания «протеста по хэштегам» дала хорошие результаты. 1 сентября теги, в том числе «публичные фейковые сексуальные преступники», взорвались на платформе социальных сетей x, в общей сложности их было 60. с более чем 10 000 сообщений она занимает второе место в рейтинге. глобальные тенденции в реальном времени, а также занимает первое место в корейских тенденциях в реальном времени», — сказал ли цзюаньчжи.

помимо онлайн- и офлайн-связи для наращивания темпов, ли цзюаньчжи также начал расследовать и изучать законопроект о наказании за серьезные преступления, связанные с подделкой документов. среди них особенно привлекли ее внимание слова «с целью распространения». в аналитической статье говорится, что одна из причин, по которой этих дипфейковых преступников трудно наказать, заключается в том, что трудно доказать, что у них есть намерение распространять фейки.

напоминает предыдущий инцидент в «комнате n» в южной корее, за исключением нескольких главных преступников, большинство людей не были наказаны. ли цзюаньчжи понял, что именно лазейки в существующей правовой системе делают возможными крупномасштабные преступления, связанные с дипфейками.

во время проникновения ли цзюаньчжи в так называемую «комнату унижения» она обнаружила, что, хотя каждая групповая комната немного различалась, участникам обычно требовалось предоставить 10 фотографий женщины, чтобы войти в группу, или составить фотографию, что считалось дипфейком. предусмотрены новые цели для жертв. некоторые групповые комнаты будут синтезированы один раз бесплатно, а затем участники должны будут предоставить «пароли» или пригласить в комнату новых мужчин, чтобы продолжить пользоваться сервисом. в групповых комнатах также размещены объявления, такие как «требуется 300 фотографий учителей-женщин» и «скидка для старшеклассников».

«комнаты позора» также ищут способы определить пол своих участников. в некоторых групповых комнатах люди, желающие присоединиться к группе, потребуют внести 1 корейскую вону на определенный банковский счет и использовать имя депозита на банковском счете, чтобы подтвердить, является ли новый участник мужчиной.

некоторым участникам будет поручено синтезировать дипфейковые изображения или видео, другие будут получать прибыль от продажи дипфейкового контента, а сам telegram будет получать доход от рекламы в комнатах с большим количеством пользователей. «они делят прибыль так же, как преступные организации». ли цзюаньчжи сказал, что это организации, ориентированные на прибыль, и не существует понятия «пассивная аудитория».

исходя из этого, ей пришла в голову идея подать петицию в конгресс. ли цзюаньчжи потребовал, чтобы всех участников этих групповых комнат считали членами преступных организаций и понесли наказание. поскольку южнокорейское законодательство допускает тайное расследование только дел с участием детей и подростков, она также надеется, что систему подачи петиций можно усовершенствовать, чтобы можно было проводить тайные расследования сексуальных преступлений с участием взрослых.

«легкая глубокая подделка» на базе искусственного интеллекта

в центре скандала с дипфейками оказался мессенджер telegram.

это приложение для обмена зашифрованными сообщениями, пользователи которого, как правило, анонимны, комнаты можно перевести в «приватный» режим, а контент быстро удаляется, не оставляя никаких следов. первоначальный замысел «телеграммы» заключался в защите конфиденциальности речи пользователей, однако он оказался основным местом разгула преступной деятельности.

технологию, используемую для создания дипфейкового контента, также нетрудно найти. сивэй лю, профессор кафедры компьютерных наук и инженерии университета штата нью-йорк в буффало, объяснил репортеру beijing news, что само слово «дипфейк» представляет собой смесь глубокого обучения и фейковых медиа, относится к мультимедиа. текст, включая текст, аудио, изображения и видео, созданный с использованием генеративных моделей искусственного интеллекта, основанных на моделях глубоких нейронных сетей. генеративные системы искусственного интеллекта можно обучать на больших объемах неразмеченных данных, и эти модели достаточно мощны, чтобы генерировать привлекательный контент. поэтому технический порог сильно снижен.

«благодаря технологии искусственного интеллекта можно легко, быстро и дешево создавать дипфейковые аудиовизуальные материалы, которые можно было бы использовать в более полезных аспектах, таких как кино, розничная торговля и т. д. исследования в области права, технологий и общества в тилбургском университете в нидерландах». профессор барт ван дер слоот заявил, что, к сожалению, наиболее распространенным применением технологии дипфейков является порнография, «особенно когда жертвами становятся молодые девушки, что может иметь катастрофические последствия».

отчет 2019 года, посвященный исследованию использования дипфейков, показал, что 96% онлайн-дипфейков были связаны с порнографией, и это число продолжает расти.

с современной точки зрения существует множество препятствий для борьбы с глубоким подлогом. слот обнаружил, что при создании дипфейкового порнографического контента жертва часто об этом не знает, а внешний мир обнаруживает этот контент и принимает меры только после того, как контент распространяется через интернет. из-за такого большого количества дипфейкового порно в интернете правоохранительным органам сложно оценить, было ли на контент согласие вовлеченного лица, был ли это реальный человек или человек, созданный искусственным интеллектом. даже если преступник найден, жертва установлена ​​и материалы удалены, к тому времени ущерб зачастую уже нанесен, и уже слишком поздно.

ли цзюаньчжи считает, что отслеживание после событий просто «исправляет ситуацию» и что надзор на уровне платформы должен быть усилен с самого начала: «если преступники скрываются на анонимной платформе, то эта платформа станет рассадником преступности».

что касается конкретных мер, лу сивэй считает, что в краткосрочной перспективе следует ввести ряд политик и правил, запрещающих или ограничивающих глубокий фейковый контент, имеющий пагубные последствия. долгосрочное решение заключается в самой технологии, которая требует дальнейшего развития технологий автоматического обнаружения, удаления или отслеживания дипфейков.

после того, как дипфейковые преступления вызвали дискуссии в южнокорейском обществе, 2 сентября по местному времени у чон су, директор национального следственного штаба корейского национального полицейского управления, заявил на очередной пресс-конференции, что полиция начала расследование в социальных сетях. подозрение в «содействии дипфейковым преступлениям» платформа «telegram» проводит предварительное расследование. сам telegram пообещал активно бороться с вредоносным контентом на своей платформе.

неразрешенная женоненавистничество

помимо инцидента, внешний мир начал задаваться вопросом, почему южная корея стала наиболее пострадавшим регионом от глубокой подделки документов.

глобальный отчет о дипфейках, опубликованный в 2023 году американским стартапом security hero, специализирующимся на защите от кражи личных данных, показывает, что южная корея является основной целью дипфейкового порнографического контента, а персонажами таких дипфейковых работ являются корейские певцы и актрисы53. %.

преступления, связанные с дипфейками, в южной корее также становятся все более распространенными: 156 случаев в 2021 году, 160 случаев в 2022 году и 180 случаев в прошлом году. с января по июль этого года было зарегистрировано 297 дел о сексуальных преступлениях, связанных с глубокой подделкой документов.

наблюдатели полагают, что, казалось бы, внезапный скандал с дипфейками, возможно, скрывался под поверхностью, отражая давние проблемы сексизма.

среди стран оэср южнокорейские женщины имеют самый высокий уровень образования, но самый низкий уровень участия в рабочей силе. гендерный разрыв в оплате труда в южной корее занимает первое место среди 35 членов оэср с разрывом в 31,2%.

по таким причинам, как «просто ради развлечения» и «использование фотографий знакомых для большей реалистичности», дипфейки получили такое же распространение, как и развлекательные игры. некоторые аналитики говорят, что будь то фальшивые сексуальные преступления или тайная съемка корейских женщин крошечными скрытыми камерами в ванных комнатах или раздевалках, это новейшие формы «женоненавистничества», возникшие с развитием технологий.

это также совпадает с наблюдением ли цзюаньчжи.

ее первоначальным вниманием к женским проблемам было не преступление дипфейков, а тема гендерного равенства в сфере вождения.

ли цзюаньчжи обнаружила, что корейские женщины часто сталкиваются с дискриминацией, когда учатся водить машину. например, когда женщины хотят получить водительские права категории 1 (примечание: расширенные права, позволяющие управлять большим автомобилем), их убеждают перейти на права категории 2. даже если они успешно получат водительские права, женщинам нелегко получить информацию о действиях в дорожно-транспортных происшествиях, страховании автомобиля, ремонте автомобилей и т. д. женщины-водители часто боятся водить машину из-за недостатка информации, а женщин с плохими навыками вождения еще пренебрежительно называют «мисс голд».

с помощью министерства гендерного равенства и по делам семьи южной кореи в 2020 году ли цзюаньчжи создала проект женского вождения под названием «unniecar», который предоставляет лекции и книги и направлен на помощь женщинам, которые только начинают водить машину, без «мужских проповедей». получите безопасную и точную информацию. в последние несколько лет внимание ли цзюаньчжи к социальным проблемам женщин продолжало расширяться, уделяя особое внимание защите прав женщин.

ли цзюаньчжи считает, что это от дискриминации до глубоких фальшивых преступлений. проблема «женоненавистничества», существующая в корейском обществе, до сих пор не решена. мало того, «женоненавистничество» также эксплуатируется политиками, что еще больше разжигает недовольство среди мужских групп и становится для политиков способом получения голосов. «сегодня существует большое количество молодых людей в возрасте от двадцати до двадцати лет, которые объективируют и отчуждение женщин, а не установление равных и естественных отношений между полами, является той средой, которая позволила появиться «комнате n» и дипфейкам».

после того, как скандал с дипфейками был разоблачен, 84 корейские женские правозащитные организации подписали заявление, указав, что суть проблемы заключается в дискриминации: «коренной причиной этого явления является структурная гендерная дискриминация, и решение состоит в достижении гендерного равенства».

перед лицом бесконечных случаев и обращений со стороны социальных групп президент южной кореи юн сок юэ ответил, что полагаться на анонимность для злонамеренного использования технологии глубокой подделки является преступлением, и надеется, что соответствующие ведомства проведут тщательное расследование, чтобы полностью искоренить это. преступление в сфере цифровых технологий.

правительство южной кореи также планирует ужесточить наказания за преступления, связанные с дипфейками. ким сан хун, председатель политического комитета правящей в южной корее партии национальной власти, заявил, что партия национальной власти и правительство южной кореи планируют разработать закон, увеличивающий максимальное наказание за такие преступления, как распространение ложных видеороликов, с пяти лет до семи. годы.

однако ли цзюаньчжи все еще сомневается в приверженности правительства южной кореи и обеспокоен тем, будут ли эти действия реализованы.

это сомнение не беспочвенно. во время президентской кампании 2022 года инь сиюэ всегда отрицала существование структурной гендерной дискриминации в южной корее, обвиняла феминизм в низкой рождаемости и утверждала, что ложные сообщения о сексуальном насилии будут наказываться более строго. после прихода к власти юн сок юэ правительство южной кореи также выступило за исключение слова «гендерное равенство» из школьных учебников и прекратило финансирование программ по борьбе с повседневной гендерной дискриминацией.

«в течение долгого времени я не видел, чтобы правительство проводило политику по решению проблемы гендерной дискриминации. напротив, она подрывает прогресс, достигнутый в области гендерного равенства», ли цзюаньчжи сказал, что уровень рождаемости в южной корее упал до одного из самых низких уровней». если за сексуальные преступления не будут строго наказываться, преступники будут использовать новые технологии для совершения более сложных преступлений в будущем, и корейское общество не будет к этому готово. в это время."

слот сказал, что для фундаментальной борьбы с преступлением, связанным с глубокой подделкой документов, может оказаться необходимым объединение всех звеньев. правительству необходимо расставить приоритеты в реагировании, иметь четкие стандарты наказания, установить контрольные случаи и, при необходимости, создать специальную команду для борьбы с дипфейковыми преступлениями. в школах и на рабочих местах также необходимо информировать об онлайн-порнографии без согласия. интернет-провайдеры обязаны контролировать свои платформы, чтобы предотвратить распространение дипфейковой порнографии, и предупреждать пользователей о том, что как только фейковая порнография распространится через их сервисные платформы, она будет безвозвратно удалена.

7 сентября ли цзюаньчжи сообщила репортеру газеты «пекинские новости», что ее петиция в конгресс получила согласие необходимых 50 тысяч человек, и соответствующие ведомства южнокорейского правительства были обязаны отреагировать на петицию.

мяч был отправлен в сторону правительства южной кореи: «я с нетерпением жду их следующих действий», — сказал ли цзюаньчжи.

репортер новостей пекина луань жоси

редактор ху цзе и корректор чжан яньцзюнь