новости

«Некоторое время назад кто-то отправил личное сообщение о том, что видел мою фотографию, и спросил, могу ли я ответить на телефонный звонок в частном порядке. Я внимательно поискал и обнаружил, что так называемая фотография была синтезирована искусственным интеллектом. После этого блоггер Сяо столкнулся с этим». К (псевдоним) все еще испытывает сохраняющиеся страхи.

В последние годы технология искусственного интеллекта постепенно входит в жизнь все большего числа людей, но некоторые люди с неверными идеями также увидели возможности для бизнеса. Расследование, проведенное репортером Beijing News Shell Finance, показало, что в настоящее время существует множество фотогрупп «ИИ раздевается», продающих интернет-знаменитостей и актрис на платформе черно-серых продуктов. По мнению практиков черной и серой индустрии, за 5 юаней можно «снять одежду», а за 20 юаней можно «сменить лицо на видео». В этой отраслевой цепочке также есть практики, которые привлекают трафик с помощью привлекательных фотографий, а затем получают прибыль с помощью услуг «членских групп». Кроме того, на таких платформах, как Bilibili и Xiaohongshu, есть авторы видео, которые привлекают внимание такими заголовками, как «Учебное пособие по раздеванию AI».

В связи с этим Чжао Ху, партнер пекинской юридической фирмы Zhongwen, заявил, что продажа фотографий, на которых ИИ раздевается или меняет лицо, будет нарушать положения Закона о наказании администрации общественной безопасности, а виновные будут подвергнуты административному наказанию в виде задержания или штрафа. , а также может быть привлечен к уголовной ответственности. Если фотографии не продаются, а просто распространяются, при серьезных обстоятельствах это все равно будет считаться преступлением распространения непристойных материалов и будет расследоваться за соответствующую уголовную ответственность в соответствии с законом. Технология обучения подозревается в пособничестве преступникам. Кроме того, действия злоумышленников по снятию одежды с ИИ и смене лица ИИ также предполагают посягательство на личную информацию граждан.

«Между использованием ИИ для глубокой подделки и традиционной технической подделкой нет существенной разницы, но эффективность намного выше, чем у традиционных методов подделки, а технический порог намного ниже, что позволяет обычным людям легко достичь этого, и «работает» Глубокая подделка приведет к еще большему наводнению Интернета». Пей Чжиюн, директор Исследовательского центра промышленной безопасности Qi'anxin Group, сказал репортеру Beijing News Shell Finance, что технологии борьбы с подделками фотографий и видео следует активно изучать и продвигать.

Мультиплатформенные интернет-знаменитости «раздеваются», чтобы привлечь трафик: персонализированные фотографии за 5 юаней

После несложного расследования Little K наконец нашел источник утечки своих фотографий: кто-то использовал его фотографии «раздевания ИИ» для привлечения трафика на зарубежные социальные платформы и порнографические сайты, а также для продажи услуг по редактированию изображений с помощью ИИ.

Опыт маленького К. не уникален. Еще в марте прошлого года фотография, сделанная блогером Xiaohongshu в метро, ​​была «раздета» искусственным интеллектом и распространена в группе WeChat. В комментариях этого блогера многие женщины жаловались на подобные переживания, сопереживая друг другу и не умея скрывать свои чувства.

Репортеры Shell Finance искали улики и нашли продавца, занимающегося «разборкой ИИ». Другая сторона сказала, что если вы предоставите какую-либо фотографию, вы можете предоставить услугу «снятие одежды» еще за 5 юаней. Если фотография не дает эффекта, пожалуйста, свяжитесь с нами, чтобы изменить фотографию. Кроме того, вы также можете получить «видео по изменению лица» за 20 юаней.

Продавец сказал: «В последнее время было слишком много заказов на «раздевание», и я даже не могу потрудиться поменять лицо».

Скриншот истории чата между репортером Beijing News Shell Finance и продавцом «разборки ИИ».

Злоупотребление технологией «раздевания ИИ» в порнографии можно отнести к программному обеспечению, выпущенному за рубежом в 2020 году. Из-за разногласий разработчик быстро удалил его с полок. Несмотря на это, данная технология до сих пор используется некоторыми преступниками для зарабатывания денег.

В июне этого года полиция Пекина расследовала случай, когда техник, когда-то работавший в интернет-компании, заявил, что «компьютерный ИИ может снимать одежду по выгодной цене» и «может использоваться людьми вокруг вас, интернет-знаменитостями и знаменитостями». »и заработал на этом дополнительные деньги. Фотографии стоят всего 1,50 доллара. Он продал похожие фотографии через Интернет 351 человеку, всего около 7000 фотографий. В конце концов, он был привлечен к ответственности прокуратурой района Хайдянь Пекина за распространение непристойных материалов с целью получения прибыли.

Расследование, проведенное репортером из Shell Finance, показало, что «раздевание ИИ» в настоящее время сформировало отраслевую цепочку, включающую продажу глубоких фейковых изображений ИИ, платные «P-изображения» ИИ обычных фотографий и обучение «техникам» раздевания.

Кроме того, черные и серые продукты уже нацелены на известных личностей, таких как женщины-знаменитости в Интернете и женщины-звезды, а «раздевание ИИ» стало паролем трафика.

Репортеры из Shell Finance обнаружили, что в этой группе насчитывается около 15 000 участников на черно-серой платформе продуктов под названием «Группа обмена одеждой Internet Celebrity XX's». Некоторые известные интернет-знаменитости в основном имеют фотографии, на которых они раздеваются.

Репортеры Shell Finance заметили, что эта группа первоначально выполняла «ИИ-стриптиз» только на некоторых фотографиях интернет-знаменитостей, а затем постепенно распространилась на круги развлечений и спорта. Метод получения прибыли в этом типе «коммуникационной группы» также относительно прост. Представители черной и серой индустрии сначала размещают в группе несколько фотографий, чтобы привлечь участников к покупке услуги «членской группы». Членский взнос составляет около 70 юаней.

У Билибили и Сяохуншу все еще есть «учебники по раздеванию ИИ» Юрист: Обучение технологиям может представлять собой соучастие в преступлении

Репортер обнаружил, что после того, как технология создания моделей искусственного интеллекта стала более зрелой, соответствующая возможность «раздевания в один клик» была «разработана» пользователями сети на основе известной зарубежной модели создания искусственного интеллекта с открытым исходным кодом и постепенно стала широко распространенной. Хотя с усовершенствованием нормативных правил в различных странах в большую модель были пересмотрены такие инструкции, как «раздевание». Тем не менее, репортеры Shell Finance провели поиск на сайтах Bilibili и Xiaohongshu и обнаружили, что все еще есть несколько видеороликов «Уроки раздевания ИИ». Хотя некоторые из них на самом деле представляют собой «переодевание» ИИ, это также означает, что этот тип технологий все еще процветает.

Репортер искал результаты на веб-сайте с видео, используя связанные ключевые слова, такие как «ИИ раздевается».

В этом плане многие отечественные интернет-знаменитости совершенно беспомощны. В мае прошлого года популярная женщина-блогер с более чем 500 000 подписчиков опубликовала жалобу: «Многие люди сталкивались с тем, что фотографии были украдены и размещены во внешних сетях с целью привлечения трафика и «продажи видео», а также размещения фотографий и других порнографических изображений на Люди с проницательным взглядом сразу поймут, что эти низкоуровневые слухи ложны. Обычно я не обращаю на них внимания. И только тогда, когда количество личных сообщений внезапно возросло, и я заметил, что «ритм» увеличился. что мне пришлось опровергнуть слухи».

Чжао Ху сообщил журналистам Shell Finance, что продажа фотографий, на которых ИИ раздевается или меняет лица, нарушает положения Закона о наказании Управления общественной безопасности. «Настройка» фотографий раздевания ИИ за плату может представлять собой преступление, заключающееся в изготовлении и продаже порнографических материалов с целью получения прибыли. Если картины не продаются, а только распространяются, при серьезных обстоятельствах все равно будет считаться преступлением распространение непристойных материалов. Обучение технологиям может квалифицироваться как пособничество или подстрекательство к преступлению.

«Обвинение в помощи в «настройке» фотографий раздевания ИИ может представлять собой преступление, связанное с производством, копированием, публикацией, продажей и распространением непристойных материалов с целью получения прибыли», — заявил Чжао Ху, поведение ИИ, снимающего одежду и меняющего лица, также предполагает нарушение прав человека. персональные данные граждан. Если эта информация станет утечкой или будет использована не по назначению, она создаст серьезную угрозу личной конфиденциальности и безопасности.

«Должно быть ясно, что использование инструментов искусственного интеллекта для подделки гораздо эффективнее, чем традиционные методы подделки, но технический порог гораздо ниже. Как говорится, распустишь слух, потеряешь ноги, если его опровергнешь». Пей Чжиюн рассказал Shell Finance Reporters, что в настоящее время фальшивые видеоролики и изображения с использованием искусственного интеллекта можно идентифицировать с помощью профессиональных технических средств или экспертной оценки, но цена этого также очень высока: «При постоянном развитии технологий неизбежно, что подлинность искусственного интеллекта... сгенерированные или синтезированные видео не могут быть аутентифицированы».

По его мнению, хотя и нереально помешать людям использовать ИИ для создания фейковых видео или изображений, это не означает, что с фейковыми видео или картинками ничего не поделаешь. «В стране существуют очень зрелые методы управления порнографическими видео и изображениями в Интернете. Даже если технологии не могут быть использованы для определения подлинности изображения, они могут предотвратить распространение порнографического контента со стороны платформы, определить источник распространения порнографии. содержания, и проводить репрессии».

Пей Чжиюн заявил, что интернет-платформы не могут односторонне преследовать трафик, но должны активно участвовать в управлении сетью в соответствии с соответствующими законами и эффективно ограничивать объем распространения соответствующей информации. Непроверенная основная информация должна быть помечена пометками «непроверенная» в умеренной степени. снизить риск введения широкой общественности в заблуждение.

Пей Чжиюн считает, что необходимо активно изучать и продвигать технологию защиты от подделки фотографий и видео: «Например, если для съемки фотографии используется конкретный мобильный телефон определенной марки, модели и серийного номера, файл фотографии будет иметь такую ​​информацию. строка текста, которая невидима невооруженным глазом, но может быть распознана машиной. Зашифрованный проверочный код. Независимо от того, изменяет ли кто-то эту фотографию, будь то модификация с помощью искусственного интеллекта или модификация вручную, система проверки может распознать, что это не оригинальное изображение. .Этот метод не является новой технологией, но требует зрелой технологии криптографии и глубокой популяризации».

Сунь Юэ, основатель и технический директор компании Beijing Core Shield Times Technology Co., Ltd., заявил в интервью репортеру из Shell Finance, что технология глубокой подделки процветает, а биометрические функции, такие как голоса и лица, утратили свою первоначальную высокую достоверность. атрибуты аутентификации. Если вы хотите предотвратить ущерб, причиняемый этим с помощью технологий, рекомендуется, чтобы основные системные платформы усилили аутентификацию личности прикладных систем. Необходимы строгие меры аутентификации, чтобы противостоять риску подделки личности, чего можно достичь с помощью многофакторной идентификации. аутентификация, осведомленность о терминальных рисках, анализ больших данных и т. д. Технологии продуктов в сочетании с моделированием поведения пользователей, причинным выводом графа знаний и другими средствами могут эффективно противостоять рискам идентификации, вызванным глубокой подделкой.

«В будущем для здорового развития искусственного интеллекта, чтобы справиться с рисками, связанными с технологией глубокой подделки, в первую очередь правительство и отраслевые регулирующие органы должны активно совершенствовать соответствующие законы и правила. Во-вторых, увеличивать объем исследований и разработок. глубокого обнаружения подделок, цифровых водяных знаков и других технологий. Кроме того, соответствующие ведомства и средства массовой информации должны также активизировать пропаганду по борьбе с мошенничеством, повысить осведомленность людей о безопасности и работать вместе для защиты личной и имущественной безопасности людей; — сказал Сунь Юэ журналистам Shell Finance.

Контактный адрес электронной почты репортера: [email protected]

Репортер Beijing News Shell Finance Ло Идань, редактор Ван Цзиньюй корректирует Ян Ли