пять главных хаосов в фотографиях, созданных искусственным интеллектом ②｜бизнес на «порнографических фотографиях»: смена лиц и раздевание, неоднократные запреты, но их трудно остановить
2024-09-27
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
в нашу эпоху, когда ии присутствует повсюду, а барьеры для входа практически безграничны, если вы не пробовали использовать ии для создания изображений или видео (далее совместно именуемых изображениями, созданными ии), то это действительно недостаточно «модно».
как и другие новые технологии, технология обработки изображений с помощью искусственного интеллекта с момента своего появления была полна противоречий, сопровождавшихся цветами и шипами. сторонники рассматривают это как разрушительную технологическую революцию, а противники – как бедствие. особенно за последние два года появились большие модели данных ai, представленные chatgpt и sora. генерация изображений ai стала популярной тенденцией и пользуется спросом у все большего числа пользователей сети. хотя это приносит людям большое удобство, удивление и комфорт, оно также неизбежно обнажает множество негативных проблем, таких как абсурдность, раздражение и даже незаконность.
ии невиновен, главное – как его использовать. только придерживаясь принципов этики и верховенства закона, технологии смогут принести больше пользы человечеству. сегодня upstream news выпускает специальный репортаж на тему «пять хаосов в создании изображений ии», в котором основное внимание уделяется различным хаосам, возникшим в области создания изображений ии в последние годы, отслеживанию источника, анализу причин и следствий и поиску решений. чтобы способствовать здоровому развитию индустрии искусственного интеллекта.
в феврале 2024 года г-н шан (псевдоним), проживающий в районе юбэй города чунцин, внезапно получил текстовое сообщение, содержащее черно-белую фотографию обнаженной натуры. на снимке г-н шан держит на руках молодую женщину, лежащую на кровати в отеле, с припиской «у меня есть все ваши изображения, пожалуйста, свяжитесь со мной быстро» и номером телефона. поскольку он обычно держит себя в чистоте и знаком со здравым смыслом, таким как интернет-мошенничество и изменение лица с помощью ии, г-н шан знал, что его обманывают преступники, использующие ии для создания фотографий, но проигнорировал его. он также рассказал о своем жене. опытом и поделился им со своей группой друзей в wechat, получил массу добродушных насмешек. в связи с этим г-н шан сказал репортеру upstream news (электронная почта: [email protected]): «я знаю, что изображение было синтезировано искусственным интеллектом с использованием лица на моем удостоверении личности для создания обнаженного тела. мне интересно, где эти мошенники нашли мое удостоверение личности и номер мобильного телефона?» расследование, проведенное репортером вышестоящих новостей, показало, что, согласно сообщениям различных сми и полиции, в последние годы происходили подобные мошенничества с использованием ии, и многие люди верили в их правдивость, в результате чего у них отнимали огромное количество активов и даже разрушая свои семьи. многие преступники, которые производили и распространяли фотографии и видео, а также совершали мошенничество, также понесли суровое наказание по закону.
жертвы: у некоторых украли деньги, а у некоторых изменились лица.
хотя г-н шан из чунцина получал текстовые сообщения с шантажом от преступников, ему повезло сбежать. напротив, г-н ван из вэйхая, провинция шаньдун, также столкнулся с тем же мошенничеством. у него потребовали 680 000 юаней, и в конечном итоге он был вынужден перевести 200 000 юаней.
содержание текстового сообщения, которое получил г-н ван, было почти таким же, как и у г-на шана. недолго думая, он набрал номер в текстовом сообщении. другая сторона точно назвала свое имя и место работы и сказала г-ну вану, что он может выкупить видео, передав ему 680 000 юаней. если он не заплатит, видео будут обнародованы. под угрозой другой стороны г-н ван поверил этому. впоследствии г-н ван собрал средства от нескольких сторон и перевел 200 000 юаней. однако эти 200 000 юаней совершенно не могут удовлетворить аппетиты другой стороны. позже полиция связалась с г-ном ваном.
после тщательного наблюдения полиция, расследующая дело, установила, что хотя лицо на фотографии в текстовом сообщении было похоже на г-на вана, форма лица и форма тела полностью отличались от его. впоследствии полиция быстро провела экстренную остановку платежей на двух банковских счетах, переведенных г-ном ваном. после исследования и анализа учетной записи полиция заблокировала личные данные подозреваемых в совершении преступлений чжэна и чжуна. в январе этого года полиция вэйхая арестовала двух подозреваемых и предала их правосудию.
г-н шан и г-н ван столкнулись с мошенничеством с текстовыми сообщениями, а их аватары были превращены в обнаженные фотографии с помощью ии.
по данным полиции вэйхая, в этом случае подозреваемый сначала собрал видео, фотографии и сопутствующую информацию о жертве через интернет и другие каналы. затем используйте технологию изменения лица ai для ps, чтобы синтезировать так называемые «непристойные видео» или «обнаженные фотографии», а затем аккуратно отправлять их выбранным объектам через sms, электронную почту и другие каналы и, наконец, оставлять контактную информацию. сообщать, распространять и информировать свои семьи и использовать другие средства, чтобы угрожать выбранным объектам и требовать от жертв перевода денег на назначенные им банковские счета. в полиции напомнили, что если вы столкнулись с такой ситуацией, необходимо обратить внимание на сохранение доказательств и вовремя позвонить в полицию.
по сравнению с мужчинами, молодые и красивые женщины, особенно известные интернет-знаменитости, чаще страдают от изменения лица с помощью ии и «снятия одежды одним щелчком мыши». фотографии и видео даже превращаются в платный контент для продажи. в июле прошлого года знаменитая интернет-блогерша с более чем 4 миллионами фанатов обнаружила, что многие фанаты оставляли сообщения, в которых говорилось, что они видели ее «порнографические видео». «в то время я особо об этом не думала. невиновные проведут самопроверку, и слухи в конечном итоге пройдут. «только однажды подруга прислала порнографическое видео, в котором героиня была похожа на нее, и она поняла, что ей злонамеренно «изменили лицо» и что она это сделала». было снято порнографическое видео.
по сообщениям сми того времени, в прейскуранте продавца сотни интернет-знаменитостей были разделены по уровню фанатов: от менее 500 000 до более чем 10 миллионов фанатов, и были проданы соответствующие порновидео с заменой лиц. от 30 до 50 юаней не меняется. кроме того, в таблице немало звезд женского пола. один продавец рассказал, что ему принадлежат более 80 знаменитостей и более 15 000 фотографий. если вы купите их все, цена составит всего 60 юаней, а 23 видео будут переданы в подарок. продавец также сказал, что если вы купите фотографию одной знаменитости с заменой лица, с вас будет взиматься плата в зависимости от количества. вы можете купить 300 фотографий за 5 юаней.
кроме того, многие фотографии обычных женщин в повседневных сценах, таких как школы, торговые центры, офисы, метро и т. д., также стали объектами кражи лиц ии. им изменили лица или сняли одежду. тысячи или даже десятки тысяч похожих картинок.
фотография молодой женщины в гуанчжоу была «раздета» одним щелчком мыши во время поездки в метро.
продюсер: подделано около 7000 обнаженных фотографий по цене 1,5 юаня каждая.
многие авторы, скрытые в сети, как производители порнографического и непристойного контента, понесли суровое наказание по закону.
в июле этого года cctv news сообщило о незаконном случае, когда с использованием технологии искусственного интеллекта было подделано около 7000 порнографических изображений. подозреваемый в совершении преступления бай моумоу живет в пекине и изначально работал техническим специалистом в интернет-компании. он использовал технологию искусственного интеллекта «снятие одежды в один клик», чтобы подделать около 7000 непристойных фотографий и продал их по цене 1,5 юаня каждая. на фотографиях изображено большое количество женщин, в том числе студенток, преподавателей и коллег. орган прокуратуры считает, что подсудимый бай моумоу производил и продавал непристойные материалы с целью получения прибыли. обстоятельства были серьезными, и его поведение нарушило соответствующие положения уголовного закона китайской народной республики. за это он должен нести уголовную ответственность. преступление, связанное с производством и продажей непристойных материалов с целью получения прибыли.
мужчина в пекине сделал около 7000 непристойных фотографий и продал их по 1,5 юаня каждая.
в апреле прошлого года, по данным муниципальной народной прокуратуры ханчжоу, юй, мужчина 1980-х годов рождения из провинции аньхой, был привлечен к ответственности по подозрению в изготовлении и распространении непристойных материалов с целью получения прибыли. ю заинтересовался этой технологией еще в 2020 году, когда только начало появляться «ии-изменение лица», и он также освоил эту технологию путем самообучения. позже ю зарегистрировал учетную запись на зарубежной социальной платформе и создал группу. если другие хотят присоединиться к «внутренней группе», им придется заплатить «членский взнос» в размере от 198 до 498 юаней. можно увидеть множество людей с помощью искусственного интеллекта. порнографические видеоролики, созданные с использованием технологии замены лиц, также могут быть «индивидуально настроены» с использованием различных изображений знаменитостей женского пола в соответствии с потребностями клиентов. всего за несколько месяцев юй заработал десятки тысяч юаней.
в созданной юй общественной группе органы общественной безопасности осмотрели более 1200 порнографических видеороликов и более 1600 фотографий. после идентификации все вышеперечисленные материалы оказались порнографическими. в ноябре прошлого года народный суд округа сяошань города ханчжоу признал подсудимого юя виновным в производстве и распространении непристойных материалов с целью получения прибыли. он был приговорен к семи годам и трем месяцам тюремного заключения и штрафу в 60 000 юаней.
молодые и красивые женщины склонны становиться жертвами изменения лица с помощью ии, а некоторые предприятия даже предлагают «индивидуальные услуги».
опрос: программное обеспечение сложно купить, tieba заблокирована
по данным предыдущих сми, в 2023 году сопутствующее программное обеспечение с функцией «снятие одежды в один клик» будет доступно на многих платформах. многие пользователи сети также покупают и обмениваются опытом использования соответствующего программного обеспечения и продуктов в интернете.
например, на определенном продукте четко обозначено: «это программное обеспечение может реализовать функцию преобразования реальных людей в мультяшные изображения, смены голов и переодевания». это программное обеспечение продается всего за 16,66 юаней, а ежемесячные продажи достигают более 200 заказов. кто-то спросил в комментариях в магазине: «вы действительно можете раздеться?» многие ответили: «да».
в то время на панели сообщений под названием «deepfake» было размещено более 9000 сообщений, связанных с изменением лица с помощью ии, которые содержали большое количество коммерческой информации о видеороликах, меняющих лица знаменитостей. пользователь под ником «synthetic alliance» открыто продает в группе порнографические видеоролики с подменой лиц, в списке которых более 150 видеороликов, заявляя, что «цена всего 58 юаней».
репортер восходящих новостей обыскал панель сообщений deepfake и обнаружил, что панель сообщений заблокирована. репортер искал ключевые слова «изменение лица с помощью ии» и «снятие одежды в один клик» на нескольких платформах электронной коммерции, но ни одна из них не была отображена. в некоторых магазинах есть множество программных продуктов с такими функциями, как «умное стирание» и «умное расширение изображения», но владельцы магазинов ответили, что у них нет функции «снятие одежды в один клик». однако репортер заметил, что продавец в чжэцзяне продал программное обеспечение под названием «артефакт смены одежды» за 18,80 юаней, утверждая, что «с ним можно легко справиться, переодевшись или перекрасившись».
репортер связался с продавцом через личное сообщение. на вопрос «можно ли снять одежду?» продавец отнесся очень настороженно: «не говорите так прямо, мы за этим следим», а затем неопределенно сказал: «можно пойти в y (одежда)!» после того, как репортер заплатил требуемую сумму, продавец выдал вот адрес загрузки сетевого диска и руководство по использованию.
репортер последовал инструкциям продавца и обнаружил, что приложение действительно может реализовать функцию «снятие одежды одним щелчком мыши».
на одной торговой площадке подержанных вещей до сих пор есть торговцы, тайно продающие программное обеспечение с функцией «снятие одежды в один клик».
заявление адвоката: при особо тяжких обстоятельствах максимальное наказание — пожизненное заключение
репортер обнаружил, что на некоторых форумах до сих пор есть пользователи сети, тайно ищущие бесплатное программное обеспечение для снятия одежды в один клик. итак, подозреваются ли продавцы, которые публикуют или продают соответствующее программное обеспечение, в нарушении закона или даже в совершении преступления? если пользователи сети используют программное обеспечение для создания и публикации соответствующих фотографий и видео, является ли нарушением закона, если они используются только для сохранения их «для удовольствия»? какое наказание тебя ждет, если ты поделишься этим?
фу цзянь, известный адвокат по уголовным делам и директор юридической фирмы хэнань zejin, заявил журналистам, что такие действия, как создание фотографий и видео и продажа программного обеспечения для снятия одежды одним щелчком мыши, предполагают нарушение неприкосновенности частной жизни и прав на портреты, подозреваются в являются незаконными или даже преступными и могут быть подвергнуты уголовному наказанию. в первую очередь в производстве, продаже и распространении непристойных материалов подозреваются торговцы, продающие сопутствующее программное обеспечение. согласно положениям уголовного закона, к лицам, производящим, копирующим, публикующим, продающим или распространяющим непристойные материалы с целью получения прибыли, подозреваются торговцы, продающие сопутствующее программное обеспечение. наказывается лишением свободы на срок до трех лет, арестом или надзором, а также наказывается штрафом при отягчающих обстоятельствах - лишением свободы на срок не менее трех лет и не более; свыше десяти лет, а также наказывается штрафом; при особо тяжких обстоятельствах наказывается лишением свободы на срок не менее десяти лет или пожизненным лишением свободы, а также штрафом или конфискацией имущества.
во-вторых, право на изображение физического лица охраняется законом. без согласия физического лица изображение другого лица не может быть непосредственно использовано. если пользователи сети используют программное обеспечение для создания соответствующих фотографий и видео и сохраняют их для «развлечения», их также подозревают в нарушении прав других людей на портреты. если после создания он будет опубликован в группах wechat или на социальных платформах, это подозревается в нарушении прав на портреты и репутации других людей, и вам придется нести определенную гражданскую ответственность. его поведение подозревают в нарушении «закона о наказании за управление общественной безопасностью», а в серьезных случаях его могут заподозрить в распространении непристойных материалов. в зависимости от серьезности обстоятельств вам могут грозить такие наказания, как тюремное заключение на определенный срок, уголовное задержание и штрафы.
в ответ на такие явления, как изменение лица ии и снятие одежды, ли лян, профессор юридического факультета китайского университета миньцзу, заявил, что, прежде всего, необходимо четко разделить нарушающие права субъекты незаконного применения искусственного интеллекта. во-вторых, должен быть построен механизм разделения ответственности (последствий) за незаконное применение искусственного интеллекта. в-третьих, научное законодательство должно осуществляться на основе всестороннего учета правовых принципов и общественных интересов, создавать и совершенствовать правовую систему, связанную с искусственным интеллектом; приложений, содействовать технологическим исследованиям и научным разработкам, а также укреплять механизмы надзора и регулирования.
репортер новостей upstream цзинь синь частично синтезировал информацию из cctv news, cctv, beijing news, people's daily и т. д.
