новости

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Фиксированный фокус (dingjiaoone) оригинал

Автор | Ван Лу

Редактор | Вэй Цзя

Увидеть — значит поверить: ИИ, меняющий лица, обманул многих людей.

Два дня назад полиция Хубэя раскрыла случай использования технологии искусственного интеллекта для изменения лица для разблокировки учетных записей в социальных сетях и их перепродажи с целью получения прибыли. Преступники используют ИИ для изменения лица, чтобы помочь людям разблокировать учетные записи знакомств, которые были заблокированы платформой. За каждую разблокированную учетную запись они взимают от 15 до 30 юаней. Всего банда разморозила 2107 счетов и получила прибыль в размере 400 000 юаней.

Данные показывают, что в 2023 году объем мошенничества с глубокой подделкой данных на основе искусственного интеллекта вырастет на 3000%. Глубокий фейк, также известный как дипфейк, представляет собой сочетание обучения и фейка. видео или даже звук, наиболее распространенным из которых является изменение лица с помощью ИИ. Министерство промышленности и информационных технологий недавно заявило, что запустит функцию напоминания о риске мошенничества с изменением лица с помощью искусственного интеллекта.

С одной стороны, случаи мошенничества с изменением лица ИИ происходят часто, а с другой стороны, технология изменения лица ИИ продолжает развиваться.

В кругу искусственного интеллекта в последнее время гудел проект по изменению лица искусственного интеллекта — Deep-Live-Cam. Пользователям нужно всего лишь загрузить фотографию, чтобы в реальном времени изменить свое лицо на того, кем они хотят быть, например, на Цукерберга или Донг Юхуэя.

Этот проект бесплатен и открыт для всех пользователей, опубликован на GitHub (платформа хостинга кода) и поддерживает установку на персональный компьютер. Разработчик проекта озвучил способ установки, и простые люди без технического опыта могут одновременно изучить и установить его.

Благодаря простому и удобному управлению и высокой степени реалистичности изменения лица Deep-Live-Cam заняла первое место в горячем списке GitHub, набрав более 1600 звезд за 24 часа (звездочки обозначают лайки проекта и индикаторы подписок, несколько тысяч звезд вполне хороший) уровень). Многие пользователи сети сменили лица на Маска и почувствовали себя мировыми миллиардерами.

Но хотя все жалуются на прорыв в технологии искусственного интеллекта, меняющего лица, они также обеспокоены тем, что «мошенничество стало проще». Должны ли мы бойкотировать ИИ, меняющий лица?

Изменение лица с помощью искусственного интеллекта, которое могут использовать обычные люди,

Стоимость всего лишь дюжина юаней.

В настоящее время в стране и за рубежом существует множество инструментов искусственного интеллекта для изменения лица. Основная причина, по которой горячо обсуждается Deep-Live-Cam, заключается в том, что:Пользователям нужно только загрузить изображение, но эффект замены очень реалистичен, а также поддерживает замену лица в реальном времени.

На самом деле, технический порог для функции «изменения лица в реальном времени» не высок.

Сяо Цзихао, соучредитель Ruilai Intelligence и ученый-алгоритмист, сказал, что есть два способа добиться эффекта изменения лица на видео в реальном времени: один — воспроизвести заранее созданное видео с изменением лица, а другой — получить доступ видео, меняющее лицо в реальном времени. Deep-Live-Cam принадлежит к последним.

Независимо от типа, видео с изменением лица при помощи ИИ должно учитывать непрерывность предыдущего и следующего кадров, а обработка, основанная на непрерывном видео с лицами, может вносить незначительные корректировки на основе множества ресурсов обнаружения предыдущего кадра». непрерывное покадровое видео. Смена лиц в реальном времени более эффективна, чем смена лиц в отдельных кадрах», — сказал исследователь, занимающийся технологиями искусственного интеллекта.

Базовая технология, на которой основано изменение лица с помощью ИИ, — это Deepfake. Практики предполагают, что Deep-Live-Cam также использует эту технологию, поэтому стоимость не будет очень высокой, исходя исключительно из материалов и вычислительной мощности, необходимых для синтеза.

Сяо Цзихао сказал, что, если не принимать во внимание другие расходы на покупку оборудования, стоимость большинства замен лиц с помощью ИИ составляет всего около дюжины юаней за раз, в основном включая фотографии и вычислительную мощность, а Deep-Live-Cam может быть даже ниже. По сравнению с другими инструментами для изменения лица с помощью искусственного интеллекта, Deep-Live-Cam использует меньше фотографий. Инструмент также поддерживает обычные компьютеры, а стоимость фотографий и вычислительная мощность ниже.

Напротив, Deep-Live-CamПоддержка изменения лица только одной фотографией шокировала практикующих еще больше.Потому что предыдущие продукты искусственного интеллекта, меняющие лицо, требовали от пользователей предоставления как минимум дюжины фотографий с разных ракурсов.

Снижение сложности фото позволяет пользователям получать удовольствие. Последователь ИИ Сяо С сказал, что он никогда раньше не сталкивался с какими-либо инструментами для изменения лица ИИ. Он считает, что порог работы Deep-Live-Cam невысок и его можно выполнить, следуя инструкциям издателя. Также не очень сложно найти материалы, меняющие лицо.

Он изменил свое лицо на таких знаменитостей, как Го Дэган, У Цзин, Лэй Цзяинь и т. д., и использовал только одну фотографию каждого из них. Он сказал, что если вы предоставите фотографию лица спереди, открытого лба, естественного света, цвета кожи, близкого к вашему собственному, и пропорций, показанных на фотографии на удостоверение личности, одна фотография будет успешной, и эффект замены лица будет очень естественно.

Многие практикующие считают, что технология изменения лица искусственного интеллекта, используемая в некоторых фильмах и телевизионных драмах, не только имеет высокий порог и высокую стоимость, но также эффект изменения лица недостаточно естественен, а деформация и искажение часто происходят во время процесс речи. «Это самая большая проблема с инструментами изменения лица ИИ?Deep-Live-Cam может поддерживать эффект картинки во время прямой трансляции. На краях лица нет явных следов маппинга, а цвет кожи мало чем отличается от оригинального персонажа. Верность опережает многих. Инструменты искусственного интеллекта для изменения лица.Сяо Цзыхао проанализировал, что его разработчики должны были добиться прорыва в модели рендеринга изображений, которого не было у предыдущих инструментов искусственного интеллекта для изменения лица.

Тем не менее, в Deep-Live-Cam все еще есть некоторые ошибки, такие как поддержка изменения лица, но не изменение голоса. Однако Сяо Цзыхао сказал, что добиться этого несложно: просто подключитесь к инструменту изменения голоса в реальном времени, и любой, у кого есть немного знаний в области программирования, сможет это сделать.

ИИ меняет лицо,

Мошенничество и нарушения, которых невозможно избежать

Такие инструменты, как Deep-Live-Cam, снизили порог для пользователей, но все также начали опасаться, что преступники могут использовать только изображение, чтобы изменить лицо и обмануть. Для обычных людей риск резко возрастет.

Ruilai Smart Data отметила, что количество случаев мошенничества с использованием ИИ внутри страны увеличилось с 0,2 миллиона в 2020 году до 16,7 миллиона в 2023 году, при этом совокупный годовой темп роста достиг 1928,8%. В первой половине 2024 года количество случаев мошенничества с использованием ИИ превысило 185 миллионов. В «Отчете о безопасности искусственного интеллекта за 2024 год», опубликованном Qi'anxin, показано, что мошенничество с глубокой подделкой данных на основе искусственного интеллекта увеличилось на 3000% в 2023 году.

Изменение голоса ИИ, изменение лица ИИ и генерация ИИ — три наиболее часто используемых метода мошенничества с использованием ИИ. Среди них контент, создаваемый ИИ, имеет ограниченное количество секунд и очевидные недостатки в качестве изображения и персонажей. Таким образом, изменение голоса ИИ и лицо ИИ. -изменение – наиболее часто используемые преступниками методы. Большинство людей считают, что «увидеть значит поверить», что делает изменение лица ИИ более обманчивым, чем изменение голоса ИИ.

Изменение лица с помощью ИИ не только обмануло пожилых людей, но и многие молодые люди, работающие в сфере технологий, в одночасье потеряли миллионы.

По сообщениям средств массовой информации, в прошлом году генеральный директор технологической компании получил запрос на перевод от друга и менее чем за 10 минут у него украли 4,3 миллиона юаней. Мошенник в основном использовал технологию изменения лица с помощью искусственного интеллекта. Был также сотрудник гонконгской транснациональной компании, который обманным путем организовал видеоконференцию с высшим руководством, организованную преступниками, и перевел 200 миллионов гонконгских долларов на счет другой стороны.

Практики сходятся во мнении, что изменение лица с помощью ИИ достигло той точки, когда «его можно спутать с реальным».

Ли Сюй, глава отдела по борьбе с мошенничеством, сказал, что его интерес к технологии искусственного интеллекта, меняющей лица, проистекает из различных случаев мошенничества. Он сказал, что за последние два года часто происходили случаи мошенничества с использованием ИИ, меняющего лицо, и на рынке существует около трех очень зрелых методов мошенничества с использованием ИИ.

Первый заключается в использовании ИИ для изменения лиц и фальсификации порнографических видеороликов с целью шантажа жертвы.

Например, преступные группировки будут собирать фотографии и видеоинформацию жертв из различных каналов, таких как Интернет, а затем выполнять процессы синтеза, такие как снятие одежды одним щелчком мыши и изменение лица с помощью ИИ, а также отправлять жертвам поддельные непристойные видео или обнаженные фотографии. за вымогательство.

Второй тип — использование ИИ для изменения лица и выдачи себя за знакомого для совершения мошенничества.

Например, банды мошенников будут использовать некоторые инструменты изменения лица, представленные на рынке, чтобы выдать себя за родственников, друзей, коллег, руководителей и т. д. жертвы, сначала придумать причину чрезвычайной ситуации и воспользоваться срочностью обманутой цели для совершения мошенничества. Легко потерять бдительность и перевести деньги.

Теперь, используя Deep-Live-Cam, вам нужно всего лишь собрать одну или две фотографии жертвы, чтобы создать глубокое фейковое видео. Ли Сюй считает, что масштабы мошенничества с изменением лица с помощью ИИ находятся за пределами понимания большинства обычных людей, и это. также напрямую изменил сценарий мошенничества в сфере телекоммуникаций, от которого трудно защититься, и он становится все хуже.

В-третьих, искусственный интеллект используется для того, чтобы притворяться знаменитостью, вести прямые трансляции и обманывать пользователей, заставляя их размещать заказы.

Например, ведущий использует «изменение лица с помощью искусственного интеллекта», чтобы «изменить» лицо знаменитости в комнате прямой трансляции, тем самым увеличивая трафик в прямом эфире и помогая прямой трансляции продавать товары.

Кроме того, очень распространены проблемы с нарушением прав, такие как создание длинных и коротких видеороликов со знаменитостями/обычными людьми с помощью искусственного интеллекта, меняющего лица, и создание смайлов без разрешения других.

Случаи мошенничества с использованием ИИ, меняющего лицо, происходят часто и с применением различных методов, что тесно связано с зрелостью и широтой применения этой технологии.

Генеральный директор Hanhao Technology У Цзецянь рассказал газете Dingjian:«В настоящее время генерация видео с помощью ИИ, технологии цифрового человека и изменения лица с помощью ИИ являются зрелыми, а изменение лица с помощью ИИ является самой ранней разработанной областью».

Появление технологии Deepfake в 2014 году ознаменовало зарождение технологии изменения лица с помощью ИИ, но она распространялась в небольших масштабах. И только в 2017 году, когда некоторые пользователи использовали эту технологию для публикации ложных порнографических изображений, изменение лица с помощью ИИ пришло. Но в то же время эта технология вызывает споры из-за большого количества фейкового контента.

Многие практикующие специалисты заявили, что в последние годы, хотя публичные дискуссии по изменению лица с помощью ИИ в основном были сосредоточены на спасении фильмов и телесериалов, из-за плохого контроля использование изменения лица с помощью ИИ для мошенничества никогда не прекращалось. Кроме того, технология изменения лица с помощью ИИ постоянно совершенствуется, и в настоящее время, помимо некоторых крупных производителей, участвующих в этом бизнесе, многие отечественные цифровые специалисты и видео-стартапы, созданные с помощью ИИ, разработали бизнес по изменению лица с помощью ИИ. Технология относительно популярна. Таких инструментов становится все больше.

Технология является зрелой и популярной, а контроль за ней также затруднен. В результате технология изменения лица с помощью ИИ на протяжении многих лет подвергалась злоупотреблениям.

Как распознать все более реалистичную смену лиц ИИ?

За последние два года изменение лица с помощью ИИ привело к множеству незаконных и преступных действий. Неконтролируемость заставляет некоторых людей чувствовать, что технологию изменения лица с помощью ИИ следует бойкотировать.

Однако многие практики считают, что технология сама по себе нейтральна, и ее хорошее или плохое влияние в основном зависит от пользователя. Появление и внедрение технологии искусственного интеллекта, меняющей лицо, не следует останавливать.

Джесси Ву сказал, что в настоящее время не существует универсального подхода к технологии искусственного интеллекта, меняющей лицо, в стране и за рубежом, и речь идет больше о законодательном управлении.

Например, США ввели специальное законодательство о глубокой подделке данных, Европейский Союз включил глубокую подделку в существующие правовые рамки и правила, такие как Общий регламент по защите данных, а такие страны, как Германия, Сингапур и Великобритания, также включили глубокие преступления, связанные с подделкой документов, в свои системы уголовного права. Китай также уточнил характеристики этой технологии в «Положении об углубленном синтезе информационных услуг Интернета».

Многие практики считают, что крайне необходимо маркировать контент, созданный с помощью ИИ и других методов управления, а также обучать общественность некоторым методам предотвращения мошенничества с использованием ИИ.

Например, некоторые технические специалисты однажды предложили, чтобы во время видеозвонка собеседнику можно было попросить приложить пальцы к лицу и внимательно понаблюдать, не деформировано ли лицо, или попросить собеседника открыть рот, чтобы посмотреть, есть ли зубы и язык ясный и полный, чтобы определить, является ли изображение реальным человеком или синтезом ИИ.

Этот метод был относительно эффективным в прошлом году, но в этом году, с обновлением технологии искусственного интеллекта, меняющего лицо, он потерпел неудачу.

Сяо Цзыхао сказал, что нынешняя технология изменения лица ИИ может достичьЛица и движения не деформируются при появлении препятствий, а качество изображения очень четкое.Ли Сюй также обнаружил,В недавних случаях мошенничества с использованием ИИ, меняющего лицо, использовались очень сильные технические средства, и их практически невозможно идентифицировать просто по движениям.

Ввиду быстрого развития технологии изменения лица с помощью искусственного интеллекта Ли Сюй считает, что повышение бдительности в настоящее время является относительно эффективным методом. Например, при получении видеозвонка от знакомого с просьбой одолжить деньги вы можете задать собеседнику несколько личных вопросов, которые знает только он, и попросить для проверки больше людей вокруг вас.

Некоторые практики считают, что использование ИИ для идентификации ИИ может быть хорошим способом.

Например, сначала проверьте, нет ли на снимке элементов, явно противоречащих здравому смыслу, ориентируясь на наличие изъянов по краям лица, а затем используйте некоторые инструменты ИИ. Сяо Цзихао считает, что использование ИИ для обнаружения ИИ может выявить подавляющее большинство мошенничеств. В настоящее время многие компании и правительственные ведомства обратились к ним с просьбой о сотрудничестве с системами защиты, меняющими лицо.

Но этот шаг также вызвал некоторые споры внутри страны и за рубежом.

Прежде всего, этот метод имеет определенный порог использования, и пользователям необходимо загрузить соответствующие приложения на свои мобильные телефоны/компьютеры. Во-вторых, по сути, существует определенное отставание в инструментах защиты этого типа, которые в основном реагируют на текущие инструменты изменения лица ИИ. Однако технологии изменения лица ИИ и методы синтеза постоянно меняются.

Многие люди возлагают надежды на усовершенствование соответствующих законов и правил, таких как ужесточение наказания за незаконную деятельность, такую ​​как мошенничество с использованием ИИ, меняющего лицо, продажу порнографических видеороликов с ИИ, меняющих лица, и продажу товаров знаменитостями, меняющими лица.

В прошлом году Народный суд округа Сяошань города Ханчжоу вынес решение по делу об использовании искусственного интеллекта для изменения лица для создания непристойных видеороликов. Ответчик предоставил индивидуальные услуги по изменению лица с помощью искусственного интеллекта, создал большое количество непристойных видеороликов с помощью искусственного интеллекта, а также также использовал методы изменения лица с помощью искусственного интеллекта, чтобы привлечь зрителей к оплате. Общая сумма по делу составила более 60 000 юаней, и в конечном итоге он был приговорен к семи годам и трем месяцам тюремного заключения и штрафу в размере 60 000 юаней.

Однако я хотел бы напомнить всем, чтоНе все изменения лица ИИ будут нарушать права на портреты.

В июне этого года Интернет-суд Пекина вынес решение по двум делам о нарушении прав на использование искусственного интеллекта. Две модели коротких видеороликов в китайском стиле обнаружили, что их видеоролики появились в приложении, меняющем лица, на социальных платформах, поэтому они подали в суд на технологическую компанию, стоящую за этим приложением. Суд постановил, что это нанесло ущерб его праву на портрет и личным правам.

Суд постановил, что ответчик использовал видео, в котором фигурирует истец, но, поскольку лицо истца на видео было заменено, это не нарушало права истца на портрет. Таким образом, суд лишь установил, что этот шаг представляет собой мошенничество. нарушение прав истца на личную информацию.

В настоящее время технология изменения лица с использованием ИИ все еще совершенствуется и еще не запрещена. Инструменты для изменения лица с использованием ИИ все еще циркулируют на рынке в больших количествах.

«Динцзяо» недавно напрямую искал «ИИ-изменение лица» на платформе электронной коммерции и не смог найти никакой информации. Однако, несмотря на то, что ключевые слова немного изменены, соответствующие инструменты для изменения лица все еще можно найти в продаже. путь более секретный, перейдет на подержанный сайт для совершения сделок. В то время, когда технологии и обман постоянно совершенствуются, каждый может быть более бдительным, чтобы не пострадать от изменения лица ИИ.

*Заглавное изображение и сопровождающие его изображения в статье взяты из Pexels.