новости

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Фейковый Маск, созданный искусственным интеллектом, стал самым большим онлайн-лжецом.

Оригинальная ссылка: https://mp.weixin.qq.com/s/NKmwfvHunBbEhE091RwD-A

Источник: NetEase Technology (ID: tech_163).

Оригинальное название: Фальшивый Маск, созданный искусственным интеллектом, стал самым большим онлайн-лжецом

По сообщениям американских СМИ, 15 августа технология искусственного интеллекта Deepfake (Deepfake) широко использовалась в онлайн-мошенничестве в последние годы, особенно при использовании фейковых видеороликов Илона Маска для совершения мошенничества. Видео ввели инвесторов в заблуждение, имитируя голос и движения Маска. Такие дипфейковые видео дешевы и быстро распространяются, что позволяет мошенникам легко расширять сферу своей мошеннической деятельности, в результате чего многие жертвы теряют огромные суммы денег из-за ложных инвестиционных возможностей. Поскольку риски, связанные с дипфейками, становятся все более очевидными, ожидается, что убытки от мошенничества, которые могут возникнуть в результате них, достигнут миллиардов долларов каждый год.

Ниже приводится полный текст перевода:

Стив Бошан, 82-летний пенсионер, хотел увеличить доход своей семьи и возлагал свои надежды на Илона Маска. В конце прошлого года Бичем наткнулся на видео, в котором Маск рекомендовал агрессивный инвестиционный план, обещающий быструю прибыль. Вдохновленный этим, Бичем быстро связался с компанией, создавшей видео, и открыл инвестиционный счет на 248 долларов. Однако в течение следующих нескольких недель он постепенно увеличивал свои инвестиции, в конечном итоге получив более 690 000 долларов со своего пенсионного счета.

Но вскоре после этого деньги исчезли, попав в руки группы мошенников, использующих искусственный интеллект для совершения нового типа цифрового мошенничества. Мошенники ловко изменили реальное интервью с Маском, используя технологию искусственного интеллекта, чтобы заменить его голос и точно настроить форму его рта, чтобы она соответствовала новому сценарию, который они написали для цифрового человека. Для обычного зрителя эта операция практически незаметна.

Бичем вспомнил видео и с волнением сказал: «У него отчетливое изображение на видео, и в нем можно с первого взгляда узнать Маска. Что касается того, заставил ли его произнести эти слова искусственный интеллект, сейчас я не могу быть уверен. Но сейчас я не могу быть уверен. просто «Что касается видео, если кто-то попросит меня опознать его в толпе, я определенно смогу указать на него».

01

Маск стал частым гостем дипфейков

В последние месяцы Интернет наводнили тысячи подобных видеороликов, созданных искусственным интеллектом, известных как «дипфейки», в которых фейковый образ Маска используется для введения в заблуждение потенциальных инвесторов. По оценкам Deloitte, подобные дипфейки с использованием искусственного интеллекта могут ежегодно приводить к убыткам от мошенничества в миллиарды долларов.

Эти видеоролики чрезвычайно дешевы в производстве, могут быть созданы за считанные минуты и продвигаются через социальные сети, включая платную рекламу на Facebook, что значительно расширяет их охват. Франческо Кавалли, соучредитель и директор по анализу угроз компании Sensity, которая отслеживает и обнаруживает дипфейковые видео, предупредил: «Это может быть крупнейшее мошенничество с дипфейками за всю историю».

Видео часто реалистичны и точно передают характерные прерывистые интонации Маска и южноафриканский акцент. Мошенники обычно начинают с реального видео, такого как интервью Wall Street Journal, при этом в фейковом видео сохраняется голос репортера, что добавляет видео аутентичности.

Используя передовую технологию синхронизации губ, мошенники корректировали движения рта Маска так, чтобы они идеально соответствовали их фальшивым линиям. Они также добавили звуки искусственного интеллекта с помощью инструментов клонирования звука, которые могут копировать любой звук из семпла клипа. Окончательное объявление может также включать фейковую графику, имитирующую стиль новостной организации, что может оказаться весьма убедительным для рядового пользователя Интернета.

Согласно анализу Sensity, Маск чаще всего выступает в этих видеороликах. Он фигурировал почти в четверти дипфейковых мошенничеств из почти 2000 проанализированных образцов, особенно с конца прошлого года. Среди видеороликов на тему криптовалют эта доля даже достигает почти 90%. В рекламе Deepfake также часто используются известные инвесторы, такие как Уоррен Баффет, и бизнес-магнаты, такие как основатель Amazon Джефф Безос.

Хотя трудно точно подсчитать, сколько дипфейков циркулирует в Интернете, поиск в библиотеке объявлений Facebook общих терминов, связанных с мошенничеством, выявил сотни тысяч рекламных объявлений, многие из которых включали дипфейковые видео. Хотя Facebook удалил большую часть контента, нарушающего его политику, и заблокировал соответствующие аккаунты, другие видео остаются в сети, и, кажется, каждый день появляются новые.

YouTube также изобилует фейковым контентом, часто с «живым» ярлыком. На самом деле это заранее записанные дипфейковые видеоролики. Введите в поиск ключевые слова, такие как «Конференция Илона Биткойн» на YouTube, и вы увидите десятки видеороликов, замаскированных под прямые трансляции. Дипфейк Маск в видео торгует мошенничеством с криптовалютой, что вводит в заблуждение.

После того, как бывший президент США Дональд Трамп выступил на конференции по биткойнам, на YouTube быстро появились десятки видеороликов с пометкой «Live», в которых был показан заранее записанный дипфейк Маска, в котором утверждалось, что он удваивает любую криптовалюту, отправленную на его счет. Однако видеоролики привлекли огромную аудиторию, некоторые из них набрали сотни тысяч просмотров. Но YouTube заявляет, что мошенники могут использовать онлайн-троллей, чтобы искусственно завышать количество просмотров.

Согласно отчету Better Business Bureau, некоммерческой группы по защите интересов потребителей, житель Техаса потерял 36 000 долларов в феврале 2023 года после того, как увидел мошенническое сообщение, якобы принадлежащее Маску, в так называемом «живом» видео о Биткойне на YouTube. «Я перевел биткойны, но ничего не получил», — сказал житель.

02

FB и YouTube пострадали больше всего

В заявлении YouTube говорится, что только с января по март этого года платформа удалила более 15,7 миллиона каналов и более 8,2 миллиона видео, в основном за нарушение политики по борьбе со спамом.

В свете распространения ложной рекламы австралийский миллиардер Эндрю Форрест подал гражданский иск против материнской компании Facebook Meta, обвинив ее в халатности в рекламном бизнесе, заявив, что эти рекламные компании ввели в заблуждение невинных пользователей, заставив их делать неправильные инвестиции. Сообщается, что собственные видеоролики Форреста также использовались для создания дипфейковой рекламы.

В ответ Meta заявила, что обучает автоматизированные системы обнаружения выявлению мошеннической деятельности на платформе, но признала, что это сложная игра в кошки-мышки, поскольку хорошо финансируемые мошеннические группировки постоянно меняют свою тактику, чтобы избежать обнаружения. YouTube подтвердил свою политику против мошенничества и фальсификации видео, а в марте этого года потребовал от всех создателей четко раскрывать информацию при использовании ИИ для создания реалистичного контента.

Интернет наводнен сообщениями о мошенничествах, в результате которых многие люди потеряли свои сбережения. Комиссия по ценным бумагам и фьючерсам Гонконга в мае выпустила предупреждение о мошеннических действиях с участием Маска. Ранее в этом году Федеральная торговая комиссия США и ФБР также предупредили американцев о росте киберпреступности с использованием искусственного интеллекта и дипфейкового мошенничества.

«Преступники используют ИИ в качестве усилителя мощности, чтобы сделать кибератаки и другие преступные действия более эффективными и трудными для обнаружения», — подчеркнуло ФБР в заявлении, отправленном по электронной почте.

Цифровое мошенничество росло одновременно с развитием Интернета. Но новая волна дипфейков, охарактеризованная Маском, возникла, когда в прошлом году публике стали доступны сложные инструменты искусственного интеллекта. Эти инструменты позволяют обычным людям клонировать голоса знаменитостей или точно манипулировать видео, привлекая внимание порноиндустрии и создателей мемов. мошенники и все новые и новые банды мошенников.

«Сейчас ситуация меняется, потому что организованные преступные группировки обнаружили, что таким образом можно зарабатывать деньги», — сказал Лу Стейнберг, основатель исследовательской лаборатории кибербезопасности CTM Insights. Он предсказывает, что мы будем видеть все больше и больше попыток такой подделки. единственная цель – выманить деньги. "

Хотя видеоролики, созданные с помощью ИИ, не идеальны, например, голос Маска в некоторых видеороликах может звучать роботизированно, а форма его рта не всегда соответствует линиям. Но эксперты предупреждают, что видео достаточно убедительны для некоторых целей мошенничества и что технология со временем совершенствуется.

По словам Кавалли из Sensity, создание видеороликов стоит очень мало, около 10 долларов, и большинство мошенников собирают фальшивые видеоролики менее чем за 10 минут, используя ряд бесплатных или дешевых инструментов. В основном они расположены в Индии, России и Восточной Европе.

«Это работает», — сказал Кавалли. «В результате они будут продолжать расширять эту деятельность, пересекать границы, переводить на несколько языков и продолжать распространять мошенничество на большее количество целей».

03

Пожилые люди — идеальные мишени

Этот тип мошенничества часто использует высокодоходное инвестиционное программное обеспечение искусственного интеллекта как прикрытие, чтобы первоначально побудить жертв вложить небольшие суммы денег, например, 250 долларов. Впоследствии, преувеличивая эффект от инвестиций, они постепенно вынуждены увеличивать объем инвестиций.

Также было сфальсифицировано видео со собрания акционеров Tesla, в котором Маск объяснял продукт автоматической торговли на базе искусственного интеллекта, утверждая, что он может удваивать доход от инвестиций каждый день.

Эксперты, изучающие криптовалютное сообщество, отмечают, что у Маска есть уникальная группа поклонников по всему миру, состоящая в основном из консерваторов, деятелей, выступающих против истеблишмента, и энтузиастов криптовалют, которые часто ищут нетрадиционные способы разбогатеть, что делает их идеальной мишенью для мошенничества. .

«Определенно существует группа людей, которые считают, что секрет богатства скрыт», — сказала Молли Уайт, исследователь, изучающий криптовалютное сообщество. Она отметила, что некоторые люди всегда мечтают овладеть секретом богатства, думая, что, как только они его найдут, они в одночасье станут богатыми.

Мошенники особенно нацелены на пожилых пользователей Интернета, которые, хотя и осведомлены о криптовалютах, искусственном интеллекте или Маске, не знакомы с безопасными методами инвестирования.

«Пожилые люди всегда были мишенью для мошенников, даже до появления социальных сетей», — сказал Финн Брантон, профессор-исследователь в области науки и технологий Калифорнийского университета в Дэвисе, эксперт по рынку криптовалют.

Бичем был вдовцом и работал торговым представителем в компании в Онтарио, Канада, до выхода на пенсию в возрасте 75 лет. Вскоре после того, как он присоединился к Facebook в 2023 году, он столкнулся с рекламным мошенничеством. Хотя он и вспомнил, что видел Маска в прямом эфире CNN, пресс-секретарь CNN сказала, что Маск не давал интервью на канале уже много лет.

В декабре Бичем перевел 27 216 долларов компании Magna-FX, что заставило его поверить в то, что стоимость его инвестиций растет, согласно переписке по электронной почте между ним и компанией. В этот период торговый агент даже использовал программное обеспечение для удаленного управления компьютером Бичема и перевода средств без разрешения.

Когда Бичем попытался вывести свои средства, ему сказали, что ему придется заплатить комиссию за управление в размере 3500 долларов и еще 3500 долларов в качестве комиссионных. Он заплатил деньги, но позже ему сказали, что ему нужно заплатить 20 000 долларов, чтобы высвободить около 200 000 долларов из средств. Несмотря на то, что он исчерпал свои пенсионные сбережения, исчерпал свои кредитные карты, использовал кредитную линию и занял деньги у сестры, чтобы инвестировать и оплатить расходы, мошенники попросили его заплатить больше. К этому времени Бичем осознал серьезность проблемы и обратился в полицию.

Большая часть следов Magna-FX исчезла из сети, включая веб-сайт компании, номера телефонов и адреса электронной почты, используемые агентами, с которыми общался Бичем. Компания с похожим названием и услугами не ответила на запрос о комментариях.

«На данный момент я готов принять всю критику и насмешки как наказание за мою доверчивость», — сказал Бичем в отчете Better Business Bureau.

Он сказал, что, чтобы свести концы с концами, он полагался на меньший пенсионный счет и пенсию, которые не были раскрыты мошенникам, и что он планировал использовать сбережения для путешествий по всему миру. Бичем сообщил об инциденте в местную полицию, но дело продвигается медленно.

«Мое дело было поставлено в очередь, потому что было очень много случаев мошенничества», - сказал он, - «У меня не было больших надежд».

*Источник изображения заголовка: Visual China.

Компьютерщик спросил

платформа социальных сетей

В условиях распространения глубокого фейкового контента,

Каковы обязанности?

Цай Чунсинь: Хороший лидер должен быть самым сознательным человеком.

Ставьте лайк и подписывайтесьВидеоаккаунт Geek Park，