новости

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Умные вещи (паблик аккаунт:zhidxcom）
компилироватьваниль
редактироватьЮнпэн

Только представьте, когда ведущий предприниматель предлагает вам оливковую ветвь и говорит вам «лично», что есть безрисковый способ быстро разбогатеть.Просто заполните форму и вы сможете заработать 1 миллион долларов,что вы будете делать?

Если этот человек — Маск и BBC его поддерживает, скажите вам, что это «Технологическая революция, неизвестная публике«Шерстяная ткань?

//oss.zhidx.com/uploads/2024/08/66bdc7fb13150_66bdc7fb0efec_66bdc7fb0efca_musk-overlap-1-900w.mp4

▲Дипфейковое видео AI Маска

Более бдительные люди могут сразу почувствовать запах телекоммуникационного мошенничества, но людям, которые не часто пользуются Интернетом, нелегко распознать такие фейковые видео.

Согласно сообщению New York Times от 16 августа, в конце прошлого года Бошан, 82-летний пенсионер, увидел, что Маск продвигает радикальные инвестиционные возможности и обещает безрисковую и быструю прибыль. Он связался с компанией по видео и потратил свои пенсионные сбережения на ряд транзакций в течение следующих нескольких недель.Совокупные «инвестиции» превышают 690 000 долларов США.。

Следующее, что можно представить, — пенсия исчезла вместе с компанией.

С именемДипфейкТехнология искусственного интеллекта становится все более зрелой, и подобные видеоролики наводняют Интернет. По оценкам известной консалтинговой компании Deloitte, дипфейковые видеоДесятки миллиардов долларов потерь от мошенничества каждый год。

Sensity, организация, которая отслеживает дипфейковые видео, недавно провела опрос и проанализировалаБолее 2000 абзацевОбнаружены дипфейковые видеоМускусстал самым распространенным «оратором» в видео такого типа. С конца прошлого года,Маск появляется почти в четверти дипфейковых мошеннических видеороликов, среди которых частота его появления в видеороликах о криптовалюте столь же высока, как и90%。

Другими распространенными объектами подделок являются известные инвесторы.Баффет, основатель AmazonБезосждать.

1. Ежегодно выманиваются десятки миллиардов долларов, а количество явок Маска1/4

Чтобы создать эти видеоролики, мошенники сначала найдут реальные видеоинтервью Маска и других. Например, сцена во вступительном видеоролике изначально взята из интервью, которое Маск дал в Wall Street Journal. Темой было то, как использовать искусственный интеллект и другие технологии для достижения эффективного управления компанией.

//oss.zhidx.com/uploads/2024/08/66bdc80d0fb1d_66bdc80d0bb46_66bdc80d0bb23_musk-overlap-original-900w.mp4

▲Оригинальное видео интервью Маска

Мошенники этим воспользуютсяТехнология синхронизации губ (Lip-synching), отрегулируйте форму рта персонажа, а затем используйтеИнструмент клонирования голосаДобавьте голос, скопированный AI.

▲Синхронизация губ (Источник: «Нью-Йорк Таймс»)

Наконец, в некоторых видеороликах также присутствуют фальшивые значки, имитирующие профессиональные новостные организации, такие как BBC, что может быть более убедительным для обычных пользователей Интернета.

▲Логотип News (Источник: «Нью-Йорк Таймс»)

Трудно точно подсчитать, сколько таких дипфейковых видео циркулирует в Интернете. Поиск обычных рекламных текстов для этих мошенников в рекламной библиотеке Facebook выдаст сотни тысяч рекламных объявлений, многие из которых являются дипфейковыми видеороликами.

//oss.zhidx.com/uploads/2024/08/66bdc7d322ac8_66bdc7d31d43f_66bdc7d31d418_bezos-ai-900w.mp4

▲Дипфейковое видео AI Безоса

На YouTube также полно подобных видео. Если вы выполните поиск «конференция Илона Биткойн» на YouTube, вы получите десятки видео с пометкой «живой», но на самом деле это заранее записанные дипфейковые видео.

▲Дипфейковое видео на YouTube (Источник: YouTube)

Количество зрителей этих «прямых трансляций» время от времени может меняться.сотни тысяч, но по подтверждению YouTube, мошенники могут использовать «водные армии» для увеличения количества людей и искусственно завышать это число.

В мае этого года известная консалтинговая организация Deloitte опубликовала отчет о повышенном риске мошенничества с глубокой подделкой данных, вызванного генеративным искусственным интеллектом, в котором упоминалось, что инциденты с глубокой подделкой данных в сфере финансовых технологий произойдут в 2023 году.увеличился на 700%и предсказывает, что к 2027 году искусственный интеллект приведет к потерям от мошенничества в США.до $40 млрд с $12,3 млрд в 2023 году，Совокупный годовой темп роста составляет 32%.。

▲Прогноз роста потерь от мошенничества, вызванного генеративным ИИ (Источник: Deloitte)

Дипфейковые видео становятся все более популярными и влиятельными. Согласно опросу Sensity, организации, которая отслеживает дипфейковые видео, среди более чем 2000 дипфейковых видео:Маск стал самым распространенным «спикером», появляется вПочти четверть мошеннических видеороликов с дипфейкамиСреди них частота его появления в видеороликах, посвященных криптовалюте, столь же высока, как и90%。

Франческо Кавалли, соучредитель Sensity, считает:Это может быть самый крупный дипфейк за всю историю。

2. Стоимость не превышает10Доллары США, подделать много видео за несколько минут

На самом деле стоимость производства такого типа видео невелика;Стоит всего менее 10 долларов, ты можешьв течение нескольких минутБыло выпущено большое количество фейковых видеороликов.

Эти видео, созданные искусственным интеллектом, не идеальны. В некоторых видеороликах Маск звучит как робот, а движения его рта не всегда последовательны. Но эти видео смогли обмануть немало людей, и технология продолжает совершенствоваться.

//oss.zhidx.com/uploads/2024/08/66bdc81a2f25c_66bdc81a2b4b0_66bdc81a2b48f_musk-ted-ai-320w.mp4

▲Дипфейковое видео AI Маска

Расследование Sensity показывает, что мошенники этого типа в основном происходят из Азии и стран Восточной Европы. Они используют бесплатные и дешевые инструменты для перевода видео на несколько языков и продолжают распространять мошенничество на более широкий круг.

Одной из распространенных процедур являетсяПродвигайте поддельное программное обеспечение искусственного интеллекта. Мошенники поощряют жертву сначала передать небольшую сумму денег (обычно около 250 долларов США), заставляя «представителей» заявлять, что программное обеспечение может генерировать потрясающую прибыль от инвестиций, а затем постепенно заманивать их, заявляя, что стоимость первоначальных инвестиций растет. . Инвестируйте больше.

Например, в следующем видео с собрания акционеров Tesla Маск «продемонстрировал» автоматизированный торговый продукт на базе искусственного интеллекта.Может удваивать определенную инвестицию каждый день«Всего лишь вложив 4500 рандов, вы можете получать стабильную прибыль в размере 8000 рандов в день». (Примечание: рэнд — денежная единица Южной Африки)

//oss.zhidx.com/uploads/2024/08/66bdc7f0238a4_66bdc7f01fb98_66bdc7f01fb73_elon-tesla-ai-900w.mp4

▲Дипфейковое видео AI Маска

Эти мошенники с искусственным интеллектом обычно нацелены наПожилые пользователи Интернета, они могут быть знакомы с такими темами, как криптовалюта и искусственный интеллект, а также с такими людьми, как Маск и Баффет, но они не знакомы с безопасными методами инвестирования.

«Пожилые люди — очень богатая и доверчивая группа», — сказал Финн Брантон, профессор технологических исследований Калифорнийского университета в Дэвисе и эксперт по рынку криптовалют. «Даже без платформ социальных сетей пожилые люди всегда были мишенью. мошенничества».

Причина, по которой Маск стал мишенью, заключается в том, что у Маска есть уникальная глобальная группа «поклонников». Эксперты, изучающие криптовалютное сообщество, говорят, что эти люди часто состоят из консерваторов, противников истеблишмента и криптоэнтузиастов, которых часто привлекают новые способы зарабатывания денег, что делает их идеальными мишенями для мошенничества.

Исследователь криптовалютного сообщества Молли Уайт рассказала, что эта группа людей всегда считала, что секрет богатства скрыт от них, и как только они «открыли» секрет, они подумали, что это все, что им нужно.

//oss.zhidx.com/uploads/2024/08/66bdc7f68765e_66bdc7f683a1d_66bdc7f6839f9_musk-bitcoin-ai-900w.mp4

▲Дипфейковое видео AI Маска

Бошан, пенсионер, упомянутый в начале, до того, как ему исполнилось 75 лет, был торговым представителем канадской компании. Он начал пользоваться Facebook в прошлом году и увидел рекламу интервью Маска на CNN.

Хотя он и настаивал на том, что видел это видео и на официальном канале CNN, по словам представителя CNN,Маск не давал им интервью уже много лет。

Согласно переписке по электронной почте между г-ном Бошаном и компанией, упомянутой в видео, в декабре прошлого года он отправил 27 216 долларов компании Magna-FX.

Magna-FX дала понять, что стоимость его инвестиций растет, даже позволив торговому агенту использовать программное обеспечение для удаленного управления компьютером Бошана и делать вид, что он переводит средства для инвестиций.

Чтобы вывести полученные средства, Бошану было приказано заплатить комиссию за управление в размере 3500 долларов США и комиссию в размере 3500 долларов США. После того, как он перевел деньги, ему сказали, что ему нужно заплатить еще 20 000 долларов, чтобы снять из них около 200 000 долларов. Он снова заплатил деньги.

В конце концов Бошан исчерпал свои пенсионные сбережения, исчерпал свои кредитные карты, исчерпал свою кредитную линию и занял деньги у своей сестры, чтобы инвестировать и оплатить расходы. Но мошенники продолжали просить его заплатить больше. Затем Бошан обратился в полицию.

К сожалению, никакого прогресса в этом деле достигнуто не было.

3. Надзор за платформой сталкивается с проблемами. Удаление видео устраняет симптомы, но не коренную причину.

Распространенность ложной рекламы также неотделима от халатности надзора за платформой.

Некоторые люди, чьи видео были сфальсифицированы, подали в суд. Австралийский миллиардер Эндрю Форрест подал гражданский иск против материнской компании Facebook Meta, обвинив ее в халатности в своей рекламной деятельности. Его дипфейковые видео использовались в рекламе на Facebook, которая, по его мнению, соблазняла «невинных пользователей делать плохие инвестиции».

Meta ответила, что компания обучает автоматизированные системы обнаружения для выявления случаев мошенничества на своей платформе, но также назвала это игрой в кошки-мышки, когда мошенники постоянно меняют свою тактику, чтобы избежать обнаружения.

YouTube также принимает некоторые меры по борьбе с дипфейковыми видео. В марте этого года YouTube обновил свою политику, требуя от авторов раскрывать информацию о том, используют ли они искусственный интеллект в своих творениях, а также запрещать мошенничество и подделку видео.

В своем заявлении YouTube упомянул, что в период с января по март этого года компания удалила более 15,7 миллиона каналов и более 8,2 миллиона видео, нарушающих политику в отношении контента. Однако простое удаление видео по-прежнему является индикатором, но не устраняет основную причину. Платформе необходимо пересмотреть свою систему проверки и решить проблему в корне.

Вывод: дипфейковые видео загрязняют Интернет

История цифрового мошенничества стара, как Интернет. Однако по мере того, как технология ИИ становится более зрелой, а стоимость использования инструментов ИИ становится все ниже и ниже, временные и денежные затраты на использование этой технологии для совершения мошенничества также значительно сокращаются. Новая волна дипфейковых видеороликов с участием таких знаменитостей, как Маск, загрязняет Интернет.

С постоянным развитием технологий отличить технологию дипфейков может стать сложнее, что выдвигает новые требования к платформам, регулирующим органам и законам.

источник:Нью-Йорк Таймс