новости

Благодаря развитию и внедрению искусственного интеллекта (ИИ) генеративный ИИ меняет повседневную жизнь с беспрецедентной скоростью, но новые мошенничества и новые процедуры, возникшие на его основе, также обновляют понимание людьми вопросов предотвращения рисков. За этим стоит не только безопасность имущества потребителей, но и риски личной безопасности и скрытые опасности.

Недавно зарубежные СМИ разоблачили новое цифровое мошенничество. Мошенники используют сложные инструменты искусственного интеллекта для создания видеороликов с изображением знаменитостей, таких как генеральный директор Tesla Маск, и используют этих «знаменитостей с искусственным интеллектом» для реализации различных фальшивых продуктов или «инвестиций и обещаний высокой отдачи». инвестиции.

В одном типичном случае так называемая валютная компания, поддерживаемая «ИИ Маском», легко украла у 82-летнего пенсионера более 690 000 долларов (приблизительно 4,95 миллиона юаней) из его сбережений.

В этом типе мошенничества мошенники обычно сначала находят настоящую видеозапись интервью Маска, затем используют инструменты искусственного интеллекта, чтобы заменить его голос, и используют технологию синхронизации губ, чтобы отредактировать форму рта Маска, чтобы видео выглядело более достоверно. Обычным людям такое фейковое видео может быть очень трудно отличить.

Помимо Маска, «Бог акций» Баффет и основатель Amazon Джефф Безос также являются знаменитостями, которые часто появляются в подобных мошеннических видеороликах.

«ИИ Маск» свирепствует. Создание занимает всего несколько минут, но кто-то украл почти 5 миллионов юаней.

В последние месяцы Интернет наводнили тысячи видеороликов с использованием искусственного интеллекта, известных как «дипфейки».По оценкам Deloitte, «дипфейковые» видео/реклама с использованием искусственного интеллекта ежегодно будут приносить миллиарды долларов убытков от мошенничества.

Однако,Создание этих видеороликов стоит всего лишь несколько долларов, и их можно сделать за считанные минуты.Такие видеоролики широко продвигаются в социальных сетях, в том числе посредством платной рекламы в Facebook, благодаря своему статусу знаменитостей, что увеличивает их охват.

Мошенники начнут с реального видео, такого как приведенное ниже из интервью Маска из The Wall Street Journal, где задает вопрос Торольд Баркер, редактор газеты, чей голос также звучит в видеоклипе.

Источник изображения: «Wall Street Journal»

В «дипфейковом» видео движения рта Маска были смонтированы с помощью технологии синхронизации губ, которая корректирует манеру речи человека. Мошенники также добавляют голоса ИИ, используя инструменты клонирования голоса, которые могут копировать любой звук из образца. Поэтому полученное видео может оказаться вполне убедительным для обычного пользователя Интернета.

Некоторые люди были обмануты этим.82-летний пенсионер Стив Бошан — типичный случай. По данным зарубежных СМИ, в конце прошлого года 82-летний пенсионер Бошан посмотрел рекламный ролик. В видео Маск поддерживает агрессивную инвестиционную возможность, которая обещает быструю прибыль, а форма его рта и голос очень похожи.Он также включает в себя культовый южноафриканский акцент Маска.Это выглядит очень реалистично. Поэтому Бошан связался с валютной компанией Magna-FX, стоящей за рекламой, и открыл счет на 248 долларов. После серии сделок в течение нескольких недель Бошан опустошил свой пенсионный счет и вложил в него более 690 000 долларов, которые были уничтожены.

По мнению другогоЖитель Техаса заявил, что потерял 3,6 доллара после того, как увидел выступление Маска в так называемом «живом» видео на YouTube в феврале 2023 года, согласно отчету некоммерческой группы по защите интересов потребителей Better Business Bureau. Тысячи долларов в биткойнах. Он сказал: «Я отправил биткойны и больше ничего не получил».

Sensity, компания, отвечающая за мониторинг и обнаружение «дипфейков», проанализировала более 2000 дипфейковых видео и обнаружила, что на данный момент:Маск — наиболее распространенный «изображение ИИ» в видео этого типа. В частности, с конца прошлого года «ИИ Маск» фигурировал почти в четверти «дипфейковых» афер. В «дипфейковых» видеороликах, связанных с криптовалютами, частота его появления достигает даже 90%.

В связи с этим эксперты, изучающие криптовалютное сообщество, заявили, что Маск имеет уникальную базу поклонников по всему миру, включая консерваторов, фракции, выступающие против истеблишмента, и энтузиастов криптовалют. Такие группы часто привлекают альтернативные способы зарабатывания денег.Это также делает их идеальной мишенью для цифровых мошенников. Более того, среди этой группы чаще всего жертвами мошенников становятся пользователи Интернета пожилого возраста. Эта группа хорошо знакома с криптовалютой, искусственным интеллектом и Маском, но зачастую недостаточно бдительна.

Помимо Маска, «Бог акций» Баффет и основатель Amazon Джефф Безос также являются знаменитостями, которые часто появляются в подобных мошеннических видеороликах.

Технология искусственного интеллекта стала инструментом мошенничества, а больше всего пострадали Facebook и Youtube.

По сообщениям зарубежных СМИ, в настоящее время сложно подсчитать, сколько «дипфейковых» видеороликов циркулирует в Интернете, но поиск общих ключевых слов для этих мошенников в рекламной библиотеке Facebook может выявить сотни тысяч рекламных объявлений, в том числе многие из них содержат «дипфейковые» видеоролики. .

Хотя Facebook удалил множество видео, нарушающих его политику, и заблокировал некоторые учетные записи, другие видео все еще циркулируют в Интернете, и, похоже, каждый день появляются новые. Не только Facebook, но и YouTube полон таких фейковых видео, часто с тегом «live». Но на самом деле эти видеоролики представляют собой заранее записанные «дипфейковые» видеоролики.

В заявлении YouTube говорится, что только в первом квартале этого годаБыло удалено более 15,7 миллиона каналов и более 8,2 миллиона видео.Большая часть этого контента была удалена за нарушение политики защиты от спама.

Распространенность такой «дипфейковой» рекламы также побудила австралийского миллиардера Эндрю Форреста подать гражданский иск, обвинив материнскую компанию Facebook Meta в халатности в ее рекламном бизнесе. Он считает, что рекламный бизнес Facebook побуждает «невинных пользователей делать неправильные инвестиции». Meta заявила, что обучает системы автоматического обнаружения выявлению мошенничества на своей платформе, но также отметила, что хорошо финансируемые мошенники будут продолжать менять свои стратегии, чтобы избежать обнаружения.YouTube заявил, что его политика запрещает мошенничество и подделку видео, а в марте этого года потребовал от создателей раскрывать информацию об использовании ИИ для создания аутентичного контента.

На самом деле, цифровое мошенничество не является чем-то новым, но с момента открытия исходного кода инструментов искусственного интеллекта в прошлом году взорвалась новая волна «глубоких фейковых» видеороликов.

Ранее в этом годуФедеральная торговая комиссия США (FTC) и ФБР также предупредили, что киберпреступность и глубокое мошенничество с использованием искусственного интеллекта растут.«Преступники используют ИИ, чтобы сделать кибератаки и другую преступную деятельность более эффективной и трудной для обнаружения», — заявили в ФБР.

Видео «глубокого фейка» не идеальны, и даже в некоторых видеороликах форма рта «ИИ Маска» не совпадает, но некоторые эксперты говорят, что для некоторых целевых групп мошенников создаваемые ими видеоролики кажутся достаточно убедительными и убедительными. все время улучшается.

Кроме того, некоторые мошенники часто продвигают поддельные программы искусственного интеллекта, утверждая, что они могут принести значительную прибыль от инвестиций. Мошенники используют это, чтобы обманом заставить целевую аудиторию первоначально вложить небольшую сумму денег (около 250 долларов США). Затем людей постепенно заманивают вкладывать больше денег, поскольку мошенники продолжают утверждать, что стоимость инвестиций вырастет.

Выманили все его сбереженияБошамп«На данный момент я готов принять любую критику и насмешки как наказание за мою легковерность», — сказал он в отчете Better Business Bureau.

Он сказал, что, чтобы свести концы с концами, полагался на меньший пенсионный счет и пенсию, о которых он не сообщил мошенникам, и что он планировал использовать сбережения для путешествий по всему миру.БошампВ местную полицию было подано заявление, но дело продвигается медленно. «Мое дело было поставлено в очередь из-за всех случаев мошенничества», - сказал он. «У меня не было больших надежд».

ежедневные экономические новости