Ловушка искусственного интеллекта: фотографии не обязательно могут быть правдой, опасайтесь «новой маскировки» слухов
2024-08-26
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
В последние годы технология искусственного интеллекта быстро развивалась и стала горячей точкой в глобальной области науки и технологий. ИИ превратился из простого академического исследования в важную силу, меняющую образ жизни людей. Однако некоторые люди со скрытыми мотивами превращают это в инструмент для распространения слухов и зарабатывания денег.
реальный случай
В августе 2024 года в Интернете стремительно распространилась шокирующая новость. «Округ Сунси в Наньпине пострадал от сильного ветра, в результате чего на улице Цзаолин погиб один человек». Новость была проиллюстрирована картинками и текстом и даже содержала реалистичные видеоклипы, которые сразу привлекли внимание и перешли к большому количеству пользователей сети. Однако после проверки со стороны агентства общественной безопасности выяснилось, что на самом деле это было видео из интернет-слухов, сфабрикованное с использованием искусственного интеллекта.
После расследования выяснилось, что слух был сгенерирован издателем Чжоу с помощью программного обеспечения искусственного интеллекта с целью привлечь внимание и трафик. Собрав воедино фотографии и видеоклипы, Чжоу создал ложную информацию с «изображениями», «текстом» и «звуками» и разместил ее на интернет-платформе, вызвав негативный социальный эффект.
Органы общественной безопасности наложили на Чжоу административные наказания в соответствии с законом.
Тематическое исследование
Распространители слухов пользуются преимуществами низкой стоимости, высокой эффективности и простоты работы ИИ. Предоставляя ключевые слова, программное обеспечение ИИ автоматически сканирует соответствующую информацию в Интернете, используя горячие новости и случайные онлайн-аудио и видео в качестве материалов для массового производства. Интернет-слухи. Публикуйте на крупных онлайн-платформах, чтобы привлечь внимание или монетизировать трафик. Распространение и влияние слухов растет в геометрической прогрессии.
Когда слухи маскируются под искусственный интеллект, они могут не только автоматически генерировать текст, но также генерировать изображения, аудио и видео, близкие к реальности, оживляя несуществующие сцены и заставляя вымышленных персонажей казаться действительно существующими. Это полностью подрывает наше общепринятое представление о том, что «если есть картинка, то есть и правда», что затрудняет нам возможность отличить правду от самих интернет-слухов.
Слухи об искусственном интеллекте стали новой темой в Интернете, которую необходимо срочно рассмотреть. Как же в повседневной жизни мы можем держать глаза открытыми, выявлять слухи об искусственном интеллекте и противостоять им?
Интернет-оповещение
01
Любопытство должно быть умеренным: столкнувшись с новой и преувеличенной информацией, не спешите сначала узнать правду. ИИ выбирает и фиксирует темы, на которые все обращают внимание, чтобы создавать онлайн-слухи и распространять их, воспользовавшись любопытством пользователей сети. .
02
Не доверяйте информации из неизвестных источников: помните, что нельзя слепо верить и распространять непроверенную информацию. Когда вы видите подозрительную информацию в социальных сетях или Интернете, вы можете сначала проверить ее или подождать выхода официальных новостей, прежде чем выносить суждение.
03
Всегда обращайте внимание на авторитетные каналы: будьте внимательны к источникам информации при просмотре информации в Интернете, подписывайтесь на аккаунты официальных СМИ и государственных ведомств и старайтесь выбирать в качестве источников информации авторитетные и заслуживающие доверия средства массовой информации или учреждения.
04
Логический анализ необходим: обратите внимание на логику сетевой информации. Если вы обнаружите очевидные логические лазейки или противоречия в какой-либо части информации, скорее всего, она была подделана или сфабрикована.
Материал | Интернет-полиция Фуцзянь
Источник: Бюро кибербезопасности Министерства общественной безопасности.
