новости

недавно полиция ханчжоу раскрыла первый в стране случай использования крупной модели искусственного интеллекта для изменения лиц с целью кражи личной жизни, о чем страшно подумать.

преступники вводят в модель фотографии жертв, а затем отправляют текстовые и голосовые запросы для создания живого видео. это живое видео может имитировать человеческое лицо, которое кивает, моргает и поворачивается в сторону, нарушает аутентификацию лица на платформе, заставляет вас входить в учетные записи других людей и получать большой объем личных данных жертвы для продажи с целью получения прибыли.

это лишь верхушка айсберга в хаосе приложений технологий искусственного интеллекта. в последние годы технологии искусственного интеллекта быстро развиваются, предоставляя все больше новых возможностей и более удобных услуг. однако новые технологии часто используются некоторыми преступниками и становятся «соучастниками» преступлений.

«меняющий лицо» ии совершает мошенничество, ии подделывает фотографии для распространения слухов, а звонки по продажам ии вызывают беспокойство... все виды хаоса не только нарушают законные права и интересы потребителей, угрожают личной и имущественной безопасности, но и препятствуют здоровое и упорядоченное развитие индустрии искусственного интеллекта.

нет сомнений в том, что ии является важным направлением научно-технического развития и технологическим полигоном конкуренции между странами. однако при разработке ии мы не должны игнорировать его скрытые риски. пристегните «ремни безопасности» растущего ии и сделайте его «помощником», а не «соучастником». основное внимание уделяется укреплению управления и регулирования.

на недавно прошедшей национальной неделе осведомленности о кибербезопасности 2024 года проблема применения ии-безопасности стала горячей темой. за этот период соответствующие ведомства выпустили версию 1.0 «системы управления безопасностью искусственного интеллекта», предлагая направленные решения, такие как принципы управления безопасностью искусственного интеллекта. на выставке cyber ​​security expo также были представлены некоторые «черные» технологии для борьбы с рисками безопасности ии, такие как система подделки ии в реальном времени, которая может эффективно выявлять и противодействовать мошенническим процедурам, таким как изменение лица ии и звукоподражание ии.

технологии всегда были «палкой о двух концах». хорошо это или плохо, полезно или вредно, все зависит от того, как человек, держащий меч, готов его использовать. при энергичном развитии ии мы должны повышать осведомленность о безопасности, усиливать продвижение и применение соответствующих технологий безопасности, а также способствовать формированию консенсуса в области управления между всеми сторонами в обществе, чтобы ии мог лучше приносить пользу человечеству. (копирайтер: ма руоху)