nouvelles

récemment, la police de hangzhou a révélé le premier cas dans le pays d'utilisation d'un grand modèle d'ia pour changer de visage afin de voler la vie privée, ce qui est horrible à penser.

le criminel saisit les photos fixes de la victime dans le modèle, puis fait une demande par texte et par voix pour générer une vidéo en direct. cette vidéo en direct peut imiter un visage humain pour hocher la tête, cligner des yeux et sur le côté, briser l'authentification faciale de la plateforme, vous forcer à vous connecter aux comptes d'autres personnes et obtenir une grande quantité de données privées de la victime pour les vendre à des fins lucratives.

ce n’est que la pointe de l’iceberg dans le chaos des applications technologiques de l’ia. ces dernières années, la technologie de l'intelligence artificielle s'est développée rapidement, apportant de nouvelles opportunités et des services plus pratiques. cependant, les nouvelles technologies sont souvent utilisées par certains criminels et deviennent des « complices » de crimes.

l'ia « change de visage » commet des fraudes, l'ia falsifie des images pour répandre des rumeurs et les appels de vente de l'ia sont inquiétants... toutes sortes de chaos non seulement portent atteinte aux droits et intérêts légitimes des consommateurs, menacent la sécurité des personnes et des biens, mais entravent également la développement sain et ordonné de l’industrie de l’ia.

il ne fait aucun doute que l’ia constitue une direction importante pour le développement scientifique et technologique et un haut lieu technologique pour la concurrence entre les pays. cependant, en développant l’ia, nous ne devons pas ignorer ses risques cachés. attachez la « ceinture de sécurité » à l’ia en plein essor et faites-en un « assistant » plutôt qu’un « complice ». l’accent est mis sur le renforcement de la gouvernance et de la réglementation.

lors de la semaine nationale de sensibilisation à la cybersécurité 2024 récemment organisée, la question des applications de sécurité de l'ia est devenue un sujet brûlant. au cours de cette période, les départements concernés ont publié la version 1.0 du « cadre de gouvernance de la sécurité de l'intelligence artificielle », proposant des solutions directionnelles telles que les principes de gouvernance de la sécurité de l'intelligence artificielle. certaines technologies noires permettant de faire face aux risques de sécurité de l'ia ont également été dévoilées lors de la cyber ​​​​security expo, comme le système de contrefaçon en temps réel de l'ia, qui identifie et contrecarre efficacement les astuces de fraude telles que le changement de visage de l'ia et les onomatopées de l'ia.

la technologie a toujours été une « épée à double tranchant ». qu’elle soit bonne ou mauvaise, bénéfique ou nuisible, la clé dépend de la manière dont la personne qui tient l’épée est prête à l’utiliser. lorsque nous développons vigoureusement l’ia, nous devons accroître la sensibilisation à la sécurité, renforcer la promotion et l’application des technologies de sécurité pertinentes et promouvoir la formation d’un consensus de gouvernance entre toutes les parties de la société afin que l’ia puisse mieux profiter à l’humanité. (rédacteur : ma ruohu)