nouvelles

le 6 septembre, lors de la conférence bund 2024 « utiliser l'ia pour défendre les voies offensives et défensives à l'ère des grands modèles d'ia », le premier concours technologique national sur le thème de l'offensive et de la défense des grands modèles - le « global ai offensive and defence challenge" a été annoncé. cet événement se concentre sur la pratique industrielle des grands modèles d'ia et a conçu une voie bidirectionnelle d'attaque et de défense. il invite les pirates informatiques et les talents techniques de tous horizons à mener de véritables exercices offensifs et défensifs sur « l'empoisonnement des données ». de grands modèles vincentiens, ainsi que la génération de grands modèles de scénarios financiers. concours de détection de contenu anti-contrefaçon pour concourir pour un prix technologique d'un million de yuans.

ce concours est co-parrainé par la chinese image and graphics society, ant group et la cloud security alliance (csa) greater china. il est co-parrainé par l'université tsinghua, l'université jiao tong de shanghai, l'université du zhejiang et d'autres universités c9 et un certain nombre. d'organisations de recherche, d'université et d'industrie. intelligence artificielle de shanghai le laboratoire intelligent sert d'unité de coopération technique. le concours vise à unir les forces universitaires et industrielles à travers des compétitions techniques, à faire face et à résoudre les risques cachés dans l'application de grands modèles, et à contribuer au développement sain et durable de l'industrie mondiale de l'ia.

wang yaonan, académicien de l'académie chinoise d'ingénierie et président de la société chinoise de l'image et du graphisme, a déclaré qu'à l'ère des grands modèles, comment garantir la sécurité et la contrôlabilité des systèmes d'ia et comment gérer efficacement les risques potentiels dans le la chaîne d’approvisionnement est devenue un problème important qui doit être résolu. ce défi d'offensive et de défense de l'ia est un festin technologique mondial créé conjointement par la china image and graphics society et ant group et d'autres sociétés et institutions bien connues du secteur, se concentrant sur la piste aigc à grande échelle, de la vérification faciale au contenu génératif. détection, nous sommes impatients de découvrir des solutions plus innovantes pour garantir davantage la sécurité des applications de grands modèles et la sécurité industrielle.

le concours comporte deux volets majeurs : "attaque" et "défense", axés respectivement sur la sécurité des grands modèles eux-mêmes, la détection anti-contrefaçon des contenus générés par les grands modèles et la détection des risques d'abus des grands modèles, couvrant l'apprentissage automatique, le traitement d'images et vision par ordinateur‌, traitement des données, etc. points de test dans plusieurs domaines d'algorithmes.

parmi eux, le « attack track » se concentre sur les problèmes de risque d’application pratique du grand modèle vincentien. les concurrents peuvent inciter le grand modèle à produire des images à risque grâce à des technologies diversifiées d'induction d'attaques dynamiques telles que le détournement de cible, l'introduction de scénarios et l'imbrication logique, activant ainsi les faiblesses et les failles potentielles du grand modèle et renforçant l'immunité de sécurité de la génération d'images du grand modèle. . la « voie défensive » se concentre sur la détection de la falsification des informations d'identification de scénarios financiers dans le cœur de l'ia afin de faire face aux risques de plus en plus graves liés aux faux certificats deepfake et aigc. le concours propose un ensemble de formation sur la falsification des données d'identification d'un million de niveaux. les participants doivent développer et former des modèles, et utiliser l'ensemble de tests correspondant pour évaluer l'efficacité du modèle et donner une valeur de probabilité de falsification des données.

les inscriptions à ce concours ont officiellement débuté le 6 septembre et l'examen du concours s'est achevé début novembre. désormais, les candidats peuvent s'inscrire via le site officiel de la société chinoise de l'image et du graphisme, le site officiel de la plateforme alibaba cloud tianchi big data crowd intelligence et d'autres canaux. il y a une cagnotte de près d'un million de yuans tout au long du concours pour sélectionner et féliciter les talents exceptionnels dans ce domaine.

source : client quotidien de pékin

journaliste : sun qiru