nachricht

am 6. september fand auf der bund-konferenz 2024 „using ai to defend offensive and defensive ways in the ai ​​large model era“ der erste inländische technologiewettbewerb zum thema großmodell-angriff und -verteidigung statt – die „global ai offensive and defence challenge“ angekündigt. diese veranstaltung konzentriert sich auf die industrielle praxis großer ki-modelle und hat einen wechselseitigen ansatz für angriff und verteidigung entwickelt. sie lädt white-hat-hacker und technische talente aus allen gesellschaftsschichten ein, echte angriffs- und verteidigungsübungen zum thema „datenvergiftung“ durchzuführen. von vincentian großen modellen sowie der generierung großer modelle von finanzszenarien im wettbewerb zur erkennung von fälschungen im wert von einer million yuan.

dieser wettbewerb wird von der chinese image and graphics society, der ant group und der cloud security alliance (csa) greater china gemeinsam gesponsert. er wird gemeinsam von der tsinghua university, der shanghai jiao tong university, der zhejiang university und anderen c9-universitäten gesponsert von industrie-universitäts-forschungsorganisationen. shanghai artificial intelligence das intelligente labor dient als technische kooperationseinheit. ziel des wettbewerbs ist es, die kräfte von wissenschaft und industrie durch technische wettbewerbe zu vereinen, den mit der anwendung großer modelle verbundenen risiken zu begegnen und sie zu lösen sowie zur gesunden und nachhaltigen entwicklung der globalen ki-industrie beizutragen.

wang yaonan, akademiker der chinesischen akademie für ingenieurwissenschaften und vorsitzender der chinesischen gesellschaft für bild und grafik, sagte, wie man im zeitalter großer modelle die sicherheit und steuerbarkeit von ki-systemen gewährleisten und potenzielle risiken in der lieferkette sind zu wichtigen problemen geworden, die gelöst werden müssen. diese ai offensive and defense challenge ist ein globales technologiefest, das gemeinsam von der china image and graphics society und der ant group sowie anderen namhaften unternehmen und institutionen der branche ins leben gerufen wurde und sich auf den aigc-track für große modelle konzentriert: von der gesichtsverifizierung bis hin zu generativen inhalten wir freuen uns darauf, weitere innovative lösungen zu entdecken, um die sicherheit großer modellanwendungen und die industrielle sicherheit weiter zu gewährleisten.

der wettbewerb besteht aus zwei hauptbereichen: „angriff“ und „verteidigung“, wobei der schwerpunkt jeweils auf der sicherheit großer modelle selbst, der fälschungserkennung großer, von modellen generierter inhalte und der erkennung von missbrauchsrisiken großer modelle liegt und maschinelles lernen, bildverarbeitung usw. umfasst computer vision‌, datenverarbeitung usw. testpunkte in mehreren algorithmusfeldern.

darunter konzentriert sich der „attack track“ auf die praktischen anwendungsrisikoprobleme des vinzentinischen großmodells. teilnehmer können das große modell durch vielfältige dynamische angriffsinduktionstechnologien wie zielentführung, szenarioeinführung und logische verschachtelung dazu veranlassen, riskante bilder auszugeben, wodurch potenzielle schwächen und schlupflöcher des großen modells aktiviert und die sicherheitsimmunität der bilderzeugung des großen modells verbessert werden . . der „defensive track“ konzentriert sich auf die erkennung von manipulationen von anmeldeinformationen im finanzszenario im ki-kern, um den immer schwerwiegenderen risiken von gefälschten deepfake- und aigc-zertifikaten zu begegnen. der wettbewerb stellt einen trainingssatz für die manipulation von anmeldedaten auf millionenebene bereit. die teilnehmer müssen modelle entwickeln und trainieren und den entsprechenden testsatz verwenden, um die wirksamkeit des modells zu bewerten und einen wahrscheinlichkeitswert für die datenfälschung anzugeben.

die registrierung für diesen wettbewerb begann offiziell am 6. september und die überprüfung des wettbewerbs wurde anfang november abgeschlossen. ab sofort können sich teilnehmer über die offizielle website der chinese society of image and graphics, die offizielle website der alibaba cloud tianchi big data crowd intelligence platform und andere kanäle registrieren. während des gesamten wettbewerbs gibt es einen preispool von fast 1 million yuan, um herausragende talente auf diesem gebiet auszuwählen und zu würdigen.

quelle: beijing daily client

reporter: sun qiru