notizia

il 6 settembre, al forum della conferenza del bund del 2024 "using ai to defend offensive and defensive ways in the ai ​​​​large model era", si è svolto il primo concorso tecnologico nazionale con il tema dell'attacco e della difesa di grande modello - il "global ai offensive and difesa challenge" è stato annunciato. questo evento si concentra sulla pratica industriale dei grandi modelli di intelligenza artificiale e ha progettato un percorso bidirezionale di attacco e difesa. invita hacker white hat e talenti tecnici di ogni ceto sociale a condurre vere e proprie esercitazioni offensive e difensive sull'"avvelenamento dei dati". di grandi modelli vincenziani, nonché la generazione di grandi modelli di scenari finanziari, un concorso di rilevamento anti-contraffazione di contenuti per competere per un premio tecnologico di un milione di yuan.

questo concorso è co-sponsorizzato dalla chinese image and graphics society, ant group e dalla cloud security alliance (csa) greater china. è sponsorizzato congiuntamente dalla tsinghua university, dalla shanghai jiao tong university, dalla zhejiang university e da altre università c9 e da numerose altre università. delle organizzazioni di ricerca industriale-universitaria. intelligenza artificiale di shanghai il laboratorio intelligente funge da unità di cooperazione tecnica. il concorso mira a unire le forze del mondo accademico e dell’industria attraverso competizioni tecniche, affrontare e risolvere i rischi nascosti nell’applicazione di modelli di grandi dimensioni e aiutare lo sviluppo sano e sostenibile del settore globale dell’intelligenza artificiale.

wang yaonan, accademico dell'accademia cinese di ingegneria e presidente della società cinese di immagine e grafica, ha affermato che nell'era dei modelli di grandi dimensioni, come garantire la sicurezza e la controllabilità dei sistemi di intelligenza artificiale e come affrontare efficacemente i potenziali rischi nell'ambiente catena di fornitura sono diventati problemi importanti che devono essere risolti. questa sfida offensiva e di difesa dell'intelligenza artificiale è una festa tecnologica globale creata congiuntamente dalla china image and graphics society e da ant group e da altre rinomate aziende e istituzioni del settore, incentrata sul percorso aigc di grandi dimensioni, dalla verifica dei volti ai contenuti generativi rilevamento, non vediamo l'ora di scoprire soluzioni più innovative per garantire ulteriormente la sicurezza delle applicazioni di modelli di grandi dimensioni e la sicurezza industriale.

il concorso ha due percorsi principali: "attacco" e "difesa", incentrati rispettivamente sulla sicurezza dei modelli di grandi dimensioni stessi, sul rilevamento anticontraffazione di contenuti generati da modelli di grandi dimensioni e sul rilevamento del rischio di abuso di modelli di grandi dimensioni, coprendo l'apprendimento automatico, l'elaborazione di immagini e visione artificiale‌, elaborazione dati, ecc. punti di test in più campi dell'algoritmo.

tra questi, l'"attack track" si concentra sui problemi di rischio applicativo pratico del grande modello vincenziano. i concorrenti possono indurre il modello di grandi dimensioni a produrre immagini rischiose attraverso tecnologie diversificate di induzione di attacchi dinamici come il dirottamento del bersaglio, l'introduzione di scenari e l'annidamento logico, attivando così i potenziali punti deboli e le scappatoie del modello di grandi dimensioni e migliorando l'immunità di sicurezza della generazione di immagini del modello di grandi dimensioni. . il "defensive track" si concentra sul rilevamento di manomissioni di credenziali di scenari finanziari nel core ai per fronteggiare i rischi sempre più gravi dei certificati falsi deepfake e aigc. il concorso fornisce un set di formazione sui dati sulla manomissione delle credenziali a milioni di livelli. i partecipanti devono sviluppare e addestrare modelli e utilizzare il set di test corrispondente per valutare l'efficacia del modello e fornire un valore di probabilità per la falsificazione dei dati.

la registrazione per questo concorso è iniziata ufficialmente il 6 settembre e la revisione del concorso è stata completata all'inizio di novembre. d'ora in poi, i concorrenti potranno registrarsi tramite il sito web ufficiale della società cinese di immagine e grafica, il sito web ufficiale di alibaba cloud tianchi big data crowd intelligence platform e altri canali. c'è un montepremi di quasi 1 milione di yuan durante la competizione per selezionare e lodare i talenti eccezionali nel campo.

fonte: beijing daily client

giornalista: sun qiru