νέα

στις 6 σεπτεμβρίου, στο συνέδριο bund 2024 "using ai to defendive offensive and defensive ways in the ai ​​large model era", ο πρώτος εγχώριος διαγωνισμός τεχνολογίας με θέμα την επίθεση και την άμυνα μεγάλων μοντέλων - το "global ai offensive and defence challenge» ανακοινώθηκε. αυτή η εκδήλωση εστιάζει στη βιομηχανική πρακτική των μεγάλων μοντέλων της τεχνητής νοημοσύνης και έχει σχεδιάσει μια αμφίδρομη διαδρομή επίθεσης και άμυνας. των μεγάλων μοντέλων της vincentian, καθώς και της δημιουργίας μεγάλων μοντέλων οικονομικών σεναρίων για τον διαγωνισμό ανίχνευσης κατά της παραχάραξης περιεχομένου για να διαγωνιστούν για το βραβείο τεχνολογίας ενός εκατομμυρίου γιουάν.

αυτός ο διαγωνισμός συγχρηματοδοτείται από την κινεζική εταιρεία εικόνας και γραφικών, το ant group και τη συμμαχία ασφάλειας νέφους (csa) greater china. χορηγείται από κοινού από το πανεπιστήμιο tsinghua, το πανεπιστήμιο της σαγκάης jiao tong, το πανεπιστήμιο zhejiang και άλλα πανεπιστήμια c9. βιομηχανικών-πανεπιστημίων-ερευνητικών οργανισμών σαγκάη τεχνητή νοημοσύνη το ευφυές εργαστήριο λειτουργεί ως μονάδα τεχνικής συνεργασίας. ο διαγωνισμός στοχεύει να ενώσει τις δυνάμεις του ακαδημαϊκού και του κλάδου μέσω τεχνικών διαγωνισμών, να αντιμετωπίσει και να επιλύσει τους κινδύνους που κρύβονται στην εφαρμογή μεγάλων μοντέλων και να βοηθήσει την υγιή και βιώσιμη ανάπτυξη της παγκόσμιας βιομηχανίας ai.

ο wang yaonan, ακαδημαϊκός της κινεζικής ακαδημίας μηχανικών και πρόεδρος της κινεζικής εταιρείας εικόνας και γραφικών, δήλωσε ότι στην εποχή των μεγάλων μοντέλων, πώς να διασφαλιστεί η ασφάλεια και η δυνατότητα ελέγχου των συστημάτων τεχνητής νοημοσύνης και πώς να αντιμετωπίσουμε αποτελεσματικά τους πιθανούς κινδύνους στην η εφοδιαστική αλυσίδα έχει γίνει σημαντικά ζητήματα που πρέπει να επιλυθούν. αυτό το ai offensive and defense challenge είναι μια παγκόσμια γιορτή τεχνολογίας που δημιουργήθηκε από κοινού από την china image and graphics society και την ant group και άλλες γνωστές εταιρείες και ιδρύματα του κλάδου, με επίκεντρο το μεγάλο μοντέλο της διαδρομής aigc ανίχνευσης, ανυπομονούμε να ανακαλύψουμε περισσότερες καινοτόμες λύσεις για να διασφαλίσουμε περαιτέρω την ασφάλεια μεγάλων εφαρμογών μοντέλων και τη βιομηχανική ασφάλεια.

ο διαγωνισμός έχει δύο βασικά κομμάτια: "attack" και "defense", εστιάζοντας αντίστοιχα στην ασφάλεια των ίδιων των μεγάλων μοντέλων, στον εντοπισμό μεγάλου περιεχομένου που δημιουργείται από μοντέλα κατά της παραχάραξης και στον εντοπισμό κινδύνου κατάχρησης μεγάλου μοντέλου, που καλύπτει τη μηχανική μάθηση, την επεξεργασία εικόνας και όραση υπολογιστή‌, επεξεργασία δεδομένων, κ.λπ. σημεία δοκιμής σε πολλαπλά πεδία αλγορίθμων.

μεταξύ αυτών, το «attack track» εστιάζει στα πρακτικά ζητήματα κινδύνου εφαρμογής του vincentian μεγάλου μοντέλου. οι διαγωνιζόμενοι μπορούν να παρακινήσουν το μεγάλο μοντέλο να παράγει επικίνδυνες εικόνες μέσω διαφοροποιημένων τεχνολογιών επαγωγής δυναμικής επίθεσης, όπως η αεροπειρατεία, η εισαγωγή σεναρίων και η λογική ένθεση, ενεργοποιώντας έτσι τις πιθανές αδυναμίες και κενά του μεγάλου μοντέλου και ενισχύοντας την ασυλία ασφαλείας της δημιουργίας εικόνας του μεγάλου μοντέλου . το "defensive track" εστιάζει στον εντοπισμό παραβίασης διαπιστευτηρίων οικονομικών σεναρίων στον πυρήνα της ai για την αντιμετώπιση των ολοένα και πιο σοβαρών κινδύνων των πλαστών πιστοποιητικών deepfake και aigc. ο διαγωνισμός παρέχει ένα σετ εκπαίδευσης δεδομένων παραβίασης διαπιστευτηρίων. οι συμμετέχοντες πρέπει να αναπτύξουν και να εκπαιδεύσουν μοντέλα και να χρησιμοποιήσουν το αντίστοιχο σύνολο δοκιμών για να αξιολογήσουν την αποτελεσματικότητα του μοντέλου και να δώσουν μια τιμή πιθανότητας για παραποίηση δεδομένων.

οι εγγραφές για αυτόν τον διαγωνισμό ξεκίνησαν επίσημα στις 6 σεπτεμβρίου και η αναθεώρηση του διαγωνισμού ολοκληρώθηκε στις αρχές νοεμβρίου. στο εξής, οι διαγωνιζόμενοι μπορούν να εγγραφούν μέσω της επίσημης ιστοσελίδας της κινεζικής εταιρείας εικόνας και γραφικών, της επίσημης ιστοσελίδας της alibaba cloud tianchi big data crowd intelligence platform και άλλων καναλιών. υπάρχει μια δεξαμενή βραβείων σχεδόν 1 εκατομμυρίου γιουάν σε όλο τον διαγωνισμό για την επιλογή και τον έπαινο των εξαιρετικών ταλέντων στον τομέα.

πηγή: beijing daily client

δημοσιογράφος: sun qiru