Νέα

Διάλογος με τον Zhang Xiangzheng, Πρόεδρο του 360 Intelligent Brain: Πώς να δημιουργήσετε ένα μεγάλο μοντέλο ασφαλείας

2024-08-02

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Σύμφωνα με νέα στις 2 Αυγούστου, η 12η Διάσκεψη για την Ασφάλεια του Διαδικτύου (ISC.Όλα συμπεριλαμβάνονται 2024), αυτό το συνέδριο θα πραγματοποιηθεί με θέμα «Χτίζοντας ένα χρηματοκιβώτιομεγάλο μοντέλο, Leading a New Revolution in the Security Industry" ως θέμα, εστιάζοντας σε βάθος στους δύο βασικούς τομείς της ασφάλειας και της τεχνητής νοημοσύνης. Στη σκηνή, κάναμε συνέντευξη360Πρόεδρος της ZhinaoZhang Xiangzheng, πραγματοποίησε σε βάθος ανταλλαγές σχετικά με την κατανόηση της 360 Intelligence για θέματα ασφάλειας και τον προγραμματισμό προϊόντων.

Ο Zhang Xiangzheng εισήγαγε ότι η ομάδα Intelligent Brain είναι υπεύθυνη για τις γενικές δυνατότητες μοντέλων, καθώς και για ειδικές δυνατότητες για βασικά επιχειρηματικά σενάρια, όπως Intelligent Reading, προγράμματα περιήγησης, σύνοψη κειμένου, σύνοψη βίντεο/υπότιτλων, δημιουργία χάρτη μυαλού, εικασία λέξης αναζήτησης, αναγνώριση πρόθεσης και περίληψη κτλ. περίμενε. Ταυτόχρονα, η ομάδα Intelligent Brain είναι επίσης υπεύθυνη για το έργο του συνδυασμού της ασφάλειας API και AI με μεγάλες δυνατότητες μοντέλων.

Το θέμα αυτού του συνεδρίου είναι «Χτίζοντας ένα Μεγάλο Μοντέλο Ασφάλειας», ο Zhang Xiangzheng είπε ότι τα θέματα ασφάλειας χωρίζονται σε διάφορα μέρη. συμπεριλαμβανομένου του πλαισίου Agent, συμπεριλαμβανομένων των διανυσματικών βάσεων δεδομένων, συμπεριλαμβανομένου του πλαισίου PyTorch, το οποίο έχει από μόνο του πιθανούς κινδύνους ευπάθειας, το δεύτερο μέρος είναι εάν το παραγόμενο περιεχόμενο πληροί τις κανονιστικές απαιτήσεις, συμπεριλαμβανομένης της ευθυγράμμισης των τιμών, με την προϋπόθεση ότι Εμφανίζεται το 10%, δεν ξέρω ότι συμβαίνει αυτό το 10% Σε ποιο σημείο το αποτέλεσμα που δημιουργείται σε πολλές περιπτώσεις πρέπει να γίνει πιστευτό ή όχι; Το τέταρτο μπλοκ σχετίζεται με το πλαίσιο Agent Το μεγάλο μοντέλο είναι μόνο ο κόμβος του προγραμματισμού και μπορεί να έχει πρόσβαση σε πολλά τρίτα μέρη ή σε πολλές βάσεις δεδομένων εντός εταιρειών ή επιχειρήσεων. Για παράδειγμα, όταν χρησιμοποιείται για ενσωματωμένη νοημοσύνη, μπορεί να εκτελεστούν ορισμένες επικίνδυνες ενέργειες.

Σε επίπεδο ασφάλειας, η διαφορά μεταξύ ToB και ToG είναι επίσης προφανής. Ο Zhang Xiangzheng εισήγαγε ότι η ανοχή των θεμάτων ασφαλείας είναι διαφορετική. πρέπει να είναι μέσα σε κρατικούς φορείς. Στο σενάριο ToB, ένα τυπικό σενάριο είναι η εκπαίδευση. Υπάρχει ένα ποίημα "Moonlight before the Bed". ένα διάσημο ποίημα. Τα παιδιά δεν έχουν καλή ικανότητα διάκρισης, γεγονός που οδηγεί σε πολύ υψηλές απαιτήσεις για την αξιοπιστία των αποτελεσμάτων.

Μιλώντας για το θέμα των μικρών μοντέλων, ο Zhang Xiangzheng επεσήμανε ότι έχουμε κάνει κάποια εξερεύνηση σχετικά με την εφαρμογή μικρών μοντέλων στην πλευρά του υπολογιστή και έχουμε δοκιμάσει σχετικές λύσεις εσωτερικά, αλλά εξακολουθούν να υπάρχουν πολύ λίγα σημειωματάρια που πληρούν τις απαιτήσεις και ο όγκος είναι όχι τόσο μεγάλο. Επιπλέον, εξετάσαμε επίσης την αποδοχή. Πιστεύουμε ότι η τρέχουσα παραγωγή μικρών μοντέλων έχει ακόμη δρόμο.

Σχετικά με το πρόσφατα συζητημένο θέμα της αναζήτησης τεχνητής νοημοσύνης, ο Zhang Xiangzheng απάντησε ότι σε σύγκριση με την παραδοσιακή αναζήτηση, η αναζήτηση τεχνητής νοημοσύνης είναι πιο μοναδική στο ότι μπορεί να χρησιμοποιήσει συλλογισμό πολλαπλών βημάτων ή πολλές αναζητήσεις λέξεων-κλειδιών για να αναλύσει σύνθετα προβλήματα και να τα λύσει βήμα προς βήμα και αυτόματα Αφού κάνετε ανάκτηση πολλαπλών βημάτων, κάντε σύντηξη ή αφού ολοκληρώσετε το πρώτο βήμα συμπερασμάτων, κάντε μια άλλη αναζήτηση στα αποτελέσματα συμπερασμάτων και, στη συνέχεια, παραδώστε το στο μεγάλο μοντέλο και, στη συνέχεια, κάντε τη σύντηξη. Στο μέλλον, εάν οι δυνατότητες αναζήτησης τεχνητής νοημοσύνης γίνουν ισχυρότερες και ισχυρότερες, οι συνήθειες των χρηστών θα μεταναστεύσουν, αλλά δεν μπορούμε να πούμε ότι πρόκειται για μια εντελώς νέα μορφή προϊόντος. Αυτό σχετίζεται με τις συνήθειες χρήσης των χρηστών. (Dingxi)

Αυτό το άρθρο προέρχεται από την Αναφορά τεχνολογίας NetEase Για περισσότερες πληροφορίες και εμπεριστατωμένο περιεχόμενο, ακολουθήστε μας.