νέα

Ο Core West ανέφερε στις 10 Αυγούστου ότι η ερευνητική ομάδα του καθηγητή Fang Lu από το Τμήμα Ηλεκτρονικής Μηχανικής και η ερευνητική ομάδα του ακαδημαϊκού Dai Qionghai από το Τμήμα Αυτοματισμού του Πανεπιστημίου TsinghuaπρώταΠλήρως εμπρός έξυπνη αρχιτεκτονική εκπαίδευσης οπτικών υπολογιστών, αναπτύχθηκεΤσιπ ελαφριάς προπόνησης "Tai Chi-II"., απαλλαγούμε από την εξάρτηση από την εκπαίδευση εκτός σύνδεσης και υλοποιώντας μεγάλης κλίμακας οπτικό σύστημα υπολογιστώννευρικό σύστημαΑποτελεσματική και ακριβής εκπαίδευση. Σχετικά ερευνητικά αποτελέσματα δημοσιεύθηκαν στο κορυφαίο διεθνές ακαδημαϊκό περιοδικό Nature αυτή την εβδομάδα.

Το Τμήμα Ηλεκτρονικής Μηχανικής του Πανεπιστημίου Tsinghua εξέδωσε μια εισαγωγή λέγοντας:Η εμφάνιση του Tai Chi-II έχει καλύψει το κενό στον πυρήνα του παζλ του ευφυούς οπτικού υπολογιστή στην εκπαίδευση μεγάλης κλίμακας.。

Ο οπτικός υπολογιστής έχει τα χαρακτηριστικά της υψηλής υπολογιστικής ισχύος και της χαμηλής κατανάλωσης ενέργειας και είναι μια κατεύθυνση αιχμής για την επιτάχυνση των ευφυών υπολογιστών. Ο κριτικός Nature ανέφερε στην κριτική ότι «οι ιδέες που προτείνονται σε αυτό το άρθρο είναι πολύ πρωτότυπες.Η διαδικασία εκπαίδευσης αυτού του τύπου οπτικού νευρωνικού δικτύου (ONN) είναι άνευ προηγουμένου. Η προτεινόμενη μέθοδος δεν είναι μόνο αποτελεσματική αλλά και εύκολη στην εφαρμογή. Ως εκ τούτου, αυτόΑναμένεται να γίνει ένα ευρέως διαδεδομένο εργαλείο για την εκπαίδευση οπτικών νευρωνικών δικτύων και άλλων οπτικών υπολογιστικών συστημάτων”。

Το Τμήμα Ηλεκτρονικής του Πανεπιστημίου Tsinghua είναι η πρώτη ενότητα της εργασίας. Ο καθηγητής Fang Lu και ο καθηγητής Dai Qionghai είναι οι αντίστοιχοι συγγραφείς της εργασίας Διδακτορικός φοιτητής Xue Zhiwei και ο μεταδιδακτορικός συνεργάτης Zhou Tiankui του Τμήματος Ηλεκτρονικής του Πανεπιστημίου Tsinghua. Οι συγγραφείς του διδακτορικού φοιτητή Xu Zhihao του Τμήματος Ηλεκτρονικής και ο Δρ. Yu Shaoliang του εργαστηρίου Zhijiang. Αυτό το έργο υποστηρίζεται από το Υπουργείο Επιστήμης και Τεχνολογίας, το Εθνικό Ίδρυμα Φυσικών Επιστημών της Κίνας, το Εθνικό Ερευνητικό Κέντρο του Πεκίνου για την Επιστήμη και την Τεχνολογία της Πληροφορίας και το Κοινό Ερευνητικό Κέντρο Πανεπιστημίου Tsinghua-Zhijiang Laboratory.

1. Η έξυπνη χρήση της συμμετρίας βοηθά τους οπτικούς υπολογιστές να απαλλαγούν από την εξάρτηση της GPU

Ο οπτικός υπολογιστής υπόσχεται να βελτιώσει την ταχύτητα και την ενεργειακή απόδοση των εφαρμογών μηχανικής εκμάθησης. Ωστόσο, οι τρέχουσες μέθοδοι για την αποτελεσματική εκπαίδευση αυτών των μοντέλων περιορίζονται από προσομοιώσεις υπολογιστή.

Το καθολικό ευφυές οπτικό τσιπ υπολογιστών "Tai Chi" που δημοσιεύτηκε στο κορυφαίο διεθνές ακαδημαϊκό περιοδικό Science，Για πρώτη φορά, ο οπτικός υπολογιστής έχει ωθηθεί από την επαλήθευση αρχής σε πειραματικές εφαρμογές μεγάλης κλίμακας.160 TOPS/WΗ ενεργειακή απόδοση σε επίπεδο συστήματος έφερε ελπίδα στη συλλογιστική περίπλοκων ευφυών εργασιών, αλλά δεν κατάφερε να απελευθερώσει την «εκπαιδευτική ισχύ» των οπτικών υπολογιστών.

Σε σύγκριση με το συμπέρασμα, η εκπαίδευση μοντέλων απαιτεί μεγάλη υπολογιστική ισχύ. Η αρχιτεκτονική της ηλεκτρικής εκπαίδευσης απαιτεί υψηλό βαθμό αντιστοίχισης μεταξύ των μοντέλων διάδοσης προς τα εμπρός και προς τα πίσω, γεγονός που θέτει αυστηρές απαιτήσεις για την ακριβή ευθυγράμμιση του συστήματος οπτικής υπολογιστικής φυσικής, με αποτέλεσμα δύσκολο υπολογισμό κλίσης, αργή μοντελοποίηση εκτός σύνδεσης και μεγάλα σφάλματα χαρτογράφησης. περιορίζει την κλίμακα και την αποτελεσματικότητα της οπτικής εκπαίδευσης.

Η ερευνητική ομάδα των Fang Lu και Dai Qionghai βρήκε "Συμμετρία διάδοσης φωτονίων«Αυτό το κλειδί, χρησιμοποιήστεΠλήρης ελαφριά προπόνηση προς τα εμπρόςΞεπερνώντας τους περιορισμούς της αρχιτεκτονικής ηλεκτρικής εκπαίδευσης στον φυσικό οπτικό υπολογιστή.

Σύμφωνα με τον Xue Zhiwei, τον πρώτο συγγραφέα της εργασίας, υπό την αρχιτεκτονική Tai Chi-II,κλίση κάθοδοςΗ οπίσθια διάδοση στο οπτικό σύστημα μετατρέπεται σε διάδοση προς τα εμπρός του οπτικού συστήματος και η εκπαίδευση του οπτικού νευρωνικού δικτύου μπορεί να επιτευχθεί χρησιμοποιώντας την εμπρός διάδοση σφαλμάτων δεδομένων δύο φορές. Οι δύο μπροστινές διαδόσεις έχουν φυσικά χαρακτηριστικά ευθυγράμμισης, διασφαλίζοντας τον ακριβή υπολογισμό των φυσικών κλίσεων. Η ακρίβεια εκπαίδευσης που επιτυγχάνεται με αυτόν τον τρόπο είναι υψηλή και μπορεί να υποστηρίξει μεγάλης κλίμακας εκπαίδευση δικτύου.

Η διαμόρφωση-διάδοση του φυσικού συστήματος φωτός και η ενεργοποίηση-σύνδεση του νευρωνικού δικτύου αλληλοχαρτογραφούνται, δηλαδή η εκπαίδευση της μονάδας διαμόρφωσης μπορεί να οδηγήσει στη βελτιστοποίηση βάρους οποιουδήποτε δικτύου, διασφαλίζοντας έτσι την ταχύτητα και την ενεργειακή απόδοση της προπόνησης.

Δεδομένου ότι δεν υπάρχει ανάγκη για backpropagation, η αρχιτεκτονική Taichi-II δεν βασίζεται πλέον σε ηλεκτρικούς υπολογιστές για μοντελοποίηση και εκπαίδευση εκτός σύνδεσης και μπορεί να επιτευχθεί ακριβής και αποτελεσματική οπτική εκπαίδευση μεγάλης κλίμακας νευρωνικών δικτύων.

2. Η εκπαίδευση οπτικών δικτύων με εκατομμύρια παραμέτρους αυξάνει την ταχύτητα κατά 1 τάξη μεγέθους

Χρησιμοποιώντας το φως ως υπολογιστικό μέσο και χτίζοντας ένα υπολογιστικό μοντέλο που βασίζεται στην ελεγχόμενη διάδοση του φωτός, ο οπτικός υπολογιστής έχει φυσικά τα χαρακτηριστικά της υψηλής ταχύτητας και της χαμηλής κατανάλωσης ενέργειας Η χρήση της πλήρους διάδοσης του φωτός για την επίτευξη προπόνησης μπορεί να βελτιώσει σημαντικά την ταχύτητα και την ενέργεια αποτελεσματικότητα της εκπαίδευσης οπτικών δικτύων.

Τα αποτελέσματα των μετρήσεων του συστήματος δείχνουν ότι το Taichi-II μπορεί να εκπαιδεύσει μια ποικιλία διαφορετικών οπτικών συστημάτων και παρουσιάζει εξαιρετική απόδοση σε διάφορες εργασίες.

1. Τομείς μάθησης μεγάλης κλίμακας:Ξεπερνώντας την αντίφαση μεταξύ ακρίβειας υπολογισμού και απόδοσης,Εκατομμύρια παραμέτρουςΗ ταχύτητα εκπαίδευσης οπτικού δικτύου έχει βελτιωθεί1 τάξη μεγέθους, το ποσοστό ακρίβειας των αντιπροσωπευτικών έξυπνων εργασιών ταξινόμησης βελτιώνεται.40%。

2. Έξυπνη απεικόνιση σύνθετων σκηνών:Σε περιβάλλον χαμηλού φωτισμού (η ένταση φωτός ανά εικονοστοιχείο είναι μόνο υποφωτόνια), επιτυγχάνεται η ενεργειακή απόδοση.5,40×10^6 TOPS/WΠλήρως οπτική επεξεργασία, βελτίωση της ενεργειακής απόδοσης σε επίπεδο συστήματος6 τάξεις μεγέθους. Σε πολύπλοκες εφαρμογές απεικόνισης σκηνής, όπως μη οπτικό πεδίο, επιτυγχάνεται έξυπνη απεικόνιση με ρυθμό καρέ kilohertz και βελτιώνεται η απόδοση.2 τάξεις μεγέθους。

3. Τοπολογικό φωτονικό πεδίο:Τα μη ερμιτιανά μοναδικά σημεία μπορούν να αναζητηθούν αυτόματα χωρίς να βασίζονται σε προηγούμενα μοντέλα, παρέχοντας μια νέα ιδέα για αποτελεσματική και ακριβή ανάλυση πολύπλοκων τοπολογικών συστημάτων.

3. Προώθηση της εφαρμογής και της θεωρητικής προόδου και παροχή νέας υπολογιστικής ισχύος για μεγάλα μοντέλα τεχνητής νοημοσύνης.

Το Taichi-II έχει δείξει επίσης δυνατότητες εφαρμογής στον τομέα της τοπολογικής φωτονικής Μπορεί να αναζητήσει αυτόματα μη-ερμιτικά μοναδικά σημεία χωρίς να βασίζεται σε κανένα μοντέλο priori, παρέχοντας νέες ιδέες για αποτελεσματική και ακριβή ανάλυση πολύπλοκων τοπολογικών συστημάτων.

Για παράδειγμα, εάν τα δύο όργανα είναι διαχωρισμένα, το Taichi I και II πραγματοποιούν συλλογισμό και εκπαίδευση υψηλής ενεργειακής απόδοσης αντίστοιχα και εάν τα δύο όργανα είναι εναρμονισμένα, το Taichi I και II μαζί σχηματίζουν έναν πλήρη κύκλο ζωής ευφυών υπολογιστών μεγάλης κλίμακας. .

""Το Τάο του Τάι Τσι καθορίζει τις δύο τελετουργίες και τη μέθοδο ενσωμάτωσης της δικαιοσύνης και του αντισύμπαντος." Έτσι περιγράφουμε τη δομή διαλεκτικής συνεργασίας της σειράς Τάι Τσι. Πιστεύουμε ότι θα συνεργαστούν για να δώσουν νέα ώθηση για την ανάπτυξη της υπολογιστικής ισχύος σε μελλοντικά μεγάλα μοντέλα τεχνητής νοημοσύνης και την οικοδόμηση μιας ελαφριάς νέας βάσης για την υπολογιστική ισχύ. "είπε ο Fang Lu.

Με βάση τα βασικά δείγματα, η ερευνητική ομάδα κινείται ενεργά προς την εκβιομηχάνιση των ευφυών οπτικών τσιπ και τα έχει αναπτύξει σε μια ποικιλία ευφυών συστημάτων από την πλευρά του άκρου.

Δύο γενιές τσιπ Taichi αποκάλυψαν διαδοχικά τις τεράστιες δυνατότητες των ευφυών οπτικών υπολογιστών. Μέσω αδιάκοπων προσπαθειών στον τομέα των οπτικών υπολογιστών, συμπεριλαμβανομένης της σειράς Taichi, η ευφυής πλατφόρμα οπτικών υπολογιστών αναμένεται να παρέχει υπολογιστές υψηλής ταχύτητας και ενεργειακής απόδοσης για μεγάλα μοντέλα τεχνητής νοημοσύνης, γενική τεχνητή νοημοσύνη και πολύπλοκα ευφυή συστήματα με χαμηλότερη κατανάλωση πόρων και μικρότερο οριακό κόστος.

πηγή:Πανεπιστήμιο Tsinghua, Φύση