Νέα

Η διασύνδεση μεταξύ CPU και GPU έχει εκτοξευθεί από 1 μέτρο σε 100 μέτρα Intel: Πιστεύετε στο φως;

2024-07-27

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Ο Jin Lei προέρχεται από τον ναό Aofei
Qubits | Δημόσιος λογαριασμός QbitAI

Για την Intel"Φως", ξεπερνώντας το ακανθώδες πρόβλημα υπολογιστικής ισχύος στην εποχή των μεγάλων μοντέλων——

Κυκλοφόρησε το πρώτο πλήρως ενσωματωμένο στον κλάδοOCIΤσιπ (Optical Computing Interconnect).



△Πηγή: Intel

Πρέπει να γνωρίζετε ότι όταν τα μεγάλα μοντέλα τεχνητής νοημοσύνης ακολουθούν τον νόμο κλιμάκωσης, προκειμένου να επιτευχθούν καλύτερα αποτελέσματα, είτε η κλίμακα μοντέλου είτε η κλίμακα δεδομένων αναπτύσσεται προς μια μεγαλύτερη τάση.

Αυτό θα αναγκάσει τα μεγάλα μοντέλα τεχνητής νοημοσύνης να υποβάλουν υψηλότερες απαιτήσεις σε ολόκληρο τον υπολογιστή και την αποθήκευση, συμπεριλαμβανομένης της ενδιάμεσης επικοινωνίας I/O, σε επίπεδο υπολογιστικής ισχύος.

Η ανακάλυψη της Intel αυτή τη φορά είναι ακριβώςΕπικοινωνία I/O

Σε CPU και GPU,Χρησιμοποιήστε οπτικό I/O αντί για ηλεκτρικό I/O για μετάδοση δεδομένων.

Ποια είναι η χρήση;

Με λίγα λόγια,Η απόσταση μετάδοσης δεδομένων είναι πολύ μεγαλύτερηΗ ποσότητα είναι μεγάληΗ κατανάλωση ρεύματος είναι χαμηλή——Η «σωματική διάπλαση» είναι πιο κατάλληλη για μεγάλα μοντέλα AI.



△Πηγή: Intel

Γιατί λοιπόν η Intel χρησιμοποιεί το "light"; Πώς εφαρμόζεται συγκεκριμένα;

Χρησιμοποιώντας «φως», άλλαξε από άμαξα σε φορτηγό

Η παραδοσιακή μέθοδος ηλεκτρικής I/O (σύνδεση καλωδίων χαλκού) έχει σίγουρα τα πλεονεκτήματά της, όπως η υποστήριξη υψηλής πυκνότητας εύρους ζώνης και χαμηλή κατανάλωση ενέργειας, αλλά το μοιραίο πρόβλημα είναιΗ απόσταση μετάδοσης είναι σχετικά μικρή (λιγότερο από 1 μέτρο)

Δεν υπάρχει πρόβλημα εάν αυτό τοποθετηθεί σε rack, αλλά η υπολογιστική ισχύς των μεγάλων μοντέλων τεχνητής νοημοσύνης είναι συχνά στο επίπεδο ενός συμπλέγματος διακομιστών.

Όχι μόνο καταλαμβάνει μεγάλη επιφάνεια, αλλά εκτείνεται επίσης σε N racks Τα καλώδια πρέπει να έχουν μήκος δεκάδων ή και εκατοντάδων μέτρων και η κατανάλωση ενέργειας είναι αρκετά υψηλή ότι δεν υπάρχει αρκετή ισχύς για την εκτέλεση λειτουργιών ανάγνωσης και εγγραφής υπολογιστών και τσιπ μνήμης.

εκτός,Αναλογία καταθέσεων προς λογαριασμόΑπό την άλλη, ακριβώς λόγω των «μεγάλων» χαρακτηριστικών των μεγάλων μοντέλων, η αρχική αναλογία μιας φοράς ανάγνωσης και εκατοντάδων υπολογισμών έχει γίνει πλέον κοντά στο 1:1.



△Πηγή: Intel

Αυτό απαιτεί μια νέα μέθοδο που μπορεί να αυξήσει την υπολογιστική ισχύ και την πυκνότητα αποθήκευσης, ενώ μειώνει την κατανάλωση ενέργειας και συρρικνώνει το μέγεθος, τοποθετώντας έτσι περισσότερους υπολογιστές και αποθήκευση σε περιορισμένο χώρο.

Με την οπτική I/O, το πρόβλημα λύνεται:

Μπορεί να υποστηρίξει 64 κανάλια 32 Gbps προς μία κατεύθυνση σε οπτική ίνα έως και 100 μέτρα.

Μια μεταφορά εικόνας είναι, ακριβώς όπως η χρήσημεταφορά(περιορισμένη χωρητικότητα και απόσταση) για χρήσηαυτοκίνητα και φορτηγάγια παράδοση αγαθών (μεγαλύτερες ποσότητες και μεγαλύτερες αποστάσεις).

Όχι μόνο αυτό, ακόμη και αν πρόκειται να ολοκληρωθεί κάποια εργασία μετάδοσης δεδομένων υψηλότερης πυκνότητας και πιο ευέλικτης σε σχετικά μικρή απόσταση, η OCI μπορεί να συγκριθεί μεμοτοσυκλέτα, πιο γρήγορα και πιο ευέλικτα.

Αξίζει να σημειωθεί ότι αυτή η μέθοδος OCI δεν είναι μόνο θεωρητική.

Σύμφωνα με την Intel, έχουν εκμεταλλευτεί την αποδεδειγμένη τεχνολογία φωτονικής πυριτίου για την ενσωμάτωση ολοκληρωμένων κυκλωμάτων φωτονικής πυριτίου (PIC) που περιέχουν λέιζερ on-chip, οπτικούς ενισχυτές και ηλεκτρονικά ολοκληρωμένα κυκλώματα.

Και προηγουμένως έχει αποδείξει ότι τα τσιπ OCI που συσκευάζονται με τη δική του CPU μπορούν επίσης να ενσωματωθούν με SOC (σύστημα σε τσιπ), όπως CPU, GPU και IPU επόμενης γενιάς.

Δεν έχει ολοκληρωθεί ακόμη, η Intel έχει αποστείλει περισσότερα από 8 εκατομμύρια φωτονικά ολοκληρωμένα κυκλώματα πυριτίου, εκ των οποίων περισσότερα από 32 εκατομμύρια λέιζερ χρησιμοποιούνται τώρα.



△Πηγή: Intel

Το επόμενο ερώτημα λοιπόν είναι:

Πώς «εξευγενίζεται» το OCI της Intel;

Αντιπρόεδρος της Intel Research και Διευθυντής της Intel China ResearchΤραγούδι JiqiangΚατά τη διάρκεια της επικοινωνίας έκανε μια εις βάθος ανάλυση και ερμηνεία αυτού του θέματος.



△ Song Jiqiang, Αντιπρόεδρος του Ινστιτούτου Έρευνας της Intel και Διευθυντής του Ινστιτούτου Έρευνας της Κίνας Intel

Η τεχνολογία φωτονικής πυριτίου συνδυάζει δύο από τις πιο σημαντικές εφευρέσεις του 20ου αιώνα: ολοκληρωμένα κυκλώματα πυριτίου και λέιζερ ημιαγωγών.

Υποστηρίζει μεγαλύτερες ταχύτητες μεταφοράς δεδομένων σε μεγαλύτερες αποστάσεις από τα παραδοσιακά ηλεκτρονικά, ενώ παράλληλα αξιοποιεί την απόδοση της παραγωγής πυριτίου μεγάλου όγκου της Intel.



Η τεχνολογία ενσωμάτωσης φωτονικής πυριτίου που κυκλοφόρησε αυτή τη φορά από την Intel, τα τσιπ OCI έχουν φτάσει στο επίπεδο της οπτοηλεκτρονικής συν-συσκευασίας.

Αυτό το οπτοηλεκτρονικό συν-πακέτο τοποθετεί ένα φωτονικό ολοκληρωμένο κύκλωμα πυριτίου (PIC) και ένα ηλεκτρονικό ολοκληρωμένο κύκλωμα (EIC) σε ένα υπόστρωμα για να σχηματίσει ένα τσιπ OCI, το οποίο χρησιμεύει ως ολοκληρωμένο στοιχείο σύνδεσης.

Αυτό σημαίνει ότι το xPU, συμπεριλαμβανομένης της CPU, και οι μελλοντικές GPU μπορούν να συσκευαστούν με τσιπ OCI.

Ο πυρήνας OCI μετατρέπει όλα τα ηλεκτρικά σήματα I/O από την CPU του κέντρου δεδομένων σε φως και τα μεταδίδει το ένα στο άλλο μεταξύ των κόμβων ή των συστημάτων των δύο κέντρων δεδομένων μέσω οπτικών ινών.

Η τρέχουσα αμφίδρομη ταχύτητα μετάδοσης δεδομένων φτάνει τα 4 Tbps Το πρωτόκολλο μετάδοσης ανώτερου επιπέδου είναι συμβατό με το PCIe 5.0 και υποστηρίζει 64 κανάλια 32 Gbps προς μία κατεύθυνση, κάτι που είναι αρκετό στα τρέχοντα κέντρα δεδομένων:

Χρησιμοποιεί 8 ζεύγη οπτικών ινών και καταναλώνει μόνο 5 picojoules (pJ) ανά bit, ή 10-12 joules ).



△Πηγή: Intel

Σε ένα κανάλι οπτικής μετάδοσης, έχει στην πραγματικότητα 8 διαφορετικές ζώνες.

Το φως κυμαίνεται από το ορατό έως το αόρατο φως Στην πραγματικότητα, το εύρος του φάσματος του είναι πολύ ευρύ.



Σε ποια πεδία λοιπόν θα χρησιμοποιούνται στο μέλλον τα σωματίδια πυρήνα OCI;

Σχετικά με αυτό, ο Song Jiqiang είπε:

Το ένα είναι ότι μπορείτε να το χρησιμοποιήσετε για να επιτύχετε την επικοινωνία, και μπορείτε επίσης να το συσκευάσετε με υπολογιστικά τσιπ, όπως η CPU και η GPU.
Μέσω της ενσωμάτωσης φωτονικών πυριτίου και της προηγμένης τεχνολογίας συσκευασίας, η προηγμένη συσκευασία της Intel διαθέτει επίσης πολλές διαφορετικές τεχνολογίες για την επίτευξη υψηλότερης πυκνότητας τσιπ εισόδου/εξόδου και στη συνέχεια τα συνδυάζει με άλλα xPU για να σχηματίσει πολλούς διαφορετικούς τύπους με βάση τα τσιπ στο μέλλον και τα τσιπ διασύνδεσης θα έχουν πολύ καλές προοπτικές εφαρμογής.

Κρίνοντας από τον οδικό χάρτη εξέλιξης απόδοσης του τσιπ διασύνδεσης OCI I/O, μπορεί επί του παρόντος να φτάσει σε τεχνική λύση ταχύτητας μετάδοσης 32 Tbps, βασιζόμενη κυρίως στην επαναληπτική και σταθερή βελτίωση τριών δεικτών, και συγκεκριμένα:

  • Υπάρχουν 8 σταθερές ζώνες σε μια οπτική ίνα
  • Ο ρυθμός μετάδοσης οπτικών δεδομένων κάθε ζώνης είναι 32 Gbps
  • Μπορεί να τραβήξει 8 ζεύγη οπτικών ινών ταυτόχρονα χωρίς να επηρεάζει η μία την άλλη

Πολλαπλασιαζόμενη με αυτούς τους τρεις δείκτες, η τρέχουσα ταχύτητα μετάδοσης δεδομένων είναι 2 Tbps προς μία κατεύθυνση και 4 Tbps και στις δύο κατευθύνσεις. Στο μέλλον, μπορούμε να συνεχίσουμε να εξελισσόμαστε ανοδικά και να βελτιώνουμε σταδιακά τις δυνατότητες εύρους ζώνης.



△Πηγή: Intel

Τέλος, ο Song Jiqiang εξήγησε επίσης τη διαφοροποίηση της Intel στην τεχνολογία ενσωμάτωσης φωτονικής πυριτίου:

Ο κύριος λόγος είναι ότι κατασκευάζουμε εκπομπούς λέιζερ υψηλής συχνότητας στη γκοφρέτα και ενσωματώνουμε οπτικούς ενισχυτές πυριτίου Αυτές είναι δύο σχετικά βασικές τεχνολογίες, οι οποίες κατασκευάζονται και οι δύο σε επίπεδο πλακών.
Στη συνέχεια, μπορούμε να παράγουμε μαζικά τέτοια εξαιρετικά ενσωματωμένα λέιζερ, επειδή το πλεονέκτημα αυτού του on-chip λέιζερ είναι ότι μπορεί να μεταδοθεί χρησιμοποιώντας συνηθισμένες οπτικές ίνες.
Και όσον αφορά τη σταθερότητα, είναι σχεδόνΧρειάζονται 10 δισεκατομμύρια ώρες για να εμφανιστεί ένα σφάλμα

Ποια είναι η γνώμη σας για το «φως» της επιλογής της Intel; Καλώς ήρθατε να αφήσετε ένα μήνυμα στην περιοχή σχολίων για συζήτηση.

Σύνδεσμοι αναφοράς:
[1]https://mp.weixin.qq.com/s/ozx_ficqlxjEPKa5AlBdfA
[2]https://community.intel.com/t5/Blogs/Tech-Innovation/Artificial-Intelligence-AI/Intel-Shows-OCI-Optical-IO-Chiplet-Co-packaged-with-CPU-at/post /1582541
[3]https://www.youtube.com/watch?v=Fml3yuPR2AU