διάλογος στο συνέδριο υπολογιστικής ισχύος της κίνας｜ακαδημαϊκός liu yunjie: η εγχώρια υπολογιστική ισχύς πρέπει να καλύψει τις ελλείψεις της μέσω των συστάδων gpu
2024-09-29
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
η εποχή της ai (τεχνητής νοημοσύνης) είναι επίσης μια εποχή υπολογιστικής ισχύος. οι εταιρείες τεχνολογίας και οι τηλεπικοινωνιακοί φορείς στο εσωτερικό και στο εξωτερικό έχουν «συστήσει» 10.000 κάρτες ή ακόμα και περισσότερες από 10.000 κάρτες, αλλά προβλήματα όπως η οικολογική συμβατότητα και η ετερογενής υπολογιστική έχουν γίνει επίσης βουνά στα οποία ο κλάδος πρέπει να σκαρφαλώσει.
στις 28 σεπτεμβρίου, κατά τη διάρκεια της τελετής έναρξης της διάσκεψης υπολογιστικής ισχύος της κίνας 2024, ο liu yunjie, ακαδημαϊκός της κινεζικής ακαδημίας μηχανικών, είπε σε συνέντευξή του στο beijing news shell finance και σε άλλα μέσα ότι οι εγχώριες gpu τελικού σημείου θα εξακολουθούν να μην μπορούν να ανταγωνιστούν με ξένες χώρες σε σύντομο χρονικό διάστημα. ένας πιθανός τρόπος για να αντιμετωπιστούν οι ελλείψεις είναι να δημιουργηθεί ένα δίκτυο υπολογιστικής ισχύος για να "εκπαιδεύσει ολόκληρη την υπολογιστική ισχύ" και να δώσει πλήρη σημασία στην επίδραση των συμπλεγμάτων gpu.
επιπλέον, επεσήμανε ότι δεν είναι δυνατόν να κρίνουμε απλώς ποιο είδος επιχείρησης έχει περισσότερα πλεονεκτήματα στην κατασκευή ενός δικτύου υπολογιστικής ισχύος, αλλά κυρίως μέσω τεχνικής αξιολόγησης. «εξαρτάται από το αν η τεχνολογία σας μπορεί να χρησιμοποιηθεί και να αναπτυχθεί και αν η καινοτομία σας και η διαδρομή που ακολουθείτε ανταποκρίνονται στις ανάγκες.
προς το παρόν, η ντετερμινιστική τεχνολογία δικτύου που μελετήθηκε από τον liu yunjie μπορεί να εξοικονομήσει 60% έως 70% του κόστους. εκπαίδευση σε σημεία.
liu yunjie, ακαδημαϊκός της κινεζικής ακαδημίας μηχανικών. φωτογραφία ευγενική προσφορά των συνεντευξιαζόμενων.
συνιστάται να ακολουθήσετε τον κλάδο μεγάλου μοντέλου για να λύσετε τα προβλήματα της κυκλοφορίας δεδομένων και της χρήσης υπολογιστικής ισχύος.
«η κίνα πρέπει να ακολουθήσει το δρόμο των μοντέλων της βιομηχανίας μεγάλης κλίμακας», τόνισε η liu yunjie στην κεντρική της ομιλία. πιστεύει ότι τα εγχώρια μεγάλα μοντέλα γενικής χρήσης ενδέχεται να υστερούν πολύ σε σχέση με τις ηνωμένες πολιτείες βραχυπρόθεσμα και θα είναι δύσκολο να καλυφθούν.
πρότεινε ότι εάν οι εγχώριες εταιρείες μοντέλων μπορούν να εκπαιδεύσουν καλά τα δεδομένα του κλάδου και να κάνουν μεγάλα μοντέλα της βιομηχανίας βασισμένα σε γενικά μεγάλα μοντέλα, «μπορούν σίγουρα να ακολουθήσουν την κινεζική πορεία». είναι αισιόδοξος για αυτήν την τεχνική κατεύθυνση γιατί πιστεύει ότι «τα δεδομένα του κλάδου της κίνας είναι τα πιο πλήρη και ολοκληρωμένα».
παράλληλα, είπε ότι η ανάπτυξη μοντέλων μεγάλης κλίμακας απαιτεί τις κοινές προσπάθειες της κυβέρνησης, των επιχειρήσεων και του κεφαλαίου. είπε σε δημοσιογράφο από τη shell finance ότι προς το παρόν, η κοινή χρήση και η κυκλοφορία των εγχώριων δεδομένων πρέπει να ενισχυθεί, γεγονός που είχε αντίκτυπο στο μεγάλο μοντέλο της βιομηχανίας εκπαίδευσης και "όλοι εξακολουθούν να εξερευνούν" ποιος τύπος πίστας είναι πιο ελπιδοφόρα.
τα δεδομένα που αποκαλύφθηκαν στη διάσκεψη υπολογιστικής ισχύος της κίνας το 2024 δείχνουν ότι η συνολική κλίμακα εθνικής υπολογιστικής ισχύος φτάνει τα 246 eflops. σύμφωνα με την παρατήρηση του liu yunjie, η εγχώρια υπολογιστική ισχύς έχει φτάσει σε μια συγκεκριμένη κλίμακα, αλλά το ποσοστό χρησιμοποίησης δεν είναι πολύ ιδανικό.
"εάν η υπολογιστική ισχύς θέλει να εξυπηρετήσει την πραγματική οικονομία, πολλά μέρη πρέπει να συμφωνήσουν ότι πρώτα απ 'όλα, οι πάροχοι υπολογιστικής ισχύος και δικτύου πρέπει να κάνουν καλή δουλειά, "(επειδή) έχουν αποκομίσει οφέλη μέσω αυτών των υπηρεσιών." επιπλέον, η κυβέρνηση θα πρέπει να λέει καλά λόγια, «(γιατί) η κυβέρνηση έλυσε το πρόβλημα». τέλος, οι εταιρείες πρέπει να πουν καλά, «(γιατί) οι εταιρείες έχουν βελτιώσει τη δική τους αποτελεσματικότητα χρησιμοποιώντας υπολογιστική ισχύ και διαδίκτυο».
τόνισε ότι το αποτέλεσμα της «συμφωνίας ενός μέρους» δεν είναι διαρκές, πράγμα που σημαίνει ότι ο κλάδος δεν έχει δημιουργήσει ένα οικοσύστημα υπολογιστικής ισχύος. «αν δεν λύσουμε το οικολογικό πρόβλημα, δεν θα μπορέσουμε να το χρησιμοποιήσουμε (υπολογιστική ισχύς).»
το ντετερμινιστικό δίκτυο είναι μια από τις βασικές τεχνολογίες του μελλοντικού δικτύου υπολογιστικής ισχύος, το οποίο θα εξοικονομήσει 60%-70% του κόστους.
«η εκπαίδευση μεγάλων μοντέλων απαιτεί μετάδοση δεδομένων χωρίς απώλειες και επιβάλλει απαιτήσεις σε δείκτες δικτύου, όπως απώλεια πακέτων, jitter και καθυστέρηση», δήλωσε ο liu yunjie. λαμβάνοντας ως παράδειγμα τα διεθνή πρότυπα δεδομένων, εξήγησε ότι εάν το ποσοστό απώλειας πακέτων φτάσει τα πέντε χιλιοστά, η απόδοση μετάδοσης θα μειωθεί κατά 50%.
εξήγησε περαιτέρω ότι αυτό είναι σαν να χρησιμοποιείτε ολόκληρο το εύρος ζώνης 100g για τη μετάδοση δεδομένων και μόνο το εύρος ζώνης 50g είναι χρήσιμο. «όταν πέφτει στο 1%, η απόδοσή του είναι περίπου ίση με 0, γεγονός που καθιστά αδύνατη την εκπαίδευση και τη λογική».
το πρωτόκολλο rdma (remote direct memory access) απαιτείται για το δίκτυο για την αποφυγή απώλειας πακέτων. αυτή η τεχνολογία επιτρέπει στον υπολογιστή να έχει άμεση πρόσβαση στη μνήμη του απομακρυσμένου υπολογιστή, να μεταδίδει δεδομένα σε επίπεδο μνήμης χωρίς συχνή παρέμβαση της cpu και να μειώνει την καθυστέρηση επεξεργασίας και την κατανάλωση πόρων του άκρου αποστολής και λήψης κατά τη διαδικασία μετάδοσης δεδομένων.
πώς να πληροίτε τα πρότυπα μετάδοσης δεδομένων για εκπαίδευση και εξαγωγή συμπερασμάτων μεγάλων μοντέλων; ο liu yunjie πιστεύει ότι η ντετερμινιστική τεχνολογία δικτύου ικανοποιεί σχετικά τις απαιτήσεις και την κρίνει ως «μια βασική τεχνολογία για μελλοντικά δίκτυα υπολογιστικής ισχύος». ο liu yunjie αποκάλυψε ότι το 2022, οδήγησε την ομάδα στο άνοιγμα ντετερμινιστικών δικτύων σε 35 πόλεις ο αριθμός των πόλεων έχει αυξηθεί πλέον σε 39. μπορεί να επιτύχει καθυστέρηση και τρεμούλιασμα μικρότερο από 50 μικροδευτερόλεπτα και να επιτύχει μηδενική απώλεια πακέτων. .
στη διαδικασία ανάπτυξης ντετερμινιστικής τεχνολογίας δικτύου, ο liu yunjie πιστεύει ότι η πιο σημαντική τεχνολογική ανακάλυψη είναι η φωτοηλεκτρική ολοκλήρωση, η οποία φέρνει καινοτομίες στη χρήση του εύρους ζώνης, στο κόστος του δικτύου και στην κατανάλωση ενέργειας.
όσον αφορά το κόστος, έλαβε ως παράδειγμα μια συγκεκριμένη εταιρεία αυτόνομης οδήγησης και εξήγησε ότι τα δεδομένα αυτόνομης οδήγησης που παράγονται από 20 οχήματα σε 4 μέρη σε όλη τη χώρα κάθε μέρα αποστέλλονται πρώτα στη σαγκάη και στη συνέχεια στη γκουιγιάνγκ για εκπαίδευση, η οποία απαιτεί περίπου δύο κύκλωμα 10g και 1g κοστίζουν περίπου 10 εκατομμύρια γιουάν το χρόνο.
τι πρέπει να κάνω αν δεν μπορώ να αντέξω οικονομικά; η μετάβαση στη χρήση σκληρών δίσκων για τη συλλογή δεδομένων και τη μεταφορά τους μεταξύ των δύο πόλεων, λαμβάνοντας υπόψη την απώλεια δεδομένων, τη ζημιά του σκληρού δίσκου κ.λπ., θα κόστιζε περίπου 1,9 εκατομμύρια γιουάν ετησίως. και χρησιμοποιώντας ένα ντετερμινιστικό δίκτυο για την παροχή υπηρεσιών μέσω τεμαχισμού, «120.000 γιουάν το χρόνο είναι αρκετά».
ο liu yunjie τόνισε ότι αυτό το επίπεδο μείωσης του κόστους επιτυγχάνεται μέσω της κοινής χρήσης δικτύου. τα δεδομένα που έδειξε στην κεντρική του ομιλία έδειξαν ότι λειτουργεί στο δοκιμαστικό δίκτυο για περισσότερους από τρεις μήνες, με την απόδοση παραμέτρων να ξεπερνά το 95% και την εξοικονόμηση κόστους από 60% έως 70%.
δώστε στο έπακρο την επίδραση του συμπλέγματος gpu για να καλύψετε τις ελλείψεις της εγχώριας υπολογιστικής ισχύος
είναι πιθανό το δίκτυο υπολογιστικής ισχύος να είναι η κατεύθυνση προς την οποία η εγχώρια υπολογιστική ισχύς ξεπερνά την ξένη υπολογιστική ισχύ στο μέλλον; ο liu yunjie είπε ότι μια πιο ακριβής κατανόηση είναι η «αναπλήρωση των ελλείψεων». πιστεύει ότι σε σύντομο χρονικό διάστημα, η gpu τελικού σημείου μας θα εξακολουθεί να μην μπορεί να ανταγωνιστεί ξένες χώρες. «μπορεί να μην είμαι σε θέση να σας ταιριάξω σε μία μόνο πτυχή, αλλά μπορώ να σας νικήσω αξιοποιώντας τη δύναμη της ομάδας τόνισε περαιτέρω ότι για να ασκηθεί το αποτέλεσμα των συμπλεγμάτων gpu, είναι απαραίτητο να οικοδομήσουμε ένα δίκτυο για να «εκπαιδεύσουμε». ολόκληρη η υπολογιστική ισχύς».
πιστεύει ότι τα μεγάλα μοντέλα μπορούν να υιοθετήσουν το μονοπάτι της συλλογικής εκπαίδευσης και της διανομής "εάν εκπαιδεύονται 100.000 κάρτες σε ένα μέρος, η δύναμη θα είναι υπερβολική." το εθνικό κέντρο υπολογιστών wuxi και άλλα ιδρύματα το έργο προγραμματισμού εθνικών υπολογιστικών δικτύων μπορεί να επιτύχει το αποτέλεσμα της επίλυσης προβλημάτων ουράς σε λεπτό επίπεδο και η πολλαπλή εκπαίδευση εκτός τοποθεσίας μπορεί να επιτύχει 80% αποτελεσματικότητα της εκπαίδευσης σε ένα σημείο. «βασικά, η κατανεμημένη εκπαίδευση και η συλλογική εκπαίδευση είναι εφικτές».
όταν μιλούσε για τον τρόπο συντονισμού της σχέσης ανάπτυξης μεταξύ υπολογιστικού υλικού και λογισμικού, ο liu yunjie πρότεινε ότι το λογισμικό και το υλικό θα πρέπει να συνδυαστούν και να ενσωματωθούν για ανάπτυξη.
η παραγωγή υλικού καταναλώνει γεωφυσικούς πόρους, είπε. "(κάθε φορά) καταναλώνει λίγο, οι πόροι είναι λίγο λιγότεροι. το λογισμικό είναι σχετικά ευέλικτο, μπορεί να τροποποιηθεί και καταναλώνει λιγότερους φυσικούς πόρους. επιπλέον, ο liu yunjie πιστεύει ότι η ανάπτυξη λογισμικού καταναλώνει ένα ορισμένο ποσό ανθρώπινου δυναμικού, αλλά μετά την εφαρμογή του ai, η αποδοτικότητα ανάπτυξης έχει επιταχυνθεί. στη συνέχεια πρότεινε να αναπτυχθούν όσο το δυνατόν περισσότερο όλα τα μέρη που μπορούν να αντικατασταθούν από λογισμικό.
"όμως το λογισμικό δεν είναι παντοδύναμο και πρέπει να πληροί τις συνθήκες υλικού που απαιτούνται από την υπολογιστική ισχύ."
πώς να δημιουργήσετε ένα κοινόχρηστο οικοσύστημα δικτύου υπολογιστικής ισχύος; ο liu yunjie πρότεινε ότι οι αρμόδιες κυβερνητικές υπηρεσίες θα πρέπει να το συντονίζουν και να το διαχειρίζονται και οι επιχειρήσεις και τα επιστημονικά ερευνητικά ιδρύματα να συνεργάζονται στενά. «αυτό είναι ένα συνολικό έργο, αλλά αυτή τη στιγμή ο καθένας εργάζεται μόνος του».
ο δημοσιογράφος του beijing news shell finance wei yingzi
συντάκτης lin zi
διορθώθηκε από τον liu jun
