νέα

στις 25 σεπτεμβρίου, στο 2024 baidu cloud intelligence conference, ο shen dou, εκτελεστικός αντιπρόεδρος του baidu group και πρόεδρος του baidu intelligent cloud business group, δήλωσε στο cloud intelligence conference ότι το περασμένο έτος ήταν το κλειδί για τα μεγάλα μοντέλα να μετακινηθούν από την τεχνολογική αλλαγή σε βιομηχανική αλλαγή ένα χρόνο και τα μεγάλα μοντέλα ενσωματώνονται στενά με το cloud computing και γίνονται ένας νέος τύπος υποδομής «τα μεγάλα μοντέλα και τα συναφή τους συστήματα γίνονται γρήγορα μια νέα γενιά υποδομών μέσα σε λίγα χρόνια. αυτή η αλλαγή είναι άνευ προηγουμένου».

όσον αφορά την υπολογιστική ισχύ των μεγάλων μοντέλων, ο shen dou είπε ότι, όταν πρόκειται για υπολογιστική ισχύ, πολλοί άνθρωποι έχουν ακούσει για το "cluster wanka".

και αυτές οι «ακρότητες» φέρνουν αρκετές σοβαρές προκλήσεις. ο shen dou εισήγαγε ότι το πρώτο είναι το τεράστιο κόστος κατασκευής και λειτουργίας για να δημιουργηθεί ένα σύμπλεγμα wanka, το κόστος αγοράς μόνο της gpu είναι αρκετά δισεκατομμύρια γιουάν. δεύτερον, σε ένα σύμπλεγμα τόσο μεγάλης κλίμακας, η πολυπλοκότητα της λειτουργίας και της συντήρησης αυξάνεται δραματικά. σημείωσε ότι το υλικό θα αποτύχει αναπόφευκτα και όσο μεγαλύτερη είναι η κλίμακα, τόσο μεγαλύτερη είναι η πιθανότητα αποτυχίας. "όταν η meta εκπαίδευσε το llama3, ένα σύμπλεγμα που χρησιμοποιούσε 16.000 κάρτες gpu αντιμετώπιζε μια μέση αποτυχία κάθε 3 ώρες."

ο shen dou είπε περαιτέρω ότι μεταξύ αυτών των αστοχιών, η συντριπτική πλειονότητα προκαλείται από τη gpu στην πραγματικότητα, η gpu είναι ένα πολύ ευαίσθητο υλικό και ακόμη και οι διακυμάνσεις της θερμοκρασίας του καιρού το μεσημέρι θα επηρεάσουν το ποσοστό αποτυχίας της gpu. αυτές οι δύο προκλήσεις ανάγκασαν την baidu να ξανασκεφτεί πώς να δημιουργήσει, να διαχειριστεί και να διατηρήσει μεγάλα και πολύπλοκα συμπλέγματα gpu, να θωρακίσει την πολυπλοκότητα του επιπέδου υλικού και να παρέχει μια απλή και εύχρηστη υπολογιστική πλατφόρμα για όλη τη διαδικασία υλοποίησης μεγάλων μοντέλων, επιτρέποντας είναι πιο εύκολο να διαχειριστείτε την υπολογιστική ισχύ της gpu και να κάνετε καλή χρήση της υπολογιστικής ισχύος με χαμηλό κόστος. «την περασμένη χρονιά, αισθανθήκαμε ότι οι ανάγκες εκπαίδευσης μοντέλων των πελατών αυξήθηκαν στα ύψη και το απαιτούμενο μέγεθος συμπλέγματος έγινε όλο και μεγαλύτερο όλα αυτά έχουν μεγάλο αντίκτυπο στις gpu η σταθερότητα και η αποτελεσματικότητα της διαχείρισης έχουν θέσει υψηλότερες απαιτήσεις.

με βάση αυτό, το baidu intelligent cloud ανακοίνωσε ότι θα αναβαθμίσει πλήρως την ετερογενή υπολογιστική πλατφόρμα baige ai στην έκδοση 4.0 εστιάζοντας στις ανάγκες υπολογιστικής ισχύος ολόκληρου του ταξιδιού της υλοποίησης μεγάλων μοντέλων, θα παρέχει στις επιχειρήσεις τέσσερις κύριες πτυχές: δημιουργία συμπλέγματος. πειράματα ανάπτυξης, εκπαίδευση μοντέλων και συμπεράσματα μοντέλων παρέχετε «πολλαπλή, γρήγορη, σταθερή και οικονομική» υποδομή τεχνητής νοημοσύνης.

μεταξύ αυτών, για να λύσει το πρόβλημα της έλλειψης υπολογιστικών πόρων, το baige 4.0 έχει πραγματοποιήσει βασικές αναβαθμίσεις στην ικανότητα "μικτή εκπαίδευση πολλαπλών πυρήνων", επιτυγχάνοντας 95% αποδοτικότητα μικτής εκπαίδευσης πολλαπλών πυρήνων σε συμπλέγματα κλίμακας wanka, φτάνοντας στο μέγιστο προχωρημένο επίπεδο στην επιχείρηση. στη διαδικασία ανάπτυξης συμπλέγματος, το αναβαθμισμένο baige μπορεί να επιτύχει ανάπτυξη δεύτερου επιπέδου σε επίπεδο εργαλείου, μειώνοντας το χρόνο προετοιμασίας για τις λειτουργίες του συμπλέγματος wanka από εβδομάδες σε μία ώρα το ταχύτερο, βελτιώνοντας σημαντικά την αποτελεσματικότητα ανάπτυξης και συντομεύοντας τον κύκλο επιχειρηματικής εκκίνησης. ως απάντηση στο πρόβλημα των συχνών σφαλμάτων κατά τη διάρκεια της εκπαίδευσης μεγάλων μοντέλων, το baige 4.0 έχει αναβαθμίσει πλήρως τις μεθόδους ανίχνευσης σφαλμάτων και τους αυτόματους μηχανισμούς ανοχής σφαλμάτων, οι οποίοι μπορούν να μειώσουν αποτελεσματικά τη συχνότητα των σφαλμάτων και να μειώσουν σημαντικά τον χρόνο χειρισμού σφαλμάτων συμπλέγματος % στο σύμπλεγμα wanka.

επιπλέον, το baidu intelligent cloud ανακοίνωσε επίσης την πιο πρόσφατη "κάρτα αναφοράς" της πλατφόρμας μεγάλων μοντέλων qianfan στην πλατφόρμα μεγάλου μοντέλου qianfan, το μεγάλο μοντέλο wenxin έχει μέσο ημερήσιο όγκο κλήσεων πάνω από 700 εκατομμύρια φορές και έχει βοηθήσει τους χρήστες να έχουν μια χαρά. -συντονίστε συνολικά 30.000 μεγάλα μοντέλα, ανέπτυξε περισσότερες από 700.000 εφαρμογές σε επίπεδο επιχείρησης. τον περασμένο χρόνο, η τιμή του ναυαρχίδας μεγάλου μοντέλου της wenxin μειώθηκε περισσότερο από 90%.

καθημερινά οικονομικά νέα