η huawei κυκλοφορεί νέο χώρο αποθήκευσης τεχνητής νοημοσύνης για να επιτρέψει την εκπαίδευση μεγάλων μοντέλων με τεχνητή νοημοσύνη και την εξαγωγή συμπερασμάτων με νέο πρότυπο μνήμης μακράς μνήμης
2024-09-21
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
στις 20 σεπτεμβρίου, στο data storage summit που πραγματοποιήθηκε κατά τη διάρκεια της διάσκεψης huawei connect 2024, ο δρ. zhou yuefeng, αντιπρόεδρος της huawei και πρόεδρος της γραμμής προϊόντων αποθήκευσης δεδομένων, κυκλοφόρησε το νέο αποθηκευτικό χώρο ai oceanstor a800, το οποίο βελτιώνει πλήρως την εκπαίδευση μεγάλων μοντέλων με τεχνητή νοημοσύνη με το νέο παράδειγμα της μακράς μνήμης και των δυνατοτήτων συλλογιστικής, βοηθώντας χιλιάδες βιομηχανίες να προχωρήσουν στην εποχή της ψηφιακής νοημοσύνης.
ο zhou yuefeng, αντιπρόεδρος της huawei και πρόεδρος της γραμμής προϊόντων αποθήκευσης δεδομένων, παρέδωσε μια κεντρική ομιλία
ο ανθρώπινος πολιτισμός έχει εξελιχθεί από την αρχαία εποχή του λίθου, στη γεωργική εποχή, στη βιομηχανική εποχή, και τώρα στην εποχή της ψηφιακής νοημοσύνης τα δεδομένα αποτελούν βασικό παράγοντα παραγωγής για την ανάπτυξη νέων παραγωγικών δυνάμεων. οι άνθρωποι χρησιμοποιούν δεδομένα για να επιτύχουν μεγάλη ανάπτυξη σε βασικούς τομείς τεχνητής νοημοσύνης, όπως μεγάλα μοντέλα τεχνητής νοημοσύνης, ενσωματωμένη νοημοσύνη και τεχνητή νοημοσύνη για την επιστήμη.
η εποχή της ψηφιακής νοημοσύνης είναι η χρυσή εποχή των δεδομένων ενώ η κλίμακα των δεδομένων αυξάνεται εκρηκτικά και η αξία των δεδομένων αυξάνεται, αντιμετωπίζει επίσης προκλήσεις όπως ανεπαρκές εύρος ζώνης xpu και αποθήκευση, χαμηλή διαθεσιμότητα συμπλεγμάτων υπολογιστών και εκτεταμένη. χρόνο συμπερασμάτων, που θέτει υψηλότερες απαιτήσεις για αποθήκευση. η εποχή της ψηφιακής νοημοσύνης απαιτεί αποθήκευση δεδομένων τεχνητής νοημοσύνης με απόλυτη απόδοση, υψηλή επεκτασιμότητα, ανθεκτικότητα δεδομένων, βιώσιμη ανάπτυξη, νέα πρότυπα δεδομένων και δυνατότητες πλέξης δεδομένων είναι ο μόνος τρόπος για την εποχή της ψηφιακής νοημοσύνης της τεχνητής νοημοσύνης.
για να αντιμετωπίσει τις παραπάνω προκλήσεις, η huawei κυκλοφόρησε το νέο αποθηκευτικό χώρο ai oceanstor a800 με βάση τις αποτελεσματικές δυνατότητες εκπαίδευσης μεγάλων μοντέλων τεχνητής νοημοσύνης, έχει βελτιώσει σημαντικά τις δυνατότητες συλλογιστικής και έχει κάνει άλματα στην απόδοση των συμπλεγμάτων και στα νέα πρότυπα δεδομένων, προωθώντας την εφαρμογή. της τεχνητής νοημοσύνης σε χιλιάδες κλάδους η επιχείρηση εφαρμόζεται.
1. ένα ενιαίο σύνολο συσκευών αποθήκευσης ai υποστηρίζει εκπαίδευση μεγάλων μοντέλων σε επίπεδο 100.000 καρτών. χτίζοντας μια τεχνική αρχιτεκτονική με πλήρη κοινή χρήση καρτών δικτύου front-end και πλήρη διασύνδεση ελεγκτών και δίσκους ssd back-end, μια ενιαία συσκευή αποθήκευσης μπορεί να υποστηρίξει την πλήρη διασύνδεση ενός συμπλέγματος σε επίπεδο 100.000 καρτών. ένα σετ αποθήκευσης oceanstor a800 μπορεί να πραγματοποιήσει στατική πλήρη σύνδεση με ένα εκπαιδευτικό cluster έως και 192.000 καρτών, βελτιώνοντας την απόδοση κατά 40% και μειώνοντας τη χρήση χώρου κατά 80%.
2. με τη χρήση αποθήκευσης και υπολογιστών, η διαθεσιμότητα συμπλεγμάτων ai αυξάνεται κατά 30%. οι διακοπές εκπαίδευσης ai συμβαίνουν συχνά σύμφωνα με στατιστικά στοιχεία, ο μεγαλύτερος χρόνος συνεχούς εκπαίδευσης στο κέντρο εκπαίδευσης ai είναι μόνο 2,6 ημέρες, με αποτέλεσμα η gpu/npu να αποθηκεύει επανειλημμένα δεδομένα ckpt. το china mobile χρησιμοποιεί χώρο αποθήκευσης huawei oceanstor ai για εκπαίδευση μεγάλων μοντέλων, επιτυγχάνοντας ένα σύμπλεγμα μονής αποθήκευσης 150 pb, εύρος ζώνης 8 tb/s και δυνατότητες 230 εκατομμυρίων iops. .
3. ο υπολογισμός που βασίζεται σε αποθηκευτικό χώρο, η αποθήκευση μνήμης μεγάλης μνήμης βελτιώνει την εμπειρία συλλογισμού και μειώνει το κόστος του συστήματος.
το μακρύ πλαίσιο έχει γίνει μια αναπόφευκτη τάση ανάπτυξης για τη συλλογιστική μεγάλων μοντέλων. μέσω της επαγγελματικής αποθήκευσης τεχνητής νοημοσύνης, το long context και τα τεράστια ενδιάμεσα λογιστικά διακριτικά μπορούν να αποθηκευτούν για μεγάλο χρονικό διάστημα, μεγιστοποιώντας τις δυνατότητες λογικής σκέψης και συλλογισμού μεγάλων μοντέλων, ιδιαίτερα των ικανοτήτων αργής σκέψης.
ως η πρώτη συσκευή αποθήκευσης του κλάδου που παρέχει δυνατότητες μεγάλης μνήμης, το oceanstor a800 υιοθετεί καινοτόμα έναν μηχανισμό κρυφής μνήμης kv πολλαπλών επιπέδων για να διατηρείται και να χρησιμοποιεί αποτελεσματικά το kv-cache, επιτρέποντας στη λογική του μεγάλου μοντέλου να έχει δυνατότητες μεγάλης μνήμης και να μειώνει τους επαναλαμβανόμενους υπολογισμούς στο στάδιο prefill. η καθυστέρηση συμπερασμάτων πελάτη μειώνεται κατά 78%, και η απόδοση μιας μεμονωμένης κάρτας xpu αυξάνεται κατά 67%, βελτιώνοντας σημαντικά την εμπειρία εξαγωγής συμπερασμάτων και παράλληλα μειώνοντας το κόστος.
η νέα αποθήκευση τεχνητής νοημοσύνης στην εποχή της ψηφιακής νοημοσύνης ασκεί αξία σε σενάρια της βιομηχανίας όπως η χρηματοοικονομική πίστωση, η ανάλυση της επενδυτικής έρευνας, η ιατρική υγεία και η έρευνα και ανάπτυξη φαρμάκων. ο zhou yuefeng είπε ότι στη χρυσή εποχή των δεδομένων, η huawei έχει απελευθερώσει προηγμένες δυνατότητες αποθήκευσης δεδομένων με τον καινοτόμο χώρο αποθήκευσης ai και έθεσε τα θεμέλια για την εποχή της ψηφιακής νοημοσύνης.
