νέα

φύση: εξερεύνηση της ταχύτερης ημέρας υπερυπολογιστών στον κόσμο

2024-09-15

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina



  νέα έκθεση σοφίας

επιμέλεια: qiao yang
[εισαγωγή στη νέα σοφία]στα βουνά του ανατολικού τενεσί, ένας υπερυπολογιστής που σπάει ρεκόρ που ονομάζεται frontier δίνει στους επιστήμονες πρωτοφανείς ευκαιρίες να μελετήσουν τα πάντα, από άτομα έως γαλαξίες.

η κατασκευή υπερυπολογιστών βρίσκεται σε πλήρη εξέλιξη και τόσο οι κυρίαρχοι γίγαντες της τεχνητής νοημοσύνης όσο και οι τεχνολογικοί γίγαντες παρέχουν συνεχώς στη nvidia μεταγγίσεις αίματος και κατασκευάζουν κέντρα δεδομένων.

πριν από αυτό, από τον δεκέμβριο του 2023, ο ταχύτερος υπερυπολογιστής στον κόσμο ήταν ο frontier, γνωστός και ως olcf-5, που βρίσκεται στο oak ridge, στο τενεσί των ηπα.

το frontier είναι εξοπλισμένο με cpu και gpu amd, με 50.000 επεξεργαστές (συμπεριλαμβανομένων 38.000 gpu) και υπολογιστική ταχύτητα 1.102 exaflops ή 1.102 exaflops ανά δευτερόλεπτο (1018) πράξεις κινητής υποδιαστολής.

αυτή η ταχύτητα είναι ακόμη μεγαλύτερη από 100.000 φορητούς υπολογιστές που λειτουργούν ταυτόχρονα και όταν έκανε το ντεμπούτο του το 2022, το frontier έσπασε επίσης ένα ρεκόρ, σπάζοντας το κατώφλι της ταχύτητας υπολογισμού exascale για πρώτη φορά.

ο υπερυπολογιστής frontier καλύπτει μια περιοχή μεγαλύτερη από δύο γήπεδα μπάσκετ

ο λόγος για την επιδίωξη τόσο εξαιρετικής ταχύτητας και κλίμακας είναι η κάλυψη των αναγκών υπολογισμών προσομοίωσης στην επιστημονική έρευνα αιχμής σε διάφορους τομείς.

το frontier είναι πολύ καλό στη δημιουργία προσομοιώσεων που αποτυπώνουν τόσο μοτίβα μεγάλης κλίμακας όσο και λεπτομέρειες μικρής κλίμακας, όπως το πώς τα μικροσκοπικά σταγονίδια σύννεφων επηρεάζουν τον ρυθμό θέρμανσης του κλίματος.

σήμερα, ερευνητές συνδέονται στο frontier από όλο τον κόσμο για να δημιουργήσουν μοντέλα αιχμής για οτιδήποτε, από υποατομικά σωματίδια έως γαλαξίες, όπως προσομοίωση πρωτεϊνών για ανακάλυψη και ανάπτυξη φαρμάκων, προσομοίωση αναταράξεων για τη βελτίωση των κινητήρων αεροσκαφών και εκπαίδευση llm ανοιχτού κώδικα που ανταγωνίζονται την google και openai.

ωστόσο, μια μέρα τον απρίλιο του τρέχοντος έτους, κάτι απροσδόκητο συνέβη στις επιχειρήσεις της frontier.

ο bronson messer, επιστημονικός διευθυντής του εθνικού εργαστηρίου oak ridge στο τενεσί, όπου βρίσκεται η frontier, είπε ότι για να συμβαδίσει με τις απαιτήσεις των επιστημόνων σε όλο τον κόσμο, η κατανάλωση ενέργειας της frontier έχει αυξηθεί απότομα, φτάνοντας το μέγιστο των 27 μεγαβάτ, αρκετά να τροφοδοτήσει περίπου 10.000 σπίτια.

αυτό φέρνει επίσης προκλήσεις στο σύστημα ψύξης του υπερυπολογιστή σύμφωνα με τα λόγια του messer, «το μηχάνημα λειτουργεί σαν ζεματισμένο σκυλί».

σύμφωνα με στατιστικά στοιχεία του 2023, το frontier έχει συνολικά 1.744 χρήστες που βρίσκονται σε 18 χώρες και οι υπολογισμοί και τα δεδομένα που συνεισφέρουν υποστηρίζουν τουλάχιστον 500 δημοσιευμένες εργασίες.

εξερευνώντας το εσωτερικό του «εγκεφάλου» του frontier

παρόμοια με τη σκηνή που φανταστήκαμε, η αίθουσα υπολογιστών όπου βρίσκεται το frontier είναι παρόμοια με μια αποθήκη και το ηλεκτρονικό βουητό που δημιουργείται κατά τη λειτουργία είναι σταθερό και απαλό.

υπάρχουν 74 rack στην αίθουσα υπολογιστών και κάθε κόμβος περιέχει 4 gpu και 1 cpu. ο λόγος για μια τέτοια γρήγορη υπολογιστική ταχύτητα οφείλεται στον τεράστιο αριθμό των gpu.

ο messer, ο διευθυντής του εργαστηρίου, περιέγραψε: "αυτές οι gpu είναι πολύ γρήγορες, αλλά είναι επίσης εξαιρετικά ανόητες. μπορούν να κάνουν το ίδιο πράγμα ξανά και ξανά."

αυτή η ικανότητα χειρισμού πολλαπλών λειτουργιών ταυτόχρονα είναι πολύ χρήσιμη για γρήγορη εργασία σε υπερυπολογιστές, αλλά εκτός από αυτό, δεν υπάρχουν πολλά άλλα.

πίσω από αυτή την «ακραία βλακεία» κρύβεται ένα είδος ευελιξίας οι επιστήμονες σε διάφορους τομείς μπορούν να εκτελούν gpu μέσω προσαρμοσμένου κώδικα.

η frontier λειτουργεί ασταμάτητα μέρα και νύχτα, καθώς και η ομάδα μηχανικών που είναι υπεύθυνη για τη λειτουργία και τη συντήρηση.

η ομάδα των μηχανικών που είναι υπεύθυνη για την κατασκευή αυτού του υπερυπολογιστή είναι από τη hewlett-packard, ένας από τους τεχνικούς, ο corey edmonds, είπε ότι έχει μια ομάδα μηχανικών που θα παρακολουθεί συνεχώς το frontier για να προσδιορίσει εάν υπάρχουν ενδείξεις βλάβης.

για παράδειγμα, ένα από το προσωπικό της νυχτερινής βάρδιας, ο conner cunningham, εργάζεται από τις 7 μ.μ. κανονική λειτουργία του frontier.

στην πραγματικότητα, οι περισσότερες νύχτες είναι «παραμονή χριστουγέννων».

"αυτή η δουλειά μοιάζει λίγο με το να είσαι πυροσβέστης. αν συμβεί κάτι, κάποιος πρέπει να είναι σε υπηρεσία για να το παρακολουθεί".

ενισχύοντας τη μεγάλη επιστήμη

αν και το frontier λειτουργεί μέρα και νύχτα, δεν είναι εύκολο για τους ερευνητές να υποβάλουν αίτηση για ευκαιρίες χρήσης.

ο επιστημονικός διευθυντής messer και άλλοι τρεις συνάδελφοι είναι υπεύθυνοι για την αξιολόγηση και την έγκριση των προτάσεων χρήσης ενέκριναν συνολικά 131 έργα πέρυσι, με ποσοστό επιτυχίας περίπου 1/4.

για να εγκριθούν, οι αιτούντες πρέπει να δείξουν ότι τα έργα τους θα χρησιμοποιούν ολόκληρο το σύστημα υπερυπολογιστών, που συνήθως χρησιμοποιείται για τη μοντελοποίηση διαφόρων χρονικών και χωρικών κλιμάκων.

το frontier έχει συνολικά περίπου 65 εκατομμύρια ώρες κόμβων διαθέσιμες κάθε χρόνο και η πιο κοινή κατανομή που λαμβάνεται από τους ερευνητές είναι 500.000 ώρες κόμβου, που ισοδυναμεί με τρεις ημέρες συνεχούς λειτουργίας ολόκληρου του συστήματος.

ο messer είπε ότι οι ερευνητές λαμβάνουν περίπου δέκα φορές περισσότερους υπολογιστικούς πόρους στο frontier από ό,τι σε άλλα κέντρα δεδομένων.

η frontier διαθέτει πάνω από 50.000 επεξεργαστές και είναι υγρόψυκτος

με μεγαλύτερες ταχύτητες υπολογιστών και περισσότερους υπολογιστικούς πόρους, οι ερευνητές μπορούν να κάνουν πιο φιλόδοξες «μεγάλες επιστήμες».

για παράδειγμα, προσομοίωση με ακρίβεια βιολογικών διεργασιών με ακρίβεια ατομικού επιπέδου, όπως το πώς οι πρωτεΐνες ή τα νουκλεϊκά οξέα στο διάλυμα αλληλεπιδρούν με άλλα μέρη του κυττάρου.

τον μάιο του τρέχοντος έτους, ορισμένοι μελετητές χρησιμοποίησαν το frontier για να προσομοιώσουν μια σταγόνα νερού σε σχήμα κύβου που περιέχει περισσότερα από 155 δισεκατομμύρια μόρια νερού, που είναι περίπου το ένα δέκατο του πλάτους μιας ανθρώπινης τρίχας ιστορία.

βραχυπρόθεσμα, οι ερευνητές ελπίζουν να προσομοιώσουν τα οργανίδια για να ενημερώσουν το εργαστήριο.

αυτά τα έργα ανοίγουν το δρόμο για έναν μεγαλύτερο στόχο στο μέλλον - τη μοντελοποίηση ολόκληρου του κυττάρου ξεκινώντας από τα άτομα.

με το frontier, τα κλιματικά μοντέλα γίνονται επίσης πιο ακριβή.

πέρυσι, ο κλιματικός επιστήμονας ματ νόρμαν και άλλοι ερευνητές χρησιμοποίησαν το frontier για να τρέξουν ένα παγκόσμιο κλιματικό μοντέλο ανάλυσης 3,25 χιλιομέτρων, το οποίο ενσωμάτωσε επίσης πολύπλοκες κινήσεις σύννεφων σε λεπτότερη ανάλυση.

προκειμένου να δημιουργηθούν προγνωστικά μοντέλα για δεκαετίες, η υπολογιστική ισχύς του frontier είναι απαραίτητη και απαιτεί την υπολογιστική ισχύ ολόκληρου του συστήματος για να γίνει αυτό.

για να είναι ένα μοντέλο κατάλληλο για προβλέψεις καιρού και κλίματος, απαιτείται τουλάχιστον ένα έτος ημερήσιων προσομοιώσεων.

το frontier μπορεί να προσομοιώσει 1,26 χρόνια την ημέρα, μια ταχύτητα που επιτρέπει στους ερευνητές να δημιουργούν πιο ακριβείς προβλέψεις 50 ετών από πριν.

εάν εκτελείται σε άλλον υπολογιστή, η ταχύτητα υπολογισμού θα είναι πολύ πιο αργή για να επιτευχθεί η ίδια ανάλυση και να ληφθεί υπόψη η επιρροή του cloud.

σε μεγαλύτερη κοσμική κλίμακα, το frontier μπορεί επίσης να φέρει υψηλότερη ανάλυση.

ο evan schneider, ένας αστροφυσικός στο πανεπιστήμιο του πίτσμπουργκ, χρησιμοποιεί επίσης το frontier για να μελετήσει πώς εξελίσσονται οι γαλαξίες του μεγέθους του γαλαξία καθώς γερνούν.

το γαλαξιακό μοντέλο που δημιούργησαν εκτείνεται σε τέσσερις τάξεις μεγέθους, με μέγιστο μέγεθος περίπου 100.000 έτη φωτός. πριν από το frontier, οι μεγαλύτερες δομές που προσομοιώθηκαν σε παρόμοια ανάλυση ήταν οι νάνοι γαλαξίες, με μάζα περίπου το ένα πενήντα.

τι σημαίνει frontier για την τεχνητή νοημοσύνη

ως πρώην νο. 1 στον κόσμο, η κατάσταση του frontier είναι ακόμη πιο μοναδική, επειδή αυτός ο υπερυπολογιστής είναι ένα από τα λίγα κομμάτια εξοπλισμού που ανήκει στον δημόσιο τομέα, αντί να κυριαρχείται από τη βιομηχανία.

δεδομένου ότι η έρευνα στον τομέα της τεχνητής νοημοσύνης απαιτεί συχνά τεράστια υπολογιστική ισχύ, υπάρχει τεράστιο χάσμα μεταξύ των αποτελεσμάτων του ακαδημαϊκού χώρου και της βιομηχανίας.

σύμφωνα με στατιστικά στοιχεία ορισμένων μελετητών, το 2021, το 96% των μεγαλύτερων μοντέλων τεχνητής νοημοσύνης θα προέρχονται από τη βιομηχανία. κατά μέσο όρο, τα βιομηχανικά μοντέλα είναι σχεδόν 30 φορές μεγαλύτερα από τα ακαδημαϊκά μοντέλα.

η διαφορά είναι εμφανής και στο ποσό που επενδύθηκε. οι αμερικανικές μη αμυντικές δημόσιες υπηρεσίες παρείχαν 1,5 δισεκατομμύρια δολάρια το 2021 για να υποστηρίξουν την έρευνα ai. την ίδια χρονιά, οι παγκόσμιες βιομηχανικές δαπάνες ξεπέρασαν τα 340 δισεκατομμύρια δολάρια ηπα.

από την κυκλοφορία των εμπορικών llms όπως το gpt-4 και το gemini ultra, το προηγούμενο χάσμα μεταξύ των δύο έχει διευρυνθεί περαιτέρω.

δεδομένου ότι η ανάπτυξη μοντέλων στον κλάδο είναι για κέρδος, πολλά σημαντικά ζητήματα που πρέπει να αντιμετωπιστούν στην τεχνολογική ανάπτυξη συχνά αγνοούνται, όπως η βασική έρευνα, οι ανάγκες των ομάδων χαμηλού εισοδήματος, η αξιολόγηση των κινδύνων του μοντέλου, η διόρθωση της προκατάληψης του μοντέλου κ.λπ.

εάν ο ακαδημαϊκός κόσμος πρόκειται να αναλάβει αυτές τις ευθύνες, χρειάζεται υπολογιστική ισχύ που μπορεί να ανταποκρίνεται στην κλίμακα του κλάδου, και εδώ είναι που έρχεται η frontier.

το πιο χαρακτηριστικό παράδειγμα είναι ότι τα llm που εκπαιδεύονται από εταιρείες τεχνολογίας συχνά διατηρούν διαφορετικούς βαθμούς ιδιόκτητου χαρακτήρα, αλλά οι ερευνητές συχνά κάνουν τα μοντέλα που αναπτύσσουν δωρεάν για χρήση από οποιονδήποτε.

αυτό θα βοηθήσει τους πανεπιστημιακούς ερευνητές να ανταγωνιστούν τις εταιρείες, δήλωσε ο abhinav bhatele, επιστήμονας υπολογιστών στο πανεπιστήμιο του maryland, college park: «ο μόνος τρόπος για τους ανθρώπους στον ακαδημαϊκό χώρο να εκπαιδεύσουν μοντέλα παρόμοιου μεγέθους είναι να έχουν πρόσβαση σε πόρους όπως το frontier.

ο bhatele πιστεύει ότι εγκαταστάσεις όπως το frontier διαδραματίζουν αυτόν τον ζωτικό ρόλο στον τομέα της τεχνητής νοημοσύνης, επιτρέποντας σε περισσότερους ανθρώπους να συμμετέχουν στην ανάπτυξη τεχνολογίας και να μοιράζονται αποτελέσματα.

ωστόσο, αξίζει να σημειωθεί ότι ο ανταγωνισμός για την υπολογιστική υποδομή ισχύος μεταξύ χωρών, εταιρειών τεχνολογίας και μη κερδοσκοπικών οργανισμών συνεχίζεται ακόμη και ακόμη και μια ισχυρή εταιρεία όπως η frontier θα πέσει τελικά.

το oak ridge laboratory σχεδιάζει ήδη ένα διάδοχο του frontier, που ονομάζεται discovery, το οποίο θα αυξήσει την υπολογιστική ταχύτητα κατά 3 έως 5 φορές.

για αναφορά, ο frontier είναι 35 φορές ταχύτερος από τον tianhe-2a, τον ταχύτερο υπερυπολογιστή το 2014 και 33.000 φορές ταχύτερο από τον earth simulator, τον ταχύτερο υπερυπολογιστή το 2004.

οι ερευνητές εξακολουθούν να λαχταρούν για μεγαλύτερες ταχύτητες, αλλά οι μηχανικοί αντιμετωπίζουν συνεχείς προκλήσεις, μία από τις οποίες είναι η ενέργεια.

η ενεργειακή απόδοση του frontier είναι περισσότερο από τέσσερις φορές υψηλότερη από αυτή του summit, σε μεγάλο βαθμό λόγω των διαφορετικών λύσεων ψύξης.

το frontier χρησιμοποιεί νερό σε θερμοκρασία δωματίου για ψύξη, σε αντίθεση με το summit που χρησιμοποιεί κρύο νερό. περίπου το 3% έως 4% της συνολικής κατανάλωσης ενέργειας του frontier χρησιμοποιείται για ψύξη, σε σύγκριση με το 10% για το summit.

σε αντίθεση με το summit που χρησιμοποιεί κρύο νερό. περίπου το 3-4% της συνολικής κατανάλωσης ενέργειας του frontier χρησιμοποιείται για ψύξη, σε σύγκριση με το 10% για το summit.

η ενεργειακή απόδοση αποτελεί βασικό εμπόδιο στην κατασκευή πιο προηγμένων υπερυπολογιστών εδώ και χρόνια και αναμένεται να παραμείνει έτσι στο άμεσο μέλλον.

ο messer, διευθυντής του εργαστηρίου, είπε: «θα μπορούσαμε να είχαμε κατασκευάσει έναν υπερυπολογιστή exascale το 2012, αλλά το κόστος παροχής ενέργειας ήταν πολύ υψηλό και απαιτούσε μία ή δύο τάξεις μεγέθους περισσότερη ισχύ».