Νέα

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

έξυπνα πράγματα
ΣυγγραφέαςZeR0
Συντάκτης Mo Ying

Η Zhidongxi ανέφερε στις 24 Ιουλίου ότι η NVIDIA ανακοίνωσε την κυκλοφορία της νέας υπηρεσίας NVIDIA AI Foundry και της μικρουπηρεσίας συμπερασμάτων NVIDIA NIM Μαζί με τη νέα σειρά μοντέλων ανοιχτού κώδικα Meta Llama 3.1, θα παρέχει ισχυρή υποστήριξη για παραγωγική τεχνητή νοημοσύνη για τις παγκόσμιες επιχειρήσεις.

Το μοντέλο μεγάλης γλώσσας Llama 3.1 έχει τρία μεγέθη παραμέτρων: 8B, 70B και 405B. Τα μοντέλα εκπαιδεύονται σε περισσότερες από 16.000 NVIDIA Tensor Core GPU και έχουν βελτιστοποιηθεί για υπολογιστές και λογισμικό με επιτάχυνση της NVIDIA, είτε στο κέντρο δεδομένων, στο cloud και σε τοπικούς σταθμούς εργασίας με GPU NVIDIA RTX ή υπολογιστές με GPU GeForce RTX.

Ακριβώς όπως το TSMC είναι ένα χυτήριο για παγκόσμιες εταιρείες τσιπ, η NVIDIA έχει επίσης κατασκευάσει ένα χυτήριο τεχνητής νοημοσύνης σε επίπεδο επιχείρησης, το NVIDIA AI Foundry.

Ο ιδρυτής και διευθύνων σύμβουλος της NVIDIA, Jensen Huang, δήλωσε: "Το μοντέλο ανοιχτού κώδικα Llama 3.1 της Meta σηματοδοτεί μια κρίσιμη στιγμή για τις παγκόσμιες επιχειρήσεις να υιοθετήσουν τη γενετική τεχνητή νοημοσύνη. Το Llama 3.1 θα πυροδοτήσει ένα κύμα εταιρειών και βιομηχανιών που δημιουργούν προηγμένες εφαρμογές τεχνητής νοημοσύνης. Η NVIDIA AI Foundry Llama 3.1 έχει ενσωματώθηκε σε όλη τη διαδικασία και μπορεί να βοηθήσει τις επιχειρήσεις να δημιουργήσουν και να αναπτύξουν προσαρμοσμένα σούπερ μοντέλα Llama."

Με την υποστήριξη της πλατφόρμας NVIDIA DGX Cloud AI και συν-σχεδιασμένο από τη NVIDIA με τα κορυφαία δημόσια cloud στον κόσμο, το NVIDIA AI Foundry παρέχει μια υπηρεσία από άκρο σε άκρο που μπορεί να χρησιμοποιηθεί για τη γρήγορη κατασκευή προσαρμοσμένων σούπερ μοντέλων, με στόχο να παρέχει στις επιχειρήσεις τεράστιο υπολογιστικό πόροι, υπό τον όρο Οι υπολογιστικοί πόροι μπορούν εύκολα να επεκταθούν καθώς αλλάζουν οι ανάγκες της τεχνητής νοημοσύνης.

«Με το NVIDIA AI Foundry, οι επιχειρήσεις μπορούν εύκολα να δημιουργήσουν και να προσαρμόσουν τις πιο προηγμένες υπηρεσίες AI που θέλουν και να τις αναπτύξουν μέσω του NVIDIA NIM», δήλωσε ο ιδρυτής και διευθύνων σύμβουλος της Meta, Mark Zuckerberg.

Οι επιχειρήσεις που χρειάζονται περισσότερα δεδομένα εκπαίδευσης για τη δημιουργία μοντέλων για συγκεκριμένο τομέα μπορούν να χρησιμοποιήσουν τα δικά τους δεδομένα καθώς και συνθετικά δεδομένα που δημιουργούνται από τα μοντέλα Llama 3.1 405B και NVIDIA Nemotron Reward για να εκπαιδεύσουν αυτά τα σούπερ μοντέλα για να βελτιώσουν την ακρίβεια. Οι πελάτες με τα δικά τους δεδομένα εκπαίδευσης μπορούν να χρησιμοποιήσουν το NVIDIA NeMo για να προσαρμόσουν τα μοντέλα Llama 3.1, βελτιώνοντας περαιτέρω την ακρίβεια του μοντέλου μέσω της Προεκπαίδευσης Προσαρμογής Τομέα (DAPT).

Η NVIDIA και η Meta συνεργάζονται επίσης για να παράσχουν μια μέθοδο απόσταξης για το Llama 3.1 στους προγραμματιστές για τη δημιουργία μικρότερων προσαρμοσμένων μοντέλων Llama 3.1 για εφαρμογές παραγωγής τεχνητής νοημοσύνης. Αυτό δίνει τη δυνατότητα στις επιχειρήσεις να εκτελούν εφαρμογές τεχνητής νοημοσύνης που λειτουργούν με Llama σε πιο επιταχυνόμενη υποδομή, όπως σταθμούς εργασίας AI και φορητούς υπολογιστές.

Μόλις δημιουργηθεί ένα προσαρμοσμένο μοντέλο, οι επιχειρήσεις μπορούν να δημιουργήσουν μικροϋπηρεσίες συμπερασμάτων NVIDIA για να χρησιμοποιήσουν τις καλύτερες λειτουργίες μηχανικής εκμάθησης στην κατηγορία τους (MLOps) και τεχνητή νοημοσύνη στην προτιμώμενη πλατφόρμα cloud και συστήματα με πιστοποίηση NVIDIA από παγκόσμιους κατασκευαστές διακομιστών Οι πλατφόρμες (AIOps) τρέχουν αυτά τα μοντέλα στην παραγωγή.

Οι μικροϋπηρεσίες NIM βοηθούν στην ανάπτυξη μοντέλων Llama 3.1 με έως και 2,5 φορές υψηλότερη απόδοση από την εκτέλεση συμπερασμάτων χωρίς NIM.

Μάθετε για τις μικροϋπηρεσίες συμπερασμάτων NVIDIA NIM για μοντέλα Llama 3.1 στο ai.nvidia.com για να επιταχύνετε την ανάπτυξη των μοντέλων Llama 3.1 σε τεχνητή νοημοσύνη ποιότητας παραγωγής.

Συνδυάζοντας τις μικροϋπηρεσίες Llama 3.1 NIM με τις νέες μικροϋπηρεσίες NVIDIA NeMo Retriever Οι μικροϋπηρεσίες NIM μπορούν να δημιουργήσουν προηγμένες ροές εργασίας ανάκτησης για copilots AI, βοηθούς και ψηφιακά ανθρώπινα avatar.

Χρησιμοποιώντας τη νέα μικρουπηρεσία συμπερασμάτων NIM NVIDIA NeMo Retriever για την εφαρμογή του Retrieval Enhanced Generation (RAG), οι επιχειρήσεις μπορούν να αναπτύξουν προσαρμοσμένα σούπερ μοντέλα Llama και μικροϋπηρεσίες Llama NIM στην παραγωγή για να βελτιώσουν την ακρίβεια απόκρισης.

Όταν συνδυάζεται με τη μικρουπηρεσία συμπερασμάτων NVIDIA NIM για το Llama 3.1 405B, η μικρουπηρεσία NeMo Retriever NIM προσφέρει εξαιρετικά υψηλή ακρίβεια ανάκτησης σε ανοιχτές και εμπορικές απαντήσεις σε ερωτήσεις κειμένου σε ροές εργασίας RAG.

Το NVIDIA AI Foundry συνδυάζει λογισμικό, υποδομή και τεχνογνωσία NVIDIA με μοντέλα ανοιχτής κοινότητας, τεχνολογία και υποστήριξη από το οικοσύστημα NVIDIA AI. Οι εμπειρογνώμονες της NVIDIA AI Enterprise και οι παγκόσμιοι συνεργάτες της ολοκλήρωσης συστημάτων συνεργάζονται με πελάτες του AI Foundry για να επιταχύνουν ολόκληρη τη διαδικασία από την ανάπτυξη έως την ανάπτυξη.

Η εταιρεία επαγγελματικών υπηρεσιών Accenture είναι η πρώτη που χρησιμοποίησε το NVIDIA AI Foundry για να χρησιμοποιήσει το πλαίσιο Accenture AI Refinery για να δημιουργήσει προσαρμοσμένα μοντέλα Llama 3.1 για τον εαυτό της και για πελάτες που θέλουν οι παραγωγικές εφαρμογές AI που αναπτύσσουν να αντικατοπτρίζουν τον πολιτισμό, τη γλώσσα και τη βιομηχανία τους.

Επιχειρήσεις στον τομέα της υγειονομικής περίθαλψης, της ενέργειας, των χρηματοοικονομικών υπηρεσιών, του λιανικού εμπορίου, των μεταφορών, των τηλεπικοινωνιών και άλλων βιομηχανιών χρησιμοποιούν ήδη μικροϋπηρεσίες NVIDIA NIM για το Llama. Οι πρώτες εταιρείες που χρησιμοποίησαν τις νέες μικροϋπηρεσίες NIM για το Llama 3.1 περιλαμβάνουν τις Aramco, AT&T, Uber κ.λπ.

Εκατοντάδες συνεργάτες NVIDIA NIM που παρέχουν πλατφόρμες επιχειρήσεων, δεδομένων και υποδομής είναι πλέον σε θέση να ενσωματώσουν αυτές τις νέες μικροϋπηρεσίες στις λύσεις τεχνητής νοημοσύνης τους, τροφοδοτώντας τη γενετική τεχνητή νοημοσύνη για την κοινότητα NVIDIA με περισσότερους από 5 εκατομμύρια προγραμματιστές και 19.000 νεοφυείς επιχειρήσεις Παροχή βοήθειας.

Η υποστήριξη παραγωγής για τις μικροϋπηρεσίες Llama 3.1 NIM και NeMo Retriever NIM είναι διαθέσιμη μέσω της NVIDIA AI Enterprise. Τα μέλη του Προγράμματος προγραμματιστών NVIDIA θα έχουν σύντομα δωρεάν πρόσβαση στις μικροϋπηρεσίες NIM για τη διεξαγωγή έρευνας, ανάπτυξης και δοκιμών στην υποδομή που προτιμούν.