νέα

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

it house news στις 15 σεπτεμβρίου, το τεχνολογικό μέσο marktechpost δημοσίευσε μια ανάρτηση ιστολογίου χθες (14 σεπτεμβρίου)αναφέρεται ότι η nvidia έχει ανοιχτού κώδικα το μοντέλο ai nemotron-mini-4b-instruct, σηματοδοτώντας ένα νέο κεφάλαιο στην καινοτομία της εταιρείας στον τομέα της τεχνητής νοημοσύνης.

μεγάλες δυνατότητες για μικρά γλωσσικά μοντέλα

το μοντέλο ai nemotron-mini-4b-instruct έχει σχεδιαστεί για εργασίες όπως το παιχνίδι ρόλων, η επαυξημένη παραγωγή (rag) και η κλήση λειτουργιών. είναι ένα μοντέλο μικρής γλώσσας (slm) που αποστάζεται και βελτιστοποιείται από το μεγαλύτερο nemotron -4 15β παίρνω.

η nvidia χρησιμοποιεί προηγμένες τεχνολογίες τεχνητής νοημοσύνης, όπως το κλάδεμα, η κβαντοποίηση και η απόσταξη για να καταστήσει το μοντέλο μικρότερο και πιο αποτελεσματικό, ιδιαίτερα κατάλληλο για ανάπτυξη από την πλευρά της συσκευής.

αυτή η συρρίκνωση δεν επηρεάζει την απόδοση του μοντέλου σε συγκεκριμένα σενάρια όπως το παιχνίδι ρόλων και η επίκληση λειτουργιών, καθιστώντας το μια πρακτική επιλογή για εφαρμογές που απαιτούν γρήγορη απόκριση κατά παραγγελία.

αυτό το μοντέλο έχει ρυθμιστεί με ακρίβεια στο μοντέλο minitron-4b-base και χρησιμοποιεί τεχνολογία συμπίεσης llm ένα από τα πιο σημαντικά χαρακτηριστικά είναι ότι μπορεί να χειριστεί 4096 διακριτικά παραθύρου και μπορεί να δημιουργήσει μεγαλύτερες και πιο συνεκτικές απαντήσεις.

αρχιτεκτονική και τεχνικές προδιαγραφές

το nemotron-mini-4b-instruct είναι γνωστό για την ισχυρή αρχιτεκτονική του, που εξασφαλίζει αποτελεσματικότητα και επεκτασιμότητα.

το μέγεθος ενσωμάτωσης του μοντέλου (το οποίο καθορίζει τη διάσταση του μετασχηματισμένου διανύσματος) είναι 3072, το multi-head attention είναι 32 και η ενδιάμεση διάσταση mlp είναι 9216. κατά την επεξεργασία συνόλων δεδομένων εισόδου μεγάλης κλίμακας, εξακολουθεί να μπορεί να απαντά με υψηλή ακρίβεια και συνάφεια.

επιπλέον, το μοντέλο χρησιμοποιεί επίσης τεχνολογίες group query attention (gqa) και rotated position embedding (rope) για να βελτιώσει περαιτέρω την ικανότητά του να επεξεργάζεται και να κατανοεί κείμενο.

αυτό το μοντέλο βασίζεται στην αρχιτεκτονική του αποκωδικοποιητή transformer και είναι ένα μοντέλο γλώσσας αυτόματης παλινδρόμησης. αυτό σημαίνει ότι δημιουργεί κάθε διακριτικό με βάση τα προηγούμενα διακριτικά, καθιστώντας το ιδανικό για εργασίες όπως η δημιουργία διαλόγου, όπου η συνεκτική ροή του διαλόγου είναι ζωτικής σημασίας.

εφαρμογές παιχνιδιού ρόλων και κλήσης λειτουργιών

το nemotron-mini-4b-instruct διαπρέπει σε εφαρμογές ρόλων. με την τεράστια χωρητικότητα σήμανσης και τις βελτιστοποιημένες δυνατότητες δημιουργίας γλώσσας, μπορεί να ενσωματωθεί σε εικονικούς βοηθούς, βιντεοπαιχνίδια ή οποιοδήποτε άλλο διαδραστικό περιβάλλον που απαιτεί το ai για τη δημιουργία κρίσιμων αποκρίσεων.

η nvidia παρέχει μια συγκεκριμένη μορφή προτροπής για να διασφαλίσει ότι το μοντέλο παράγει τα καλύτερα αποτελέσματα σε αυτά τα σενάρια, ειδικά σε συνομιλίες μίας ή πολλαπλών στροφών.

το μοντέλο είναι επίσης βελτιστοποιημένο για κλήσεις λειτουργιών, κάτι που είναι ολοένα και πιο σημαντικό σε περιβάλλοντα όπου τα συστήματα τεχνητής νοημοσύνης πρέπει να αλληλεπιδρούν με api ή άλλες αυτοματοποιημένες διαδικασίες. η δυνατότητα δημιουργίας ακριβών, λειτουργικών αποκρίσεων καθιστά αυτό το μοντέλο κατάλληλο για σενάρια rag όπου το μοντέλο χρειάζεται να δημιουργήσει κείμενο και να ανακτήσει και να παρέχει πληροφορίες από μια βάση γνώσεων.