Το Mingmin προέρχεται από τον ναό Aofei

Qubits | Δημόσιος λογαριασμός QbitAI

Μια νέα έκδοση του GPT-4o ήρθε ξαφνικά στο διαδίκτυο, η οποία είναι ισχυρότερη και φθηνότερη.

Οι δυνατότητές του έχουν βελτιωθεί από όλες τις απόψεις και κατέλαβε απευθείας την πρώτη θέση στη δοκιμή αναφοράς ZeroEval.

Η είσοδος και η έξοδος εξοικονομούν 50% και 33% αντίστοιχα.

Στρογγυλοποίηση σημαίνει μείωση τιμής API.

Η έξοδος token έχει επεκταθεί στα 16k, ενώ προηγουμένως υποστήριζε 4k.

Το ερώτημα ποιος είναι μεγαλύτερος, 9.11 ή 9.9, μπορεί επίσης να λυθεί ομαλά.

Αυτό είναι επειδήOpenAIΕισήγαγε δομημένη έξοδο στο API.

Η διασφάλιση ότι η έξοδος του μοντέλου συμμορφώνεται με τη δομή που έχει ορίσει ο προγραμματιστής μέσω του σχήματος JSON μπορεί να κάνει το μοντέλο πιο αξιόπιστο και ασφαλές.

Η πιο πρόσφατη έκδοση του μοντέλου "GPT-4o-2024-08-06" βαθμολογήθηκε στην αξιολόγηση σχήματος JSON100%。

Συγκριτικά, η έκδοση GPT-4-0613 σημείωσε λιγότερο από 40%.

Όσον αφορά την επεξεργασία κώδικα, η τελευταία έκδοση έχει τις ίδιες βαθμολογίες αναφοράς με την προκάτοχό της, αλλά τώρα κοστίζει το μισό.

Άλλοι έχουν ανακαλύψει ότι αυτή η νέα έκδοση είναι η βελτίωση του OpenAI στην εισαγωγή εικόνας.Το πιο φθηνόμοντέλο.

Το API υποστηρίζει δομημένη έξοδο

Στο περσινό OpenAI DevDay, οι υπεύθυνοι παρουσίασαν επίσημα τη λειτουργία JSON στο GPT-4, το οποίο μπορεί να βοηθήσει τους προγραμματιστές να δημιουργήσουν εφαρμογές.

Αν και το σχήμα JSON μπορεί να βελτιώσει την αξιοπιστία του μοντέλου, δεν εγγυάται ότι τα αποτελέσματα που δημιουργούνται από το μοντέλο συμμορφώνονται με ένα συγκεκριμένο σχήμα.

Επομένως, σε αυτήν την ενημέρωση, το OpenAI εισάγει δομημένη έξοδο στο API για να διασφαλίσει ότι το περιεχόμενο που δημιουργείται από το μοντέλο ταιριάζει ακριβώς με το σχήμα JSON που παρέχεται από τον προγραμματιστή.

Υπάρχουν δύο κύριες μορφές:

1. Κλήση συνάρτησης: Κλήση δομημένης εξόδου ορίζοντας αυστηρή:τούρα στον ορισμό της συνάρτησης.

Αυτή η δυνατότητα είναι διαθέσιμη για όλα τα μοντέλα μοντέλων, συμπεριλαμβανομένων των gpt-4-0613 και gpt-3.5-turbo-0613, κ.λπ. Όταν είναι ενεργοποιημένη η δομημένη έξοδος, η έξοδος του μοντέλου θα ταιριάζει με τον ορισμό του παρεχόμενου εργαλείου.

2. Νέες επιλογές για την παράμετρο answer_format.

Οι προγραμματιστές μπορούν να παρέχουν σχήμα JSON μέσω json_schema (μια νέα επιλογή για την παράμετρο answer_format).

Αυτό είναι χρήσιμο όταν το μοντέλο δεν επικαλείται ένα εργαλείο, αλλά ανταποκρίνεται στον χρήστη με δομημένο τρόπο. Αυτή η δυνατότητα είναι διαθέσιμη για gpt-4o-2024-08-06 και gpt-4o-mini-2024-07-18. Όταν το answer_format παρέχεται με αυστηρό: true, η έξοδος του μοντέλου θα ταιριάζει με το παρεχόμενο μοτίβο.

Το OpenAI έχει ενημερώσει τα Python και Node SDK για να υποστηρίζει τοπικές δομημένες λειτουργίες εξόδου.

Επιπλέον, δίνεται έμφαση στα αποτελέσματα ασφάλειας. Η νέα λειτουργία θα ακολουθεί τους υπάρχοντες κανόνες ασφαλείας και εισάγει μια τιμή συμβολοσειράς άρνησης για να βοηθήσει τους προγραμματιστές να εντοπίσουν καταστάσεις όπου το μοντέλο απορρίπτει μη ασφαλή αιτήματα.

Η δομημένη έξοδος μπορεί επίσης να χρησιμοποιηθεί για τη δυναμική δημιουργία διεπαφών χρήστη, τον διαχωρισμό της τελικής απάντησης από τη διαδικασία συλλογισμού, την εξαγωγή δομημένων δεδομένων από μη δομημένα δεδομένα και πολλές άλλες περιπτώσεις χρήσης.

Τέλος, όσον αφορά την τιμή, εισαγάγετε την τιμή ως $2,5/1 εκατομμύριοένδειξη, η τιμή εξόδου είναι $10/1 εκατομμύριο μάρκες.

Δεδομένου ότι το νέο μοντέλο μπορεί να είναι πιο οικονομικό στην είσοδο και στην έξοδο, η τιμή στρογγυλοποιείται.

Μερικοί άνθρωποι διαπίστωσαν ότι η απόδοση αυτού του νέου μοντέλου ήταν λιγότερο αναλυτική από την προηγούμενη έκδοση και το κόστος ήταν πιο ελεγχόμενο.

Σύνδεσμοι αναφοράς:
https://openai.com/index/introducing-structured-outputs-in-the-api/