Mingmin viene dal Tempio Aofei

Qubit |. Account pubblico QbitAI

All'improvviso è arrivata online una nuova versione di GPT-4o, più potente ed economica.

Le sue capacità sono state migliorate sotto tutti gli aspetti e si è classificato direttamente al primo posto nel test benchmark ZeroEval.

Input e output risparmiano rispettivamente il 50% e il 33%.

L'arrotondamento implica una riduzione del prezzo dell'API.

L'output dei token è stato esteso a 16k, in precedenza supportava 4k.

Anche la questione su chi sia più grande, 9.11 o 9.9, può essere risolta senza problemi.

Questo è perchéIA apertaIntrodotto l'output strutturato nell'API.

Garantire che l'output del modello sia conforme alla struttura definita dallo sviluppatore tramite lo schema JSON può rendere il modello più affidabile e sicuro.

L'ultima versione del modello "GPT-4o-2024-08-06" ha ottenuto punteggio nella valutazione dello schema JSON100%。

In confronto, la versione GPT-4-0613 ha ottenuto meno del 40%.

Quando si tratta di editing del codice, l'ultima versione ha gli stessi punteggi di riferimento del suo predecessore, ma ora costa la metà.

Altri hanno scoperto che questa nuova versione rappresenta il miglioramento di OpenAI nell’input delle immagini.Il più economicomodello.

L'API supporta l'output strutturato

All'OpenAI DevDay dello scorso anno, i funzionari hanno introdotto ufficialmente la modalità JSON su GPT-4, che può aiutare gli sviluppatori a creare applicazioni.

Sebbene lo schema JSON possa migliorare l'affidabilità del modello, non garantisce che i risultati generati dal modello siano conformi a uno schema specifico.

Pertanto, in questo aggiornamento, OpenAI introduce un output strutturato nell'API per garantire che il contenuto generato dal modello corrisponda esattamente allo schema JSON fornito dallo sviluppatore.

Esistono due forme principali:

1. Chiamata di funzione: chiama l'output strutturato impostando strict:ture nella definizione della funzione.

Questa funzione è disponibile per tutti i modelli, inclusi gpt-4-0613 e gpt-3.5-turbo-0613, ecc. Quando l'output strutturato è abilitato, l'output del modello corrisponderà alla definizione dello strumento fornita.

2. Nuove opzioni per il parametro Response_format.

Gli sviluppatori possono fornire lo schema JSON tramite json_schema (una nuova opzione per il parametro Response_format).

Ciò è utile quando il modello non invoca uno strumento, ma risponde all'utente in modo strutturato. Questa funzione è disponibile per gpt-4o-2024-08-06 e gpt-4o-mini-2024-07-18. Quando Response_format viene fornito con strict: true, l'output del modello corrisponderà al modello fornito.

OpenAI ha aggiornato gli SDK Python e Node per supportare le funzioni di output strutturato locale.

Inoltre, vengono enfatizzate le uscite di sicurezza. La nuova modalità seguirà le regole di sicurezza esistenti e introdurrà un valore di stringa di rifiuto per aiutare gli sviluppatori a identificare le situazioni in cui il modello rifiuta le richieste non sicure.

L'output strutturato può essere utilizzato anche per generare dinamicamente interfacce utente, separare la risposta finale dal processo di ragionamento, estrarre dati strutturati da dati non strutturati e molti altri casi d'uso.

Infine, in termini di prezzo, inserisci il prezzo come $ 2,5/1 milionegettone, il prezzo di uscita è di $ 10/1 milione di token.

Poiché il nuovo modello può essere più economico in termini di input e output, il prezzo viene arrotondato.

Alcune persone hanno scoperto che il risultato di questo nuovo modello era meno dettagliato rispetto alla versione precedente e che il costo era più controllabile.

Link di riferimento:
https://openai.com/index/introducing-structured-outputs-in-the-api/