Mingmin vient du temple Aofei

Qubits | Compte public QbitAI

Une nouvelle version de GPT-4o a soudainement été mise en ligne, plus puissante et moins chère.

Ses capacités ont été améliorées dans tous les aspects et il s'est directement classé premier dans le test de référence ZeroEval.

L'entrée et la sortie économisent respectivement 50 % et 33 %.

Arrondir signifie une réduction du prix de l’API.

La sortie des jetons a été étendue à 16k, prenant auparavant en charge 4k.

La question de savoir qui est le plus grand, 9.11 ou 9.9, peut également être résolue en douceur.

Ceci est dû au faitOpenAIIntroduction d’une sortie structurée dans l’API.

S'assurer que la sortie du modèle est conforme à la structure définie par le développeur via le schéma JSON peut rendre le modèle plus fiable et sécurisé.

La dernière version du modèle "GPT-4o-2024-08-06" évaluée lors de l'évaluation du schéma JSON100%。

En comparaison, la version GPT-4-0613 a obtenu un score inférieur à 40 %.

En ce qui concerne l'édition de code, la dernière version a les mêmes scores de référence que son prédécesseur, mais coûte désormais deux fois moins cher.

D’autres ont découvert que cette nouvelle version constitue l’amélioration d’OpenAI en matière de saisie d’images.Le moins chermodèle.

L'API prend en charge la sortie structurée

Lors de l'OpenAI DevDay de l'année dernière, les responsables ont officiellement introduit le mode JSON dans GPT-4, qui peut aider les développeurs à créer des applications.

Bien que le schéma JSON puisse améliorer la fiabilité du modèle, il ne garantit pas que les résultats générés par le modèle soient conformes à un schéma spécifique.

Par conséquent, dans cette mise à jour, OpenAI introduit une sortie structurée dans l'API pour garantir que le contenu généré par le modèle correspond exactement au schéma JSON fourni par le développeur.

Il existe deux formes principales :

1. Appel de fonction : appelez la sortie structurée en définissant strict:ture dans la définition de la fonction.

Cette fonctionnalité est disponible pour tous les modèles, y compris gpt-4-0613 et gpt-3.5-turbo-0613, etc. Lorsque la sortie structurée est activée, la sortie du modèle correspondra à la définition de l'outil fournie.

2. Nouvelles options pour le paramètre Response_format.

Les développeurs peuvent fournir un schéma JSON via json_schema (une nouvelle option pour le paramètre Response_format).

Ceci est utile lorsque le modèle n'appelle pas un outil, mais répond à l'utilisateur de manière structurée. Cette fonctionnalité est disponible pour gpt-4o-2024-08-06 et gpt-4o-mini-2024-07-18. Lorsque Response_format est fourni avec strict : true, la sortie du modèle correspondra au modèle fourni.

OpenAI a mis à jour les SDK Python et Node pour prendre en charge les fonctions de sortie structurées locales.

De plus, les sorties de sécurité sont mises en avant. Le nouveau mode suivra les règles de sécurité existantes et introduit une valeur de chaîne de refus pour aider les développeurs à identifier les situations dans lesquelles le modèle rejette les demandes non sécurisées.

La sortie structurée peut également être utilisée pour générer dynamiquement des interfaces utilisateur, séparer la réponse finale du processus de raisonnement, extraire des données structurées à partir de données non structurées et bien d'autres cas d'utilisation.

Enfin, en termes de prix, saisissez le prix à 2,5 $/1 million.jeton, le prix de sortie est de 10/1 million de jetons.

Étant donné que le nouveau modèle peut être plus économique en entrée et en sortie, le prix est arrondi.

Certaines personnes ont trouvé que le résultat de ce nouveau modèle était moins verbeux que la version précédente et que le coût était plus contrôlable.

Liens de référence :
https://openai.com/index/introducing-structured-outputs-in-the-api/