Mingmin tulee Aofein temppelistä

Qubits |. Julkinen tili QbitAI

GPT-4o:n uusi versio tuli yhtäkkiä verkkoon, joka on vahvempi ja halvempi.

Sen ominaisuuksia on parannettu kaikilta osin, ja se sijoittui suoraan ensimmäiseksi ZeroEval-benchmark-testissä.

Tulo ja lähtö säästävät 50 % ja 33 %.

Pyöristys tarkoittaa API-hinnan alennusta.

Token-tulostus on laajennettu 16 000:aan, mikä on aiemmin tukenut 4k:tä.

Kysymys kumpi on isompi, 9.11 vai 9.9, voidaan myös ratkaista sujuvasti.

Tämä johtuu siitä, ettäOpenAISovellusliittymään otettiin käyttöön strukturoitu tulos.

Sen varmistaminen, että mallin tulos vastaa kehittäjän JSON-skeeman avulla määrittämää rakennetta, voi tehdä mallista luotettavamman ja turvallisemman.

Mallin uusin versio "GPT-4o-2024-08-06" pisteytettiin JSON-skeeman arvioinnissa100%。

Vertailun vuoksi GPT-4-0613-versio sai alle 40 %.

Mitä tulee koodin muokkaamiseen, uusimmalla versiolla on samat vertailupisteet kuin edeltäjällään, mutta se maksaa nyt puolet vähemmän.

Toiset ovat havainneet, että tämä uusi versio on OpenAI:n parannus kuvansyötössä.Halvinmalli.

API tukee strukturoitua tulostusta

Viime vuoden OpenAI DevDayssa virkamiehet esittelivät virallisesti JSON-tilan GPT-4:lle, joka voi auttaa kehittäjiä rakentamaan sovelluksia.

Vaikka JSON-skeema voi parantaa mallin luotettavuutta, se ei takaa, että mallin luomat tulokset ovat tietyn skeeman mukaisia.

Siksi tässä päivityksessä OpenAI ottaa käyttöön strukturoidun tuotoksen API:ssa varmistaakseen, että mallin luoma sisältö vastaa tarkasti kehittäjän toimittamaa JSON-skeemaa.

On olemassa kaksi päämuotoa:

1. Funktiokutsu: Kutsu strukturoitua lähtöä asettamalla funktiomäärittelyssä strict:ture.

Tämä ominaisuus on saatavilla kaikissa malleissa, mukaan lukien gpt-4-0613 ja gpt-3.5-turbo-0613 jne. Kun strukturoitu tulos on käytössä, mallin tulos vastaa annettua työkalun määritelmää.

2. Response_format-parametrin uudet asetukset.

Kehittäjät voivat tarjota JSON-skeeman kautta json_schema (uusi vaihtoehto response_format-parametrille).

Tämä on hyödyllistä, kun malli ei kutsu työkalua, vaan vastaa käyttäjälle jäsennellyllä tavalla. Tämä ominaisuus on käytettävissä malleissa gpt-4o-2024-08-06 ja gpt-4o-mini-2024-07-18. Kun vastauksen_muoto on annettu arvolla strict: true, mallin tulos vastaa annettua mallia.

OpenAI on päivittänyt Python- ja Node SDK:t tukemaan paikallisia strukturoituja tulostustoimintoja.

Lisäksi turvatuloksia korostetaan. Uusi tila noudattaa olemassa olevia suojaussääntöjä ja ottaa käyttöön kieltäytymismerkkijonon, joka auttaa kehittäjiä tunnistamaan tilanteet, joissa malli hylkää vaaralliset pyynnöt.

Strukturoitua tulostetta voidaan käyttää myös käyttöliittymien dynaamiseen luomiseen, lopullisen vastauksen erottamiseen päättelyprosessista, strukturoidun datan poimimiseen strukturoimattomasta tiedosta ja moniin muihin käyttötapauksiin.

Lopuksi, mitä tulee hintaan, syötä hinta muodossa $2,5/1 miljoonaamerkki, tuotantohinta on 10 dollaria / 1 miljoonaa rahaketta.

Koska uusi malli voi olla taloudellisempi panosten ja tulosten suhteen, hinta pyöristetään.

Jotkut ihmiset huomasivat, että tämän uuden mallin tuotos oli vähemmän monisanainen kuin edellinen versio ja kustannukset olivat paremmin hallittavissa.

Viitelinkit:
https://openai.com/index/introducing-structured-outputs-in-the-api/