ミンミンはアオフェイ寺院の出身です

パブリックアカウント QbitAI

GPT-4o の新しいバージョンが突然オンラインになりました。これは、より強力で安価です。

その機能はあらゆる面で向上しており、ZeroEval ベンチマーク テストでは直接 1 位にランクされました。

入力と出力はそれぞれ 50% と 33% 節約されます。

四捨五入はAPI価格の引き下げを意味します。

トークン出力は、以前は 4k をサポートしていましたが、16k に拡張されました。

9.11と9.9のどちらが大きいかという問題もスムーズに解決できます。

それの訳はオープンAIAPI に構造化出力が導入されました。

モデルの出力が JSON スキーマを通じて開発者によって定義された構造に準拠していることを確認することで、モデルの信頼性と安全性を高めることができます。

JSON スキーマ評価でスコア付けされたモデルの最新バージョン「GPT-4o-2024-08-06」100%。

比較すると、GPT-4-0613 バージョンのスコアは 40% 未満でした。

コード編集に関しては、最新バージョンのベンチマーク スコアは前バージョンと同じですが、コストは半分になりました。

この新しいバージョンが OpenAI の画像入力の改良であることを発見した人もいます。最も安いモデル。

API は構造化された出力をサポートします

昨年の OpenAI DevDay で関係者は、開発者がアプリケーションを構築するのに役立つ JSON モードを GPT-4 に正式に導入しました。

JSON スキーマはモデルの信頼性を向上させることができますが、モデルで生成された結果が特定のスキーマに準拠していることは保証されません。

したがって、今回のアップデートでは、OpenAI は API に構造化出力を導入し、モデルによって生成されたコンテンツが開発者によって提供された JSON スキーマと正確に一致することを保証します。

主な形式は 2 つあります。

1. 関数呼び出し: 関数定義で strict:ture を設定することにより、構造化出力を呼び出します。

この機能は、gpt-4-0613 や gpt-3.5-turbo-0613 などのすべてのモデルで利用できます。構造化出力が有効になっている場合、モデル出力は提供されたツール定義と一致します。

2. response_format パラメータの新しいオプション。

開発者は、json_schema (response_format パラメーターの新しいオプション) を介して JSON スキーマを提供できます。

これは、モデルがツールを呼び出しているのではなく、構造化された方法でユーザーに応答している場合に役立ちます。この機能は、gpt-4o-2024-08-06 および gpt-4o-mini-2024-07-18 で利用できます。 response_format に strict: true を指定すると、モデルの出力は指定されたパターンと一致します。

OpenAI は、ローカル構造化出力関数をサポートするために Python および Node SDK を更新しました。

さらに、安全出力も重視されます。新しいモードは既存のセキュリティ ルールに従い、モデルが安全でないリクエストを拒否する状況を開発者が識別できるように拒否文字列値を導入します。

構造化出力は、ユーザー インターフェイスを動的に生成したり、最終的な答えを推論プロセスから分離したり、非構造化データから構造化データを抽出したり、その他多くのユースケースにも使用できます。

最後に、価格に関して、$2.5/100 万と入力します。トークン、出力価格は 1000 万トークンあたり 10 ドルです。

新モデルの方が入出力面で経済的であるため、価格は四捨五入しています。

この新しいモデルの出力は以前のバージョンより冗長ではなく、コストがより制御しやすいと感じる人もいます。

参考リンク:
https://openai.com/index/introducing-structurd-outputs-in-the-api/