Mingmin berasal dari Kuil Aofei

Qubit |. Akun publik QbitAI

Versi baru GPT-4o tiba-tiba hadir online, lebih kuat dan lebih murah.

Kemampuannya telah ditingkatkan di semua aspek, dan langsung menduduki peringkat pertama dalam uji benchmark ZeroEval.

Input dan output masing-masing menghemat 50% dan 33%.

Pembulatan berarti penurunan harga API.

Output token telah diperluas menjadi 16k, sebelumnya mendukung 4k.

Pertanyaan siapa yang lebih besar, 9.11 atau 9.9, juga bisa diselesaikan dengan lancar.

hal ini dikarenakanBuka AIMemperkenalkan keluaran terstruktur ke API.

Memastikan keluaran model sesuai dengan struktur yang ditentukan oleh pengembang melalui skema JSON dapat membuat model lebih andal dan aman.

Versi terbaru model "GPT-4o-2024-08-06" yang mendapat skor dalam evaluasi skema JSON100%。

Sebagai perbandingan, versi GPT-4-0613 mendapat skor kurang dari 40%.

Dalam hal pengeditan kode, versi terbaru memiliki skor benchmark yang sama dengan pendahulunya, namun kini harganya setengahnya.

Pihak lain telah menemukan bahwa versi baru ini merupakan penyempurnaan OpenAI dalam input gambar.Yang termurahmodel.

API mendukung keluaran terstruktur

Pada OpenAI DevDay tahun lalu, para pejabat secara resmi memperkenalkan mode JSON ke GPT-4, yang dapat membantu pengembang membangun aplikasi.

Meskipun skema JSON dapat meningkatkan keandalan model, hal ini tidak menjamin bahwa hasil model yang dihasilkan sesuai dengan skema tertentu.

Oleh karena itu, dalam pembaruan ini, OpenAI memperkenalkan keluaran terstruktur di API untuk memastikan bahwa konten yang dihasilkan oleh model sama persis dengan skema JSON yang disediakan oleh pengembang.

Ada dua bentuk utama:

1. Panggilan fungsi: Memanggil keluaran terstruktur dengan menyetel strict:ture dalam definisi fungsi.

Fitur ini tersedia untuk semua model model, termasuk gpt-4-0613 dan gpt-3.5-turbo-0613, dll. Jika keluaran terstruktur diaktifkan, keluaran model akan cocok dengan definisi alat yang disediakan.

2. Opsi baru untuk parameter respon_format.

Pengembang dapat menyediakan skema JSON melalui json_schema (opsi baru untuk parameter respon_format).

Hal ini berguna ketika model tidak memanggil alat, namun merespons pengguna dengan cara yang terstruktur. Fitur ini tersedia untuk gpt-4o-2024-08-06 dan gpt-4o-mini-2024-07-18. Ketika respon_format diberikan dengan strict: true, keluaran model akan cocok dengan pola yang disediakan.

OpenAI telah memperbarui Python dan Node SDK untuk mendukung fungsi keluaran terstruktur lokal.

Selain itu, keluaran keselamatan juga ditekankan. Mode baru ini akan mengikuti aturan keamanan yang ada dan memperkenalkan nilai string penolakan untuk membantu pengembang mengidentifikasi situasi ketika model menolak permintaan yang tidak aman.

Keluaran terstruktur juga dapat digunakan untuk menghasilkan antarmuka pengguna secara dinamis, memisahkan jawaban akhir dari proses penalaran, mengekstrak data terstruktur dari data tidak terstruktur, dan banyak kasus penggunaan lainnya.

Terakhir, dalam hal harga, masukkan harga $2,5/1 jutatoken, harga keluarannya adalah $10/1 juta token.

Karena model baru ini bisa lebih ekonomis dalam hal input dan output, maka harganya pun dibulatkan.

Beberapa orang menemukan bahwa keluaran model baru ini tidak terlalu bertele-tele dibandingkan versi sebelumnya dan biayanya lebih terkendali.

Tautan referensi:
https://openai.com/index/introducing-structured-outputs-in-the-api/