Mingmin viene del templo de Aofei.

Qubits | Cuenta pública QbitAI

De repente apareció en línea una nueva versión de GPT-4o, que es más potente y económica.

Sus capacidades se han mejorado en todos los aspectos y ocupó directamente el primer lugar en la prueba comparativa ZeroEval.

La entrada y la salida ahorran un 50% y un 33% respectivamente.

Redondear significa reducción del precio de API.

La producción de tokens se ha ampliado a 16k, y anteriormente admitía 4k.

La cuestión de quién es más grande, 9.11 o 9.9, también se puede resolver sin problemas.

Esto es porqueIA abiertaSe introdujo una salida estructurada a la API.

Garantizar que la salida del modelo se ajuste a la estructura definida por el desarrollador a través del esquema JSON puede hacer que el modelo sea más confiable y seguro.

La última versión del modelo "GPT-4o-2024-08-06" puntuada en la evaluación del esquema JSON100%。

En comparación, la versión GPT-4-0613 obtuvo menos del 40%.

Cuando se trata de edición de código, la última versión tiene los mismos puntajes de referencia que su predecesora, pero ahora cuesta la mitad.

Otros han descubierto que esta nueva versión es la mejora de OpenAI en la entrada de imágenes.El más baratomodelo.

API admite salida estructurada

En el OpenAI DevDay del año pasado, los funcionarios introdujeron oficialmente el modo JSON en GPT-4, que puede ayudar a los desarrolladores a crear aplicaciones.

Aunque el esquema JSON puede mejorar la confiabilidad del modelo, no garantiza que los resultados generados por el modelo se ajusten a un esquema específico.

Por lo tanto, en esta actualización, OpenAI introduce resultados estructurados en la API para garantizar que el contenido generado por el modelo coincida exactamente con el esquema JSON proporcionado por el desarrollador.

Hay dos formas principales:

1. Llamada de función: llame a la salida estructurada estableciendo una estricta:tura en la definición de la función.

Esta función está disponible para todos los modelos, incluidos gpt-4-0613 y gpt-3.5-turbo-0613, etc. Cuando la salida estructurada está habilitada, la salida del modelo coincidirá con la definición de herramienta proporcionada.

2. Nuevas opciones para el parámetro Response_Format.

Los desarrolladores pueden proporcionar un esquema JSON a través de json_schema (una nueva opción para el parámetro Response_format).

Esto es útil cuando el modelo no invoca una herramienta, sino que responde al usuario de forma estructurada. Esta función está disponible para gpt-4o-2024-08-06 y gpt-4o-mini-2024-07-18. Cuando se proporciona formato_respuesta estricto: verdadero, la salida del modelo coincidirá con el patrón proporcionado.

OpenAI ha actualizado los SDK de Python y Node para admitir funciones de salida estructuradas locales.

Además, se enfatizan los resultados de seguridad. El nuevo modo seguirá las reglas de seguridad existentes e introduce un valor de cadena de rechazo para ayudar a los desarrolladores a identificar situaciones en las que el modelo rechaza solicitudes no seguras.

La salida estructurada también se puede utilizar para generar dinámicamente interfaces de usuario, separar la respuesta final del proceso de razonamiento, extraer datos estructurados de datos no estructurados y muchos otros casos de uso.

Finalmente, en términos de precio, ingrese el precio como $2.5/1 millón.simbólico, el precio de salida es de 10 dólares/1 millón de tokens.

Dado que el nuevo modelo puede ser más económico en términos de entrada y salida, el precio se redondea.

Algunas personas descubrieron que el resultado de este nuevo modelo era menos detallado que la versión anterior y el costo era más controlable.

Enlaces de referencia:
https://openai.com/index/introduciendo-salidas-estructuradas-en-la-api/