Минмин родом из храма Аофэй.

Кубиты | Публичный аккаунт QbitAI

Внезапно в сети появилась новая версия GPT-4o, более прочная и дешевая.

Его возможности были улучшены во всех аспектах, и он занял первое место в бенчмарк-тесте ZeroEval.

Экономия на вводе и выводе составляет 50% и 33% соответственно.

Округление означает снижение цены API.

Вывод токенов был расширен до 16 КБ, ранее поддерживалось 4 КБ.

Вопрос о том, кто больше, 9,11 или 9,9, тоже можно решить гладко.

Это потому чтоOpenAIВведен структурированный вывод в API.

Обеспечение соответствия выходных данных модели структуре, определенной разработчиком с помощью схемы JSON, может сделать модель более надежной и безопасной.

Последняя версия модели «GPT-4o-2024-08-06» получила оценку схемы JSON.100%。

Для сравнения, версия GPT-4-0613 набрала менее 40%.

Когда дело доходит до редактирования кода, последняя версия имеет те же результаты тестов, что и ее предшественница, но теперь стоит вдвое дешевле.

Другие обнаружили, что эта новая версия представляет собой улучшение OpenAI в области ввода изображений.Самый дешевыймодель.

API поддерживает структурированный вывод

На прошлогодней конференции OpenAI DevDay официальные лица официально представили режим JSON для GPT-4, который может помочь разработчикам создавать приложения.

Хотя схема JSON может повысить надежность модели, она не гарантирует, что результаты, сгенерированные моделью, соответствуют определенной схеме.

Поэтому в этом обновлении OpenAI представляет структурированный вывод в API, чтобы гарантировать, что контент, сгенерированный моделью, точно соответствует схеме JSON, предоставленной разработчиком.

Существует две основные формы:

1. Вызов функции: вызовите структурированный вывод, установив strict:ture в определении функции.

Эта функция доступна для всех моделей моделей, включая gpt-4-0613 и gpt-3.5-turbo-0613 и т. д. Если включен структурированный вывод, выходные данные модели будут соответствовать предоставленному определению инструмента.

2. Новые параметры параметра response_format.

Разработчики могут предоставить схему JSON через json_schema (новый параметр для параметра response_format).

Это полезно, когда модель не вызывает инструмент, а структурированно отвечает пользователю. Эта функция доступна для gpt-4o-2024-08-06 и gpt-4o-mini-2024-07-18. Если для параметра response_format задано значение strict: true, выходные данные модели будут соответствовать предоставленному шаблону.

OpenAI обновила SDK Python и Node для поддержки функций локального структурированного вывода.

Кроме того, особое внимание уделяется показателям безопасности. Новый режим будет следовать существующим правилам безопасности и вводит значение строки отказа, чтобы помочь разработчикам определять ситуации, когда модель отклоняет небезопасные запросы.

Структурированный вывод также можно использовать для динамического создания пользовательских интерфейсов, отделения окончательного ответа от процесса рассуждения, извлечения структурированных данных из неструктурированных данных и многих других вариантов использования.

Наконец, что касается цены, введите цену как 2,5 доллара США за 1 миллион долларов.токен, выходная цена составляет $10/1 миллион токенов.

Поскольку новая модель может быть более экономичной по затратам и выходу, цена округляется.

Некоторые люди обнаружили, что выходные данные этой новой модели были менее подробными, чем предыдущая версия, а стоимость была более контролируемой.

Справочные ссылки:
https://openai.com/index/introducing-structured-outputs-in-the-api/