Mingmin은 Aofei Temple에서 왔습니다.

Qubits 공개 계정 QbitAI

더 강력하고 저렴한 GPT-4o의 새 버전이 갑자기 온라인에 출시되었습니다.

모든 면에서 성능이 향상되었으며, ZeroEval 벤치마크 테스트에서도 바로 1위를 차지했습니다.

입력과 출력이 각각 50%, 33% 절약됩니다.

반올림하면 API 가격이 인하됩니다.

토큰 출력이 16k로 확장되었으며 이전에는 4k를 지원했습니다.

9.11이냐 9.9냐, 누가 더 크냐는 문제도 순조롭게 풀릴 수 있다.

이 때문입니다오픈AIAPI에 구조화된 출력이 도입되었습니다.

모델 출력이 JSON 스키마를 통해 개발자가 정의한 구조를 준수하는지 확인하면 모델을 더욱 안정적이고 안전하게 만들 수 있습니다.

JSON 스키마 평가에서 점수를 매긴 모델 "GPT-4o-2024-08-06"의 최신 버전100%。

이에 비해 GPT-4-0613 버전은 40% 미만의 점수를 받았습니다.

코드 편집과 관련하여 최신 버전은 이전 버전과 동일한 벤치마크 점수를 갖지만 비용은 절반 정도입니다.

다른 사람들은 이 새 버전이 OpenAI의 이미지 입력 ​​개선이라는 사실을 발견했습니다.가장 저렴한모델.

API는 구조화된 출력을 지원합니다.

작년 OpenAI DevDay에서 관계자들은 개발자가 애플리케이션을 구축하는 데 도움이 될 수 있는 JSON 모드를 GPT-4에 공식적으로 도입했습니다.

JSON 스키마는 모델 신뢰성을 향상시킬 수 있지만 모델 생성 결과가 특정 스키마를 준수함을 보장하지는 않습니다.

따라서 이번 업데이트에서 OpenAI는 모델에서 생성된 콘텐츠가 개발자가 제공한 JSON 스키마와 정확히 일치하는지 확인하기 위해 API에 구조화된 출력을 도입합니다.

두 가지 주요 형태가 있습니다:

1. 함수 호출: 함수 정의에서 strict:ture를 설정하여 구조화된 출력을 호출합니다.

이 기능은 gpt-4-0613 및 gpt-3.5-turbo-0613 등을 포함한 모든 모델 모델에서 사용할 수 있습니다. 구조화된 출력이 활성화되면 모델 출력이 제공된 도구 정의와 일치합니다.

2. response_format 매개변수에 대한 새로운 옵션.

개발자는 json_schema(response_format 매개변수의 새로운 옵션)를 통해 JSON 스키마를 제공할 수 있습니다.

이는 모델이 도구를 호출하지 않고 구조화된 방식으로 사용자에게 응답할 때 유용합니다. 이 기능은 gpt-4o-2024-08-06 및 gpt-4o-mini-2024-07-18에서 사용할 수 있습니다. response_format이 strict: true로 제공되면 모델 출력이 제공된 패턴과 일치합니다.

OpenAI는 구조화된 로컬 출력 기능을 지원하도록 Python 및 Node SDK를 업데이트했습니다.

또한 안전 출력이 강조됩니다. 새로운 모드는 기존 보안 규칙을 따르고 개발자가 모델이 안전하지 않은 요청을 거부하는 상황을 식별하는 데 도움이 되는 거부 문자열 값을 도입합니다.

구조화된 출력은 또한 사용자 인터페이스를 동적으로 생성하고, 추론 프로세스에서 최종 답변을 분리하고, 구조화되지 않은 데이터에서 구조화된 데이터를 추출하는 등 다양한 사용 사례에 사용될 수 있습니다.

마지막으로 가격은 $2.5/1백만으로 입력하세요.토큰, 출력 가격은 $10/100만 토큰입니다.

새 모델은 입력 및 출력 측면에서 더 경제적일 수 있으므로 가격은 반올림되었습니다.

일부 사람들은 이 새 모델의 출력이 이전 버전보다 덜 장황하고 비용을 더 쉽게 제어할 수 있다는 것을 발견했습니다.

참조 링크:
https://openai.com/index/introducing-structured-outputs-in-the-api/