Mingmin vem do Templo Aofei

Qubits | Conta pública QbitAI

Uma nova versão do GPT-4o apareceu repentinamente online, que é mais forte e mais barata.

Suas capacidades foram aprimoradas em todos os aspectos e ficou diretamente em primeiro lugar no teste de benchmark ZeroEval.

A entrada e a saída economizam 50% e 33%, respectivamente.

O arredondamento significa redução do preço da API.

A saída de token foi expandida para 16k, anteriormente suportando 4k.

A questão de quem é maior, 9,11 ou 9,9, também pode ser resolvida sem problemas.

Isto é porqueIA abertaIntroduziu saída estruturada na API.

Garantir que a saída do modelo esteja em conformidade com a estrutura definida pelo desenvolvedor por meio do esquema JSON pode tornar o modelo mais confiável e seguro.

A versão mais recente do modelo "GPT-4o-2024-08-06" pontuada na avaliação do esquema JSON100%。

Em comparação, a versão GPT-4-0613 obteve pontuação inferior a 40%.

Quando se trata de edição de código, a versão mais recente tem as mesmas pontuações de benchmark de seu antecessor, mas agora custa a metade.

Outros descobriram que esta nova versão é uma melhoria do OpenAI na entrada de imagens.O mais baratomodelo.

API suporta saída estruturada

No OpenAI DevDay do ano passado, os funcionários introduziram oficialmente o modo JSON no GPT-4, que pode ajudar os desenvolvedores a criar aplicativos.

Embora o esquema JSON possa melhorar a confiabilidade do modelo, ele não garante que os resultados gerados pelo modelo estejam em conformidade com um esquema específico.

Portanto, nesta atualização, OpenAI introduz saída estruturada na API para garantir que o conteúdo gerado pelo modelo corresponda exatamente ao esquema JSON fornecido pelo desenvolvedor.

Existem duas formas principais:

1. Chamada de função: Chame a saída estruturada definindo strict:ture na definição da função.

Este recurso está disponível para todos os modelos, incluindo gpt-4-0613 e gpt-3.5-turbo-0613, etc. Quando a saída estruturada estiver habilitada, a saída do modelo corresponderá à definição da ferramenta fornecida.

2. Novas opções para o parâmetro response_format.

Os desenvolvedores podem fornecer o esquema JSON via json_schema (uma nova opção para o parâmetro response_format).

Isto é útil quando o modelo não está invocando uma ferramenta, mas respondendo ao usuário de forma estruturada. Este recurso está disponível para gpt-4o-2024-08-06 e gpt-4o-mini-2024-07-18. Quando response_format é fornecido com strict: true, a saída do modelo corresponderá ao padrão fornecido.

OpenAI atualizou os SDKs Python e Node para oferecer suporte a funções de saída estruturadas locais.

Além disso, as saídas de segurança são enfatizadas. O novo modo seguirá as regras de segurança existentes e introduzirá um valor de string de recusa para ajudar os desenvolvedores a identificar situações em que o modelo rejeita solicitações inseguras.

A saída estruturada também pode ser usada para gerar interfaces de usuário dinamicamente, separar a resposta final do processo de raciocínio, extrair dados estruturados de dados não estruturados e muitos outros casos de uso.

Finalmente, em termos de preço, insira o preço como $2,5/1 milhãosímbolo, o preço de saída é de tokens de US$ 10/1 milhão.

Como o novo modelo pode ser mais econômico na entrada e na produção, o preço é arredondado.

Algumas pessoas descobriram que o resultado deste novo modelo era menos detalhado do que a versão anterior e o custo era mais controlável.

Links de referência:
https://openai.com/index/introduzindo-estruturadas-outputs-in-the-api/