notícias

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Na manhã de 6 de agosto, horário de Pequim, a OpenAI deu as boas-vindas a outra mudança de pessoal de alto nível.

O membro da equipe fundadora da OpenAI, John Schulman, anunciou em plataformas sociais que deixará a OpenAI e se juntará à Anthropic, outra startup de inteligência artificial. Greg Brockman, presidente e cofundador da OpenAI, anunciou nas redes sociais que tirará licença até o final do ano, sem mencionar notícias de possível saída. Também há notícias de que o líder de produto da OpenAI, Peter Deng, também sairá.

Após a renúncia anterior do cofundador e cientista-chefe da OpenAI, Ilya Sutskever, o pessoal da OpenAI permanece instável. É importante notar que John Schulman e Ilya Sutskvo, que desta vez anunciaram sua renúncia, foram anteriormente responsáveis ​​pelo trabalho de alinhamento de inteligência artificial da OpenAI. A OpenAI já dissolveu a equipe "Super Intelligence Alignment", e a saída de John Schulman pode significar que a OpenAI está menos disposta a reinvestir no alinhamento da inteligência artificial.

Além disso, embora Greg Brockman não tenha divulgado a sua saída, numa altura em que a OpenAI se concentra em superar os desafios dos modelos da próxima geração, a licença a longo prazo do pessoal principal também pode reflectir as diferenças internas dentro da OpenAI.

Bem-vindo novamente, mudanças de pessoal

John Schulman disse que tomou a decisão de deixar a OpenAI e ingressar na Anthropic porque queria se concentrar ainda mais no alinhamento da inteligência artificial e retornar ao trabalho técnico real. "Não vou sair por falta de apoio da OpenAI às pesquisas de alinhamento. Pelo contrário, a empresa tem se empenhado em investir nessa área. Minha decisão é pessoal e espero focar na próxima etapa da minha carreira. "John Schulman disse.

John Schulman disse que até agora, além dos estágios, a OpenAI é a única empresa para a qual trabalhou, e está muito grato ao CEO da OpenAI, Sam Altman, e ao cofundador Greg Brock Mann, que o recrutou desde o início: "Acredito que OpenAI e a equipe para a qual trabalho continuará a prosperar sem mim."

Sam Altman respondeu a John Schulman nas plataformas sociais, dizendo: "Obrigado por tudo o que você fez pela OpenAI. Você é um pesquisador talentoso e uma pessoa que pensa profundamente sobre os produtos e a sociedade. Você é um grande amigo para todos nós".

O repórter notou que no início deste ano, a OpenAI dissolveu a equipe "Super Intelligence Alignment" e estabeleceu um novo comitê de segurança em 28 de maio, horário local. John Schulman é um dos membros do comitê de segurança. Naquela época, OpenAI descreveu sua posição como Diretor de Ciência de Alinhamento.

Embora o cofundador Greg Brockman tenha tirado uma longa licença, ele não revelou sua intenção de sair. Ele apenas afirmou nas redes sociais que esta foi a primeira vez que ele pôde relaxar desde que foi cofundador da OpenAI, há 9 anos. "A missão está longe de estar concluída, ainda precisamos construir AGI (inteligência artificial geral) segura."

Peter Deng ainda não mencionou a notícia de sua saída nas redes sociais. Peter Deng é um conhecido gerente de produto no Vale do Silício. Ele atuou como gerente de produto do Google, Instagram, Facebook, Uber e outras empresas. No ano passado, ingressou na OpenAI como vice-presidente de produtos de consumo, responsável pelo produto e design. e equipes de engenharia por trás do ChatGPT. Em uma conversa em podcast no início deste ano, quando mencionou os valores da segurança da IA ​​​​e do ChatGPT, ele disse que a situação ideal é que a inteligência artificial possa se adequar aos valores pessoais de cada usuário. normativo, e não é nosso. Quais valores você deseja incutir no ChatGPT, mas como os valores de todo o mundo podem ser integrados de alguma forma à inteligência artificial?

A turbulência pessoal da OpenAI continuou desde que Sam Altman foi demitido e recontratado pelo conselho de administração da OpenAI no ano passado. Há rumores de que a demissão de Sam Altman está relacionada a diferenças internas sobre questões de segurança de IA. Sam Altman e Ilya Sutskvo têm diferenças em questões de segurança e comercialização de IA. Como figura-chave no conflito interno, Ilya Sutskvo anunciou em maio deste ano que deixaria a OpenAI, onde trabalhou por quase 10 anos.

Além disso, Andrej Karpathy, outro membro fundador da OpenAI, deixou a OpenAI em fevereiro deste ano e anunciou a fundação de uma empresa de educação AI+ em julho. A OpenAI tem cada vez menos membros da equipe fundadora ainda empregados.

Isso afetará o progresso do desenvolvimento do GPT?

A OpenAI está acolhendo novamente as mudanças de pessoal, o que pode significar que o foco da OpenAI na segurança de IA mudou. Resta saber se a próxima geração de GPT será afetada pelas mudanças de pessoal.

O repórter observou que, de acordo com a descrição da OpenAI, a primeira tarefa do comitê de segurança previamente estabelecido é avaliar e desenvolver ainda mais os processos e salvaguardas da OpenAI nos próximos 90 dias e compartilhar recomendações com todos os membros do conselho no final dos 90 dias. Após análise do conselho Divulgar as recomendações adotadas. De acordo com o cronograma, essas recomendações serão tornadas públicas após o final de agosto, e John Schulman decidiu deixar a OpenAI antes disso.

Em termos de segurança de IA, a introdução da OpenAI ao recém-criado comitê de segurança mostra que as responsabilidades da equipe não são inteiramente consistentes com as da equipe dissolvida “Super Intelligence Alignment”. Com a saída de John Schulman, diretor de ciência de alinhamento, isso pode significar que a OpenAI presta menos atenção ao alinhamento da inteligência artificial.

"Alinhamento" significa exigir que os objetivos do sistema de IA sejam consistentes com os valores e interesses humanos. As responsabilidades originais da equipe de "Alinhamento de Super Inteligência" incluíam a pesquisa de soluções técnicas para evitar anormalidades no sistema de IA. Ilya Sutskvo mencionou em entrevistas que o ChatGPT pode estar consciente e que o mundo precisa acordar para o verdadeiro poder da tecnologia que sua empresa e outras estão criando. Altman não vê a mesma coisa, respondendo recentemente que “[o antigo conselho] tinha algumas opiniões sobre mim e o que estávamos fazendo, embora eu discordasse fortemente de suas ideias. A questão do alinhamento da IA ​​ainda não está clara. Diz-se que está completamente resolvido, mas atualmente o efeito de deixar o sistema de inteligência artificial aprender a agir de acordo com um conjunto de valores é melhor do que eu imaginava.

A Anthropic, à qual John Schulman se juntará, é considerada a principal concorrente da OpenAI. A Anthropic, empresa fundada por ex-executivos e funcionários de pesquisa da OpenAI, possui a série Claude de modelos grandes. Em junho deste ano, a Anthropic lançou o último modelo Claude 3.5 Sonnet, que apresenta melhores resultados que o GPT-4o em termos de raciocínio de pós-graduação (GPQA), capacidade de codificação (HumanEval) e raciocínio de texto (DROP).

A julgar pelo progresso da pesquisa e desenvolvimento da próxima geração de GPT, a OpenAI parece ter encontrado algumas dificuldades. Em julho deste ano, Sam Altman disse que levará algum tempo para desenvolver a tecnologia relacionada ao GPT-5 ainda em seus estágios iniciais e que há problemas de dados e algoritmos.

Com John Schulman saindo para se juntar ao rival Anthropic e Greg Brockman tirando uma licença, resta saber se a saída de figuras centrais terá um impacto no progresso da pesquisa e desenvolvimento da OpenAI.

Vale ressaltar que existem outros conflitos entre os cofundadores da OpenAI. Menos de dois meses após retirar o processo, Musk, CEO da Tesla, cofundador da OpenAI, processou recentemente Sam Altman e Greg Brockman em um tribunal dos EUA, acusando o pessoal relevante de colocar os interesses comerciais acima dos seus próprios interesses públicos e violar a fundação da empresa. contrato. A acusação afirma que Sam Altman e outros deliberadamente bajularam e enganaram Musk para co-fundar a empresa sem fins lucrativos OpenAI, mas depois usaram vários meios para transformá-la em uma entidade com fins lucrativos. A OpenAI respondeu às acusações de Musk há alguns meses com capturas de tela, dizendo que Musk concordou com o plano da empresa de arrecadar mais fundos, criar uma organização com fins lucrativos e abandonar gradualmente o lançamento de produtos de código aberto.