minhas informações de contato
Correspondênciaadmin@informação.bz
2024-08-06
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
- Mengchen Crexi vem do Templo Aofei
Qubits | Conta pública QbitAI
Agora há pouco, houve um grande terremoto no topo do OpenAI:
LianchuangJohn SchulmanRenuncie e fuja,Lianchuang e presidente Greg Brockmanlongas férias,Peter Deng, vice-presidente de produtoEle também foi revelado ter renunciado.
John Schulman, que liderou a equipe de aprendizagem por reforço OpenAI por muitos anos, é conhecido como "Arquiteto ChatGPT”。
Foi também ele quem assumiu temporariamente a equipe do Super Alignment após a saída de Ilya Sustkever.
Agora ele anunciou que “tomou uma decisão difícil” ao ingressar na Anthropic, equipe vizinha de Claude.
Ao mesmo tempo, o presidente da OpenAI, Greg Brockman, também anunciou que tirará longas férias até o final do ano.
A OpenAI planeja realizar dias de desenvolvedores e outros eventos ao redor do mundo a partir de 1º de outubro, e ele também estará ausente.
Brockman disse que foi a primeira vez que relaxou após nove anos consecutivos de trabalho, mas foi vago sobre seus planos após o final do ano. Alguns internautas pensaram que era por causa do acordo de confidencialidade.
Vinte minutos após o anúncio oficial da renúncia de Schumann, Altman agradeceu a Schumann por sua contribuição em sua resposta e relembrou a cena em que os dois se conheceram em 2015.
Mas até agora, Ultraman não respondeu à saída de Brockman.
Altman costuma ter o hábito de digitar a primeira letra das frases e “i” sem maiúscula, mas sempre que um colega importante decide sair, ele se comportará de maneira mais formal.
A famosa conta interna da OpenAI, Apple Brother, disse: Agora que a liderança se tornou uma concha vazia, você deve se apressar e lançar o produto.
Schumann estudou como estudante de graduação na Caltechfísica, estudou brevemente na UC BerkeleyNeurociência, mais tarde estudado sobaprendizagem por reforçoDaniel Abbeel completou seu doutorado em ciência da computação.
Quando se tornou cofundador da OpenAI, ele ainda não havia se formado com doutorado.
OpenAI é a primeira e única empresa para a qual ele trabalhou fora do estágio.
Sua obra-prima e artigo mais citadoPPO, que é o algoritmo de aprendizagem por reforço selecionado na tecnologia principal RLHF do ChatGPT.
Posteriormente, liderou a equipe de alinhamento/pós-treinamento em uma série de trabalhos de GPT-3.5, GPT-4 a GPT-4o.
O motivo da sua demissão desta vez também esteve relacionado com isto:
Espero aprofundar meu foco no alinhamento de IA e iniciar um novo capítulo em minha carreira, onde possa retornar ao trabalho técnico real.
No entanto, ele também deu cara suficiente à OpenAI, acrescentando que“Não sair devido à falta de apoio da OpenAI para esforços de alinhamento seguro”, apenas por um desejo pessoal de se concentrar.
Em seu discurso no ICML2023, Schumann descreveu uma de suas próximas direções de pesquisa:Como evitar otimização excessiva。
Em entrevista ao apresentador de podcast Dwarkesh Patel em maio deste ano, Schumann também disse:O poder da computação deve ser transferido mais do pré-treinamento para o pós-treinamento。
Devido às diferenças nos conceitos de segurança de IA com o Ultraman, a OpenAI sofreu uma enorme perda de talentos.
Em maio deste ano, os dois líderes da Equipe de Super Alinhamento – Cientista ChefeIlya Sutskevere um dos inventores do RLHFJan Leike, deixaram o OpenAI um após o outro no mesmo dia.
Naquela época, menos de um ano se passou desde a criação da Equipe de Super Alinhamento.
Após a saída de Jan Leike, ele enviou mais de uma dúzia de tweets seguidos, bombardeando freneticamente a OpenAI, acusando-a de não cumprir sua promessa de 20% de poder computacional e de prestar muito menos atenção à segurança do que seus produtos.
Mais tarde, Jan Leike optou por se juntar ao concorrente da OpenAI, Antrópico, para continuar a pesquisa sobre superalinhamento.
Co-lidera os esforços de alinhamento no projeto GPT-4 com Jan LeikeRyan Lowe, também deixou a OpenAI no final de março.
E um dos membros superalinhadosWilliam Saunders, e aqueles que participaram de testes adversários GPT-4Daniel Kokotajlo, também renunciou à OpenAI.
Sem falar na vizinhaIrmão e irmã Dario Amodei e Daniela Amodei, fundadores da Anthropic, também da OpenAI.
Antes de seu irmão Dario partir, ele era vice-presidente de pesquisa da OpenAI, e sua irmã Daniela era vice-diretora do departamento de segurança e estratégia.Tom Brown, engenheiro-chefe do GPT-3Trouxe para a Anthropic com mais de uma dúzia de funcionários.
Um dos motivos pelos quais optaram por sair para abrir um negócio foi que a OpenAI lançou diretamente o GPT-3 sem resolver o problema de segurança, o que despertou sua insatisfação.
A ênfase na segurança, aliada à formação do fundador, também fez da Anthropic um dos principais locais para os funcionários da OpenAI, incluindo Jan Leike e Schumann, que saíram desta vez.
A OpenAI também fez algumas mudanças no trabalho de segurança recentemente——
No final de julho, a OpenAI nomeou o diretor sênior do departamento de segurançaAlexandre MadryEle foi transferido do cargo de segurança e transferido para o cargo de “raciocínio de IA”.
Mas a OpenAI disse à mídia que Madry ainda estará comprometido com a segurança da inteligência artificial após assumir seu novo cargo.
O CEO Altman também enfatizou que a OpenAI sempre atribuiu grande importância ao trabalho de segurança e aderiu ao seu compromisso de “dar pelo menos 20% do poder computacional para toda a equipe de segurança”.
Mas internautas perspicazes logo descobriram que Ultraman havia brincado com uma onda de conceitos sorrateiros.A promessa original era dar 20% do poder computacional à equipe de superalinhamento, mas foi secretamente alterada para todas as equipes de segurança.。
Portanto, após o tweet de Ultraman, os internautas adicionaram impiedosamente essas informações básicas e anexaram o link oficial para OpenAI naquele momento.
emm...a Internet ainda tem lembranças.
Enquanto um grande número de talentos internos está sendo perdido, o "velho inimigo" da OpenAI, Musk, também tem novas ações -
Musk acabou de levar a OpenAI ao tribunal novamente, os réus também são Ultraman e CEO Brockman.
A razão para este processo é que Musk acreditava ter sido “enganado e extorquido” por Altman e Brockman quando participou da criação do OpenAI.
Musk disse que inicialmente participou e investiu na OpenAI porque acreditou nas palavras de Altman. Naquela época, Altman prometeu que a OpenAI seria uma organização sem fins lucrativos segura e aberta.
Mais tarde, porém, a OpenAI tornou-se uma organização com fins lucrativos e vendeu parte de suas ações para a Microsoft. Isso deixou Musk muito insatisfeito, pensando que havia sido traído, e denunciou Altman por "traição".
O advogado de Musk, Marc Toberoff, disse que o processo era significativamente diferente do anteriormente retirado, responsabilizando os réus "por fazerem conscientemente declarações falsas a Musk e ao público" e por buscarem "recuperação massiva de seus direitos".
Ao mesmo tempo, a acusação também exige a revogação da licença concedida pela OpenAI à Microsoft.
Links de referência:
[1]https://www.bloomberg.com/news/articles/2024-08-06/openai-co-fundador-john-schulman-departs-for-ai-rival-anthropic
[2]https://www.cnbc.com/2024/07/23/openai-removes-ai-safety-executive-aleksander-madry-from-role.html
[3]https://x.com/sama/status/1818867964369928387
[4]https://www.documentcloud.org/documents/25031741-elon-vs-openai-again
[5]https://www.nytimes.com/2024/08/05/technology/elon-musk-openai-lawsuit.html
Colete e organize as informações mais recentes e torne-as gratuitas para que todos possam verificar.
Correspondênciaadmin@informação.bz