notícias

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Novo Relatório de Sabedoria

Editor: Departamento Editorial

[Introdução à Nova Sabedoria]A OpenAI viu sucessivas mudanças de pessoal principal e sênior. Em tempos difíceis, heróis emergem e um grupo de estrelas em ascensão carrega a bandeira.

Desde que Ultraman foi demitido e reintegrado em novembro de 2023, parece haver uma luta constante pelo poder dentro da OpenAI.

Recentemente, muitos executivos renunciaram um após o outro. De acordo com o Financial Times, apenas dois dos 11 cofundadores originais da OpenAI ainda atuam na OpenAI.

Além de Altman, apenas o cientista da computação polonês Wojciech Zaremba permanece na OpenAI como pesquisador.

O presidente e cofundador da OpenAI, Greg Brockman, que tem trabalhado lado a lado com Altman, estenderá sua licença até o final deste ano. Isso é amplamente considerado um precursor de sua saída iminente.

Outro cofundador, John Schulman, saiu definitivamente e se juntou ao concorrente Anthropic. Peter Deng, vice-presidente de produtos de consumo, também deixou a OpenAI.

Segundo as estatísticas, quase 75 funcionários principais da OpenAI renunciaram e fundaram cerca de 30 startups de IA.

OpenAI tornou-se a "Academia Militar Whampoa" da indústria de IA, e seus ex-funcionários criaram seus próprios negócios com base na experiência e conexões acumuladas na empresa.

Embora este tipo de produção de talentos seja benéfico para o desenvolvimento de toda a indústria, é sem dúvida uma enorme perda para a própria OpenAI.

Novato assume

Embora haja uma perda de talentos, a OpenAI continua a gastar pesadamente para recrutar e promover talentos, e outros se adiantaram para assumir os cargos vagos.

Esse tipo de cena faz as pessoas suspirarem: “Game of Thrones” se passa na realidade e “o caos é a escada da ascensão”.

Aqui está uma olhada na nova safra de líderes da OpenAI, com base em conversas com funcionários antigos e atuais e outros membros.

Jakub Pachocki - o "cientista genial" que sucedeu Ilya

Jakub Pachocki é atualmente o cientista-chefe da OpenAI e um funcionário veterano que trabalha na OpenAI desde 2017.

A julgar pela experiência anterior de Pachocki e sua velocidade de promoção dentro do OpenAI, ele é digno do título de "cientista genial".

Antes de ingressar na OpenAI, Pachocki obteve seu doutorado na CMU em apenas 3 anos e conduziu pesquisa de pós-doutorado na Universidade de Harvard durante 7 meses.

Nos primeiros cinco anos e meio após ingressar, Pachocki liderou as equipes de Dota, raciocínio e aprendizagem profunda, respectivamente, todas as quais faziam parte das iniciativas de pesquisa transformadora da OpenAI.

Ele desempenhou um papel fundamental no desenvolvimento de um bot de jogo Dota 2 pela OpenAI que jogou contra si mesmo e eventualmente alcançou um nível profissional.

A partir de 2021, Pachocki será promovido a cargos como líder de pesquisa e diretor de pesquisa. Ele é o líder no desenvolvimento de GPT-4 e OpenAI Five. Ele foi elogiado por suas contribuições de pesquisa em aprendizagem por reforço em larga escala e aprendizagem profunda. otimização.

Altman o elogiou muito, descrevendo Pachocki como "sem dúvida um dos maiores pensadores de nossa geração" que "supervisionou muitos de nossos projetos mais importantes".

Sobre a contribuição de Pachocki para o projeto GPT-4, Altman disse uma vez: "A excelente liderança e visão técnica demonstradas por Jakub Pachocki são notáveis. Sem a sua contribuição, não seríamos capazes de alcançar o que somos hoje. Conquistas".

Numa entrevista anterior ao MIT, Pachocki comparou o desenvolvimento de um modelo de linguagem como o GPT-4 à “construção de uma nave espacial” – é preciso garantir que todas as peças sejam perfeitas.

Ele também mencionou que o método básico de construção dos modelos GPT não mudou muito desde o lançamento da primeira versão em 2018.

Depois que Ilya Sutskever renunciou em maio deste ano, Pachocki assumiu oficialmente o cargo de cientista-chefe.

A crescente influência de Pachocki precedeu sua promoção, segundo funcionários atuais e ex-funcionários.

Ultraman valorizava muito Pachocki e já havia lhe atribuído tarefas semelhantes a Ilya, embora logicamente falando, Pachocki tivesse que se reportar a Ilya, o que causou tensão entre os dois.

Durante a "Luta do Palácio" em novembro passado, Ilya e a membro do conselho Helen Toner lançaram conjuntamente uma ação para "expulsar Ultraman". No entanto, Pachocki não seguiu Ilya e permaneceu firmemente no campo apoiando Ultraman.

No entanto, quando Ilya anunciou oficialmente sua renúncia, os tweets de Pachocki ainda mostravam seu respeito e admiração por este veterano.

Ilya me apresentou ao mundo da pesquisa em aprendizagem profunda e tem sido um mentor e grande colaborador por muitos anos. Sua incrível visão de aprendizado profundo é a base do que a OpenAI e o campo da inteligência artificial são hoje. Estou extremamente grato pelas inúmeras conversas que ele teve conosco, desde discussões de alto nível sobre o futuro dos avanços na inteligência artificial até sessões técnicas aprofundadas no quadro branco. Ilya – Sentirei falta de trabalhar com você.

Os funcionários disseram que após a saída de Ilya, Pachocki recebeu o apoio do Ultraman e se tornou um importante tomador de decisões dentro da empresa.

Pachocki nasceu na Polônia e se formou no Departamento de Ciência da Computação da Universidade de Varsóvia. Além de se formar em apenas três anos, também teve duas experiências de estágio no Facebook e também participou de diversas competições de programação durante o ensino médio. escola e faculdade.

Jakub Pachocki (terceiro a partir da esquerda) durante a competição ICPC 2012

De acordo com estatísticas do Hall da Fama da Programação, Pachocki representou a Universidade de Varsóvia duas vezes nas Finais Mundiais ACM-ICPC em 2011 e 2012, e ganhou a medalha de ouro no ano seguinte.

Na competição individual, o desempenho de Pachocki foi igualmente surpreendente: ele ganhou medalha de prata no IOI no ensino médio, e ganhou medalhas em competições de programação organizadas por Topcoder, Facebook e Google diversas vezes.

Entre eles, o melhor resultado foi a conquista da medalha de ouro na competição Google Code Jam 2012, com prêmio de US$ 10 mil.

Certa vez, ele mencionou em uma entrevista que competições de programação como o Google Code Jam são mais parecidas com trabalhos de matemática ou resolução de problemas de lógica, e vencer requer habilidades cognitivas extremamente altas.

Barret Zoph

Antes da saída do cofundador John Schulman, ele co-liderou a equipe de pós-treinamento com seu único subordinado direto, Barret Zoph.

Segundo um funcionário, Schulman foi responsável por definir a agenda de alto nível durante sua gestão anterior, enquanto Zoph foi responsável pela gestão diária e pelo trabalho de pesquisa da equipe, garantindo que o projeto fosse concluído no prazo para que o o modelo básico poderia ser implantado sem problemas em produtos como ChatGPT, bem como para desenvolvedores na API.

Zoph é muito respeitado na OpenAI. Agora que seu chefe imediato renunciou, é lógico que ele se torne o único responsável pela equipe.

Zoph se formou na University of Southern California com bacharelado. Ainda na faculdade, ele ingressou no grupo de linguagem natural do Instituto de Ciências da Informação da USC e trabalhou em tradução automática estatística com dois professores, Kevin Knight e Daniel Marcu.

Depois de se formar na graduação, Zoph ingressou no Google Brain e trabalhou como cientista pesquisador por 6 anos e 8 meses, dedicado a treinar grandes modelos de linguagem e aplicá-los em diversas aplicações.

Durante seu tempo no Google Brain, Zoph obteve muitas conquistas acadêmicas. O Google Scholar mostra que seus artigos foram citados um total de 62.284 vezes.

Em agosto de 2022, Zoph renunciou ao Google Brain e ingressou na OpenAI para participar da criação do ChatGPT. Sua principal direção de pesquisa é o treinamento de grandes modelos de linguagem esparsa e AuoML, como pesquisa de estrutura neural (NAS).

Na conferência de maio da OpenAI, Zoph demonstrou a função de visão em tempo real do GPT-4o, permitindo que o GPT-4o resolva problemas matemáticos em tempo real por meio da câmera do telefone móvel.

Marca Chen

Mark Chen atua como Diretor de Frontier Research desde que ingressou na OpenAI em 2018, supervisionando um grupo de trabalho sob o vice-presidente de Pesquisa Bob McGrew.

Chen também mostrou talentos extraordinários desde muito cedo, obtendo pontuações perfeitas em competições de matemática como AMC10, AMC12 e AIME, o que lhe abriu caminho para ingressar no MIT.

Depois de se formar no MIT, Chen recebeu um diploma duplo de bacharel em matemática e ciência da computação. Durante a faculdade, estagiou na Microsoft e na Trading e foi pesquisador visitante na Universidade de Harvard.

Depois de se formar, Chen ingressou na área financeira e se dedicou à pesquisa quantitativa, construindo algoritmos de aprendizado de máquina para negociação de ações e futuros.

Na última empresa, Integral Technology, Chen alcançou o nível de sócio.

Atualmente, ele também atua como treinador da equipe americana de treinamento do IOI.

Com certeza, as pessoas que são boas em matemática podem fazer qualquer coisa com facilidade.

Descanse em paz, Jim Simons. Você demonstrou em primeira mão que ser realmente bom em matemática tem um impacto positivo em quase tudo o mais.

Chen se concentra em modelagem multimodal e pesquisa de inferência na OpenAI. Liderou a equipe que criou o DALL·E, bem como a equipe que integrou a percepção visual ao GPT-4.

Chen também liderou o desenvolvimento do Codex e contribuiu para o avanço dos modelos GPT, incluindo o desenvolvimento da imagem GPT, e foi membro da equipe de 17 pessoas que conquistou a medalha de ouro no GPT-4o.

Na conferência de imprensa de maio deste ano, Chen também subiu ao palco para demonstrar a função de voz do GPT-4o.

A influência de Chen tornou-se gradualmente aparente durante a “Luta do Palácio” em novembro do ano passado. Na época, Chen, junto com Barret Zoph e o pesquisador pós-treinamento Liam Fedus, eram os principais elos de ligação entre a liderança e os funcionários, segundo um ex-funcionário.

Por exemplo, essas três pessoas transmitiram uma carta conjunta de funcionários apoiando o Ultraman, que se tornou uma parte fundamental da promoção da reintegração do Ultraman. A maioria dos funcionários disse na carta que ingressaria na Microsoft se Altman não fosse reintegrado.

Lilian Weng

Lilian Weng é atualmente chefe do sistema de segurança OpenAI e está envolvida principalmente em aprendizado de máquina, aprendizado profundo e outras pesquisas.

Weng se formou na Universidade de Pequim com bacharelado em sistemas de informação e ciência da computação. Ele foi para a Universidade de Hong Kong para um intercâmbio de curto prazo e depois recebeu um doutorado na Universidade de Indiana em Bloomington.

Durante seu doutorado, o campo de pesquisa de Weng foi sistemas e redes complexas, com foco em mídias sociais, jogos sociais, interação humano-computador e modelagem complexa de redes de informação.

Abrindo seu perfil no Google Scholar, você também pode ver artigos que Weng publicou em memes e redes sociais.

Certa vez, ela fez um estágio em análise de usuários no eBay, Mozilla e outras empresas, e depois "mudou" com sucesso para trabalhar em engenharia de software e ciência de dados no Facebook e no Dropbox.

Desde 2018, Weng ingressou na OpenAI como cientista pesquisador. Como diretor técnico da equipe de robótica, Weng se concentra no treinamento de algoritmos para tarefas robóticas.

Mais tarde, Weng também liderou a equipe de pesquisa aplicando inteligência artificial e atualmente é o líder da equipe de segurança.

Em julho deste ano, a OpenAI transferiu Aleksander Madry, antigo chefe da equipe de segurança, para uma equipe focada no trabalho básico de inferência. Uma pessoa familiarizada com o assunto disse que a equipe de segurança originalmente liderada por Madry foi transferida para Lilian Weng.

Weng agora gerenciará equipes focadas na segurança de IA de longo e curto prazo, uma decisão organizacional que preocupa alguns pesquisadores porque os incentivos para segurança de longo e curto prazo podem entrar em conflito entre si.

Vale ressaltar que os artigos do blog escritos por Weng em seu site pessoal são muito populares. São basicamente artigos longos de 10.000 palavras. Eles contêm informações técnicas e opiniões, e são uma referência para muitas pessoas do setor.

Referências:

https://www.theinformation.com/articles/the-rising-guard-at-openai?rc=epv9gi

https://www.sahmcapital.com/news/content/meet-jakub-pachocki-openais-new-chief-scientist-after-ilya-sutskevers-exit-sam-altman-hails-him-as-one-of- as-maiores-mentes-da-nossa-geração-2024-05-15