notícias

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

A turbulência pessoal da OpenAI se intensificou desde que o CEO Sam Altman foi demitido e recontratado pelo conselho de administração da OpenAI no ano passado.

Desde o início deste ano, muitos executivos seniores renunciaram. No momento, apenas três dos 11 cofundadores da OpenAI permanecem: Altman, Wojciech Zaremba, chefe da equipe de linguagem e geração de código, e Greg Brockman, o presidente que está de licença.

Por que a OpenAI, que tem enorme influência no campo da inteligência artificial, não consegue reter esses fundadores?

liberar esses sinais

No início deste mês, John Schulman, que desempenhou um papel importante na construção do ChatGPT, anunciou que estava deixando a OpenAI e se juntando ao concorrente Anthropic. Ele disse: “Decidi perseguir o objetivo de estudar o alinhamento de IA na Anthropic e realizar pesquisas com pessoas que se aprofundam em tópicos que me interessam”, Peter Deng, vice-presidente de produtos de consumo e líder de produto que ingressou no ano passado, também anúncio oficial de. renúncia.

Liu Pengfei, professor associado da Universidade Jiao Tong de Xangai e chefe do grupo de pesquisa de inteligência artificial generativa, disse em entrevista ao China Business News: “A saída de pesquisadores seniores como Schulman mostra que OpenAI pode não ser mais a primeira escolha para os principais Cientistas de IA. Outros se concentram em IA. Empresas seguras como a Anthropic ou novas startups estão atraindo talentos, o que pode ser um sinal de diversificação no ecossistema de pesquisa de IA.

É importante notar que Brockman, que permaneceu firme ao lado de Altman durante a tempestade de recalls do ano passado, também anunciou que tiraria uma licença até o final do ano quase ao mesmo tempo, dizendo: "A tarefa está longe de ser concluída, ainda precisamos construir uma AGI segura." (Inteligência Artificial Geral)”.

A este respeito, Tan Yinliang, professor de ciência da decisão e sistemas de informação de gestão na China Europe International Business School, disse em entrevista ao China Business News que a indústria geralmente interpretou a mudança de Brockman como uma saída iminente porque o ex-cofundador da OpenAI, Andrej Karpathy, também renunciou após longas férias.

Tan Yinliang disse que as ações recentes de Schulman e Brockman emitiram dois sinais: primeiro, há problemas na gestão interna da OpenAI, cientistas de destaque podem continuar a sair e a lacuna de desenvolvimento entre outras empresas de IA e a OpenAI pode desaparecer gradualmente; segundo, GPT5; O desenvolvimento de modelos de próxima geração pode ter encontrado um gargalo, e a área técnica pode ter que pensar se a ScalingLaws (a lei da escala) está chegando ao fim.

“Quando no próximo mês as cláusulas de não concorrência nas empresas americanas forem completamente abolidas e o fluxo de talentos em IA for completamente desvinculado, o problema de fuga de cérebros da OpenAI pode se tornar ainda mais sério.”

"Rebelde" abre uma nova era

De acordo com estatísticas de instituições de pesquisa do setor, quase 75 funcionários principais da OpenAI renunciaram e fundaram cerca de 30 startups de inteligência artificial. Dario Amodei, fundador e CEO da empresa de inteligência artificial Anthropic, disse em um programa em julho que as empresas de modelos de inteligência artificial estão prestes a ganhar mais de um trilhão de dólares em receitas. No mercado de inteligência artificial em escala de trilhões, a OpenAI e seus funcionários expatriados podem representar mais da metade do mercado.

Os irmãos Amodei atuaram como vice-presidente de pesquisa e vice-presidente de política de segurança na OpenAI. Em 2020, eles renunciaram devido à insatisfação com o lançamento direto do GPT-3 pela OpenAI sem resolver problemas de segurança. Eles também levaram o ex-diretor de políticas Jack Clark e o pesquisador Jared Kaplan para participarem da criação de 14 pesquisadores. A empresa arrecadou pelo menos US$ 7 bilhões em financiamento desde 2021 de gigantes da tecnologia como Google e Amazon. A versão mais recente do chatbot, Claude 3.5 Sonnet, lançada em junho, é considerada equivalente ou melhor que o GPT-4o da OpenAI em desempenho geral.

Perplexity, uma empresa de pesquisa de inteligência artificial fundada em agosto de 2022 pelo ex-cientista pesquisador da OpenAI Aravind Srinivas, está atualmente avaliada em mais de US$ 3 bilhões. A empresa disse que teve 250 milhões de consultas no mês passado, metade do número de todo o ano passado. O crescimento explosivo fez com que a Perplexity fosse considerada uma forte concorrente do Geimini do Google e do SearchGPT da OpenAI.

Em julho deste ano, Musk, cofundador da OpenAI e CEO da Tesla, também “conseguiu o último bilhete” e anunciou a criação de sua empresa de inteligência artificial xAI para “compreender a verdadeira natureza do universo”.

Tan Yinliang disse: "É relativamente comum que os fundadores abandonem o campo da tecnologia pesada, e essa cultura de 'êxodo' tem prevalecido desde o início da ascensão do Vale do Silício. O mais famoso é o 'Fairy Child Eight Rebels' ', essas oito pessoas que começaram na Fairchild Depois de deixar seu emprego, ele fundou um grande número das primeiras empresas de tecnologia, incluindo Intel e AMD. Foi esse grupo de empresas que fez o Vale do Silício de São Francisco Na era da inteligência artificial, todas. oito autores do artigo "AttentionIsAllYouNeed", que lançou as bases para o grande modelo, agora também estão presentes. Deixaram o Google e abriram sua própria empresa.

Ele disse: "Planos empreendedores pessoais e várias diferenças filosóficas que surgem durante o processo de desenvolvimento da empresa podem ser as razões para a saída dos fundadores. No entanto, às vezes sair não é necessariamente uma coisa ruim. São esses 'renegados' que se abrem um novo campo e tempos.

Segurança é um tópico que a OpenAI não pode evitar

Contudo, é inegável que “segurança” e “alinhamento” também são palavras de alta frequência nas declarações de demissão dos fundadores.

Além de Schulman, o cofundador e cientista-chefe da OpenAI, Ilya Sutskever, e o líder da equipe Super Alignment, Jan Leike, anunciaram suas demissões em maio. Lake até reclamou nas redes sociais X que “a cultura e os processos de segurança deram lugar a produtos brilhantes”.

Posteriormente, Suzkwer anunciou a criação de uma nova empresa de inteligência artificial, Safe Superintelligence Inc. (SSI), em junho deste ano e afirmou que “a superinteligência segura é nosso único foco”. Lake juntou-se à Anthropic, empresa rival de inteligência artificial da OpenAI, para “continuar a missão de superalinhamento”.

A este respeito, Tan Yinliang disse: "No campo da inteligência artificial, 'Alinhamento' (AIAlignment) refere-se a garantir que o comportamento do sistema de IA seja consistente com os valores humanos, intenções e objetivos esperados. Simplificando, é para fazer com que a IA atenda melhor às necessidades humanas. É necessário pensar nas coisas e nos valores das pessoas. Altman não fez o suficiente no departamento de segurança. Ele originalmente prometeu dar 20% dos recursos de poder de computação para a equipe de superalinhamento. o conceito foi alterado e toda a equipe de segurança dividiu os 20%. Para um grupo de cientistas com intenções originais, a segurança é a sua insistência.”

No final de julho deste ano, a OpenAI também transferiu Aleksander Madry, diretor sênior do departamento de segurança, de seu cargo de segurança e o transferiu para o trabalho de "raciocínio de IA". No início deste mês, Musk mais uma vez entrou com uma ação judicial contra a OpenAI e Altman, acusando a OpenAI de colocar os lucros e os interesses comerciais acima dos interesses públicos, desviando-se da intenção original de beneficiar toda a humanidade quando a empresa foi fundada.

Li Wei'an, professor titular da Universidade de Nankai e reitor do Instituto de Pesquisa de Governança Corporativa da China, disse em entrevista ao China Business News: "No empreendedorismo tradicional, muitas mudanças de emprego se devem à falta de remuneração, ações ou cargos correspondentes ao valor criado, mas esse não é o principal motivo da saída dos cofundadores da OpenAI.”

Ele disse que os fundadores da OpenAI basicamente não possuem ações Do ponto de vista da governança da inteligência artificial, a principal razão pela qual os fundadores saíram é o conflito de conceitos de governança, ou seja, se a governança da inteligência artificial é para o bem ou para o lucro.

ChallengerAntrópico

De Lake a Schulman, a Anthropic continua a atrair membros importantes da OpenAI.

A empresa também contratou recentemente Pavel Izmailov, ex-pesquisador da OpenAI que foi demitido em abril deste ano por suposto vazamento de informações. Steven Bills, que é membro da equipe técnica da OpenAI há mais de dois anos, também disse no mês passado que havia deixado a OpenAI para se juntar à equipe de alinhamento da Anthropic.

Liu Pengfei disse que a Anthropic fez da segurança e do alinhamento da IA ​​sua missão principal desde o seu início. Este foco permite concentrar mais recursos e atenção em questões de alinhamento, potencialmente proporcionando aos pesquisadores um ambiente de pesquisa mais puro. Além disso, para um pesquisador sênior como Schulman, trabalhar em uma empresa mais nova e relativamente menor pode significar maior influência e mais oportunidades para moldar a direção da empresa, o que é mais importante para quem espera trabalhar em uma empresa muito atraente para o meio da carreira. pesquisadores em busca de novos desafios.

Li Wei'an disse: "A inovação da Anthropic na estrutura de governança corporativa reflete um melhor equilíbrio entre negócios e segurança, o que também pode ser a razão pela qual pode continuar a atrair talentos para mudar de emprego".

Ele explicou: “Para encontrar um equilíbrio entre IA para o bem e IA para lucro, em termos de estrutura de governança, a Anthropic estabeleceu um comitê de confiança composto por figuras conhecidas na sociedade para supervisionar os diretores. que violam o propósito da tecnologia para o bem. Além disso, para garantir a implementação do sistema, a Anthropic também criou uma classe especial de ações T para serem detidas pelos membros do trust.

Em maio deste ano, Amodei disse numa cimeira: "Temos sete cofundadores. Três anos e meio depois, todos ainda estamos na empresa."

Quanto aos desafios enfrentados pela OpenAI, Tan Yinliang disse: "Olhando para outras empresas de IA, o modelo de Claude superou o GPT em alguns campos. Quando todos estão correndo na rota estabelecida do Transformer, o ponto final e o caminho são realmente muito claros. . Atualmente, se os cientistas continuarem a sair, a vantagem da OpenAI como pioneiro não será intransponível.”

"Em agosto, Musk também reiniciou o processo contra a OpenAl. Em termos financeiros, as perdas anuais da OpenAI podem chegar a 5 bilhões de dólares americanos, e seu fluxo de caixa pode se esgotar no próximo ano. Em meio a preocupações internas e externas, este ano deve ser um bom começo para OpenAI. É muito difícil", disse ele.