notícias

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

o que aconteceu com openai?

a openai, que está envolvida numa tempestade de demissões de executivos, despertou recentemente o entusiasmo das massas.

por um lado, foi revelado que a avaliação pós-investimento chegou a 150 bilhões de dólares americanos, tornando-o o filhote mais bonito entre os unicórnios globais de ia. por outro lado, perdeu três gigantes da tecnologia consecutivamente. o único veterano empreendedor remanescente no cargo é altman. este é um comandante solteiro. os dois dias da openai foram como um mundo de gelo e fogo.

‍ imagem via @blizaine

‍demissões de executivos são comuns em qualquer empresa de ia, mas a diferença é que a “batalha judicial” que ocorreu na openai no ano passado, sem dúvida, deu a esta tempestade uma camada de teoria da conspiração.

logo, a mídia estrangeira the information expôs a história interna da rotatividade de funcionários da openai.

como sempre, vamos falar primeiro sobre a conclusão. a onda de demissões da openai pode ser dividida em dois motivos.primeiro, os executivos sentiram-se injustiçados e, segundo, não receberam dinheiro suficiente.

me sinto injustiçado

é difícil imaginar que a opinião pública possa mudar tão rapidamente sobre o mesmo assunto.

no ano passado, o ceo da openai, sam altman, ainda desempenhava o papel de "wei guangzheng" na "luta do palácio". naquela época, a maior parte da mídia classificou o timoneiro como o steve jobs da ia, e até foi colocado na posição 2.0 depois. jobs foi expulso do roteiro.

este ano, com a saída de um grande número de executivos da openai, a opinião pública subitamente se voltou contra altman.

amigos que não sabem sobre este assunto podem clicar novamente para ler nosso relatório de ontem - o openai não está mais aberto? reestruturação de empresa, terremoto em arranha-céus, mas não é tão ruim

simplificando, nas primeiras horas da manhã de ontem, mira murati, diretora de tecnologia da openai, anunciou repentinamente sua renúncia.

poucas horas depois de murati anunciar sua renúncia, o diretor de pesquisa da openai, bob mcgrew, e o vice-presidente de pesquisa, barret zoph, também anunciaram seus planos de demissão.

na época, altman também deu a entender à plataforma x que mira, bob e barret tomaram essas decisões de forma independente e amigável.observe que a ênfase aqui está em “independente e amigável”.

na verdade, a onda de demissões na openai também pode ter algo a ver com altman, a pessoa que está no comando.

a mídia estrangeira the information informou que algumas pessoas que trabalham diretamente com altman ou seus representantes acreditam quealtman tende a exacerbar as lutas pelo poder dentro da empresa.

quando a liderança da empresa solicitava contratações ou recursos adicionais, altman evitava tomar essas decisões difíceis, tanto que outros executivos, como os atuais presidentes brockman e murati, às vezes tinham de assumir essa função.

em maio, jan leike, um dos ex-líderes da equipe super alignment da openai, anunciou oficialmente sua renúncia.

no dia de sua renúncia, jan leike postou com raiva mais de dez “pequenos ensaios”.a jornada mental tem como alvo openai e altman, as palavras estão completamente cheias de decepção.

ontem foi meu último dia como chefe de hiperalinhamento, liderança sênior e membro da suíte executiva da openai.

minha equipe tem vivido uma jornada muito emocionante nos últimos três anos ou mais. apresentamos o instructgpt, o primeiro modelo de linguagem grande (llm) treinado com aprendizagem por reforço com feedback humano (rlhf), publicamos o primeiro estudo supervisionado escalonável em modelos de linguagem grande e trabalhamos em interpretabilidade automatizada e resultados pioneiros de fraco a forte foram alcançados em generalização. resultados de pesquisas mais interessantes serão divulgados em breve.

valorizo ​​muito minha equipe. estou extremamente grato por trabalhar com tantas pessoas excelentes, tanto dentro da equipe do super alignment quanto com parceiros fora da equipe. openai é o lar de pessoas incrivelmente inteligentes, amigáveis ​​e eficientes.

desistir deste trabalho foi uma das decisões mais difíceis da minha vida porque temos de encontrar rapidamente formas de guiar e controlar sistemas de ia que são muito mais inteligentes do que nós.

escolhi ingressar na openai porque considero que é o melhor lugar do mundo para realizar esta pesquisa. no entanto, tive divergências de longa data com a liderança da openai sobre as principais prioridades de desenvolvimento da empresa, e as nossas diferenças acabaram por crescer até ao ponto em que eram irreconciliáveis.

acredito firmemente que devemos investir mais recursos e energia na preparação para a nova geração de modelos de ia, incluindo segurança, monitorização, preparação para emergências, investigação de segurança, robustez a ataques adversários, questões de alinhamento de ia, investigação sobre confidencialidade, impacto social, etc.

estes problemas são muito complexos e difíceis de resolver, e receio que o nosso actual caminho de desenvolvimento não atinja com êxito os nossos objectivos.

minha equipe tem enfrentado enormes desafios nos últimos meses.às vezes tivemos dificuldade em obter recursos computacionais adequados, tornando cada vez mais difícil a conclusão desta pesquisa crítica.

criar máquinas que superem a inteligência humana é uma tarefa inerentemente arriscada. a openai está assumindo esta enorme responsabilidade em nome de toda a humanidade. no entanto, nos últimos anos, a cultura e os processos de segurança foram marginalizados na busca pelo desenvolvimento convincente de produtos.

já passou da hora de levarmos extremamente a sério o impacto de longo alcance da inteligência artificial geral (agi). devemos fazer o nosso melhor para priorizar a preparação para a agi. só desta forma poderemos garantir que a inteligência artificial geral possa beneficiar toda a humanidade.

a openai deve se transformar em uma empresa geral de inteligência artificial que coloque a segurança em primeiro lugar.

quero dizer a todos os funcionários da openai: aprendam a sentir a inteligência artificial geral (agi). aja com uma seriedade digna do que você está construindo. acredito que você pode “promover” a mudança cultural necessária. estou contando com você. o mundo inteiro está contando com você. :openai-coração:

helen toner, uma das forças motrizes por trás da subsequente “demissão” de altman, também revelou mais informações privilegiadas ao mundo exterior.

ela disse que altman gosta de “cortar primeiro e depois contar” quando se trata de questões de segurança da empresa:

em diversas ocasiões, ele nos forneceu informações imprecisas sobre os processos formais de segurança implementados pela empresa.

isto significa que é essencialmente impossível para o conselho saber até que ponto estes processos de segurança estão a funcionar ou que alterações podem ser necessárias.

quanto ao motivo pelo qual altman voltou ao conselho em meio ao apoio dos funcionários, helen disse:

as reportagens da mídia estavam erradas e muitos funcionários acreditavam que a openai seria “destruída” se altman não retornasse ao conselho de administração.

muitos funcionários não querem que a empresa desmorone, não querem perder o emprego e precisam liquidar seu patrimônio.

os funcionários temem oposição a altman e medo de retaliação se altman retornar ao poder

altman tem um histórico de demissão e acusação de má conduta

as informações acima também podem nos permitir ver um altman mais “tridimensional”.

além disso, uma pessoa familiarizada com o assunto disse que brockman e murati frequentemente discordavam sobre os planos de desenvolvimento de ia da empresa.

embora brockman, como presidente da empresa, seja geralmente responsável pelo planejamento estratégico geral e pela tomada de decisões da empresa, ele também está envolvido em projetos específicos, como a conversão dos primeiros resultados de pesquisas de ia em protótipos práticos de produtos.

este papel sobreposto tanto de decisor como de executor pode facilmente levar a divergências com as opiniões e planos de murati e da sua equipa técnica.

na conferência mais importante da openai deste ano, murati apoiou o lançamento do novo modelo gpt-4o.

este também é um papel importante que murati desempenhou no passado, que é resolver diferenças entre as equipes de segurança e de produtos da empresa antes e depois do lançamento dos produtos.

os recursos computacionais são essenciais para a pesquisa de ia, e o ex-executivo mcgrew foi responsável por aprovar as solicitações dos pesquisadores por recursos computacionais adicionais. murati e mcgrew participaram conjuntamente nas decisões relativas à priorização e seleção de projetos nas áreas de pesquisa da openai.

segundo relatos, na reunião após anunciar sua demissão, mcgrew, que trabalhava na openai há quase oito anos, disse aos colegas que se sentia cansado e revelou que embora tivesse piscina em casa, raramente tinha tido a oportunidade de usar isso por causa do trabalho.

e alguns funcionários disseram que altman, que adora “pressão”, também pressiona freneticamente a equipe da empresa para transformar resultados de pesquisas inovadoras em produtos o mais rápido possível, e é comum trabalhar dia e noite.

diante de tamanha intensidade, até executivos como murati e mcgrew se sentem exaustos.

hoje em dia, com a saída de gigantes da tecnologia como mira e mcgrew, espera-se também que isto tenha um impacto importante na posição da openai na competição de grandes modelos, especialmente porque a openai está na fase de desenvolvimento do modelo de linguagem grande de próxima geração orion.

não há dinheiro suficiente

no final do ano passado, a openai contava com apenas cerca de 770 funcionários e, até agora, esse número atingiu mais de 1.600.

a openai em rápida expansão está se tornando uma grande empresa cada vez mais focada em ganhar dinheiro.

no passado, muitos pesquisadores de ia do setor queriam trabalhar na openai, porque isso permitia que pequenas equipes de poucas pessoas explorassem ideias de pesquisa que ainda não haviam sido comprovadas.

mas agora, altman tem tudo a ver com ganhar dinheiro, ganhar dinheiro e ganhar dinheiro. o lançamento de novos produtos lucrativos ou o aprimoramento da tecnologia do chatgpt, a base dos lucros, tornou-se sua principal prioridade.

a organização de pesquisa futuresearch apontou certa vez que a receita recorrente anual da openai atingiu us$ 3,4 bilhões. 84% da receita vem de usuários pagos do chatgpt, enquanto a receita da interface api representa apenas cerca de 15%.

à medida que a fama e a valorização da openai aumentam, os principais investigadores também não estão dispostos a gerar electricidade por amor e, naturalmente, esperam receber mais remuneração.

de acordo com o relatório, nos últimos anos, funcionários e ex-funcionários da openai sacaram um valor total de mais de us$ 1,2 bilhão vendendo suas “participações nos lucros” (ou seja, os lucros que a empresa obtém depois de ganhar dinheiro) para outros investidores.

à medida que a tecnologia da openai continua a avançar, alguns funcionários talentosos ainda esperam receber mais remuneração e até clamam para deixar a empresa por causa de dinheiro e outros motivos.

murati e outros executivos, como a diretora financeira sarah friar, que assumiu o cargo em junho, têm lidado com essas questões no ano passado.

além disso, concorrentes como a safe super intelligence, uma startup de ia fundada por ilya sutskever, o ex-cientista-chefe da openai, também estão recrutando, e o pessoal técnico da openai está obviamente em demanda.

de acordo com o relatório, face ao "estouro" de antigos rivais, a fim de reter os investigadores, a liderança da openai só pode prometer pagamentos e benefícios pesados.

em maio deste ano, foi revelado que a openai forçou os funcionários que estavam saindo a assinar acordos de demissão extremamente severos.

este acordo os proíbe de criticar a openai para o resto da vida, e até mesmo admitir que este acordo existe é uma violação do acordo. se o funcionário que está saindo se recusar a assinar o documento ou violar o documento, a openai recuperará o patrimônio no valor de até milhões de dólares que o funcionário que está saindo possa ter recebido.

embora altman tenha esclarecido rapidamente,“é verdade, mas não sei. nunca foi implementado no passado e não será feito no futuro.”, mas a mídia estrangeira vox revelou que um dos documentos relevantes do acordo traz claramente a assinatura de altman.

além de ser um verdadeiro martelo, esse documento também deu um tapa forte na cara de altman.

a farsa tapa na cara gerou indignação entre os funcionários da openai. segundo relatos, muitos funcionários da openai não apenas compartilharam sua “decepção” com o slack de sua própria empresa, mas também expressaram suas atitudes em particular com vários executivos da empresa.

diante da onda de demissões, altman, que está perto de se tornar o comandante solteiro, pelo menos parece bastante calmo para o mundo exterior.

num evento em itália, ele minimizou deliberadamente a importância do incidente, dizendo que a mudança foi uma grande “transição” para todos os envolvidos e que esperava que a openai se tornasse mais forte como resultado.

num memorando recente aos funcionários, altman disse que anteriormente era responsável pela angariação de fundos, pelas relações com governos e pelo estabelecimento de parcerias com empresas como a microsoft e a apple.mas agora ele decidiu se envolver mais no desenvolvimento tecnológico e na produção de produtos da empresa.

e ontem ele também postou na plataforma x:

mudanças de liderança são normais nas empresas, principalmente naquelas que crescem de forma tão rápida e exigente, mas não somos uma empresa comum.

acho que os motivos que mira me explicou (nunca há um bom momento, qualquer coisa que não surja do nada vaza, e ela queria fazer isso enquanto o openai estava em alta) fazem sentido.