notícias

destaques:

de acordo com pessoas familiarizadas com o assunto, a saída repentina da diretora de tecnologia da openai, mira murati, no final do mês passado, atraiu ampla atenção na indústria. embora ela tenha mencionado em sua declaração de demissão que queria “realizar sua própria exploração”, segundo pessoas familiarizadas com o assunto, as razões por trás disso são complicadas.

é relatado que há uma disputa dentro da openai sobre o lançamento do modelo o1 no mês passado. alguns funcionários acreditam que o modelo ainda não está pronto para o mercado, mas para se solidificaropenaiexistirialíder na área, um grupo de pessoas liderado pelo ceo sam altman insistiu em lançar o modelo o1. isto reflecte a tensão entre a equipa de investigação interna da empresa e a equipa comercial, sendo a primeira mais preocupada com a segurança dos produtos e o controlo de riscos, enquanto a segunda está ansiosa por trazer produtos ao mercado para obter rentabilidade.

como cto da empresa, mulati está frequentemente no centro deste cabo de guerra, lidando não apenas com divergências entre as equipas de investigação e tecnologia e as equipas comerciais, mas também com as críticas dos funcionários ao cofundador e presidente da empresa, greg brockman. o estilo de liderança de greg brockman e a insatisfação contínua sobre o seu papel na luta interna pelo poder em novembro passado. a pressão acabou por afetar mulati, levando à sua demissão abrupta na última quarta-feira.

no mesmo dia, o diretor de pesquisa bob mcgrew e o vice-presidente de pesquisa barret zoph também anunciaram sua decisão de sair. esta reação em cadeia desencadeou ainda mais preocupações externas sobre a estabilidade do questionamento sexual da openai. a demissão de três gestores seniores no mesmo dia, juntamente com a saída de muitos investigadores e funcionários seniores nos últimos seis meses, fez com que a estabilidade da openai enfrentasse desafios sem precedentes.

para melhorar seu apelo aos investidores, altman revelou aos funcionários que a openai planeja reorganizar sua intrincada estrutura atual. na estrutura atual da openai, uma fundação sem fins lucrativos atua como empresa-mãe e controla o seu braço com fins lucrativos. após a conclusão da reorganização, a divisão com fins lucrativos não estará mais sob o controle da empresa-mãe sem fins lucrativos.

desenvolvimento apressado e testes de segurança

na acirrada competição na indústria de inteligência artificial, a openai está ansiosa para demonstrar sua força técnica e acelerar os testes e lançamento do mais recente modelo de inteligência artificial gpt4-o. segundo fontes internas, o processo de lançamento do gpt-4o foi extremamente precipitado e a equipe de segurança teve que trabalhar horas extras sob restrições de tempo e concluiu a avaliação de segurança em apenas nove dias. embora a equipe tenha solicitado mais tempo, a administração insistiu em lançar conforme planejado. a razão é que o google planeja demonstrar um modelo de ia com funções semelhantes na conferência i/o, e a openai espera aproveitar a oportunidade. embora os testes de segurança não tenham sido totalmente concluídos, avaliações preliminares acreditam que o gpt-4o pode ser lançado com segurança. no entanto, pesquisas subsequentes descobriram que as capacidades do modelo podem ter excedido os limites de segurança, levantando preocupações sobre possíveis abusos. a openai negou, insistindo que a decisão de lançamento foi baseada em processos de segurança internos e que o gpt-4o passou por uma avaliação de segurança cuidadosa.

além disso, outro modelo openai o1 também enfrenta problemas semelhantes. o1 tem um bom desempenho em tarefas de lógica e matemática e é visto como um passo importante em direção à inteligência artificial geral (agi). no entanto, o lançamento do modelo gerou controvérsia dentro da empresa, com alguns funcionários considerando o seu desempenho como inconsistente e insuficientemente seguro. o cofundador wojciech zaremba também mencionou conflitos durante o desenvolvimento. mas altman promoveu o rápido lançamento do modelo o1 para demonstrar a liderança tecnológica da openai a potenciais investidores. embora houvesse objeções da equipe de que a o1 ainda não estava pronta, as objeções foram ignoradas. atualmente, o1 ainda está em fase de ajustes para melhorar a segurança e a utilidade de suas respostas.

em relação à segurança do o1, os membros do comitê de supervisão de segurança e proteção do conselho de administração da openai afirmaram que o lançamento do modelo seguiu rigorosas medidas de avaliação e segurança. ainda assim, alguns especialistas expressaram preocupações sobre a capacidade de persuasão do o1 e outros riscos de segurança. por fim, apesar da pressão e da polêmica, um porta-voz da openai ainda afirmou que a empresa está confiante na avaliação de segurança do modelo e enfatizou que centenas de milhões de pessoas usaram o gpt-4o com segurança desde o seu lançamento. o porta-voz de mulati negou que a pressão relacionada ao lançamento apressado do modelo ou a questões de gestão tenha desempenhado qualquer papel na decisão de mulati de renunciar. “ela trabalhou em estreita colaboração com sua equipe e depois de uma grande vitória, sente que agora é o momento certo para sair”, disse o porta-voz.

a lealdade permanece um mistério não resolvido

dentro da openai, a controvérsia sobre o lançamento do modelo parece ser apenas parte da tensa relação entre altman e mulati. pessoas familiarizadas com o assunto disseram que o comportamento de mulati durante a breve destituição de altman levantou questões sobre a sua lealdade. quando altman foi demitido em novembro, os funcionários expressaram dúvidas sobre a lealdade de mulati. ela foi nomeada ceo interina pelo antigo conselho de administração e soube da demissão 12 horas antes de seu anúncio, enquanto outros executivos só souberam quando foi anunciado. alguns apoiadores do ultraman acreditam que mulati deveria ter informado o ultraman com antecedência. mulati prometeu pressionar pela reintegração de altman após ser nomeada ceo interina, mas dias depois foi substituída por emmett shear. altman retomou seu cargo de ceo cinco dias depois, e murati retornou ao cargo de diretor de tecnologia.

é relatado que mulati expressou preocupações sobre seu estilo de liderança a altman e ao conselho de administração, o que pode ter influenciado a decisão do conselho de demitir altman. embora ela negue ter contatado proativamente o conselho, ela admitiu ter fornecido feedback sobre altman quando contatada. as ações de mulati levantam novas questões sobre a lealdade de altman, com as quais alguns investidores podem estar insatisfeitos. além disso, mulati também teve que lidar com atritos causados ​​por brockman, que era conhecido como um workaholic que muitas vezes entrava em projetos de última hora, pressionando os funcionários. mulati teve que intervir para tentar controlar a situação ou acalmar os funcionários. eventualmente, brockman foi aconselhado a tirar uma licença, que mais tarde anunciou nas redes sociais. um porta-voz da openai disse que a decisão de brockman foi voluntária e que ele retornará à empresa no final do ano.

mudanças na cultura corporativa

a openai passou por uma mudança cultural e estrutural nos últimos 10 meses, que começou com a breve saída de altman. as saídas dos cofundadores ilya sutskever e john schulman, bem como um êxodo em massa de investigadores de segurança, sinalizaram uma mudança no foco da empresa. depois de votar a favor da demissão de altman, sutskofer optou por sair e fundou uma startup chamada safe super intelligence, com foco no controle de segurança de futuros sistemas de inteligência artificial. os pesquisadores seniores jan leike e schulman também se juntaram ao concorrente antrópico para expressar preocupações sobre a tendência de produtização da openai e a negligência com a segurança da inteligência artificial.

à medida que o número de funcionários dobrou, a estratégia de recrutamento da openai também mudou. a maioria dos novos funcionários vem de grandes empresas de tecnologia, e não de campos tradicionais de pesquisa em inteligência artificial. essas novas contratações se concentram mais no gerenciamento de produtos e nas vendas do que na pura pesquisa. esta mudança resultou numa mudança significativa na cultura da empresa, passando de discussões centradas na investigação para o desenvolvimento de produtos e implantação no mercado.

o plano de altman para reformular a estrutura da empresa, libertando as fundações sem fins lucrativos do controlo do braço com fins lucrativos e eliminando os limites aos ganhos dos investidores, perturbou alguns antigos funcionários. eles temem que as mudanças possam enfraquecer o compromisso da openai com a segurança. no entanto, alguns colaboradores estão otimistas com as mudanças, dizendo que irão reduzir os conflitos internos e tornar a empresa mais eficiente.

altman agora supervisiona pessoalmente a equipe de tecnologia, sinalizando que estará mais diretamente envolvido no desenvolvimento tecnológico da empresa. embora a openai tenha perdido muitos dos seus principais executivos, altman ainda precisa provar que a empresa tem talento suficiente para sustentar o seu sucesso e evitar mais turbulências internas. resta saber se estas mudanças podem levar a openai a um caminho mais comercial e orientado para o produto, mantendo ao mesmo tempo o seu compromisso com a segurança da ia. (compilado pela tencent technology/wuji)