notizia

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

cosa è successo a openai?

openai, coinvolta in una tempesta di dimissioni esecutive, ha recentemente acceso l’entusiasmo delle masse.

da un lato è stato rivelato che la valutazione post-investimento ammontava a 150 miliardi di dollari, il che lo rende il cucciolo più bello tra gli unicorni dell'intelligenza artificiale globale. dall'altro ha perso tre giganti della tecnologia di seguito l'unico veterano imprenditoriale rimasto in carica è altman. questo è un comandante scapolo. i due giorni di openai sono stati come un mondo di ghiaccio e fuoco.

‍ immagine tramite @blizaine

‍le dimissioni dei dirigenti sono comuni in qualsiasi azienda di intelligenza artificiale, ma ciò che è diverso è che la "battaglia giudiziaria" avvenuta a openai lo scorso anno ha senza dubbio dato a questa tempesta uno strato di teoria della cospirazione.

ben presto, i media stranieri the information hanno rivelato la storia interna del turnover dei dipendenti di openai.

come al solito, parliamo prima della conclusione. l’ondata di dimissioni di openai può essere grosso modo divisa in due ragioni.in primo luogo, i dirigenti si sono sentiti offesi e, in secondo luogo, non hanno ricevuto abbastanza soldi.

mi sento offeso

è difficile immaginare che l’opinione pubblica possa cambiare così rapidamente sulla stessa questione.

l'anno scorso, il ceo di openai sam altman interpretava ancora il ruolo di "wei guangzheng" nel "palace fight". a quel tempo, la maggior parte dei media valutava il timoniere come lo steve jobs dell'ia, e dopo veniva addirittura inserito nella posizione 2.0. jobs è stato scacciato.

quest’anno, quando un gran numero di dirigenti di openai se ne sono andati uno dopo l’altro, l’opinione pubblica si è improvvisamente rivoltata contro altman.

gli amici che non sono a conoscenza di questo argomento possono fare clic di nuovo per leggere il nostro rapporto di ieri: openai non è più aperto? ristrutturazione aziendale, terremoto in un grattacielo, ma non è poi così grave

per dirla in parole povere, nelle prime ore di ieri mattina, mira murati, chief technology officer di openai, ha improvvisamente annunciato le sue dimissioni.

poche ore dopo che murati aveva annunciato le sue dimissioni, anche il direttore della ricerca di openai bob mcgrew e il vicepresidente della ricerca barret zoph hanno annunciato i loro piani di dimissioni.

all'epoca, altman fece anche capire alla piattaforma x che mira, bob e barret avrebbero preso queste decisioni in modo indipendente e amichevole.si noti che l'enfasi qui è su "indipendente e amichevole".

in effetti, l’ondata di dimissioni di openai potrebbe avere a che fare anche con altman, la persona al timone.

i media stranieri the information hanno riferito che alcune persone che lavorano direttamente con altman o con i suoi delegati lo credonoaltman tende ad esacerbare le lotte di potere all’interno dell’azienda.

quando la leadership aziendale chiedeva ulteriori assunzioni o risorse, altman evitava di prendere queste difficili decisioni, al punto che altri dirigenti, come gli attuali presidenti brockman e murati, a volte dovevano assumere quel ruolo.

a maggio, jan leike, uno degli ex leader del team super alignment di openai, ha annunciato ufficialmente le sue dimissioni.

il giorno delle sue dimissioni, jan leike ha pubblicato con rabbia più di dieci "piccoli saggi".il viaggio mentale prende di mira openai e altman, le parole sono completamente piene di delusione.

ieri è stato il mio ultimo giorno come capo dell'iperallineamento, leadership senior e membro della suite esecutiva di openai.

il mio team ha intrapreso un viaggio molto emozionante negli ultimi 3 anni circa. introduciamo instructgpt, il primo modello linguistico di grandi dimensioni (llm) addestrato con l'apprendimento di rinforzo con feedback umano (rlhf), pubblichiamo il primo studio supervisionato e scalabile su modelli linguistici di grandi dimensioni e lavoriamo sull'interpretabilità automatizzata e sono stati raggiunti risultati pionieristici da deboli a forti nella generalizzazione. presto verranno pubblicati risultati di ricerca più interessanti.

tengo molto alla mia squadra. sono incredibilmente grato di lavorare con così tante persone fantastiche, sia all'interno del team super alignment che con partner esterni al team. openai ospita persone incredibilmente intelligenti, amichevoli ed efficienti.

rinunciare a questo lavoro è stata una delle decisioni più difficili della mia vita perché dobbiamo trovare rapidamente modi per guidare e controllare sistemi di intelligenza artificiale che sono molto più intelligenti di noi.

ho scelto di unirmi a openai perché penso che sia il posto migliore al mondo per condurre questa ricerca. tuttavia, ho avuto disaccordi di lunga data con la leadership di openai sulle principali priorità di sviluppo dell'azienda e alla fine le nostre differenze sono cresciute al punto da diventare inconciliabili.

credo fermamente che dovremmo investire più risorse ed energie nella preparazione per la nuova generazione di modelli di ia, tra cui sicurezza, monitoraggio, preparazione alle emergenze, ricerca sulla sicurezza, resistenza agli attacchi avversari, questioni di allineamento dell’ia, ricerca sulla riservatezza, impatto sociale, ecc.

questi problemi sono molto complessi e impegnativi da risolvere e temo che il nostro attuale percorso di sviluppo non riuscirà a raggiungere con successo i nostri obiettivi.

il mio team ha dovuto affrontare enormi sfide negli ultimi mesi.a volte abbiamo avuto difficoltà a ottenere risorse informatiche adeguate, rendendo sempre più difficile il completamento di questa ricerca fondamentale.

creare macchine che superino l’intelligenza umana è un’impresa intrinsecamente rischiosa. openai si sta assumendo questa enorme responsabilità a nome di tutta l’umanità. tuttavia, negli ultimi anni, la cultura e i processi della sicurezza sono stati marginalizzati nel perseguimento di uno sviluppo prodotto convincente.

è ormai giunto il momento di prendere con estrema serietà l’impatto di vasta portata dell’intelligenza artificiale generale (agi). dobbiamo fare del nostro meglio per dare priorità alla preparazione dell’agi. solo in questo modo possiamo garantire che l’intelligenza artificiale generale possa portare benefici a tutta l’umanità.

openai deve trasformarsi in una società generale di intelligenza artificiale che metta la sicurezza al primo posto.

voglio dire a tutti i dipendenti di openai: imparate a sentire l'intelligenza generale artificiale (agi). agisci con una serietà degna di ciò che stai costruendo. credo che si possa “lanciare” il cambiamento culturale necessario. conto su di te. il mondo intero conta su di te. :openai-cuore:

anche helen toner, una delle forze trainanti dietro il successivo "licenziamento" di altman, ha rivelato ulteriori informazioni privilegiate al mondo esterno.

ha detto che ad altman piace "prima tagliare e poi raccontare dopo" quando si tratta di questioni di sicurezza aziendale:

in numerose occasioni ci ha fornito informazioni inesatte sui processi formali di sicurezza adottati dall'azienda.

ciò significa che è sostanzialmente impossibile per il consiglio di amministrazione sapere quanto bene funzionano questi processi di sicurezza o quali modifiche potrebbero essere necessarie.

per quanto riguarda il motivo per cui altman è tornato nel consiglio di amministrazione con il sostegno dei dipendenti, helen ha detto:

i resoconti dei media erano sbagliati e molti dipendenti credevano che openai sarebbe stata "distrutta" se altman non fosse tornato nel consiglio di amministrazione.

molti dipendenti non vogliono che l’azienda vada in pezzi, non vogliono perdere il lavoro e devono liquidare il proprio capitale.

i dipendenti temono l'opposizione ad altman e il timore di ritorsioni se altman tornasse al potere

altman è stato licenziato e accusato di cattiva condotta

le informazioni di cui sopra potrebbero anche permetterci di vedere un altman più "tridimensionale".

inoltre, una persona a conoscenza della questione ha affermato che brockman e murati spesso non erano d'accordo sui piani di sviluppo dell'intelligenza artificiale dell'azienda.

sebbene brockman, in qualità di presidente dell'azienda, sia solitamente responsabile della pianificazione strategica complessiva e del processo decisionale dell'azienda, è anche coinvolto in progetti specifici, come la conversione dei primi risultati della ricerca sull'intelligenza artificiale in prototipi di prodotti pratici.

questa sovrapposizione di ruoli sia di decisore che di esecutore può facilmente portare a disaccordi con le opinioni e i piani di murati e del suo team tecnico.

alla conferenza più importante di openai quest'anno, murati ha sostenuto il rilascio del nuovo modello gpt-4o.

questo è anche un ruolo importante che murati ha svolto in passato, ovvero risolvere le differenze tra i team di sicurezza e di prodotto dell'azienda prima e dopo il lancio del prodotto.

le risorse informatiche sono fondamentali per la ricerca sull’intelligenza artificiale e l’ex dirigente mcgrew era responsabile dell’approvazione delle richieste dei ricercatori per ulteriori risorse informatiche. murati e mcgrew hanno partecipato congiuntamente alle decisioni riguardanti la definizione delle priorità e la selezione dei progetti delle aree di ricerca di openai.

secondo quanto riferito, durante la riunione dopo aver annunciato le sue dimissioni, mcgrew, che aveva lavorato presso openai per quasi otto anni, ha detto ai colleghi di sentirsi stanco e ha rivelato che, sebbene avesse una piscina a casa, raramente aveva avuto l'opportunità di usarla questo a causa del lavoro.

e alcuni dipendenti hanno affermato che altman, che ama la "pressione", spinge anche freneticamente il team dell'azienda a trasformare i risultati della ricerca rivoluzionaria in prodotti il ​​prima possibile, ed è normale lavorare giorno e notte.

di fronte a tanta intensità, anche dirigenti come murati e mcgrew si sentono esausti.

al giorno d'oggi, con la partenza di giganti della tecnologia come mira e mcgrew, si prevede che ciò avrà un impatto importante anche sulla posizione di openai nella competizione dei modelli di grandi dimensioni, soprattutto perché openai è nella fase di sviluppo del modello di linguaggio di grandi dimensioni di prossima generazione orion.

non abbastanza soldi

alla fine dello scorso anno, openai contava solo circa 770 dipendenti e ad oggi questo numero ha raggiunto più di 1.600.

openai in rapida espansione sta diventando una grande azienda sempre più focalizzata sul guadagno.

in passato, molti ricercatori di intelligenza artificiale del settore volevano lavorare presso openai, perché consentiva a piccoli team di poche persone di esplorare idee di ricerca che non erano ancora state dimostrate.

ma ora altman si occupa di fare soldi, fare soldi e fare soldi. lanciare nuovi prodotti per fare soldi o migliorare la tecnologia di chatgpt, il pilastro dei profitti, è diventata la sua massima priorità.

l'organizzazione di ricerca futuresearch una volta ha sottolineato che le entrate ricorrenti annuali di openai hanno raggiunto i 3,4 miliardi di dollari. l'84% delle entrate proviene dagli utenti a pagamento di chatgpt, mentre le entrate dell'interfaccia api rappresentano solo circa il 15%.

mentre la fama e la valutazione di openai aumentano vertiginosamente, anche i ricercatori chiave non sono disposti a generare elettricità per amore e sperano naturalmente di ricevere una remunerazione maggiore.

secondo il rapporto, negli ultimi anni, i dipendenti e gli ex dipendenti di openai hanno incassato un valore totale di oltre 1,2 miliardi di dollari vendendo le loro "quote di profitto" (ovvero i profitti che l'azienda ottiene dopo aver guadagnato) ad altri investitori.

mentre la tecnologia di openai continua ad avanzare, alcuni dipendenti di talento sperano ancora di ottenere un compenso maggiore e chiedono addirittura a gran voce di lasciare l'azienda per motivi di denaro e altri motivi.

murati e altri dirigenti, come il direttore finanziario sarah friar, subentrata a giugno, si sono occupati di questi problemi nell’ultimo anno.

inoltre, stanno reclutando anche concorrenti come safe super intelligence, una startup di intelligenza artificiale fondata da ilya sutskever, l'ex capo scienziato di openai, e il personale tecnico di openai è ovviamente richiesto.

secondo il rapporto, di fronte allo "scoppiamento" da parte di vecchi rivali, per trattenere i ricercatori, la leadership di openai non può che promettere pesanti pagamenti e benefici.

nel maggio di quest'anno, è stato rivelato che openai ha costretto i dipendenti in partenza a firmare accordi di licenziamento estremamente duri.

questo accordo proibisce loro di criticare openai a vita e anche ammettere che questo accordo esista è una violazione dell'accordo. se il dipendente in partenza rifiuta di firmare il documento o viola il documento, openai si riprenderà il capitale fino a milioni di dollari che il dipendente in partenza potrebbe aver ricevuto.

sebbene altman abbia subito chiarito,"è vero, ma non lo so. non è mai stato implementato in passato e non lo sarà in futuro.", ma il media straniero vox ha rivelato che uno dei documenti rilevanti dell'accordo porta chiaramente la firma di altman.

oltre ad essere un vero martello, questo documento ha anche colpito duramente altman.

la farsa dello schiaffo in faccia ha suscitato indignazione tra i dipendenti di openai. secondo quanto riferito, molti dipendenti di openai non solo hanno condiviso la loro "delusione" nei confronti di slack della propria azienda, ma hanno anche espresso il loro atteggiamento in privato con diversi dirigenti dell'azienda.

di fronte all'ondata di dimissioni, altman, che è vicino a diventare comandante scapolo, almeno appare al mondo esterno molto calmo.

durante un evento in italia, ha deliberatamente minimizzato il significato dell'incidente, dicendo che la mossa è stata una grande "transizione" per tutti i soggetti coinvolti e che sperava che openai diventasse più forte di conseguenza.

in una recente nota ai dipendenti, altman ha affermato di essere stato in precedenza responsabile della raccolta fondi, dei rapporti con i governi e della creazione di partnership con aziende come microsoft e apple.ma ora ha deciso di impegnarsi maggiormente nello sviluppo tecnologico e nella produzione dei prodotti dell'azienda.

e ieri ha anche postato sulla piattaforma x:

i cambiamenti di leadership sono normali per le aziende, soprattutto per quelle che crescono in modo così rapido ed esigente, ma non siamo un’azienda qualunque.

penso che le ragioni che mira mi ha spiegato (non c'è mai un buon momento, tutto ciò che non viene dal nulla trapela, e lei voleva farlo mentre openai era in ripresa) abbiano senso.