notizia

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Rapporto sul cuore della macchina

Dipartimento editoriale di Machine Heart

La dirigenza di OpenAI ha ricevuto ancora una volta tre importanti novità di cambio di personale.

Innanzitutto, il presidente di OpenAI Greg Brockman, uno degli 11 cofondatori, prenderà un congedo a lungo termine.

Il dirigente ha svolto un ruolo cruciale nel trasformare i risultati rivoluzionari di OpenAI in modelli e prodotti di intelligenza artificiale su larga scala come ChatGPT, e ha rappresentato il ritorno di Sam Altman in azienda dopo essere stato estromesso dal consiglio di amministrazione.

La versione che Greg Brockman ha raccontato ai dipendenti era che intendeva tornare in azienda dopo un congedo prolungato. Tuttavia, le ferie a lungo termine per i dirigenti senior in posizioni chiave porteranno inevitabilmente ad alcune speculazioni dal mondo esterno.

Inoltre, un altro co-fondatore, John Schulman, ha annunciato il suo passaggio ad Anthropic, una società rivale fondata da ex dipendenti di OpenAI.

Mentre lavorava presso OpenAI, Schulman ha condotto un processo noto come "post-formazione" per perfezionare i grandi modelli linguistici alla base di ChatGPT e altri prodotti.

Schulman ha recentemente rilevato anche i resti del team Hyper-Alignment, che si concentra sulla prevenzione dell’intelligenza artificiale che causa danni alla società. In precedenza, il capo del team Super Alignment era Jan Leike, che ha annunciato le sue dimissioni lo stesso giorno del cofondatore e capo scienziato di OpenAI Ilya Sutskever. Ilya ha fondato una startup incentrata sulla sicurezza dopo aver lasciato OpenAI e Jan Leike si è unito ad Anthropic.

Secondo una persona con conoscenza diretta della questione, il responsabile del prodotto Peter Deng, entrato in azienda l'anno scorso e precedentemente ricoperto il ruolo di responsabile del prodotto presso Meta Platforms, Uber e Airtable, se ne è andato. OpenAI ha recentemente assunto il suo primo chief financial officer e chief product officer, e il loro arrivo probabilmente avrà un impatto sul ruolo di Deng.

Conosciamo anche un altro cofondatore di OpenAI, Andrej Karpathy, che se n'è andato a febbraio di quest'anno e ha fondato una startup educativa.

Queste improvvise notizie di dimissioni non sono necessariamente rilevanti, ma almeno illustrano un punto: da quando si è verificata la "Palace Fighting Farce" lo scorso novembre, sebbene Sam Altman sia tornato in OpenAI e ne abbia preso la guida, la leadership dell'azienda rimane instabile.

John Schulman: Questa è una decisione molto difficile

Successivamente, John Schulman ha rivelato la notizia del suo abbandono su X e ha spiegato di aver scelto di passare ad Anthropic perché voleva approfondire l'allineamento dell'IA, che è la pratica di allineare l'IA ai valori umani.

Per quei colleghi che hanno combattuto al suo fianco, John Schulman ha lasciato una lettera:

Ho preso la difficile decisione di lasciare OpenAI. Questa scelta è nata dal mio desiderio di concentrarmi ulteriormente sull'allineamento dell'IA e di iniziare un nuovo capitolo della mia carriera, tornando al lavoro tecnico in prima linea. Ho deciso di perseguire questo obiettivo presso Anthropic, dove credevo di poter acquisire nuove prospettive e condurre ricerche con persone che avrebbero approfondito gli argomenti che mi interessavano di più. Per essere chiari, non me ne andrò a causa della mancanza di supporto da parte di OpenAI per la ricerca sull'allineamento. Al contrario, i vertici aziendali si sono impegnati molto a investire in questo settore. La mia decisione è stata personale in base a dove volevo concentrarmi nella fase successiva della mia carriera.

Quasi 9 anni fa, sono entrato in OpenAI dopo essermi diplomato e sono diventato membro del team fondatore. Questa è la prima e unica azienda per cui abbia mai lavorato (a parte uno stage). Anche il lavoro è molto interessante e sono grato a Sam e Greg per avermi reclutato fin dall'inizio, e a Mira e Bob per aver avuto fiducia in me, dandomi molte opportunità e aiutandomi ad affrontare con successo varie sfide. Sono orgoglioso di ciò che abbiamo realizzato insieme a OpenAI: abbiamo costruito un'azienda insolita e senza precedenti con una missione di benessere pubblico.

Credo che OpenAI e il team di cui faccio parte continueranno a prosperare anche senza di me. Il lavoro di formazione successiva sta procedendo bene e abbiamo un gruppo di talenti eccezionali. ChatGPT: molto merito. È stato fantastico che Barret, insieme a Liam, Luke e altri, abbiano trasformato la squadra nella squadra molto capace che è ora. Sono lieto di vedere il team di coordinamento lavorare insieme per realizzare alcuni progetti promettenti. Sotto la guida di Mia, Boaz e altri, credo che la squadra sarà molto capace.

Sono estremamente grato per l’opportunità di far parte di un momento così importante nella storia e orgoglioso di ciò che abbiamo realizzato insieme. Anche se lavorassi altrove, vi sosterrei comunque.

Con lo stesso tono familiare, Ultraman Sam ha mandato via un altro partner imprenditoriale:

Il fondatore si dimise e la squadra si sciolse

I cambiamenti del personale di OpenAI sono iniziati con la disputa nel consiglio di amministrazione.

Nel novembre dello scorso anno, OpenAI annunciò che Sam Altman si sarebbe dimesso dalla carica di CEO e si sarebbe ritirato dal consiglio di amministrazione perché Sam Altman non era stato abbastanza sincero con il consiglio di amministrazione. L’ex capo scienziato di OpenAI Ilya Sutskever è stato il motore principale dell’intero incidente.

Ma pochi giorni dopo, Sam Altman è tornato in OpenAI come CEO e OpenAI ha annunciato una riorganizzazione del suo consiglio di amministrazione.

Quando si è verificata una "lotta di palazzo" in OpenAI e Ultraman Sam è stato espulso da OpenAI, alcune persone hanno detto che Ilya "ha visto qualcosa" che era abbastanza potente da farlo preoccupare per il futuro dell'IA e ripensarne lo sviluppo.

Alcuni lo hanno addirittura interpretato come: OpenAI potrebbe aver implementato l'AGI internamente, ma non ha sincronizzato le informazioni per più persone in modo tempestivo. Per evitare che la tecnologia venga applicata su larga scala senza una valutazione della sicurezza, Ilya e altri hanno insistito chiave di arresto di emergenza. Ma queste sono solo supposizioni.

Dopo un periodo di tumulto, Ultraman sembra riuscire a gestire OpenAI più liberamente, mentre Ilya Sutskever è in imbarazzo.

Nel maggio di quest'anno, il cofondatore e capo scienziato di OpenAI Ilya Sutskever ha annunciato ufficialmente le sue dimissioni. Nello stesso momento in cui Ilya, Jan Leike, co-leader del team Super Alignment, ha annunciato la sua partenza. Il team Super Alignment di OpenAI è stato sciolto.

A giugno, Ilya ha dichiarato su X di aver fondato una nuova società: "Safe SuperIntelligence (SSI)".

Jan Leike ha anche annunciato alla fine di maggio che si unirà al concorrente di OpenAI Anthropic per continuare a lavorare sulla ricerca sul super allineamento. Dopo che John Schulman ha annunciato il suo ingresso in Anthropic, Jan Leike ha commentato: "Sono molto felice di lavorare di nuovo insieme!"

Per motivi di sicurezza, il consiglio di amministrazione di OpenAI ha annunciato a maggio l'istituzione di un nuovo comitato per la sicurezza e la protezione, guidato dai direttori Bret Taylor (presidente del consiglio), Adam D'Angelo, Nicole Seligman e Sam Altman (CEO). Questo comitato ha il compito di formulare raccomandazioni all'intero Consiglio di amministrazione sulle decisioni critiche in materia di sicurezza per progetti e operazioni OpenAI.

Tuttavia, i cambiamenti del personale sono continuati. Ciò induce le persone a speculare su cosa sta succedendo all'interno di OpenAI.

Quindi, quanto sarà lontano il grande modello AI di prossima generazione di OpenAI dall’AGI? Vale la pena preoccuparsi della sicurezza dei modelli di grandi dimensioni?

Vale la pena notare che OpenAI sembra rallentare negli ultimi tempi. Le notizie rilasciate da OpenAI il DevDay questo autunno affermavano che GPT-5 non sarà rilasciato per il momento, abbassando le aspettative per il rilascio di modelli di grandi dimensioni, e si concentrerà sull'aggiornamento delle sue API e dei servizi per gli sviluppatori.

Link di riferimento: https://www.theinformation.com/articles/trio-of-leaders-leave-openai?rc=ks2jbm