Continuano le turbolenze nel personale di OpenAI: il co-fondatore prende un congedo a lungo termine, un altro membro del team fondatore si unisce ad Anthropic
2024-08-07
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
La mattina del 6 agosto, ora di Pechino, OpenAI ha accolto con favore un altro cambio di personale di alto livello.
John Schulman, membro del team fondatore di Openi, ha annunciato su piattaforme sociali che lascerà Openai e si unirà a Antropic, un'altra startup di intelligenza artificiale. Greg Brockman, presidente e co-fondatore di Openai, ha annunciato sui social media che si congedo fino alla fine dell'anno, senza menzionare notizie di possibili partenza. C'è anche la notizia che se ne andrà anche il product leader di OpenAI, Peter Deng.
Dopo le precedenti dimissioni del cofondatore e capo scienziato di OpenAI Ilya Sutskever, il personale di OpenAI rimane instabile. Vale la pena notare che John Schulman e Ilya Sutskvo, che questa volta hanno annunciato le loro dimissioni, erano precedentemente responsabili del lavoro di allineamento dell'intelligenza artificiale di Openai. Openai ha precedentemente sciolto il team di "Super Intelligence Allinement" e la partenza di John Schulman può significare che Openi è meno disposto a reinvestire nell'allineamento dell'intelligenza artificiale.
Inoltre, sebbene Greg Brockman non abbia rivelato la sua partenza, in un momento in cui Openi si sta concentrando sul superamento delle sfide dei modelli di prossima generazione, il congedo a lungo termine del personale di base può anche riflettere le differenze interne all'interno di Openi.
再迎人事变动
John Schulman ha affermato di aver preso la decisione di lasciare Openi e unirsi antropico perché voleva concentrarsi ulteriormente sull'allineamento dell'intelligenza artificiale e tornare al vero lavoro tecnico. "Non me ne vado a causa della mancanza di supporto di Openai per la ricerca di allineamento. Al contrario, la società si è impegnata a investire in questo settore. La mia decisione è personale e spero di concentrarmi sulla fase successiva della mia carriera. "Ha detto John Schulman.
John Schulman ha affermato che finora, a parte gli stage, Openi è l'unica società per cui ha lavorato, ed è molto grato al CEO di Openai Sam Altman e il co-fondatore Greg Brock Mann lo ha reclutato dall'inizio "Credo che Openi e Openi Il team per cui lavoro continuerà a prosperare senza di me. "
Sam Altman ha risposto a John Schulman su piattaforme sociali, dicendo: "Grazie per tutto quello che hai fatto per Openi. Sei un ricercatore di talento e una persona che pensa profondamente sui prodotti e sulla società. Sei un grande amico per tutti noi".
Il giornalista ha notato che all'inizio di quest'anno, Openai ha sciolto il team di "Super Intelligence Allinement" e ha istituito un nuovo comitato per la sicurezza il 28 maggio, ora locale. A quel tempo, OpenAI descrisse la sua posizione di Direttore della scienza dell'allineamento.
Sebbene il co-fondatore Greg Brockman si fermò a lungo, non ha rivelato la sua intenzione di andarsene. "La missione è tutt'altro che completa, dobbiamo ancora costruire AGI sicura (intelligenza generale artificiale)."
Peter Deng non ha ancora menzionato la notizia della sua partenza sui social media. Peter Deng è un noto product manager nella Silicon Valley. e team di ingegneria dietro Chatgpt. In una conversazione podcast all'inizio di quest'anno, quando ha menzionato i valori della sicurezza dell'intelligenza artificiale e di ChatGPT, ha affermato che la situazione ideale è che l'intelligenza artificiale possa adattarsi ai valori personali di ciascun utente. Questo non dovrebbe essere normativo, e non è il nostro. Quali valori vuoi instillare in ChatGPT, ma come possono essere integrati in qualche modo i valori di tutto il mondo nell'intelligenza artificiale?
Le turbolenze nel personale di OpenAI sono continuate da quando Sam Altman è stato licenziato e riassunto dal consiglio di amministrazione di OpenAI lo scorso anno. Si dice che il licenziamento di Sam Altman sia correlato alle differenze interne sui problemi di sicurezza dell'IA. In quanto figura chiave nel conflitto interno, Ilya Sutskvo ha annunciato nel maggio di quest'anno che avrebbe lasciato OpenAI, con cui aveva lavorato per quasi 10 anni.
Inoltre, Andrej Karpathy, un altro membro del team fondatore di Openi, ha lasciato Openai nel febbraio di quest'anno e ha annunciato la fondazione di una società di istruzione AI+ a luglio. OpenAI ha sempre meno membri del team fondatore ancora impiegati.
Ciò influenzerà il progresso dello sviluppo di GPT?
Openai è di nuovo accogliente modifiche al personale, il che può significare che l'attenzione di Openi sulla sicurezza dell'IA è cambiata se la prossima generazione di GPT sarà influenzata dai cambiamenti del personale resta da vedere.
Il giornalista ha notato che, secondo la descrizione di Openi, il primo compito del comitato per la sicurezza precedentemente stabilito è di valutare e sviluppare ulteriormente i processi e le garanzie di Openi nei prossimi 90 giorni e di condividere raccomandazioni con tutti i membri del consiglio alla fine dei 90 giorni. Dopo la revisione del consiglio Divulgare le raccomandazioni adottate. Secondo il piano di tempo, queste raccomandazioni saranno rese pubbliche dopo la fine di agosto e John Schulman ha deciso di lasciare Openi prima di allora.
In termini di sicurezza AI, l'introduzione di Openai al nuovo comitato per la sicurezza mostra che le responsabilità del team non sono del tutto coerenti con quelle del team sciolto di "allineamento di super intelligenza" sciolto. Con la partenza di John Schulman, direttore della scienza dell'allineamento, ciò può significare che Openi presta meno attenzione all'allineamento dell'intelligenza artificiale.
"Allineamento" significa che gli obiettivi del sistema AI siano coerenti con i valori e gli interessi umani. Ilya Sutskvo ha menzionato nelle interviste che Chatgpt potrebbe essere consapevole e che il mondo deve svegliarsi con il vero potere della tecnologia che la sua azienda e altri stanno creando. Altman non lo vede più o meno lo stesso, rispondendo di recente che “[l'ex consiglio] aveva alcune opinioni su di me e su ciò che stavamo facendo, anche se non sono stato molto forte con le loro idee. .
Anthropic, a cui si unirà John Schulman, è considerato il principale concorrente di OpenAI. Anthropic, una società fondata da ex dirigenti e dipendenti della ricerca OpenAI, possiede la serie di modelli di grandi dimensioni Claude. Nel giugno di quest'anno, Antropico ha pubblicato l'ultimo modello Claude 3.5 Sonnet, che ha risultati migliori rispetto a GPT-4O in termini di ragionamento a livello di laurea (GPQA), capacità di codifica (umanoval) e ragionamento del testo (drop).
A giudicare dai progressi della ricerca e dello sviluppo del GPT di prossima generazione, OpenAI sembra aver incontrato alcune difficoltà. Nel luglio di quest'anno, Sam Altman ha affermato che ci vorrà del tempo per sviluppare la tecnologia relativa a GPT-5.
Con John Schulman che è partito per unirsi al rivale Antropic e Greg Brockman che si congedano in assenza, resta da vedere se la partenza delle cifre di base avrà un impatto sul progresso della ricerca e dello sviluppo di Openai.
Vale la pena notare che ci sono altri conflitti tra i cofondatori di OpenAI. Meno di due mesi dopo aver ritirato la causa, il CEO di Tesla Musk, che ha co-fondato Openi, ha recentemente citato in giudizio Sam Altman e Greg Brockman in un tribunale degli Stati Uniti, accusando il personale pertinente di mettere gli interessi commerciali davanti al proprio interesse pubblico e ha violato la fondazione della società. contrarre. L'accusa sostiene che Sam Altman e altri si prefiggono deliberatamente e ingannano Musk per co-fondare l'Opening Enterprise Openai, ma poi hanno usato vari mezzi per trasformarlo in un'entità a scopo di lucro. Openai ha risposto alle accuse di Musk alcuni mesi fa con screenshot, affermando che Musk aveva accettato il piano dell'azienda di raccogliere più fondi, creare un'organizzazione a scopo di lucro e abbandonare gradualmente le versioni di prodotti open source.
(Questo articolo proviene da China Business News)
