notizia

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

• Mengchen Crexi proviene dal Tempio Aofei
  Qubit |. Account pubblico QbitAI

Proprio ora c'è stato un grande terremoto ai vertici di OpenAI:

Lianchuang John SchulmanDimettiti e scappa,Lianchuang e il presidente Greg Brockmanlunga vacanza,Peter Deng, vicepresidente del prodottoÈ stato anche rivelato che si era dimesso.

John Schulman, che ha guidato per molti anni il team di apprendimento per rinforzo di OpenAI, è conosciuto come "Architetto ChatGPT”。

È stato anche lui a prendere temporaneamente la guida del team Super Alignment dopo che Ilya Sustkever se n'è andato.

Ora ha annunciato di aver "preso la decisione difficile" di unirsi ad Anthropic, il team di Claude della porta accanto.

Allo stesso tempo, anche il presidente di OpenAI Greg Brockman ha annunciato che si prenderà una lunga vacanza fino alla fine dell'anno.

OpenAI prevede di organizzare giornate degli sviluppatori e altri eventi in tutto il mondo a partire dal 1° ottobre, e anche lui sarà assente.

Brockman ha detto che era la prima volta che si rilassava dopo nove anni consecutivi di lavoro, ma è rimasto vago riguardo ai suoi piani dopo la fine dell'anno. Alcuni netizen pensavano che ciò fosse dovuto all'accordo di riservatezza.

Venti minuti dopo l'annuncio ufficiale delle dimissioni di Schumann, Altman ha ringraziato Schumann per il suo contributo nella sua risposta e ha ricordato la scena in cui i due si sono incontrati per la prima volta nel 2015.

Ma finora Ultraman non ha dato alcuna risposta al congedo di Brockman.

Altman di solito ha l'abitudine di scrivere la prima lettera delle frasi e la "i" senza maiuscola, ma ogni volta che un collega importante sceglie di andarsene, si comporterà in modo più formale.

Il famoso account insider di OpenAI Apple Brother ha detto: Ora che la leadership è diventata un guscio vuoto, dovresti sbrigarti a rilasciare il prodotto.

L'architetto di ChatGPT si è dimesso

Schumann ha studiato come studente universitario al Caltechfisica, ha studiato brevemente alla UC BerkeleyNeuroscienza, successivamente studiato sottoinsegnamento rafforzativoDaniel Abbeel ha completato il suo dottorato di ricerca in informatica.

Quando è diventato cofondatore di OpenAI, non si era ancora laureato con un dottorato di ricerca.

OpenAI è la prima e unica azienda per cui ha lavorato al di fuori del suo stage.

Il suo capolavoro e l'articolo più citatoPPO, che è l'algoritmo di apprendimento per rinforzo selezionato nella tecnologia principale RLHF di ChatGPT.

Successivamente, ha guidato il team di allineamento/post-formazione in una serie di lavori da GPT-3.5, GPT-4 a GPT-4o.

Il motivo delle sue dimissioni questa volta era legato anche a questo:

Spero di approfondire la mia attenzione sull'allineamento dell'intelligenza artificiale e di iniziare un nuovo capitolo della mia carriera in cui posso tornare al vero lavoro tecnico.

Tuttavia, ha anche dato abbastanza visibilità a OpenAI, aggiungendolo“Non se ne va a causa della mancanza di supporto da parte di OpenAI per gli sforzi di allineamento sicuro”, solo per un desiderio personale di concentrarsi.

Nel suo discorso all’ICML2023, Schumann ha descritto una delle sue prossime direzioni di ricerca:Come evitare un'ottimizzazione eccessiva。

• Alcuni comportamenti fastidiosi in ChatGPT (come le scuse eccessive) sono il risultato di un'ottimizzazione eccessiva.
• RLHF può facilmente ottimizzare eccessivamente su metriche ristrette; ad esempio, il modello può apprendere scorciatoie che producono ricompense senza comprenderle veramente.
• Una formazione adeguata per compiti di conversazione richiede ragionamento, assunzione di prospettive e conoscenza, e i ricercatori devono progettare attentamente procedure di formazione, funzioni di ricompensa e set di dati
• I segnali di ricompensa devono valutare la qualità dell’intera conversazione, non solo il feedback individuale.

In un'intervista con il conduttore del podcast Dwarkesh Patel nel maggio di quest'anno, Schumann ha anche affermato:La potenza di calcolo dovrebbe essere spostata maggiormente dalla fase pre-formazione a quella post-formazione。

OpenAI continua a perdere talento

A causa delle differenze nei concetti di sicurezza dell'IA con Ultraman, OpenAI ha subito una massiccia perdita di talento.

Nel maggio di quest'anno, i due leader del Super Alignment Team: Chief ScientistIlya Sutskevere uno degli inventori di RLHFJan Leike, hanno lasciato OpenAI uno dopo l'altro nello stesso giorno.

A quel tempo era passato meno di un anno dalla costituzione del Super Alignment Team.

Dopo che Jan Leike se ne andò, inviò più di una dozzina di tweet di fila, bombardando freneticamente OpenAI, accusandola di non aver mantenuto la promessa del 20% di potenza di calcolo e di prestare molta meno attenzione alla sicurezza rispetto ai suoi prodotti.

Successivamente, Jan Leike ha scelto di unirsi al concorrente di OpenAI, Anthropic, per continuare la ricerca sul super allineamento.

Co-conduce gli sforzi di allineamento sul progetto GPT-4 con Jan LeikeIl mio nome è Ryan Lowe., ha lasciato anche OpenAI alla fine di marzo.

E uno dei membri super allineatiWilliam Saunderse coloro che hanno partecipato ai test contraddittori GPT-4Daniele Coccodrillo, si è dimesso anche lui da OpenAI.

Per non parlare della porta accantoFratello e sorella Dario Amodei e Daniela Amodei, fondatori di Anthropic, sempre da OpenAI.

Prima che il fratello Dario se ne andasse, era vicepresidente della ricerca di OpenAI, mentre sua sorella Daniela era vicedirettore del dipartimento sicurezza e strategia.Tom Brown, ingegnere capo del GPT-3L'ho portato ad Anthropic con più di una dozzina di dipendenti.

Uno dei motivi per cui hanno scelto di partire per avviare un'impresa è stato che OpenAI ha rilasciato direttamente GPT-3 senza risolvere il problema di sicurezza, cosa che ha suscitato la loro insoddisfazione.

L'enfasi sulla sicurezza, unita al background del fondatore, ha reso Anthropic anche uno dei luoghi principali per i dipendenti di OpenAI, tra cui Jan Leike e Schumann, che questa volta se ne sono andati.

Recentemente OpenAI ha anche fatto alcuni passi avanti nel lavoro sulla sicurezza——

Alla fine di luglio OpenAI ha nominato direttore senior del dipartimento di sicurezzaAlessandro MadryÈ stato trasferito dall'incarico di sicurezza e riassegnato al lavoro di "ragionamento AI".

Ma OpenAI ha detto ai media che Madry sarà ancora impegnato nella sicurezza dell’intelligenza artificiale dopo aver assunto la sua nuova posizione.

Il CEO Altman ha inoltre sottolineato che OpenAI ha sempre attribuito grande importanza al lavoro sulla sicurezza e ha aderito al suo impegno di "fornire almeno il 20% della potenza di calcolo all'intero team di sicurezza".

Ma gli utenti della rete più attenti hanno presto scoperto che Ultraman aveva giocato con un'ondata di concetti subdoli.La promessa originale era di dare il 20% della potenza di calcolo al team di super allineamento, ma è stata segretamente cambiata a tutti i team di sicurezza.。

Pertanto, dopo il tweet di Ultraman, gli utenti della rete hanno aggiunto spietatamente queste informazioni di base e hanno allegato il collegamento ufficiale a OpenAI.

emm...Internet ha ancora dei ricordi.

Un'altra cosa

Mentre un gran numero di talenti interni vengono persi, anche il "vecchio nemico" di OpenAI Musk ha nuove azioni:

Musk ha appena portato di nuovo OpenAI in tribunale, gli imputati sono anche Ultraman e il CEO Brockman.

La ragione di questa causa è che Musk credeva di essere stato "ingannato ed estorto" da Altman e Brockman quando ha partecipato alla creazione di OpenAI.

Musk ha detto che inizialmente ha partecipato e investito in OpenAI perché credeva alle parole di Altman. A quel tempo, Altman aveva promesso che OpenAI sarebbe stata un'organizzazione senza scopo di lucro sicura e aperta.

Ma in seguito OpenAI divenne un'organizzazione a scopo di lucro e vendette parte delle sue azioni a Microsoft. Ciò rese Musk molto insoddisfatto, pensando di essere stato tradito, e denunciò Altman per "tradimento".

L'avvocato di Musk, Marc Toberoff, ha affermato che la causa era significativamente diversa da quella precedentemente ritirata, ritenendo gli imputati "responsabili di aver rilasciato consapevolmente false dichiarazioni a Musk e al pubblico" e di aver cercato "il recupero massiccio dei loro guadagni illeciti".

Allo stesso tempo, l'accusa richiede anche la revoca della licenza concessa da OpenAI a Microsoft.

Link di riferimento:
[1]https://www.bloomberg.com/news/articles/2024-08-06/openai-co-founder-john-schulman-departs-for-ai-rival-anthropic
[2]https://www.cnbc.com/2024/07/23/openai-removes-ai-safety-executive-aleksander-madry-from-role.html
[3]https://x.com/sama/status/1818867964369928387
[4]https://www.documentcloud.org/documents/25031741-elon-vs-openai-again
[5]https://www.nytimes.com/2024/08/05/technology/elon-musk-openai-lawsuit.html