2024-08-06
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
- Mengchen Crexi vient du temple Aofei
Qubits | Compte public QbitAI
Tout à l'heure, il y a eu un gros tremblement de terre au sommet d'OpenAI :
Lianchuang John SchulmanDémissionnez et fuyez,Lianchuang et président Greg Brockmanlongues vacances,Peter Deng, vice-président des produitsIl a également été révélé qu'il avait démissionné.
John Schulman, qui dirige l'équipe d'apprentissage par renforcement OpenAI depuis de nombreuses années, est connu sous le nom de "Architecte ChatGPT »。
C'est également lui qui a temporairement repris l'équipe du Super Alignement après le départ d'Ilya Sustkever.
Il annonce désormais avoir « pris une décision difficile » en rejoignant Anthropic, l'équipe de Claude à côté.
Dans le même temps, le président d'OpenAI, Greg Brockman, a également annoncé qu'il prendrait de longues vacances jusqu'à la fin de l'année.
OpenAI prévoit d'organiser des journées des développeurs et d'autres événements dans le monde entier à partir du 1er octobre, et il sera également absent.
Brockman a déclaré que c'était la première fois qu'il se détendait après neuf années consécutives de travail, mais il était resté vague sur ses projets après la fin de l'année. Certains internautes pensaient que c'était dû à l'accord de confidentialité.
Vingt minutes après l'annonce officielle de la démission de Schumann, Altman a remercié Schumann pour sa contribution dans sa réponse et a rappelé la scène de leur première rencontre en 2015.
Mais jusqu'à présent, Ultraman n'a fait aucune réponse au congé de Brockman.
Altman a généralement l'habitude de taper la première lettre des phrases et le « i » sans majuscules, mais chaque fois qu'un collègue important choisit de partir, il se comportera de manière plus formelle.
Le célèbre compte initié OpenAI Apple Brother a déclaré : Maintenant que la direction est devenue une coquille vide, vous devriez vous dépêcher et lancer le produit.
Schumann a étudié en tant qu'étudiant de premier cycle à Caltechla physique, brièvement étudié à l'UC BerkeleyNeurosciences, étudié plus tard sousapprentissage par renforcementDaniel Abbeel a complété son doctorat en informatique.
Lorsqu'il est devenu co-fondateur d'OpenAI, il n'avait pas encore obtenu de doctorat.
OpenAI est la première et la seule entreprise pour laquelle il a travaillé en dehors de son stage.
Son chef-d'œuvre et article le plus citéPPO, qui est l'algorithme d'apprentissage par renforcement sélectionné dans la technologie de base RLHF de ChatGPT.
Plus tard, il a dirigé l'équipe d'alignement/post-formation dans une série de travaux allant de GPT-3.5, GPT-4 à GPT-4o.
La raison de sa démission cette fois était également liée à ceci :
Dans l'espoir d'approfondir ma concentration sur l'alignement de l'IA et de commencer un nouveau chapitre de ma carrière où je pourrai retourner au travail technique réel.
Cependant, il a également donné suffisamment de visage à OpenAI, ajoutant que"Ne pas partir en raison du manque de support d'OpenAI pour les efforts d'alignement sécurisé", juste par désir personnel de me concentrer.
Dans son discours à l’ICML2023, Schumann a décrit l’une de ses prochaines orientations de recherche :Comment éviter la sur-optimisation。
Dans une interview avec l'animateur de podcast Dwarkesh Patel en mai de cette année, Schumann a également déclaré :La puissance de calcul devrait être davantage déplacée de la pré-formation vers la post-formation。
En raison des différences dans les concepts de sécurité de l'IA avec Ultraman, OpenAI a connu une perte massive de talents.
En mai de cette année, les deux dirigeants de l'équipe Super Alignement, le scientifique en chefIlya Sutskeveret l'un des inventeurs du RLHFJan Leike, ont quitté OpenAI l'un après l'autre le même jour.
À cette époque, moins d’un an s’était écoulé depuis la création de la Super Alignment Team.
Après son départ, Jan Leike a envoyé plus d'une douzaine de tweets d'affilée, bombardant frénétiquement OpenAI, l'accusant de ne pas avoir tenu sa promesse de 20 % de puissance de calcul et d'accorder beaucoup moins d'attention à la sécurité qu'à ses produits.
Plus tard, Jan Leike a choisi de rejoindre Anthropic, le concurrent d'OpenAI, pour poursuivre ses recherches sur le super alignement.
Codirige les efforts d'alignement sur le projet GPT-4 avec Jan LeikeRyan Lowe, a également quitté OpenAI fin mars.
Et l'un des membres super alignésWilliam Saunders, et ceux qui ont participé aux tests contradictoires GPT-4Daniel Kokotajlo, a également démissionné d'OpenAI.
Sans parler d'à côtéFrère et sœur Dario Amodei et Daniela Amodei, fondateurs d'Anthropic, également d'OpenAI.
Avant le départ de son frère Dario, il était vice-président de la recherche chez OpenAI et sa sœur Daniela était directrice adjointe du département de sécurité et de stratégie.Tom Brown, ingénieur en chef de GPT-3Je l'ai apporté à Anthropic avec plus d'une douzaine d'employés.
L'une des raisons pour lesquelles ils ont choisi de partir pour démarrer une entreprise était qu'OpenAI a directement publié GPT-3 sans résoudre le problème de sécurité, ce qui a suscité leur mécontentement.
L'accent mis sur la sécurité, associé à l'expérience du fondateur, a également fait d'Anthropic l'un des principaux lieux de travail des employés d'OpenAI, dont Jan Leike et Schumann, qui ont quitté cette fois-ci.
OpenAI a également fait quelques progrès dans le travail de sécurité récemment——
Fin juillet, OpenAI a nommé le directeur principal du département de sécuritéAlexandre MadryIl a été transféré du poste de sécurité et réaffecté au poste « Raisonnement IA ».
Mais OpenAI a déclaré aux médias que Madry resterait attaché à la sécurité de l'intelligence artificielle après avoir pris ses nouvelles fonctions.
Le PDG Altman a également souligné qu'OpenAI a toujours attaché une grande importance au travail de sécurité et a respecté son engagement de « donner au moins 20 % de la puissance de calcul à l'ensemble de l'équipe de sécurité ».
Mais les internautes perspicaces ont vite découvert qu’Ultraman avait joué avec une vague de concepts sournois.La promesse initiale était de donner 20 % de la puissance de calcul à l'équipe de super alignement, mais elle a été secrètement modifiée pour toutes les équipes de sécurité.。
Par conséquent, après le tweet d’Ultraman, les internautes ont impitoyablement ajouté ces informations générales et joint le lien officiel vers OpenAI à ce moment-là.
euh... Internet a encore des souvenirs.
Alors qu'un grand nombre de talents internes sont perdus, Musk, le "vieil ennemi" d'OpenAI, a également de nouvelles actions -
Musk vient de poursuivre OpenAI en justice, les accusés sont également Ultraman et le PDG Brockman.
La raison de ce procès est que Musk pensait avoir été « trompé et extorqué » par Altman et Brockman lorsqu'il participait à la création d'OpenAI.
Musk a déclaré qu'il avait initialement participé et investi dans OpenAI parce qu'il croyait aux paroles d'Altman, à cette époque, Altman avait promis qu'OpenAI serait une organisation à but non lucratif sûre et ouverte.
Mais plus tard, OpenAI est devenue une organisation à but lucratif et a vendu une partie de ses actions à Microsoft. Cela a rendu Musk très mécontent, pensant qu'il avait été trahi, et a dénoncé Altman pour « trahison ».
L'avocat de Musk, Marc Toberoff, a déclaré que le procès était très différent de celui précédemment retiré, tenant les accusés "responsables d'avoir sciemment fait de fausses déclarations à Musk et au public" et cherchant à "récupérer massivement leurs droits".
Dans le même temps, l’acte d’accusation requiert également la révocation de la licence accordée par OpenAI à Microsoft.
Liens de référence :
[1]https://www.bloomberg.com/news/articles/2024-08-06/openai-co-founder-john-schulman-departs-for-ai-rival-anthropic
[2]https://www.cnbc.com/2024/07/23/openai-removes-ai-safety-executive-aleksander-madry-from-role.html
[3]https://x.com/sama/status/1818867964369928387
[4]https://www.documentcloud.org/documents/25031741-elon-vs-openai-again
[5]https://www.nytimes.com/2024/08/05/technology/elon-musk-openai-lawsuit.html
Collectez et organisez les dernières informations d'actualité et rendez-les gratuites pour que tout le monde puisse les consulter.
