nouvelles

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Nouveau rapport de sagesse

Editeur : Service éditorial

[Introduction à la nouvelle sagesse]OpenAI a connu des changements successifs au sein du personnel et des cadres supérieurs. Dans des moments difficiles, des héros émergent et un groupe d'étoiles montantes porte le drapeau.

Depuis qu'Ultraman a été licencié et réintégré en novembre 2023, il semble y avoir une lutte de pouvoir constante au sein d'OpenAI.

Récemment, de nombreux dirigeants ont démissionné les uns après les autres. Selon le Financial Times, seuls deux des 11 cofondateurs originaux d'OpenAI sont encore en poste chez OpenAI.

Outre Altman, seul l'informaticien polonais Wojciech Zaremba reste à OpenAI en tant que chercheur.

Le président et co-fondateur d'OpenAI, Greg Brockman, qui a travaillé aux côtés d'Altman, prolongera son congé jusqu'à la fin de cette année. Cela est largement considéré comme un précurseur de son départ imminent.

Un autre co-fondateur, John Schulman, a quitté définitivement l'entreprise et a rejoint son concurrent Anthropic. Peter Deng, vice-président des produits de consommation, a également quitté OpenAI.

Selon les statistiques, près de 75 employés principaux d'OpenAI ont démissionné et ont fondé une trentaine de startups d'IA.

OpenAI est devenue la « Whampoa Military Academy » de l'industrie de l'IA, et ses anciens employés ont créé leur propre entreprise sur la base de leur expérience et des relations accumulées dans l'entreprise.

Bien que ce type de production de talents soit bénéfique au développement de l'ensemble du secteur, il s'agit sans aucun doute d'une perte énorme pour OpenAI elle-même.

Une recrue prend le relais

Bien qu’il y ait une perte de talents, OpenAI continue de dépenser beaucoup d’argent pour recruter et promouvoir des talents, et d’autres se sont manifestés pour prendre en charge les postes vacants.

Ce genre de scène fait soupirer : "Game of Thrones" se déroule dans la réalité, et "le chaos est l'échelle d'ascension".

Voici un aperçu de la nouvelle génération de dirigeants d'OpenAI, basé sur des conversations avec des employés anciens et actuels et d'autres initiés.

Jakub Pachocki – le « scientifique de génie » qui a succédé à Ilya

Jakub Pachocki est actuellement le scientifique en chef d'OpenAI et un employé chevronné qui travaille chez OpenAI depuis 2017.

À en juger par l'expérience passée de Pachocki et sa vitesse de promotion fulgurante au sein d'OpenAI, il mérite le titre de « scientifique de génie ».

Avant de rejoindre OpenAI, Pachocki a obtenu son doctorat à la CMU en seulement 3 ans et a mené des recherches postdoctorales à l'Université Harvard pendant 7 mois.

Au cours des cinq années et demie qui ont suivi son arrivée, Pachocki a dirigé respectivement les équipes scientifiques de Dota, de raisonnement et d'apprentissage profond, qui faisaient toutes partie des initiatives de recherche transformatrices d'OpenAI.

Il a joué un rôle clé dans le développement par OpenAI d'un robot de jeu Dota 2 qui a joué contre lui-même et a finalement atteint un niveau professionnel.

À partir de 2021, Pachocki sera promu à des postes tels que directeur de recherche et directeur de recherche. Il est le leader du développement de GPT-4 et d'OpenAI Five. Il a été félicité pour ses contributions à la recherche sur l'apprentissage par renforcement à grande échelle et l'apprentissage profond. optimisation.

Altman ne tarit pas d'éloges à son égard, décrivant Pachocki comme "sans aucun doute l'un des plus grands penseurs de notre génération" qui "a supervisé bon nombre de nos projets les plus importants".

Concernant la contribution de Pachocki au projet GPT-4, Altman a déclaré un jour : « Le leadership exceptionnel et la vision technique démontrés par Jakub Pachocki sont remarquables. Sans sa contribution, nous ne serions pas en mesure de réaliser ce que nous sommes aujourd'hui. Réalisation ».

Dans une précédente interview avec le MIT, Pachocki a comparé le développement d'un modèle de langage tel que GPT-4 à la « construction d'un vaisseau spatial » : il faut s'assurer que chaque pièce est parfaite.

Il a également mentionné que la méthode de construction de base des modèles GPT n'a pas beaucoup changé depuis la sortie de la première version en 2018.

Après la démission d'Ilya Sutskever en mai de cette année, Pachocki a officiellement pris la relève en tant que scientifique en chef.

L'influence croissante de Pachocki a précédé sa promotion, selon les employés actuels et anciens.

Ultraman appréciait beaucoup Pachocki et lui avait auparavant confié des tâches similaires à Ilya, même si logiquement, Pachocki devait faire rapport à Ilya, ce qui provoquait des tensions entre les deux.

Lors du "Palace Fight" en novembre dernier, Ilya et Helen Toner, membre du conseil d'administration, ont lancé conjointement une action pour "expulser Ultraman". Cependant, Pachocki n'a pas suivi Ilya et s'est fermement tenu dans le camp pour soutenir Ultraman.

Cependant, lorsqu'Ilya a officiellement annoncé sa démission, les tweets de Pachocki montraient encore son respect et son admiration pour ce senior.

Ilya m'a fait découvrir le monde de la recherche en apprentissage profond et a été un mentor et un excellent collaborateur pendant de nombreuses années. Son incroyable vision de l’apprentissage profond constitue le fondement de ce que sont aujourd’hui OpenAI et le domaine de l’intelligence artificielle. Je suis extrêmement reconnaissant pour les innombrables conversations qu'il a eues avec nous, depuis les discussions de haut niveau sur l'avenir des progrès de l'intelligence artificielle jusqu'aux séances techniques approfondies sur tableau blanc. Ilya – Travailler avec toi va me manquer.

Les employés ont déclaré qu'après le départ d'Ilya, Pachocki avait reçu le soutien d'Ultraman et était devenu un décideur important au sein de l'entreprise.

Pachocki est né en Pologne et est diplômé du département d'informatique de l'université de Varsovie. Non seulement il a obtenu son baccalauréat en seulement trois ans, mais il a également effectué deux stages chez Facebook et a également participé à de nombreux concours de programmation au cours de ses études. école et collège.

Jakub Pachocki (troisième à partir de la gauche) lors du concours ICPC 2012

Selon les statistiques du Temple de la renommée de la programmation, Pachocki a représenté l'Université de Varsovie à deux reprises lors de la finale mondiale ACM-ICPC en 2011 et 2012, et a remporté la médaille d'or l'année suivante.

Dans la compétition individuelle, la performance de Pachocki a été tout aussi étonnante : il a remporté une médaille d'argent en IOI au lycée et a remporté à plusieurs reprises des médailles dans des concours de programmation organisés par Topcoder, Facebook et Google.

Parmi eux, le meilleur résultat a été de remporter la médaille d'or au concours Google Code Jam 2012, avec un prix de 10 000 $ US.

Il a mentionné un jour dans une interview que les concours de programmation tels que Google Code Jam ressemblent davantage à des devoirs de mathématiques ou à la résolution de problèmes de logique, et que gagner nécessite des capacités cognitives extrêmement élevées.

Barret Zoph

Avant le départ du co-fondateur John Schulman, il a codirigé l'équipe post-formation avec son seul subordonné direct, Barret Zoph.

Selon un employé, Schulman était responsable de l'établissement de l'agenda de haut niveau au cours de son mandat précédent, tandis que Zoph était responsable de la gestion quotidienne et du travail de recherche de l'équipe, veillant à ce que le projet soit terminé à temps afin que le Le modèle de base pourrait être déployé en douceur sur des produits tels que ChatGPT, ainsi que pour les développeurs de l'API.

Zoph est très respecté au sein d'OpenAI. Maintenant que son patron immédiat a démissionné, il est logique qu'il devienne le seul responsable de l'équipe.

Zoph est diplômé de l'Université de Californie du Sud avec un baccalauréat. Pendant ses études universitaires, il est entré dans le groupe de langues naturelles de l'Institut des sciences de l'information de l'USC et a travaillé sur la traduction automatique statistique avec deux professeurs, Kevin Knight et Daniel Marcu.

Après avoir obtenu son diplôme de premier cycle, Zoph est entré dans Google Brain et a travaillé comme chercheur scientifique pendant 6 ans et 8 mois, se consacrant à la formation de grands modèles de langage et à leur application à diverses applications.

Au cours de son séjour chez Google Brain, Zoph a réalisé de nombreuses réalisations académiques. Google Scholar montre que ses articles ont été cités au total 62 284 fois.

En août 2022, Zoph a démissionné de Google Brain et a rejoint OpenAI pour participer à la création de ChatGPT. Son principal axe de recherche est la formation de grands modèles de langage clairsemé et d'AuoML, tels que la recherche de structure neuronale (NAS).

Lors de la conférence OpenAI de mai, Zoph a démontré la fonction de vision en temps réel de GPT-4o, permettant à GPT-4o de résoudre des problèmes mathématiques en temps réel via la caméra du téléphone portable.

Marc Chen

Mark Chen est directeur de Frontier Research depuis qu'il a rejoint OpenAI en 2018, supervisant un groupe de travail dirigé par le vice-président de la recherche Bob McGrew.

Chen a également fait preuve très tôt de talents extraordinaires, remportant des notes parfaites dans des concours de mathématiques tels que l'AMC10, l'AMC12 et l'AIME, ce qui lui a ouvert la voie pour entrer au MIT.

Après avoir obtenu son diplôme du MIT, Chen a obtenu un double baccalauréat en mathématiques et en informatique. Pendant ses études universitaires, il a effectué un stage chez Microsoft et Trading et a été chercheur invité à l'Université de Harvard.

Après avoir obtenu son diplôme de premier cycle, Chen est entré dans le domaine financier et s'est engagé dans la recherche quantitative, créant des algorithmes d'apprentissage automatique pour le trading d'actions et de contrats à terme.

Dans la dernière entreprise, Integral Technology, Chen a atteint le niveau de partenaire.

Actuellement, il est également entraîneur de l’équipe de formation américaine IOI.

Effectivement, les personnes qui sont bonnes en mathématiques peuvent tout faire facilement.

Repose en paix, Jim Simons. Vous avez démontré par vous-même qu’être très bon en mathématiques a un impact positif sur presque tout le reste.

Chen se concentre sur la recherche en modélisation multimodale et en inférence à OpenAI. Il a dirigé l'équipe qui a créé DALL·E, ainsi que l'équipe qui a intégré la perception visuelle dans GPT-4.

Chen a également dirigé le développement du Codex et contribué à l'avancement des modèles GPT, y compris le développement du GPT d'image, et a été membre de l'équipe médaillée d'or de 17 personnes sur GPT-4o.

Lors de la conférence de presse de mai de cette année, Chen est également monté sur scène pour démontrer la fonction vocale du GPT-4o.

L'influence de Chen s'est progressivement manifestée lors du « Palace Fight » en novembre de l'année dernière. À l'époque, Chen, Barret Zoph et le chercheur post-formation Liam Fedus étaient les principaux agents de liaison entre la direction et les employés, selon un ancien employé.

Par exemple, ces trois personnes ont transmis une lettre commune d'employés soutenant Ultraman, qui est devenue un élément clé de la promotion de la réintégration d'Ultraman. La plupart des employés dans la lettre ont déclaré qu'ils rejoindraient Microsoft si Altman n'était pas réintégré.

Lilian Weng

Lilian Weng est actuellement à la tête du système de sécurité OpenAI et est principalement engagée dans l'apprentissage automatique, l'apprentissage profond et d'autres recherches.

Weng est diplômé de l'Université de Pékin avec une licence en systèmes d'information et en informatique. Il est allé à l'Université de Hong Kong pour un échange à court terme, puis a obtenu un doctorat de l'Université de l'Indiana à Bloomington.

Au cours de son doctorat, le domaine de recherche de Weng portait sur les systèmes et réseaux complexes, en se concentrant sur les médias sociaux, les jeux sociaux, l'interaction homme-machine et la modélisation de réseaux d'informations complexes.

En ouvrant son profil Google Scholar, vous pouvez également voir les articles que Weng a publiés sur les mèmes et les réseaux sociaux.

Elle a déjà effectué un stage en analyse des utilisateurs chez eBay, Mozilla et d'autres sociétés, puis a « basculé » avec succès vers le travail en génie logiciel et en science des données chez Facebook et Dropbox.

Depuis 2018, Weng a rejoint OpenAI en tant que chercheur scientifique. En tant que directeur technique de l'équipe de robotique, Weng se concentre sur la formation d'algorithmes pour les tâches robotiques.

Weng a également dirigé plus tard l'équipe de recherche appliquant l'intelligence artificielle et est actuellement le chef de l'équipe de sécurité.

En juillet de cette année, OpenAI a transféré Aleksander Madry, l'ancien chef de l'équipe de sécurité, à une équipe axée sur le travail d'inférence de base. Une personne proche du dossier a déclaré que l'équipe de sécurité dirigée à l'origine par Madry avait été transférée à Lilian Weng.

Weng dirigera désormais des équipes axées sur la sécurité de l'IA à long et à court terme, une décision organisationnelle qui inquiète certains chercheurs car les incitations à la sécurité à long terme et à court terme peuvent entrer en conflit les unes avec les autres.

Il convient de mentionner que les articles de blog écrits par Weng sur son site Web personnel sont très populaires. Il s'agit essentiellement de longs articles de 10 000 mots. Ils contiennent à la fois des informations techniques et des opinions, et constituent une référence pour de nombreuses personnes du secteur.

Références :

https://www.theinformation.com/articles/the-rising-guard-at-openai?rc=epv9gi

https://www.sahmcapital.com/news/content/meet-jakub-pachocki-openais-new-chief-scientist-after-ilya-sutskevers-exit-sam-altman-hails-him-as-one-of- les-plus-grands-esprits-de-notre-génération-2024-05-15