Nachricht

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Neuer Weisheitsbericht

Herausgeber: Redaktion

[Einführung in die neue Weisheit]OpenAI hat sukzessive Veränderungen im Kern- und Führungspersonal erlebt. In schwierigen Zeiten tauchen Helden auf und eine Gruppe aufstrebender Stars trägt die Flagge.

Seit Ultraman im November 2023 entlassen und wieder eingestellt wurde, scheint es innerhalb von OpenAI einen ständigen Machtkampf zu geben.

Kürzlich sind viele Führungskräfte nacheinander zurückgetreten. Laut Financial Times sind nur noch zwei der ursprünglich elf Mitbegründer von OpenAI tätig.

Neben Altman bleibt nur der polnische Informatiker Wojciech Zaremba als Forscher bei OpenAI.

Der Präsident und Mitbegründer von OpenAI, Greg Brockman, der Seite an Seite mit Altman gearbeitet hat, wird seinen Urlaub bis Ende dieses Jahres verlängern, was allgemein als Vorbote seines bevorstehenden Abgangs angesehen wird.

Ein weiterer Mitbegründer, John Schulman, verließ das Unternehmen endgültig und schloss sich dem Konkurrenten Anthropic an. Peter Deng, Vizepräsident für Verbraucherprodukte, verließ OpenAI ebenfalls.

Laut Statistik haben fast 75 Kernmitarbeiter von OpenAI gekündigt und etwa 30 KI-Startups gegründet.

OpenAI ist zur „Whampoa Military Academy“ der KI-Branche geworden, und seine ehemaligen Mitarbeiter haben auf der Grundlage ihrer im Unternehmen gesammelten Erfahrungen und Verbindungen eigene Unternehmen gegründet.

Obwohl diese Art der Talentproduktion der Entwicklung der gesamten Branche zugute kommt, ist sie zweifellos ein großer Verlust für OpenAI selbst.

Rookie übernimmt

Obwohl es einen Verlust an Talenten gibt, gibt OpenAI weiterhin viel Geld für die Rekrutierung und Förderung von Talenten aus, und andere sind vorgetreten, um die vakanten Positionen zu übernehmen.

Solche Szenen bringen die Menschen zum Seufzen: „Game of Thrones“ spielt sich in der Realität ab und „Chaos ist die Leiter des Aufstiegs.“

Hier ist ein Blick auf die neue Führungsriege von OpenAI, basierend auf Gesprächen mit ehemaligen und aktuellen Mitarbeitern und anderen Insidern.

Jakub Pachocki – der „geniale Wissenschaftler“, der die Nachfolge von Ilya antrat

Jakub Pachocki ist derzeit Chefwissenschaftler von OpenAI und ein erfahrener Mitarbeiter, der seit 2017 bei OpenAI arbeitet.

Nach Pachockis bisherigen Erfahrungen und seiner raketenartigen Aufstiegsgeschwindigkeit innerhalb von OpenAI zu urteilen, verdient er den Titel „genialer Wissenschaftler“.

Bevor er zu OpenAI kam, promovierte Pachocki in nur drei Jahren an der CMU und forschte sieben Monate lang als Postdoktorand an der Harvard University.

In den ersten fünfeinhalb Jahren nach seinem Beitritt leitete Pachocki die Wissenschaftsteams Dota, Reasoning und Deep Learning, die alle Teil der transformativen Forschungsinitiativen von OpenAI waren.

Er spielte eine Schlüsselrolle bei der Entwicklung eines Dota-2-Game-Bots durch OpenAI, der gegen sich selbst spielte und schließlich ein professionelles Niveau erreichte.

Ab 2021 wird Pachocki in Positionen wie Forschungsleiter und Forschungsdirektor befördert. Er ist führend in der Entwicklung von GPT-4 und OpenAI Five. Er wurde für seine Forschungsbeiträge im Bereich groß angelegtes Reinforcement Learning und Deep Learning gelobt Optimierung.

Altman war voll des Lobes für ihn und beschrieb Pachocki als „zweifellos einen der größten Denker unserer Generation“, der „viele unserer wichtigsten Projekte betreute“.

Zu Pachockis Beitrag zum GPT-4-Projekt sagte Altman einmal: „Die herausragende Führung und technische Vision von Jakub Pachocki sind bemerkenswert. Ohne seinen Beitrag wären wir nicht in der Lage, das zu erreichen, was wir heute sind. Leistung.“

In einem früheren Interview mit dem MIT verglich Pachocki die Entwicklung eines Sprachmodells wie GPT-4 mit dem „Bau eines Raumschiffs“ – man muss sicherstellen, dass jedes Teil perfekt ist.

Er erwähnte auch, dass sich an der grundlegenden Konstruktionsmethode von GPT-Modellen seit der Veröffentlichung der ersten Version im Jahr 2018 nicht viel geändert habe.

Nachdem Ilya Sutskever im Mai dieses Jahres zurücktrat, übernahm Pachocki offiziell die Position des Chefwissenschaftlers.

Aktuellen und ehemaligen Mitarbeitern zufolge ging Pachockis wachsender Einfluss seiner Beförderung voraus.

Ultraman schätzte Pachocki sehr und hatte ihm zuvor ähnliche Aufgaben wie Ilya übertragen, obwohl sich Pachocki logischerweise bei Ilya melden musste, was zu Spannungen zwischen den beiden führte.

Während des „Palastkampfs“ im vergangenen November starteten Ilya und Vorstandsmitglied Helen Toner gemeinsam eine Aktion zum „Ausschluss von Ultraman“. Pachocki folgte Ilya jedoch nicht und stand fest im Lager und unterstützte Ultraman.

Als Ilya jedoch offiziell seinen Rücktritt ankündigte, zeigten Pachockis Tweets immer noch seinen Respekt und seine Bewunderung für diesen Senior.

Ilya hat mich in die Welt der Deep-Learning-Forschung eingeführt und ist seit vielen Jahren ein Mentor und großartiger Mitarbeiter. Seine unglaubliche Vision für Deep Learning ist die Grundlage für das, was OpenAI und der Bereich der künstlichen Intelligenz heute sind. Ich bin äußerst dankbar für die unzähligen Gespräche, die er mit uns geführt hat, von hochrangigen Diskussionen über die Zukunft der Fortschritte in der künstlichen Intelligenz bis hin zu ausführlichen technischen Whiteboard-Sitzungen. Ilya – ich werde die Zusammenarbeit mit dir vermissen.

Mitarbeiter sagten, dass Pachocki nach dem Weggang von Ilya die Unterstützung von Ultraman erhalten habe und zu einem wichtigen Entscheidungsträger innerhalb des Unternehmens geworden sei.

Pachocki wurde in Polen geboren und absolvierte nicht nur seinen Bachelor-Abschluss in nur drei Jahren, sondern absolvierte auch zwei Praktika bei Facebook und nahm während seines Studiums an zahlreichen Programmierwettbewerben teil Schule und Hochschule.

Jakub Pachocki (Dritter von links) während des ICPC 2012-Wettbewerbs

Laut Statistiken der Programming Hall of Fame vertrat Pachocki die Universität Warschau 2011 und 2012 zweimal beim ACM-ICPC-Weltfinale und gewann im folgenden Jahr die Goldmedaille.

Auch im Einzelwettbewerb war Pachockis Leistung beeindruckend: Er gewann in der High School eine Silbermedaille im IOI und gewann viele Male Medaillen bei Programmierwettbewerben, die von Topcoder, Facebook und Google veranstaltet wurden.

Das beste Ergebnis war der Gewinn der Goldmedaille beim Google Code Jam-Wettbewerb 2012 mit einem Preisgeld von 10.000 US-Dollar.

In einem Interview erwähnte er einmal, dass Programmierwettbewerbe wie Google Code Jam eher Mathe-Hausaufgaben oder dem Lösen logischer Probleme ähneln und für den Sieg extrem hohe kognitive Fähigkeiten erforderlich sind.

Barret Zoph

Bevor Mitbegründer John Schulman ging, leitete er gemeinsam mit seinem einzigen direkten Untergebenen, Barret Zoph, das Post-Training-Team.

Laut einem Mitarbeiter war Schulman während seiner vorherigen Amtszeit für die Festlegung der hochrangigen Agenda verantwortlich, während Zoph für die tägliche Management- und Forschungsarbeit des Teams verantwortlich war und dafür sorgte, dass das Projekt pünktlich abgeschlossen wurde, damit die Das Grundmodell konnte problemlos für Produkte wie ChatGPT sowie für Entwickler in der API bereitgestellt werden.

Nachdem sein direkter Chef zurückgetreten ist, ist es logisch, dass Zoph der alleinige Leiter des Teams wird.

Zoph schloss sein Studium an der University of Southern California mit einem Bachelor ab. Während seines Studiums trat er in die Gruppe für natürliche Sprache des USC Information Sciences Institute ein und arbeitete mit zwei Professoren, Kevin Knight und Daniel Marcu, an statistischer maschineller Übersetzung.

Nach Abschluss seines Grundstudiums stieg Zoph bei Google Brain ein und arbeitete sechs Jahre und acht Monate lang als Forschungswissenschaftler, der sich dem Training großer Sprachmodelle und deren Anwendung auf verschiedene Anwendungen widmete.

Während seiner Zeit bei Google Brain erzielte Zoph viele akademische Erfolge. Google Scholar zeigt, dass seine Arbeiten insgesamt 62.284 Mal zitiert wurden.

Im August 2022 trat Zoph von Google Brain zurück und trat OpenAI bei, um an der Entwicklung von ChatGPT mitzuwirken. Seine Hauptforschungsrichtung ist das Training großer spärlicher Sprachmodelle und AuoML, wie z. B. die Suche nach neuronalen Strukturen (NAS).

Auf der Mai-Konferenz von OpenAI demonstrierte Zoph die Echtzeit-Vision-Funktion von GPT-4o, die es GPT-4o ermöglicht, mathematische Probleme in Echtzeit über die Mobiltelefonkamera zu lösen.

Mark Chen

Mark Chen ist seit seinem Beitritt zu OpenAI im Jahr 2018 als Direktor für Frontier Research tätig und leitet eine Arbeitsgruppe unter dem Vizepräsidenten für Forschung Bob McGrew.

Chen zeigte auch schon sehr früh außergewöhnliche Talente und gewann perfekte Ergebnisse bei Mathematikwettbewerben wie AMC10, AMC12 und AIME, was ihm den Weg zum MIT ebnete.

Nach seinem Abschluss am MIT erhielt Chen einen Doppel-Bachelor-Abschluss in Mathematik und Informatik. Während seines Studiums absolvierte er ein Praktikum bei Microsoft und Trading und war Gastwissenschaftler an der Harvard University.

Nach Abschluss seines Grundstudiums wechselte Chen in den Finanzbereich und beschäftigte sich mit quantitativer Forschung, indem er Algorithmen für maschinelles Lernen für den Aktien- und Terminhandel entwickelte.

Im letzten Unternehmen, Integral Technology, hat Chen die Partnerebene erreicht.

Derzeit fungiert er auch als Trainer des amerikanischen IOI-Trainingsteams.

Tatsächlich können Menschen, die gut in Mathematik sind, alles problemlos tun.

Ruhe in Frieden, Jim Simons. Sie haben aus erster Hand gezeigt, dass wirklich gute Mathematikkenntnisse einen positiven Einfluss auf fast alles andere haben.

Chen konzentriert sich bei OpenAI auf multimodale Modellierung und Inferenzforschung. Er leitete das Team, das DALL·E entwickelt hat, sowie das Team, das die visuelle Wahrnehmung in GPT-4 integriert hat.

Chen leitete auch die Entwicklung von Codex und trug zur Weiterentwicklung von GPT-Modellen bei, einschließlich der Entwicklung von Bild-GPT, und war Mitglied des 17-köpfigen Goldmedaillenteams auf GPT-4o.

Bei der Pressekonferenz im Mai dieses Jahres betrat Chen auch die Bühne, um die Sprachfunktion von GPT-4o zu demonstrieren.

Chens Einfluss wurde während des „Palastkampfs“ im November letzten Jahres allmählich deutlich. Laut einem ehemaligen Mitarbeiter waren Chen damals zusammen mit Barret Zoph und dem Post-Training-Forscher Liam Fedus die wichtigsten Verbindungsleute zwischen Führung und Mitarbeitern.

Diese drei Personen übermittelten beispielsweise einen gemeinsamen Brief von Mitarbeitern, die Ultraman unterstützten, was zu einem wichtigen Bestandteil der Förderung der Wiedereinstellung von Ultraman wurde. Die meisten Mitarbeiter sagten in dem Brief, sie würden zu Microsoft wechseln, wenn Altman nicht wieder eingestellt würde.

Lilian Weng

Lilian Weng ist derzeit Leiterin des OpenAI-Sicherheitssystems und beschäftigt sich hauptsächlich mit maschinellem Lernen, Deep Learning und anderen Forschungen.

Weng schloss sein Studium an der Universität Peking mit einem Bachelor-Abschluss in Informationssystemen und Informatik ab. Er ging für einen kurzfristigen Austausch an die Universität Hongkong und promovierte anschließend an der Indiana University Bloomington.

Während seiner Doktorarbeit befasste sich Weng mit komplexen Systemen und Netzwerken und konzentrierte sich dabei auf soziale Medien, soziale Spiele, Mensch-Computer-Interaktion und die Modellierung komplexer Informationsnetzwerke.

Wenn Sie ihr Google Scholar-Profil öffnen, können Sie auch Artikel sehen, die Weng in Memes und sozialen Netzwerken veröffentlicht hat.

Sie absolvierte einmal ein Praktikum in der Benutzeranalyse bei eBay, Mozilla und anderen Unternehmen und „wechselte“ dann erfolgreich in die Softwareentwicklung und Datenwissenschaft bei Facebook und Dropbox.

Seit 2018 ist Weng als Forschungswissenschaftler bei OpenAI tätig. Als technischer Leiter des Robotikteams konzentriert sich Weng auf das Training von Algorithmen für Roboteraufgaben.

Weng leitete später auch das Forschungsteam zum Einsatz künstlicher Intelligenz und ist derzeit Leiter des Sicherheitsteams.

Im Juli dieses Jahres versetzte OpenAI Aleksander Madry, den bisherigen Leiter des Sicherheitsteams, in ein Team, das sich auf grundlegende Inferenzarbeit konzentriert. Eine mit der Angelegenheit vertraute Person sagte, dass das ursprünglich von Madry geleitete Sicherheitsteam an Lilian Weng übergeben wurde.

Weng wird nun Teams leiten, die sich sowohl auf die langfristige als auch auf die kurzfristige KI-Sicherheit konzentrieren, eine organisatorische Entscheidung, die einige Forscher beunruhigt, da Anreize für langfristige und kurzfristige Sicherheit miteinander in Konflikt geraten könnten.

Es ist erwähnenswert, dass die Blogartikel, die Weng auf seiner persönlichen Website verfasst hat, im Grunde genommen lange Artikel mit 10.000 Wörtern sind. Sie enthalten sowohl technische Informationen als auch Meinungsäußerungen und sind eine Referenz für viele Menschen in der Branche.

Referenzen:

https://www.theinformation.com/articles/the-rising-guard-at-openai?rc=epv9gi

https://www.sahmcapital.com/news/content/meet-jakub-pachocki-openais-new-chief-scientist-after-ilya-sutskevers-exit-sam-altman-hails-him-as-one-of- die-größten-geister-unserer-generation-2024-05-15