Nachricht

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

• Mengchen Crexi stammt aus dem Aofei-Tempel
  Qubits |. Öffentliches Konto QbitAI

Gerade hat es an der Spitze von OpenAI ein großes Erdbeben gegeben:

Lianchuang John SchulmanZurücktreten und weglaufen,Lianchuang und Präsident Greg BrockmanLange Ferien,Peter Deng, Vizepräsident für ProduktEs wurde auch bekannt, dass er zurückgetreten war.

John Schulman, der seit vielen Jahren das OpenAI-Team für Reinforcement Learning leitet, ist bekannt als „ChatGPT-Architekt“。

Er war es auch, der nach dem Weggang von Ilya Sustkever vorübergehend das Super Alignment-Team übernahm.

Jetzt gab er bekannt, dass er „eine schwierige Entscheidung getroffen“ habe, sich Anthropic, dem Claude-Team von nebenan, anzuschließen.

Gleichzeitig kündigte OpenAI-Präsident Greg Brockman auch an, dass er bis Ende des Jahres einen längeren Urlaub nehmen werde.

OpenAI plant, ab dem 1. Oktober Entwicklertage und andere Veranstaltungen auf der ganzen Welt abzuhalten, auch er wird abwesend sein.

Brockman sagte, es sei das erste Mal gewesen, dass er sich nach neun aufeinanderfolgenden Arbeitsjahren entspannt habe, aber er äußerte sich vage über seine Pläne nach Jahresende. Einige Internetnutzer dachten, das liege an der Vertraulichkeitsvereinbarung.

Zwanzig Minuten nach der offiziellen Bekanntgabe von Schumanns Rücktritt dankte Altman Schumann in seiner Antwort für seinen Beitrag und erinnerte sich an die Szene, als sich die beiden 2015 zum ersten Mal trafen.

Bisher hat Ultraman jedoch nicht auf Brockmans Abschied reagiert.

Altman hat normalerweise die Angewohnheit, den ersten Buchstaben von Sätzen und „i“ ohne Großbuchstaben zu tippen, aber wenn ein wichtiger Kollege sich entscheidet, zu gehen, verhält er sich formeller.

Der berühmte OpenAI-Insider-Account Apple Brother sagte: Da die Führung nun zu einer leeren Hülle geworden ist, sollten Sie sich beeilen und das Produkt veröffentlichen.

ChatGPT-Architekt ist zurückgetreten

Schumann studierte als Student am CaltechPhysik, studierte kurzzeitig an der UC BerkeleyNeurowissenschaften, später studiert unterVerstärkungslernenDaniel Abbeel schloss seinen Doktortitel in Informatik ab.

Als er Mitbegründer von OpenAI wurde, hatte er noch keinen Doktortitel erworben.

OpenAI ist das erste und einzige Unternehmen, für das er außerhalb seines Praktikums gearbeitet hat.

Sein Meisterwerk und die meistzitierte ArbeitPPODies ist der Reinforcement-Learning-Algorithmus, der in der Kerntechnologie RLHF von ChatGPT ausgewählt wird.

Später leitete er das Alignment-/Post-Training-Team in einer Reihe von Arbeiten von GPT-3.5, GPT-4 bis GPT-4o.

Der Grund für seinen Rücktritt hing dieses Mal auch damit zusammen:

Ich hoffe, meinen Fokus auf die KI-Ausrichtung zu vertiefen und ein neues Kapitel in meiner Karriere zu beginnen, in dem ich zur eigentlichen technischen Arbeit zurückkehren kann.

Allerdings gab er OpenAI auch genügend Gesicht, indem er hinzufügte„Wir gehen nicht weg, weil OpenAI keine Unterstützung für sichere Ausrichtungsbemühungen bietet“, einfach aus dem persönlichen Wunsch heraus, sich zu konzentrieren.

In seiner Rede beim ICML2023 beschrieb Schumann eine seiner nächsten Forschungsrichtungen:So vermeiden Sie eine Überoptimierung。

• Einige störende Verhaltensweisen in ChatGPT (z. B. übermäßige Entschuldigungen) sind das Ergebnis einer Überoptimierung.
• RLHF kann bei engen Metriken leicht überoptimieren; das Modell kann beispielsweise Abkürzungen lernen, die Belohnungen bringen, ohne sie wirklich zu verstehen.
• Richtiges Training für Konversationsaufgaben erfordert Argumentation, Perspektivenübernahme und Wissen, und Forscher müssen Trainingsverfahren, Belohnungsfunktionen und Datensätze sorgfältig entwerfen
• Belohnungssignale müssen die Qualität des gesamten Gesprächs bewerten, nicht nur das individuelle Feedback.

In einem Interview mit Podcast-Moderator Dwarkesh Patel im Mai dieses Jahres sagte Schumann außerdem:Die Rechenleistung sollte stärker von der Zeit vor dem Training auf die Zeit nach dem Training verlagert werden。

OpenAI verliert weiterhin Talente

Aufgrund der Unterschiede in den KI-Sicherheitskonzepten zu Ultraman hat OpenAI einen massiven Talentverlust erlebt.

Im Mai dieses Jahres trafen sich die beiden Leiter des Super Alignment Teams – ChefwissenschaftlerIlja Sutskeverund einer der Erfinder von RLHFJan Leike, verließ OpenAI nacheinander am selben Tag.

Zu diesem Zeitpunkt war seit der Gründung des Super Alignment Teams noch nicht einmal ein Jahr vergangen.

Nachdem Jan Leike gegangen war, schickte er mehr als ein Dutzend Tweets hintereinander, in denen er OpenAI hektisch bombardierte und ihm vorwarf, sein Versprechen von 20 % Rechenleistung nicht einzuhalten und der Sicherheit weitaus weniger Aufmerksamkeit zu schenken als seinen Produkten.

Später entschied sich Jan Leike, sich dem OpenAI-Konkurrenten Anthropic anzuschließen, um die Forschung zum Thema Super Alignment fortzusetzen.

Gemeinsam mit Jan Leike leitet er die Ausrichtungsbemühungen im GPT-4-ProjektRyan LoweAuch er verließ OpenAI Ende März.

Und eines der superausgeglichenen MitgliederWilliam Saundersund diejenigen, die an GPT-4-Kontrolltests teilgenommen habenDaniel Kokotajlo, ebenfalls von OpenAI zurückgetreten.

Ganz zu schweigen von nebenanBruder und Schwester Dario Amodei und Daniela Amodei, Gründer von Anthropic, ebenfalls von OpenAI.

Bevor sein Bruder Dario ging, war er Vizepräsident für Forschung bei OpenAI und seine Schwester Daniela stellvertretende Direktorin der Sicherheits- und Strategieabteilung.Tom Brown, Chefingenieur von GPT-3Ich habe es mit mehr als einem Dutzend Mitarbeitern zu Anthropic gebracht.

Einer der Gründe, warum sie sich entschieden, ein Unternehmen zu gründen, war, dass OpenAI GPT-3 direkt veröffentlichte, ohne das Sicherheitsproblem zu lösen, was ihre Unzufriedenheit hervorrief.

Der Schwerpunkt auf Sicherheit, gepaart mit dem Hintergrund des Gründers, hat Anthropic auch zu einem der Hauptstandorte für OpenAI-Mitarbeiter gemacht, darunter Jan Leike und Schumann, die dieses Mal ausgeschieden sind.

OpenAI hat in letzter Zeit auch einige Schritte in der Sicherheitsarbeit unternommen –

Ende Juli entsandte OpenAI den leitenden Direktor der SicherheitsabteilungAlexander MadryEr wurde von der Sicherheitsposition versetzt und der Aufgabe „KI-Argumentation“ zugewiesen.

Aber OpenAI teilte den Medien mit, dass Madry sich auch nach seinem Amtsantritt weiterhin für die Sicherheit künstlicher Intelligenz einsetzen werde.

CEO Altman betonte außerdem, dass OpenAI stets großen Wert auf Sicherheitsarbeit lege und an seiner Verpflichtung festhalte, „mindestens 20 % der Rechenleistung dem gesamten Sicherheitsteam zur Verfügung zu stellen“.

Aber scharfsichtige Internetnutzer entdeckten bald, dass Ultraman mit einer Welle hinterhältiger Konzepte gespielt hatte.Das ursprüngliche Versprechen bestand darin, dem Super-Alignment-Team 20 % der Rechenleistung zu geben, wurde jedoch heimlich auf alle Sicherheitsteams geändert.。

Daher fügten Internetnutzer nach dem Tweet von Ultraman diese Hintergrundinformationen rücksichtslos hinzu und fügten den damaligen offiziellen Link zu OpenAI hinzu.

Emm... das Internet hat immer noch Erinnerungen.

Eine Sache noch

Während viele interne Talente verloren gehen, hat OpenAIs „alter Feind“ Musk auch neue Aktionen –

Musk hat OpenAI gerade erneut vor Gericht verklagt, die Angeklagten sind auch Ultraman und CEO Brockman.

Der Grund für diese Klage ist, dass Musk glaubte, von Altman und Brockman „getäuscht und erpresst“ worden zu sein, als er an der Entwicklung von OpenAI beteiligt war.

Musk sagte, dass er sich ursprünglich an OpenAI beteiligte und in OpenAI investierte, weil er Altmans Worten glaubte. Damals versprach Altman, dass OpenAI eine sichere und offene gemeinnützige Organisation sein würde.

Aber später wurde OpenAI eine gewinnorientierte Organisation und verkaufte einen Teil seiner Anteile an Microsoft. Dies machte Musk sehr unzufrieden, weil er dachte, er sei betrogen worden, und verurteilte Altman als „Verrat“.

Musks Anwalt Marc Toberoff sagte, die Klage unterscheide sich erheblich von der zuvor zurückgezogenen Klage und mache die Angeklagten „für wissentlich falsche Aussagen gegenüber Musk und der Öffentlichkeit verantwortlich“ und strebe „massive Wiedereinziehung ihrer Rechte“ an.

Gleichzeitig verlangt die Anklage auch den Widerruf der von OpenAI an Microsoft gewährten Lizenz.

Referenzlinks:
[1]https://www.bloomberg.com/news/articles/2024-08-06/openai-co-founder-john-schulman-departs-for-ai-rival-anthropic
[2]https://www.cnbc.com/2024/07/23/openai-removes-ai-safety-executive-aleksander-madry-from-role.html
[3]https://x.com/sama/status/1818867964369928387
[4]https://www.documentcloud.org/documents/25031741-elon-vs-openai-again
[5]https://www.nytimes.com/2024/08/05/technology/elon-musk-openai-lawsuit.html