noticias

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

• Mengchen Crexi proviene del templo de Aofei
  Qubits | Cuenta pública QbitAI

Hace un momento, hubo un gran terremoto en la cima de OpenAI:

Lianchuang John SchulmanRenuncia y huye,Lianchuang y el presidente Greg Brockmanlargas vacaciones,Peter Deng, vicepresidente de productoTambién se reveló que había dimitido.

John Schulman, que ha dirigido el equipo de aprendizaje por refuerzo de OpenAI durante muchos años, es conocido como "Arquitecto ChatGPT”。

También fue él quien se hizo cargo temporalmente del equipo Super Alignment después de que Ilya Sustkever se fuera.

Ahora anunció que "tomó una decisión difícil" al unirse a Anthropic, el equipo de Claude de al lado.

Al mismo tiempo, el presidente de OpenAI, Greg Brockman, también anunció que se tomará unas largas vacaciones hasta fin de año.

OpenAI planea celebrar días de desarrolladores y otros eventos en todo el mundo a partir del 1 de octubre, y él también estará ausente.

Brockman dijo que era la primera vez que se relajaba después de nueve años consecutivos de trabajo, pero no estaba claro sobre sus planes después de fin de año. Algunos internautas pensaron que se debía al acuerdo de confidencialidad.

Veinte minutos después de que se anunciara oficialmente la renuncia de Schumann, Altman agradeció a Schumann por su contribución en su respuesta y recordó la escena en la que los dos se conocieron por primera vez en 2015.

Pero hasta ahora, Ultraman no ha respondido a la salida de Brockman.

Altman generalmente tiene la costumbre de escribir la primera letra de las oraciones y la "i" sin letras mayúsculas, pero cada vez que un colega importante decide irse, se comportará de manera más formal.

La famosa cuenta privilegiada de OpenAI, Apple Brother, dijo: Ahora que el liderazgo se ha convertido en un cascarón vacío, debe darse prisa y lanzar el producto.

El arquitecto de ChatGPT renunció

Schumann estudió pregrado en Caltechfísica, estudió brevemente en UC BerkeleyNeurociencia, posteriormente estudió bajoaprendizaje reforzadoDaniel Abbeel completó su doctorado en informática.

Cuando se convirtió en cofundador de OpenAI, aún no se había graduado con un doctorado.

OpenAI es la primera y única empresa para la que trabajó fuera de su pasantía.

Su obra maestra y artículo más citado.PPO, que es el algoritmo de aprendizaje por refuerzo seleccionado en la tecnología central RLHF de ChatGPT.

Posteriormente, lideró el equipo de alineación/post-entrenamiento en una serie de trabajos desde GPT-3.5, GPT-4 hasta GPT-4o.

El motivo de su dimisión esta vez también estuvo relacionado con esto:

Con la esperanza de profundizar mi enfoque en la alineación de la IA y comenzar un nuevo capítulo en mi carrera en el que pueda volver al trabajo técnico real.

Sin embargo, también le dio suficiente cara a OpenAI y agregó que"No irme debido a la falta de apoyo de OpenAI para los esfuerzos de alineación segura", simplemente por un deseo personal de concentrarse.

En su discurso en ICML2023, Schumann describió una de sus próximas direcciones de investigación:Cómo evitar la sobreoptimización。

• Algunos comportamientos molestos en ChatGPT (como disculpas excesivas) son el resultado de una optimización excesiva.
• RLHF puede optimizar demasiado fácilmente en métricas estrechas; por ejemplo, el modelo puede aprender atajos que generan recompensas sin comprenderlos realmente.
• Una formación adecuada para tareas conversacionales requiere razonamiento, toma de perspectiva y conocimiento, y los investigadores deben diseñar cuidadosamente procedimientos de formación, funciones de recompensa y conjuntos de datos.
• Las señales de recompensa deben evaluar la calidad de toda la conversación, no sólo la retroalimentación individual.

En una entrevista con el presentador de podcast Dwarkesh Patel en mayo de este año, Schumann también dijo:La potencia informática debería trasladarse más de la preformación a la postformación。

OpenAI sigue perdiendo talento

Debido a las diferencias en los conceptos de seguridad de la IA con Ultraman, OpenAI ha experimentado una pérdida masiva de talento.

En mayo de este año, los dos líderes del Equipo de Súper Alineación—el Científico JefeIlya Sutskevery uno de los inventores de RLHFJan Leike, abandonaron OpenAI uno tras otro el mismo día.

En ese momento, había pasado menos de un año desde el establecimiento del Súper Equipo de Alineación.

Después de que Jan Leike se fue, envió más de una docena de tweets seguidos, bombardeando frenéticamente a OpenAI, acusándolo de no cumplir su promesa de un 20% de potencia informática y de prestar mucha menos atención a la seguridad que a sus productos.

Más tarde, Jan Leike decidió unirse al competidor de OpenAI, Anthropic, para continuar la investigación sobre la súper alineación.

Codirige los esfuerzos de alineación en el proyecto GPT-4 con Jan LeikeRyan Lowe, también dejó OpenAI a finales de marzo.

Y uno de los miembros super alineadosWilliam Saundersy aquellos que han participado en pruebas adversarias de GPT-4Daniel Kokotajlo, también renunció a OpenAI.

Sin mencionar al ladoHermano y hermana Dario Amodei y Daniela Amodei, fundadores de Anthropic, también de OpenAI.

Antes de que su hermano Darío se fuera, él era vicepresidente de investigación de OpenAI y su hermana Daniela era subdirectora del departamento de seguridad y estrategia.Tom Brown, ingeniero jefe de GPT-3Lo traje a Anthropic con más de una docena de empleados.

Una de las razones por las que decidieron irse para iniciar un negocio fue que OpenAI lanzó directamente GPT-3 sin resolver el problema de seguridad, lo que despertó su descontento.

El énfasis en la seguridad, junto con los antecedentes del fundador, también han convertido a Anthropic en uno de los principales lugares para los empleados de OpenAI, incluidos Jan Leike y Schumann, que se fueron esta vez.

OpenAI también ha realizado algunos avances en el trabajo de seguridad recientemente——

A finales de julio, OpenAI nombró al director senior del departamento de seguridad.Alejandro MadryFue transferido del puesto de seguridad y reasignado al trabajo de "razonamiento de IA".

Pero OpenAI dijo a los medios que Madry seguirá comprometido con la seguridad de la inteligencia artificial después de asumir su nuevo cargo.

El CEO Altman también enfatizó que OpenAI siempre ha otorgado gran importancia al trabajo de seguridad y cumplió con su compromiso de "dar al menos el 20% de la potencia informática a todo el equipo de seguridad".

Pero los internautas perspicaces pronto descubrieron que Ultraman había jugado con una ola de conceptos engañosos.La promesa original era dar el 20% de la potencia informática al equipo de súper alineación, pero se cambió en secreto a todos los equipos de seguridad.。

Por lo tanto, después del tweet de Ultraman, los internautas agregaron sin piedad esta información de fondo y adjuntaron el enlace oficial a OpenAI en ese momento.

emm... Internet todavía tiene recuerdos.

Una cosa más

Si bien se está perdiendo una gran cantidad de talentos internos, el "viejo enemigo" de OpenAI, Musk, también tiene nuevas acciones:

Musk acaba de llevar a OpenAI a los tribunales nuevamente, los acusados ​​​​también son Ultraman y el director ejecutivo Brockman.

El motivo de esta demanda es que Musk creía que Altman y Brockman lo "engañaron y extorsionaron" cuando participó en la creación de OpenAI.

Musk dijo que inicialmente participó e invirtió en OpenAI porque creía en las palabras de Altman. En ese momento, Altman prometió que OpenAI sería una organización sin fines de lucro segura y abierta.

Pero más tarde OpenAI se convirtió en una organización con fines de lucro y vendió parte de sus acciones a Microsoft. Esto hizo que Musk se sintiera muy insatisfecho, pensando que había sido traicionado, y denunció a Altman por "traición".

El abogado de Musk, Marc Toberoff, dijo que la demanda era significativamente diferente de la anteriormente retirada, responsabilizando a los acusados ​​por "hacer conscientemente declaraciones falsas a Musk y al público" y buscar "una recuperación masiva de sus derechos mal habidos".

Al mismo tiempo, la acusación también exige la revocación de la licencia concedida por OpenAI a Microsoft.

Enlaces de referencia:
[1]https://www.bloomberg.com/news/articles/2024-08-06/el-cofundador-de-openai-john-schulman-se-retira-a-su-rival-antrópico-de-ai
[2]https://www.cnbc.com/2024/07/23/openai-remueve-al-ejecutivo-de-seguridad-de-ai-aleksander-madry-de-su-cargo.html
[3]https://x.com/sama/status/1818867964369928387
[4]https://www.documentcloud.org/documents/25031741-elon-vs-openai-again
[5]https://www.nytimes.com/2024/08/05/technology/elon-musk-openai-lawsuit.html