noticias

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Informe del corazón de la máquina

Departamento editorial de Machine Heart

La dirección de OpenAI volvió a recibir tres noticias importantes de cambios de personal.

Primero, el presidente de OpenAI, Greg Brockman, uno de los 11 cofundadores, tomará una licencia de larga duración.

El ejecutivo jugó un papel crucial al convertir los resultados revolucionarios de OpenAI en modelos y productos de inteligencia artificial a gran escala como ChatGPT, y sirvió como el regreso de Sam Altman a la compañía después de que fue expulsado de la junta directiva. Un importante aliado de Ultraman Sam.

La versión que Greg Brockman les dijo a los empleados fue que planeaba regresar a la empresa después de una licencia prolongada. Sin embargo, las vacaciones de larga duración para los altos ejecutivos en puestos clave darán lugar inevitablemente a algunas especulaciones del mundo exterior.

Además, otro cofundador, John Schulman, anunció su cambio a Anthropic, una empresa rival fundada por ex empleados de OpenAI.

Mientras estuvo en OpenAI, Schulman dirigió un proceso conocido como "post-entrenamiento" para refinar los grandes modelos de lenguaje detrás de ChatGPT y otros productos.

Schulman también se hizo cargo recientemente de los restos del equipo Hyper-Alignment, que se centra en evitar que la inteligencia artificial cause daño a la sociedad. Antes de esto, el jefe del equipo Super Alignment era Jan Leike, quien anunció su renuncia el mismo día que el cofundador y científico jefe de OpenAI, Ilya Sutskever. Ilya fundó una startup centrada en la seguridad después de dejar OpenAI y Jan Leike se unió a Anthropic.

Según una persona con conocimiento directo del asunto, el líder de producto Peter Deng, quien se unió a la compañía el año pasado y anteriormente se desempeñó como líder de producto en Meta Platforms, Uber y Airtable, se fue. OpenAI contrató recientemente a su primer director financiero y director de producto, y es probable que su llegada afecte el papel de Deng.

También conocemos a otro cofundador de OpenAI, Andrej Karpathy, quien se fue en febrero de este año y estableció una startup educativa.

Estas repentinas noticias de renuncias no son necesariamente relevantes, pero al menos ilustran un punto: desde que ocurrió la "Palace Fighting Farce" en noviembre pasado, aunque Sam Altman regresó a OpenAI y se hizo cargo, el liderazgo de la compañía sigue inestable.

John Schulman: Esta es una decisión muy difícil

Posteriormente, John Schulman reveló la noticia de su salida de X y explicó que eligió cambiarse a Anthropic porque quería profundizar en la alineación de la IA, que es la práctica de alinear la IA con los valores humanos.

Para aquellos colegas que lucharon junto a él, John Schulman dejó una carta:

He tomado la difícil decisión de dejar OpenAI. Esta elección surgió de mi deseo de centrarme más en la alineación de la IA y comenzar un nuevo capítulo en mi carrera, volviendo al trabajo técnico de primera línea. Decidí perseguir este objetivo en Anthropic, donde creí que podía obtener nuevas perspectivas y realizar investigaciones con personas que profundizaban en los temas que más me interesaban. Para ser claros, no me iré por la falta de apoyo de OpenAI para la investigación de alineación. Al contrario, los dirigentes de las empresas se han mostrado muy comprometidos a invertir en este ámbito. Mi decisión fue personal y se basó en dónde quería centrarme en la siguiente fase de mi carrera.

Hace casi 9 años, me uní a OpenAI después de graduarme de la escuela de posgrado y me convertí en miembro del equipo fundador. Esta es la primera y única empresa para la que he trabajado (aparte de una pasantía). El trabajo también es muy interesante y agradezco a Sam y Greg por reclutarme desde el principio, y a Mira y Bob por tener confianza en mí, brindarme muchas oportunidades y ayudarme a enfrentar con éxito varios desafíos. Estoy orgulloso de lo que hemos logrado juntos en OpenAI; hemos construido una empresa inusual y sin precedentes con una misión de bienestar público.

Creo que OpenAI y el equipo del que formo parte seguirán prosperando incluso sin mí. El trabajo de formación posterior avanza sin problemas y contamos con un grupo de talentos destacados. ChatGPT: mucho crédito. Ha sido fantástico que Barret, junto con Liam, Luke y otros, hayan convertido al equipo en el equipo tan capaz que es ahora. Me complace ver al equipo de coordinación trabajando en conjunto para ejecutar algunos proyectos prometedores. Bajo el liderazgo de Mia, Boaz y otros, creo que el equipo será muy capaz.

Estoy extremadamente agradecido por la oportunidad de ser parte de un momento tan importante en la historia y orgulloso de lo que hemos logrado juntos. Aunque estuviera trabajando en otro lugar, todavía los apoyaría a todos.

En el mismo tono familiar, Ultraman Sam despidió a otro socio empresarial:

El fundador dimitió y el equipo se disolvió.

Los cambios de personal de OpenAI comenzaron con la disputa en la sala de juntas.

En noviembre del año pasado, OpenAI anunció que Sam Altman dejaría el cargo de director ejecutivo y se retiraría de la junta directiva porque Sam Altman no fue lo suficientemente sincero con la junta directiva. El ex científico jefe de OpenAI, Ilya Sutskever, fue el impulsor clave de todo el incidente.

Pero unos días después, Sam Altman regresó a OpenAI como director ejecutivo y OpenAI anunció una reorganización de su junta directiva.

Cuando se produjo una "pelea de palacio" en OpenAI y Ultraman Sam fue expulsado de OpenAI, algunas personas rumorearon que Ilya "vio algo" que era lo suficientemente poderoso como para hacerle preocuparse por el futuro de la IA y repensar su desarrollo.

Algunas personas incluso lo interpretaron como: OpenAI puede haber implementado AGI internamente, pero no sincronizó la información a más personas de manera oportuna. Para evitar que la tecnología se aplique a gran escala sin una evaluación de seguridad, Ilya y otros presionaron. tecla de parada de emergencia. Pero éstas son sólo conjeturas.

Después de la confusión, Ultraman parece poder gestionar OpenAI con mayor libertad, mientras que Ilya Sutskever se siente avergonzado.

En mayo de este año, el cofundador y científico jefe de OpenAI, Ilya Sutskever, anunció oficialmente su renuncia. Al mismo tiempo que Ilya, Jan Leike, codirector del equipo Super Alignment, anunció su partida. El equipo Super Alignment de OpenAI se disolvió.

En junio, Ilya dijo en X que había fundado una nueva empresa: "Safe SuperIntelligence (SSI)".

Jan Leike también anunció a finales de mayo que se uniría al competidor de OpenAI, Anthropic, para continuar trabajando en la investigación de súper alineación. Después de que John Schulman anunciara su incorporación a Anthropic, Jan Leike comentó: "¡Estoy muy feliz de volver a trabajar juntos!".

Por razones de seguridad, la junta directiva de OpenAI anunció en mayo el establecimiento de un nuevo Comité de Seguridad, dirigido por los directores Bret Taylor (presidente de la junta), Adam D'Angelo, Nicole Seligman y Sam Altman (CEO). Este comité es responsable de hacer recomendaciones a toda la Junta Directiva sobre decisiones de seguridad críticas para proyectos y operaciones de OpenAI.

Sin embargo, los cambios de personal han continuado. Esto hace que la gente especule sobre lo que sucede dentro de OpenAI.

Entonces, ¿qué tan lejos estará el modelo grande de IA de próxima generación de OpenAI de AGI? ¿Vale la pena preocuparse por la seguridad de los modelos grandes?

Vale la pena señalar que OpenAI parece estar desacelerando últimamente. Las noticias publicadas por OpenAI en DevDay este otoño indicaron que GPT-5 no se lanzará por el momento, lo que reduce las expectativas de lanzamientos de modelos grandes y se centrará en actualizar su API y servicios de desarrollador.

Enlace de referencia: https://www.theinformation.com/articles/trio-of-leaders-leave-openai?rc=ks2jbm