noticias

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

En la mañana del 6 de agosto, hora de Beijing, OpenAI dio la bienvenida a otro cambio de personal de alto nivel.

John Schulman, miembro del equipo fundador de OpenAI, anunció en las plataformas sociales que dejará OpenAI y se unirá a Anthropic, otra startup de inteligencia artificial. Greg Brockman, presidente y cofundador de OpenAI, anunció en las redes sociales que se ausentará hasta fin de año, sin mencionar novedades sobre una posible salida. También hay noticias de que el líder de producto de OpenAI, Peter Deng, también se marchará.

Después de la renuncia anterior del cofundador y científico jefe de OpenAI, Ilya Sutskever, el personal de OpenAI sigue siendo inestable. Vale la pena señalar que John Schulman e Ilya Sutskvo, quienes anunciaron su renuncia esta vez, fueron anteriormente responsables del trabajo de alineación de la inteligencia artificial de OpenAI. OpenAI ya disolvió el equipo de "Super Intelligence Alignment", y la partida de John Schulman puede significar que OpenAI esté menos dispuesto a reinvertir en alineación de inteligencia artificial.

Además, aunque Greg Brockman no reveló su partida, en un momento en que OpenAI se centra en superar los desafíos de los modelos de próxima generación, la licencia a largo plazo del personal central también puede reflejar las diferencias internas dentro de OpenAI.

Bienvenidos nuevamente cambios de personal

John Schulman dijo que tomó la decisión de dejar OpenAI y unirse a Anthropic porque quería centrarse más en la alineación de la inteligencia artificial y volver al trabajo técnico real. "No me iré por la falta de apoyo de OpenAI para la investigación de alineación. Al contrario, la empresa se ha comprometido a invertir en esta área. Mi decisión es personal y espero centrarme en la siguiente etapa de mi carrera. " dijo John Schulman .

John Schulman dijo que hasta ahora, aparte de las pasantías, OpenAI es la única empresa para la que ha trabajado y está muy agradecido con el CEO de OpenAI, Sam Altman, y el cofundador Greg Brock Mann, que lo reclutaron desde el principio: "Creo que OpenAI y El equipo para el que trabajo seguirá prosperando sin mí".

Sam Altman respondió a John Schulman en las plataformas sociales diciendo: "Gracias por todo lo que has hecho por OpenAI. Eres un investigador talentoso y una persona que piensa profundamente en los productos y la sociedad. Eres un gran amigo para todos nosotros".

El periodista notó que a principios de este año, OpenAI disolvió el equipo "Super Intelligence Alignment" y estableció un nuevo comité de seguridad el 28 de mayo, hora local. John Schulman es uno de los miembros del comité de seguridad. En ese momento, OpenAI describió su puesto como Director de Ciencia de Alineación.

Aunque el cofundador Greg Brockman se tomó una larga licencia, no reveló su intención de irse. Solo afirmó en las redes sociales que esta era la primera vez que podía relajarse desde que cofundó OpenAI hace 9 años. "La misión está lejos de estar completa, todavía necesitamos construir AGI (inteligencia general artificial) segura", dijo Greg Brockman.

Peter Deng aún no ha mencionado la noticia de su partida en las redes sociales. Peter Deng es un conocido gerente de productos en Silicon Valley. Se desempeñó como gerente de productos para Google, Instagram, Facebook, Uber y otras empresas. El año pasado se unió a OpenAI como vicepresidente de productos de consumo, responsable del diseño de productos. y equipos de ingeniería detrás de ChatGPT. En una conversación de podcast a principios de este año, cuando mencionó los valores de la seguridad de la IA y ChatGPT, dijo que la situación ideal es que la inteligencia artificial pueda adaptarse a los valores personales de cada usuario. Esto no debería ser así. normativo, y no es el nuestro. ¿Qué valores quiere inculcar en ChatGPT, pero cómo se pueden integrar de alguna manera los valores de todo el mundo en la inteligencia artificial?

La agitación del personal de OpenAI ha continuado desde que Sam Altman fue despedido y recontratado por la junta directiva de OpenAI el año pasado. Hay rumores de que el despido de Sam Altman está relacionado con diferencias internas sobre cuestiones de seguridad de la IA. Sam Altman e Ilya Sutskvo tienen diferencias sobre cuestiones de seguridad y comercialización de la IA. Como figura clave en la lucha interna, Ilya Sutskvo anunció en mayo de este año que dejaría OpenAI, en la que había trabajado durante casi 10 años.

Además, Andrej Karpathy, otro miembro del equipo fundador de OpenAI, dejó OpenAI en febrero de este año y anunció la fundación de una empresa de educación AI+ en julio. OpenAI tiene cada vez menos miembros del equipo fundador empleados.

¿Afectará el progreso del desarrollo de GPT?

OpenAI vuelve a dar la bienvenida a los cambios de personal, lo que puede significar que el enfoque de OpenAI en la seguridad de la IA ha cambiado. Queda por ver si la próxima generación de GPT se verá afectada por los cambios de personal.

El periodista notó que según la descripción de OpenAI, la primera tarea del comité de seguridad previamente establecido es evaluar y desarrollar aún más los procesos y salvaguardas de OpenAI en los próximos 90 días, y compartir recomendaciones con todos los miembros de la junta al final de los 90 días. Después de la revisión de la junta Divulgar las recomendaciones adoptadas. Según el plan de tiempo, estas recomendaciones se harán públicas después de finales de agosto, y John Schulman decidió abandonar OpenAI antes de esa fecha.

En términos de seguridad de la IA, la presentación de OpenAI al comité de seguridad recién creado muestra que las responsabilidades del equipo no son del todo consistentes con las del disuelto equipo de “Super Intelligence Alignment”. Con la salida de John Schulman, director de ciencia de alineación, esto puede significar que OpenAI preste menos atención a la alineación de la inteligencia artificial.

"Alineación" significa exigir que los objetivos del sistema de IA sean coherentes con los valores e intereses humanos. Las responsabilidades originales del equipo de "Alineación de Super Inteligencia" incluían la investigación de soluciones técnicas para prevenir anomalías en el sistema de IA. Ilya Sutskvo ha mencionado en entrevistas que ChatGPT puede ser consciente y que el mundo necesita despertar al verdadero poder de la tecnología que su empresa y otras están creando. Altman no lo ve del todo igual y recientemente respondió que “[la antigua junta] tenía algunas opiniones sobre mí y lo que estábamos haciendo, aunque no estaba muy de acuerdo con sus ideas. El tema de la alineación de la IA aún no está claro. Se dice que está completamente resuelto, pero actualmente el efecto de permitir que el sistema de inteligencia artificial aprenda a actuar de acuerdo con un conjunto de valores es mejor de lo que imaginaba.

Anthropic, al que se unirá John Schulman, es considerado el principal competidor de OpenAI. Anthropic, una empresa fundada por ex ejecutivos y empleados de investigación de OpenAI, posee la serie Claude de modelos grandes. En junio de este año, Anthropic lanzó el último modelo Claude 3.5 Sonnet, que tiene mejores resultados que GPT-4o en términos de razonamiento a nivel de posgrado (GPQA), capacidad de codificación (HumanEval) y razonamiento de texto (DROP).

A juzgar por el progreso de la investigación y el desarrollo de GPT de próxima generación, OpenAI parece haber encontrado algunas dificultades. En julio de este año, Sam Altman dijo que llevará algún tiempo desarrollar la tecnología relacionada con GPT-5 que aún se encuentra en sus primeras etapas y que existen problemas de datos y algoritmos.

Con John Schulman saliendo para unirse a su rival Anthropic y Greg Brockman tomando una licencia, queda por ver si la partida de figuras clave tendrá un impacto en el progreso de la investigación y el desarrollo de OpenAI.

Vale la pena señalar que existen otros conflictos entre los cofundadores de OpenAI. Menos de dos meses después de retirar la demanda, el director ejecutivo de Tesla, Musk, cofundador de OpenAI, demandó recientemente a Sam Altman y Greg Brockman en un tribunal de EE. UU., acusando al personal relevante de anteponer los intereses comerciales a los suyos propios y violar la fundación de la empresa. contrato. La acusación afirma que Sam Altman y otros deliberadamente buscaron favores y engañaron a Musk para cofundar la empresa sin fines de lucro OpenAI, pero luego utilizaron diversos medios para convertirla en una entidad con fines de lucro. OpenAI respondió a las acusaciones de Musk hace unos meses con capturas de pantalla, diciendo que Musk había aceptado el plan de la compañía de recaudar más fondos, crear una organización con fines de lucro y abandonar gradualmente los lanzamientos de productos de código abierto.