noticias

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

La agitación del personal de OpenAI se ha intensificado desde que el director ejecutivo Sam Altman fue despedido y recontratado por la junta directiva de OpenAI el año pasado.

Desde principios de este año, muchos altos ejecutivos han dimitido. Por ahora, sólo quedan tres de los 11 cofundadores de OpenAI: Altman, Wojciech Zaremba, jefe del equipo de generación de código y lenguaje, y Greg Brockman, el presidente que está de licencia.

¿Por qué OpenAI, que tiene una enorme influencia en el campo de la inteligencia artificial, no puede retener a estos fundadores?

liberar estas señales

A principios de este mes, John Schulman, quien jugó un papel importante en la construcción de ChatGPT, anunció que dejaría OpenAI y se uniría a su competidor Anthropic. Dijo: "Decidí perseguir el objetivo de investigar la alineación de la IA en Anthropic y realizar investigaciones con personas que profundizan en temas que me interesan, Peter Deng, vicepresidente de productos de consumo y líder de nuevos productos que se unió el año pasado, también en el anuncio oficial". de resignación.

Liu Pengfei, profesor asociado de la Universidad Jiao Tong de Shanghai y jefe del grupo de investigación de inteligencia artificial generativa, dijo en una entrevista con China Business News: "La salida de investigadores de alto nivel como Schulman muestra que OpenAI puede que ya no sea la primera opción para los mejores Otros científicos se centran en la IA. Empresas seguras como Anthropic o nuevas empresas están atrayendo talento, lo que podría ser una señal de diversificación en el ecosistema de investigación de la IA".

Vale la pena señalar que Brockman, quien apoyó firmemente a Altman durante la tormenta de destitución del año pasado, también anunció que tomaría una licencia hasta fin de año casi al mismo tiempo, diciendo: "La tarea está lejos de estar completa, Todavía necesitamos construir una AGI (Inteligencia Artificial General) segura”.

En este sentido, Tan Yinliang, profesor de ciencia de la decisión y sistemas de información de gestión en China Europe International Business School, dijo en una entrevista con China Business News que la industria en general interpretó la medida de Brockman como una salida inminente porque el ex cofundador de OpenAI, Andrej Karpathy también dimitió tras tomarse unas largas vacaciones.

Tan Yinliang dijo que las acciones recientes de Schulman y Brockman han emitido dos señales: en primer lugar, hay problemas en la gestión interna de OpenAI, los científicos destacados pueden seguir abandonándose y la brecha de desarrollo entre otras empresas de IA y OpenAI puede desaparecer gradualmente; en segundo lugar, GPT5; Es posible que el desarrollo de modelos de próxima generación haya encontrado un cuello de botella y que el campo técnico tenga que pensar si ScalingLaws (la ley de escala) se está acercando a su fin.

"Cuando el próximo mes se eliminen por completo las cláusulas de no competencia en las empresas estadounidenses y se desate por completo el flujo de talentos de IA, el problema de la fuga de cerebros de OpenAI puede volverse aún más grave", dijo.

"Rebelde" abre una nueva era

Según estadísticas de instituciones de investigación de la industria, casi 75 empleados principales de OpenAI renunciaron y fundaron alrededor de 30 nuevas empresas de inteligencia artificial. Dario Amodei, fundador y director ejecutivo de la empresa de inteligencia artificial Anthropic, dijo en un programa en julio que las empresas de modelos de inteligencia artificial están a punto de lograr ingresos superiores al billón de dólares estadounidenses. En el mercado de la inteligencia artificial a escala de un billón, OpenAI y sus empleados expatriados pueden representar más de la mitad del mercado.

Los hermanos Amodei se desempeñaron como vicepresidente de investigación y vicepresidente de política de seguridad en OpenAI. En 2020, dimitieron debido al descontento con el lanzamiento directo de GPT-3 por parte de OpenAI sin resolver los problemas de seguridad. También se llevaron al ex director de políticas Jack Clark y al investigador Jared Kaplan para participar en la creación de GPT-3. La empresa ha recaudado al menos 7.000 millones de dólares en financiación desde 2021 de gigantes tecnológicos como Google y Amazon. Se considera que la última versión del chatbot, Claude 3.5 Sonnet, lanzada en junio, es equivalente o mejor que el GPT-4o de OpenAI en rendimiento general.

Perplexity, una empresa de búsqueda de inteligencia artificial fundada en agosto de 2022 por el ex científico investigador de OpenAI Aravind Srinivas, está valorada actualmente en más de 3.000 millones de dólares. La compañía dijo que recibió 250 millones de consultas el mes pasado, la mitad de las que tuvo durante todo el año pasado. El crecimiento explosivo ha hecho que Perplexity sea considerado un fuerte competidor de Geimini de Google y SearchGPT de OpenAI.

En julio de este año, el cofundador de OpenAI y director ejecutivo de Tesla, Musk, también "obtuvo el último boleto" y anunció el establecimiento de su empresa de inteligencia artificial xAI para "comprender la verdadera naturaleza del universo".

Tan Yinliang dijo: "Es relativamente común que los fundadores se vayan al campo de la tecnología dura, y esta cultura del 'éxodo' ha prevalecido desde el comienzo del ascenso de Silicon Valley. El más famoso es el 'Fairy Child Eight Rebels'. ', estas ocho personas que comenzaron en Fairchild Después de dejar su trabajo, fundaron una gran cantidad de empresas de tecnología temprana, incluidas Intel y AMD. Fue este grupo de empresas el que convirtió a San Francisco en Silicon Valley. Los ocho autores del artículo "AttentionIsAllYouNeed", que sentó las bases del gran modelo, ahora también están presentes en Google y fundaron su propia empresa.

Dijo: "Los planes empresariales personales y diversas diferencias filosóficas que surgen durante el proceso de desarrollo de la empresa pueden ser las razones para que los fundadores se vayan. Sin embargo, a veces irse no es necesariamente algo malo. Son estos 'renegados' quienes se abren un nuevo campo y tiempos”.

La seguridad es un tema que OpenAI no puede evitar

Sin embargo, es innegable que "seguridad" y "alineación" también son palabras frecuentes en las declaraciones de renuncia de los fundadores.

Además de Schulman, el cofundador y científico jefe de OpenAI, Ilya Sutskever, y el líder del equipo Super Alignment, Jan Leike, anunciaron sus dimisiones en mayo. Lake incluso se quejó en la red social X de que "la cultura y los procesos de seguridad han dado paso a productos brillantes".

Posteriormente, Suzkwer anunció la creación de una nueva empresa de inteligencia artificial, Safe Superintelligence Inc. (SSI), en junio de este año y afirmó que "la superinteligencia segura es nuestro único enfoque". Lake se unió a Anthropic, la empresa de inteligencia artificial rival de OpenAI, para "continuar la misión de súper alineación".

Al respecto, Tan Yinliang dijo: "En el campo de la inteligencia artificial, 'Alineación' se refiere a garantizar que el comportamiento del sistema de IA sea coherente con los valores, las intenciones y los objetivos esperados de los humanos. En pocas palabras, es hacer que la IA Seguir mejor las necesidades humanas requiere pensar en las cosas y los valores de las personas. Altman no hizo lo suficiente en el departamento de seguridad. Originalmente prometió dar el 20% de los recursos de potencia informática al equipo de superalineación. Cambió y todo el equipo de seguridad dividió el 20%. Para un grupo de científicos con intenciones originales, la seguridad es su insistencia.

A finales de julio de este año, OpenAI también transfirió a Aleksander Madry, director senior del departamento de seguridad, de su puesto de seguridad y lo reasignó al trabajo de "razonamiento de IA". A principios de este mes, Musk volvió a presentar una demanda contra OpenAI y Altman, acusando a OpenAI de anteponer las ganancias y los intereses comerciales a los intereses públicos, desviándose de la intención original de beneficiar a toda la humanidad cuando se fundó la empresa.

Li Wei'an, catedrático de la Universidad de Nankai y decano del Instituto de Investigación de Gobernanza Corporativa de China, dijo en una entrevista con China Business News: "En el espíritu empresarial tradicional, muchos cambios de empleo se deben a la falta de remuneración, acciones o puestos correspondientes al valor creado, pero esta no es principalmente la razón de la salida de los cofundadores de OpenAI”.

Dijo que los fundadores de OpenAI básicamente no tienen acciones. Desde la perspectiva de la gobernanza de la inteligencia artificial, la razón principal por la que los fundadores se fueron es el conflicto de conceptos de gobernanza, es decir, si la gobernanza de la inteligencia artificial es para bien o para obtener ganancias.

ChallengerAntrópico

Desde Lake hasta Schulman, Anthropic continúa atrayendo a miembros principales de OpenAI.

La compañía también contrató recientemente a Pavel Izmailov, un ex investigador de OpenAI que fue despedido en abril de este año por supuestamente filtrar información. Steven Bills, que ha sido miembro del personal técnico de OpenAI durante más de dos años, también dijo el mes pasado que había dejado OpenAI para unirse al equipo de alineación de Anthropic.

Liu Pengfei dijo que Anthropic ha hecho de la seguridad y la alineación de la IA su misión principal desde sus inicios. Este enfoque le permite centrar más recursos y atención en los problemas de alineación, proporcionando potencialmente a los investigadores un entorno de investigación más puro. Además, para un investigador senior como Schulman, trabajar en una empresa más nueva y relativamente más pequeña puede significar una mayor influencia y más oportunidades para dar forma a la dirección de la empresa, lo cual es más importante para quienes esperan trabajar en un lugar muy atractivo para la mitad de su carrera. investigadores que buscan nuevos retos.

Li Wei'an dijo: "La innovación de Anthropic en la estructura de gobierno corporativo refleja un mejor equilibrio entre negocios y seguridad, lo que también puede ser la razón por la que puede continuar atrayendo talentos para cambiar de trabajo".

Explicó: “Para lograr un equilibrio entre la IA para el bien y la IA con fines de lucro, en términos de estructura de gobierno, Anthropic ha establecido un comité de confianza compuesto por figuras reconocidas de la sociedad para supervisar a los directores. Tienen derecho a destituir a los directores. que violan el propósito de la tecnología para el bien. Además, para garantizar la implementación del sistema, Anthropic también ha creado una clase especial de acciones T que serán propiedad de los miembros del fideicomiso.

En mayo de este año, Amodei dijo en una cumbre: "Tenemos siete cofundadores. Tres años y medio después, todos seguimos en la empresa".

Con respecto a los desafíos que enfrenta OpenAI, Tan Yinliang dijo: "Al observar otras compañías de IA, el modelo de Claude ha superado a GPT en algunos campos. Cuando todos corren en la ruta establecida de Transformer, el punto final y el camino son en realidad muy claros. Actualmente, si los científicos continúan abandonándose, la ventaja de ser el primero en actuar de OpenAI no es insuperable”.

"En agosto, Musk también reinició la demanda contra OpenAl. En términos financieros, las pérdidas de OpenAI pueden alcanzar los 5 mil millones de dólares estadounidenses al año y su flujo de caja puede agotarse el próximo año. En medio de preocupaciones internas y externas, esto El año debería ser un buen comienzo para OpenAI. Es muy difícil", dijo.