noticias

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

¿qué pasó con openai?

openai, que se ha visto envuelta en una tormenta de dimisiones ejecutivas, ha encendido recientemente el entusiasmo de las masas.

por un lado, se reveló que la valoración posterior a la inversión llegó a los 150 mil millones de dólares estadounidenses, lo que lo convierte en el cachorro más hermoso entre los unicornios de ia mundiales. por otro lado, perdió tres gigantes tecnológicos seguidos. el único veterano emprendedor que queda en el cargo es altman. este es un comandante soltero. los dos días de openai fueron como un mundo de hielo y fuego.

‍ imagen vía @blizaine

‍las renuncias de ejecutivos son comunes en cualquier empresa de ia, pero lo que es diferente es que la "batalla judicial" que ocurrió en openai el año pasado sin duda le dio a esta tormenta una capa de teoría de conspiración.

pronto, el medio extranjero the information expuso la historia interna de la rotación de empleados de openai.

como de costumbre, hablemos primero de la conclusión. la ola de renuncias de openai se puede dividir a grandes rasgos en dos razones.en primer lugar, los ejecutivos se sintieron agraviados y, en segundo lugar, no recibieron suficiente dinero.

me siento agraviado

es difícil imaginar que la opinión pública pueda cambiar tan rápidamente sobre el mismo asunto.

el año pasado, el director ejecutivo de openai, sam altman, todavía desempeñaba el papel de "wei guangzheng" en "palace fight". en ese momento, la mayoría de los medios calificaron al timonel como el steve jobs de la ia, e incluso lo colocaron en la posición 2.0. jobs fue expulsado.

este año, cuando un gran número de ejecutivos de openai se fueron uno tras otro, la opinión pública de repente se volvió contra altman.

los amigos que no estén al tanto de este asunto pueden hacer clic nuevamente para leer nuestro informe de ayer: ¿openai ya no está abierto? reestructuración de empresas, terremoto de gran altura, pero no es tan malo

en pocas palabras, en las primeras horas de la mañana de ayer, mira murati, directora de tecnología de openai, anunció repentinamente su renuncia.

unas horas después de que murati anunciara su renuncia, el director de investigación de openai, bob mcgrew, y el vicepresidente de investigación, barret zoph, también anunciaron sus planes de renuncia.

en ese momento, altman también insinuó a la plataforma x que mira, bob y barret tomaron estas decisiones de forma independiente y amigable.tenga en cuenta que aquí el énfasis está en "independiente y amigable".

de hecho, la ola de renuncias en openai también puede tener algo que ver con altman, la persona al mando.

los medios extranjeros the information informaron que algunas personas que trabajan directamente con altman o sus ayudantes creen quealtman tiende a exacerbar las luchas de poder dentro de la empresa.

cuando los líderes de la empresa pedían contratación o recursos adicionales, altman evitaba tomar estas difíciles decisiones, hasta el punto de que otros ejecutivos, como los actuales presidentes brockman y murati, a veces tenían que asumir ese papel.

en mayo, jan leike, uno de los exlíderes del equipo super alignment de openai, anunció oficialmente su dimisión.

el día de su dimisión, jan leike publicó con enojo más de diez "pequeños ensayos".el viaje mental apunta a openai y altman, las palabras están completamente llenas de decepción.

ayer fue mi último día como jefe de hiperalineación, liderazgo senior y miembro del equipo ejecutivo de openai.

mi equipo ha emprendido un viaje muy emocionante durante los últimos 3 años aproximadamente. presentamos instructgpt, el primer modelo de lenguaje grande (llm) entrenado con aprendizaje reforzado con retroalimentación humana (rlhf), publicamos el primer estudio supervisado escalable sobre modelos de lenguaje grande y trabajamos en la interpretabilidad automatizada y se han logrado resultados pioneros de débil a fuerte. en generalización. próximamente se publicarán resultados de investigación más interesantes.

aprecio mucho a mi equipo. estoy increíblemente agradecido de trabajar con tanta gente maravillosa, tanto dentro del equipo de super alignment como con socios fuera del equipo. openai es el hogar de personas increíblemente inteligentes, amigables y eficientes.

dejar este trabajo fue una de las decisiones más difíciles de mi vida porque debemos encontrar rápidamente formas de guiar y controlar sistemas de ia que son mucho más inteligentes que nosotros.

elegí unirme a openai porque creo que es el mejor lugar del mundo para realizar esta investigación. sin embargo, tuve desacuerdos de larga data con el liderazgo de openai sobre las principales prioridades de desarrollo de la compañía, y nuestras diferencias eventualmente crecieron hasta el punto en que se volvieron irreconciliables.

creo firmemente que deberíamos invertir más recursos y energía en prepararnos para la nueva generación de modelos de ia, incluida la seguridad, el monitoreo, la preparación para emergencias, la investigación de seguridad, la solidez ante ataques adversarios, las cuestiones de alineación de la ia, la investigación sobre confidencialidad, el impacto social, etc.

estos problemas son muy complejos y difíciles de resolver, y me preocupa que nuestro actual camino de desarrollo no permita alcanzar con éxito nuestros objetivos.

mi equipo se ha enfrentado a enormes desafíos durante los últimos meses.en ocasiones hemos tenido dificultades para obtener recursos informáticos adecuados, lo que hace cada vez más difícil completar esta investigación crítica.

crear máquinas que superen la inteligencia humana es una tarea intrínsecamente arriesgada. openai asume esta enorme responsabilidad en nombre de toda la humanidad. sin embargo, en los últimos años, la cultura y los procesos de seguridad han sido marginados en la búsqueda de un desarrollo de productos convincente.

ya es hora de que nos tomemos muy en serio el impacto de gran alcance de la inteligencia artificial general (agi). debemos hacer todo lo posible para priorizar la preparación para agi. sólo así podremos garantizar que la inteligencia artificial general pueda beneficiar a toda la humanidad.

openai debe transformarse en una empresa de inteligencia artificial general que dé prioridad a la seguridad.

quiero decirles a todos los empleados de openai: aprendan a sentir acerca de la inteligencia artificial general (agi). actúa con una seriedad digna de lo que estás construyendo. creo que se puede "implementar" el cambio cultural necesario. cuento contigo. el mundo entero cuenta contigo. :openai-corazón:

helen toner, una de las fuerzas impulsoras del posterior "despido" de altman, también reveló más información privilegiada al mundo exterior.

dijo que a altman le gusta "cortar primero y luego contar" cuando se trata de cuestiones de seguridad de la empresa:

en numerosas ocasiones, nos proporcionó información inexacta sobre los procesos formales de seguridad que tenía implementada la empresa.

esto significa que es esencialmente imposible para la junta saber qué tan bien están funcionando estos procesos de seguridad o qué cambios pueden ser necesarios.

en cuanto a por qué altman regresó a la junta directiva en medio del apoyo de los empleados, helen dijo:

los informes de los medios estaban equivocados y muchos empleados creían que openai sería "destruida" si altman no regresaba a la junta directiva.

muchos empleados no quieren que la empresa se desmorone, no quieren perder sus puestos de trabajo y necesitan liquidar su capital.

los empleados temen la oposición a altman y temor a represalias si altman regresa al poder.

altman tiene antecedentes de ser despedido y acusado de mala conducta

la información anterior también puede permitirnos ver un altman más "tridimensional".

además, una persona familiarizada con el asunto dijo que brockman y murati a menudo no estaban de acuerdo con los planes de desarrollo de ia de la compañía.

aunque brockman, como presidente de la empresa, suele ser responsable de la planificación estratégica general y la toma de decisiones de la empresa, también participa en proyectos específicos, como la conversión de los primeros resultados de la investigación de ia en prototipos de productos prácticos.

este papel superpuesto tanto del tomador de decisiones como del ejecutor puede fácilmente llevar a desacuerdos con las opiniones y planes de murati y su equipo técnico.

en la conferencia más importante de openai de este año, murati apoyó el lanzamiento del nuevo modelo gpt-4o.

este también es un papel importante que murati ha desempeñado en el pasado, que consiste en resolver las diferencias entre los equipos de seguridad y productos de la empresa antes y después del lanzamiento de productos.

los recursos informáticos son fundamentales para la investigación de la ia, y el ex ejecutivo mcgrew fue responsable de aprobar las solicitudes de recursos informáticos adicionales de los investigadores. murati y mcgrew participaron conjuntamente en las decisiones relativas a la priorización y selección de proyectos de las áreas de investigación de openai.

según los informes, en la reunión posterior a anunciar su renuncia, mcgrew, que había trabajado en openai durante casi ocho años, dijo a sus colegas que se sentía cansado y reveló que aunque tenía una piscina en casa, rara vez había tenido la oportunidad de usarla. es por motivos de trabajo.

y algunos empleados dijeron que altman, a quien le encanta la "presión", también presiona frenéticamente al equipo de la compañía para transformar los resultados de investigación innovadores en productos lo antes posible, y es común trabajar día y noche.

ante tanta intensidad, incluso ejecutivos como murati y mcgrew se sienten agotados.

hoy en día, con la salida de gigantes tecnológicos como mira y mcgrew, también se espera que esto tenga un impacto importante en la posición de openai en la competencia de modelos grandes, especialmente porque openai se encuentra en la etapa de desarrollo del modelo de lenguaje grande de próxima generación orion.

hace falta dinero

a finales del año pasado, openai tenía sólo unos 770 empleados y, hasta ahora, este número ha llegado a más de 1.600.

openai en rápida expansión se está convirtiendo en una gran empresa cada vez más centrada en ganar dinero.

en el pasado, muchos investigadores de ia de la industria querían trabajar en openai porque permitía que pequeños equipos de unas pocas personas exploraran ideas de investigación que aún no habían sido probadas.

pero ahora, altman se trata de ganar dinero, ganar dinero y ganar dinero. lanzar nuevos productos para ganar dinero o mejorar la tecnología de chatgpt, el pilar de las ganancias, se ha convertido en su máxima prioridad.

la organización de investigación futuresearch señaló una vez que los ingresos recurrentes anuales de openai alcanzaron los 3.400 millones de dólares. el 84% de los ingresos proviene de los usuarios pagos de chatgpt, mientras que los ingresos de la interfaz api solo representan alrededor del 15%.

a medida que la fama y la valoración de openai aumentan, los investigadores clave tampoco están dispuestos a generar electricidad por amor y, naturalmente, esperan recibir una mayor remuneración.

según el informe, en los últimos años, los empleados y ex empleados de openai han cobrado un valor total de más de 1.200 millones de dólares vendiendo sus "participaciones en las ganancias" (es decir, las ganancias que la empresa obtiene después de ganar dinero) a otros. inversores.

a medida que la tecnología de openai continúa avanzando, algunos empleados talentosos todavía esperan obtener una mayor compensación e incluso claman por dejar la empresa por dinero y otras razones.

murati y otros ejecutivos, como la directora financiera sarah friar, que asumió el cargo en junio, han estado lidiando con estos problemas durante el año pasado.

además, competidores como safe super intelligence, una startup de ia fundada por ilya sutskever, ex científico jefe de openai, también están reclutando personal, y el personal técnico de openai obviamente tiene una gran demanda.

según el informe, ante el "estallido" de viejos rivales, para retener a los investigadores, el liderazgo de openai sólo puede prometer grandes pagos y beneficios.

en mayo de este año, se reveló que openai obligó a los empleados salientes a firmar acuerdos de indemnización extremadamente duros.

este acuerdo les prohíbe criticar a openai de por vida, e incluso admitir que este acuerdo existe es una violación del acuerdo. si el empleado saliente se niega a firmar el documento o lo viola, openai recuperará el capital por valor de hasta millones de dólares que el empleado saliente pueda haber recibido.

aunque altman aclaró rápidamente,"es cierto, pero no lo sé. nunca se ha implementado en el pasado y no se hará en el futuro"., pero el medio extranjero vox reveló que uno de los documentos pertinentes del acuerdo lleva claramente la firma de altman.

además de ser un verdadero martillo, este documento también le dio una fuerte bofetada a altman.

la farsa de la bofetada provocó indignación entre los empleados de openai. según los informes, muchos empleados de openai no sólo compartieron su "decepción" con el slack de su propia empresa, sino que también expresaron sus actitudes en privado con varios ejecutivos de la empresa.

frente a la ola de renuncias, altman, que está cerca de convertirse en el comandante soltero, al menos parece estar muy tranquilo ante el mundo exterior.

en un evento en italia, minimizó deliberadamente la importancia del incidente, diciendo que la medida era una gran "transición" para todos los involucrados y que esperaba que openai se fortaleciera como resultado.

en un memorando reciente a los empleados, altman dijo que anteriormente era responsable de recaudar fondos, tratar con gobiernos y establecer asociaciones con empresas como microsoft y apple.pero ahora ha decidido involucrarse más en el desarrollo tecnológico y la producción de productos de la empresa.

y ayer también publicó en la plataforma x:

los cambios de liderazgo son normales en las empresas, especialmente en las que crecen tan rápido y son tan exigentes, pero no somos una empresa cualquiera.

creo que las razones que mira me explicó (nunca hay un buen momento, todo lo que no surge de la nada se filtra, y ella quería hacer esto mientras openai estaba en auge) tienen sentido.