nouvelles

openai s'écarte de son « intention initiale ». qu'est-il arrivé à ultraman à la barre ?

2024-09-16

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

altman, pdg d'openai

ifeng.com technology news le 16 septembre, heure de pékin, le magazine américain "business insider" a publié dimanche un article affirmant qu'openai était à l'origine une organisation à but non lucratif dédiée au développement sûr de l'intelligence artificielle. de plus en plus puissant, il vient de avec de plus en plus d'argent des investisseurs, il a commencé à s'écarter de sa mission initiale et à placer les intérêts des investisseurs avant les intérêts de l'humanité.

en 2015, sam altman a fondé openai avec une noble mission : développer une intelligence artificielle générale (agi) qui puisse « bénéficier à toute l’humanité ».

pour accomplir cette mission, il a créé openai en tant qu'organisation à but non lucratif. cependant, à mesure que l'entreprise se rapproche du développement de l'agi (raisonner comme un humain) et que des investisseurs enthousiastes y investissent de l'argent, certains craignent qu'ultraman perde de vue la partie "bénéfice à toute l'humanité" de sa mission.

ce changement a été progressif et semble inévitable.

en 2019, openai a annoncé l'ajout d'une division à but lucratif pour financer les opérations de l'entreprise et l'aider dans sa mission à but non lucratif, mais elle reste fidèle à sa philosophie d'origine et limite les bénéfices disponibles pour les investisseurs.

"nous voulons augmenter notre capacité à lever des capitaux tout en accomplissant notre mission, et aucune des structures juridiques existantes que nous connaissons ne trouve le bon équilibre", avait déclaré openai à l'époque. "notre solution est de faire d'openai lp une entreprise à but lucratif. et à but non lucratif. un hybride de ce que nous appelons une entreprise « plafonnée aux bénéfices ».

openai

en apparence, il s’agit d’une décision intelligente qui semble conçue pour satisfaire à la fois les employés et les parties prenantes soucieux de développer la technologie de l’ia en toute sécurité, ainsi que ceux qui souhaitent voir l’entreprise développer et lancer des produits plus activement.

mais alors que l’argent affluait dans le secteur à but lucratif d’openai et que la réputation de l’entreprise et d’ultraman se détériorait, certains ont commencé à se sentir mal à l’aise.

désaccords internes

l'année dernière, des membres du conseil d'administration, dont ilya sutskever, scientifique en chef d'openai, ont brièvement évincé le pdg altman, craignant que l'entreprise ne lance des produits de manière trop agressive sans donner la priorité à la sécurité. avec le soutien de l’important investisseur microsoft, altman a rapidement repris son poste de pdg.

en fait, au sein d’openai, des fissures culturelles au sein de l’entreprise sont déjà apparues.

en mai de cette année, deux des meilleurs chercheurs d'openai, jan leike et suskovo, ont annoncé leur démission. les deux hommes supervisent l'équipe « hyper-alignment » de l'entreprise, chargée de garantir que l'entreprise développe l'agi en toute sécurité, un principe fondamental de la mission d'openai. l'hyper-alignement est un terme d'ia qui vise à aligner l'ia sur les valeurs humaines.

plus tard dans le mois, openai a dissous toute l’équipe super alignment. lake a déclaré sur x après son départ que l'équipe « naviguait contre le vent ».

"openai doit devenir une entreprise agi axée sur la sécurité", a-t-il déclaré. "construire une ia générative est une entreprise intrinsèquement dangereuse, mais openai se concentre désormais davantage sur la création de produits brillants."

suskwo, ancien scientifique en chef chez openai

il semble désormais qu'openai ait presque achevé sa transformation et soit devenu un géant de la technologie qui « avance vite et enfreint les règles ».

altman a déclaré aux employés lors d'une réunion la semaine dernière que l'entreprise prévoyait de perdre le contrôle du conseil d'administration de sa société mère à but non lucratif l'année prochaine, car cela "ne convient plus à l'entreprise", a rapporté fortune.

modifications de structure dues à la valorisation

reuters a rapporté samedi qu'openai était sur le point de recevoir un investissement supplémentaire de 6,5 milliards de dollars sous forme d'obligations convertibles, valorisant l'entreprise à 150 milliards de dollars. mais des personnes proches du dossier ont déclaré que cette valorisation dépendra de deux conditions : openai doit renverser la structure d'entreprise existante et abandonner les restrictions de plafonnement des bénéfices imposées aux investisseurs.

les détails de ce cycle de financement montrent à quel point openai, une organisation à but non lucratif basée sur la recherche, a parcouru son parcours de transformation. afin d’attirer davantage d’investissements pour financer ses coûteuses recherches et développements en agi, openai est prête à apporter des changements structurels.

openai a discuté avec des avocats de la possibilité de convertir sa structure à but non lucratif en une société d'utilité publique à but lucratif, similaire aux structures utilisées par ses concurrents tels qu'anthropic et xai, ont déclaré des personnes proches du dossier. si la réorganisation échoue, openai devra renégocier sa valorisation avec les investisseurs pour déterminer le prix auquel ses actions seront converties, qui pourra être inférieur.

il n’est pas certain qu’un changement aussi fondamental dans la structure de l’entreprise se produise. le plafond des bénéfices limite les rendements potentiels pour les investisseurs de la division à but lucratif d'openai, et la suppression de cette limite apportera de plus grands avantages aux premiers investisseurs.

cependant, cela pourrait également soulever des questions sur la gouvernance d’openai et son départ de sa mission à but non lucratif. openai a précédemment déclaré que le plafond de bénéfices avait été établi pour « les inciter à rechercher, développer et déployer l'agi de manière à équilibrer la commercialisation, la sécurité et la durabilité, plutôt que de se concentrer sur la pure maximisation des profits ».

openai a déclaré dans un communiqué que la société reste concentrée sur « la construction d'une ia qui profite à toute l'humanité » tout en continuant à travailler avec le conseil d'administration de sa société mère à but non lucratif. "les organisations à but non lucratif sont au cœur de notre mission et continueront d'exister", a déclaré un porte-parole d'openai. (auteur/xiao yu)

pour plus d'informations de première main, veuillez télécharger le client phoenix news et vous abonner à phoenix technology. si vous souhaitez consulter des rapports détaillés, veuillez rechercher « ifeng.com technology » sur wechat.