Новости

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Отчет о сердце машины

Редакция «Машинное сердце»

Руководство OpenAI в очередной раз получило три важные новости о кадровых изменениях.

Во-первых, президент OpenAI Грег Брокман, один из 11 соучредителей, возьмет долгосрочный отпуск.

Этот руководитель сыграл решающую роль в превращении революционных результатов OpenAI в крупномасштабные модели и продукты искусственного интеллекта, такие как ChatGPT, и послужил возвращением Сэма Альтмана в компанию после того, как он был вытеснен из совета директоров. Важный союзник Ультрачеловека Сэма.

Версия, которую Грег Брокман рассказал сотрудникам, заключалась в том, что он планировал вернуться в компанию после длительного отпуска. Однако долгосрочные отпуска топ-менеджеров на ключевых позициях неизбежно приведут к некоторым спекуляциям со стороны внешнего мира.

Кроме того, другой соучредитель, Джон Шульман, объявил о своем переходе в Anthropic, конкурирующую компанию, основанную бывшими сотрудниками OpenAI.

Находясь в OpenAI, Шульман руководил процессом, известным как «постобучение», направленным на совершенствование больших языковых моделей, лежащих в основе ChatGPT и других продуктов.

Шульман также недавно возглавил остатки команды Hyper-Alignment, которая занимается предотвращением причинения искусственного интеллекта вреда обществу. До этого руководителем команды Super Alignment был Ян Лейке, который объявил о своей отставке в один день с сооснователем и главным научным сотрудником OpenAI Ильей Суцкевером. После ухода из OpenAI Илья основал стартап, ориентированный на безопасность, а Ян Лейке присоединился к Anthropic.

По словам человека, непосредственно знакомого с этим вопросом, ушел руководитель продукта Питер Денг, который присоединился к компании в прошлом году и ранее занимал должность руководителя продукта в Meta Platforms, Uber и Airtable. OpenAI недавно наняла своего первого финансового директора и директора по продуктам, и их приход, вероятно, повлияет на роль Дэна.

Мы также знакомы с другим соучредителем OpenAI, Андреем Карпати, который ушел в феврале этого года и основал образовательный стартап.

Эти внезапные новости об отставках не обязательно имеют отношение к делу, но, по крайней мере, они иллюстрируют один момент: с тех пор как в ноябре прошлого года произошел «дворцовый фарс», хотя Сэм Альтман вернулся в OpenAI и взял на себя ответственность, руководство компании остается нерешенным.

Джон Шульман: Это очень трудное решение

Впоследствии Джон Шульман сообщил о своем уходе с X и объяснил, что решил переключиться на Anthropic, потому что хотел глубже углубиться в согласование ИИ, то есть практику согласования ИИ с человеческими ценностями.

Тем коллегам, которые сражались вместе с ним, Джон Шульман оставил письмо:

Я принял трудное решение покинуть OpenAI. Этот выбор был обусловлен моим желанием и дальше сосредоточиться на согласовании ИИ и начать новую главу в своей карьере, вернувшись к передовой технической работе. Я решил достичь этой цели в Anthropic, где, как я полагал, смогу получить новые перспективы и провести исследования с людьми, которые глубоко вникали в темы, которые интересовали меня больше всего. Чтобы внести ясность: я ухожу не из-за отсутствия поддержки OpenAI в исследованиях согласованности. Напротив, руководители компаний очень заинтересованы в инвестировании в эту область. Мое решение было личным и основывалось на том, на чем я хотел сосредоточиться на следующем этапе своей карьеры.

Почти 9 лет назад я присоединился к OpenAI после окончания аспирантуры и стал членом команды основателей. Это первая и единственная компания, в которой я когда-либо работал (кроме стажировки). Работа тоже очень интересная, и я благодарен Сэму и Грегу за то, что они взяли меня на работу с самого начала, а также Мире и Бобу за то, что поверили в меня, предоставили мне много возможностей и помогли успешно справиться с различными задачами. Я горжусь тем, чего мы достигли вместе в OpenAI: мы создали необычную, беспрецедентную компанию с миссией общественного благосостояния.

Я верю, что OpenAI и команда, частью которой я являюсь, будут продолжать процветать даже без меня. Дальнейшая учебная работа протекает гладко, и у нас есть группа выдающихся талантов. ChatGPT — большая заслуга. Это просто фантастика, что Баррет вместе с Лиамом, Люком и другими превратили команду в очень способную команду, которой она является сейчас. Я рад видеть, что координационная группа работает вместе над реализацией некоторых многообещающих проектов. Я верю, что под руководством Мии, Боаза и других команда будет очень способной.

Я чрезвычайно благодарен за возможность стать частью такого важного момента в истории и горжусь тем, чего мы достигли вместе. Несмотря на то, что я работал в другом месте, я все равно поддерживал бы всех вас.

Тем же фамильярным тоном Ультрачеловек Сэм отослал еще одного делового партнера:

Основатель ушел в отставку, и команда распалась.

Кадровые изменения в OpenAI начались со спора в совете директоров.

В ноябре прошлого года OpenAI объявила, что Сэм Альтман уйдет с поста генерального директора и выйдет из совета директоров, поскольку Сэм Альтман не был достаточно откровенен с советом директоров. Бывший главный научный сотрудник OpenAI Илья Суцкевер был ключевым виновником всего инцидента.

Но через несколько дней Сэм Альтман вернулся в OpenAI в качестве генерального директора, и OpenAI объявила о реорганизации своего совета директоров.

Когда в OpenAI произошла «дворцовая драка» и Ультрачеловека Сэма выгнали из OpenAI, некоторые люди поговаривали, что Илья «увидел что-то», достаточно мощное, чтобы заставить его беспокоиться о будущем ИИ и переосмыслить его развитие.

Некоторые люди даже интерпретировали это так: OpenAI, возможно, внедрила AGI внутри себя, но не синхронизировала информацию с большим количеством людей. Чтобы предотвратить широкомасштабное применение технологии без оценки безопасности, Илья и другие настаивали на этом. ключ аварийной остановки. Но это всего лишь предположения.

После потрясений Ультрачеловек, похоже, сможет более свободно управлять OpenAI, а Илья Суцкевер смущается.

В мае этого года сооснователь и главный научный сотрудник OpenAI Илья Суцкевер официально объявил о своей отставке. Одновременно с уходом Ильи объявил соруководитель команды Super Alignment Ян Лейке. Команда OpenAI Super Alignment была расформирована.

В июне Илья рассказал на X, что основал новую компанию — «Безопасный СуперИнтеллект (SSI)».

Ян Лейке также объявил в конце мая, что присоединится к конкуренту OpenAI Anthropic, чтобы продолжить работу над исследованиями супервыравнивания. После того, как Джон Шульман объявил о своем присоединении к Anthropic, Ян Лейке прокомментировал: «Я очень рад снова работать вместе!»

По соображениям безопасности совет директоров OpenAI объявил в мае о создании нового Комитета по безопасности и защите, который возглавили директора Брет Тейлор (председатель совета), Адам Д'Анджело, Николь Селигман и Сэм Альтман (генеральный директор). Этот комитет отвечает за выдачу рекомендаций Совету директоров в полном составе по важным решениям по безопасности для проектов и операций OpenAI.

Однако кадровые изменения продолжались. Это заставляет людей размышлять о том, что происходит внутри OpenAI.

Итак, насколько далеко будет большая модель ИИ следующего поколения OpenAI от AGI? Стоит ли беспокоиться о безопасности больших моделей?

Стоит отметить, что OpenAI в последнее время, похоже, замедляется. В новостях, опубликованных OpenAI на DevDay этой осенью, говорилось, что GPT-5 в настоящее время не будет выпущен, что снижает ожидания по выпуску крупных моделей, и будет сосредоточено на обновлении своего API и услуг для разработчиков.

Справочная ссылка: https://www.theinformation.com/articles/trio-of-leaders-leave-openai?rc=ks2jbm.