Новости

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Утром 6 августа по пекинскому времени OpenAI приветствовала очередную кадровую перестановку на высоком уровне.

Член команды основателей OpenAI Джон Шульман объявил в социальных сетях, что он покинет OpenAI и присоединится к Anthropic, еще одному стартапу в области искусственного интеллекта. Грег Брокман, президент и соучредитель OpenAI, объявил в социальных сетях, что возьмет отпуск до конца года, не упомянув новостей о возможном уходе. Также есть новости о том, что руководитель продукта OpenAI Питер Денг также уйдет.

После предыдущей отставки соучредителя и главного ученого OpenAI Ильи Суцкевера кадровый состав OpenAI остается нестабильным. Стоит отметить, что за работу по настройке искусственного интеллекта в OpenAI ранее отвечали Джон Шульман и Илья Суцкво, которые на этот раз объявили о своей отставке. OpenAI ранее распустила команду «Super Intelligence Alignment», и уход Джона Шульмана может означать, что OpenAI менее готова реинвестировать в согласование искусственного интеллекта.

Кроме того, хотя Грег Брокман не раскрыл своего ухода, в то время как OpenAI концентрируется на преодолении проблем моделей следующего поколения, долгосрочный отпуск основного персонала также может отражать внутренние разногласия внутри OpenAI.

Еще раз приветствуем кадровые изменения

Джон Шульман сказал, что он принял решение покинуть OpenAI и присоединиться к Anthropic, потому что хотел и дальше сосредоточиться на согласовании искусственного интеллекта и вернуться к реальной технической работе. «Я не ухожу из-за отсутствия поддержки со стороны OpenAI исследований по согласованию. Напротив, компания стремится инвестировать в эту область. Мое решение является личным, и я надеюсь сосредоточиться на следующем этапе своей карьеры. «Сказал Джон Шульман.

Джон Шульман сказал, что на данный момент, помимо стажировок, OpenAI — единственная компания, в которой он работал, и он очень благодарен генеральному директору OpenAI Сэму Альтману и соучредителю Грегу Броку Манну, которые с самого начала наняли его: «Я считаю, что OpenAI и команда, в которой я работаю, будет продолжать процветать и без меня».

Сэм Альтман ответил Джону Шульману на социальных платформах, сказав: «Спасибо за все, что вы сделали для OpenAI. Вы талантливый исследователь и человек, который глубоко думает о продуктах и ​​обществе. Вы большой друг для всех нас».

Репортер заметил, что ранее в этом году OpenAI распустила команду «Super Intelligence Alignment» и 28 мая по местному времени создала новый комитет по безопасности. Одним из членов комитета по безопасности является Джон Шульман. В то время OpenAI описал свою должность директора по науке выравнивания.

Хотя соучредитель Грег Брокман взял длительный отпуск, он не раскрыл своего намерения уйти. Он лишь заявил в социальных сетях, что впервые с тех пор, как 9 лет назад стал соучредителем OpenAI. «Миссия далека от завершения, нам все еще нужно создать безопасный общий искусственный интеллект (ИИ)», — заявил Грег Брокман.

Питер Дэн пока не упомянул новость о своем уходе в социальных сетях. Питер Денг — известный менеджер по продуктам в Кремниевой долине. Он работал менеджером по продуктам в Google, Instagram, Facebook, Uber и других компаниях. В прошлом году он присоединился к OpenAI в качестве вице-президента по потребительским продуктам, отвечая за продукт и дизайн. и команды разработчиков ChatGPT. В разговоре на подкасте в начале этого года, когда он упомянул ценности безопасности ИИ и ChatGPT, он сказал, что идеальная ситуация заключается в том, что искусственный интеллект может соответствовать личным ценностям каждого пользователя. Так быть не должно. нормативный, и он не наш. Какие ценности вы хотите привить ChatGPT, но как можно каким-то образом интегрировать ценности со всего мира в искусственный интеллект?

Кадровые беспорядки в OpenAI продолжаются с тех пор, как в прошлом году совет директоров OpenAI уволил и вновь принял на работу Сэма Альтмана. Ходят слухи, что увольнение Сэма Альтмана связано с внутренними разногласиями по вопросам безопасности ИИ. У Сэма Альтмана и Ильи Суцкво есть разногласия по вопросам безопасности ИИ и коммерциализации. Будучи ключевой фигурой во внутренней борьбе, Илья Суцкво объявил в мае этого года, что покидает OpenAI, в которой проработал почти 10 лет.

Кроме того, Андрей Карпати, еще один член команды-основателя OpenAI, покинул OpenAI в феврале этого года и в июле объявил об основании образовательной компании AI+. В OpenAI все еще работает все меньше и меньше членов команды основателей.

Повлияет ли это на ход разработки GPT?

OpenAI снова приветствует кадровые изменения, а это может означать, что акцент OpenAI на безопасности ИИ изменился, еще неизвестно, повлияют ли кадровые изменения на следующее поколение GPT.

Репортер заметил, что согласно описанию OpenAI, первой задачей ранее созданного комитета по безопасности является оценка и дальнейшее развитие процессов и мер безопасности OpenAI в течение следующих 90 дней, а также обмен рекомендациями со всеми членами совета директоров в конце 90 дней. После рассмотрения советом директоров Раскрыть принятые рекомендации. По плану, эти рекомендации будут обнародованы после конца августа, а до этого времени Джон Шульман решил покинуть OpenAI.

Что касается безопасности ИИ, то представление OpenAI недавно созданному комитету по безопасности показывает, что обязанности команды не совсем соответствуют обязанностям расформированной команды «Super Intelligence Alignment». С уходом Джона Шульмана, директора по науке о выравнивании, это может означать, что OpenAI уделяет меньше внимания выравниванию искусственного интеллекта.

«Согласование» означает требование соответствия целей системы ИИ человеческим ценностям и интересам. В первоначальные обязанности команды «Super Intelligence Alignment» входило исследование технических решений для предотвращения аномалий в системе ИИ. Илья Суцкво упоминал в интервью, что ChatGPT может быть сознательным и что мир должен осознать истинную силу технологии, которую создают его компания и другие. Альтман смотрит на это иначе и недавно ответил, что «[бывшее правление] имело некоторое мнение обо мне и о том, что мы делаем, хотя я категорически не согласен с их идеями. Вопрос согласования ИИ еще не ясен. Говорят, что она полностью решена, но на данный момент эффект от того, что система искусственного интеллекта научится действовать в соответствии с набором значений, лучше, чем я предполагал».

Anthropic, к которой присоединится Джон Шульман, считается главным конкурентом OpenAI. Anthropic, компания, основанная бывшими руководителями и сотрудниками исследовательской компании OpenAI, владеет серией крупных моделей Claude. В июне этого года Anthropic выпустила новейшую модель Claude 3.5 Sonnet, которая показывает лучшие результаты, чем GPT-4o, с точки зрения рассуждений на уровне выпускников (GPQA), способностей к кодированию (HumanEval) и текстового рассуждения (DROP).

Судя по прогрессу исследований и разработок GPT следующего поколения, OpenAI, похоже, столкнулась с некоторыми трудностями. В июле этого года Сэм Альтман заявил, что разработка технологии GPT-5 все еще находится на ранней стадии, и существуют проблемы с данными и алгоритмами.

Поскольку Джон Шульман ушел, чтобы присоединиться к конкуренту Anthropic, а Грег Брокман взял отпуск, еще неизвестно, окажет ли уход основных фигур влияние на прогресс исследований и разработок OpenAI.

Стоит отметить, что между сооснователями OpenAI существуют и другие конфликты. Менее чем через два месяца после отзыва иска генеральный директор Tesla Маск, который был соучредителем OpenAI, недавно подал иск против Сэма Альтмана и Грега Брокмана в суд США, обвинив соответствующих сотрудников в том, что они ставят деловые интересы выше своих собственных общественных интересов и нарушают условия основания компании. договор. В обвинительном заключении утверждается, что Сэм Альтман и другие намеренно заискивали перед Маском и обманывали его, чтобы стать соучредителем некоммерческого предприятия OpenAI, но затем использовали различные средства, чтобы превратить его в коммерческую организацию. OpenAI ответила на обвинения Маска несколько месяцев назад скриншотами, заявив, что Маск согласился с планом компании по привлечению большего количества средств, созданию коммерческой организации и постепенному отказу от выпусков продуктов с открытым исходным кодом.