новости

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

что случилось с openai?

openai, которая была охвачена бурей отставок руководителей, недавно вызвала энтузиазм масс.

с одной стороны, выяснилось, что послеинвестиционная оценка достигла 150 миллиардов долларов сша, что сделало ее самым красивым детенышем среди мировых единорогов ии. с другой стороны, она потеряла трех технологических гигантов подряд. единственный ветеран-предприниматель на посту — альтман. это холостяк-коммандер. два дня openai были похожи на мир льда и пламени.

‍ изображение через @blizaine

‍отставки руководителей — обычное дело в любой компании, занимающейся искусственным интеллектом, но отличие заключается в том, что «судебная тяжба», произошедшая в openai в прошлом году, несомненно, придала этому шторму слой теории заговора.

вскоре зарубежное сми the information раскрыло подноготную текучести кадров openai.

как обычно, сначала давайте поговорим о выводах. волну отставок openai можно условно разделить на две причины.во-первых, руководители почувствовали себя обиженными, а во-вторых, им не дали достаточно денег.

я чувствую себя обиженным

трудно представить, чтобы общественное мнение могло так быстро измениться по одному и тому же вопросу.

в прошлом году генеральный директор openai сэм альтман все еще играл роль «вэй гуанчжэна» в «дворцовом бою». в то время большинство средств массовой информации оценивали рулевого как стива джобса в области искусственного интеллекта, и после этого его даже поместили на позицию 2.0. джобса прогнал сценарий.

в этом году, когда большое количество руководителей openai ушло одно за другим, общественное мнение внезапно повернулось против альтмана.

друзья, которые не знают об этом вопросе, могут вернуться назад, чтобы прочитать наш вчерашний отчет. openai больше не открыт? реструктуризация компании, землетрясение в высотках, но все не так уж и плохо

проще говоря, вчера рано утром мира мурати, технический директор openai, внезапно объявила о своей отставке.

через несколько часов после того, как мурати объявил о своей отставке, главный научный сотрудник openai боб макгрю и вице-президент по исследованиям баррет зоф также объявили о своих планах отставки.

в свое время альтман также намекнул платформе x, что мира, боб и баррет принимали эти решения независимо и полюбовно.обратите внимание, что акцент здесь делается на «независимый и дружелюбный».

на самом деле, волна отставок в openai также может иметь какое-то отношение к альтману, человеку, стоящему у руля.

зарубежные сми the information сообщили, что некоторые люди, работающие напрямую с альтманом или его заместителями, считают, чтоальтман имеет тенденцию обострять борьбу за власть внутри компании.

когда руководство компании просило о дополнительных кадрах или ресурсах, альтман уклонялся от принятия этих трудных решений, настолько, что другим руководителям, таким как нынешние президенты брокман и мурати, иногда приходилось брать на себя эту роль.

в мае ян лейке, один из бывших руководителей команды super alignment в openai, официально объявил о своей отставке.

в день своей отставки ян лейке гневно опубликовал более десяти «маленьких эссе».ментальное путешествие нацелено на openai и альтмана, слова полностью наполнены разочарованием.

вчера был мой последний день в качестве руководителя отдела гиперсогласования, высшего руководства и члена высшего руководства openai.

моя команда прошла очень захватывающий путь за последние 3 года или около того. мы представляем instructgpt, первую модель большого языка (llm), обученную с помощью обучения с подкреплением и обратной связью с человеком (rlhf), публикуем первое масштабируемое контролируемое исследование больших языковых моделей и работаем над автоматизированной интерпретируемостью и переходом от слабого к сильному. достигнуты новаторские результаты. в обобщении. более интересные результаты исследований будут опубликованы в ближайшее время.

я очень дорожу своей командой. я невероятно благодарен за возможность работать со многими замечательными людьми как внутри команды super alignment, так и с партнерами за пределами команды. openai является домом для невероятно умных, дружелюбных и эффективных людей.

отказ от этой работы был одним из самых трудных решений в моей жизни, потому что мы должны быстро найти способы направлять и контролировать системы искусственного интеллекта, которые намного умнее нас.

я решил присоединиться к openai, потому что считаю, что это лучшее место в мире для проведения подобных исследований. однако у меня были давние разногласия с руководством openai по поводу основных приоритетов развития компании, и наши разногласия в конечном итоге выросли до такой степени, что стали непримиримыми.

я твердо верю, что мы должны вкладывать больше ресурсов и энергии в подготовку к новому поколению моделей ии, включая безопасность, мониторинг, готовность к чрезвычайным ситуациям, исследования безопасности, устойчивость к состязательным атакам, проблемы согласования ии, исследования конфиденциальности, социального воздействия и т. д.

эти проблемы очень сложны и трудны для решения, и я обеспокоен тем, что наш нынешний путь развития не приведет к успешному достижению наших целей.

за последние несколько месяцев моя команда столкнулась с огромными проблемами.временами у нас возникали трудности с получением достаточных вычислительных ресурсов, что затрудняло завершение этого важного исследования.

создание машин, превосходящих человеческий интеллект, является по своей сути рискованным предприятием. openai берет на себя эту огромную ответственность от имени всего человечества. однако за последние несколько лет культура и процессы безопасности отошли на второй план в стремлении к эффективной разработке продукции.

нам давно пора серьезно отнестись к далеко идущему влиянию общего искусственного интеллекта (agi). мы должны сделать все возможное, чтобы уделить приоритетное внимание подготовке к agi. только таким образом мы сможем гарантировать, что общий искусственный интеллект сможет принести пользу всему человечеству.

openai должна превратиться в компанию, занимающуюся искусственным интеллектом, которая ставит безопасность на первое место.

я хочу сказать всем сотрудникам openai: научитесь чувствовать общий искусственный интеллект (agi). действуйте серьезно, достойно того, что вы строите. я верю, что вы можете «внедрить» необходимые культурные изменения. я рассчитываю на тебя. весь мир рассчитывает на вас. :openai-heart:

хелен тонер, одна из движущих сил последующего «увольнения» альтмана, также раскрыла внешнему миру дополнительную инсайдерскую информацию.

она сказала, что альтман любит «сначала отрезать, а потом рассказать», когда дело касается вопросов безопасности компании:

во многих случаях он предоставлял нам неточную информацию о формальных процессах безопасности, действовавших в компании.

это означает, что совет директоров практически не может знать, насколько хорошо работают эти процессы безопасности или какие изменения могут потребоваться.

что касается того, почему альтман вернулся в совет директоров при поддержке сотрудников, хелен сказала:

сообщения сми были ошибочными, и многие сотрудники считали, что openai будет «уничтожена», если альтман не вернется в совет директоров.

многие сотрудники не хотят, чтобы компания развалилась, не хотят терять работу и им необходимо ликвидировать свой капитал.

сотрудники опасаются оппозиции альтману и опасаются возмездия, если альтман вернется к власти.

альтмана неоднократно увольняли и обвиняли в неправомерных действиях.

приведенная выше информация также может позволить нам увидеть более «трехмерного» альтмана.

кроме того, человек, знакомый с ситуацией, рассказал, что брокман и мурати часто расходились во мнениях по поводу планов компании по развитию ии.

хотя брокман, как президент компании, обычно отвечает за общее стратегическое планирование и принятие решений компании, он также участвует в конкретных проектах, таких как преобразование ранних результатов исследований ии в практические прототипы продуктов.

эта дублирующая роль лица, принимающего решения, и исполнителя может легко привести к разногласиям со взглядами и планами мурати и его технической команды.

на самой важной конференции openai в этом году мурати поддержал выпуск новой модели gpt-4o.

это также важная роль, которую мурати играл в прошлом: разрешать разногласия между отделами безопасности и продуктовой компании до и после запуска продукта.

вычислительные ресурсы имеют решающее значение для исследований в области ии, и бывший руководитель макгрю отвечал за одобрение запросов исследователей на дополнительные вычислительные ресурсы. мурати и макгрю совместно участвовали в принятии решений относительно расстановки приоритетов и выбора проектов в областях исследований openai.

по имеющимся данным, на встрече после объявления о своей отставке макгрю, проработавший в openai почти восемь лет, сказал коллегам, что чувствует себя усталым, и рассказал, что, хотя у него дома был бассейн, он редко имел возможность пользоваться это из-за работы.

а некоторые сотрудники рассказали, что альтман, который любит «давление», также неистово подталкивает команду компании к тому, чтобы как можно скорее превратить прорывные результаты исследований в продукты, и здесь принято работать день и ночь.

столкнувшись с такой напряженностью, даже такие руководители, как мурати и макгрю, чувствуют себя утомленными.

в настоящее время, с уходом таких технологических гигантов, как mira и mcgrew, ожидается, что это также окажет важное влияние на позицию openai в конкуренции больших моделей, особенно с учетом того, что openai находится на стадии разработки большой языковой модели следующего поколения orion.

недостаточно денег

в конце прошлого года в openai работало всего около 770 сотрудников, а на данный момент это число достигло более 1600.

быстро расширяющаяся компания openai становится крупной компанией, все больше ориентированной на зарабатывание денег.

в прошлом многие исследователи ии в отрасли хотели работать в openai, потому что это позволяло небольшим группам из нескольких человек исследовать исследовательские идеи, которые еще не были доказаны.

но сейчас альтман занимается зарабатыванием денег, зарабатыванием денег и зарабатыванием денег. запуск новых прибыльных продуктов или улучшение технологии chatgpt, основы прибыли, стало его главным приоритетом.

исследовательская организация futuresearch однажды отметила, что годовой регулярный доход openai достиг 3,4 миллиарда долларов сша. 84% дохода поступает от платных пользователей chatgpt, тогда как доход от интерфейса api составляет лишь около 15%.

поскольку известность и стоимость openai растут, ключевые исследователи также не желают производить электроэнергию ради любви и, естественно, надеются получить больше вознаграждения.

согласно отчету, за последние несколько лет сотрудники и бывшие сотрудники openai обналичили общую сумму более 1,2 миллиарда долларов, продав свои «доли прибыли» (то есть прибыль, которую компания получает после зарабатывания денег) другим инвесторы.

поскольку технология openai продолжает развиваться, некоторые талантливые сотрудники все еще надеются получить больше вознаграждения и даже требуют покинуть компанию из-за денег и других причин.

мурати и другие руководители, такие как финансовый директор сара фрайар, вступившая в должность в июне, занимались этими вопросами в прошлом году.

более того, конкуренты, такие как safe super intelligence, стартап в области искусственного интеллекта, основанный ильей суцкевером, бывшим главным научным сотрудником openai, также набирают сотрудников, и технический персонал openai явно пользуется спросом.

согласно отчету, перед лицом «появлений» старых конкурентов, чтобы удержать исследователей, руководство openai может только обещать крупные выплаты и льготы.

в мае этого года выяснилось, что openai вынуждала уходящих сотрудников подписывать крайне жесткие соглашения об увольнении.

это соглашение запрещает им пожизненно критиковать openai, и даже признание того, что это соглашение существует, является нарушением соглашения. если увольняющийся сотрудник откажется подписать документ или нарушит его, openai вернет себе капитал на сумму до миллионов долларов, который мог получить увольняющийся сотрудник.

хотя альтман быстро пояснил:«это правда, но я об этом не знаю. это никогда не применялось в прошлом и не будет реализовано в будущем».однако зарубежное сми vox сообщило, что на одном из соответствующих документов соглашения явно стоит подпись альтмана.

этот документ не только стал настоящим молотком, но и нанес альтману пощечину.

фарс с пощечиной вызвал возмущение среди сотрудников openai. по имеющимся данным, многие сотрудники openai не только поделились своим «разочарованием» по поводу slack своей компании, но и выразили свое отношение в частном порядке нескольким руководителям компании.

столкнувшись с волной отставок, альтман, который близок к тому, чтобы стать командиром-холостяком, по крайней мере, кажется внешнему миру очень спокойным.

на мероприятии в италии он намеренно преуменьшил значение инцидента, заявив, что этот шаг стал большим «переходом» для всех участников и что он надеется, что в результате openai станет сильнее.

в недавней памятке сотрудникам альтман сообщил, что ранее он отвечал за сбор средств, работу с правительствами и установление партнерских отношений с такими компаниями, как microsoft и apple.но теперь он решил более активно участвовать в разработке технологий и производстве продукции компании.

а вчера он также опубликовал на платформе x:

смена руководства — это нормально для компаний, особенно для тех, которые так быстро растут и требовательны, но мы не обычная компания.

я думаю, что причины, которые объяснила мне мира (хорошего времени не бывает, все, что не появляется внезапно, и она хотела сделать это, пока openai был на подъеме), имеют смысл.