новости

вы все еще помните знаменитый «инцидент с дракой во дворце openai»?

это было 18 ноября прошлого года, без предварительного уведомления совет директоров openai проголосовал за увольнение основателя и генерального директора сэма альтмана. причина, по которой они указали, заключалась в том, что совет директоров после тщательной и подробной проверки определил, что общение альтмана с советом директоров не было откровенным и не могло «доверять его способности продолжать возглавлять open ai». сразу после этого председатель грег брокман, которого также не уведомили заранее, объявил о своей «отставке», выразив шок в социальных сетях. кроме того, заявления об отставке подали также ключевые сотрудники, такие как директор по исследованиям якуб пачоцкий, руководитель группы по оценке рисков александр мадри, старший научный сотрудник шимон сидор.

внутренняя суматоха была настолько велика, что почти все деловые сми в тот день использовали свои заголовки, чтобы обсудить, собирается ли эта «самая ценная в мире компания по искусственному интеллекту» распасться.

конечно, итоговый результат «дворцового боевого инцидента» оказался вполне приличным. сэм альтман возвращается в компанию и продолжает играть свою основную руководящую роль. openai также продолжает лидировать в области больших моделей. в марте этого года она успешно запустила видеопродукт vincent sora, укрепив свою позицию «уникальной» в мире. последние новости заключаются в том, что openai запустила новый раунд процедур финансирования, стандарт оценки которого достиг феноменальных 100 миллиардов долларов сша.

но этот инцидент также дал всем понять, что openai не является неуязвимым. по крайней мере, с точки зрения маршрута разработки они разделены на две группы. одна группа — это инженерная группа, которую представляет сэм альтман, которая считает, что необходимо следовать законам развития технологических компаний, периодически развертывать и выпускать релизы на внешних площадках, а также решать проблемы. в процессе другая группа - техническая школа, представленная соучредителем и главным ученым ильей суцкевером, считает, что «исследования и разработки» и «бизнес» естественным образом находятся в отношениях приливов и отливов, а также слишком сильного и преждевременного контакта; с бизнесом принесет только больше неприятностей.

15 мая этого года отставка ильи суцкевера еще больше выдвинула эту разницу на первый план. в этом прощальном твите он, с одной стороны, отдал дань уважения коллегам, которые были с ним десять лет, и поверил, что траектория развития компании — это «чудо», с другой стороны, он нес в руках пистолет с палкой. и оставил сообщение:«я надеюсь, что каждый сможет создать agi, который будет одновременно безопасным и полезным».

и то, о чем я хочу поговорить сегодня, начинается с этих напутственных слов. 5 сентября,предпринимательский проект ильи суцкевера safe superintelligence (далее — ssi) после ухода из openai официально завершил общий объем финансирования в размере 1 миллиарда долларов сша (приблизительно 7,1 миллиарда юаней) с командой всего из 10 человек и без каких-либо продуктов.по данным соответствующих источников, стоимость этого финансирования достигла 5 миллиардов долларов сша (приблизительно 35,5 миллиардов юаней), что эквивалентно оценке в 500 миллионов долларов сша на каждого человека в команде. на данный момент прошло совсем немного времени. с тех пор как он официально объявил о создании ssi в течение 3 месяцев.

«безопасный суперискусственный интеллект»

с точки зрения раннего предпринимательства, текущий раунд финансирования ильи суцкевера не только впечатляет скоростью, но и имеет взрывной состав инвесторов. почти все известные венчурные капиталисты, о которых вы слышали в сфере искусственного интеллекта, фигурируют в списке акционеров, такие как a16z, sequoia capital, dst и sv angel.

стоит еще упомянуть, что дэниел гросс, известный бизнес-ангел, бывший руководитель внутреннего проекта apple по искусственному интеллекту и бывший руководитель отдела искусственного интеллекта в y combinator, на этот раз не только фактически участвовал в предпринимательском проекте ильи суцкевера в качестве партнера, но и он также инвестировал в ssi через собственный управляемый фонд nfdg.

это можно описать без преувеличения,в начале этого дела илья не только получил двойных королей и 4 двоек, но и на маленьких картах мог составить стрит 345678. каждый шаг следующей операции будет шокировать его сверстников.

на самом деле у ильи есть планы блеснуть своими талантами. ssi заявила в интервью сми, что цель этого финансирования — «ускорить разработку безопасных систем искусственного интеллекта, которые намного превосходят человеческие возможности». таким образом, помимо части средств, которые пойдут на приобретение необходимых вычислительных мощностей, значительная часть средств будет использована для найма лучших талантов по всему миру.

однако по сравнению с «большим шоу» новых единорогов, по нашему мнению, ssi, скорее всего, будет «продвигаться медленно». потому что, как видно из названия, ssi несет в себе слишком много «идеалистических» чувств ильи суцкевера. с момента открытия собственного бизнеса илья всегда подчеркивал аспект ssi как «исследовательского учреждения», называя свое первое подразделение «прямой лабораторией ssi» (что примерно можно перевести как «лаборатория, которая напрямую поражает безопасный сверхразум»). в открытом письме о предпринимательстве, опубликованном 19 июня, илья суцкевер также дал такое эмоциональное определение:

«создание защищенного сверхинтеллекта — это самая важная технологическая проблема нашего времени. это будет наш единственный продукт, наша единственная цель и наша дорожная карта… мы будем балансировать между безопасностью и производительностью, а также четко понимать, что «безопасный сверхинтеллект» — это цель. техническая проблема, которая требует революционных инженерных и научных прорывов».

исходя из этого позиционирования. он выдвинул множество требований «эмоциональной ценности» к будущим коллегам и будущим инвесторам.

что касается будущих инвесторов, он надеется, что команда не будет «отвлечена операционными расходами или производственными циклами» в будущей работе и что им будет разрешено использовать безопасную и надежную бизнес-модель, чтобы гарантировать, что команда не пострадает от нехватки средств. срочные бизнес-проблемы. влияние стресса на процесс ниокр. что касается будущих коллег, он надеется, что это будут «лучшие инженеры или исследователи в мире», которые смогут отказаться от других дел и «сосредоточиться на ssi». в обмен на усилия другой стороны он пообещал, что эта карьера позволит будущим коллегам «посвятить этому свою жизнь».

судя по нынешней ситуации с финансированием, первая половина этого видения уже выполнена. по словам дэниела гросса, они нашли «инвесторов, которые понимают, уважают и поддерживают наше видение... особенно тех, кто понимает, что требуется несколько лет исследований и разработок, прежде чем вывести продукт на рынок».

второй тайм, похоже, прошел менее гладко. в настоящее время у ssi есть два офиса: один в калифорнии, сша, и один в тель-авиве, израиль. в двух объединенных офисах работает всего 10 сотрудников, и их довольно сложно расширить - также, по словам дэниела гросса, на каждое полученное резюме, помимо изучения прошлого опыта работы соискателя, им часто приходится тратить часы на проверку кандидатов, чтобы увидеть есть ли у них «хороший характер» и определить, «заинтересованы ли они в работе, а не в шумихе».

еще более преувеличено то, что на самом деле неизвестно, планирует ли илья «корпоративить» ssi. за исключением внутренних членов, мало кто знает, как идеи ssi будут представлены на стороне продукта. в эксклюзивном интервью в июне этого года илья дал понять, что его идеальный стартап — это«на основе чисто исследовательской организации» с целью «создать безопасную и мощную систему искусственного интеллекта», и не намерена продавать какие-либо услуги или продукты, связанные с искусственным интеллектом, в краткосрочной перспективе.

настолько, что ssi, получившая финансирование в размере 1 миллиарда долларов сша, скорее всего, откроет еще одно достижение: они могут стать компанией-единорогом с самым простым официальным сайтом. даже сегодня на их домашней странице есть только описание команды без какого-либо дизайна и две кнопки контактов: одна для отправки резюме, другая для сотрудничества.

«в конечном итоге ставка на лучших талантов»

после прочтения этого краткого введения, я думаю, вас должны интересовать два вопроса:

1. почему инвесторы предпочитают верить в повествование о «безопасном суперискусственном интеллекте» и щедро дают оценку в 5 миллиардов долларов сша в контексте общего перегрева инвестиций в искусственный интеллект? даже пошли на множество уступок «коммерческого уровня»?

2. может ли такой человек, как илья, имеющий опыт научных исследований, быть хорошим начальником? является ли круг венчурного капитала северной америки настолько терпимым к «ученым, ставшим предпринимателями»?

давайте сначала ответим на первый вопрос. на мероприятии для сми, в котором он принял участие в начале сентября, илья кратко рассказал о своих предпринимательских взглядах. он считает, что по мере того, как искусственный интеллект становится все более мощным, а расширение вычислительных мощностей продолжает ускоряться, какие этапы тестирования и сертификации должен пройти продукт искусственного интеллекта, прежде чем он выйдет на рынок, становится все сложнее. существование ssi призвано гарантировать, что технология искусственного интеллекта станет «силой добра в человеческом обществе».

это звучит очень хорошо. и как один из основных членов openai, как подписанный автор chatgpt, модели генерации изображений dall-e и десятков других исследовательских работ, илья действительно более квалифицирован, чтобы представлять передовую отрасль этой отрасли, чем большинство практиков.

но главное в том, что это не первая попытка ильи развивать бизнес, связанный с «безопасным суперискусственным интеллектом». фактически, еще в июле прошлого года openai создала отдел под названием «супервыравнивание» для изучения того, как управлять и направлять «суперискусственный интеллект». илья является непосредственным руководителем этого отдела. в то же время openai также выделила 20% своих вычислительных ресурсов для поддержки исследовательской работы отдела и щедро продлила цикл разработки, чтобы «найти основное решение в течение четырех лет».

а концовка «супервыравнивания» — лажа. в мае 2024 года в сми появилась новость о том, что openai распустила команду на том основании, что «суперискусственный интеллект» на данный момент является лишь теоретическим продуктом и никто не знает, когда он будет реализован. поэтому вместо того, чтобы устанавливать ограничения на инвестиции, высшее руководство openai считает, что продукты должны быть приоритетными, а не безопасными, и постепенно начало ограничивать использование вычислительной мощности superalignment.

17 мая другой соруководитель superalignment и бывший исследователь deepmind ян лейке объявил о своей отставке, поддержав предыдущие разоблачения сми. в своих личных социальных сетях он заявил: «я уже некоторое время не согласен с высшим руководством компании по поводу приоритетов, и теперь это достигло критической точки. я считаю, что нам следует потратить больше энергии на подготовку модели следующего поколения. подготовка». включают в себя безопасность, контролируемость, конфиденциальность, социальное воздействие и другие сопутствующие темы. - вы еще помните отставку ильи после дворцовой драки, упомянутую в начале, и его многозначительные напутственные слова? то же самое произошло на этой неделе.

другими словами, если мы признаем, что openai — компания, наиболее близкая к «коммерческому успеху» в текущем направлении искусственного интеллекта, то округление в сторону увеличения«безопасный суперискусственный интеллект» однажды фактически был ликвидирован на коммерческом уровне.

поэтому внешний мир обычно интерпретирует это финансирование ильи так:это чрезмерная ставка венчурного капитала на выдающиеся таланты.более того, в объективных условиях «нерентабельности в долгосрочной перспективе» большое количество звездных предпринимателей за последние два года решили вернуться к роли «сотрудников крупных заводов» (связанных с «большими моделями, стоящими в очереди в поисках продать свою жизнь») - если еще есть венчурный капитал. если они готовы поверить в историю о «большой модели», то на рынке для них остается очень мало выбора.

теперь, отвечая на вторую историю, очевидно, что кремниевая долина не оказала илье вотума доверия. в большом количестве статей указывалось, что в ssi есть три ключевые фигуры. помимо ильи, есть еще дэниел леви, его коллега из периода openai, и дэниел гросс, известный ангел-инвестор, упомянутый в начале. о важности дэниела гросса неоднократно упоминалось:

дэниел гросс — человек с наибольшим предпринимательским опытом среди этой троицы. когда ему было 18 лет, он основал персональную поисковую систему greplin (позже переименованную в cue) через тренировочный лагерь yc и продал ее apple в 2013 году, заработав еще больше. более 35 миллионов долларов. благодаря этому приобретению он также присоединился к apple и стал отвечать за проекты apple в области поиска и искусственного интеллекта. в 2017 году дэниел гросс вернулся в yc в качестве партнера и возглавил создание вертикального инвестиционного бизнеса yc в направлении искусственного интеллекта.

в 2018 году он основал собственный инкубатор стартапов pioneer, который, по его мнению, является необходимым обновлением модели yc, поскольку «программное обеспечение меняет мир, а удаленная работа меняет мир. возможно, именно так в будущем рождаются великие компании. , и это будет путь, которым венчурный капитал должен адаптироваться». идея была поддержана stripe и марком андриссеном, и за следующие 18 месяцев она была запущена более 100 раз.

в 2023 году он снова завершил свою собственную итерацию и вместе с другим известным инвестором-ангелом кремниевой долины натом фридманом основал «андромеду» — набор продуктов с общим объемом инвестиций более 100 миллионов долларов сша и весом более 4800 килограммов для поддержки проектов искусственного интеллекта. «вычислительный кластер» для предпринимательства на ранней стадии — дэниел гросс считает, что эта шахта больше подходит для инвестирования в проекты искусственного интеллекта на ранней стадии, чем для «скучных денег».

поэтому не будет преувеличением сказать, что предпринимательская затея ильи по-прежнему имеет характер, схожий с сэмом альтманом. просто он моложе и его эго меньше.

что касается подвопроса, связанного со вторым вопросом, а именно: являются ли круги венчурного капитала северной америки более терпимыми к «ученым, ставшим предпринимателями», я могу только сказать, что это тоже «кровавый урок». однажды я нашел такую ​​статью. эта статья была опубликована на сайте национального института здравоохранения. автор указал, что противоречие между венчурным капиталом и учёными существует уже давно, поскольку «хотя прозрения и знания учёных необходимы, так называемая проницательность означает, что они необходимы». находятся на незрелой стадии». на этом этапе только низкая оценка может привлечь достаточно внимания венчурных капиталистов, что заставляет ученых всегда думать, что они находятся в слабом положении, и чувствовать, что капитал — это зло, которое захватывает их плоды».

в конце статьи автор оставил два искренних предложения:1. если вы определенно хотите инвестировать в проекты, возглавляемые учеными, то вы должны подумать о том, как позволить ученым получить достаточный, но «соответствующий» капитал. 2. инвестируя в ученых, вы должны тщательно заключить разумное соглашение о передаче технологий;