новости

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

взяв за пример фотоэлектрическую промышленность, амодей считает, что даже если технология станет очень важной и широко используемой на рынке, ей все равно будет сложно принести высокую прибыль одной компании, а высокая коммерциализация будет ограничивать прибыльность компании. как и в фотоэлектрической отрасли, размер рынка технологий искусственного интеллекта может быть очень большим, но получить от него прибыль может быть сложно, а вопрос распределения прибыли между различными участниками также очень сложен.

жесткий ии

автор | хуан вэньвэнь

редактор | жесткий ии

на этой неделе дарио амодей, генеральный директор и соучредитель «ai unicorn» anthropic, принял участие в интервью и обсудил развитие индустрии искусственного интеллекта, закон масштабирования и т. д.

закон масштабирования в основном относится к тому факту, что по мере увеличения данных и вычислительной мощности возможности модели также будут увеличиваться.амодей считает, что если этот закон продолжит действовать, ии, скорее всего, станет очень мощным и принесет новые бизнес-модели и технологические инновации.

однако он также подчеркнул, что этот закон не всегда применим, если производительность модели не удастся улучшить в некоторых аспектах, это может повлиять на всю индустрию искусственного интеллекта.

амодей также сосредоточился на сравнении индустрии искусственного интеллекта с фотоэлектрической промышленностью. он использовал пример фотоэлектрической промышленности, чтобы проиллюстрировать, что даже если технология станет очень важной и широко используемой на рынке, все равно может быть сложно принести высокую прибыль одной компании.

хотя фотоэлектрические технологии почти потрясли всю энергетическую отрасль, ее рынок очень товаризирован, имеет жесткую конкуренцию и не имеет значительных брендовых эффектов, поэтому прибыльность каждой компании подвержена определенным ограничениям.

как и в фотоэлектрической отрасли, размер рынка технологий искусственного интеллекта может быть очень большим, но получить от него прибыль может быть сложно. на модель прибыли ии может влиять множество факторов, таких как затраты на расчет модели, затраты на логические выводы и т. д. распределение прибыли между поставщиками оборудования, разработчиками моделей и уровнями приложений также довольно сложное и сталкивается со значительными проблемами.

темы для разговора следующие:

1. полностью отделить закон о масштабировании от вопросов бизнеса довольно сложно.

2. поскольку рынок настолько велик, мой первоначальный ответ таков: прибыль будет поступать во все эти места.

3. если закон масштабирования верен, то это будет очень огромный рынок. даже если только 10% прибыли поступает в определенную часть цепочки поставок, это все равно огромно.

4. если мы строим модель с десятками или сотнями миллиардов параметров, в нее может быть вовлечено не более четырех-пяти субъектов (а может быть и госпредприятий). так что то, что мы наблюдаем, возможно, больше похоже на олигополию, чем на полную монополию или полную коммерциализацию.

5. даже если такая модель будет выпущена, эксплуатационные затраты на вывод такой большой модели очень высоки, и большая часть затрат приходится на вывод, а не на обучение модели. если у вас есть более эффективные методы вывода, даже улучшение на 10, 20 или 30 % может иметь большое значение.

6. у нас есть более крупные и мощные модели, а также более быстрые, дешевые и менее интеллектуальные модели. некоторые клиенты обнаружили, что большая модель может назначать задачи большому количеству маленьких моделей, а затем отчитываться перед большой моделью для выполнения задачи, как у большой модели. рой.

7. никто не должен верить, что закон масштабирования будет продолжаться вечно, это всего лишь эмпирическое наблюдение, которое может прекратиться в любой момент. я наблюдаю за ними уже десять лет, и мое предположение, что они не остановятся, — это всего лишь предположение 60-40 или 70-30, основанное на продолжительности моего наблюдения за ними.

8. если мы сможем правильно использовать ии, он сможет увеличить скорость, с которой мы делаем эти открытия, в 10, а может быть, и в 100 раз.

полный текст интервью выглядит следующим образом, часть содержания удалена:

01

google не удалось стать bell labs эпохи искусственного интеллекта

ной смит：

в этом подкасте по экономике мы предпочитаем говорить об экономике, а не о чисто технических вещах. итак, является ли google лабораторией белла эпохи искусственного интеллекта?

они проводили исследования в области современного глубокого обучения, трансформеров и так далее, но им не удалось коммерциализировать это, как bell labs. они финансировали это исследование за счет монопольных денег, а затем там работали такие интересные люди, как вы, а затем уходили, чтобы основать компании, такие как люди из fairchild в bell labs. как вы думаете, это подходящая метафора?

дарио амодей:

хотя ничто не является идеальной аналогией, я определенно думаю, что в ней есть доля правды. многие рассматривали это как продолжение академической карьеры, очень похожей на производственную среду в bell labs, за исключением того, что у google было больше ресурсов для достижения своих целей. поэтому многие проекты изучаются. трансформатор — одно из ключевых изобретений в этой области, и это лишь один из примерно сотни проектов, над которыми ведется работа.

если бы вы были во главе организации, вы не смогли бы разумно отличить ее от 99 других проектов, находящихся в разработке. это похоже на сотню цветов, распускающихся и конкурирующих друг с другом. думаю, именно тогда я впервые предложил закон масштабирования, который гласит, что нам необходимо масштабировать и интегрировать эти инновации в нужном масштабе.

теоретически google — лучшее место для этого, у них самый большой кластер в мире с кучей талантливых инженеров и всеми необходимыми элементами.однако google создан для поиска, и я не думаю, что он обязательно предназначен для объединения всех этих частей и массового масштабирования чего-то совершенно отличного от того, что было раньше.

ной смит：

точно так же, как bell labs не была создана для того, чтобы изобретать компьютеры и давать всем компьютеры, она была создана для того, чтобы соединить всех.

дарио амодеи：

да, это телефонная компания. итак, я не могу говорить за google, но очевидно, что сейчас они не только изобретают все эти удивительные вещи, но и входят в четверку лучших компаний с передовыми моделями, которые являются одновременно нашими партнерами и нашими конкурентами. я знаю там много очень умных людей.

но я думаю, вы правы: наступит время, когда они смогут стать единственным доминирующим игроком, если смогут правильно объединить эти элементы. но по какой-то причине все пошло не так.

02

закон масштабирования:

по мере увеличения размера данных модель становится более мощной.

ной смит：

это поднимает еще один вопрос, над которым мы думаем. на самом деле, идея поговорить с вами возникла из-за того, что мы обсуждали в другом подкасте, где мы в основном говорили об экономике интернет-бизнеса, а затем кто-то высказал некоторые пессимистические взгляды на бизнес ии, задаваясь вопросом, сколько ии-бизнеса экономические рвы действительно есть.

очевидно, это тесно связано с anthropic и другими компаниями, которые мы называем стартапами, но они уже достаточно крупные.итак, расскажите нам, что вы думаете об экономических рвах компаний, занимающихся искусственным интеллектом.

дарио амодеи：

я бы сказал, что собираюсь немного разделить этот вопрос на две части. я думаю, что трудно полностью отделить закон о масштабировании от вопросов бизнеса. итак, давайте рассмотрим случай, когда закон масштабирования выполняется в некоторой очень строгой форме, а затем рассмотрим случаи, когда он может выполняться частично или не выполняться вообще. если это справедливо в очень сильной форме, ситуация выглядит следующим образом:

теперь вы обучили модель со 100 миллионами параметров, и ее возможности эквивалентны возможностям хорошего первокурсника колледжа;

затем вы обучаете модель с миллиардом параметров, что эквивалентно способностям хорошего студента;

вы обучили модель с десятками миллиардов параметров, и ее возможности эквивалентны возможностям лучшего аспиранта;

когда вы обучаете модель с сотнями миллиардов параметров, ее возможности эквивалентны лауреату нобелевской премии.

а потом вы вводите эту модель в эксплуатацию и, по сути, обслуживаете всех, и она становится вашим коллегой, становится вашим личным помощником, помогает в национальной безопасности, помогает в биологических исследованиях.

я думаю, что в том мире эта система и продукты на ее основе будут составлять значительную часть экономики. остается вопрос: куда пойдут доходы? перейдет ли оно к nvidia, компаниям, занимающимся искусственным интеллектом, или последующим приложениям? поскольку рынок настолько огромен, мой первоначальный ответ таков:преимущества текут во все эти места.

03

будущее ии будет похоже на фотоэлектрическую промышленность

ной смит：

но подумайте о солнечной энергии: солнечная энергия явно будет очень важна. чем больше энергии нам понадобится, тем более распространенной станет солнечная энергия. однако трудно сказать, какая солнечная компания получает большую прибыль. солнечная энергия — это очень коммерциализированный продукт, и, хотя в ней много инноваций, в ней нет ни эффекта бренда, ни сетевого эффекта, ни эффекта блокировки. любой солнечной компании трудно получить прибыль от этой вещи. , и этот вещи меняют мир на наших глазах.

поэтому я не совсем уверен, что тот факт, что сейчас все будет бурно развиваться, как солнечная энергия, обязательно приведет к прибыли компании. но я, конечно, открыт для такой возможности. я просто хочу знать,как вы думаете, что является источником? почему развитие искусственного интеллекта отличается?

дарио амодеи：

солнечная энергия? я думаю, здесь есть два момента, потому что я думаю, что это важный вопрос в большинстве миров. возможно, я просто говорю, что если закон масштабирования верен, то это будет очень огромный рынок. даже если только 10% прибыли поступает в определенную часть цепочки поставок, это все равно огромно.

по мере того, как вы увеличиваете пирог, это становится самым интересным вопросом, хотя те, кто решает, как распределить долларовые купюры, наверняка будут очень обеспокоены тем, куда уходит триллион. но давайте вернемся к вашему вопросу, потому что я думаю, что он важен во всем мире.суть вопроса в том, насколько велик «пирог», который вы делите.

во-первых, со стороны модели это зависит от закона масштабирования. если бы мы строили модель с десятками или сотнями миллиардов параметров, в ней, вероятно, участвовало бы не более четырех или пяти организаций (и, возможно, некоторых государственных предприятий). так что то, что мы наблюдаем, возможно, больше похоже на олигополию, чем на полную монополию или полную коммерциализацию.

полагаю, здесь возникает один вопрос: собирается ли кто-нибудь выпустить модель с открытым исходным кодом, имеющую миллиард или 10 миллиардов параметров? я настроен скептически, даже если такая модель будет выпущена, эксплуатационные расходы такой большой модели при выводе очень высоки, причем большая часть затрат приходится на вывод, а не на обучение модели. если у вас есть более эффективные методы вывода, даже улучшение на 10, 20 или 30 % может иметь большое значение. экономика немного странная: это огромные фиксированные затраты, которые вам придется амортизировать, но есть еще и стоимость единицы рассуждения, и при этом предположении, если оно применяется достаточно широко, разница может быть огромной. я не уверен, как это закончится.

ной смит：

на самом деле это похоже на экономику тяжелой промышленности, например, на то, как производится сталь.

дарио амодеи：

да, немного. интересно, что еще я бы сказал, что внутри этих моделей мы начали видеть, что у моделей разные личности. таким образом, коммерциализация возможна, но даже в олигополии способы применения определенных моделей могут быть коммерциализированы, хотя я не уверен.

но против этой точки зрения есть одна сила: эй, я создал модель, которая хороша для программирования, вы создали модель, которая хороша для творческого письма, а третий человек создал модель, которая хороша для развлечений. это выбор, и как только вы начинаете его делать, вы начинаете строить вокруг него инфраструктуру, которая, похоже, создает предпосылки для определенного уровня дифференциации.

еще одним возможным источником дифференциации являются продукты, созданные на основе моделей.теоретически вы можете отделить уровень модели от уровня продукта, но на практике они взаимосвязаны, и работа между организациями может оказаться сложной задачей. таким образом, хотя в моделях существует общая логика, когда многие компании движутся в одном направлении, добавляя мультимодальные возможности, чтобы сделать модели умнее и быстрее делать выводы, продукты настолько разные.

если вы посмотрите на проект «артефакты», который мы сделали, то увидите, что это способ визуализации кода написания модели в реальном времени. мы этим занимаемся, у openai свой подход, у google свой подход. думаю, это тоже один из источников дифференциации компаний.

мы видели, что экономика продажи приложений, даже относительно небольших, становится все более и более сложной в зависимости от модели.

эрик торенберг：

если закон о масштабировании действует и ситуация становится такой масштабной, как мы думаем, ожидаете ли вы, что эти компании в какой-то момент будут национализированы? или что ты думаешь?

дарио амодеи：

мы можем разделить это на две ситуации: первая состоит в том, что закон масштабирования верен, а другая — в том, что закон масштабирования неверен. если это не так, то это всего лишь технология, которая, как интернет или солнечная энергия, может быть важнее большинства других, но не беспрецедентна. учитывая нынешнее развитие событий, я не думаю, что он будет национализирован.

если это правда, то модели, которые мы создаем, не уступают по качеству биологам, лауреатам нобелевской премии, и ведущим программистам отрасли, а то и лучше. я не уверен, что это действительно будет национализация, мы будем очень обеспокоены тем, смогут ли наши противники не отставать от нас или сможем ли мы развернуть их так же быстро, как наши противники.

04

закон масштабирования

влияйте на искусственный интеллект для создания новых бизнес-моделей

ной смит：

у меня вопрос о влиянии искусственного интеллекта на бизнес-модели. вы знаете историю с электричеством. по сути, вначале, когда у них было электричество, производители пытались демонтировать свои парогенераторы, и генераторы несли убытки. затем кто-то обнаружил, что можно параллельно подавать электричество на несколько рабочих станций, что изменило способ работы производства. вместо одной большой сборочной линии оно превратилось в множество небольших рабочих станций, что привело к огромному увеличению производительности на десятилетия.

я всегда подозревал, что ии похож. я думаю, что интернет похож,ии похож на него тем, что поначалу кажется, что все думают, что ии — это человек. кто-то на самом деле сравнил количество ии с количеством сотрудников-людей, что для меня не имеет смысла, потому что его нельзя разбить на отдельных людей.

вы могли бы создать систему на основе прокси, имитирующую этот подход, но зачем? я вижу, что все думают о том, что ии напрямую заменит людей, и я утверждаю, что это первый этап, точно так же, как прямая замена паровых котлов электричеством — не очень хорошая идея. я думаю, люди будут немного разочарованы, потому что есть лишь несколько случаев, когда такая прямая замена человека работает, например, обслуживание клиентов и некоторые другие четко определенные вещи.

но я думаю, что есть лишь несколько случаев, когда такая прямая замена людей сработает, и тогда мы испытаем всплеск хайпа вокруг gartner.

некоторые креативные предприниматели сказали бы, что мы не просто используем искусственный интеллект в качестве замены человека, но и используем его для создания новых бизнес-моделей. тогда мы увидим период бума возрождения, это мой прогноз. мои прогнозы в стиле gartner, я сошел с ума?

дарио амодеи：

так что я думаю, что это смесь чего-то, с чем я согласен, и чего-то, с чем я, возможно, не согласен. во-первых, я в принципе согласен, что если заморозить качество текущей модели, то все, что вы говорите, верно. в принципе, нечто подобное мы наблюдаем и в бизнесе. мы предоставляем модели, с которыми вы можете общаться, а также продаем модели через api многим клиентам. люди потратили много времени, пытаясь понять, как лучше всего использовать модели.

есть много вопросов о надежности модели, и я думаю, что это вызывает некоторую обеспокоенность, например, модель дает правильный ответ в 95% случаев, но не в 5% случаев, как вы обнаруживаете такие ситуации и как вы их решаете? обрабатывать обработку ошибок. очень важно. это сильно отличается от полезности в теории и полезности на практике.

раньше у нас была функция, которая позволяла модели писать некоторый код, а затем вы могли вставить этот код в компилятор или интерпретатор, чтобы создать видеоигру на javascript, и если что-то пошло не так, вы могли вернуться к модели и исправить это. мы также видим, как большие модели координируют действия маленьких моделей, что сильно отличается от представления о модели как о человеке.

у нас есть более крупные и мощные модели, а также более быстрые, дешевые и менее интеллектуальные модели, и некоторые клиенты обнаружили, что большая модель может распределять задачи между большим количеством маленьких моделей, которые затем отчитываются перед большой моделью для выполнения задачи, как рой.

мы также изучаем лучшие способы использования моделей, которые становятся все умнее и лучше в решении этих проблем. таким образом, в конечном итоге все сводится к тому, сохранится ли закон масштабирования. если они продолжат, это будет процесс, который вы описываете. если бы они остановились, инновации прекратились бы, и процесс, который вы описываете, закончится.

никто не должен верить, что закон масштабирования будет действовать вечно, это всего лишь эмпирическое наблюдение, и оно может прекратиться в любой момент. я наблюдаю за ними уже десять лет, и мое предположение, что они не остановятся, — это всего лишь предположение 60-40 или 70-30, основанное на продолжительности моего наблюдения за ними.

эрик торенберг:

что могло бы изменить ваше мнение? что изменит ваши шансы там?

дарио амодеи：

я думаю, что, во-первых, если мы просто обучим модель, а затем попробуем следующую масштабную модель, результаты будут очень плохими. мы пытались это исправить несколько раз, но это все равно не сработало, и я подумал: «о, я думаю, эта тенденция прекращается».

если возникнет проблема с исчерпанием данных и мы не сможем сгенерировать достаточно синтетических данных для продолжения этого процесса, то в какой-то момент я бы сказал: эй, это на самом деле выглядит сложно, по крайней мере, эта тенденция приостановится, а может быть, и остановится, но это может не прекратиться. я все еще предполагаю, что этого не произойдет, но вы знаете, это очень сложный вопрос.

05

ии может ускорить биологические открытия в 100 раз

сжатый век времени прогресса

ной смит：

если узким местом ресурсов ии будет скорее вычислительная мощность, чем энергия, то у нас будет больше сравнительных преимуществ в использовании ии. согласны ли вы с этой точкой зрения?

дарио амодеи：

да, я думаю, это имеет смысл. вы имеете в виду, если использовать немного нелепую метафору,если ии похожи на киберлюдей, а процесс их создания и разведения очень похож на человеческий, то у нас проблемы.но если это просто кластер серверов где-то с совершенно разными входами, то все в порядке.

я не задумывался об этом глубоко, но на первый взгляд это имеет смысл. если бы мы оказались в ситуации, когда ии менял мир и изменилась экономическая структура, мы могли бы говорить о чем-то другом. но если обычные правила экономики все еще применимы, а я думаю, что какое-то время они будут действовать, то это звучит очень разумно.

ной смит：

но у меня другой вопрос: необходимо ли рассматривать мир чрезвычайного изобилия? ии настолько силен, что дает нам удивительные возможности биологии и производства, делая все, что мы хотим, в десять, сто раз лучше и т. д.

дарио амодеи：

я думаю, мы действительно недооцениваем потенциал искусственного интеллекта в биологии. десять лет назад, когда я работал в этой области, существовало мнение, что качество данных, которые мы получаем от биологии, было сомнительным, объем данных, которые мы могли получить, был ограничен, а эксперименты часто срывались. конечно, больше анализа данных, больших данных и искусственного интеллекта — это хорошо, но в лучшем случае они будут выполнять вспомогательную роль. возможно, с появлением alpha fold ситуация изменится.

но я считаю, что модели ии могут действовать как биологи или собиологи. если мы подумаем о действительно продвинутой биологии, то это будет выглядеть так, как будто все питает непропорционально несколько технологий. например, секвенирование генома, способность читать геном, является основой современной биологии. самая последняя технология crispr — это возможность редактировать геном. если мы сможем правильно использовать ии, он сможет увеличить скорость, с которой мы делаем эти открытия, в 10, а может быть, и в 100 раз.

возьмем, к примеру, crispr, который был создан из бактериальной иммунной системы, и на его изобретение ушло 30 лет. я думаю, что если мы сможем значительно увеличить скорость, с которой делаются эти открытия, мы также значительно увеличим скорость лечения болезней.

я думаю: сможем ли мы сжать прогресс в 21 веке? можем ли мы добиться всего биологического прогресса в 21 веке, используя ии, чтобы ускорить его в 10 раз?если вы подумаете обо всем прогрессе, которого мы достигли в биологии в 20-м веке, а затем сократите его до пяти-десяти лет, на мой взгляд, это хорошая сторона. я думаю, что это может быть правдой. мы могли бы вылечить болезни, которые преследовали нас на протяжении тысячелетий, что, конечно же, резко повысило бы производительность, расширило бы экономический пирог и продлило бы продолжительность жизни человека.