новости

Текст: Web3 Sky City · City Lord

В последнем интервью в Стэнфорде бывший генеральный директор Google Эрик Шмидт подробно обсуждает направление развития искусственного интеллекта, будущее глобальной технологической конкуренции, а также то, как эти технологии повлияют на общество и экономику в краткосрочной перспективе и окажут глубокое влияние. национальная безопасность.ШмидтОн рассмотрел свой многолетний опыт работы в технологической отрасли, поделился прогнозами прорывов в технологиях искусственного интеллекта на ближайшие несколько лет и обсудил, как эти прорывы будут формировать конкурентную среду между компаниями и странами, особенно в конкуренции между Соединенными Штатами. и Китай.

ШмидтОсобое внимание уделяется сложным факторам, лежащим в основе технического прогресса, таким как улучшение вычислительной мощности, разработка новых алгоритмов и бесконечная погоня рынка за интеллектуальными системами. Он также обсуждает потенциальное влияние ИИ на рынки труда, конфиденциальность данных, антимонопольное законодательство и национальную безопасность, а также предлагает рекомендации о том, как сохранить конкурентное преимущество в этой быстро меняющейся среде.

Хозяин города особо отметил, что, как и Шмидт, долгое время прослуживший в Министерстве обороны США, его речь и позиция должны быть разграничены, и я думаю, что читатели смогут это понять самостоятельно.

Краткосрочные прорывы и далеко идущие последствия искусственного интеллекта：

ШмидтПрогнозируется, что в ближайшие один-два года искусственный интеллект приведет к важным прорывам, особенно в сочетании расширения контекстных окон, агентов искусственного интеллекта и преобразования текста в операции. Эти технологические достижения позволят системам искусственного интеллекта более эффективно справляться со сложными задачами, выходя за рамки их текущих ограничений. Прогресс такого рода не будет ограничиваться технической областью, но глубоко повлияет на все аспекты жизни общества, включая образование, здравоохранение, правительство и бизнес. Он подчеркнул, что развитие этих технологий может оказать преобразующее воздействие, которое может быть даже более глубоким, чем появление социальных сетей.

Игра между Китаем и Соединенными Штатами в глобальной конкуренции в области науки и технологий：

ШмидтПодробный анализ жесткой конкуренции между США и Китаем в сфере искусственного интеллекта. Он отметил, что Соединенные Штаты в настоящее время лидируют в технологиях, талантах и ​​ресурсах, но для сохранения этого преимущества требуются постоянные крупные инвестиции и международное сотрудничество, особенно сотрудничество с такими союзниками, как Канада, для обеспечения устойчивых поставок энергии и ресурсов. Он подчеркнул, что будущее искусственного интеллекта — это не просто техническое соревнование, но и стратегическая игра между странами, включающая национальную безопасность, экономическую конкурентоспособность и глобальное лидерство. Шмидт предупредил, что Соединенным Штатам необходимо увеличить инвестиции, чтобы справиться с быстрым ростом Китая в области искусственного интеллекта и сохранить свое глобальное доминирование в этой области.

Монополия и инновационные вызовы технологических гигантов：

Говоря о нынешнем доминировании технологических гигантов,ШмидтОтмечается, что монопольное положение таких компаний, как NVIDIA, в сфере искусственного интеллекта обусловлено их сильными техническими возможностями и преимуществами капитала. Он отметил, что, хотя на рынке есть конкуренты, оспаривание статуса этих технологических гигантов требует огромных инвестиций и технологических инноваций. Он также выразил обеспокоенность по поводу того, как эти гиганты будут продолжать продвигать технологические инновации в будущем, полагая, что капиталоемкая разработка ИИ может привести к фундаментальным изменениям в модели разработки программного обеспечения, от открытого исходного кода к закрытому, тем самым еще больше укрепив монополию гиганты.

Влияние искусственного интеллекта на общество и рынок труда：

ШмидтИсследуется потенциальное влияние искусственного интеллекта на общество, экономику и рынок труда. Он считает, что хотя технология искусственного интеллекта может заменить некоторые повторяющиеся задачи, она также повысит важность высококвалифицированных рабочих мест и повысит производительность людей при выполнении сложных задач. Он также выразил обеспокоенность по поводу социального неравенства, которое может вызвать искусственный интеллект, отметив, что богатые страны получат больше пользы от ИИ, в то время как бедные страны могут остаться позади. также,ШмидтПризывает к ужесточению регулирования ИИ для решения таких проблем, как конфиденциальность данных, права интеллектуальной собственности и распространение дезинформации.

Состязательный искусственный интеллект и проблемы безопасности：

ШмидтОсобо была упомянута потенциальная угроза со стороны враждебного искусственного интеллекта, и было предсказано, что в будущем могут появиться специально разработанные системы ИИ, которые будут использоваться для атаки и уничтожения других систем ИИ. Это развитие принесет новые проблемы безопасности и этики.ШмидтНаучно-технологическому сообществу и правительству рекомендуется сотрудничать, чтобы изучить способы предотвращения этих рисков и сформулировать соответствующие правила и технические стандарты для обеспечения безопасности и надежности искусственного интеллекта. Он также отметил, что исследования в этой области станут важным направлением будущего научно-технологического развития и могут получить больше внимания в университетах и ​​исследовательских институтах.

Бывший генеральный директор Google рассказывает о глобальной конкуренции в области искусственного интеллекта: американские чипы имеют 10-летнее технологическое преимущество, а Китай является самым важным конкурентом

=Компилированная полная текстовая версия Web3 Sky City=

Принимающий профессор:

Сегодняшний гость не нуждается в представлении. Впервые я встретил Эрика около 25 лет назад, когда он пришел в Стэнфордский университет в качестве генерального директора Novell. С тех пор он занимал ключевые позиции в Google, начиная с 2001 года и присоединившись к Schmidt Futures в 2017 году. Кроме того, он также участвовал во многих других проектах, и вы можете проверить соответствующую информацию. Итак, Эрик, если можно, я начну с этого.

Прежде всего, как вы думаете, куда движется искусственный интеллект в краткосрочной перспективе? Я думаю, вы определяете это как следующие один-два года.

Шмидт:

Все меняется так быстро, что я чувствую, что каждые шесть месяцев мне нужно произносить новую речь о том, что будет дальше. У меня здесь группа студентов-компьютерщиков, может кто-нибудь объяснить остальному классу: «миллионтокенЧто такое «Контекстное окно»? Назовите его и расскажите, что оно делает.

студент:По сути, он позволяет вам использовать миллион маркеров или миллионСлово подсказывает.

Шмидт:

Таким образом, вы можете задать вопрос на миллион слов. Anthropic — 200 000 токенов, до 1 миллиона и так далее. ты можешь себе представитьOpenAIИмейте аналогичную цель.

Может ли кто-нибудь здесь дать техническое определение агента ИИ? И снова информатика.

студент:Агент ИИ может вести себя определенным образом. Возможно, он обращается к чему-то в Интернете, чтобы найти информацию от вашего имени. В этом направлении может быть много разных вещей. В процессе происходят самые разные вещи.

Шмидт:Итак, агент — это нечто, выполняющее какую-то задачу. Другое определение состоит в том, что этоМагистр права, состояние и память. Далее, ученые-компьютерщики, может ли кто-нибудь из вас дать определение «тексту к действию»?

студент:Вместо того, чтобы преобразовывать текст в новый текст, позвольте ИИ инициировать действия на основе этого.

Шмидт:

Другое определение — язык Python. Я никогда не хочу, чтобы язык программирования выжил. Все в ИИ сделано на Python. Только что появился новый язык под названием Mojo, и похоже, что они наконец решили проблему программирования ИИ, но посмотрим, сможет ли он действительно пережить доминирование Python.

Есть и техническая проблема. Почему NVIDIA стоит 2 триллиона долларов, в то время как другие компании переживают трудности?

студент:Технический ответ заключается в том, что большая часть кода должна выполняться с использованием оптимизации CUDA, которая в настоящее время поддерживается только графическими процессорами NVIDIA, поэтому другие компании могут делать все, что захотят, но если у них нет 10-летнего опыта работы с программным обеспечением, у вас не будет оптимизации машинного обучения.

Шмидт:

Мне нравится думать о CUDA как о языке программирования C для графических процессоров, и эта идея меня устраивает. CUDA была основана в 2008 году. Хотя я всегда считал, что это ненормативная лексика, она взяла верх. Стоит отметить еще одно замечание: существует набор библиотек с открытым исходным кодом, которые оптимизированы для CUDA, чего нет ни в одной другой библиотеке. Все люди, создающие эти технологические стеки, совершенно упускают из виду этот момент в обсуждении. Эти библиотеки технически называются VLLM, и существует множество подобных библиотек, которые также хорошо оптимизированы для CUDA, что затрудняет их копирование конкурентами.

Так что же все это значит? В следующем году вы увидите очень большие контекстные окна, агенты и приложения, преобразующие текст в действие. Когда эти технологии будут внедрены в больших масштабах, они окажут огромное влияние на мир, выходящее далеко за рамки влияния социальных сетей. И вот почему: в контекстном окне вы можете использовать его как кратковременную память, и я был шокирован тем, насколько длинным было контекстное окно. Технические причины связаны с трудностями обслуживания и вычислений. В кратковременной памяти интересно то, что когда вы вводите информацию и задаете вопрос, скажем, читаете 20 книг и используете текст книг в качестве запроса, а затем спрашиваете, о чем они, она забывает среднюю часть, подобно тому, как человеческий мозг работает.

Что касается агентов, сейчас есть люди, которые создают агентов LLM, читая и понимая вещи в таких областях, как химия, а затем тестируя их и добавляя обратно в свое понимание. Это очень мощно. Третий аспект — это преобразование текста в действие. Позвольте мне привести вам пример: допустим, правительство пытается запретить TikTok. Если TikTok забанен, я предлагаю вам сказать своему LLM следующее: скопируйте TikTok для меня, укажите в нем мои предпочтения, создайте это приложение и опубликуйте его в течение следующих 30 секунд или в течение часа, если оно не прижилось. , просто сделай что-нибудь подобное. Таков порядок. Вы можете видеть, насколько это мощно.

Если вы можете перевести с любого языка на любую числовую команду, в данном случае это, по сути, Python. Представьте, что у каждого на планете есть свои программисты, которые действительно делают то, что хотят, в отличие от программистов, которые работают не так, как требуется. Программисты здесь знают, о чем я говорю. Представьте себе несамоуверенного программиста, который действительно делает то, что вы хотите, и при этом вам не приходится платить огромную цену. И запас этих программистов неограничен.

профессор:Произойдет ли все это в ближайшие год-два?

Шмидт:

скоро. Я уверен, что вышеупомянутые три вещи произойдут одновременно в следующей волне. Итак, вы спрашиваете, что еще произойдет. Я колеблюсь каждые шесть месяцев, так что мы находимся в нечетно-четном колебании. На данный момент разрыв между передовыми моделями (сейчас их всего три) и остальными, похоже, увеличивается. Шесть месяцев назад я был убежден, что разрыв сокращается, поэтому я вложил значительные средства в некоторые более мелкие компании. Однако сейчас я в этом не так уверен.

Я веду переговоры с некоторыми крупными компаниями, и они говорят мне, что им нужно 10 миллиардов долларов, 20 миллиардов долларов, 50 миллиардов долларов и даже 100 миллиардов долларов. Проект «Звездные врата» требует 100 миллиардов долларов и очень сложен. Мой хороший друг Сэм Альтман считает, что на это может потребоваться около 300 миллиардов долларов, а может и больше. Я указал ему, что рассчитал необходимую энергию.

В целях полной открытости я отправился в Белый дом в пятницу и сказал им, что нам нужно стать лучшими друзьями с Канадой. Потому что канадцы действительно хорошие люди, они помогли изобрести искусственный интеллект и у них много гидроэнергетики. Потому что у нас как у страны недостаточно сил для достижения этой цели. Другой вариант – финансирование проекта арабскими странами. Лично мне нравятся арабы, и я провожу там много времени, но они могут не соблюдать наши правила национальной безопасности. А Канада и США входят в большую тройку, с которой мы все согласны.

Таким образом, в этих центрах обработки данных, стоимость которых составляет от 100 до 300 миллиардов долларов, электроэнергия начинает становиться дефицитным ресурсом.

Кстати, если следовать этим рассуждениям, вы можете спросить, почему я говорю о CUDA и NVIDIA? Если все 300 миллиардов долларов пойдут NVIDIA, вы знаете, что делать на фондовом рынке. Однако это не рекомендация по акциям, и я не являюсь лицензиаром.

профессор:

Частично потому, что нам понадобится больше чипов, но Intel получает много денег от правительства США. AMD пытается построить завод в Южной Корее.

Шмидт:

Поднимите руку, если в каком-либо из ваших вычислительных устройств установлен чип Intel. Вот вам и монополия.

профессор:

Но в этом вся суть. Когда-то у них была монополия, а теперь монополия у NVIDIA. Так являются ли эти барьеры для входа?

Говоря о CUDA, есть ли другие варианты? На днях я разговаривал с Перси Ланге. Он переключается между TPU и чипами NVIDIA, в зависимости от того, к чему у него есть доступ. Это потому, что у него нет выбора.

Шмидт:

Если бы у него были неограниченные средства, он бы выбрал сегодняшнюю архитектуру NVIDIA B200, потому что она быстрее. Я этого не утверждаю, конкуренция – это хорошо.

У меня был долгий разговор с Лизой Су из AMD. Они создали нечто, способное преобразовать архитектуру CUDA в свою собственную, под названием Rokam. Он еще не полностью функционален, но над этим работают.

профессор:

Вы долго работали в Google и они изобрелиТрансформаторархитектура. Спасибо замечательным людям, таким как Питер, Джефф Дин и всем остальным. В настоящее время OpenAI, похоже, потеряла инициативу. В последнем рейтинге, который я видел, Клод из Anthropic возглавил список. Я спросил Сундара, но он не дал мне очень четкого ответа. Возможно, у вас есть более четкое или объективное объяснение того, что там происходит.

Шмидт:

Я больше не сотрудник Google. Акцент Google на балансе между работой и личной жизнью больше направлен на то, чтобы позволить сотрудникам рано приходить домой и работать из дома, а не на слепое стремление к победе. Напротив, стартапы добиваются успеха, потому что их сотрудники много работают. Хотя это может быть немного грубовато, реальность такова, что если вы открываете компанию после окончания колледжа и хотите конкурировать с другими стартапами, вы не можете позволить сотрудникам приходить к вам только один день в неделю.

Бывший генеральный директор Google публично пожаловался, что сотрудники «недостаточно усердно работают» и отстают в конкуренции с искусственным интеллектом, потому что «приходят только один день в неделю», а также, кстати, заблокировал TikTok.

профессор:На заре Google то же самое было и с Microsoft.

Шмидт:

Теперь кажется, что в нашей отрасли долгое время компании всегда побеждали, проявляя творческий подход и доминируя в определенной области, а не совершая очередную трансформацию. Это хорошо документировано. Я думаю, что основатели особенные люди, и они должны держать все под контролем, хотя с ними может быть трудно работать, потому что они оказывают большое давление на своих сотрудников. Как бы нам не нравились личные действия Илона, посмотрите, что он получает от своих сотрудников. Однажды я ужинал с ним, и он улетел. Я был в Монтане, а он летел в 10 вечера на полуночную встречу с x.ai. Подумайте об этом.

В разных местах разные культуры. Я впечатлен TSMC. У них было правило, что только что аспиранты, хорошие физики, должны были работать в подвале завода. Можете ли вы представить себе, чтобы американский доктор философии по физике сделал это? Вряд ли. Это другая трудовая этика.

Строгость, с которой я работаю, обусловлена ​​тем, что эти системы обладают сетевым эффектом, поэтому время имеет решающее значение. А в большинстве предприятий время не так важно, его у вас много. Кока-Кола и Пепси-Кола по-прежнему будут существовать, и конкуренция между ними продолжится, и все будет ледяным. Когда я имею дело с телекоммуникационными компаниями, на подписание типичной сделки уходит 18 месяцев. Нет смысла тратить на что-либо 18 месяцев, это нужно сделать как можно быстрее. Мы находимся в периоде роста и максимизации доходов, но это также требует сумасшедших идей.

Например, когда Microsoft заключила сделку с OpenAI, я подумал, что это самая глупая идея, которую я когда-либо слышал. Передайте управление ИИ OpenAI, Сэму и его команде? Это безумие. Никто в Microsoft или где-либо еще этого не делает. Сегодня, однако, они становятся самыми ценными компаниями, конечно же, с Apple. У Apple нет хорошего решения для искусственного интеллекта, но, похоже, они заставили его работать.

студент:

Какую роль ИИ будет играть с точки зрения национальной безопасности или геополитических интересов, особенно в конкуренции с Китаем?

Шмидт:

Будучи председателем комитета по искусственному интеллекту, я тщательно изучил это. Мы написали отчет объемом около 752 страниц и резюмировали его следующим образом: В настоящее время мы находимся на лидирующей позиции и нам необходимо сохранить это преимущество, что требует значительной финансовой поддержки. Нашими основными клиентами являются Сенат и Палата представителей, что привело к введению Закона о CHIPS и других подобных политик.

Если передовые модели и некоторые модели с открытым исходным кодом продолжат развиваться, лишь немногие компании смогут конкурировать в этой области. Какие страны обладают такими возможностями? Эти страны должны быть хорошо финансируемыми, талантливыми, с сильной системой образования и волей к победе. США и Китай являются двумя крупнейшими странами. Что касается того, смогут ли участвовать другие страны, я не уверен. Но что можно сказать наверняка, так это то, что в будущем конкуренция между Соединенными Штатами и Китаем за интеллектуальную гегемонию станет серьезной борьбой.

Правительство США фактически запретило экспорт чипов NVIDIA в Китай, хотя и не признает этого публично. У нас около 10 лет технологических преимуществ в области чипов суб-DUV, то есть микросхем размером менее 5 нанометров. Это преимущество ставит нас на несколько лет впереди Китая, к большому неудовольствию Китая. Эта политика была разработана администрацией Трампа и поддержана администрацией Байдена.

профессор:Прислушается ли Конгресс к вашему совету и сделает ли крупные инвестиции? Очевидно, что Закон о CHIPS является примером этого.

Шмидт:

Кроме того, нам также необходимо построить огромную систему искусственного интеллекта. Я возглавляю неформальную, специальную, нелегальную группу обычных инсайдеров отрасли. В прошлом году эти члены обосновали законопроект об искусственном интеллекте администрации Байдена, самую длинную президентскую директиву в истории.

Однажды мы обсуждали основной вопрос: как обнаружить опасности в системе, которая научилась, но не знает, что спрашивать? Другими словами, система могла узнать что-то плохое, но вы не знаете, как об этом спросить. Например, он мог бы научиться смешивать химические вещества каким-то новым способом, но вы не знаете, как его спросить. Для решения этой проблемы мы в своей записке правительству предложили установить порог, который мы называем 10 в 26-й степени, что является мерой технического расчета. При превышении этого порога предприятия должны сообщать о своей деятельности правительству. Чтобы гарантировать их различие, Европейский Союз устанавливает число 10 в 25-й степени как 10. Но эти цифры достаточно близки. Я думаю, что все эти различия исчезнут, потому что существующие технологии устареют. Технический термин называется совместным обучением, что по сути означает, что части могут быть объединены вместе. Поэтому мы, возможно, не сможем защитить людей от этих новых вещей.

профессор:

Ходят слухи, что OpenAI необходимо обучать таким образом отчасти из-за проблем с энергопотреблением. Нет места, где они это делают.

Давайте поговорим о настоящей войне. Я знаю, что вы активно участвовали в войне на Украине, особенно в отношении программы «Белый аист» и вашей цели уничтожить танки стоимостью 5 миллионов долларов с помощью беспилотников стоимостью 500 долларов. Как это меняет войну?

Шмидт:

Я проработал на министра обороны семь лет, пытаясь изменить способ управления нашей армией. Я не особо люблю армию, но она очень дорогая, и я хотел посмотреть, смогу ли я ей помочь. Думаю, я в принципе потерпел неудачу. Мне дали медаль, так они, наверное, дают медали проигравшим или типа того. Но моя самокритика заключается в том, что на самом деле ничего не изменилось и американская система не ведет к реальным инновациям.

Поэтому я решил основать компанию с вашим другом Себастьяном Труном (который был здесь преподавателем) и группой людей из Стэнфорда. Идея, по сути, состоит в том, чтобы сделать две вещи: использовать искусственный интеллект сложными и мощными способами в том, что по сути является войнами роботов, и во-вторых, снизить стоимость роботов; Теперь вы, возможно, думаете: зачем такому хорошему либералу, как я, это делать? Ответ в том, что вся военная теория состоит из танков, артиллерии и минометов, и мы можем их уничтожить. Мы можем сделать наказание за вторжение в страну (по крайней мере, по суше) практически невозможным. Оно должно положить конец такого рода наземным войнам.

профессор:

Это очень интересный вопрос. Дает ли это защите преимущество перед нападением? Можете ли вы заметить разницу?

Шмидт:

Поскольку я занимался этим последний год, я узнал о войне много такого, чего на самом деле не хотел знать. О войне вам нужно знать одну вещь: нападение всегда имеет преимущество, потому что вы всегда можете сокрушить систему защиты. Так что с точки зрения стратегии защиты вам лучше иметь очень сильное нападение, которое вы сможете использовать при необходимости. Система, которую я и другие создаем, подойдет именно для этого. Благодаря принципу работы системы я теперь являюсь лицензированным торговцем оружием. Итак, я ученый-компьютерщик, бизнесмен, торговец оружием. Мне жаль это говорить. Это прогресс? Не имею представления. Я не рекомендую делать это в своей карьере. Я буду придерживаться искусственного интеллекта. В силу закона мы делаем это в частном порядке, при поддержке государства, и все это законно. Он идет прямо на Украину, и тогда они начинают сражаться. Если не вдаваться во все детали, ситуация довольно ужасная. Я думаю, что в мае или июне, если русские построят так, как ожидалось, Украина потеряет большой кусок территории в процессе потери всей страны. Ситуация довольно плохая. Если вы знаете Марджори Тейлор Грин, я предлагаю вам удалить ее из своего списка контактов. Потому что именно она не позволила потратить миллиарды долларов на спасение важной демократии.

профессор:

Далее я хочу обсудить несколько философский вопрос. В прошлом году вы вместе с Генри Киссинджером и Дэном Хаттенлохом написали статью о природе знания и о том, как оно развивается. Я тоже обсуждал этот вопрос несколько вечеров назад. На протяжении большей части истории понимание человечеством Вселенной было загадочным, вплоть до наступления Научной Революции и Просвещения. В своей статье вы упоминаете, что сегодняшние модели стали настолько сложными и трудными для понимания, что мы действительно не знаем, что происходит внутри них. Цитирую Ричарда Фейнмана: «То, что я не могу создать, я не понимаю». На днях я наткнулся на эту цитату. Но теперь люди создают то, что могут, не понимая по-настоящему, как это работает. Изменилась ли как-то природа знания? Должны ли мы начать принимать эти модели за чистую монету, которую они не могут нам объяснить?

Шмидт:

Я хотел бы привести пример подростка. Если у вас есть подросток, вы знаете, что он человек, но не можете до конца понять, о чем он думает. Однако нам как обществу удалось адаптироваться к существованию подростков, и со временем они из этого вырастут. Это серьезный вопрос. Таким образом, у нас могут быть системы знаний, которые мы не можем полностью описать, но мы понимаем их границы и пределы того, что они могут сделать, и это, вероятно, лучшее, что мы можем получить. Как вы думаете, мы поймем эти ограничения? Если мы сможем это сделать, это здорово.

На еженедельных собраниях моей группы пришли к единому мнению, что в конечном итоге появится так называемый состязательный ИИ, когда компании на самом деле будут нанимать и платить вам за то, чтобы вы взломали вашу систему ИИ. Как и красная команда. В отличие от сегодняшних красных команд людей, у вас будут целые компании и целые отрасли систем ИИ, чья работа будет заключаться в том, чтобы разрушать существующие системы ИИ и находить в них уязвимости, особенно те, которые мы не можем обнаружить. Для меня это имеет смысл. Это также отличная программа для Стэнфорда. Если у вас есть аспирант, которому нужно выяснить, как атаковать одну из этих больших моделей и понять, что она делает, это будет важным навыком для создания следующего поколения. Поэтому имеет смысл объединить эти два направления.

профессор:

Теперь давайте ответим на некоторые вопросы студентов. За мной стоит одноклассник, назовите, пожалуйста, свое имя.

студент:

Вы упомянули ранее, и теперь это связано с комментариями, о том, что ИИ действительно делает то, что вы от него хотите. Вы только что упомянули состязательный ИИ, и мне хотелось бы узнать, не могли бы вы рассказать об этом подробнее. Вроде бы, помимо очевидного увеличения вычислительной мощности, можно получить более производительные модели, но вопрос, как заставить их делать то, что вы хотите, кажется, частично без ответа.

Шмидт:

Что ж, вы должны предположить, что нынешняя проблема галлюцинаций будет уменьшаться по мере совершенствования технологий и так далее. Я не говорю, что это уйдет. И тогда вы также должны предположить, что существует тест на эффективность, поэтому должен быть способ узнать, была ли эта штука успешной. В примере с конкурентом TikTok, который я упомянул, я не предлагаю незаконно воровать чужую музыку. Что бы вы сделали, если бы были предпринимателем в Кремниевой долине? Я надеюсь, что вы все предприниматели из Кремниевой долины. Если ваш продукт окажется успешным, вы наймете армию юристов, чтобы разобраться с последствиями. Но если вашим продуктом никто не пользуется, то не будет иметь значения, если вы украдете все. Конечно, не цитируйте меня по этому поводу.

Кремниевая долина обычно проводит такие тесты и отвечает на последующие вопросы. Это обычная практика. Я думаю, вы увидите все больше и больше систем повышения производительности, еще более качественное тестирование и, в конечном итоге, состязательное тестирование, которое будет держать его в рамках. Этот профессиональный термин называется цепочкой рассуждений. Считается, что в течение следующих нескольких лет вы сможете выстроить тысячеступенчатую цепочку рассуждений, как при составлении рецепта. Вы можете запустить его и проверить, что он дает правильные результаты — так работает система.

студент:

В целом вы очень оптимистично оцениваете потенциал развития искусственного интеллекта. Мне любопытно, что движет этим прогрессом? Это больше вычислительной мощности? Это больше данных? Это фундаментальный или реальный сдвиг?

Шмидт:

Ответ – все вышеперечисленное. Сумма вложенных денег невероятна. По сути, я вложил все, потому что понятия не имел, кто выиграет, а сумма денег, за которой я следил, была огромной. Частично причина в том, что деньги были сделаны заранее, и те, кто мало что об этом знает, должны иметь компонент ИИ. Сейчас все инвестирует в искусственный интеллект, и они не видят разницы.

Я определяю искусственный интеллект как систему обучения, систему, которая действительно учится. Я думаю, что это один из них. Второй момент заключается в том, что сейчас появилось несколько очень сложных новых алгоритмов, что-то вроде пост-трансформера. Мой друг, тоже давний соавтор, изобрел новую архитектуру, не являющуюся трансформатором. Группа, которую я финансировал в Париже, утверждала, что сделала то же самое. Существует множество изобретений, и в Стэнфорде проводится много исследований. И последний момент: рынок считает, что интеллектуальные изобретения имеют неограниченную отдачу. Допустим, вы вложили в компанию 50 миллиардов долларов, и вам нужно заработать много денег на разведке, чтобы вернуть их. У нас может возникнуть огромный инвестиционный пузырь, и тогда он рассосется сам собой. Так было всегда и может быть так и сейчас.

профессор:Ранее вы упомянули, что лидеры дистанцируются от других.

Шмидт:

Во Франции есть компания Mistral, и они делают очень хорошую работу. Я, очевидно, инвестор. Они уже сделали вторую версию, а третью модель, скорее всего, закроют, потому что она слишком дорогая. Им нужен доход, и они не могут раздавать свою модель бесплатно. В нашей отрасли не утихают споры между открытым исходным кодом и закрытым исходным кодом. Вся моя карьера была построена на готовности людей делиться программным обеспечением с открытым исходным кодом. Все, что я делаю, основано на открытом исходном коде. Большая часть фундамента Google также построена на открытом исходном коде. Моя работа в основном связана с технической областью. Однако огромные капитальные затраты могут фундаментально изменить способ создания программного обеспечения.

По моему мнению, производительность программистов увеличится как минимум вдвое. В настоящее время это пытаются сделать три или четыре компании-разработчика программного обеспечения, и за это время я инвестировал во все из них. Все они пытаются сделать программистов более продуктивными. Недавно я наткнулся на очень интересную компанию под названием Augment. Я часто думаю о программистах, которые говорят, что это не цель. Наша цель — это команды программистов из 100 человек с миллионами строк кода, и никто не знает, что происходит. Это очень хорошее применение искусственного интеллекта. Будут ли они зарабатывать деньги? Я на это надеюсь, но здесь много проблем.

студент:

Вначале вы упомянули, что сочетание расширений контекстных окон, прокси и текстовых действий будет иметь невероятный эффект. Во-первых, почему это сочетание важно? Во-вторых, я знаю, что вы не пророк и не можете предсказывать будущее, но почему вы думаете, что оно находится за пределами нашего воображения?

Шмидт:

Я думаю, главным образом потому, что контекстные окна позволяют решать проблемы с недавностью. Обучение нынешних моделей занимает около 18 месяцев, включая шесть месяцев подготовки, шесть месяцев обучения и шесть месяцев доводки, поэтому они всегда устаревают. А с помощью контекстного окна вы можете вводить последние события и задавать вопросы о войне Хамас-Израиль в контексте, что очень мощно и делает его таким же актуальным, как Google.

В случае с агентством я могу привести пример. Я основал фонд для финансирования некоммерческой организации. Я не особо разбираюсь в химии, но есть инструмент под названием ChatCrow — система, основанная на больших языковых моделях, позволяющая изучать химию. Они запускают систему, чтобы генерировать химические гипотезы о белках, затем в лаборатории их проверяют в течение ночи, и система учится. Это огромный ускоритель для таких областей, как химия и материаловедение. Это агентская модель.

Я думаю, если бы было много дешевых программистов, концепцию text-to-action можно было бы понять. Я не думаю, что мы понимаем, что происходит, когда у каждого есть свой программист. Это тоже ваша область знаний. Я не говорю о простых задачах вроде включения и выключения света. Я представляю другой пример: допустим, вам не нравится Google, вы могли бы сказать: создайте мне конкурента Google. Да, вы лично можете это сделать. Создайте мне конкурента Google, который будет искать в Интернете, создавать пользовательский интерфейс, делать хорошие копии и добавлять их интересным способом.генеративный искусственный интеллект. Сделайте это в течение 30 секунд и посмотрите, сработает ли это. Многие считают, что традиционные компании, включая Google, уязвимы для таких атак.

профессор:

Теперь давайте посмотрим. Слидо прислал множество вопросов, некоторые из которых были загружены. В прошлом году мы обсуждали, как не дать ИИ влиять на общественное мнение и распространять дезинформацию, особенно во время предстоящих выборов.

Шмидт:

Нам нужно думать как о краткосрочных, так и о долгосрочных решениях. На предстоящих глобальных выборах большая часть дезинформации появится в социальных сетях, а нынешние организационные возможности компаний социальных сетей недостаточны для эффективного контроля этой информации. TikTok, например, обвиняют в поддержке определенного вида дезинформации, хотя у меня нет доказательств. Я думаю, мы в замешательстве.

Стране необходимо научиться критическому мышлению, что может стать трудной задачей для Соединенных Штатов. Если кто-то вам что-то говорит, это еще не значит, что это правда.

профессор:

Неужели мы зашли так далеко, что никто больше не поверит некоторым вещам, которые являются правдой? Некоторые называют это эпистемологическим кризисом. Теперь Илон Маск говорит, что никогда ничего не делал, но как это доказать?

Шмидт:

Мы можем проиллюстрировать это на примере Дональда Трампа. Я думаю, что у нас есть проблема доверия в нашем обществе, и из-за этого демократия может потерпеть неудачу. Самая большая угроза демократии — это дезинформация, потому что мы так хорошо в этом разучились.

Когда я управлял YouTube, самой большой проблемой, с которой мы столкнулись, было то, что люди загружали фейковые видео, в результате которых люди умирали. У нас есть политика отсутствия смертей, и попытки решить эту проблему шокируют и ужасают. Это было до появления генеративного искусственного интеллекта.

профессор:

У меня нет хорошего ответа, но есть одна техническая проблема, которая, кажется, смягчает это, а именно аутентификация с открытым ключом. Почему бы не использовать цифровые подписи, такие как SSL, когда выступает Джо Байден? Может ли знаменитость, общественный деятель или другой человек обладать открытым ключом?

Шмидт:

Это форма открытого ключа, которая обеспечивает некоторую уверенность, например, когда я отправляю свою кредитную карту в Amazon, я знаю, что это Amazon.

Я опубликовал статью с Джонатаном Хайдтом, но она не оказала никакого влияния. Он очень хороший собеседник, хотя я, возможно, и не такой. Мой вывод таков: система организована не так, как мы говорим. Руководители, как правило, максимизируют доходы, и для этого они максимизируют вовлеченность, а способ максимизировать вовлеченность — это максимизировать возмущение. Алгоритмы выбирают гнев, потому что он приносит больший доход, поэтому люди склонны поддерживать экстремальные вещи. Это проблема всех фронтов, и ее необходимо решать.

В условиях демократии мое решение относительно TikTok основано на том, что мы уже обсуждали в частном порядке. Когда я был ребенком, существовало так называемое правило равного времени. TikTok на самом деле не социальная платформа, а скорее разновидность телевидения. Каждый пользователь TikTok в США использует приложение в среднем 90 минут в день и снимает 200 видеороликов, что очень много. Хотя правительство не обеспечивает соблюдение правил равного времени, возможно, стоит рассмотреть это направление, требующее некоторой формы балансирования.

студент:

Во-первых, речь идет об экономическом влиянии на рынок труда. Воздействие оказалось медленнее, чем первоначально ожидалось, особенно на рынке труда. Также есть вопрос по поводу сотрудников службы поддержки клиентов. Считаете ли вы, что академические круги должны субсидировать развитие ИИ или им следует сотрудничать с крупными компаниями?

Шмидт:

Я настаиваю на том, чтобы университеты строили центры обработки данных. Если бы я был преподавателем на факультете информатики, меня бы расстроило то, что я не могу вместе с аспирантами разрабатывать алгоритмы для докторских исследований, потому что меня заставляют работать с компаниями. И эти компании недостаточно щедры в этом отношении. Это ужасная ситуация, когда многие преподаватели и сотрудники проводят много времени в ожидании кредитов Google Cloud. Мы хотим, чтобы американские университеты добились успеха в этом, поэтому я думаю, что позволить им зарабатывать эти кредиты — это правильно.

Я бы послушал настоящих экспертов о влиянии на рынок труда. Как экономист-любитель, я верю, что у высшего образования и высококвалифицированной работы есть хорошее будущее, потому что люди будут использовать эти системы. Я не думаю, что эти системы фундаментально отличаются от предыдущих волн технологий. Опасные работы и работы, не требующие человеческого суждения, будут заменены.

студент:

О переходе от текста к действию и его последствиях для образования в области информатики? Я думаю, что образование в области информатики должно адаптироваться к меняющимся временам.

Шмидт:

Я предполагаю, что у ученых-компьютерщиков, будучи студентами, всегда будет приятель-программист. Когда вы впервые освоите цикл for, один инструмент станет вашим естественным компаньоном. Профессор объясняет концепции, и вы таким образом участвуете.

Студент: Что касается обсуждения не-трансформерной архитектуры, я думаю, что модель состояния — это то направление, которое обсуждается, но сейчас больше внимания уделяется контексту.

Шмидт:

Я недостаточно хорошо разбираюсь в математике, но рад, что это создает рабочие места для математиков, потому что математика здесь очень сложная. В основном они выполняютсяградиентный спуски различные методы умножения матриц, стремясь работать быстрее и лучше. Как вы знаете, Трансформеры — это систематический способ одновременного умножения. Вот мои мысли. Это похоже на это, но математика другая. Давайте посмотрим.

студент:

В своей статье о национальной безопасности вы упомянули сегодняшнюю ситуацию в Китае, США и других странах. Десять стран из следующего кластера либо являются союзниками США, либо имеют потенциал стать союзниками США. Мне интересно ваше мнение об этих десяти странах. Они своего рода посредники, а не формальные союзники. Насколько вероятно, что они присоединятся к усилиям по обеспечению нашей безопасности? Что им мешает присоединиться?

Шмидт:

Самая интересная страна — Индия, потому что лучшие таланты в области искусственного интеллекта приезжают из Индии и приезжают в Соединенные Штаты. Мы должны позволить Индии сохранить некоторые из своих лучших талантов, не все, а некоторые. И у них нет той богатой тренировочной базы и программ, которые есть у нас. На мой взгляд, Индия в этом отношении является страной с плохими показателями. Япония и Южная Корея, очевидно, являются нашими лагерями. Тайваньское программное обеспечение ужасное, поэтому оно не сработает. Аппаратное обеспечение отличное. А других хороших вариантов в мире не так уж и много. Европа в беде из-за Брюсселя, в этом нет ничего нового. Я провел 10 лет, борясь с ними. Я очень много работал, чтобы заставить их изменить Закон ЕС. У них все еще есть различные ограничения, из-за которых нам очень сложно проводить исследования в Европе. Мои французские друзья тратят все свое время на борьбу с Брюсселем. Как мой личный друг, Макрон усердно работает над этим. Поэтому я думаю, что у Франции есть шанс. Я не думаю, что Германия придет, а другие страны недостаточно сильны.

студент:

Я знаю, что ты инженер по образованию, кажется, тебя зовут компилятор. Учитывая возможности, которыми, по вашему мнению, обладают эти модели, стоит ли нам продолжать тратить время на изучение кода?

Шмидт:

Да, потому что, в конце концов, это банальный вопрос: зачем учить английский, если можно на нем говорить? Вы будете учиться лучше. Вам действительно нужно понимать, как работают эти системы, и я это понимаю.

студент:

Мне любопытно, исследовали ли вы распределенную установку. Я задаю этот вопрос, потому что, конечно, сделать большой кластер сложно, но Макбуки мощные. В мире существует множество маленьких машин. Считаете ли вы, что складывание дома или что-то в этом роде будет применимо для тренировки этих систем?

Шмидт:

Да, мы очень внимательно подошли к этому вопросу. Итак, алгоритм работает так: у вас очень большая матрица и, по сути, функция умножения. Так что думайте об этом как о движении вперед и назад. И эти системы полностью ограничены скоростью памяти процессора или графического процессора. Фактически, следующее поколение чипов NVIDIA объединило все эти функции в одном чипе. Чипсы теперь настолько большие, что слиплись. На самом деле корпус настолько чувствителен, что и корпус, и сам чип собираются в чистом помещении. Итак, ответ выглядит так, что суперкомпьютеры и скорость света, особенно межсоединения памяти, действительно имеют преимущество. Я думаю, что сегментирование больших языковых моделей (LLM) пока маловероятно.

профессор:

Джефф Дин упомянул в своей прошлогодней речи, что модель можно разделить на разные части, обучать по отдельности, а затем объединять.

Шмидт:

Но чтобы этого добиться, нужно иметь десятки миллионов таких моделей, и скорость задавания вопросов станет очень медленной. Он упомянул, что для этого потребуется восемь, 10 или 12 суперкомпьютеров, но это не его уровень.

студент:

Что касается вопроса конфиденциальности данных, я узнал, что New York Times подала в суд на OpenAI за использование их работы для обучения.

Шмидт:

Я думаю, что в будущем может быть много подобных исков, и в конечном итоге будет достигнуто какое-то соглашение, например, требующее выплаты определенного процента дохода за использование определенных произведений, таких как ASCAP и EMI в музыкальной индустрии. . Эта модель может показаться немного устаревшей, но я думаю, именно так она и будет работать в конечном итоге.

студент:

В области искусственного интеллекта, по-видимому, есть несколько компаний, которые доминируют на рынке и пересекаются с более крупными компаниями, на которых сосредоточено антимонопольное законодательство.

Шмидт:

В своей карьере я участвовал в деле о распаде Microsoft, но в конечном итоге оно не увенчалось успехом; я также много работал, чтобы предотвратить распад Google, но тоже потерпел неудачу. Поэтому я думаю, что тенденция не должна разделяться. Пока эти компании не станут монополиями, как Джон Д. Рокфеллер, действия правительства маловероятны.

Эти крупные компании доминируют, потому что только у них есть капитал для строительства центров обработки данных. У меня есть друзья Рид и Мустафа, которые приняли решение передать свой бизнес Microsoft, потому что не смогли собрать десятки миллиардов долларов. Что касается точных цифр, вам, возможно, придется попросить Рида сообщить вам.

студент:

Наконец, мне интересно, какое влияние эти события окажут на страны, которые не участвуют в разработке передовых моделей и расчетов.

Шмидт:

Богатые страны станут еще богаче, в то время как бедные страны смогут сделать все возможное. На самом деле это игра для богатых стран, требующая огромного капитала, технических талантов и сильной государственной поддержки. В глобальном масштабе многие страны сталкиваются с различными проблемами, особенно в условиях нехватки ресурсов. Им необходимо найти партнеров и работать вместе с другими для решения этих проблем.

профессор:

Я помню, когда мы в последний раз встречались, ты былАГИ Хаус участвует в хакатоне. Я знаю, что вы проводите много времени и с энтузиазмом помогаете молодым людям создавать богатство. Есть ли у вас какой-нибудь совет для людей, которые пишут бизнес-планы курсов, предложения по политике или исследованиям в своей карьере?

Шмидт:

Я преподаю курс по этому поводу в бизнес-школе, и вам стоит прийти и послушать. Я шокирован тем, как быстро вы представляете новые идеи.

В одном хакатоне, в котором я участвовал, команде-победителю было поручено пролететь на дроне между двумя башнями. Они использовали Python для генерации кода в виртуальном пространстве дронов и успешно выполнили задачу в симуляторе. Хорошему профессиональному программисту, чтобы сделать это, может потребоваться неделя или две. Я думаю, что способность быстро создавать прототипы действительно важна, потому что одна из проблем, с которыми сталкиваются предприниматели, — это скорость. Если вы не можете создать прототип за день с помощью этих инструментов, вам нужно пересмотреть свое решение, потому что именно это делают ваши конкуренты.

Поэтому мой самый главный совет: когда вы начинаете думать о создании компании, можно написать бизнес-план. Фактически, вы можете попросить компьютер написать это за вас, если это законно. Важно использовать эти инструменты для создания прототипов ваших идей как можно быстрее, потому что кто-то может делать то же самое в другой компании, университете или где-то, где вы еще не были.

профессор:Большое спасибо.