Тао Ле произошел из храма Аофэй.

Кубиты | Публичный аккаунт QbitAI

Когда будет реализован AGI? GoogleГлубокий Разум Генеральный директор Хассабис предсказал в последнем интервью:

десять лет.

еслиАГИЯ не удивлюсь, если оно появится в течение следующего десятилетия.

В этом интервью Хассабис рассказал о тенденциях развития ИИ.

Есть темы, которые интересуют каждого, например:

Возможно, в краткосрочной перспективе ИИ переоценивают, но его потенциал и влияние остаются недооцененными в долгосрочной перспективе.

Google DeepMind, как «суперкоманда» Google, должна найти баланс между коммерческими интересами и научными исследованиями.

Открытый исходный код важен для технологического прогресса, но когда вы сталкиваетесь с технологией, которая может быть использована не по назначению, вы можете подождать год, прежде чем сделать ее открытым исходным кодом, чтобы оценить и ограничить неправомерное использование.

Более конкретный контент можно найти в текстовой версии ниже~

«Проблема реализации» раннего ИИ

В: На сегодняшнее интервью я пригласил Хассабиса, соучредителя DeepMind и нынешнего генерального директора Google DeepMind.

Хассабис: Спасибо, я очень рад возможности принять участие в вашем интервью. Ранее мы рассмотрели, как концепции и язык могут использоваться в реальном мире, например, в смоделированных средах или в качестве роботов, обладающих реальным интеллектом, который может быть необходим для понимания мира вокруг нас.

Однако следует признать, что эти системы еще не находятся на том идеальном уровне, допускают множество ошибок и не строят по-настоящему полную модель мира. Тем не менее, они добились прогресса, намного превзошедшего наши ожидания только благодаря изучению языка.

В: Да, в прошлый раз мы много обсуждали, как реализовать язык в реальном мире. А можете вкратце объяснить, что такое «приземление»? На случай, если друзья, которые впервые смотрят наше интервью, не понимают.

Хассабис："приземление"Эта концепция,Возник на основе классических систем искусственного интеллекта, созданных в академических учреждениях, таких как Массачусетский технологический институт, в 1980-х и 1990-х годах.Большинство этих систем представляют собой огромные логические системы, которые можно представить как гигантские базы данных, содержащие множество взаимосвязанных слов.

Проблема, однако, в том, что, хотя в базе данных можно найти такие утверждения, как «У собак четыре ноги», когда система сталкивается с фотографией настоящей собаки, она не может связать эти пиксели с символами в базе данных. , это так называемая "проблема посадки".

Другими словами, система имеет символические или абстрактные представления, но не может понять конкретное значение этих представлений в реальном мире. С тех пор, хотя люди и пытались решить эту проблему, им так и не удалось достичь совершенства.

В отличие от систем прошлого, сегодняшние системы искусственного интеллекта учатся непосредственно на данных и с самого начала устанавливают связи между данными и реальным миром.

Интересно, что даже если эти системы изначально обучаются только на основе языка, им теоретически должно не хватать большого количества информации, необходимой для «отрыва от земли», поскольку они не связаны с реальными симуляторами, роботами или другими формами ввода, а только Это обучение в языковом пространстве.

Удивительно, однако, что эти системы все еще способны получать некоторые знания о реальном мире.

В: Это может быть связано с тем, что люди, взаимодействуя с системой, сообщают ей, какие ответы правильные, а какие неправильные. Благодаря обратной связи таким образом система может получать часть «посадочной» информации, тем самым постепенно устанавливая связь с реальным миром.

Хассабис: Действительно, если бы система в более ранних версиях давала неверные ответы из-за отсутствия «посадочной» информации, например, неправильно отвечая на вопрос типа «Как лает собака?», отзывы людей исправляли бы это.

Эта обратная связь основана на наших собственных «реализованных» знаниях, поэтому в определенной степениСистема поглощает и изучает информацию из этой обратной связи.

Раздутый в краткосрочной перспективе, недооцененный в долгосрочной перспективе

В: Кроме того, еще хочу спросить вас по поводу хайпа вокруг ИИ. Считаете ли вы, что наша нынешняя ситуация, нынешняя ситуация, недооценена или переоценена?

Хассабис: Я думаю, что скорее последнее. Я хочу сказать,В краткосрочной перспективе шумиха зашла слишком далеко.

Я думаю, люди говорят, что ИИ может делать все что угодно, но на самом деле он не так силен, как говорят люди. Есть много стартапов и венчурных капиталистов, гоняющихся за нереалистичными идеями, которые не очень зрелы.

Но с другой стороны, я думаю, что и сейчас этому все еще недооценивают или не уделяют должного внимания. Особенно по мере того, как мы подходим к стадиям AGI и пост-AGI, мне все еще кажется, что люди не до конца понимают, какими большими изменениями это обернется и какие обязанности с ними связаны.

так,Я думаю, что в краткосрочной перспективе это определенно переоценено, но в долгосрочной перспективе оно все еще недооценено.

От мультимодального Gemini до универсального ИИ-агента Astra

В: Хорошо, теперь я хочу задать в этом интервью более важный вопрос. Как вы думаете, в чем разница между Gemini и большими языковыми моделями, выпущенными другими лабораториями?

Хассабис: С самого начала проекта Gemini мы поставили цель — обеспечить возможность одновременной обработки нескольких типов данных. Мы надеемся, что он сможет не только понимать текст, но и анализировать звуки, видео, изображения, код и т. д., практически все формы информации.

Мы твердо верим, что только позволив системам понимать и обрабатывать различную информацию в реальном мире, они смогут по-настоящему понять мир и построить более точную и всеобъемлющую модель мира.

На самом деле это расширение проблемы «приземления», о которой мы упоминали выше, но на этот раз мы используем язык в качестве основы для достижения этой цели.

В: То есть «реализация» по-прежнему является ключом ко всему проекту?

Хассабис: Действительно, это имеет решающее значение.

У нас также есть конечная цель:Создайте универсального помощника. Мы разработали инструмент под названиемАстроПрототип проекта, Astro, не только понимает ваш вклад, но и ощущает контекст вашего окружения.

Представьте себе, насколько более мощным был бы ваш личный помощник или цифровой помощник, если бы он глубже понимал контекст вашего вопроса или ситуацию, в которой вы оказались. Поэтому мы всегда твердо уверены, что такой тип системы будет более практичным.

Для этого мы с самого начала проекта встроили в систему мультимодальный функционал. В то время это была единственная модель с такой функцией, и теперь другие модели пытаются догнать ее.

В：Project Astro — это новый агент искусственного интеллекта общего назначения, способный обрабатывать видео и аудио данные.Помню, на конференции Google I/O вы показали пример того, как Astro помогает пользователям запомнить, где находятся их очки. Меня интересует происхождение этой технологии. Это просто усовершенствованная версия старых Google Glass?

Хассабис: Google имеет долгую историю разработки устройств на базе очков, начиная с 2012 года. Таким образом, они имеют значительное преимущество первопроходца в этой области. Возможно, умному помощнику не хватило необходимых технологий, чтобы понять, что он видит. Но теперь,Имея под рукой этот цифровой помощник, он сможет понять мир вокруг вас., это кажется очень естественным.

В: Я хочу проследить происхождение Gemini, потому что оно возникло из двух отдельных отделов внутри организации и было сделано ими?

Хассабис: Действительно, в прошлом году мы поставили Алфавит(материнская компания Google)Два исследовательских отдела оригиналаГлубокий РазумиGoogle Мозг, объединился в новый отдел, мы его называем«Супер отдел»。

Таким образом, все лучшие таланты компании собираются в одну команду, и мы объединяем лучшие знания из всех областей исследований, особенно в области языковых моделей.

У нас уже было несколько предыдущих проектов, таких как Trin Chilla и Gopher, которые участвовали в разработке ранних языковых моделей, таких как Palm и Lambda. У каждой из этих моделей есть свои сильные и слабые стороны, и мы интегрировали их в проект Gemini, который является первым очень важным проектом после слияния.

Кроме того, есть еще один особенно важный момент: мыИнтегрируйте все вычислительные ресурсы вместе. Таким образом, мы можем проводить крупномасштабные обучающие прогоны, которые фактически объединяют все вычислительные мощности.Сделайте Близнецов более мощными и эффективными。

Эти две команды всегда были в центре внимания в области искусственного интеллекта. Они и раньше много сотрудничали в личных исследованиях, но в стратегическом отношении они, возможно, не так близки. Теперь объединенную команду, я бы назвал ее Google«Машинный зал»。

Я думаю, что методы работы двух команд на самом деле очень похожи, без особой разницы. Далее мы продолжим укреплять наши преимущества в фундаментальных исследованиях, например, думая о следующем.ТрансформаторКак будет выглядеть архитектура, мы все хотим разобраться сами.

Кстати, предыдущий Transformer был создан Google Brain, и мы объединили его с Deep Reinforcement Learning, но я думаю, что необходимо больше инноваций. Я верю, что, как и в последние 10 лет, будь то Brain или DeepMind, мы продолжим вносить свой вклад.

«Машинное отделение» Google

В: Вы только что сказали, что Google DeepMind теперь является «машинным отделением» Google. Это большое изменение. Я хочу знать, делает ли Google сейчас большую ставку на вас?

Хассабис: Я так думаю. Я думаю, что Google всегда четко понимал важность ИИ. Пичаи сказал, что когда он впервые стал генеральным директором,Google — компания, ориентированная на искусственный интеллект。

Мы обсуждали эту тему, когда он впервые вступил в должность. Он видел потенциал ИИ как следующего крупного изменения парадигмы после мобильного Интернета, и его влияние было еще более глубоким.

Но я думаю, что за последние год или два мы начали по-настоящему понимать, что это значит, не только с точки зрения исследований, но также с точки зрения продукта и всего остального. Итак, это очень захватывающее время, но я думаю, что это правильный выбор для нас — собрать вместе все таланты и выложиться на полную.

В: С другой стороны, для DeepMind, который теперь становится «машинным отделением» Google, означает ли это, что вам нужно найти больший баланс между учетом коммерческих интересов и чисто научными исследованиями?

Хассабис: Действительно, нам сейчас нужно больше учитывать интересы бизнеса, что стало частью нашей ответственности. Однако есть еще некоторые моменты, которые необходимо уточнить. Мы продолжим развивать нашу научно-исследовательскую работу, и наши инвестиции в эту область продолжают расти.

Я думаю,Это уникальная вещь, которую мы делаем в Google DeepMind., даже наши конкуренты видят в этих результатах широко распространенное преимущество ИИ.

«Открытый исходный код» необходим

В: Хорошо, это подводит меня к следующему вопросу: открытый исходный код. Когда технологии попадают в руки масс, как вы сказали, могут произойти удивительные вещи. Я знаю, что в прошлом DeepMind открывала исходный код многих исследовательских проектов, но сейчас ситуация, похоже, изменилась. Можете ли вы рассказать о своих взглядах на открытый исходный код?

Хассабис：Открытый исходный код необходим, и мы всегда были решительными сторонниками открытого исходного кода и открытой науки.Как вы знаете, мы публикуем почти все наши исследовательские проекты, включая такие проекты, как «Трансформер» и «Трансформер».AlphaGoМы публиковали подобные проекты в ведущих журналах, таких как Nature и Science.

AlphaFold также имеет открытый исходный код., это все сделано намиВыбирайте мудро. Вы правы, этот подход работает, потому что технологии и наука могут развиваться с максимальной скоростью благодаря обмену информацией. В большинстве случаевОткрытый исходный код приносит универсальную пользу, и именно так работает наука.。

Однако есть исключения, и это когда речь идет о технологиях двойного назначения, таких как искусственный интеллект и мощный искусственный интеллект.

Проблема в том, что вы хотите иметь возможность реализовать все безобидные варианты использования, и вы хотите, чтобы настоящие ученые и технологи могли развивать и критиковать эти идеи, чтобы обеспечить быстрый прогресс в обществе. Но в то же время, как ограничить злоумышленников, которые могут злоупотреблять этими системами, вот в чем вопрос.

Сейчас это нормально, потому что я не думаю, что эти системы достаточно мощны, но через два или три года, особенно когда вы начнете получать системы с агентным поведением, это может нанести серьезный вред.

У нас есть собственные модели Gemini с открытым исходным кодом под названием Gemma, но это модели меньшего размера, а не передовые модели.

Их возможности по-прежнему очень полезны разработчикам, поскольку их можно запускать на ноутбуках и поскольку они имеют меньшее количество параметров. Их возможности на данном этапе хорошо изучены, поскольку они не являются новейшими передовыми моделями.

Вероятно, в конечном итоге мы будем иметь модели с открытым исходным кодом, но они будут отставать примерно на год от последних передовых моделей, чтобы мы могли действительно оценить возможности этих моделей в ходе публичного тестирования с участием пользователей.

Одна из проблем с открытым исходным кодом заключается в том, что если что-то пойдет не так, вы не сможете это вспомнить. С проприетарной моделью, если злоумышленники начнут использовать ее нехорошим образом, вы можете отключить ее или даже в крайнем случае отключить всю систему. Но как только вы откроете что-то, вы не сможете забрать это обратно. Это дверь с односторонним движением.

AGI будет доступен через десять лет

В: В настоящее время научные исследователи разрабатывают различные модели ИИ, но я хочу знать, если мы выйдем на этап, когда ИИ поддерживает все научные исследования, останется ли место для существования научно-исследовательских институтов?

Хассабис: Я думаю, что еще есть место. Сейчас мы находимся на этапе, предшествующем появлению общего ОИИ. Я думаю, что это требует тесного сотрудничества между обществом, научными кругами, правительством и промышленными лабораториями.

Я искренне верю, что это единственный способ, которым мы в конечном итоге добьемся этого. Если вы спрашиваете о том, что произойдет после AGI, вероятно, это то, что вы действительно хотите знать. Я всегда стремился создать AGI, потому что мы можем использовать его для исследования некоторых наиболее фундаментальных вопросов о природе реальности, физике, сознании и многом другом.

В: Ученый-компьютерщик Стюарт Рассел однажды сказал мне, что его немного беспокоит то, что, когда мы достигнем AGI, мы все можем стать похожими на аристократов прошлого, только наслаждаясь беззаботной и роскошной жизнью без каких-либо целей и без размышлений.

Хассабис: Я думаю, будущее будет очень интересным. Но это также затрагивает ту «недооцененную» проблему, о которой я упоминал ранее, а именно разницу между краткосрочной и долгосрочной ажиотажем. Если вы хотите назвать это хайпом, то в определенной степени оно, конечно, недооценено.

Я думаю, что изменения в будущем будут огромными. Я верю, что в конце концов мы сможемВылечить многие болезни, даже все болезни, решить энергетические и климатические проблемы.

В: Кстати говоря, я помню, как вы однажды сказали, что надеетесь, что AGI сможет исследовать тайны Вселенной. Считаете ли вы, что существуют некоторые возможности, которые мы еще не представляли, например, такие явления, как червоточины?

Хассабис:конечно,Я полностью верю в эту возможность. Я очень надеюсь, что червоточины станут реальностью. Мне кажется, у нас до сих пор много недопониманий относительно физики и природы реальности.

Очевидно, что в объединении квантовой механики и гравитации, проблемах Стандартной модели, теории струн и т. д. скрыты бесчисленные неразгаданные загадки. У меня были глубокие дискуссии со многими друзьями из физического сообщества, и все они считают, что в существующей теоретической системе есть много вещей, которые не идеально сочетаются друг с другом.

Лично я не большой поклонник объяснений мультивселенной, поэтому думаю, было бы здорово, если бы мы могли придумать новые теории и проверить их с помощью крупномасштабного оборудования в космосе.

Причина, по которой я так очарован планковской шкалой времени и пространства, заключается в том, что она, кажется, представляет собой предельное разрешение реальности, как мельчайшая единица, на которую можно разделить все.

Поэтому я думаю, что нам следует провести глубокие экспериментальные исследования на этом уровне, особенно когда у нас естьБлагодаря ОИИ и обильным ресурсам, возможно, мы сможем спроектировать или построить такое экспериментальное оборудование.

В: Вы как-то сказали, что DeepMind — это 20-летний проект. Как далеко мы продвинулись? Вы все еще продвигаетесь по плану?

Хассабис: Да, мы все еще идем по графику, что может показаться невероятным, потому что обычно 20-летний проект всегда кажется, что на его завершение уйдет еще 20 лет. Но мы прошли долгий путь.

Наша цель — сделать это к 2030 году, поэтому я не удивлюсь, если мы сможем достичь этого в течение следующего десятилетия.

• Адрес видео: https://www.youtube.com/watch?v=pZybROKrj2Q *