новости

источник изображения: стэнфордский университет.

вас смущает общий искусственный интеллект (agi)? это то, чем openai одержима, чтобы в конечном итоге создать таким образом, чтобы «принесло пользу всему человечеству». возможно, вы захотите отнестись к ним серьезно, потому что они только что собрали 6,6 миллиарда долларов, чтобы приблизиться к этой цели.

но если вам все еще интересно, что такое agi, вы не одиноки.

на саммите credo ai, ответственном за искусственный интеллект, в четверг ли фейфей, всемирно известный исследователь, которого часто называют «крестной матерью искусственного интеллекта», заявила, что она также не знает, что такое agi.в другие моменты фей-фей ли обсуждала свою роль в рождении современного искусственного интеллекта, то, как общество должно защищать себя от передовых моделей искусственного интеллекта и почему она думает, что ее новый стартап-единорог world labs изменит все.

но когда ее спросили, что она думает о «сингулярности искусственного интеллекта», ли была так же озадачена, как и все мы.

«я пришел из академических кругов в области искусственного интеллекта и получил образование в более строгих и научно обоснованных подходах, поэтому я действительно не знал, что означают эти слова», — сказал ли переполненной комнате в сан-франциско рядом с дверью с видом на золотые ворота. большие окна моста.«честно говоря, я даже не знаю, что означает agi. люди говорят, что вы знаете это, когда видите, но я думаю, что я его не видел. на самом деле, я не трачу много времени на размышления над словами, потому что я думаю, что впереди еще много важных дел..."

если кто-то знает, что такое agi, то это, вероятно, ли фейфэй. в 2006 году она создала imagenet, первый в мире крупномасштабный набор данных для обучения и тестирования ии, который сыграл решающую роль в стимулировании нынешнего бума ии. с 2017 по 2018 год она работала главным научным сотрудником по искусственному интеллекту и машинному обучению в google cloud. сегодня фей-фей ли возглавляет стэнфордский человеческий центр института искусственного интеллекта (hai), а ее стартап world labs строит «крупномасштабные модели мира». (если вы спросите меня, этот термин почти так же запутан, как и оии.)

генеральный директор openai альтман попытался дать определение agi в интервью the new yorker в прошлом году.альтман описывает agi как «человеческий эквивалент коллеги среднего уровня, которого можно нанять».(эквивалент среднего человека, которого вы могли бы нанять в качестве коллеги.)

между тем, устав openai определяет agi как «высокоавтономные системы, которые превосходят людей в большинстве экономически ценных работ».

очевидно, что эти определения недостаточно хороши для компании с оборотом в 157 миллиардов долларов. поэтому,openai создала пять уровней для внутренней оценки своего прогресса в направлении agi. первый уровень — это чат-боты (типа chatgpt), затем резонеры (очевидно, openai o1 — это этот уровень), агенты (которые предположительно будут следующими), новаторы (ии, которые могут помогать изобретать вещи), и последний уровень — организационный уровень (ии, который может завершить работу всей организации).

все еще в замешательстве? я тоже, и ли тоже. более того, это звучит гораздо больше, чем может сделать среднестатистический коллега-человек.

ранее в разговоре ли упомянула, что с детства ей была интересна концепция интеллекта. это побудило ее начать исследования искусственного интеллекта еще до того, как это стало прибыльным. в начале 2000-х годов ли сказала, что она и еще несколько человек потихоньку закладывали основу для этой области.

«в 2012 году моя imagenet была объединена с alexnet и графическими процессорами — то, что многие называют рождением современного искусственного интеллекта.это обусловлено тремя ключевыми факторами: большими данными, нейронными сетями и современными вычислениями на графических процессорах.я думаю, что как только этот момент наступит, вся область искусственного интеллекта и наш мир уже никогда не будут прежними. "

когда его спросили о спорном законопроекте об искусственном интеллекте в калифорнии, sb 1047, ли говорил осторожно, чтобы не возвращаться к спорам, которые губернатор ньюсом только что положил конец, наложив вето на законопроект на прошлой неделе. (недавно мы говорили с автором sb 1047, который предпочел возобновить дискуссию с ли.)

«некоторые из вас, возможно, знают, что я выразил свою обеспокоенность по поводу этого законопроекта, на который наложено вето [sb 1047], но сейчас я глубоко об этом думаю и с нетерпением жду», — сказал ли. «я очень польщен или польщен тем, что губернатор ньюсом попросил меня принять участие в следующих шагах после sb 1047».

губернатор калифорнии недавно пригласил ли и других экспертов по искусственному интеллекту сформировать рабочую группу, чтобы помочь штату разработать меры безопасности для развертывания искусственного интеллекта. ли сказала, что в этой роли она будет использовать научно обоснованный подход и сделает все возможное, чтобы отстаивать академические исследования и финансирование. однако она также хочет убедиться, что калифорния не наказывает технических работников.

«нам нужно действительно сосредоточиться на потенциальном воздействии на людей и наши сообщества, а не обвинять саму технологию.…мы наказываем автомобильных инженеров, если автомобиль используется не по назначению, намеренно или непреднамеренно, и причиняет вред человеку, например:фордили дженерал моторс - нет смысла. простое наказание автомобильных инженеров не сделает автомобили безопаснее. что нам нужно делать, так это продолжать внедрять инновации в направлении более безопасных мер, а также совершенствовать нормативную базу – будь то ремни безопасности или ограничения скорости – и то же самое касается искусственного интеллекта. "

это один из лучших аргументов, которые я слышал в пользу sb 1047, законопроекта, который накажет технологические компании, пострадавшие от опасных моделей ии.

ли консультирует штат калифорния по вопросам регулирования искусственного интеллекта, а также руководит своим стартапом world labs в сан-франциско. ли впервые запускает стартап, и она одна из немногих женщин, возглавляющих передовую лабораторию искусственного интеллекта.

«мы еще далеки от очень разнообразной экосистемы искусственного интеллекта», — сказал ли. «я верю, что разнообразие человеческого интеллекта приведет к разнообразию искусственного интеллекта и к улучшению технологий для нас».

в течение следующих нескольких лет она с нетерпением ждет возможности приблизить «пространственный интеллект» к реальности. по словам ли, на развитие человеческого языка, основы сегодняшних крупномасштабных языковых моделей, возможно, потребовались миллионы лет, а на развитие зрения и восприятия потребовалось 540 миллионов лет. это означает, что создание больших моделей мира — более сложная задача.

«речь идет не только о том, чтобы позволить компьютеру видеть, но и о том, чтобы он действительно мог понять весь трехмерный мир, который я называю пространственным интеллектом», — сказал ли.«мы не просто видим, чтобы называть вещи... мы действительно видим, чтобы что-то делать, ориентироваться в мире, взаимодействовать друг с другом, и преодоление разрыва между видением и действием требует пространственных знаний. как технолог, я очень воодушевлен об этом»