Новости

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Отчет о сердце машины

Редакция «Машинное сердце»

Карпати: Раньше Tesla и OpenAI были «подработками», но теперь то, чем я занимаюсь, — это моя «работа на полный рабочий день».

Только что Андрей Карпатий объявил о своем следующем шаге на платформе X: основание компании по искусственному интеллекту и образованию под названием Eureka Labs.

Я рад сообщить вам, что открываю компанию по искусственному интеллекту и образованию под названием Eureka Labs. Объявление следующее:

Мы — Eureka Labs, и мы строим новую школу искусственного интеллекта. Как мы можем достичь идеального опыта изучения новых знаний? Например, в физике мы можем представить себе изучение высококачественного учебного материала с Фейнманом, который будет сопровождать вас на каждом этапе пути. К сожалению, страстных, педагогических и бесконечно терпеливых экспертов-предметников, свободно владеющих всеми языками мира, слишком мало, чтобы лично обучать наши 8 миллиардов человек по требованию. Однако с учетом последних достижений в области генеративного искусственного интеллекта такой опыт обучения кажется достижимым.

Преподаватели по-прежнему несут ответственность за разработку материалов курса, но эти материалы поддерживаются, используются и расширяются помощниками искусственного интеллекта, которые оптимизированы, чтобы помочь учащимся разобраться с материалами. Эта симбиотическая модель «учитель + искусственный интеллект» может провести весь курс на общей платформе. Если нам это удастся, каждый сможет легко научиться чему угодно, тем самым расширяя охват (большое количество людей чему-то учится) и степень (любой человек может выучить большое количество предметов) образования за пределы того, что в настоящее время возможно без посторонней помощи. ). Нашим первым продуктом будет LLM101n, лучший в мире курс по искусственному интеллекту.

Это курс бакалавриата, который помогает студентам тренировать свой собственный искусственный интеллект, во многом похожий на уменьшенную версию курса ассистента преподавателя по искусственному интеллекту. Материалы курса будут доступны онлайн, но мы также планируем предлагать как цифровые, так и физические занятия. Сегодня мы усердно работаем над созданием LLM101n, но мы с нетерпением ждем будущего, в котором искусственный интеллект станет ключевой технологией для повышения человеческого потенциала.

Eureka Labs — это кульминация более чем двух десятилетий моей страсти к искусственному интеллекту и образованию. От уроков по кубику Рубика на YouTube до CS231n в Стэнфордском университете и недавней серии «ИИ от нуля до героя» — мой интерес к образованию всегда был со мной. Моя работа в области искусственного интеллекта варьируется от академических исследований в Стэнфордском университете до реальных продуктов Tesla и исследований AGI OpenAI. На сегодняшний день вся моя работа в обеих областях была частичной занятостью, подработкой в ​​дополнение к моей «основной» работе. Так что я с нетерпением жду возможности погрузиться в работу и создать что-то великолепное на профессиональной и постоянной основе. Хотя это еще только начало, я хотел объявить о компании, чтобы создать ее публично, а не хранить в темном секрете.

У Андрея Карпати много личностей: ученик Ли Фейфея, один из основателей OpenAI и ученый-исследователь, бывший старший директор Tesla по искусственному интеллекту и известный блоггер YouTube «Learning Zone».

В феврале этого года Карпати объявил о своем уходе из OpenAI и заявил: «Не было никакого драматического конфликта, я просто хотел попробовать свой личный проект». С тех пор его следующий шаг оказался в центре внимания общественности.

Это напоминает нам о другом известном исследователе искусственного интеллекта, Эндрю Нг. Эндрю Нг, основатель проекта Google Brain и бывший главный научный сотрудник Baidu, вместе с коллегой-профессором из Стэнфорда Дафной Коллер основал платформу онлайн-обучения Coursera. Возможно, у всех больших людей, занимающихся теоретическими исследованиями, в глубине души есть образовательная мечта.

Новая компания специализируется на AI+образовании

Первый продукт Eureka Labs — курс LLM101n для бакалавриата, призванный помочь студентам обучать свои собственные модели искусственного интеллекта.

В июне Андрей Карпати всего лишь загрузил каталог курсов LLM101n на GitHub, и он быстро стал хитом.

В частности, LLM101n начинается с обучения основам языкового моделирования и машинного обучения, а затем переходит к мультимодальности, RLHF и развертыванию моделей. Целью курса является создание большой модели Storyteller AI (LLM) и использование искусственного интеллекта для создания, улучшения и использования. иллюстрируют короткие рассказы, охватывающие все: от основ до работающего веб-приложения, такого как ChatGPT, и создания проектов с нуля с использованием Python, C и CUDA с минимальными знаниями в области информатики. Этот курс даст студентам относительно глубокое понимание AI, LLM и глубокого обучения.

На данный момент, через три недели после загрузки, проект LLM101n получил 17 тысяч звезд.

Под официальным сообщением Карпати, объявляющим о создании новой компании, главный научный сотрудник Google Джефф Дин выразил свои искренние благословения.

В комментариях Карпати также объяснил происхождение названия Eureka Labs: Эврика (от древнегреческого) — хорошее чувство после понимания чего-то, как будто в мозгу что-то щелкнуло. Их цель — вдохновить эти моменты в сердцах людей. Причина добавления «Лаборатории» к названию такова: «Эврика» как одно слово использовалась другими (фреймворк обнаружения сервисов, разработанный Netflix), и он всегда хотел лабораторию...

В настоящее время компания открыла официальный репозиторий Twitter и GitHub.

Адрес GitHub: https://github.com/EurekaLabsAI.

Активные деятели в сфере ИИ

Персональная домашняя страница: https://karpathy.ai/

С 2005 по 2009 год Андрей Карпати учился в Университете Торонто в Канаде по специальности информатика и физика и математика. Здесь он впервые подвергся глубокому обучению и прослушал курсы Хинтона.

С 2009 по 2011 год Карпати учился в магистратуре Университета Британской Колумбии в Канаде. Его руководителем был профессор Михель ван де Панн с кафедры компьютерных наук. В основном он изучал машинное обучение гибких роботов в физическом моделировании.

С 2011 по 2016 год доктор Карпати учился в Стэнфордском университете под руководством известного ученого в области искусственного интеллекта Ли Фейфея, уделяя особое внимание исследованию сверточных/рекуррентных нейронных сетей и их применению в компьютерном зрении, обработке естественного языка и перекрестных полях. В этот период он разработал и был главным инструктором первого курса глубокого обучения в Стэнфорде «CS231n: сверточные нейронные сети и визуальное распознавание».

Между тем, в Карпатах также есть три стажировки. В 2011 году он проходил стажировку в Google Brain на ранних стадиях его создания, работая над крупномасштабным обучением без присмотра с помощью видео. Позже в 2013 году он снова стажировался в Google Research, занимаясь масштабным контролируемым изучением видео на YouTube. В 2015 году он прошел стажировку в DeepMind и участвовал в команде глубокого обучения с подкреплением.

В настоящее время цитирование статей Карпати в Google Scholar достигло 66 426. Среди них его статья «Крупномасштабная классификация видео с помощью сверточных нейронных сетей», вторая по цитируемости и его первый автор, была включена в CVPR 2014 Oral.

Карпати — один из основателей и научный сотрудник OpenAI. Спустя чуть больше года после основания OpenAI, в 2017 году, Карпати принял приглашение Маска присоединиться к Tesla, заменив Криса Латтнера, тогдашнего руководителя автопилота Tesla и отца языка Apple Swift и компилятора LLVM.

В течение пяти лет «Карпаты» в одиночку способствовали развитию автопилота. По мере того как Tesla постепенно перешла от первоначального беспилотного вождения к более широкой области искусственного интеллекта, Карпати также был назначен старшим директором Tesla по искусственному интеллекту, подчиняясь непосредственно Маску.

Страсть к образованию

Фактически, во время предыдущих смен карьеры Карпати уже выражал заинтересованность в «присоединении к образовательной индустрии».

Карпати покинул Tesla в июле 2022 года. В последующем интервью он сказал, что это было трудное решение. Хотя Tesla еще не полностью внедрила автономное вождение, команда исследований и разработок смогла разработать ее самостоятельно. Эта отставка также дала ему возможность пересмотреть свою любовь к искусственному интеллекту, открытому исходному коду и образованию.

Через восемь месяцев после ухода с работы, в феврале 2023 года, Карпати объявил, что снова присоединится к OpenAI. В этот период, помимо завершения исследовательской работы по OpenAI, Карпати также работал над некоторыми личными проектами, включая запись образовательных видеороликов, разработку проекта с открытым исходным кодом о Llama 2 — llama2.c и т. д.

После внутренней борьбы в OpenAI в феврале этого года Карпати снова ушел из OpenAI и начал работать над некоторыми курсами с открытым исходным кодом.

Теперь я официально посвятил себя образовательной карьере, которая мне нравится. Мы можем ожидать, что Карпати принесет больше отличных ресурсов в область ИИ.

Дополнительную информацию о курсовых проектах Карпати см. в разделе «Расширенное чтение».