소식

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

기계 심장 보고서

머신하트 편집부

Karpathy: 예전에는 Tesla와 OpenAI가 '부업'이었지만 지금은 '풀타임 직업'으로 일하고 있습니다.

방금 Andrej Karpathy는 X 플랫폼에서의 다음 목표를 발표했습니다. Eureka Labs라는 인공 지능 + 교육 회사를 설립하는 것입니다.

유레카랩스(Eureka Labs)라는 인공지능+교육 회사를 창업하게 되었다는 소식을 전해드리게 되어 기쁩니다. 발표 내용은 다음과 같습니다.

우리는 Eureka Labs이며, 새로운 AI 기반 학교를 짓고 있습니다. 새로운 지식을 배우는 이상적인 경험을 어떻게 얻을 수 있습니까? 예를 들어, 물리학에서는 모든 단계를 안내해 주는 Feynman과 함께 고품질 강의 자료를 공부하는 것을 상상할 수 있습니다. 불행하게도 전 세계 모든 언어에 능통하고 80억 명의 사람들이 필요에 따라 직접 지도할 수 없는 열정적이고 교육적이며 인내심이 강한 주제 전문가도 부족합니다. 그러나 최근 생성 인공 지능의 발전으로 이러한 학습 경험이 가능해졌습니다.

교사는 여전히 강좌 자료를 설계할 책임이 있지만, 이러한 자료는 학생에게 자료를 안내하는 데 도움이 되도록 최적화된 AI 보조자에 의해 지원, 활용 및 확장됩니다. "교사 + 인공지능"의 공생 모델은 공통 플랫폼에서 전체 과정을 실행할 수 있습니다. 성공하면 누구나 쉽게 무엇이든 배울 수 있어 현재의 도움 없이는 교육의 범위(누구나 많은 사람이 배울 수 있음)와 범위(한 사람이 많은 과목을 배울 수 있음)가 확장됩니다. ). 우리의 첫 번째 제품은 세계 최고의 인공지능 강좌인 LLM101n이 될 것입니다.

AI 조교과정의 축소판처럼 학생 스스로 인공지능을 훈련할 수 있도록 지도하는 학부과정이다. 강좌 자료는 온라인으로 제공되지만 디지털 수업과 실제 수업도 모두 제공할 계획입니다. 현재 우리는 LLM101n을 구축하기 위해 열심히 노력하고 있지만 인공지능이 인간의 잠재력을 향상시키는 핵심 기술이 되는 미래를 기대합니다.

Eureka Labs는 인공 지능과 교육에 대한 20년 이상의 열정의 정점입니다. YouTube의 Rubik's Cube 튜토리얼부터 Stanford University의 CS231n, 최근의 "Zero-to-Hero AI" 시리즈에 이르기까지 교육에 대한 관심은 항상 저와 함께했습니다. 인공지능 분야에서의 나의 작업은 스탠포드 대학교의 학술 연구부터 Tesla의 실제 제품, OpenAI의 AGI 연구까지 다양합니다. 지금까지 두 분야 모두에서 제가 맡은 일은 모두 "일상" 업무 외에 부업으로 일하는 시간제였습니다. 그래서 저는 전문적이고 풀타임으로 뛰어들어 훌륭한 것을 창조하게 되어 기쁩니다. 아직 초기 단계이지만, 회사를 어두운 비밀로 간직하기보다는 공개적으로 회사를 만들 수 있도록 회사를 알리고 싶습니다.

Andrej Karpathy는 Li Feifei의 제자, OpenAI 창립 멤버이자 연구 과학자, Tesla의 전 AI 수석 이사, 잘 알려진 YouTube 'Learning Zone' 블로거 등 많은 정체성을 가지고 있습니다.

카파티는 올해 2월 오픈AI 탈퇴를 선언하며 “극적인 갈등은 없었고, 그냥 나만의 개인 프로젝트를 해보고 싶었다”고 밝혔다. 이후 그의 차기작에 대중의 관심이 집중됐다.

이는 또 다른 유명한 AI 학자인 Andrew Ng를 생각나게 합니다. Google Brain 프로젝트의 창립자이자 Baidu의 전 수석 과학자인 Andrew Ng는 동료 스탠포드 교수인 Daphne Koller와 함께 온라인 교육 플랫폼 Coursera를 공동 창립했습니다. 아마도 이론 연구에 종사하는 거물들은 모두 마음속에 교육적인 꿈을 가지고 있을 것입니다.

AI+교육에 중점을 둔 새로운 회사

Eureka Labs의 첫 번째 제품은 학생들이 자신의 AI 모델을 훈련할 수 있도록 설계된 학부 수준 과정 LLM101n입니다.

6월에 Andrej Karpathy는 GitHub에 LLM101n 강좌 카탈로그만 업로드했고, 이는 빠르게 인기를 끌었습니다.

구체적으로 LLM101n은 언어 모델링과 머신러닝의 기초부터 교육한 뒤 멀티모달리티, RLHF, 모델 배포까지 진행하며 스토리텔러 AI 대형 모델(LLM)을 구축하고 AI를 활용해 생성, 개선, 배포하는 것을 목표로 한다. 기본 사항부터 ChatGPT와 같은 작동하는 웹 애플리케이션까지 모든 것을 다루고 최소한의 컴퓨터 과학 전제 조건으로 Python, C 및 CUDA를 사용하여 처음부터 프로젝트를 구축하는 짧은 이야기를 설명합니다. 이 과정은 학생들에게 AI, LLM 및 딥 러닝에 대한 상대적으로 심층적인 이해를 제공합니다.

현재 업로드 후 3주가 지난 현재 LLM101n 프로젝트는 17,000개의 별을 받았습니다.

새 회사를 알리는 Karpathy의 공식 게시물에 Google 수석 과학자 Jeff Dean이 진심 어린 축복을 보냈습니다.

댓글 영역에서 Karpathy는 Eureka Labs라는 이름의 유래에 대해서도 설명했습니다. Eureka(고대 그리스어에서 유래)는 무언가를 이해한 후 마치 뇌를 클릭하는 것처럼 좋은 느낌을 의미합니다. 그들의 목표는 사람들의 마음 속에 그 순간에 영감을 주는 것입니다. 이름에 Labs를 추가한 이유는 유레카(Eureka)라는 한 단어를 다른 사람들이 사용하기도 했고(넷플릭스에서 개발한 서비스 발견 프레임워크), 그는 항상 실험실을 원했기 때문입니다...

현재 회사는 공식 Twitter 및 GitHub 저장소를 열었습니다.

GitHub 주소: https://github.com/EurekaLabsAI

AI 분야의 활발한 활동 인물

개인 홈페이지 : https://karpathy.ai/

2005년부터 2009년까지 Andrej Karpathy는 캐나다 토론토 대학에서 컴퓨터 과학과 물리학을 전공하고 수학을 부전공했습니다. 이곳에서 처음으로 딥러닝을 접하고 힌튼의 강의를 들었습니다.

2009년부터 2011년까지 Karpathy는 캐나다 브리티시 컬럼비아 대학에서 석사 학위를 취득했으며, 그의 지도교수는 컴퓨터 과학과의 Michiel van de Panne 교수였습니다. 그는 주로 물리적 시뮬레이션에서 민첩한 로봇에 대한 기계 학습을 연구했습니다.

2011년부터 2016년까지 Karpathy 박사는 스탠포드 대학교에서 유명한 AI 학자인 Li Feifei 밑에서 공부했으며, 컨볼루션/반복 신경망 연구와 컴퓨터 비전, 자연어 처리 및 교차 분야에서의 응용에 중점을 두었습니다. 이 기간 동안 그는 스탠포드 최초의 딥 러닝 과정인 "CS231n: 컨볼루셔널 신경망 및 시각적 인식"을 설계하고 수석 강사로 재직했습니다.

한편 Karpathy에는 세 번의 인턴십도 있습니다. 2011년에 그는 초기 단계의 Google Brain에서 인턴으로 일하며 대규모 비지도 학습 비디오를 연구했습니다. 2013년 말에 그는 다시 Google Research에서 인턴으로 일하면서 YouTube 동영상에 대한 대규모 지도 학습에 참여했습니다. 2015년에는 DeepMind에서 인턴으로 근무하며 심층 강화 학습 팀에 참여했습니다.

현재 Google Scholar에서 Karpathy의 논문 인용 횟수는 66,426회에 달합니다. 그 중 두 번째로 많이 인용되고 첫 번째 저자인 그의 논문 "Large-scale Video Classification with Convolutional Neural Networks"가 CVPR 2014 Oral에 포함되었습니다.

Karpathy는 OpenAI의 창립 멤버이자 연구 과학자입니다. OpenAI가 설립된 지 1년이 조금 넘은 2017년에 Karpathy는 Musk의 Tesla 합류 초대를 수락하여 당시 Tesla의 Autopilot 책임자이자 Apple Swift 언어 및 LLVM 컴파일러의 아버지였던 Chris Lattner를 대신했습니다.

5년 동안 Karpathy는 단독으로 Autopilot 개발을 촉진했습니다. Tesla가 초기 자율주행에서 더 넓은 인공지능 분야로 서서히 확장되면서 Karpathy도 Tesla의 AI 수석 이사로 승진하여 Musk에게 직접 보고했습니다.

교육에 대한 열정

사실, 이전 경력 변경 과정에서 Karpathy는 이미 "교육 산업에 참여"하는 데 관심을 표명했습니다.

Karpathy는 2022년 7월 Tesla를 떠났습니다. 이어진 인터뷰에서 그는 어려운 결정이었다고 말했다. 테슬라는 아직 자율주행을 완전히 구현하지는 못했지만 R&D팀이 자체적으로 개발할 수 있었다. 이번 사임은 그에게 인공 지능, 오픈 소스, 교육에 대한 자신의 사랑을 재검토할 기회도 주었습니다.

Karpathy는 직장을 그만둔 지 8개월 후인 2023년 2월에 다시 OpenAI에 합류하겠다고 발표했습니다. 이 기간 동안 Karpathy는 OpenAI에 대한 연구 작업을 완료하는 것 외에도 교육 비디오 녹화, Llama 2 - llama2.c에 대한 오픈 소스 프로젝트 개발 등 일부 개인 프로젝트에도 참여했습니다.

Karpathy는 올해 2월 OpenAI 내부 갈등 이후 다시 OpenAI를 사임하고 일부 오픈소스 강좌를 진행하고 있습니다.

이제 저는 제가 좋아하는 교육 경력에 공식적으로 헌신했습니다. Karpathy가 AI 분야에 더욱 우수한 강좌 리소스를 가져올 것으로 기대해 볼 수 있습니다.

Karpathy의 코스 프로젝트에 대한 자세한 내용은 Extended Reading을 참조하세요.