berita

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Laporan Jantung Mesin

Departemen Editorial Jantung Mesin

Karpathy: Tesla dan OpenAI dulunya adalah “pekerjaan sampingan”, tapi sekarang yang saya lakukan adalah “pekerjaan penuh waktu”.

Baru saja, Andrej Karpathy mengumumkan perhentian berikutnya di platform X: mendirikan perusahaan kecerdasan buatan + pendidikan bernama Eureka Labs.

Saya senang berbagi dengan Anda bahwa saya memulai perusahaan kecerdasan buatan + pendidikan bernama Eureka Labs. Pengumumannya adalah sebagai berikut:

Kami adalah Eureka Labs, dan kami sedang membangun sekolah baru yang berbasis AI. Bagaimana kita bisa mencapai pengalaman ideal dalam mempelajari pengetahuan baru? Misalnya, dalam fisika, kita dapat membayangkan mempelajari materi pelajaran berkualitas tinggi dengan Feynman, yang memandu Anda di setiap langkah. Sayangnya, para pakar mata pelajaran yang bersemangat, pedagogis, dan sangat sabar serta fasih dalam setiap bahasa di dunia juga terlalu langka untuk secara pribadi mengajari 8 miliar orang kita sesuai permintaan. Namun, dengan kemajuan terkini dalam kecerdasan buatan generatif, pengalaman belajar seperti ini terasa bisa dicapai.

Guru masih bertanggung jawab untuk merancang materi pelajaran, namun materi ini didukung, dimanfaatkan, dan diperluas oleh asisten AI yang dioptimalkan untuk membantu membimbing siswa melalui materi. Model simbiosis "guru + kecerdasan buatan" ini dapat menjalankan seluruh kursus pada platform yang sama. Jika kita berhasil, siapa pun dapat mempelajari apa pun dengan mudah, sehingga memperluas jangkauan (banyak orang mempelajari sesuatu) dan jangkauan (setiap orang dapat mempelajari sejumlah besar mata pelajaran) pendidikan melampaui apa yang saat ini mungkin dilakukan tanpa bantuan ). Produk pertama kami adalah LLM101n, kursus kecerdasan buatan terbaik di dunia.

Ini adalah kursus sarjana yang memandu siswa dalam melatih kecerdasan buatan mereka sendiri, seperti versi kursus asisten pengajar AI yang diperkecil. Materi kursus akan tersedia online, tetapi kami juga berencana menawarkan kelas digital dan fisik. Saat ini, kami bekerja keras untuk membangun LLM101n, namun kami menantikan masa depan di mana kecerdasan buatan menjadi teknologi utama untuk meningkatkan potensi manusia.

Eureka Labs adalah puncak dari lebih dari dua dekade kecintaan saya terhadap kecerdasan buatan dan pendidikan. Dari tutorial Kubus Rubik di YouTube hingga CS231n di Universitas Stanford, hingga seri "Zero-to-Hero AI" baru-baru ini, minat saya terhadap pendidikan selalu ada pada diri saya. Pekerjaan saya di bidang kecerdasan buatan berkisar dari penelitian akademis di Universitas Stanford hingga produk aktual di Tesla hingga penelitian AGI OpenAI. Sampai saat ini, semua pekerjaan saya di kedua bidang tersebut adalah pekerjaan paruh waktu, pekerjaan sampingan di samping pekerjaan “sehari-hari” saya. Jadi saya bersemangat untuk terjun dan menciptakan sesuatu yang hebat secara profesional dan penuh waktu. Meskipun ini masih tahap awal, saya ingin mengumumkan perusahaan tersebut sehingga saya dapat membuatnya secara publik daripada merahasiakannya.

Andrej Karpathy memiliki banyak identitas: murid Li Feifei, anggota pendiri OpenAI dan ilmuwan riset, mantan direktur senior AI Tesla, dan blogger "Zona Pembelajaran" YouTube yang terkenal.

Pada bulan Februari tahun ini, Karpathy mengumumkan kepergiannya dari OpenAI dan berkata, "Tidak ada konflik dramatis, saya hanya ingin mencoba proyek pribadi saya." Sejak saat itu, langkah selanjutnya menjadi pusat perhatian publik.

Hal ini mengingatkan kita pada pakar AI terkenal lainnya, Andrew Ng. Sebagai pendiri proyek Google Brain dan mantan kepala ilmuwan Baidu, Andrew Ng mendirikan platform pendidikan online Coursera bersama rekan profesor Stanford, Daphne Koller. Mungkin, orang-orang besar yang terlibat dalam penelitian teoretis semuanya memiliki impian pendidikan di dalam hati mereka.

Perusahaan baru berfokus pada pendidikan AI+

Produk pertama Eureka Labs adalah kursus tingkat sarjana LLM101n, yang dirancang untuk membantu siswa melatih model AI mereka sendiri.

Pada bulan Juni, Andrej Karpathy hanya mengunggah katalog kursus LLM101n di GitHub, dan dengan cepat menjadi populer.

Secara khusus, LLM101n dimulai dengan pengajaran dari dasar-dasar pemodelan bahasa dan pembelajaran mesin, lalu beralih ke multimodalitas, RLHF, dan penerapan model. Hal ini bertujuan untuk membangun model besar Storyteller AI (LLM) dan menggunakan AI untuk membuat, meningkatkan, dan mengilustrasikan cerita pendek, mencakup segala hal mulai dari dasar hingga aplikasi web yang berfungsi seperti ChatGPT, dan membangun proyek dari awal menggunakan Python, C, dan CUDA dengan prasyarat ilmu komputer minimal. Kursus ini akan memberikan siswa pemahaman yang relatif mendalam tentang AI, LLM dan pembelajaran mendalam.

Saat ini, tiga minggu setelah diunggah, proyek LLM101n telah menerima 17 ribu bintang.

Di bawah postingan resmi Karpathy yang mengumumkan perusahaan baru tersebut, kepala ilmuwan Google Jeff Dean mengirimkan restunya yang tulus.

Di kolom komentar, Karpathy juga menjelaskan asal usul nama Eureka Labs: Eureka (dari bahasa Yunani kuno) adalah perasaan yang baik setelah memahami sesuatu, seolah-olah ada sesuatu yang diklik di otak. Tujuan mereka adalah untuk menginspirasi momen-momen itu di hati orang-orang. Alasan menambahkan Labs ke namanya adalah: Eureka sebagai satu kata telah digunakan oleh orang lain (kerangka penemuan layanan yang dikembangkan oleh Netflix), dan dia selalu menginginkan laboratorium...

Saat ini, perusahaan telah membuka repositori resmi Twitter dan GitHub.

Alamat GitHub: https://github.com/EurekaLabsAI

Tokoh aktif di bidang AI

Beranda pribadi: https://karpathy.ai/

Dari tahun 2005 hingga 2009, Andrej Karpathy belajar di Universitas Toronto di Kanada, mengambil jurusan ilmu komputer dan fisika dan mengambil jurusan matematika. Di sini, dia mendapatkan pembelajaran mendalam untuk pertama kalinya dan mendengarkan kursus Hinton.

Dari 2009 hingga 2011, Karpathy belajar untuk gelar masternya di Universitas British Columbia di Kanada. Pembimbingnya adalah Profesor Michiel van de Panne dari Departemen Ilmu Komputer. Dia terutama mempelajari pembelajaran mesin untuk robot tangkas dalam simulasi fisik.

Dari 2011 hingga 2016, Dr. Karpathy belajar di Universitas Stanford dan belajar di bawah bimbingan sarjana AI terkenal Li Feifei, dengan fokus pada penelitian jaringan saraf konvolusional/berulang dan penerapannya dalam visi komputer, pemrosesan bahasa alami, dan lintas bidang. Selama periode ini, ia merancang dan menjabat sebagai instruktur utama kursus pembelajaran mendalam pertama di Stanford "CS231n: Jaringan Neural Konvolusional dan Pengenalan Visual".

Sementara itu, Karpathy juga memiliki tiga kali magang. Pada tahun 2011, ia magang di Google Brain pada tahap awal, mengerjakan pembelajaran tanpa pengawasan dalam skala besar dalam video. Kemudian pada tahun 2013, dia kembali magang di Google Research, mengerjakan pembelajaran video YouTube yang diawasi dalam skala besar. Pada tahun 2015, dia magang di DeepMind dan berpartisipasi dalam tim pembelajaran penguatan mendalam.

Saat ini, sitasi makalah Karpathy di Google Scholar sudah mencapai 66.426. Diantaranya, makalahnya "Klasifikasi Video Skala Besar dengan Jaringan Neural Konvolusional", yang kedua paling banyak dikutip dan penulis pertamanya, dimasukkan dalam CVPR 2014 Lisan.

Karpathy adalah anggota pendiri dan ilmuwan peneliti di OpenAI. Lebih dari setahun setelah berdirinya OpenAI, pada tahun 2017, Karpathy menerima undangan Musk untuk bergabung dengan Tesla, menggantikan Chris Lattner, yang saat itu menjabat sebagai kepala Autopilot Tesla dan bapak bahasa Swift Apple dan kompiler LLVM.

Selama lima tahun, Karpathy seorang diri memfasilitasi pengembangan Autopilot. Ketika Tesla perlahan-lahan berkembang dari bidang self-driving ke bidang kecerdasan buatan yang lebih luas, Karpathy juga dipromosikan menjadi direktur senior AI Tesla, yang melapor langsung ke Musk.

Semangat untuk pendidikan

Faktanya, pada pergantian karir sebelumnya, Karpathy sudah menyatakan minatnya untuk "bergabung dengan industri pendidikan".

Karpathy meninggalkan Tesla pada Juli 2022. Dalam wawancara lanjutan, dia mengatakan itu adalah keputusan yang sulit. Meski Tesla belum sepenuhnya menerapkan self-driving, tim R&D sudah mampu mengembangkannya sendiri. Pengunduran diri ini juga memberinya kesempatan untuk menguji kembali kecintaannya pada kecerdasan buatan, open source, dan pendidikan.

Delapan bulan setelah meninggalkan pekerjaannya, pada Februari 2023, Karpathy mengumumkan bahwa dia akan bergabung lagi dengan OpenAI. Selama periode ini, selain menyelesaikan penelitian tentang OpenAI, Karpathy juga mengerjakan beberapa proyek pribadi, termasuk merekam video pendidikan, mengembangkan proyek open source tentang Llama 2 - llama2.c, dll.

Setelah perjuangan internal di OpenAI pada bulan Februari tahun ini, Karpathy kembali mengundurkan diri dari OpenAI dan telah mengerjakan beberapa kursus open source.

Kini, saya telah resmi mengabdikan diri pada karir pendidikan yang saya cintai. Kita dapat berharap bahwa Karpathy akan menghadirkan lebih banyak sumber daya kursus yang unggul di bidang AI.

Untuk informasi lebih lanjut tentang proyek kursus Karpathy, lihat Extended Reading.