ニュース

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

マシンハートレポート

マシーンハート編集部

Karpathy: Tesla と OpenAI は以前は「副業」でしたが、今では私の仕事は「フルタイムの仕事」です。

ちょうど今、Andrej Karpathy 氏が X プラットフォームでの次の目的地、Eureka Labs と呼ばれる人工知能 + 教育会社の設立を発表しました。

私が Eureka Labs という人工知能と教育の会社を立ち上げたことを皆さんと共有できることを嬉しく思います。発表は次のとおりです。

私たちは Eureka Labs で、新しい AI ネイティブの学校を建設しています。新しい知識を学ぶという理想的な体験を実現するにはどうすればよいでしょうか?たとえば、物理学では、あらゆる段階で指導してくれるファインマンと一緒に質の高い教材を勉強することを想像できます。残念なことに、世界中のあらゆる言語を流暢に操る、情熱的で教育的で忍耐強いこの専門分野の専門家は、80億人の人々に必要に応じて個人的に指導するにはあまりにも不足しています。しかし、最近の生成人工知能の進歩により、この種の学習体験は実現可能であるように感じられます。

教師は引き続きコース教材のデザインを担当しますが、これらの教材は、教材を通じて生徒をガイドするのに役立つように最適化された AI アシスタントによってサポート、活用、拡張されます。この「教師 + 人工知能」の共生モデルは、コース全体を共通のプラットフォーム上で実行できます。それが成功すれば、誰でも簡単に何でも学ぶことができ、それによって教育の範囲（多くの人が何かを学ぶ）と範囲（一人が多くの科目を学ぶことができる）が、現在支援なしで可能な範囲を超えて拡大されます。 ）。私たちの最初の製品は、世界最高の人工知能コースである LLM101n になります。

これは、AI ティーチング アシスタント コースの縮小版によく似た、学生が独自の人工知能をトレーニングできるよう指導する学部コースです。コース教材はオンラインで入手できますが、デジタルクラスと物理クラスの両方も提供する予定です。現在、私たちは LLM101n の構築に懸命に取り組んでいますが、人工知能が人間の可能性を高める重要なテクノロジーとなる未来を楽しみにしています。

Eureka Labs は、人工知能と教育に対する私の 20 年以上にわたる情熱の集大成です。 YouTube のルービック キューブのチュートリアルから、スタンフォード大学の CS231n、そして最近の「Zero-to-Hero AI」シリーズに至るまで、私の教育への関心は常にありました。人工知能の分野における私の仕事は、スタンフォード大学での学術研究からテスラでの実際の製品、OpenAI の AGI 研究まで多岐にわたります。これまでのところ、両方の分野での私の仕事はすべて、「本業」の傍らにあるパートタイムの副業でした。そのため、私はプロとしてフルタイムで素晴らしいものを生み出すことに興奮しています。まだ初期段階ではありますが、会社を秘密にしておくのではなく、公に設立できるように発表したいと考えました。

アンドレイ・カルパシーには、リー・フェイフェイの弟子、OpenAI 創設メンバーおよび研究科学者、テスラの元 AI シニア・ディレクター、そして YouTube の「ラーニング ゾーン」で有名なブロガーなど、多くのアイデンティティがあります。

今年2月、カルパシー氏はOpenAIからの脱退を発表し、「劇的な衝突はなかった。ただ自分の個人的なプロジェクトを試してみたかっただけだ」と語った。それ以来、彼の次なる行動が世間の注目を集めるようになった。

これは、もう一人の著名な AI 学者、アンドリュー・ンを思い出させます。アンドリュー・ンは、Google Brain プロジェクトの創設者であり、Baidu の元主席科学者であり、スタンフォード大学の同僚の教授である Daphne Koller とオンライン教育プラットフォーム Coursera を共同設立しました。おそらく、理論研究に携わる偉い人たちは皆、心の中に教育的な夢を抱いているのでしょう。

AI+教育に注力する新会社

Eureka Labs の最初の製品は、学生が独自の AI モデルをトレーニングできるように設計された学部レベルのコース LLM101n です。

6 月に Andrej Karpathy が LLM101n コース カタログを GitHub にアップロードしただけで、すぐに人気になりました。

具体的には、LLM101n は、言語モデリングと機械学習の基礎から指導し、その後、マルチモーダリティ、RLHF、モデルのデプロイメントに進み、Storyteller AI ラージ モデル (LLM) を構築し、AI を使用して作成、改善、構築することを目的としています。基本から ChatGPT などの実用的な Web アプリケーションまですべてをカバーし、最小限のコンピューター サイエンスの前提条件で Python、C、CUDA を使用してプロジェクトをゼロから構築します。このコースでは、学生は AI、LLM、ディープラーニングについて比較的深く理解できます。

現在、アップロードから 3 週間後、LLM101n プロジェクトは 17,000 個のスターを獲得しました。

新会社を発表する Karpathy 氏の公式投稿の下で、Google のチーフサイエンティスト、Jeff Dean 氏が心からの祝福を送った。

コメント欄で、Karpathy 氏は Eureka Labs の名前の由来についても説明しました。Eureka (古代ギリシャ語に由来) とは、何かを理解した後の、脳の中で何かがカチッと鳴ったような良い気分です。彼らの目標は、人々の心にその瞬間を刺激することです。名前に Labs を付けた理由は、Eureka という 1 つの単語が他の人 (Netflix が開発したサービス発見フレームワーク) で使用されていたためであり、彼は常に研究所を望んでいました。

現在、同社は公式TwitterとGitHubリポジトリを開設している。

GitHub アドレス: https://github.com/EurekaLabsAI

AI分野で活躍する人物

個人ホームページ：https://karpathy.ai/

2005 年から 2009 年まで、Andrej Karpathy はカナダのトロント大学でコンピューター サイエンスと物理学を専攻し、数学を副専攻しました。ここで初めてディープラーニングに触れ、ヒントンの講座を受講しました。

2009 年から 2011 年まで、カルパシーはカナダのブリティッシュ コロンビア大学で修士号取得に向けて勉強していました。彼の指導教官はコンピュータ サイエンス学部のミシェル ヴァン デ パン教授でした。彼は主に物理シミュレーションにおけるアジャイル ロボットの機械学習を研究していました。

2011 年から 2016 年まで、カルパシー博士はスタンフォード大学で学び、有名な AI 学者リー・フェイフェイのもとで、畳み込み/リカレント ニューラル ネットワークと、コンピューター ビジョン、自然言語処理、およびクロスフィールドにおけるその応用の研究に焦点を当てていました。この期間中、スタンフォード初の深層学習コース「CS231n: 畳み込みニューラル ネットワークと視覚認識」を設計し、メイン講師を務めました。

一方、カルパシーさんも 3 つのインターンシップを行っています。 2011 年、Google Brain の初期段階でインターンとして、ビデオによる大規模な教師なし学習に取り組みました。 2013 年後半、彼は再び Google Research でインターンとして、YouTube 動画の大規模な教師あり学習に従事しました。 2015 年に DeepMind でインターンし、深層強化学習チームに参加しました。

現在、Google Scholar での Karpathy の論文引用数は 66,426 件に達しています。その中で、2 番目に多く引用され、最初の著者となった彼の論文「畳み込みニューラル ネットワークによる大規模ビデオ分類」は、CVPR 2014 Oral に掲載されました。

Karpathy は、OpenAI の創設メンバーであり研究科学者です。 OpenAIの設立からわずか1年余り後の2017年、カルパシー氏はマスク氏の招待を受け入れ、当時テスラ社オートパイロットの責任者であり、アップル社のSwift言語とLLVMコンパイラの父であるクリス・ラトナー氏の後任としてテスラ社に入社した。

5 年間、Karpathy は独力で Autopilot の開発を推進しました。テスラが初期の自動運転から人工知能のより広範な分野に徐々に拡大するにつれて、カルパシーもテスラの AI 担当シニア ディレクターに昇進し、マスクに直属しました。

教育に対する情熱

実際、カルパシーさんは以前の転職の際にすでに「教育業界への参加」に興味を示していました。

カルパシー氏は2022年7月にテスラを退職した。その後のインタビューで、彼は難しい決断だったと語った。テスラはまだ自動運転を完全に実装していませんが、研究開発チームは独自に開発することができました。この辞任は、彼に人工知能、オープンソース、教育に対する愛情を再検討する機会も与えました。

退職から 8 か月後の 2023 年 2 月、Karpathy 氏は OpenAI に再び参加すると発表しました。この期間中、Karpathy は OpenAI に関する研究作業を完了することに加えて、教育ビデオの録画、Llama 2 に関するオープンソース プロジェクト (llama2.c) の開発など、いくつかの個人プロジェクトにも取り組みました。

今年 2 月に OpenAI で内部闘争が起きた後、Karpathy 氏は再び OpenAI を辞任し、いくつかのオープンソース コースに取り組んでいます。

今、私は大好きな教育の仕事に正式に専念することにしました。 Karpathy が AI 分野にさらに優れたコースリソースをもたらすことが期待できます。

Karpathy のコース プロジェクトの詳細については、「多読」を参照してください。