notícias

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Relatório do coração da máquina

Departamento Editorial de Coração de Máquina

Karpathy: Tesla e OpenAI costumavam ser “trabalhos paralelos”, mas agora o que faço é meu “trabalho em tempo integral”.

Agora mesmo, Andrej Karpathy anunciou sua próxima parada na plataforma X: fundar uma empresa de inteligência artificial + educação chamada Eureka Labs.

Tenho o prazer de compartilhar com vocês que estou iniciando uma empresa de inteligência artificial + educação chamada Eureka Labs. O anúncio é o seguinte:

Somos o Eureka Labs e estamos construindo uma nova escola nativa de IA. Como podemos alcançar a experiência ideal de aprender novos conhecimentos? Por exemplo, em física, podemos imaginar estudar materiais de curso de alta qualidade com Feynman, que o orienta em cada passo do caminho. Infelizmente, há também uma escassez de especialistas apaixonados, pedagógicos e infinitamente pacientes, que sejam fluentes em todas as línguas do mundo e não possam dar aulas pessoalmente aos nossos 8 mil milhões de pessoas, mediante pedido. No entanto, com os recentes avanços na inteligência artificial generativa, este tipo de experiência de aprendizagem parece alcançável.

Os professores ainda são responsáveis ​​pela concepção dos materiais do curso, mas esses materiais são apoiados, aproveitados e expandidos por assistentes de IA que são otimizados para ajudar a orientar os alunos através dos materiais. Este modelo simbiótico de “professor + inteligência artificial” pode rodar todo o curso em uma plataforma comum. Se tivermos sucesso, qualquer pessoa poderá aprender qualquer coisa facilmente, expandindo assim o alcance (um grande número de pessoas aprende alguma coisa) e a extensão (qualquer pessoa pode aprender um grande número de matérias) da educação para além do que é actualmente possível sem assistência. ). Nosso primeiro produto será o LLM101n, o melhor curso de inteligência artificial do mundo.

Este é um curso de graduação que orienta os alunos no treinamento de sua própria inteligência artificial, muito parecido com uma versão reduzida de um curso de assistente de ensino de IA. Os materiais do curso estarão disponíveis online, mas também planejamos oferecer aulas digitais e físicas. Hoje, estamos trabalhando arduamente para construir o LLM101n, mas esperamos um futuro onde a inteligência artificial se torne uma tecnologia fundamental para aprimorar o potencial humano.

O Eureka Labs é o culminar de mais de duas décadas da minha paixão pela inteligência artificial e pela educação. Dos tutoriais do Cubo de Rubik no YouTube ao CS231n na Universidade de Stanford, até a recente série "Zero-to-Hero AI", meu interesse pela educação sempre esteve comigo. Meu trabalho no campo da inteligência artificial abrange desde pesquisas acadêmicas na Universidade de Stanford até produtos reais na Tesla e pesquisas AGI da OpenAI. Até o momento, todos os meus empregos em ambas as áreas foram de meio período, atividades paralelas ao meu trabalho “diurno”. Portanto, estou animado para mergulhar e criar algo excelente de forma profissional e em tempo integral. Embora ainda seja cedo, quero anunciar a empresa para que possa criá-la publicamente, em vez de mantê-la em segredo obscuro.

Andrej Karpathy tem muitas identidades: discípulo de Li Feifei, membro fundador da OpenAI e cientista pesquisador, ex-diretor sênior de IA da Tesla e um conhecido blogueiro da "Zona de Aprendizagem" do YouTube.

Em fevereiro deste ano, Karpathy anunciou sua saída da OpenAI e disse: “Não houve conflito dramático, eu só queria tentar meu próprio projeto pessoal”. Desde então, seu próximo passo se tornou o foco da atenção do público.

Isso nos lembra outro conhecido estudioso de IA, Andrew Ng. Como fundador do projeto Google Brain e ex-cientista-chefe do Baidu, Andrew Ng cofundou a plataforma de educação online Coursera com a colega professora de Stanford, Daphne Koller. Talvez todos os grandes envolvidos na pesquisa teórica tenham um sonho educacional em seus corações.

Nova empresa foca em IA+educação

O primeiro produto do Eureka Labs é o curso de graduação LLM101n, projetado para ajudar os alunos a treinar seus próprios modelos de IA.

Em junho, Andrej Karpathy apenas carregou o catálogo de cursos LLM101n no GitHub, e rapidamente se tornou um sucesso.

Especificamente, o LLM101n começa com o ensino dos fundamentos da modelagem de linguagem e aprendizado de máquina e, em seguida, passa para a multimodalidade, RLHF e implantação de modelo. Seu objetivo é construir um modelo grande de IA do Storyteller (LLM) e usar IA para criar, melhorar e. ilustram contos, cobrindo tudo, desde o básico até um aplicativo da web funcional como ChatGPT, e criando projetos do zero usando Python, C e CUDA com pré-requisitos mínimos de ciência da computação. Este curso dará aos alunos uma compreensão relativamente profunda de IA, LLM e aprendizado profundo.

Atualmente, três semanas após o upload, o projeto LLM101n recebeu 17 mil estrelas.

No post oficial de Karpathy anunciando a nova empresa, o cientista-chefe do Google, Jeff Dean, enviou suas sinceras bênçãos.

Na área de comentários, Karpathy também explicou a origem do nome Eureka Labs: Eureka (do grego antigo) é uma sensação boa depois de entender algo, como se algo clicasse no cérebro. O objetivo deles é inspirar esses momentos no coração das pessoas. A razão para adicionar Labs ao nome é: Eureka como uma única palavra tem sido usada por outros (uma estrutura de descoberta de serviços desenvolvida pela Netflix), e ele sempre quis um laboratório...

Atualmente, a empresa abriu um repositório oficial no Twitter e GitHub.

Endereço GitHub: https://github.com/EurekaLabsAI

Figuras ativas no campo da IA

Página inicial pessoal: https://karpathy.ai/

De 2005 a 2009, Andrej Karpathy estudou na Universidade de Toronto, no Canadá, com especialização em ciência da computação e física e especialização em matemática. Aqui, ele foi exposto ao aprendizado profundo pela primeira vez e ouviu os cursos de Hinton.

De 2009 a 2011, Karpathy fez mestrado na Universidade de British Columbia, no Canadá. Seu orientador foi o professor Michiel van de Panne, do Departamento de Ciência da Computação. Ele estudou principalmente aprendizado de máquina para robôs ágeis em simulações físicas.

De 2011 a 2016, o Dr. Karpathy estudou na Universidade de Stanford, sob a orientação do famoso estudioso de IA Li Feifei, com foco na pesquisa de redes neurais convolucionais/recorrentes e suas aplicações em visão computacional, processamento de linguagem natural e campos cruzados. Durante este período, ele projetou e atuou como instrutor principal do primeiro curso de aprendizagem profunda de Stanford "CS231n: Redes Neurais Convolucionais e Reconhecimento Visual".

Enquanto isso, Karpathy também conta com três estágios. Em 2011, ele estagiou no Google Brain em seus estágios iniciais, trabalhando em aprendizagem não supervisionada em larga escala em vídeo. Mais tarde, em 2013, ele estagiou novamente no Google Research, engajado no aprendizado supervisionado em larga escala de vídeos do YouTube. Em 2015, estagiou na DeepMind e participou da equipe de aprendizagem por reforço profundo.

Atualmente, as citações de artigos de Karpathy no Google Scholar atingiram 66.426. Entre eles, seu artigo “Classificação de Vídeo em Grande Escala com Redes Neurais Convolucionais”, o segundo mais citado e seu primeiro autor, foi incluído no CVPR 2014 Oral.

Karpathy é membro fundador e cientista pesquisador da OpenAI. Pouco mais de um ano após a fundação da OpenAI, em 2017, Karpathy aceitou o convite de Musk para ingressar na Tesla, substituindo Chris Lattner, o então chefe do piloto automático da Tesla e pai da linguagem Swift e do compilador LLVM da Apple.

Durante cinco anos, Karpathy facilitou sozinho o desenvolvimento do Autopilot. À medida que Tesla se expandia lentamente da direção autônoma inicial para o campo mais amplo da inteligência artificial, Karpathy também foi promovido a diretor sênior de IA da Tesla, reportando-se diretamente a Musk.

Paixão pela educação

Na verdade, durante mudanças anteriores de carreira, Karpathy já havia manifestado interesse em “ingressar na indústria da educação”.

Karpathy deixou a Tesla em julho de 2022. Em uma entrevista de acompanhamento, ele disse que foi uma decisão difícil. Embora a Tesla ainda não tenha implementado totalmente a condução autônoma, a equipe de P&D conseguiu desenvolver por conta própria. Esta demissão também lhe deu a oportunidade de reexaminar o seu amor pela inteligência artificial, código aberto e educação.

Oito meses depois de deixar o emprego, em fevereiro de 2023, Karpathy anunciou que ingressaria novamente na OpenAI. Nesse período, além de concluir trabalhos de pesquisa em OpenAI, Karpathy também trabalhou em alguns projetos pessoais, incluindo gravação de vídeos educativos, desenvolvimento de um projeto open source sobre Llama 2 - llama2.c, etc.

Após a luta interna na OpenAI em fevereiro deste ano, Karpathy renunciou novamente à OpenAI e tem trabalhado em alguns cursos de código aberto.

Agora, me dediquei oficialmente à carreira educacional que adoro. Podemos esperar que Karpathy traga mais recursos de cursos excelentes para o campo da IA.

Para mais informações sobre os projetos do curso de Karpathy, consulte Leitura Estendida.