berita

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

• Mengchen Crexi berasal dari Kuil Aofei
  Qubit |. Akun publik QbitAI

Baru saja terjadi gempa besar di puncak OpenAI:

Lianchuang John SchulmanMengundurkan diri dan melarikan diri,Lianchuang & Presiden Greg Brockmanliburan panjang,Peter Deng, Wakil Presiden ProdukIa pun terungkap telah mengundurkan diri.

John Schulman, yang telah memimpin tim pembelajaran penguatan OpenAI selama bertahun-tahun, dikenal sebagai "Arsitek ObrolanGPT"。

Dialah pula yang mengambil alih sementara tim Super Alignment setelah kepergian Ilya Sustkever.

Sekarang dia mengumumkan bahwa dia "membuat keputusan sulit" untuk bergabung dengan Anthropic, tim Claude di sebelahnya.

Di saat yang sama, Presiden OpenAI Greg Brockman juga mengumumkan akan mengambil libur panjang hingga akhir tahun.

OpenAI berencana mengadakan hari pengembang dan acara lainnya di seluruh dunia mulai tanggal 1 Oktober, dan dia juga akan absen.

Brockman mengatakan bahwa ini adalah pertama kalinya dia bersantai setelah sembilan tahun berturut-turut bekerja, namun dia tidak jelas tentang rencananya setelah akhir tahun. Beberapa netizen mengira itu karena perjanjian kerahasiaan.

Dua puluh menit setelah pengunduran diri Schumann diumumkan secara resmi, Altman berterima kasih kepada Schumann atas kontribusinya dalam jawabannya dan mengingat kembali adegan ketika keduanya pertama kali bertemu pada tahun 2015.

Namun sejauh ini Ultraman belum memberikan tanggapan apa pun atas kepergian Brockman.

Altman biasanya memiliki kebiasaan mengetik huruf pertama kalimat dan "i" tanpa huruf kapital, namun setiap kali ada rekan penting yang memilih keluar, dia akan bersikap lebih formal.

Akun orang dalam OpenAI yang terkenal, Apple Brother berkata: Sekarang kepemimpinan telah menjadi cangkang kosong, Anda harus segera merilis produk.

Arsitek ChatGPT mengundurkan diri

Schumann belajar sebagai sarjana di Caltechfisika, belajar sebentar di UC BerkeleyIlmu saraf, kemudian dipelajari di bawahpembelajaran penguatanDaniel Abbeel menyelesaikan gelar PhD di bidang ilmu komputer.

Saat menjadi salah satu pendiri OpenAI, dia belum lulus dengan gelar Ph.D.

OpenAI adalah perusahaan pertama dan satu-satunya tempat dia bekerja di luar masa magangnya.

Karya agungnya dan makalahnya yang paling banyak dikutipPPO, yang merupakan algoritme pembelajaran penguatan yang dipilih dalam RLHF teknologi inti ChatGPT.

Selanjutnya beliau memimpin tim penyelarasan/pasca pelatihan dalam rangkaian pekerjaan mulai dari GPT-3.5, GPT-4 hingga GPT-4o.

Alasan pengunduran dirinya kali ini juga terkait dengan hal ini:

Berharap untuk memperdalam fokus saya pada penyelarasan AI dan memulai babak baru dalam karir saya di mana saya dapat kembali ke pekerjaan teknis yang sebenarnya.

Namun, dia juga memberikan wajah yang cukup pada OpenAI, menambahkan bahwa“Tidak keluar karena kurangnya dukungan OpenAI untuk upaya penyelarasan yang aman”, hanya karena keinginan pribadi untuk fokus.

Dalam pidatonya di ICML2023, Schumann menjelaskan salah satu arahan penelitian selanjutnya:Bagaimana menghindari optimasi yang berlebihan。

• Beberapa perilaku mengganggu di ChatGPT (seperti permintaan maaf yang berlebihan) adalah akibat dari optimasi yang berlebihan.
• RLHF dapat dengan mudah melakukan pengoptimalan berlebihan pada metrik yang sempit, misalnya model dapat mempelajari pintasan yang menghasilkan imbalan tanpa benar-benar memahaminya.
• Pelatihan yang tepat untuk tugas-tugas percakapan memerlukan penalaran, pengambilan perspektif, dan pengetahuan, dan peneliti harus merancang prosedur pelatihan, fungsi penghargaan, dan kumpulan data dengan hati-hati.
• Sinyal imbalan harus mengevaluasi kualitas keseluruhan percakapan, bukan hanya masukan individu.

Dalam wawancara dengan pembawa acara podcast Dwarkesh Patel pada bulan Mei tahun ini, Schumann juga berkata,Kekuatan komputasi harus lebih banyak dialihkan dari pra-pelatihan ke pasca-pelatihan。

OpenAI terus kehilangan bakat

Karena perbedaan konsep keselamatan AI dengan Ultraman, OpenAI mengalami kehilangan banyak talenta.

Pada bulan Mei tahun ini, dua pemimpin Tim Penyelarasan Super—Kepala IlmuwanIlya Sutskeverdan salah satu penemu RLHFJan Leike, meninggalkan OpenAI satu demi satu di hari yang sama.

Saat itu, kurang dari setahun telah berlalu sejak terbentuknya Tim Super Alignment.

Setelah Jan Leike pergi, dia mengirim lebih dari selusin tweet berturut-turut, dengan panik menyerang OpenAI, menuduh OpenAI gagal memenuhi janjinya atas 20% daya komputasi dan kurang memperhatikan keamanan dibandingkan produknya.

Belakangan, Jan Leike memilih untuk bergabung dengan pesaing OpenAI, Anthropic, untuk melanjutkan penelitian tentang penyelarasan super.

Memimpin upaya penyelarasan proyek GPT-4 bersama Jan LeikeRyan Lowe, juga keluar dari OpenAI pada akhir Maret.

Dan salah satu anggota super selarasWilliam Saunders, dan mereka yang telah berpartisipasi dalam pengujian permusuhan GPT-4Daniel Kokotajlo, juga mengundurkan diri dari OpenAI.

Belum lagi di sebelahKakak dan adik Dario Amodei dan Daniela Amodei, pendiri Anthropic, juga dari OpenAI.

Sebelum saudara laki-lakinya Dario pergi, dia adalah wakil presiden penelitian di OpenAI, dan saudara perempuannya Daniela adalah wakil direktur departemen keamanan dan strategi.Tom Brown, kepala teknisi GPT-3Saya membawanya ke Anthropic dengan lebih dari selusin karyawan.

Salah satu alasan mereka memilih keluar untuk memulai bisnis adalah karena OpenAI langsung merilis GPT-3 tanpa menyelesaikan masalah keamanan, yang menimbulkan ketidakpuasan mereka.

Penekanan pada keamanan, ditambah dengan latar belakang pendirinya, juga menjadikan Anthropic sebagai salah satu tempat utama bagi karyawan OpenAI, termasuk Jan Leike dan Schumann yang keluar kali ini.

OpenAI juga telah mengambil beberapa langkah dalam pekerjaan keamanan baru-baru ini——

Pada akhir Juli, OpenAI mengangkat direktur senior departemen keamananAlexander MadryDia dipindahkan dari posisi keamanan dan ditugaskan kembali ke pekerjaan "penalaran AI".

Namun OpenAI mengatakan kepada media bahwa Madry akan tetap berkomitmen terhadap keamanan kecerdasan buatan setelah mengambil posisi barunya.

CEO Altman juga menekankan bahwa OpenAI selalu mementingkan pekerjaan keamanan dan mematuhi komitmennya untuk "memberikan setidaknya 20% daya komputasi kepada seluruh tim keamanan."

Namun netizen yang jeli segera mengetahui bahwa Ultraman telah bermain-main dengan gelombang konsep licik.Janji awalnya adalah memberikan 20% daya komputasi kepada tim penyelarasan super, tetapi janji itu diam-diam diubah ke semua tim keamanan.。

Oleh karena itu, setelah tweet Ultraman, netizen dengan kejam menambahkan informasi latar belakang tersebut dan melampirkan link resmi ke OpenAI pada saat itu.

emm...Internet masih punya kenangan.

Satu hal lagi

Sementara sejumlah besar talenta internal hilang, "musuh lama" OpenAI, Musk, juga memiliki tindakan baru -

Musk baru saja membawa OpenAI ke pengadilan lagi, para terdakwa juga Ultraman dan CEO Brockman.

Alasan gugatan ini adalah karena Musk yakin bahwa dia telah "ditipu dan diperas" oleh Altman dan Brockman ketika dia berpartisipasi dalam pembuatan OpenAI.

Musk mengatakan awalnya dia berpartisipasi dan berinvestasi di OpenAI karena percaya dengan perkataan Altman saat itu, Altman berjanji bahwa OpenAI akan menjadi organisasi nirlaba yang aman dan terbuka.

Namun kemudian OpenAI menjadi organisasi nirlaba dan menjual sebagian sahamnya ke Microsoft. Hal ini membuat Musk sangat tidak puas, mengira dia telah dikhianati, dan mencela Altman karena "pengkhianatan".

Pengacara Musk, Marc Toberoff, mengatakan gugatan tersebut sangat berbeda dari tuntutan sebelumnya, dengan meminta para terdakwa “bertanggung jawab karena secara sadar membuat pernyataan palsu kepada Musk dan publik” dan mencari “pemulihan besar-besaran atas hak-hak mereka.”

Pada saat yang sama, dakwaan juga mengharuskan pencabutan lisensi yang diberikan OpenAI kepada Microsoft.

Tautan referensi:
[1]https://www.bloomberg.com/news/articles/2024-08-06/openai-co-founder-john-schulman-departs-for-ai-rival-anthropic
[2]https://www.cnbc.com/2024/07/23/openai-menghapus-ai-safety-executive-aleksander-madry-dari-peran.html
[3]https://x.com/sama/status/1818867964369928387
[4]https://www.documentcloud.org/documents/25031741-elon-vs-openai-lagi
[5]https://www.nytimes.com/2024/08/05/technology/elon-musk-openai-lawsuit.html