berita

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

hal-hal cerdas
Penulis Li Shuiqing
Editor Yunpeng

Setiap kali AI mengalami kemajuan yang signifikan, para peneliti sering bercanda: “Kapan kita akan membiarkan AI menulis makalah untuk kita?”

Sekarang,AI menciptakan makalah penelitian ilmiahtelah menjadi kenyataan, dan biaya penulisannya hanya sekitar.$15。

Wisdom News pada tanggal 14 Agustus, pada tanggal 13 Agustus, tim Sakana AI Jepang bekerja sama dengan peneliti dari Universitas Oxford dan Universitas British Columbia untuk meluncurkan aIlmuwan AI, yang merupakan agen penelitian ilmiah otomatis (Agen) berdasarkan model besar.

Berikan bidang penelitian yang luas, maka bisa tercipta makalah di bidang AI seperti halnya manusia.

“Pemrogram AI“Keterampilan pemrograman hanyalah sebagian dari kemampuan ilmuwan AI.Brainstorming, menjalankan kode, ringkasan hasil eksperimen, visualisasi, tinjauan otomatisIni bukan masalah besar.

Misalnya, makalah berikut berjudul "Difusi Skala Ganda: Penyeimbangan fitur adaptif untuk model generatif berdimensi rendah" ditulis oleh ilmuwan AI. Dalam eksperimen yang diselesaikan secara independen oleh ilmuwan AI dan ditinjau oleh rekan-rekannya, makalah yang mereka selesaikan telah mencapai hasil empiris yang sangat baik dan mampu mencapaiPembelajaran mesin memenuhi kriteria "penerimaan lemah".。

Alamat makalah: https://sakana.ai/assets/ai-scientist/adaptive_dual_scale_denoising.pdf

Tim mengutip berbagai model mutakhir dalam proyek ilmuwan AI, sepertiGPT-4o dan Sonetadll. model sumber tertutup, danDeepSeek dan Llama 3dan model sumber terbuka lainnya.

Dilaporkan bahwa para ilmuwan AI pada umumnya memiliki hal-hal penting berikut:

1. Ini adalahSepenuhnya didukung oleh AIsistem penelitian ilmiah otomatis, dengan fokus padaBidang pembelajaran mesinriset.

2. Hal ini terwujudPelajari otomatisasi seluruh rantai, mulai dari inspirasi, penulisan kode dan menjalankan hingga ringkasan dan visualisasi hasil eksperimen, dan terakhir menulis makalah ilmiah yang lengkap.

3. Memperkenalkan secara inovatifMekanisme tinjauan sejawat otomatis, digunakan untuk mengevaluasi makalah keluaran, memberikan umpan balik dan terus mengoptimalkan hasil,Akurasi penilaian mendekati tingkat manusia。

4. Proses penelitian ilmiah otomatisSiklus berkelanjutan, membuka dan terus mengumpulkan pengetahuan, dan mensimulasikan model operasi komunitas ilmiah manusia.

5. Pada uji pendahuluan telah dilibatkan dalam pembelajaran mesinMencapai hasil di berbagai bidang, seperti padaModel difusi, arsitektur Transformer dan GrokkingKontribusi telah dibuat di bidang lain.

Alamat makalah ilmuwan AI: https://arxiv.org/abs/2408.06292/
Kode sumber terbuka ilmuwan AI dan alamat hasil eksperimen: https://github.com/SakanaAI/AI-Scientist

▲ Makalah "Ilmuwan AI: Bergerak Menuju Penemuan Ilmiah Terbuka yang Sepenuhnya Otomatis"

1. Menyelesaikan makalah penelitian ilmiah dalam 4 langkah dan memenuhi standar penerimaan AI Summit

Saya pernah mendengar tentang penyair AI, pelukis AI, pemrogram AI, dan sekarang ilmuwan AI juga bermunculan.

AI Scientist adalah sistem pembuatan kertas otomatis yang memanfaatkan sepenuhnya model-model besar yang mutakhir.

diaMulailah dengan basis kode awal dasar, seperti kode penelitian sumber terbuka yang sudah jadi di GitHub, selamadiberikan aArea penelitian yang luas, ilmuwan AI dapat menyelesaikan tugasnyaKonsepsi kreatif, penelitian literatur, desain eksperimen, iterasi eksperimen, produksi grafik, penulisan makalah hingga tinjauan awalSeluruh proses kerja dilakukan untuk menghasilkan karya tulis akademis yang kaya akan wawasan mendalam.

Yang lebih menakjubkan lagi adalah ilmuwan AI bisa melakukannyaOperasi berkelanjutan dalam siklus terbuka, ia terus mempelajari ide-ide sebelumnya dan umpan balik untuk mengoptimalkan ide-ide penelitian selanjutnyaMensimulasikan model operasi komunitas ilmiah manusia。

▲ Diagram pola ilmuwan AI

Alur kerja seorang ilmuwan AI terutama mencakupEmpat tautan utama：

Kreativitas tumbuh:Mulai dari template awal yang diberikan, ilmuwan AI akan memulai mode "brainstorming" dan menggali serangkaian arahan penelitian baru seputar topik yang ada. Templat ini tidak hanya berisi kerangka kode dasar, tetapi juga dilengkapi dengan folder LaTeX yang berisi file gaya dan preset judul bab, yang meletakkan dasar untuk penulisan makalah selanjutnya. Dalam proses eksplorasi bebas, ilmuwan AI juga akan menggunakan mesin pencari akademis Semantic Scholar untuk memastikan orisinalitas ide yang diajukan.

Iterasi eksperimen:Setelah arah penelitian ditentukan, ilmuwan AI memasuki tahap percobaan. Secara otomatis menjalankan rencana eksperimen, mengumpulkan data, dan menghasilkan bagan untuk menampilkan hasil eksperimen secara visual. Pada saat yang sama, ilmuwan AI akan mencatat isi setiap bagan secara detail untuk memastikan bahwa catatan eksperimental dan materi grafis dapat memberikan dukungan komprehensif untuk penulisan makalah selanjutnya.

Penulisan makalah:Setelah percobaan selesai, ilmuwan AI akan menggunakan format LaTeX untuk menulis makalah dengan struktur yang jelas dan konten yang detail untuk menunjukkan kepada pembaca hasil penelitiannya. Selama proses penulisan, Semantic Scholar juga akan secara otomatis mencari dan mengutip literatur di bidang terkait untuk meningkatkan sifat akademis dan otoritatif makalah.

Tinjauan otomatis:Untuk meningkatkan kualitas makalah, tim secara khusus mengembangkan sistem peninjauan otomatis berdasarkan model bahasa besar. Sistem ini mampu mengevaluasi makalah yang dihasilkan secara objektif dengan penilaian yang hampir manusiawi dan memberikan saran untuk perbaikan. Masukan ini tidak hanya membantu ilmuwan AI mengoptimalkan proyek saat ini, namun juga memberikan referensi berharga untuk penelitian di masa depan. Melalui umpan balik yang berkelanjutan ini, ilmuwan AI dapat terus meningkatkan dan meningkatkan tingkat dan dampak hasil penelitian.

Jika dipadukan dengan teknologi LLM yang canggih, ilmuwan AI bahkan mampu menulisKriteria "Penerimaan Lemah" untuk Konferensi Pembelajaran Mesin Teratastesis dan lulusSistem peninjauan otomatis mendapat pengakuan。

2. Presentasi makalah oleh para ilmuwan AI: meliputi model difusi, pemodelan bahasa dan bidang lainnya

Dalam pengumuman tersebut, tim tersebut mempresentasikan serangkaian makalah di bidang pembelajaran mesin yang dihasilkan oleh para ilmuwan AI, yang menunjukkan kemampuan penelitian ilmiahnya di berbagai bidang seperti model difusi, pemodelan bahasa, dan Grokking.

1. Model difusi: "Difusi Skala Ganda: Penyeimbangan fitur adaptif model generatif dimensi rendah"

Alamat makalah: https://sakana.ai/assets/ai-scientist/adaptive_dual_scale_denoising.pdf
Alamat kode: https://github.com/SakanaAI/AI-Scientist/tree/main/example_papers/adaptive_dual_scale_denoising

2. Pemodelan bahasa: "StyleFusion: Pembuatan multi-gaya adaptif dalam model bahasa tingkat karakter"

Alamat makalah: https://sakana.ai/assets/ai-scientist/multi_style_adapter.pdf
Alamat kode: https://github.com/SakanaAI/AI-Scientist/tree/main/example_papers/multi_style_adapter

Pemodelan bahasa: "Menerapkan kecepatan pembelajaran adaptif Transformer melalui Q-Learning"

Alamat makalah: https://sakana.ai/assets/ai-scientist/rl_lr_adaptation.pdf
Alamat kode: https://github.com/SakanaAI/AI-Scientist/tree/main/example_papers/rl_lr_adaptation

3. Grokking: "Membuka Grokking: Studi Perbandingan Strategi Inisialisasi Bobot dalam Model Transformer"

Alamat makalah: https://sakana.ai/assets/ai-scientist/weight_initialization_grokking.pdf
Alamat kode: https://github.com/SakanaAI/AI-Scientist/tree/main/example_papers/layerwise_lr_grokking

3. Kurangnya kemampuan “menggambar” dan kesulitan dalam membandingkan ukuran dua angka secara akurat

Dibatasi oleh tingkat pengembangan model besar saat ini, ilmuwan AI masih mempunyai kekurangan.

Saat ini, ilmuwan AI masih melakukan hal tersebutTidak ada kemampuan pemrosesan visual, sehingga tidak dapat secara otomatis memperbaiki masalah elemen visual atau tata letak diagram di makalah Anda.

Misalnya, bagan yang dihasilkan terkadang kurang jelas, tabel mungkin melampaui batas halaman, dan tata letak halaman secara keseluruhan sering kali berantakan. Pengenalan model dasar multimodal diharapkan dapat memecahkan masalah ini secara mendasar.

Selain itu, ketika ilmuwan AI mengimplementasikan ide atau melakukan perbandingan dasar, mereka mungkin saja melakukan hal tersebutHasil yang menyesatkan karena pengoperasian yang tidak tepat。

Pada saat yang sama, terkadang ia membuat kesalahan yang lebih serius saat menulis dan mengevaluasi hasil, sepertiKesulitan membandingkan dua angka secara akurat, yang merupakan kelemahan umum pada model besar. Untuk mengurangi masalah ini, tim telah memastikan bahwa semua hasil eksperimen dapat direproduksi dan semua file eksekusi telah disimpan dengan benar.

Dalam laporan tersebut, tim memberikan analisis mendalam tentang keterbatasan ilmuwan AI saat ini dan tantangan yang mungkin mereka hadapi di masa depan.

4. Ilmuwan AI "bermain cerdas": memodifikasi skrip mereka sendiri, sehingga menimbulkan risiko keamanan AI

Tim juga mengamati bahwa ilmuwan AI terkadang mencoba meningkatkan peluang keberhasilan melalui beberapa "kecerdasan kecil", sepertiUbah dan jalankan skrip sendiri. Dalam makalah tersebut, tim membahas secara mendalam risiko keamanan AI yang mungkin ditimbulkan oleh perilaku ini.

Misalnya, dalam satu eksekusi, sebenarnyaMengedit kodenya, membuat dirinya berjalan dalam putaran tak terbatas melalui panggilan sistem.

Di lain waktu, eksperimen memakan waktu terlalu lama dan hampir melampaui batas waktu tunggu yang ditetapkan oleh tim. Namun, alih-alih mengoptimalkan kode untuk meningkatkan efisiensi, eksperimen tersebut justru gagalUbah kode untuk memperpanjang batas waktu。

Berikut beberapa contoh spesifik upayanya untuk mengubah kode:

Masalah-masalah ini dapat diatasi dengan melakukan sandboxing pada lingkungan operasi ilmuwan AI. Dalam laporan lengkapnya, tim membahas eksekusi kode aman dan sandboxing secara mendalam.

Kesimpulan: Ilmuwan AI memulai debutnya, dan kemampuan inovasi subversif mereka perlu diverifikasi

Melihat ke masa depan, Sakana AI mengatakan tujuannya adalah untuk menerapkan ilmuwan AI pada sistem loop tertutup dengan model terbuka untuk mendorong peningkatan AI secara berkelanjutan. Ilmuwan AI akan menghadirkan dunia sains baru yang sepenuhnya didorong oleh AI. Tidak hanya peneliti yang diberdayakan oleh model bahasa yang besar, tetapi juga pengulas, ketua lapangan, dan bahkan seluruh sistem konferensi akademik.

Namun Sakana AI tidak percaya bahwa status ilmuwan manusia akan melemah sebagai akibatnya. Sebaliknya, dengan munculnya teknologi baru, peran ilmuwan akan semakin terdiversifikasi, dan mereka akan berpindah ke tingkat yang lebih tinggi dalam bidang penelitian ilmiah. Mengotomatiskan proses penemuan penelitian ilmiah dan menggabungkan mekanisme peninjauan berbasis AI terutama membuka jalan bagi inovasi dan solusi terhadap masalah tersulit di bidang sains dan teknologi.

Ilmuwan AI versi saat ini telah menunjukkan kemampuan luar biasa dalam berinovasi berdasarkan teknologi matang seperti model difusi dan Transformers. Namun, masih perlu waktu untuk memverifikasi apakah sistem tersebut benar-benar dapat menghasilkan ide-ide baru yang disruptif.

Sumber: Sakana AI