Tao Le berasal dari Kuil Aofei

Qubit |. Akun publik QbitAI

Kapan AGI akan diimplementasikan? GooglePikiran Dalam CEO Hassabis memperkirakan dalam wawancara terbaru:

sepuluh tahun.

jikaBERSIHSaya tidak akan terkejut jika hal itu muncul dalam dekade berikutnya.

Dalam wawancara kali ini, Hassabis berbicara tentang tren perkembangan AI.

Ada beberapa topik yang diminati semua orang, seperti:

AI mungkin dilebih-lebihkan dalam jangka pendek, namun potensi dan dampaknya masih diremehkan dalam jangka panjang.

Sebagai “tim super” Google, Google DeepMind perlu menemukan keseimbangan antara kepentingan komersial dan penelitian ilmiah.

Open source penting untuk kemajuan teknologi, namun ketika Anda menghadapi teknologi yang mungkin disalahgunakan, Anda mungkin perlu menunggu satu tahun sebelum menjadikannya open source untuk mengevaluasi dan membatasi penyalahgunaan.

Untuk konten yang lebih spesifik, silakan lihat versi teks di bawah~

“Masalah implementasi” AI awal

Q: Untuk wawancara hari ini, saya mengundang Hassabis, salah satu pendiri DeepMind dan CEO Google DeepMind saat ini.

Hassabis: Terima kasih, saya sangat senang dapat berpartisipasi dalam wawancara Anda. Sebelumnya kita telah melihat bagaimana konsep dan bahasa dapat digunakan di dunia nyata, seperti dalam lingkungan simulasi atau sebagai robot yang memiliki kecerdasan aktual yang mungkin diperlukan untuk memahami dunia di sekitar kita.

Namun, harus diakui bahwa sistem ini belum berada pada tingkat ideal, banyak melakukan kesalahan dan tidak benar-benar membangun model dunia yang utuh. Namun, mereka telah mencapai kemajuan yang jauh melampaui harapan kita melalui pembelajaran bahasa saja.

Q: Ya, terakhir kali kita banyak berdiskusi tentang bagaimana mengimplementasikan bahasa di dunia nyata. Namun bisakah Anda menjelaskan secara singkat apa yang dimaksud dengan “mendarat”? Kalau-kalau teman-teman yang baru pertama kali menonton wawancara kita ada yang kurang paham.

Hassabis："pendaratan"Konsep ini,Berasal dari sistem AI klasik yang dibangun di institusi akademis seperti MIT pada tahun 1980an dan 1990an.Sebagian besar sistem ini adalah sistem logis yang sangat besar, yang dapat dibayangkan sebagai database raksasa yang berisi banyak kata yang saling terkait.

Namun masalahnya adalah meskipun Anda dapat menemukan pernyataan seperti "Anjing memiliki empat kaki" di database, ketika sistem dihadapkan dengan foto anjing asli, sistem tidak dapat mengaitkan piksel tersebut dengan simbol di database. , inilah yang disebut "masalah pendaratan".

Dengan kata lain, sistem mempunyai representasi simbolik atau abstrak tetapi tidak dapat memahami makna konkrit dari representasi tersebut di dunia nyata. Sejak saat itu, meskipun manusia telah berusaha memecahkan masalah ini, mereka tidak pernah mampu mencapai kesempurnaan.

Berbeda dengan sistem di masa lalu, sistem AI saat ini belajar langsung dari data dan membangun hubungan antara data dan dunia nyata sejak awal.

Menariknya, bahkan jika sistem ini pada awalnya hanya belajar berdasarkan bahasa, secara teoritis mereka kekurangan banyak informasi yang diperlukan untuk "memulai" karena mereka tidak terhubung dengan simulator dunia nyata, robot, atau bentuk masukan lainnya, tetapi hanya Itu adalah pembelajaran di ruang bahasa.

Namun yang mengejutkan, sistem ini masih mampu menyimpulkan beberapa pengetahuan tentang dunia nyata.

Q: Hal ini mungkin terjadi karena, saat orang berinteraksi dengan sistem, mereka memberi tahu sistem mana jawaban yang benar dan mana yang salah. Melalui umpan balik dengan cara ini, sistem dapat menerima sebagian dari informasi "pendaratan", sehingga secara bertahap menjalin hubungan dengan dunia nyata.

Hassabis: Memang benar, jika sistem pada versi sebelumnya memberikan jawaban yang salah karena kurangnya informasi "pendaratan", seperti salah menjawab pertanyaan seperti "Bagaimana cara anjing menggonggong?", tanggapan orang akan memperbaikinya.

Umpan balik ini didasarkan pada pengetahuan yang “diimplementasikan” oleh kami, jadi, sampai batas tertentu,Sistem menyerap dan mempelajari informasi dari umpan balik ini.

Dibesar-besarkan dalam jangka pendek, diremehkan dalam jangka panjang

Q: Selain itu, saya juga ingin bertanya tentang hype AI. Menurut Anda, apakah situasi kita saat ini, situasi saat ini, under-hyped atau over-hyped?

Hassabis: Menurutku, ini lebih ke arah yang terakhir. Saya ingin mengatakan,Dalam waktu dekat, hype tersebut sudah terlalu jauh.

Saya pikir orang mengatakan AI dapat melakukan segala macam hal, namun kenyataannya AI tidak sekuat yang dikatakan orang. Ada banyak startup dan VC yang mengejar ide-ide tidak realistis dan belum matang.

Tapi di sisi lain, menurut saya sampai sekarang pun masih undervalued, atau kurang mendapat perhatian. Terutama saat kita memasuki tahap AGI dan pasca-AGI, saya masih merasa masih banyak orang yang belum sepenuhnya memahami betapa besarnya perubahan yang akan terjadi, dan tanggung jawab yang menyertainya.

Jadi,Menurut saya, hal ini terlalu dilebih-lebihkan dalam jangka pendek, namun diremehkan dalam jangka panjang.

Dari Gemini multimodal hingga agen AI universal Astra

Q: Oke, sekarang saya ingin menanyakan pertanyaan yang lebih penting dalam wawancara ini. Menurut Anda apa perbedaan antara Gemini dan model bahasa besar yang dirilis oleh laboratorium lain?

Hassabis: Kami telah menetapkan tujuan sejak awal proyek Gemini, yaitu memungkinkannya menangani beberapa jenis data secara bersamaan. Kami berharap tidak hanya dapat memahami teks, tetapi juga mengurai suara, video, gambar, kode, dll, pada dasarnya segala bentuk informasi.

Kami sangat yakin bahwa hanya dengan memungkinkan sistem untuk memahami dan memproses berbagai informasi di dunia nyata, mereka dapat benar-benar memahami dunia dan membangun model dunia yang lebih akurat dan komprehensif.

Ini sebenarnya merupakan perpanjangan dari masalah "pendaratan" yang kami sebutkan di atas, namun kali ini kami menggunakan bahasa sebagai dasar untuk mencapai hal ini.

Q: Jadi "implementasi" masih menjadi kunci keseluruhan proyek?

Hassabis: Memang, ini sangat penting.

Kami juga memiliki tujuan akhir, yaituBuat asisten serba bisa. Kami telah mengembangkan alat yang disebutAstroPrototipe proyek, Astro tidak hanya memahami masukan Anda, tetapi juga merasakan konteks lingkungan Anda.

Bayangkan betapa hebatnya asisten pribadi atau asisten digital Anda jika ia memiliki pemahaman lebih dalam tentang konteks pertanyaan Anda atau situasi yang Anda hadapi. Oleh karena itu, kami selalu yakin bahwa sistem jenis ini akan lebih praktis.

Untuk melakukan hal ini, kami membangun fungsionalitas multimoda ke dalam sistem sejak awal proyek. Pada saat itu, ini adalah satu-satunya model yang memiliki fitur ini, dan kini, model lain mencoba mengejar ketertinggalannya.

Q：Project Astro adalah agen AI serba guna yang mampu memproses data video dan audio.Saya ingat di konferensi Google I/O, Anda menunjukkan contoh bagaimana Astro membantu pengguna mengingat di mana letak kacamata mereka. Saya tertarik dengan asal usul teknologi ini. Apakah ini hanya evolusi lanjutan dari Google Glass lama?

Hassabis: Google memiliki sejarah panjang dalam pengembangan perangkat berbasis kacamata, yang telah terlibat sejak sekitar tahun 2012. Oleh karena itu, mereka mempunyai keuntungan sebagai penggerak pertama yang signifikan di bidang ini. Mungkin saja teknologi yang dibutuhkan asisten cerdas tersebut kurang untuk memahami apa yang dilihatnya. Tapi sekarang,Dengan asisten digital di sisi Anda, ia dapat memahami dunia di sekitar Anda, rasanya sangat alami.

Q: Saya ingin menelusuri asal muasal Gemini karena berasal dari dua departemen terpisah dalam organisasi dan dilakukan oleh mereka?

Hassabis: Memang tahun lalu kami memasang Alphabet(Perusahaan induk Google)Dua departemen penelitian yang asliPikiran DalamDanOtak Google, digabung menjadi departemen baru, kami menyebutnya"Departemen Super"。

Dengan cara ini, semua talenta terbaik di perusahaan dikumpulkan ke dalam satu tim, dan kami menggabungkan pengetahuan terbaik dari semua bidang penelitian, terutama dalam model bahasa.

Kami telah memiliki beberapa proyek sebelumnya, seperti Trin Chilla dan Gopher, yang semuanya berpartisipasi dalam pengembangan model bahasa awal, seperti Palm dan Lambda. Masing-masing model ini memiliki kekuatan dan kelemahannya masing-masing, dan kami telah mengintegrasikannya ke dalam proyek Gemini, yang merupakan proyek pertama yang sangat penting setelah merger.

Selain itu, ada hal lain yang sangat penting, yaitu kitaIntegrasikan semua sumber daya komputasi bersama-sama. Dengan cara ini, kita dapat melakukan pelatihan skala besar, yang sebenarnya menyatukan semua kekuatan komputasi,Jadikan Gemini lebih kuat dan efisien。

Kedua tim ini selalu fokus pada garda depan AI. Mereka telah banyak berkolaborasi dalam penelitian pribadi sebelumnya, namun secara strategis mereka mungkin tidak sedekat itu. Sekarang tim gabungan, saya akan menggambarkannya sebagai milik Google"Kamar mesin"。

Menurut saya cara kerja kedua tim sebenarnya cukup mirip, tidak banyak perbedaan. Selanjutnya, kami akan terus memperkuat keunggulan kami dalam penelitian dasar, seperti memikirkan masa depanTransformatorSeperti apa arsitekturnya nanti, kita semua ingin mengetahuinya sendiri.

Omong-omong, Transformer sebelumnya dibuat oleh Google Brain, dan kami menggabungkannya dengan Deep Reinforcement Learning, tapi menurut saya diperlukan lebih banyak inovasi. Saya percaya, seperti 10 tahun terakhir, baik itu Brain atau DeepMind, kami akan terus berkontribusi.

"Ruang Mesin" Google

Q: Anda baru saja mengatakan bahwa Google DeepMind sekarang menjadi "ruang mesin" Google. Ini adalah perubahan besar. Saya ingin tahu apakah Google bertaruh besar pada Anda sekarang?

Hassabis: Saya kira demikian. Saya pikir Google selalu jelas tentang pentingnya AI. Pichai berkata saat pertama kali menjadi CEO,Google adalah perusahaan yang “mengutamakan AI”.。

Kami membahas topik ini ketika ia pertama kali menjabat. Ia melihat potensi AI sebagai perubahan paradigma besar berikutnya setelah Internet seluler, dan dampaknya bahkan lebih besar dari ini.

Namun menurut saya dalam satu atau dua tahun terakhir, kita sudah mulai benar-benar memahami apa artinya, tidak hanya dari sudut pandang penelitian tetapi juga dari produk dan hal lainnya. Jadi, ini adalah saat yang sangat menyenangkan, tapi menurut saya ini adalah pilihan yang tepat bagi kami untuk menyatukan semua talenta dan tampil maksimal.

Q: Dari sudut pandang lain, bagi DeepMind, yang kini menjadi "ruang mesin" Google, apakah ini berarti Anda harus lebih menyeimbangkan antara mempertimbangkan kepentingan komersial dan penelitian ilmiah murni?

Hassabis: Memang benar, saat ini kami perlu lebih mempertimbangkan kepentingan bisnis yang sudah menjadi bagian dari tanggung jawab kami. Namun, masih ada beberapa hal yang perlu diklarifikasi. Kami akan terus memajukan penelitian ilmiah kami, dan investasi kami di bidang ini masih terus meningkat.

Menurut saya,Ini adalah hal unik yang kami lakukan di Google DeepMind, bahkan pesaing kami melihat hasil ini sebagai manfaat AI yang luas.

"Sumber terbuka" diperlukan

Q: Oke, itu membawa saya ke pertanyaan berikutnya: open source. Ketika teknologi sampai ke tangan banyak orang, seperti yang Anda katakan, beberapa hal menakjubkan bisa terjadi. Saya tahu DeepMind telah melakukan banyak proyek penelitian open source di masa lalu, tetapi hal itu tampaknya telah berubah sekarang. Bisakah Anda menyampaikan pandangan Anda tentang open source?

Hassabis：Open source sangat penting, dan kami selalu menjadi pendukung kuat open source dan sains terbuka.Seperti yang Anda ketahui, kami menerbitkan hampir setiap proyek penelitian yang kami lakukan, termasuk proyek seperti Transformer danAlfaGoKami telah menerbitkan proyek seperti ini di majalah ternama seperti Nature dan Science.

AlphaFold juga merupakan sumber terbuka, ini semua dibuat oleh kamiPilihlah dengan bijak. Anda benar, pendekatan ini berhasil karena teknologi dan ilmu pengetahuan dapat maju secepat mungkin dengan berbagi informasi. Dalam kebanyakan kasus,Open source bermanfaat secara universal, dan itulah cara kerja sains。

Namun ada pengecualian, dan hal tersebut terjadi pada teknologi dengan tujuan ganda, seperti AGI dan AI yang kuat.

Masalahnya adalah, Anda ingin dapat mengaktifkan semua kasus penggunaan yang tidak berbahaya, dan Anda ingin para ilmuwan dan ahli teknologi sejati dapat memanfaatkan dan mengkritik ide-ide ini untuk mendorong kemajuan pesat dalam masyarakat. Namun pada saat yang sama, bagaimana Anda membatasi pihak-pihak jahat yang mungkin menyalahgunakan sistem ini, itulah pertanyaannya.

Tidak apa-apa sekarang karena menurut saya sistem ini tidak cukup kuat, namun dalam dua atau tiga tahun, terutama ketika Anda mulai mendapatkan sistem yang memiliki perilaku agen, hal ini dapat menyebabkan kerugian yang serius.

Kami memiliki model Gemini open source yang disebut Gemma, tetapi model tersebut lebih kecil dan bukan model mutakhir.

Kemampuannya masih sangat berguna bagi developer karena dapat dijalankan di laptop dan memiliki jumlah parameter yang lebih sedikit. Kemampuan mereka dipahami dengan baik pada tahap ini, karena mereka bukanlah model mutakhir.

Mungkin yang akan kami lakukan pada akhirnya adalah kami akan memiliki model-model open source, namun model-model tersebut akan tertinggal sekitar satu tahun dari model-model terdepan terbaru sehingga kami dapat benar-benar mengevaluasi kemampuan model-model tersebut dalam pengujian publik dengan pengguna.

Satu masalah dengan open source adalah jika terjadi kesalahan, Anda tidak dapat mengingatnya kembali. Dengan model berpemilik, jika orang jahat mulai menggunakannya dengan cara yang buruk, Anda dapat mematikannya, atau bahkan mematikan seluruh sistem dalam kasus yang ekstrim. Namun begitu Anda membuka sumber sesuatu, Anda tidak dapat menariknya kembali. Ini adalah pintu satu arah.

AGI akan tersedia dalam waktu sepuluh tahun

Q: Saat ini, berbagai model AI dikembangkan oleh para peneliti ilmiah, namun saya ingin tahu, jika kita memasuki tahap di mana AI mendukung semua penelitian ilmiah, apakah masih ada ruang bagi lembaga penelitian dan pengembangan?

Hassabis: Saya rasa masih ada ruang untuk itu. Kita sekarang berada pada tahap sebelum munculnya AGI universal. Saya rasa hal ini memerlukan kerja sama yang erat antara masyarakat, akademisi, pemerintah, dan laboratorium industri.

Saya benar-benar percaya bahwa ini adalah satu-satunya cara kita pada akhirnya akan mencapainya. Jika Anda bertanya tentang apa yang terjadi setelah AGI, mungkin itulah yang sebenarnya ingin Anda ketahui. AGI selalu menjadi sesuatu yang ingin saya bangun karena kita dapat menggunakannya untuk mengeksplorasi beberapa pertanyaan paling mendasar tentang hakikat realitas, fisika, kesadaran, dan banyak lagi.

Q: Ilmuwan komputer Stuart Russell pernah mengatakan kepada saya bahwa dia sedikit khawatir ketika kita mencapai AGI, kita semua mungkin seperti bangsawan di masa lalu, hanya menikmati kehidupan yang riang dan mewah tanpa tujuan dan tanpa berpikir.

Hassabis: Saya pikir masa depan akan sangat menarik. Namun hal ini juga masuk ke dalam masalah “undervalued” yang saya sebutkan sebelumnya, yaitu perbedaan antara hype jangka pendek dan jangka panjang. Jika Anda ingin menyebutnya hype, itu pasti diremehkan sampai batas tertentu.

Saya pikir perubahan di masa depan akan sangat besar. Saya yakin pada akhirnya kita bisaMenyembuhkan banyak penyakit, bahkan segala penyakit, menyelesaikan masalah energi dan masalah iklim.

Q: Ngomong-ngomong, saya ingat Anda pernah mengatakan bahwa Anda berharap AGI bisa mengeksplorasi misteri alam semesta. Apakah menurut Anda ada kemungkinan yang belum kita bayangkan, seperti fenomena seperti lubang cacing?

Hassabis:tentu,Saya sepenuhnya percaya pada kemungkinan ini. Saya sangat berharap lubang cacing menjadi kenyataan. Menurut saya, kita masih memiliki banyak kesalahpahaman tentang fisika dan hakikat realitas.

Jelas sekali, ada banyak sekali misteri yang belum terpecahkan yang tersembunyi dalam penyatuan mekanika kuantum dan gravitasi, masalah dalam Model Standar, teori string, dll. Saya telah berdiskusi mendalam dengan banyak teman di komunitas fisika, dan mereka semua percaya bahwa ada banyak hal dalam kerangka teori yang ada yang tidak cocok satu sama lain.

Saya pribadi bukan penggemar berat penjelasan multiverse, jadi menurut saya akan luar biasa jika kita bisa menghasilkan teori baru dan mengujinya dengan peralatan berskala besar di luar angkasa.

Alasan mengapa saya begitu terpesona dengan skala waktu dan ruang Planck adalah karena skala tersebut tampaknya mewakili resolusi akhir dari realitas, seperti unit terkecil di mana segala sesuatu dapat dibagi.

Oleh karena itu, menurut saya kita harus melakukan eksplorasi eksperimental yang mendalam pada tingkat ini, terutama jika kita sudah melakukannyaDengan AGI dan sumber daya yang melimpah, mungkin kita bisa merancang atau membangun peralatan eksperimental tersebut.

Q: Anda pernah mengatakan bahwa DeepMind adalah proyek 20 tahun. Sejauh mana kemajuan kita sekarang? Apakah Anda masih mengalami kemajuan sesuai rencana?

Hassabis: Ya, kami masih sesuai jadwal, yang mungkin terdengar luar biasa karena biasanya proyek berusia 20 tahun selalu terasa seperti membutuhkan waktu 20 tahun lagi untuk diselesaikan. Tapi kita sudah menempuh perjalanan jauh.

Sasaran kami adalah mencapainya pada tahun 2030, jadi saya tidak terkejut jika kami bisa mencapainya dalam dekade berikutnya.

• Alamat video: https://www.youtube.com/watch?v=pZybROKrj2Q *