berita

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Berita Aplikasi Titanium Media pada 24 Agustus,Yoshua Bengio, seorang ilmuwan komputer Kanada yang dikenal sebagai "Godfather of AI", pelopor teknologi pembelajaran mendalam, dan pemenang Turing Award 2018, secara terbuka menyatakan bahwa dengan peluncuran ChatGPT, waktu untuk risiko teknologi AI telah dipersingkat. .Sayangnya, kita tidak bisa menggunakan waktu sepuluh tahun untuk mengatasi risiko AI dan masalah pengawasan kebijakan, melainkan waktu yang lebih singkat, sehingga industri perlu bertindak sekarang untuk mempercepat penerapan kebijakan keselamatan AI.

“Perlu banyak waktu untuk mengembangkan kebijakan, perlu waktu bertahun-tahun untuk menyelesaikan perbedaan pendapat, perlu waktu bertahun-tahun untuk memberlakukan undang-undang seperti ini, ada proses yang perlu diterapkan, perlu waktu bertahun-tahun untuk benar-benar menyelesaikannya dengan benar,” Bengio mengatakan kepada Bloomberg. Sekarang khawatir bahwa mungkin tidak ada banyak waktu untuk “melakukannya dengan benar”.Dan yang lebih buruk lagi adalah risiko AI bukan hanya masalah peraturan, namun merupakan perjanjian internasional, dan kita perlu menyelesaikan masalah ini dalam skala global.

Bengio dikabarkan lahir di Paris dan besar di Kanada. Ia kini tinggal di Montreal, Kanada, dan menjabat sebagai profesor di Departemen Ilmu Komputer dan Komputasi di Universitas Montreal. Beliau menerima gelar PhD di bidang Ilmu Komputer dari McGill University di Kanada pada tahun 1991. Bidang penelitian utama Bengio adalah pembelajaran mendalam dan pemrosesan bahasa alami.

Selama lebih dari 30 tahun karir penelitian pembelajaran mendalam, Bengio telah menerbitkan lebih dari 300 makalah akademis dan telah dikutip lebih dari 138.000 kali. Ng Enda pernah mengatakan bahwa banyak kajian teori Bengio yang sangat menginspirasinya.

Pada tahun 2018, dia, Geoffrey Hinton, "Bapak Jaringan Syaraf Tiruan", dan Yann LeCun, "Bapak Jaringan Konvolusional" memenangkan "Penghargaan Turing" karena memelopori teori teknologi pembelajaran mendalam. Ketiganya juga disebut " AI" oleh industri AI. "Tiga Besar", "Tiga Besar Pembelajaran Mendalam", "Tiga Ayah baptis AI".

Bengio, salah satu dari "Tiga Raksasa Pembelajaran Mendalam", pernah menunjukkan bahwa istilah AI disalahgunakan. Beberapa perusahaan telah melakukan antropomorfisasi sistem AI, seolah-olah sistem AI adalah entitas cerdas yang setara dengan manusia Faktanya, belum ada entitas cerdas yang sebanding dengan kecerdasan manusia. Tentu saja, dia masih mencintai AI sebagai sebuah teknologi.

Bengio mengatakan bahwa sebelum munculnya ChatGPT pada akhir tahun 2022, dia yakin bahwa risiko AI yang sebenarnya tidak akan muncul setidaknya selama beberapa dekade ketika dia tidak terlalu mengkhawatirkan masalah keamanan AI dan percaya bahwa manusia masih jauh dari pengembangan teknologi yang dapat menyaingi manusia. Meskipun teknologi AI masih “berpuluh-puluh tahun lagi”, ia berasumsi bahwa kita dapat “meraih manfaat AI” selama bertahun-tahun sebelum menghadapi risikonya.

Namun kini, peluncuran ChatGPT telah mengubah pikirannya sepenuhnya. Dia tidak begitu yakin lagi. Asumsinya tentang kecepatan perkembangan AI—dan potensi ancaman yang ditimbulkan oleh teknologi tersebut terhadap masyarakat—Itu ditumbangkan setelah OpenAI merilis ChatGPT pada akhir tahun 2022, karena teknologi AI tingkat manusia telah hadir.

“Saya benar-benar berubah pikiran karena kami akhirnya memiliki mesin yang dapat berbicara dengan kami (ChatGPT),” kata Bengio. “Kami sekarang memiliki mesin AI yang dapat memahami bahasa. Saya rasa tidak ada seorangpun yang benar-benar mengharapkan hal ini, bahkan orang-orang yang membangun sistem ini pun tidak. Anda dapat melihat bahwa orang-orang berpikir mungkin diperlukan waktu bertahun-tahun, beberapa dekade, atau bahkan lebih lama lagi sebelum kita mencapai tingkat kecerdasan manusia -tingkat kecerdasan, sulit untuk memprediksi apa yang akan terjadi - apakah kita akan mendapatkan sesuatu yang benar-benar baik atau sesuatu yang sangat, sangat buruk, dan ada banyak ketidakpastian tentang apa yang akan kita lakukan untuk mengatasinya mendorong pekerjaan saya saat ini di bidang sains dan kebijakan.”

Setelah ChatGPT memicu diskusi global tentang risiko AI, Bengio mulai mencurahkan lebih banyak energi untuk mengadvokasi regulasi AI, dan bersama dengan rekan akademisi dan pionir AI Geoffrey Hinton, ia secara terbuka mendukung RUU keselamatan AI California SB1047 yang kontroversial, yang mana RUU tersebut akan membuat perusahaan bertanggung jawab atas kerugian besar yang disebabkan oleh model AI mereka tanpa melakukan tindakan pencegahan keselamatan.

Bengio percaya bahwa ini adalah “proposal terpenting kedua yang dibahas”, nomor dua setelah RUU AI di Uni Eropa.

Pada tanggal 15 Agustus, waktu setempat, Undang-Undang Inovasi Keamanan Model AI Frontier yang kontroversial di California (yang kemudian dikenal sebagai Undang-Undang Keamanan AI California SB 1047) akhirnya lolos peninjauan oleh Komite Alokasi Dewan Perwakilan Rakyat California setelah secara signifikan melemahkan ketentuan terkait.

SB 1047 bertujuan untuk mencegah insiden keamanan siber di mana sistem AI berskala besar membunuh banyak orang atau menyebabkan kerugian melebihi $500 juta dengan meminta pertanggungjawaban pengembang. Setelah berhasil lolos peninjauan, ini berarti RUU tersebut telah mengambil langkah penting untuk menjadi undang-undang dan peraturan formal, dan juga merupakan langkah penting dalam pengawasan AI di Amerika Serikat.

Namun, Undang-Undang Keamanan AI California masih kontroversial. Profesor Universitas Stanford Li Feifei, kepala ilmuwan Meta Yang Likun dan lainnya percaya bahwa RUU tersebut pada akhirnya akan merugikan California dan bahkan posisi terdepan Amerika Serikat di bidang AI. Lebih dari 100 akademisi juga telah mengeluarkan artikel yang menentang RUU tersebut lembaga a16z telah membuat situs web untuk merinci enam kasus kejahatan RUU tersebut.

Bahkan mantan Ketua DPR AS Nancy Pelosi mengeluarkan pernyataan yang menentang RUU ini, percaya bahwa RUU Keamanan AI California memiliki niat baik tetapi kurang dipahami sepenuhnya. Banyak pakar dan pemimpin perusahaan teknologi California yang menyatakan penolakannya terhadap RUU tersebut Bagus.

Pihak terbaru yang menentang RUU AI California adalah OpenAI. OpenAI mengeluarkan dokumen minggu ini yang menyatakan bahwa undang-undang tersebut akan merugikan inovasi AI dan mungkin memiliki dampak yang “meluas dan signifikan” terhadap daya saing Amerika Serikat dalam AI dan keamanan nasional.

Namun, Bengio mengatakan bahwa Undang-Undang Keamanan AI California menghindari tindakan yang terlalu bersifat preskriptif dan sebaliknya menggunakan tanggung jawab untuk memastikan perusahaan AI tidak mengabaikan tindakan pencegahan keselamatan "yang akan dilakukan oleh seorang ahli yang berakal budi." “Ini akan menciptakan insentif bagi perusahaan agar mereka tidak menjadi siswa terburuk di kelasnya.”

Bengio mencatat bahwa diskusi seputar regulasi AI dapat dipengaruhi oleh pemodal ventura dan perusahaan yang ingin mengambil keuntungan dari teknologi tersebut. “Anda bisa menarik analogi dengan perubahan iklim, perusahaan bahan bakar fosil, dan sebagainya,” katanya.

"Bukan itu, justru sebaliknya. Ini tidak mengikat. Tidak memberikan banyak pengaruh. Hanya dikatakan: Jika Anda menyebabkan kerugian miliaran dolar, Anda bertanggung jawab. Selama beberapa dekade, seluruh perhitungan Saya pikir (oposisi) lebih bersifat ideologis. Saya sangat khawatir dengan kekuatan lobi dan triliunan bahkan kuadriliun yang akan dihasilkan oleh Ai Universitas California, Berkeley dan pendiri Pusat Sistem Kecerdasan Buatan) akan memotivasi perusahaan untuk menentang peraturan apa pun,” kata Bengio.

Terkait manajemen risiko, Bengio mengatakan, “Saya merasa skeptis terhadap risiko. Saya telah mendengar banyak argumen bagus bahwa AI yang lebih pintar dari kita bisa jadi sangat berbahaya digunakan oleh manusia dengan cara yang sangat berbahaya bagi demokrasi. Siapa pun yang mengatakan bahwa mereka tahu adalah terlalu percaya diri karena, pada kenyataannya, sains tidak memiliki cara untuk menjawabnya dengan cara yang dapat diverifikasi. Argumen-argumen tersebut semuanya valid dan ketika Anda memikirkan tentang kebijakan, Anda perlu melindungi masyarakat dari hal-hal yang sangat buruk. Hal itulah yang telah dilakukan pemerintah di banyak bidang lainnya. Mereka tidak dapat melakukan hal tersebut dalam bidang komputasi dan AI."

Bengio berulang kali menegaskan bahwa ia tidak menyangka manusia akan menguasai teknologi suara AI percakapan secepat itu, dan setidaknya sudah mencapai tingkat yang cukup manusiawi.

“Saya pikir keinginan untuk berinovasi dengan cepat pada hal-hal berbahaya adalah tidak bijaksana. Dalam biologi, ketika para peneliti menemukan bahwa virus berbahaya dapat dibuat melalui apa yang disebut penelitian gain-of-function, mereka secara kolektif memutuskan, kita tidak melakukannya. Mari kita lakukan. Mintalah pemerintah untuk menetapkan aturan sehingga jika Anda melakukan ini, setidaknya jika tidak dikendalikan, Anda masuk penjara,” kata Bengio. “Saya yakin Anda tahu tentang pornografi anak sintetis, mungkin tidak secara emosional. Sangat menantang, tapi lebih yang lebih penting lagi, deepfake yang sama akan menyesatkan masyarakat , sebuah studi baru di Swiss membandingkan GPT-4 dengan manusia untuk melihat siapa yang dapat meyakinkan orang yang jelas-jelas tidak tahu apa-apa. Orang yang berbicara dengan manusia atau mesin berubah pikiran tentang sesuatu.”

Bengio mencatat bahwa “kita harus menerapkan perilaku prinsip kehati-hatian serupa terkait AI.”

Melihat ke masa depan,Bengio menekankan,Segala penerapan teknologi AI tetap akan mengubah gaya hidup manusia ke arah yang sehat.Misalnya, dalam hal biologi, AI akan memahami cara kerja tubuh dan cara kerja setiap sel, yang dapat merevolusi bidang-bidang seperti kedokteran dan penelitian serta pengembangan obat dalam hal iklim, dapat membantu menciptakan baterai yang lebih baik, penangkapan karbon yang lebih baik, dan lain-lain. dan penyimpanan energi yang lebih baik.

“Hal ini belum terjadi, namun menurut saya ini adalah produk teknologi hebat yang bisa kita buat dengan AI. Dan omong-omong, aplikasi-aplikasi ini – sebagian besar tidak berbahaya. Jadi kita harus melihat hal-hal yang jelas dapat membantu masyarakat. berinvestasi lebih banyak dalam menghadapi tantangannya,” kata Bengio di akhir pembicaraan.