berita

laporan jantung mesin

penyunting: zhang qian

niat awalnya bagus, namun pendekatannya masih dipertanyakan.

baru saja, sb 1047 yang telah dibahas lebih dari setengah tahun akhirnya berakhir: gubernur california gavin newsom memveto ruu tersebut.

nama lengkap sb 1047 adalah "inovasi aman dan aman untuk undang-undang kecerdasan buatan frontier", yang bertujuan untuk menetapkan standar keamanan yang jelas untuk model ai berisiko tinggi agar tidak disalahgunakan atau menyebabkan bencana.

secara khusus, rancangan undang-undang tersebut berupaya mengatur kecerdasan buatan pada tingkat model, dan diterapkan pada model yang dilatih di atas ambang batas komputasi dan biaya tertentu. namun, jika dihitung secara ketat berdasarkan perhitungan yang ditentukan dan ambang batas biaya, semua model arus utama berskala besar yang ada di pasaran akan dianggap "berpotensi berbahaya". selain itu, undang-undang tersebut mengharuskan perusahaan pengembang di balik model tersebut untuk memikul tanggung jawab hukum atas penggunaan hilir atau modifikasi modelnya, yang diyakini memiliki "efek mengerikan" pada peluncuran model sumber terbuka.

tautan tagihan: https://leginfo.legislature.ca.gov/faces/billtextclient.xhtml?bill_id=202320240sb1047

ruu tersebut disahkan pada bulan februari tahun inisenatdiusulkan, dan menjadi kontroversial sejak saat itu. li feifei, yann lecun,andrew ngsemua menentang. beberapa waktu lalu, li feifei secara pribadi menulis artikel yang menjelaskan banyak dampak buruk yang mungkin ditimbulkan oleh ruu tersebut. lusinan guru dan mahasiswa di universitas california juga menandatangani surat bersama untuk menentang ruu ini (lihat "li feifei secara pribadi menulis artikel, dan puluhan ilmuwan menandatangani surat bersama untuk menentang ruu pembatasan ai di california"). namun banyak juga yang mendukung ruu tersebut, seperti musk, hinton, dan bengio. sebelum ruu tersebut diserahkan kepada gubernur california, terjadi banyak perdebatan sengit antara kedua belah pihak.

sekarang semuanya telah beres. dalam pernyataan vetonya, gubernur newsom menyebutkan beberapa faktor yang mempengaruhi keputusannya, termasuk dampak dari ruu tersebutaibeban yang ditanggung perusahaan, kepemimpinan california di bidangnya, dan kritik bahwa ruu tersebut mungkin terlalu luas.

setelah berita tersebut dirilis, yann lecun mengucapkan terima kasih kepada gubernur california atas nama komunitas open source.

ng menegaskan upaya yann lecun untuk menjelaskan kekurangan ruu tersebut kepada publik.

namun, sebagian orang senang dan sebagian lagi khawatir - senator california scott wiener, sponsor ruu tersebut, mengatakan dia sangat kecewa dengan hasilnya. dia menulis dalam sebuah postingan bahwa veto tersebut "merupakan kemunduran bagi siapa pun yang percaya pada pengawasan perusahaan-perusahaan besar yang membuat keputusan penting yang berdampak pada keselamatan dan kesejahteraan publik serta 'masa depan planet kita.'".

perlu dicatat bahwa penolakan sb 1047 tidak berarti california menutup mata terhadap masalah keselamatan ai, seperti yang disebutkan gubernur newsom dalam pernyataannya. pada saat yang sama, dia juga mengumumkan bahwa li feifei dan pihak lainnya akan membantu memimpin california merumuskan langkah-langkah perlindungan yang bertanggung jawab atas penerapan kecerdasan buatan generatif.

gubernur california: sb 1047 memiliki banyak masalah

mengenai sb 1047, gubernur california newsom yang mengambil keputusan akhir. mengapa dia memveto ruu tersebut? sebuah pernyataan memberikan jawabannya.

tautan pernyataan: https://www.gov.ca.gov/wp-content/uploads/2024/09/sb-1047-veto-message.pdf

kutipan dari pernyataan tersebut adalah sebagai berikut:

california adalah rumah bagi 32 dari 50 perusahaan al terkemuka di dunia, pionir kemajuan teknologi penting dalam sejarah modern. kami adalah pemimpin dalam bidang ini karena lembaga penelitian dan pendidikan kami, tenaga kerja kami yang beragam dan termotivasi, serta penanaman ide-ide bebas yang berjiwa bebas. sebagai manajer dan inovator masa depan, saya mengambil tanggung jawab untuk mengatur industri ini dengan serius.

sb 1047 membesar-besarkan pembahasan tentang kemungkinan ancaman yang ditimbulkan oleh pengerahan al. kunci dari perdebatan ini adalah apakah ambang batas peraturan harus didasarkan pada biaya dan jumlah perhitungan yang diperlukan untuk mengembangkan model al, atau apakah risiko sebenarnya dari sistem harus dinilai tanpa memperhitungkan faktor-faktor ini. diskusi global ini terjadi ketika kemampuan al terus berkembang pada tingkat yang mengkhawatirkan. pada saat yang sama, strategi dan solusi untuk mengatasi risiko bencana berkembang pesat.

dengan hanya berfokus pada model termahal dan terbesar, sb 1047 menciptakan kerangka peraturan yang dapat memberikan rasa aman palsu kepada masyarakat dalam mengendalikan teknologi yang berkembang pesat ini. model yang lebih kecil dan terspesialisasi mungkin sama berbahayanya, atau bahkan lebih berbahaya, dibandingkan model yang ditargetkan oleh sb 1047.

kemampuan beradaptasi sangat penting karena kita berpacu dengan waktu untuk mengatur teknologi yang masih dalam tahap awal. hal ini memerlukan keseimbangan yang rumit. meskipun sb 1047 memiliki niat baik, namun hal ini tidak memperhitungkan apakah sistem ai diterapkan di lingkungan berisiko tinggi, melibatkan pengambilan keputusan penting, atau menggunakan data sensitif. sebaliknya, ruu tersebut menerapkan standar yang ketat bahkan pada fungsi-fungsi yang paling mendasar sekalipun—selama fungsi-fungsi tersebut diterapkan dalam sistem yang besar. menurut saya ini bukan cara terbaik untuk melindungi masyarakat dari ancaman nyata teknologi ini.

saya setuju dengan penulis bahwa kita tidak bisa menunggu sampai terjadi bencana besar untuk mengambil tindakan guna melindungi masyarakat. california tidak akan melepaskan tanggung jawabnya. protokol keamanan harus diadopsi. pengamanan yang proaktif harus diterapkan, dan harus ada konsekuensi yang jelas dan dapat ditegakkan bagi pelaku kejahatan. namun, hal yang tidak saya setujui adalah bahwa untuk menjaga keamanan publik, kita harus menerima solusi tanpa analisis empiris terhadap sistem dan kemampuan ai. pada akhirnya, kerangka kerja apa pun yang mengatur ai secara efektif harus mengimbangi teknologi itu sendiri.

bagi mereka yang mengatakan bahwa kita tidak menyelesaikan masalah ini, atau bahwa california tidak mempunyai peran dalam mengatur potensi dampak teknologi ini terhadap keamanan nasional, saya tidak setuju. mengambil pendekatan ini hanya di california mungkin masuk akal, terutama karena tidak adanya tindakan federal dari kongres, namun pendekatan ini harus didasarkan pada bukti empiris dan ilmu pengetahuan.

institut keamanan ai as, yang merupakan bagian dari institut sains dan teknologi nasional, sedang mengembangkan panduan risiko keamanan nasional berdasarkan metode berbasis bukti untuk melindungi terhadap risiko yang jelas terhadap keselamatan publik.

berdasarkan perintah eksekutif yang saya keluarkan pada bulan september 2023, lembaga-lembaga di seluruh pemerintahan saya sedang melakukan analisis risiko terhadap potensi ancaman dan kerentanan terhadap penggunaan ai di infrastruktur penting california.

ini hanyalah beberapa contoh pekerjaan yang kami lakukan, dipimpin oleh para ahli, untuk memperkenalkan praktik manajemen risiko ai kepada pembuat kebijakan berdasarkan ilmu pengetahuan dan fakta.

melalui upaya ini, saya telah menandatangani lebih dari selusin rancangan undang-undang dalam 30 hari terakhir untuk mengatur risiko spesifik dan diketahui yang ditimbulkan oleh ai.

lebih dari selusin rancangan undang-undang ditandatangani dalam 30 hari, yang merupakan inisiatif keselamatan ai intensif di california

dalam keterangannya, newsom menyebutkan ia menandatangani lebih dari selusin ruu dalam 30 hari. ruu ini mencakup berbagai topik, termasuk menindak konten deepfake yang eksplisit, mewajibkan penambahan tanda air pada konten yang dibuat oleh ai, melindungi potret digital para artis, hak cipta atas suara atau kemiripan dengan tokoh yang telah meninggal, privasi konsumen, dan eksplorasi dampak memasukkan kecerdasan buatan ke dalam pengajaran.

tautan ke daftar tagihan: https://www.gov.ca.gov/2024/09/29/governor-newsom-announces-new-initiatives-to-advance-safe-and-responsible-ai-protect-californians/

menanggapi kurangnya analisis ilmiah dalam penilaian risiko ai oleh sb 1047, gubernur mengumumkan bahwa ia telah meminta para pakar ai generatif terkemuka di dunia untuk membantu california mengembangkan pagar pembatas yang layak untuk menerapkan ai generatif.

selain li feifei, tino cuéllar, anggota national academy of sciences committee on the social and ethical impact of computing research, dan jennifer tour chayes, dekan school of computing, data science and society di university of california, berkeley, juga anggota program ini.

pekerjaan mereka berfokus pada analisis lintasan empiris dan berbasis sains dari model-model mutakhir serta kemampuan dan risiko yang menyertainya. perjalanan pekerjaan ini masih panjang.

baca juga:https://www.gov.ca.gov/2024/09/29/governor-newsom-announces-new-initiatives-to-advance-safe-and-responsible-ai-protect-californians/