berita

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

editor: departemen editorial hyz

[pengantar kebijaksanaan baru]selamat merayakan! baru saja, gubernur california mengumumkan bahwa dia akan memveto ruu pembatasan ai california. lecun, li feifei dan ng enda bergegas bercerita satu sama lain dengan penuh semangat dan merayakannya dengan dahi dan tangan mereka. bengio dan hinton, yang sangat mendukung ruu tersebut, tetap bungkam. openai, google, dan meta semuanya lolos dari bencana.

berat!

pagi ini, gubernur california gavin newsom secara resmi mengumumkan bahwa dia akan memveto ruu sb-1047!

bagi pengembang di seluruh dunia, pembatalan ruu sb-1047 berarti model open source dari produsen besar seperti meta dan google akan terus tersedia kembali.

keputusan ini bisa dikatakan sudah diperkirakan secara luas. nama-nama besar di lingkaran ai bergegas untuk memberi tahu satu sama lain dengan penuh semangat, dan ng enda, lecun, dan li feifei, yang memainkan peran kuat dalam oposisi, sangat gembira.

apa maksud dari veto gubernur kalifornia?

ruu sb-1047 sebenarnya sudah berakhir.

sb-1047 yang "terkenal" menetapkan bahwa sb 1047 akan mencegah sistem ai menyebabkan korban massal atau memicu insiden keamanan siber yang menelan biaya lebih dari $500 juta dengan meminta pertanggungjawaban pengembang.

begitu berita ini keluar, hal itu menimbulkan tentangan besar dari akademisi dan industri.

tahukah anda, 32 dari 50 perusahaan genai teratas dunia berbasis di california, dan mereka memainkan peran penting dalam menentukan masa depan ai.

menurut siaran pers dari kantor california, gavin menandatangani 18 ruu genai dalam sebulan terakhir, namun hanya memveto sb-1047.

selama 30 hari terakhir, gubernur telah menandatangani serangkaian undang-undang untuk memerangi konten deepfake, melindungi hak gambar digital artis, dan banyak lagi.

ruu ini mempunyai niat yang baik, namun dalam praktiknya terdapat beberapa permasalahan yang serius.

“saya rasa ini bukan cara terbaik untuk melindungi masyarakat dari ancaman nyata yang ditimbulkan oleh ai,” katanya.

sb-1047 tidak memperhitungkan apakah sistem ai diterapkan di lingkungan berisiko tinggi, melibatkan pengambilan keputusan penting, atau menggunakan data sensitif. sebaliknya, ruu tersebut menerapkan standar ketat pada fungsi paling dasar dalam penerapan sistem model besar.

dalam proses penolakan sb-1047, peran ibu baptis ai li feifei tidak dapat diabaikan.

profesor stanford, li feifei, dengan gembira mengatakan bahwa dia merasa sangat terhormat bisa bekerja sama dengan stanfordhai untuk membuka jalan bagi tata kelola ai yang bertanggung jawab di california.

guru ai andrew ng juga berterima kasih kepada li feifei atas penolakan publiknya terhadap sb-1047, dengan mengatakan bahwa upayanya dapat mendorong kebijakan ai yang lebih rasional untuk melindungi penelitian dan inovasi.

beberapa hari yang lalu, ketika ruu sb-1047 akan segera diselesaikan, ng dan lecun masih dengan cemas menyerukan dan melakukan pemungutan suara, karena khawatir jika ruu tersebut disahkan, ai open source dan seluruh ekosistem ai akan menimbulkan dampak yang mengerikan.

saat ini, perusahaan ai di seluruh california akhirnya bisa bernapas lega.

surat veto gubernur: tidak ditandatangani

"dengan ini saya mengembalikan ruu senat 1047 tanpa tanda tangan saya."

dalam surat tersebut, gubernur mengakui bahwa sb-1047 melebih-lebihkan ancaman yang ditimbulkan oleh penyebaran ai.

selain itu, dengan hanya berfokus pada model skala besar yang paling mahal, ruu tersebut sebenarnya memberikan “rasa aman yang palsu” kepada masyarakat.

dia menunjukkan bahwa model kepemilikan yang lebih kecil pun bisa sama berbahayanya.

singkatnya, peraturan ai dalam ruu ini mengorbankan “membatasi inovasi yang menguntungkan kepentingan publik.”

gubernur mengatakan bahwa ruu tersebut menerapkan standar yang paling ketat pada fungsi-fungsi paling dasar, yang bukan merupakan cara terbaik untuk melindungi masyarakat dari ancaman teknologi ai.

solusi terbaik adalah rencana yang tidak didasarkan pada analisis lintasan pengembangan empiris sistem dan kemampuan ai.

bos ai membencinya

akhir cerita ini bisa dikatakan sebagai akhir yang sangat memuaskan bagi kebanyakan orang kecuali bengio dan hinton.

mengenai sb-1047, banyak orang besar yang membencinya.

cerita keseluruhannya begini.

tahun lalu, gubernur california menandatangani perintah eksekutif yang menekankan bahwa california harus lebih berhati-hati dalam menghadapi genai dan menjadikan ai lebih etis, transparan, dan dapat dipercaya.

pada bulan februari tahun ini, california secara langsung menyusun rancangan undang-undang yang disebut "sb-1047 frontier ai large model safety innovation act", yang memberikan peraturan yang lebih spesifik untuk penggunaan model besar secara aman dan transparan.

namun, ada banyak konten yang tidak masuk akal di dalamnya, yang hanya mencekik nama perusahaan tertentu.

model seharga lebih dari 100 juta harus dicegah agar tidak menyebabkan "kerusakan besar"

misalnya, ada peraturan yang mengatur bahwa jika model besar yang biaya pengembangan dan pelatihannya melebihi 100 juta dolar as dan operasi floating pointnya melebihi 10^26 kali digunakan oleh seseorang untuk melakukan hal-hal ilegal setelah menjadi open source, maka pengembang model tersebut juga akan dihukum berat.

perlu anda ketahui bahwa model llama 3 meta, model gemma google, dll semuanya memenuhi kondisi ini.

ketentuan ini jelas sangat kontroversial.

misalnya, jika seseorang meretas sistem mengemudi otonom dan menyebabkan kecelakaan, apakah perusahaan yang mengembangkan sistem tersebut juga akan bertanggung jawab?

menurut ruu tersebut, pengembang diwajibkan untuk mengevaluasi turunan dari model mereka dan mencegah segala kerugian yang mungkin ditimbulkannya, termasuk jika pelanggan menyempurnakan model, atau memodifikasi model (jailbreak), atau menggabungkannya dengan perangkat lunak lain.

namun, setelah perangkat lunak sumber terbuka dirilis, orang dapat mengunduh model tersebut langsung ke perangkat pribadi mereka, sehingga pengembang tidak dapat mengetahui operasi spesifik pengembang atau pelanggan lain.

selain itu, banyak definisi yang tidak jelas dalam ruu tersebut.

misalnya, “cedera kritis” pada model ai digambarkan sebagai korban yang sangat besar, kerugian melebihi $500 juta, atau cedera “yang sama seriusnya” lainnya. namun dalam kondisi apa pengembang akan dimintai pertanggungjawaban? tanggung jawab apa yang ada di sana?

ruu ini tidak membahas hal ini.

selain itu, ruu ini berlaku untuk model ai yang menghabiskan lebih dari $100 juta untuk pelatihan, atau pengembang yang menghabiskan lebih dari $10 juta untuk menyempurnakan model yang ada, sehingga banyak perusahaan teknologi kecil berada dalam cakupan serangan.

sb-1047 juga memiliki beberapa ketentuan yang tidak masuk akal, misalnya jika suatu perusahaan membuka modelnya ke negara lain, maka harus menyerahkan semua informasi pelanggan, termasuk kartu identitas pelanggan, nomor kartu kredit, nomor rekening, dll.

pengembang juga harus membuat prosedur pengujian yang mengatasi risiko model ai dan harus mempekerjakan auditor pihak ketiga setiap tahun untuk mengevaluasi praktik keamanan ai mereka.

untuk produk ai yang dibuat berdasarkan model, protokol keamanan yang sesuai perlu dikembangkan untuk mencegah penyalahgunaan, termasuk tombol "berhenti darurat" yang mematikan seluruh model ai.

bill dikritik karena menutup mata terhadap risiko nyata

semakin banyak kritikus yang berpendapat bahwa ruu ini terlalu tidak berdasar.

hal ini tidak hanya akan menghambat inovasi ai, tetapi juga tidak akan membantu keamanan ai saat ini.

yang lebih ironis lagi adalah bahwa ruu tersebut menggunakan apa yang disebut sebagai “sakelar darurat” untuk mencegah terjadinya kiamat, namun mengabaikan risiko keamanan yang ada seperti deepfakes dan informasi palsu.

meskipun amandemen selanjutnya lebih longgar, sehingga mengurangi kewenangan pemerintah california untuk meminta pertanggungjawaban laboratorium ai.

namun meski begitu, sb-1047 akan memberikan dampak yang cukup besar terhadap produsen besar seperti openai, meta, dan google.

bagi beberapa perusahaan rintisan, pukulan ini bahkan bisa sangat menghancurkan.

kini setelah permasalahannya teratasi, baik perusahaan besar maupun startup kecil dapat bernapas lega.

raksasa turing putus

sb-1047 bahkan menyebabkan tiga besar turing "pecah" karena hal ini.

bos besar yang diwakili oleh lecun, li feifei, dan ng enda berkali-kali menentang dan tidak puas secara terbuka.

lecun bahkan menyalin pesan asli yang dia gunakan saat menyerukan moratorium penelitian ai - harap tangguhkan undang-undang ai selama enam bulan!

dua anggota tiga besar turing lainnya, yoshua bengio dan geoffrey hinton, secara mengejutkan sangat mendukung pengesahan ruu ini.

saya bahkan merasa persyaratan saat ini agak terlalu longgar.

sebagai peneliti senior kebijakan dan teknologi kecerdasan buatan, kami menulis surat ini untuk menyatakan dukungan kuat kami terhadap ruu senat california 1047.

sb 1047 menguraikan persyaratan dasar untuk regulasi efektif teknologi ini. kebijakan ini tidak menerapkan sistem perizinan, tidak mewajibkan perusahaan untuk mendapatkan izin dari lembaga pemerintah sebelum melakukan pelatihan atau menerapkan model, bergantung pada perusahaan untuk menilai sendiri risikonya, dan tidak meminta pertanggungjawaban perusahaan secara ketat bahkan ketika terjadi bencana.

peraturan ini relatif lunak jika dibandingkan dengan besarnya risiko yang kita hadapi.

membatalkan langkah-langkah dasar dalam ruu ini akan menjadi sebuah kesalahan bersejarah—kesalahan yang akan menjadi lebih jelas pada tahun mendatang seiring dengan dirilisnya sistem ai generasi berikutnya yang lebih canggih.

tapi bengio dan hinton jelas bukan mainstream.

ringkasnya, posisi berbagai raksasa teknologi dan perusahaan besar adalah sebagai berikut.