berita

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Laporan Kebijaksanaan Baru

Editor: Tao Zi Qiao Yang

[Pengantar Kebijaksanaan Baru]Agen AI tersebar di seluruh jaringan. Bagaimana cara mencegah penipuan di masa depan? Bagaimana cara melindungi privasi? OpenAI, Microsoft, MIT, dan 25 institusi lainnya bersama-sama mengusulkan "sertifikat kepribadian" yang dapat membuktikan bahwa Anda adalah orang sungguhan tanpa mengungkapkan informasi pribadi apa pun.

Dalam setengah bulan terakhir, seluruh Internet telah tertipu oleh "pelapor AI" dari OpenAI.

Semua orang pasti familiar dengan akun @iruletheworldmo "Saudara Strawberry", dan mereka akan menemukan postingan eksplosifnya dari waktu ke waktu.

Hingga Rabu ini, belum ada yang menunggu model besar GPT-4o yang dia prediksi. Sebaliknya, pendiri start-up AI MultiOn mengungkapkan identitasnya—

"Strawberry Brother" adalah agen AI.

Pada suatu waktu, banyak platform di Internet memprakarsai pelarangan postingan ulang terkait "Saudara Strawberry".

Di subreddit Reddit r/singularity sudah disematkan ke atas dan semua anggota dilarang menyebutkan konten terkait.

Beberapa orang bahkan langsung "memblokir" @iruletheworldmo.

Jimmy Apples, pelapor OpenAI yang sebenarnya, juga percaya apa yang dikatakan agen AI itu benar.

Selanjutnya, agen AI juga meluncurkan polling online apakah saya lulus tes Turing. Tanpa diduga, lebih dari separuh orang memberikan jawaban positif.

Dan ini hanyalah AI.

Xiao Zha pernah berkata, "Di masa depan, setiap orang akan memiliki asisten AI, dan segera akan ada miliaran agen AI yang menjelajahi Internet atas nama kita."

Jika hal ini terjadi suatu hari nanti, bagaimana orang bisa mengetahui apakah suatu akun media sosial adalah bot secara sekilas? Bagaimana saya bisa membuktikan identitas saya sebagai "orang sungguhan" tanpa mengirimkan informasi pribadi apa pun?

Para peneliti dari 25 institusi termasuk OpenAI, Microsoft, MIT, dan UCB bersama-sama mengusulkan teknologi verifikasi - "Personhodd Credentials (PHC)".

PHC dapat melindungi privasi pengguna sambil membuktikan di Internet bahwa "Anda adalah Anda" dan bahwa Anda adalah manusia nyata, bukan AI.

Alamat makalah: https://arxiv.org/pdf/2408.07892

Kepala ilmuwan dan kepala staf Microsoft mengatakan, "Membangun identitas manusia secara online sambil menjaga privasi adalah salah satu tantangan utama era AI."

Yang lain mengatakan penelitian ini tepat waktu dan menggugah pikiran.

Mengapa Anda mengatakan itu?

Data 3 miliar orang bocor, dan tidak ada solusi perlindungan privasi?

Selain kasus "Strawberry Brother" di awal, data hampir 3 miliar orang baru-baru ini bocor, melanda seluruh Amerika Serikat, dan ini bisa disebut sebagai salah satu insiden data terbesar dalam sejarah.

Ini mencakup informasi pribadi rinci penghuni, seperti nama, email, alamat, nomor telepon, nomor jaminan sosial, dan alamat email.

Yang lebih mengerikan lagi, data alamatnya bisa ditelusuri hingga 30 tahun yang lalu, bahkan informasi kerabat yang sudah meninggal lebih dari 20 tahun pun bisa digali.

Oleh karena itu, anonimitas selalu menjadi ukuran yang diambil oleh banyak orang yang sadar akan privasi untuk melindungi diri mereka sendiri.

Namun terkadang, untuk beberapa verifikasi penting, Anda harus menyerahkan informasi pribadi Anda.

Saat ini, semakin banyak AI yang lebih kuat bermunculan, dan metode yang digunakan oleh penjahat untuk menipu dan menyebarkan informasi palsu lebih halus, dan mereka dapat dengan mudah memperluas penyebarannya ke skala yang lebih besar.

Selain itu, ambang batas dan biaya AI telah dikurangi sehingga lebih mudah diperoleh.

Ketika gambar/video/suara yang dihasilkan AI menjadi semakin realistis, misalnya pada aplikasi kencan, bagaimana Anda bisa yakin bahwa orang tersebut adalah orang sungguhan?

Solusi yang ada saat ini, seperti kode verifikasi, jelas tidak cukup;

Ini juga berarti bahwa metode verifikasi manusia-mesin tradisional gagal.

Lagi pula, dengan kemajuan AI di berbagai bidang seperti pengenalan gambar, metode ini menjadi semakin tidak dapat diandalkan.

Saat ini, sangatlah penting untuk menemukan keseimbangan yang dapat secara efektif mencegah penipuan AI tanpa mengorbankan privasi pengguna dan inklusivitas Internet secara berlebihan.

Hal ini juga merupakan efek yang diharapkan dapat dilihat oleh para peneliti dari OpenAI, Microsoft, dan institusi lain dalam penerapan praktis melalui penelitian.

Buktikan bahwa Anda adalah manusia, bukan AI

Seperti yang dikatakan peneliti Steven Adler, alat perlindungan privasi "Personality Credential" (PHC) dapat membuktikan bahwa Anda adalah seseorang, namun tidak akan mengungkapkan "siapa Anda".

Secara khusus, “kredensial kepribadian” didukung oleh dua elemen yang tidak dapat ditiru oleh AI:

"Otentikasi dunia nyata" dan "teknologi enkripsi aman".

Dengan kata lain, betapapun bagusnya AI, ia tidak bisa lepas dari dua poin ini.

Singkatnya, PHC adalah sertifikat digital yang memungkinkan pengguna membuktikan kepada layanan online bahwa mereka adalah orang sungguhan dan bukan AI, tanpa harus mengungkapkan informasi pribadi apa pun.

Sertifikat semacam ini dapat diterbitkan oleh organisasi terpercaya, seperti pemerintah.

Dan menurut definisi penulis, PHC dapat berupa sistem lokal atau global dan belum tentu berbasis teknologi biometrik.

Agen AI membanjiri seluruh jaringan, strategi terbaru untuk mencegah penipuan

Kedua penulis makalah ini, Nouran Soliman dan Tobin South, adalah dua mahasiswa pascasarjana di MIT. Mereka baru-baru ini memperkenalkan teknologi tersebut secara singkat dalam sebuah wawancara dengan MIT News, membahas kebutuhan, risiko, dan cara menggunakannya dengan cara yang aman dan aman. cara yang adil.

Perlunya “sertifikat kepribadian”

Meskipun ketika berbicara mengenai AI, banyak diskusi publik berfokus pada chatbots seperti ChatGPT, namun kemampuan kecerdasan buatan jelas lebih dari itu.

Keterlibatan AI di Internet menunjukkan dua karakteristik: indistinguishability dan scalability, yang mendorong terus bertumbuhnya penipuan yang didorong oleh AI.

AI dapat membuat akun di jejaring sosial, memposting konten palsu, berpura-pura menjadi manusia, atau memperkuat konten tertentu secara besar-besaran melalui algoritme, atau bahkan melakukan serangan skala besar, yang menimbulkan banyak risiko.

Hal ini akan mengubah pengalaman kita menjelajahi media sosial, dan akan semakin sulit membedakan AI yang kompleks dengan manusia, serupa dengan masalah “kembaran digital” tanpa persetujuan.

"Kredensial kepribadian" memberikan solusi potensial, seperti untuk memfilter konten online dan menentukan tingkat kepercayaan dalam menerima informasi.

Apa itu sertifikat kepribadian? Bagaimana cara memastikan keamanan?

Seperti disebutkan sebelumnya, "sertifikat orang" dapat membuktikan bahwa Anda adalah manusia tanpa mengungkapkan informasi apa pun tentang identitas Anda.

Penulis mengatakan bahwa betapapun canggihnya AI, ia tidak dapat melakukan dua hal yang dapat dilakukan manusia – mendapatkan dokumen dunia nyata secara offline, dan memalsukan atau memecahkan sistem enkripsi canggih.

Jadi "kredensial kepribadian" menggabungkan dua gagasan ini - keamanan melalui kriptografi, dan fakta bahwa manusia masih memiliki beberapa kemampuan yang tidak dimiliki AI, untuk benar-benar membuktikan bahwa Anda adalah manusia.

Untuk mendapatkan "sertifikat kepribadian", pengguna harus memiliki hubungan dengan pemerintah, seperti NPWP atau SIM, dan harus ada partisipasi offline.

Melalui teknologi privasi, pengguna dapat membuktikan fakta ini tanpa membagikan informasi sensitif apa pun tentang identitas mereka.

Penerapan "kredensial kepribadian" akan relatif mudah. ​​Hal ini bergantung pada infrastruktur dan teknologi keamanan yang telah ada selama beberapa dekade, seperti penggunaan pengidentifikasi seperti akun email untuk masuk ke layanan online. PHC dapat melengkapi metode yang sudah ada.

Namun, penggunaan "sertifikat kepribadian" oleh pengguna harus bersifat opsional dan bukan wajib, dan penyedia layanan dapat membiarkan orang memilih apakah akan menggunakannya.

Menjadi opsional berarti kami belum dapat mengizinkan pengguna untuk berinteraksi hanya dengan manusia nyata dan terverifikasi secara online, sepenuhnya mengecualikan partisipasi AI di Internet.

Namun dalam skenario seperti belanja online atau negosiasi transaksi, jika Anda ingin memastikan bahwa pihak lain adalah entitas manusia, "sertifikat kepribadian" bisa berguna.

Apa risikonya? Bagaimana risiko-risiko ini dapat dikurangi?

Salah satu risikonya berasal dari cara penerapannya. Jika satu entitas tertentu adalah satu-satunya penerbit "sertifikat kepribadian", atau jika sistem dirancang sedemikian rupa sehingga seluruh kekuasaan diberikan kepada satu entitas, hal ini dapat menimbulkan kekhawatiran mengenai terlalu banyaknya konsentrasi kekuasaan.

Jika Anda berada dalam lingkungan sosiopolitik yang sulit atau berbahaya, diharuskan pergi ke lokasi offline untuk mendapatkan sertifikat karakter dapat menjadi hal yang menakutkan dan membuat orang enggan berbagi informasi secara online.

Salah satu solusi yang mungkin adalah dengan menyiapkan beberapa penerbit "sertifikat kepribadian".

Makalah kami berupaya mendorong pemerintah, pembuat kebijakan, pemimpin, dan peneliti untuk menginvestasikan lebih banyak sumber daya ke berbagai arah penerapan dan mengeksplorasi dampak yang lebih luas dari teknologi ini terhadap masyarakat, memastikan bahwa kebijakan dan peraturan yang tepat diterapkan.

AI berkembang sangat cepat, jauh lebih cepat dibandingkan kemampuan pemerintah untuk beradaptasi. Oleh karena itu, pemerintah dan perusahaan besar harus mulai berpikir untuk mengadaptasi sistem digital agar mereka siap membuktikan bahwa pengguna adalah manusia sekaligus melindungi privasi dan keamanan, sehingga kita dapat mempersiapkan masa depan dengan AI yang lebih canggih.

Pengenalan teknis

Bagaimana teknologi "sertifikat kepribadian" diterapkan? Makalah setebal 63 halaman ini memberi kita jawaban yang sangat rinci.

Alamat makalah: https://arxiv.org/pdf/2408.07892

Pertama, “kredensial kepribadian” disimpan secara digital di perangkat pemegangnya. Untuk menjamin kredibilitas dan privasi, sistem PHC perlu memenuhi dua prasyarat:

- Setiap orang hanya dapat memegang satu "sertifikat kepribadian" dan perlu diverifikasi ulang secara berkala untuk mencegah pencurian.

- Pengguna yang memegang PHC berinteraksi secara anonim dengan penyedia layanan. Sekalipun penerbit Puskesmas dan penyedia layanan berkolusi, mereka tidak dapat melacak aktivitas digital pengguna, apalagi menghubungkan aktivitas pengguna di berbagai platform.

Proses registrasi dan penggunaan sistem PHC ditunjukkan pada Gambar 3:

Berdasarkan permintaan, pengguna hanya perlu memberikan informasi minimum yang diperlukan kepada penerbit. Penerbit bertanggung jawab untuk memverifikasi bahwa pengguna adalah manusia dan pengguna tersebut belum pernah terdaftar di Puskesmas. Selain itu, penerbit mempunyai hak untuk mencabut atau mengembalikan PHC tersebut.

Saat pengguna menggunakan layanan digital pihak ketiga, mereka dapat memberikan PHC dan menjalani "bukti tanpa pengetahuan" untuk menyelesaikan verifikasi identitas.

Selain Puskesmas, penyedia layanan tidak dapat memperoleh informasi tambahan lainnya. Setiap pengesahan terbatas pada aplikasi tertentu, sehingga platform yang berbeda tidak dapat dihubungkan ke pengguna yang sama melalui PHC.

Makalah ini mengusulkan bahwa merancang beberapa penerbit untuk sistem PHC merupakan rencana implementasi yang ideal. Pengguna dapat memilih dari beberapa penerbit untuk mendaftar ke PHC, namun setiap penerbit hanya dapat memperoleh satu sertifikat, sehingga mengurangi penipuan skala besar sekaligus memastikan privasi pengguna.

Sistem PHC ini memiliki tiga keuntungan yang diharapkan:

- Mengurangi pengaruh pengguna "boneka" dan mencapai masukan nyata dan partisipasi manusia nyata dalam skala besar di Internet

- Mengurangi serangan bot

- Biarkan asisten AI benar-benar menjadi perwakilan pengguna yang dapat dipercaya alih-alih dimanipulasi oleh pengguna jahat

Pada saat yang sama, agar PHC dapat diterapkan dalam kehidupan nyata dengan cara yang adil dan aman, empat tantangan berikut harus dihadapi:

• akses yang adil

Verifikasi PHC yang sering dilakukan dapat menyebabkan gesekan dan frustrasi selama penggunaan, sehingga berdampak pada pengguna yang tidak terbiasa dengan teknologi ini, terutama orang lanjut usia. Penting juga untuk memastikan bahwa pengguna tanpa Puskesmas tetap dapat menggunakan layanan digital.

• kebebasan berekspresi

Pengguna mungkin khawatir tentang PHC yang menghubungkan aktivitas digital mereka dengan identitas asli mereka secara offline, sehingga mengurangi kesediaan mereka untuk mengungkapkan pendapat mereka yang sebenarnya secara online.

• pemeriksaan daya

Tantangan besar yang dihadapi ekosistem PHC adalah pemusatan kekuasaan pada beberapa institusi, terutama penerbit PHC dan penyedia layanan besar, yang keputusan mengenai penggunaan PHC akan mempunyai dampak yang signifikan.

• Ketahanan terhadap serangan dan kesalahan

Seperti sistem digital lainnya, sistem PHC rentan terhadap serangan dan eksploitasi dari banyak pihak, seperti penerbit sertifikat, penyedia layanan, dan pengguna jahat. Pertimbangkan untuk menggunakan praktik terbaik sebelumnya dalam keamanan siber, seperti pencegahan DoS dan memblokir penyerang mengakses data sensitif.

Di akhir makalah, penulis mengusulkan langkah selanjutnya yang harus diambil.

Pertama, beradaptasi dengan sistem jaringan digital yang ada dan bersiap menghadapi dampak kecerdasan buatan.

Lebih khusus lagi, kita perlu memikirkan kembali bagaimana AI akan mengubah Internet dan komunikasi.

Kedua, memberikan prioritas pada “sertifikat kepribadian” sebagai solusi mendesak.

Gambar terakhir merangkum semua poin penting dari makalah ini.

Perlu disebutkan bahwa untuk mencegah platform Internet mengumpulkan informasi secara berlebihan atas dasar "sistem nama asli", Kementerian Keamanan Publik dan Administrasi Dunia Maya Tiongkok baru-baru ini meluncurkan "Kartu ID Online".

Yang Anda butuhkan hanyalah ponsel dengan fungsi NFC, dan setelah melakukan pengenalan kartu ID dan pengenalan wajah serta menghubungkan nomor ponsel, Anda bisa mendapatkan "kartu ID online" virtual.

"Nomor jaringan" di atas terdiri dari huruf dan angka, tidak berisi informasi identitas teks yang jelas, dan dapat langsung digunakan untuk otentikasi nama asli di Taobao, WeChat, dan aplikasi lain, tanpa perlu memasukkan informasi seperti nama, nomor ID , dll.

Dalam hal melindungi privasi pribadi, menurut Anda apa solusi yang lebih baik?

Referensi:

https://x.com/sjgadler/status/1824245211322568903

https://news.mit.edu/2024/3-questions-proving-humanity-online-0816

https://www.engadget.com/cybersecurity/national-public-data-confirms-breach-that-expose-americans-social-security-numbers-100046695.html