memperkuat perlindungan informasi untuk mencegah risiko kejahatan deepfakes
2024-09-16
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
baru-baru ini, tersiar kabar di korea selatan bahwa "sekitar 220.000 pelaku menggunakan teknologi pemalsuan mendalam untuk mengubah wajah mereka guna membuat konten cabul tentang wanita yang tidak disebutkan namanya dan menyebarkannya secara luas." hal ini menyebabkan kepanikan di masyarakat korea selatan dan juga mengungkap risiko sosial dan kriminal dari deep pemalsuan. kembali ke mata publik lagi.
seiring dengan semakin mendalamnya penelitian dan pengembangan kecerdasan buatan (ai), teknologi deepfaking menjadi semakin matang. ketelitian yang tinggi, inklusivitas teknis, biaya rendah, relevansi pribadi, dan karakteristik lainnya telah membawa nilai guna yang besar, dari ai "digital from". dengan penggantian gambar film dan televisi dengan pengambilan gambar ulang, prospek penerapan teknologi palsu yang mendalam di beberapa industri menjadi semakin luas.
namun, sebagai “pedang bermata dua” yang tajam, sambil menikmati keuntungan dari teknologi deepfake, kita tidak dapat mengabaikan potensi risikonya yang sangat besar yang dapat membuat para penjahat menjadi lebih efisien, lebih tersembunyi, dan lebih berbahaya bagi masyarakat. pada tingkat individu, teknologi deepfake memungkinkan korban mencuri gambarnya demi keuntungan tanpa persetujuannya, yang merupakan pelanggaran hak potret pribadi. terlebih lagi, teknologi deepfake juga dapat digunakan oleh penipu untuk menyamar. misalnya, pada awal tahun ini, personel keuangan sebuah perusahaan hong kong ditipu sebesar hk$200 juta oleh manajer yang menyamar. bagi selebritas dan tokoh politik, teknologi palsu dapat menyebabkan kerusakan sosial dan kerusakan yang lebih besar. aktris amerika taylor swift pernah di-photoshop menjadi foto-foto tidak senonoh dan beredar luas di platform sosial. hal ini tidak hanya menyebabkan kerusakan serius pada citra pribadi dan komersialnya, tetapi juga mengganggu ketertiban sosial dan ketertiban umum. selain itu, teknologi deepfake juga dapat digunakan untuk memalsukan bukti, sehingga mempengaruhi kredibilitas bukti seperti foto dan video, sehingga mengganggu penilaian hakim dan menghalangi keadilan.
untuk mencegah risiko pemalsuan teknologi yang mendalam, prioritas pertama adalah memperkuat perlindungan informasi biometrik pribadi. dari perspektif tata kelola data, proses produksi deepfake dibagi menjadi tiga bagian: memperoleh data (terutama data informasi biometrik) - memproses data - mengeluarkan data (mengeluarkan konten palsu). penyalahgunaan teknologi deepfake pada dasarnya adalah memperoleh informasi biometrik orang lain tanpa izin atau persetujuan, dan kemudian menggunakan informasi tersebut untuk peniruan identitas. oleh karena itu, untuk meningkatkan mekanisme perlindungan informasi biometrik pribadi, kita harus secara ketat mengontrol masukan dan keluaran informasi palsu yang mendalam, untuk mencapai tata kelola sumber dan kendali titik akhir.
pertama, perlunya memperkuat mekanisme “izin pengetahuan” ketika mengumpulkan informasi biometrik. karena informasi biometrik pribadi memiliki karakteristik "keunikan" dan "kekekalan", sekali bocor dan disalahgunakan, hal itu akan menyebabkan kerugian besar bagi subjek informasi dan memiliki dampak jangka panjang. oleh karena itu, perlindungan informasi pribadi tingkat tertinggi harus dilakukan diterapkan. menurut "undang-undang perlindungan informasi pribadi republik rakyat tiongkok" dan ketentuan hukum terkait, pemberitahuan dikecualikan hanya dalam keadaan tertentu berdasarkan kebutuhan keamanan nasional dan keselamatan publik, investigasi kriminal dan prosedur peradilan, dll. kecuali dalam keadaan di atas, subjek mana pun harus secara ketat menerapkan mekanisme "izin pengetahuan" ketika mengumpulkan dan menggunakan informasi biometrik pribadi. pengumpulan tidak diperbolehkan tanpa persetujuan eksplisit. di sisi lain, perlu dijelaskan bahwa informasi yang diungkapkan seseorang secara online tidak berarti bahwa dia menyetujui pemrosesan ulang informasi biometrik pribadinya. saat ini, ada banyak skenario penerapan komersial untuk pemalsuan mendalam. hal ini diperlukan untuk menghilangkan kesalahpahaman tentang "akses gratis ke informasi online" oleh operator dan memenuhi kewajiban pemberitahuan mereka. selain itu, pengguna informasi harus memastikan efektivitas pemberitahuan tersebut. ini harus mencakup informasi spesifik seperti subjek penggunaan, tujuan pengumpulan, perilaku pemrosesan dan aliran informasi, dan juga harus mengadopsi metode pemberitahuan yang cukup menonjol, seperti pop-up dengan batas waktu wajib, dll.
kedua, meningkatkan pengawasan platform dan mekanisme penelusuran. platform harus fokus pada bidang-bidang yang banyak menggunakan pemalsuan, seperti pembuatan sekunder gambar asli, dan memperkuat pengawasan dan ketertelusuran melalui kombinasi tinjauan teknis dan tinjauan manual, seperti peninjauan ketat apakah karya generasi kedua memiliki izin. catatan dari subjek informasi yang digunakan, dll. jika sertifikat otorisasi yang tidak sah atau dipalsukan ditemukan digunakan sebagai informasi tentang orang lain, platform harus melarang penyebarannya dan mengambil tindakan pembatasan yang sesuai seperti melarang akun.
ketiga, membangun mekanisme akuntabilitas dan hukuman yang lebih serius melalui peraturan perundang-undangan yang tepat sasaran. mengenai pemalsuan informasi identitas, hukum pidana negara saya saat ini mengatur kejahatan penipuan dan peniruan identitas. unsur kejahatan yang pertama antara lain berpura-pura bahwa sasarannya adalah pegawai suatu lembaga negara, dan menipu harta benda, kehormatan, perlakuan, perasaan, dan lain-lain; yang terakhir ini ditujukan untuk hak identitas dalam prosedur tertentu seperti pemeriksaan. kejahatan pelanggaran informasi pribadi warga negara tidak termasuk “penggunaan informasi biometrik secara ilegal”. artinya, berdasarkan undang-undang yang berlaku saat ini, sulit untuk secara efektif memberantas kekacauan seperti juru bicara palsu dari sudut pandang hukuman pidana hanya dengan mengandalkan kejahatan penipuan dan peniruan identitas. oleh karena itu, kedepannya perlu ditambahkan tindak pidana baru yang mengatur secara khusus mengenai perilaku pencurian identitas orang lain. dalam hal ini, undang-undang as menetapkan bahwa "pengalihan, penggunaan, atau penyalahgunaan data identifikasi orang lain harus diperlakukan sebagai pencurian identitas", yang dapat memberikan referensi tertentu bagi negara kita. hukum pidana negara saya juga dapat menambahkan kejahatan "pencurian identitas" di masa depan. siapa pun yang menggunakan informasi biometrik orang lain tanpa persetujuan subjek informasi, dan keadaannya serius (seperti rasio klik atau jumlah penerusan yang dicapai). 500 kali), akan dianggap sebagai kejahatan pencurian identitas. jika juga terlibat dalam kejahatan lain (seperti penipuan), maka akan dianggap sebagai tindak pidana berat.
bilah tajamnya harus disarungkan, dan binatang itu harus dikurung. teknologi palsu yang dalam memang memiliki prospek penerapan yang bagus, namun penerapan sistem penerapan, pengawasan, dan hukuman yang lengkap merupakan prasyarat agar teknologi tersebut benar-benar menjadi alat yang berguna bagi umat manusia. dalam hal ini, semua pihak terkait harus mengutamakan sistem, membatasi batasannya dengan sistem hukum yang sehat, membatasi penerapannya dengan pengawasan yang efisien, mengarahkan pengembangannya dengan nilai dan etika yang benar, mencapai tujuan teknologi melayani masyarakat, dan memastikan bahwa pemalsuan mendalam adalah teknologi ini berada di jalur yang benar untuk memberi manfaat bagi umat manusia. (para penulis adalah peneliti di pusat penelitian pengembangan dan tata kelola digital provinsi zhejiang dan jaksa di kejaksaan rakyat kabupaten pingyang, provinsi zhejiang)
