lima kekacauan besar pada foto yang dihasilkan ai ②｜bisnis dalam “foto pornografi”: perubahan wajah dan stripping, pelarangan berulang kali namun sulit dihentikan
2024-09-27
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
di era dimana ai ada dimana-mana dan hambatan masuknya hampir tidak terbatas, jika anda belum mencoba menggunakan ai untuk menghasilkan gambar atau video (selanjutnya secara kolektif disebut gambar yang dihasilkan ai), maka hal tersebut memang belum cukup “trendi”.
seperti teknologi baru lainnya, teknologi pencitraan ai telah penuh dengan kontroversi sejak kelahirannya, dengan bunga dan duri yang menyertainya. pendukungnya melihatnya sebagai revolusi teknologi yang disruptif, sementara penentangnya melihatnya sebagai momok. apalagi dalam dua tahun terakhir, telah muncul model data ai besar yang diwakili oleh chatgpt dan sora. pembuatan gambar ai telah menjadi tren populer dan dicari oleh semakin banyak netizen. meskipun memberikan banyak kemudahan, kejutan, dan kenyamanan bagi orang-orang, hal ini juga tak terhindarkan mengungkap banyak masalah negatif seperti tidak masuk akal, menjengkelkan, dan bahkan ilegal.
ai tidak bersalah, kuncinya terletak pada cara menggunakannya. hanya dengan berpegang pada etika dan supremasi hukum, teknologi dapat memberikan manfaat yang lebih baik bagi umat manusia. hari ini, upstream news meluncurkan laporan khusus tentang "lima kekacauan dalam pembuatan gambar ai", dengan fokus pada berbagai kekacauan yang terungkap di bidang pembuatan gambar ai dalam beberapa tahun terakhir, menelusuri sumbernya, menganalisis sebab dan akibat, serta mengeksplorasi solusi, di untuk berkontribusi pada pengembangan manfaat industri ai yang sehat.
pada bulan februari 2024, tuan shang (nama samaran), yang tinggal di distrik yubei, chongqing, tiba-tiba menerima pesan teks berisi foto telanjang hitam putih. dalam gambar tersebut, tuan shang sedang menggendong seorang wanita muda, berbaring di tempat tidur di sebuah hotel, dengan tulisan tambahan "saya memiliki semua data gambar anda, harap segera hubungi saya" dan memberikan nomor telepon. karena dia biasanya menjaga kebersihan dirinya dan akrab dengan akal sehat seperti penipuan internet dan perubahan wajah ai, tuan shang tahu bahwa dia ditipu oleh penjahat yang menggunakan ai untuk menghasilkan foto, tetapi dia mengabaikannya pengalaman dan membaginya dengan grup teman wechat-nya, menerima banyak ejekan yang baik hati. dalam hal ini, tuan shang mengatakan kepada reporter dari upstream news (email laporan: [email protected]), “saya tahu bahwa gambar itu disintesis oleh ai, menggunakan wajah di kartu identitas saya untuk membuat tubuh telanjang saya penasaran, dari mana para penipu ini menemukan foto identitas dan nomor ponsel saya?” investigasi yang dilakukan oleh reporter berita hulu menemukan bahwa menurut laporan dari berbagai media dan polisi, penipuan pertukaran wajah ai serupa telah terjadi dalam beberapa tahun terakhir, dan banyak orang mempercayai hal tersebut benar, sehingga mengakibatkan mereka ditipu sejumlah besar aset dan bahkan menghancurkan keluarga mereka. banyak penjahat yang memproduksi dan menyebarkan gambar dan video serta melakukan penipuan juga dihukum berat oleh hukum.
korban: ada yang ditipu uangnya, ada pula yang wajahnya diubah.
meskipun shang dari chongqing menerima pesan teks pemerasan dari penjahat, dia beruntung bisa melarikan diri. sebaliknya, wang dari weihai, provinsi shandong juga mengalami penipuan yang sama. dia dimintai uang sebesar 680.000 yuan dan akhirnya dipaksa untuk mentransfer 200.000 yuan.
isi pesan teks yang diterima tuan wang hampir sama persis dengan isi pesan teks tuan shang. tanpa berpikir panjang, dia memutar nomor yang ada di pesan teks tersebut. pihak lain secara akurat menyebutkan nama dan tempat kerjanya, dan memberi tahu wang bahwa dia dapat membeli video tersebut dengan mentransfer 680.000 yuan. jika dia tidak membayar, video tersebut akan dipublikasikan. di bawah ancaman pihak lain, wang mempercayainya. selanjutnya, wang mengumpulkan dana dari berbagai pihak dan mentransfer 200.000 yuan. namun, 200.000 yuan ini sama sekali tidak dapat memuaskan selera pihak lain. belakangan, polisi menghubungi wang.
setelah mengamati dengan cermat, polisi yang menyelidiki kasus tersebut menemukan bahwa meskipun wajah di foto dalam pesan teks itu mirip dengan wang, bentuk wajah dan bentuk tubuhnya sangat berbeda dengannya. selanjutnya, polisi segera melakukan operasi penghentian pembayaran darurat pada dua rekening bank yang ditransfer oleh wang. setelah meneliti dan menganalisis rekening penagihan, polisi mengunci informasi identitas tersangka kriminal zheng dan zhong. pada bulan januari tahun ini, polisi weihai menangkap dua tersangka dan membawa mereka ke pengadilan.
tuan shang dan tuan wang mengalami penipuan pesan teks, dan avatar mereka dibuat menjadi foto telanjang oleh ai.
menurut polisi weihai, dalam kasus ini, tersangka pertama kali mengumpulkan video, foto dan informasi terkait korban melalui internet dan saluran lainnya. kemudian gunakan teknologi ai pengubah wajah ke ps untuk mensintesis apa yang disebut "video tidak senonoh" atau "foto telanjang", dan kemudian mengirimkannya secara akurat ke objek yang dipilih melalui sms, email, dan saluran lain dan akhirnya meninggalkan informasi kontak melaporkan, menyebarkan dan menginformasikan keluarga mereka dan cara-cara lain untuk mengancam target yang dipilih dan mengharuskan korban untuk mentransfer uang ke rekening bank yang ditunjuk. polisi mengingatkan bahwa jika menghadapi situasi seperti itu, anda harus memperhatikan penyimpanan bukti dan menghubungi polisi tepat waktu.
dibandingkan dengan pria, wanita muda dan cantik, terutama selebritis wanita terkenal di internet, lebih mungkin terpengaruh oleh perubahan wajah ai dan "penghapusan pakaian sekali klik" ai. foto dan video bahkan dijadikan konten berbayar untuk dijual. pada bulan juli tahun lalu, seorang blogger selebriti internet wanita dengan lebih dari 4 juta penggemar menemukan bahwa banyak penggemar meninggalkan pesan yang mengatakan bahwa mereka telah melihat "video porno" miliknya tidak bersalah akan memeriksa diri sendiri dan rumor tersebut pada akhirnya akan berlalu. "sampai suatu hari seorang teman meneruskan video porno di mana pahlawan wanita itu mirip dengannya, dia menyadari bahwa dia telah" diubah wajahnya "dengan jahat dan bahwa dia telah melakukannya. dijadikan video porno.
menurut pemberitaan media pada saat itu, dalam daftar harga penjual, ratusan selebriti internet dibagi menurut tingkat penggemarnya, mulai dari kurang dari 500.000 penggemar hingga lebih dari 10 juta penggemar, dan video porno pertukaran wajah yang sesuai dijual. untuk 30 yuan hingga 50 yuan. selain itu, ada banyak bintang wanita di tabel tersebut. seorang penjual mengatakan bahwa dia memiliki lebih dari 80 selebriti dan lebih dari 15.000 foto. jika anda membeli semuanya, harganya hanya 60 yuan, dan 23 video akan diberikan sebagai hadiah. penjualnya juga mengatakan, jika anda membeli foto tukar wajah seorang selebriti, anda akan dikenakan biaya sesuai kuantitas. anda bisa membeli 300 foto seharga 5 yuan.
selain itu, banyak foto perempuan biasa di kehidupan sehari-hari seperti sekolah, pusat perbelanjaan, kantor, kereta bawah tanah, dll juga menjadi sasaran pencurian wajah ai, wajahnya diubah atau pakaiannya diambil oleh ai ribuan atau bahkan puluhan ribu gambar terkait dilihat.
foto seorang wanita muda di guangzhou “menanggalkan pakaian” dengan satu klik saat naik kereta bawah tanah.
produser: memalsukan hampir 7.000 foto telanjang, dengan harga masing-masing 1,5 yuan
sebagai produser konten pornografi dan cabul, banyak penulis yang bersembunyi di dunia maya telah dihukum berat oleh hukum.
pada bulan juli tahun ini, cctv news melaporkan kasus ilegal di mana hampir 7.000 gambar porno dipalsukan menggunakan teknologi ai. tersangka kriminal bai moumou tinggal di beijing dan awalnya adalah seorang teknisi untuk sebuah perusahaan internet. dia menggunakan teknologi ai "penghapusan pakaian sekali klik" untuk memalsukan hampir 7.000 gambar cabul dan menjualnya dengan harga masing-masing 1,5 yuan. gambar-gambar tersebut melibatkan sejumlah besar perempuan, termasuk siswa, guru, dan kolega. kejaksaan percaya bahwa terdakwa bai moumou memproduksi dan menjual materi tidak senonoh untuk tujuan mendapatkan keuntungan. keadaannya serius dan perilakunya melanggar ketentuan terkait hukum pidana republik rakyat tiongkok kejahatan memproduksi dan menjual bahan-bahan cabul untuk mendapatkan keuntungan.
seorang pria di beijing membuat hampir 7.000 gambar cabul dan menjualnya seharga 1,5 yuan per gambar.
pada bulan april tahun lalu, menurut kejaksaan kota hangzhou, yu, seorang pria kelahiran tahun 1980an dari provinsi anhui, diadili karena dicurigai membuat dan mendistribusikan materi cabul untuk mendapatkan keuntungan. yu mulai tertarik dengan teknologi ini sejak tahun 2020, ketika "ai yang mengubah wajah" baru mulai muncul, dan dia juga menguasai teknologi ini melalui belajar mandiri. kemudian, yu mendaftarkan akun di platform sosial asing dan membuat grup. jika orang lain ingin bergabung dengan "grup internal", mereka harus membayar "biaya keanggotaan" mulai dari 198 yuan hingga 498 yuan dapat melihat banyak orang menggunakan ai video pornografi yang diproduksi menggunakan teknologi pertukaran wajah juga dapat "disesuaikan secara pribadi" menggunakan gambar selebriti wanita yang berbeda sesuai dengan kebutuhan pelanggan. hanya dalam beberapa bulan, yu memperoleh puluhan ribu yuan.
dalam kelompok publik yang dibentuk oleh yu, badan keamanan publik memeriksa lebih dari 1.200 video porno dan lebih dari 1.600 gambar. setelah diidentifikasi, semuanya di atas adalah materi pornografi. pada bulan november tahun lalu, pengadilan rakyat distrik xiaoshan kota hangzhou memutuskan terdakwa yu bersalah karena memproduksi dan mendistribusikan materi cabul untuk mendapatkan keuntungan.
wanita muda dan cantik rentan menjadi korban perubahan wajah ai, dan beberapa bisnis bahkan menawarkan "layanan yang disesuaikan".
survei: perangkat lunak sulit dibeli, tieba telah diblokir
menurut pemberitaan media sebelumnya, pada tahun 2023, perangkat lunak terkait dengan fungsi "melepas pakaian sekali klik" akan tersedia di banyak platform. banyak netizen juga membeli dan bertukar pengalaman mereka mengenai perangkat lunak dan produk terkait secara online.
misalnya, produk tertentu ditandai dengan jelas, "perangkat lunak ini dapat mewujudkan fungsi mengubah orang sungguhan menjadi kartun, mengganti kepala, dan mengganti pakaian." software ini dijual hanya dengan harga 16,66 yuan, dengan penjualan bulanan mencapai lebih dari 200 pesanan. seseorang bertanya di kolom komentar toko, "bisakah anda melepas pakaian anda?" banyak orang menjawab, "ya."
saat itu, terdapat lebih dari 9.000 postingan terkait ai mengubah wajah di post bar bernama "deepfake", yang berisi sejumlah besar informasi penjualan tentang video perubahan wajah selebriti. seorang pengguna bernama "synthetic alliance" secara terbuka menjual video porno pertukaran wajah di grup tersebut, dengan lebih dari 150 video dalam daftar, dengan mengatakan "harganya hanya 58 yuan."
seorang reporter berita hulu menelusuri bilah kiriman deepfake dan menemukan bahwa bilah kiriman tersebut telah diblokir. reporter tersebut menelusuri kata kunci "ai pengubah wajah" dan "penghapusan pakaian sekali klik" di berbagai platform e-commerce, namun tidak ada satupun yang ditampilkan. di beberapa toko, terdapat banyak produk perangkat lunak dengan fungsi seperti "penghapusan cerdas" dan "ekspansi gambar cerdas", tetapi pemilik toko menjawab bahwa mereka tidak memiliki fungsi "penghapusan pakaian sekali klik". namun, reporter tersebut memperhatikan bahwa seorang penjual di zhejiang menjual perangkat lunak yang disebut "artefak pengganti pakaian" seharga 18,80 yuan, mengklaim bahwa "dapat dengan mudah ditangani baik mengganti pakaian atau mengecat ulang."
reporter menghubungi penjual melalui pesan pribadi. mengenai pertanyaan "bolehkah saya melepas pakaian saya?", penjualnya sangat waspada, "jangan terus terang, kami sedang memantaunya!" lalu dia berkata dengan samar, "kamu boleh pergi ke y (pakaian)." setelah pelapor membayar sesuai kebutuhan, pedagang mengeluarkan berikut ini alamat pengunduhan disk jaringan dan tutorial penggunaan.
reporter tersebut mengikuti instruksi pedagang dan menemukan bahwa app memang dapat mewujudkan fungsi "melepas pakaian sekali klik".
pada platform perdagangan barang bekas tertentu, masih ada pedagang yang secara diam-diam menjual perangkat lunak dengan fungsi "melepas pakaian sekali klik".
pernyataan pengacara: jika keadaannya sangat serius, hukuman maksimalnya adalah penjara seumur hidup
reporter menemukan bahwa di beberapa forum, masih ada netizen yang diam-diam mencari software "penghilang pakaian sekali klik" gratis. lantas, apakah pedagang yang menerbitkan atau menjual perangkat lunak terkait dicurigai melanggar hukum atau bahkan melakukan kejahatan? jika netizen menggunakan perangkat lunak untuk menghasilkan dan mempublikasikan foto dan video yang relevan, apakah merupakan pelanggaran hukum jika hanya digunakan untuk “kesenangan”? hukuman apa yang akan anda hadapi jika anda membagikannya?
fu jian, seorang pengacara pembela kriminal terkenal dan direktur firma hukum henan zejin, mengatakan kepada wartawan bahwa aktivitas seperti membuat gambar dan video serta menjual perangkat lunak "penghilang pakaian sekali klik" melibatkan pelanggaran privasi pribadi dan hak potret, diduga menjadi ilegal atau bahkan kriminal, dan mungkin menghadapi hukuman pidana. pertama-tama, pedagang yang menjual perangkat lunak terkait diduga memproduksi, menjual, dan menyebarkan materi cabul. menurut ketentuan hukum pidana, mereka yang memproduksi, menyalin, menerbitkan, menjual, atau menyebarkan materi cabul untuk tujuan mendapatkan keuntungan. dipidana dengan pidana penjara paling lama tiga tahun, penahanan pidana atau pengawasan, dan juga pidana denda, jika keadaannya berat, dipidana dengan pidana penjara paling lama tiga tahun dan paling banyak; dari sepuluh tahun, dan juga akan didenda; jika keadaannya sangat serius, ia akan dijatuhi hukuman penjara jangka waktu tertentu tidak kurang dari sepuluh tahun atau penjara seumur hidup, dan juga akan didenda atau harta bendanya akan disita.
kedua, hak potret orang perseorangan dilindungi undang-undang. tanpa persetujuan orang perseorangan, potret orang lain tidak dapat langsung dipergunakan. jika netizen menggunakan perangkat lunak untuk menghasilkan foto dan video yang relevan dan menyimpannya untuk "dinikmati", mereka juga diduga melanggar hak potret orang lain. jika dibagikan di grup wechat atau platform sosial setelah produksi, hal tersebut diduga melanggar hak potret dan hak reputasi orang lain, dan anda harus menanggung tanggung jawab perdata tertentu. perilakunya diduga melanggar "undang-undang hukuman manajemen keamanan publik", dan dalam kasus yang serius, ia mungkin dicurigai menyebarkan materi tidak senonoh. tergantung pada keseriusan situasinya, anda mungkin menghadapi hukuman seperti penjara jangka waktu tertentu, penahanan pidana, dan denda.
menanggapi fenomena seperti ai yang mengubah wajah dan menghilangkan pakaian, li liang, seorang profesor di fakultas hukum universitas minzu tiongkok, mengatakan bahwa pertama-tama, perlu untuk secara jelas membagi subjek yang melanggar penerapan kecerdasan buatan secara ilegal. ; kedua, mekanisme pembagian tanggung jawab (konsekuensi) atas penerapan kecerdasan buatan secara ilegal harus dibangun. ketiga, perundang-undangan ilmiah harus dilaksanakan berdasarkan pertimbangan komprehensif terhadap prinsip-prinsip hukum dan kepentingan sosial, membangun dan menyempurnakan sistem hukum terkait kecerdasan buatan; penerapannya, mendorong penelitian teknologi dan pengembangan ilmu pengetahuan, serta memperkuat mekanisme pengawasan dan pengaturan.
reporter berita hulu jin xin menyintesis sebagian informasi dari cctv news, cctv, beijing news, people's daily, dll.
