berita

"Beberapa waktu lalu, seseorang mengirim pesan pribadi yang mengatakan bahwa mereka melihat foto saya dan bertanya apakah saya dapat menjawab telepon secara pribadi. Saya mencari dengan cermat dan menemukan bahwa apa yang disebut foto itu disintesis oleh AI." K (nama samaran) masih menyimpan ketakutan.

Dalam beberapa tahun terakhir, teknologi AI secara bertahap telah memasuki kehidupan lebih banyak orang, namun beberapa orang dengan ide yang tidak benar juga telah melihat peluang bisnis. Investigasi yang dilakukan oleh reporter Beijing News Shell Finance menemukan bahwa saat ini terdapat banyak grup foto "AI membuka baju" yang menjual selebriti dan aktris internet di platform produk kulit hitam dan abu-abu. Menurut praktisi industri kulit hitam dan abu-abu, 5 yuan dapat "melepaskan pakaian" dan 20 yuan dapat mencapai "pengubahan wajah video". Dalam rantai industri ini, ada juga praktisi yang menarik traffic melalui foto yang menarik dan kemudian memperoleh keuntungan melalui layanan "grup keanggotaan". Selain itu, ada penulis video di platform seperti Bilibili dan Xiaohongshu yang menarik perhatian dengan judul seperti "AI Undressing Tutorial".

Dalam hal ini, Zhao Hu, mitra di Firma Hukum Zhongwen Beijing, mengatakan bahwa menjual gambar AI yang membuka pakaian atau mengubah wajah AI akan melanggar ketentuan Undang-Undang Hukuman Administrasi Keamanan Publik, dan pelakunya akan menghadapi sanksi administratif berupa penahanan atau denda. , dan mungkin juga bertanggung jawab secara pidana. Jika gambar-gambar tersebut tidak dijual tetapi hanya disebarluaskan, jika keadaannya serius, itu tetap merupakan kejahatan menyebarkan materi-materi cabul dan akan diselidiki atas pertanggungjawaban pidana sesuai dengan hukum. Teknologi pengajaran diduga membantu atau bersekongkol dengan penjahat. Selain itu, aksi pencopotan pakaian AI dan pengubahan wajah AI yang dilakukan pelaku juga melibatkan pelanggaran informasi pribadi warga negara.

“Tidak ada perbedaan mendasar antara penggunaan AI untuk pemalsuan mendalam dan pemalsuan teknis tradisional, namun efisiensinya jauh lebih tinggi dibandingkan metode pemalsuan tradisional, dan ambang batas teknisnya jauh lebih rendah, sehingga memudahkan orang awam untuk mencapainya, dan 'hasilnya ' pemalsuan mendalam akan semakin Membanjiri Internet." Pei Zhiyong, direktur Pusat Penelitian Keamanan Industri Grup Qi'anxin, mengatakan kepada reporter Beijing News Shell Finance bahwa teknologi anti-pemalsuan untuk foto dan video harus dieksplorasi dan dipromosikan secara aktif.

Selebriti Internet multi-platform menghadapi "menanggalkan pakaian" untuk menarik lalu lintas: foto khusus 5 yuan

Setelah penyelidikan sederhana, Little K akhirnya menemukan sumber kebocoran fotonya: seseorang menggunakan foto "AI membuka baju" miliknya untuk menarik lalu lintas di platform sosial asing dan situs pornografi, dan untuk menjual layanan pengeditan gambar AI.

Pengalaman Little K tidaklah unik. Pada awal Maret tahun lalu, foto yang diambil oleh seorang blogger Xiaohongshu di kereta bawah tanah "ditelanjangi" oleh kecerdasan buatan dan disebarkan di grup WeChat. Di kolom komentar blogger ini, banyak perempuan yang mengeluhkan pengalaman serupa, saling berempati dan tak mampu menyembunyikan perasaannya.

Reporter Shell Finance mencari petunjuk dan menemukan penjual terlibat dalam "pengupasan AI". Pihak lain mengatakan bahwa jika Anda memberikan foto apa pun, Anda dapat menyediakan layanan "melepas pakaian" dengan biaya 5 yuan lagi. Jika foto tidak dapat mencapai efeknya, silakan hubungi kami untuk mengubah foto. Selain itu, Anda juga bisa menerima "video pengubah wajah" seharga 20 yuan.

Penjual berkata, “Akhir-akhir ini ada terlalu banyak pesanan ‘melepaskan pakaian’, dan saya bahkan tidak mau repot-repot melakukan pertukaran wajah.”

Tangkapan layar riwayat obrolan antara reporter Beijing News Shell Finance dan penjual "AI stripping".

Penyalahgunaan teknologi "AI membuka baju" dalam pornografi dapat ditelusuri kembali ke perangkat lunak yang dirilis di luar negeri pada tahun 2020. Karena kontroversi, perangkat lunak tersebut dengan cepat dihapus dari rak oleh pengembang. Meskipun demikian, teknologi ini masih digunakan oleh beberapa penjahat untuk menghasilkan uang.

Pada bulan Juni tahun ini, polisi Beijing menyelidiki kasus di mana seorang teknisi yang pernah bekerja untuk sebuah perusahaan Internet mengklaim bahwa "AI komputer dapat melepas pakaian dengan harga murah" dan "dapat digunakan oleh orang-orang di sekitar Anda, selebritas Internet, dan selebritas. ", dan mendapatkan uang tambahan dengan melakukan itu. Foto hanya $1,50. Dia menjual gambar terkait kepada 351 orang melalui Internet, dengan total hampir 7.000 gambar. Akhirnya, dia diadili oleh Kejaksaan Distrik Haidian Beijing karena menyebarkan materi cabul demi keuntungan.

Investigasi yang dilakukan oleh reporter dari Shell Finance menemukan bahwa "AI membuka baju" kini telah membentuk rantai industri, termasuk penjualan gambar palsu dalam AI, "gambar P" AI berbayar dari foto normal, dan mengajarkan "teknik" untuk membuka baju.

Selain itu, produk hitam dan abu-abu telah menargetkan tokoh-tokoh terkenal seperti selebriti internet wanita dan bintang wanita, dan "AI membuka baju" telah menjadi kata sandi lalu lintas.

Reporter dari Shell Finance menemukan bahwa ada hampir 15.000 anggota grup ini pada platform produk hitam-abu-abu yang disebut "Grup Pertukaran Pelepasan Pakaian Selebriti Internet XX". Beberapa selebriti internet wanita terkenal kebanyakan memiliki foto dirinya sedang ditelanjangi.

Reporter Shell Finance memperhatikan bahwa grup ini awalnya hanya melakukan "AI stripping" pada beberapa foto selebriti cantik Internet, dan kemudian secara bertahap berkembang ke dunia hiburan dan olahraga. Metode mencari keuntungan dari "grup komunikasi" jenis ini juga relatif sederhana. Praktisi industri kulit hitam dan abu-abu pertama-tama melemparkan beberapa foto ke dalam grup untuk menarik anggota agar membeli layanan "grup keanggotaan".

Bilibili dan Xiaohongshu masih memiliki "tutorial membuka baju AI" Pengacara: Teknologi pengajaran mungkin merupakan kejahatan tambahan

Reporter tersebut menemukan bahwa setelah teknologi model penghasil AI matang, kemampuan "melepaskan pakaian sekali klik" yang sesuai "dikembangkan" oleh netizen dari model penghasil AI sumber terbuka asing yang terkenal, dan secara bertahap menyebar luas. Meskipun dengan perbaikan peraturan di berbagai negara, model besar telah merevisi instruksi seperti “melepaskan pakaian”. Namun reporter Shell Finance menelusuri Bilibili dan Xiaohongshu dan menemukan bahwa masih ada beberapa video "tutorial AI membuka baju". Meski ada juga yang sebenarnya AI "berganti pakaian", itu juga berarti teknologi jenis ini masih merajalela.

Reporter mencari hasilnya di situs video menggunakan kata kunci terkait seperti "AI membuka baju".

Dalam hal ini, banyak selebritas internet dalam negeri yang tidak berdaya. Pada bulan Mei tahun lalu, seorang blogger wanita populer dengan lebih dari 500.000 pengikut memposting keluhan, "Banyak orang mengalami gambar dicuri dan dipasang di jaringan eksternal untuk menarik lalu lintas dan 'menjual video', serta memasang foto dan gambar pornografi lainnya di Orang-orang dengan pandangan yang tajam dapat melihat bahwa rumor tingkat rendah ini sekilas salah. Saya biasanya tidak memperhatikannya. Hanya ketika jumlah pesan pribadi tiba-tiba meningkat dan saya menyadari bahwa 'ritmenya' meningkat. bahwa aku harus membantah rumor tersebut.”

Zhao Hu mengatakan kepada wartawan Shell Finance bahwa menjual gambar AI yang membuka pakaian atau mengubah wajah melanggar ketentuan Hukum Hukuman Administrasi Keamanan Publik. "Menyesuaikan" gambar AI yang membuka pakaian dengan biaya mungkin merupakan kejahatan membuat dan menjual materi pornografi untuk mendapatkan keuntungan. Jika gambar tersebut tidak dijual tetapi hanya disebarluaskan, jika keadaannya serius, maka tetap merupakan kejahatan menyebarkan materi yang tidak senonoh. Teknologi pengajaran mungkin merupakan kejahatan yang membantu atau bersekongkol.

"Menagih biaya untuk membantu 'menyesuaikan' gambar AI yang membuka pakaian mungkin merupakan kejahatan memproduksi, menyalin, menerbitkan, menjual, dan menyebarkan materi tidak senonoh demi keuntungan." Zhao Hu mengatakan bahwa perilaku AI melepas pakaian dan mengubah wajah AI juga melibatkan pelanggaran informasi pribadi warga negara. Jika informasi ini bocor atau disalahgunakan, hal ini akan menimbulkan ancaman serius terhadap privasi dan keamanan pribadi.

"Harus jelas bahwa menggunakan alat AI untuk pemalsuan jauh lebih efisien daripada metode pemalsuan tradisional, tetapi ambang batas teknisnya jauh lebih rendah. Seperti kata pepatah, jika Anda memulai rumor, Anda akan kehilangan kekuatan jika membantahnya." Pei Zhiyong mengatakan kepada Shell Finance Reporters, saat ini, video dan gambar deepfake AI dapat diidentifikasi melalui cara teknis profesional atau penilaian ahli, tetapi biayanya juga sangat tinggi. “Dengan kemajuan teknologi yang berkelanjutan, keaslian AI- tidak dapat dihindari. video yang dihasilkan atau disintesis tidak dapat diautentikasi.”

Dalam pandangannya, meskipun tidak realistis untuk mencegah orang menggunakan AI untuk menghasilkan video atau gambar palsu, bukan berarti tidak ada yang bisa dilakukan terhadap video atau gambar palsu. “Negara ini memiliki metode pengelolaan yang sangat matang terhadap video dan gambar pornografi online. Sekalipun teknologi tidak dapat digunakan untuk mengidentifikasi keaslian suatu gambar, namun dapat mencegah penyebaran konten pornografi dari sisi platform, menemukan sumber penyebaran pornografi. konten, dan melakukan tindakan keras.

Pei Zhiyong mengatakan bahwa platform Internet tidak dapat mengejar lalu lintas secara sepihak, tetapi harus secara aktif berpartisipasi dalam tata kelola jaringan di bawah pedoman undang-undang terkait dan secara efektif membatasi ruang lingkup penyebaran informasi yang relevan. Informasi penting yang belum diverifikasi harus ditandai dengan label "belum diverifikasi" hingga tingkat sedang mengurangi risiko masyarakat umum disesatkan.

Pei Zhiyong percaya bahwa teknologi anti-pemalsuan untuk foto dan video harus dieksplorasi dan dipromosikan secara aktif. “Misalnya, jika ponsel tertentu dengan merek, model, dan nomor seri tertentu digunakan untuk mengambil foto, file foto tersebut akan memilikinya. serangkaian teks yang tidak terlihat dengan mata telanjang tetapi dapat dikenali oleh mesin. Kode verifikasi terenkripsi. Apakah seseorang memodifikasi foto ini, apakah itu modifikasi AI atau modifikasi manual, sistem verifikasi dapat mengenali bahwa itu bukan gambar asli . Metode ini bukanlah teknologi baru, tetapi membutuhkan teknologi kriptografi yang matang.

Sun Yue, pendiri dan CTO Beijing Core Shield Times Technology Co., Ltd., mengatakan dalam sebuah wawancara dengan reporter dari Shell Finance bahwa teknologi pemalsuan mendalam merajalela, dan fitur biometrik seperti suara dan wajah telah kehilangan kepercayaan aslinya. atribut otentikasi. Jika Anda ingin mencegah kerugian yang ditimbulkannya melalui teknologi, disarankan agar platform sistem utama memperkuat otentikasi identitas sistem aplikasi. Diperlukan langkah-langkah otentikasi yang kuat untuk menahan risiko pemalsuan identitas, yang dapat dicapai melalui identitas multi-faktor otentikasi, kesadaran risiko terminal, analisis data besar, dll. Teknologi produk, dikombinasikan dengan pemodelan perilaku pengguna, inferensi kausal grafik pengetahuan, dan cara lainnya, dapat secara efektif menahan risiko identitas yang disebabkan oleh pemalsuan mendalam.

“Di masa depan, demi perkembangan AI yang sehat, untuk mengatasi risiko yang ditimbulkan oleh teknologi pemalsuan mendalam, pertama-tama, pemerintah dan badan pengatur industri harus secara aktif memperbaiki undang-undang dan peraturan terkait deteksi pemalsuan mendalam, tanda air digital, dan teknologi lainnya. Selain itu, departemen terkait dan media berita juga harus berinvestasi dalam penelitian dan pengembangan untuk meningkatkan propaganda anti-penipuan, meningkatkan kesadaran keamanan masyarakat, dan bekerja sama untuk melindungi keselamatan pribadi dan properti masyarakat. ,” kata Sun Yue kepada wartawan Shell Finance.

Email kontak reporter: [email protected]

Reporter Beijing News Shell Finance Luo Yidan editor Wang Jinyu mengoreksi Yang Li