berita

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

lee yeonjee, 39 tahun, adalah pendiri dan ceo sebuah organisasi kesejahteraan masyarakat di korea selatan. dia memerangi "kejahatan palsu" yang menyebar di seluruh negeri.

beberapa analis menunjukkan bahwa "kejahatan palsu yang mendalam" dengan memadukan wajah perempuan ke dalam video tidak senonoh dan menyebarkannya secara luas telah menyebabkan perempuan korea "jatuh dalam kepanikan". insiden serupa akan membuat perempuan kehilangan rasa aman dalam kehidupan sehari-hari.

pada bulan mei tahun ini, lulusan universitas nasional seoul dicurigai menggunakan teknologi pemalsuan mendalam untuk mengubah wajah guna mensintesis foto dan video pornografi. dia mendirikan hampir 200 ruang obrolan online di media sosial "telegram" dan berpartisipasi dalam produksi dan penyebarannya. sekitar 1.700 foto dan video ilegal.

tiga bulan kemudian, kejahatan palsu lainnya terjadi di universitas inha di korea selatan. lebih dari 1.200 peserta menyintesis gambar pornografi palsu di telegram dan menggunakan konten tersebut untuk memeras dan mempermalukan perempuan. pada akhir agustus, media korea selatan melaporkan bahwa sejumlah besar grup obrolan terkait sekolah di seluruh negeri muncul di telegram. pengguna mengunggah foto wanita yang mereka kenal, dan pengguna lain akan mengubah foto tersebut menjadi konten pornografi palsu "ruang malu" untuk korban tertentu.

investigasi awal menunjukkan bahwa 80% korbannya adalah perempuan, dan aktivitas kriminal telah menyebar di kalangan anak di bawah umur seperti siswa smp dan sma, mahasiswa, guru, dan perawat bahkan tentara perempuan pun menjadi korbannya.

berita seperti itu berdampak besar pada li juanzhi. dia melihat seseorang memposting di platform media sosial x untuk menyelidiki "ruang malu" dan mencari seseorang untuk membantu mengungkap situasi internal. li juanzhi berpura-pura menjadi pengguna pria, menyelinap ke dalamnya, dan mengumpulkan informasi. dia menemukan bahwa penyebaran pornografi deepfake ilegal sudah meluas bahkan di ruang bebas.

li juanzhi mengumpulkan video dan tangkapan layar yang dikumpulkan kepada rekan-rekannya yang bekerja sama, dan dia menyerahkannya kepada penyelidik. yang cukup melegakan adalah li juanzhi mendengar bahwa materi yang mereka serahkan membantu mengidentifikasi orang-orang yang terlibat dalam beberapa kasus.

konten di "ruang penghinaan" membuat li juanzhi sangat tidak nyaman, dan dia bahkan sangat sakit sehingga dia tidak bisa tidur pada satu titik, tetapi dia terus bertindak. di satu sisi, petisi online diluncurkan untuk menuntut standar disiplin yang lebih ketat; di sisi lain, protes dilakukan di jalanan. “pemerintah harus mengambil sikap tegas untuk memerangi kejahatan dan menerapkan undang-undang hukuman 'tanpa toleransi'.”

protes online dan offline

pada jam 7 malam tanggal 6 september, malam tiba di seoul, dan hujan ringan turun. li juanzhi tiba di dekat bosingak di jongno-gu pada waktu yang disepakati. beberapa saat kemudian, protes resmi dimulai. perwakilan kelompok dan individu memimpin untuk membacakan pernyataan masing-masing. setelah itu, sekelompok lima hingga enam ratus orang turun ke jalan sambil membawa slogan-slogan putih dengan latar belakang hitam.

mereka yang berpartisipasi dalam protes malam itu termasuk para guru, organisasi pendidikan seks, kelompok perempuan dan siswa sekolah. mereka berteriak, "mari kita menjalani hidup tanpa rasa takut dan cemas", "atur platform yang mempromosikan kejahatan seks yang palsu", "kami" akan menggulingkan deepfake misoginis” dan slogan-slogan lainnya.

protes tersebut berlangsung sekitar dua jam. li juanzhi mengatakan, ia dan rekan-rekannya juga berencana menggelar protes kedua di stasiun kereta bawah tanah hyehwa pada 21 september. berbagai tempat sudah mulai menghubungi mereka untuk menyewa bus, yang akan mengangkut pengunjuk rasa dari seluruh negeri ke seoul.

protes jalanan offline ini menggemakan suara perempuan korea di media sosial. sejak laporan berita tentang kejahatan seks palsu yang mendalam menarik perhatian publik di korea selatan, banyak perempuan korea yang secara aktif angkat bicara di media sosial karena khawatir bahwa insiden tersebut akan disebarluaskan, menggunakan "kejahatan seks digital di sekolah" untuk "memublikasikan seks palsu yang mendalam." pelanggar" hashtag seperti "lindungi wanita" telah mempromosikan berita tentang "kejahatan seks palsu yang mendalam" untuk mendapatkan perhatian global, dan banyak wanita korea telah mengirimkan pesan bantuan melalui internet tiongkok.

"sejauh ini, kampanye 'protes hashtag' ini telah mencapai hasil yang baik. pada tanggal 1 september, tag yang mencakup 'pelanggar seks deepfake publik' meledak di platform media sosial x, dengan total 60 dengan lebih dari 10.000 postingan, peringkat kedua di tren real-time global dan juga menempati dua teratas tren real-time korea,” kata li juanzhi.

selain hubungan online dan offline untuk membangun momentum, li juanzhi juga mulai menyelidiki dan mempelajari ruu hukuman yang melibatkan kejahatan pemalsuan mendalam. diantaranya, kata-kata "untuk tujuan sosialisasi" sangat menarik perhatiannya. sebuah artikel analisis berpendapat bahwa salah satu alasan mengapa sulit untuk menghukum para penjahat deepfake ini adalah sulitnya membuktikan bahwa mereka memiliki niat untuk menyebarkan.

mengingatkan pada insiden "kamar n" sebelumnya di korea selatan, kecuali beberapa penjahat utama, kebanyakan orang tidak dihukum. li juanzhi menyadari bahwa celah dalam sistem hukum yang adalah yang memungkinkan terjadinya kejahatan deepfake berskala besar.

selama penyusupan li juanzhi ke dalam apa yang disebut "ruang penghinaan", dia menemukan bahwa meskipun setiap ruang kelompok sedikit berbeda, peserta biasanya perlu memberikan 10 foto seorang wanita untuk masuk ke dalam grup atau menggabungkan foto, yang dianggap sebagai deepfake. target korban baru disediakan. beberapa ruang grup akan disintesis satu kali secara gratis, dan kemudian peserta diharuskan memberikan "kata sandi" atau mengundang orang baru ke dalam ruangan untuk terus menggunakan layanan tersebut. ada juga pemberitahuan yang dipasang di ruang grup seperti "300 foto guru wanita wajib" dan "diskon untuk siswa sekolah menengah".

"ruang rasa malu" juga mencari cara untuk mengidentifikasi jenis kelamin pesertanya. beberapa ruang grup mengharuskan orang yang ingin bergabung dengan grup untuk menyetor 1 won korea ke rekening bank tertentu, dan menggunakan nama setoran rekening bank untuk mengonfirmasi apakah anggota baru tersebut adalah laki-laki.

beberapa peserta akan dikenakan biaya untuk mensintesis gambar atau video deepfake, yang lain akan menghasilkan uang dengan menjual konten deepfake, dan telegram sendiri akan menghasilkan pendapatan iklan di ruangan dengan lebih banyak pengguna. “mereka berbagi keuntungan seperti organisasi kriminal.” li juanzhi mengatakan bahwa mereka adalah organisasi yang berorientasi pada keuntungan dan tidak ada konsep “audiens pasif”.

dari sini, dia mendapat ide untuk mengajukan petisi kepada kongres. li juanzhi menuntut agar semua peserta di ruang kelompok ini dianggap sebagai anggota organisasi kriminal dan dihukum. karena undang-undang korea selatan hanya memperbolehkan penyelidikan rahasia terhadap kasus-kasus yang melibatkan anak-anak dan remaja, ia juga berharap sistem petisi dapat diperbaiki untuk memungkinkan penyelidikan rahasia terhadap kejahatan seks yang melibatkan orang dewasa.

“pemalsuan mendalam yang mudah” didukung oleh kecerdasan buatan

pusat skandal deepfakes adalah aplikasi perpesanan telegram.

ini adalah aplikasi perpesanan terenkripsi di mana pengguna umumnya anonim, ruangan dapat diatur ke mode "pribadi" dan konten dengan cepat dihapus tanpa meninggalkan jejak apa pun. desain asli "telegram" adalah untuk melindungi privasi ucapan pengguna, namun ternyata menjadi tempat utama bagi merajalelanya aktivitas kriminal.

teknologi yang digunakan untuk membuat konten deepfake juga tidak sulit didapat. siwei lyu, seorang profesor di departemen ilmu dan teknik komputer di universitas negeri new york di buffalo, menjelaskan kepada reporter beijing news bahwa kata "deepfake" sendiri merupakan campuran dari pembelajaran mendalam dan media palsu, mengacu pada multimedia teks, termasuk teks, audio, gambar, dan video, dibuat menggunakan model kecerdasan buatan generatif yang mengandalkan model jaringan saraf dalam. sistem ai generatif dapat dilatih pada data tak berlabel dalam jumlah besar, dan model ini cukup kuat untuk menghasilkan konten yang menarik. oleh karena itu, ambang batas teknisnya diturunkan secara signifikan.

“dengan teknologi kecerdasan buatan, materi audiovisual deepfake dapat diproduksi dengan mudah, cepat, dan murah, yang dapat digunakan dalam aspek yang lebih bermanfaat seperti film, industri ritel, dll.” penelitian hukum, teknologi, dan masyarakat di universitas tilburg di belanda associate profesor bart van der sloot mengatakan sayangnya, penerapan teknologi deepfake yang paling umum adalah pornografi, "terutama ketika gadis-gadis muda menjadi korbannya, yang dapat menimbulkan konsekuensi yang sangat buruk."

laporan tahun 2019 yang menyelidiki penggunaan deepfake menemukan bahwa 96% deepfake online terkait dengan pornografi, dan jumlah ini masih terus meningkat.

dari sudut pandang saat ini, terdapat banyak hambatan dalam memberantas pemalsuan mendalam. slote menemukan bahwa ketika konten pornografi deepfake dibuat, korban seringkali tidak mengetahuinya, dan konten tersebut baru ditemukan dan ditindaklanjuti oleh dunia luar setelah konten tersebut disebarluaskan melalui internet. dengan banyaknya pornografi deepfake di internet, sulit bagi penegak hukum untuk menilai apakah konten tersebut disetujui oleh orang yang terlibat, apakah itu orang sungguhan atau orang yang dibuat oleh ai. sekalipun pelakunya ditemukan, korbannya teridentifikasi, dan barang-barangnya sudah disingkirkan, seringkali kerusakan sudah terjadi dan sudah terlambat.

li juanzhi percaya bahwa pelacakan pasca-peristiwa hanya "memperbaiki keadaan" dan pengawasan di tingkat platform harus diperkuat dari sumbernya. "jika penjahat bersembunyi di platform anonim, maka platform ini akan menjadi sarang kejahatan."

mengenai tindakan spesifik, lu siwei percaya bahwa dalam jangka pendek, serangkaian kebijakan dan peraturan harus diberlakukan untuk melarang atau membatasi konten palsu yang dimaksudkan untuk menimbulkan efek berbahaya. solusi jangka panjangnya terletak pada teknologi itu sendiri, yang memerlukan pengembangan lebih lanjut dari teknologi untuk mendeteksi, menghapus, atau melacak deepfake secara otomatis.

setelah pemalsuan kejahatan memicu diskusi di masyarakat korea selatan, pada tanggal 2 september waktu setempat, woo jong-soo, direktur markas investigasi nasional badan kepolisian nasional korea, menyatakan pada konferensi pers reguler bahwa polisi mulai menyelidiki media sosial kecurigaan "membantu pemalsuan kejahatan" platform "telegram" melakukan penyelidikan pra-kasus. telegram sendiri telah berjanji untuk secara agresif memerangi konten berbahaya di platformnya.

kebencian terhadap wanita yang belum terselesaikan

selain kejadian tersebut, dunia luar mulai bertanya mengapa korea selatan menjadi daerah yang paling terkena dampak pemalsuan mendalam.

laporan deepfake global yang dirilis pada tahun 2023 oleh "security hero", sebuah startup amerika yang berfokus pada perlindungan pencurian identitas, menunjukkan bahwa korea selatan adalah target utama konten pornografi deepfake, dan penyanyi serta aktris korea bertanggung jawab atas karakter dalam karya deepfake tersebut53 %.

kejahatan deepfake di korea selatan juga semakin merajalela, dengan 156 kasus pada tahun 2021, 160 kasus pada tahun 2022, dan 180 kasus pada tahun lalu. sejak januari hingga juli tahun ini, terdapat 297 kasus kejahatan seks yang melibatkan pemalsuan mendalam.

para pengamat percaya bahwa skandal deepfake yang tampaknya terjadi secara tiba-tiba ini mungkin tersembunyi di balik permukaan, mencerminkan isu seksisme yang sudah lama ada.

di antara negara-negara oecd, perempuan korea selatan memiliki tingkat pendidikan tertinggi, namun tingkat partisipasi angkatan kerja terendah. kesenjangan upah gender di korea selatan menempati peringkat pertama di antara 35 anggota oecd, dengan kesenjangan sebesar 31,2%.

karena alasan seperti "hanya untuk bersenang-senang" dan "menggunakan foto kenalan agar lebih realistis", deepfake telah tersebar luas seperti halnya permainan hiburan. beberapa analis mengatakan bahwa apakah itu kejahatan seks palsu atau wanita korea yang secara diam-diam terekam oleh kamera kecil yang tersembunyi di kamar mandi atau ruang ganti, ini adalah bentuk terbaru dari "kebencian terhadap wanita" yang muncul seiring dengan perkembangan teknologi.

hal ini juga sesuai dengan pengamatan li juanzhi.

fokus awalnya pada isu perempuan bukanlah kejahatan deepfake, melainkan topik kesetaraan gender di bidang mengemudi.

li juanzhi menemukan bahwa perempuan korea sering mengalami diskriminasi ketika belajar mengemudi. misalnya, ketika perempuan ingin mendapatkan sim kategori 1 (catatan: sim lanjutan yang dapat mengendarai mobil besar), mereka dibujuk untuk beralih ke sim kategori 2. sekalipun mereka berhasil memperoleh surat izin mengemudi, tidak mudah bagi perempuan untuk memperoleh informasi mengenai penanganan kecelakaan lalu lintas, asuransi mobil, reparasi mobil, dan lain-lain. pengemudi perempuan sering kali takut mengemudi karena kurangnya informasi, dan perempuan dengan keterampilan mengemudi yang buruk juga dihina dengan sebutan "ms. gold".

dengan bantuan kementerian kesetaraan gender dan urusan keluarga korea selatan, pada tahun 2020, li juanzhi menciptakan proyek mengemudi wanita bernama "unniecar", yang menyediakan ceramah dan buku dan bertujuan untuk membantu wanita yang baru mengemudi tanpa "khotbah pria". dapatkan informasi yang aman dan akurat. dalam beberapa tahun terakhir, fokus li juanzhi pada isu-isu sosial perempuan terus berkembang, dengan menekankan pada perlindungan hak-hak perempuan.

li juanzhi percaya hal itu mulai dari mendorong diskriminasi hingga kejahatan palsu yang mendalam. "kebencian terhadap wanita" yang ada di masyarakat korea belum terselesaikan secara efektif. tidak hanya itu, “kebencian terhadap perempuan” juga telah dieksploitasi oleh politik, sehingga semakin memicu kebencian di kalangan kelompok laki-laki dan menjadi cara bagi para politisi untuk mendapatkan suara mengasingkan perempuan, alih-alih membangun hubungan yang setara dan alami antara kedua jenis kelamin, adalah lingkungan yang memungkinkan terjadinya 'room n' dan deepfake."

setelah skandal deepfakes terungkap, 84 organisasi hak-hak perempuan korea menandatangani pernyataan yang menyatakan bahwa diskriminasi adalah inti permasalahannya. "akar penyebab fenomena ini adalah diskriminasi gender struktural, dan solusinya adalah mencapai kesetaraan gender."

menghadapi kasus dan permohonan yang tak ada habisnya dari kelompok sosial, presiden korea selatan yoon seok-yue menanggapinya dengan mengatakan bahwa mengandalkan anonimitas untuk menggunakan teknologi pemalsuan secara jahat adalah sebuah kejahatan, dan berharap departemen terkait akan melakukan penyelidikan menyeluruh untuk memberantas hal ini sepenuhnya. kejahatan teknologi digital.

pemerintah korea selatan juga memiliki rencana untuk memperkuat hukuman bagi kejahatan deepfake. kim sang-hoon, ketua komite kebijakan partai kekuatan nasional yang berkuasa di korea selatan, mengatakan bahwa partai kekuatan nasional dan pemerintah korea selatan berencana untuk memajukan undang-undang guna meningkatkan hukuman maksimum untuk kejahatan seperti menyebarkan video palsu dari lima tahun menjadi tujuh tahun. bertahun-tahun.

namun li juanzhi masih meragukan komitmen pemerintah korea selatan dan khawatir apakah tindakan tersebut akan dilaksanakan.

keraguan ini bukannya tidak berdasar. selama kampanye presiden tahun 2022, yin xiyue selalu menyangkal adanya diskriminasi gender struktural di korea selatan, menyalahkan feminisme atas rendahnya angka kelahiran, dan mengklaim bahwa laporan pelecehan seksual palsu akan dihukum lebih berat. setelah yoon seok-yue berkuasa, pemerintah korea selatan juga mendorong penghapusan kata "kesetaraan gender" dari buku pelajaran sekolah dan membatalkan pendanaan untuk program memerangi diskriminasi gender sehari-hari.

“sudah lama saya tidak melihat pemerintah mengeluarkan kebijakan untuk mengatasi diskriminasi gender. sebaliknya, kebijakan tersebut meremehkan kemajuan yang dicapai dalam kesetaraan gender.” li juanzhi mengatakan bahwa angka kelahiran di korea selatan telah turun ke salah satu tingkat terendah jika “kebencian terhadap perempuan” tidak ditangani dengan serius, “kejahatan seksual akan terus meningkat. jika kejahatan seksual tidak dihukum berat, penjahat akan menggunakan teknologi baru untuk melakukan kejahatan yang lebih kompleks di masa depan, dan masyarakat korea tidak akan siap. pada saat itu."

slote mengatakan bahwa untuk menangani kejahatan pemalsuan mendalam secara mendasar, keterkaitan semua tautan mungkin sangat diperlukan. pemerintah perlu memprioritaskan upaya respons, memiliki standar hukuman yang jelas, menetapkan tolok ukur kasus, dan jika perlu, membentuk tim khusus untuk menangani kejahatan deepfake. sekolah dan tempat kerja juga perlu memberikan edukasi tentang pornografi online non-konsensual. penyedia layanan internet wajib memantau platform mereka untuk mencegah penyebaran pornografi deepfake dan memperingatkan pengguna bahwa begitu pornografi deepfake menyebar melalui platform layanan mereka, maka pornografi tersebut akan dihapus secara permanen.

pada tanggal 7 september, li juanzhi mengatakan kepada reporter dari beijing news bahwa petisinya kepada kongres telah mendapat persetujuan dari 50.000 orang yang diperlukan, dan departemen terkait di pemerintah korea selatan diwajibkan untuk menanggapi petisi tersebut.

bola telah diarahkan ke pihak pemerintah korea selatan. "saya menantikan tindakan mereka selanjutnya."

reporter berita beijing, luan ruoxi

editor hu jie dan korektor zhang yanjun