berita

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Fokus tetap (dingjiaoone) asli

Penulis |.Wang Lu

Penyunting |. Wei Jia

Melihat adalah percaya, AI yang mengubah wajah telah menipu banyak orang.

Dua hari lalu, polisi Hubei mengungkap kasus penggunaan teknologi AI yang mengubah wajah untuk membuka kunci akun sosial dan menjualnya kembali demi keuntungan. Penjahat menggunakan AI pengubah wajah untuk membantu orang membuka kunci akun kencan yang telah dibekukan oleh platform. Mereka mengenakan biaya 15 yuan hingga 30 yuan untuk setiap akun yang dibuka. Geng tersebut mencairkan total 2.107 rekening dan memperoleh keuntungan sebesar 400.000 yuan.

Data menunjukkan bahwa penipuan pemalsuan mendalam berbasis AI akan melonjak sebesar 3.000% pada tahun 2023. Pemalsuan mendalam, juga dikenal sebagai deepfake, adalah kombinasi antara pembelajaran dan pemalsuan. Hal ini terutama mengacu pada penggunaan teknologi pembelajaran mendalam AI untuk mensintesis gambar atau gambar seseorang video atau bahkan suara, yang paling umum adalah AI yang mengubah wajah. Kementerian Perindustrian dan Teknologi Informasi baru-baru ini menyatakan bahwa mereka akan meluncurkan fungsi pengingat risiko penipuan yang mengubah wajah AI.

Di satu sisi, kasus penipuan AI yang mengubah wajah sering terjadi, dan di sisi lain, teknologi AI yang mengubah wajah terus melakukan iterasi.

Lingkaran AI baru-baru ini dihebohkan dengan proyek AI yang mengubah wajah - Deep-Live-Cam. Pengguna hanya perlu mengunggah foto untuk mengubah wajahnya secara real time menjadi siapa pun yang diinginkan, seperti Zuckerberg atau Dong Yuhui.

Proyek ini gratis dan terbuka untuk semua pengguna, dipublikasikan di GitHub (platform hosting kode), dan mendukung instalasi komputer pribadi. Pengembang proyek telah mengumumkan metode instalasi, dan orang biasa tanpa pengalaman teknis dapat mempelajari dan menginstalnya pada saat yang bersamaan.

Karena pengoperasiannya yang sederhana dan nyaman serta realisme tingkat tinggi dalam mengubah wajah, Deep-Live-Cam menempati peringkat pertama dalam daftar panas GitHub, mengumpulkan 1.600+ bintang dalam 24 jam (bintang mewakili kesukaan proyek dan indikator berikut, beberapa ribu bintang cukup baik) tingkat). Banyak netizen yang mengubah wajah mereka menjadi Musk dan merasakan perasaan menjadi miliarder global.

Namun meski semua orang menyesali terobosan teknologi AI yang mengubah wajah, mereka juga khawatir bahwa "penipuan menjadi lebih mudah." Haruskah kita memboikot perubahan wajah AI?

AI mengubah wajah yang dapat digunakan orang biasa,

Biayanya hanya selusin yuan

Saat ini, ada banyak alat pengubah wajah AI di dalam dan luar negeri. Alasan utama mengapa Deep-Live-Cam hangat dibicarakan adalah,Pengguna hanya perlu mengunggah gambar, namun efek penggantiannya sangat realistis, dan juga mendukung penggantian wajah secara real-time.

Faktanya, ambang batas teknis untuk fungsi “pengubahan wajah secara real-time” tidaklah tinggi.

Xiao Zihao, salah satu pendiri Ruilai Intelligence dan ilmuwan algoritme, mengatakan bahwa ada dua cara untuk mencapai efek perubahan wajah video secara real-time: pertama adalah dengan memutar video perubahan wajah yang sudah dibuat sebelumnya, dan yang lainnya adalah dengan mengakses video perubahan wajah secara real-time. Deep-Live-Cam milik yang terakhir.

Terlepas dari jenisnya, video AI yang mengubah wajah perlu memperhitungkan kontinuitas frame sebelumnya dan berikutnya, dan pemrosesan berdasarkan video wajah berkelanjutan dapat membuat sedikit penyesuaian berdasarkan banyak sumber daya deteksi pada frame sebelumnya video berbasis frame secara terus-menerus/Pengubahan wajah secara langsung lebih efisien dibandingkan pengubahan wajah dalam frame individual,” kata seorang peneliti yang bergerak di bidang teknologi AI.

Teknologi dasar yang diandalkan oleh AI untuk mengubah wajah adalah Deepfake. Praktisi berspekulasi bahwa Deep-Live-Cam juga menggunakan teknologi ini, sehingga biayanya tidak akan terlalu tinggi hanya berdasarkan bahan dan daya komputasi yang diperlukan untuk menghasilkan sintesis.

Xiao Zihao mengatakan bahwa jika biaya pembelian perangkat keras lainnya tidak diperhitungkan, biaya sebagian besar penggantian wajah AI hanya sekitar selusin yuan, terutama termasuk foto dan daya komputasi, dan Deep-Live-Cam mungkin bahkan lebih rendah. Dibandingkan dengan alat pengubah wajah AI lainnya, Deep-Live-Cam menggunakan lebih sedikit foto. Alat ini juga mendukung komputer biasa, dan biaya foto serta daya komputasi lebih rendah.

Sebaliknya, Deep-Live-CamMendukung perubahan wajah hanya dengan satu gambar bahkan lebih mengejutkan praktisi.Pasalnya, produk AI pengubah wajah sebelumnya mengharuskan pengguna menyediakan setidaknya selusin foto dari berbagai sudut.

Pengurangan kesulitan foto memungkinkan pengguna untuk bersenang-senang. Pengikut AI Xiao C mengatakan bahwa dia belum pernah berhubungan dengan alat pengubah wajah AI apa pun sebelumnya. Dia merasa bahwa ambang batas pengoperasian Deep-Live-Cam tidak tinggi dan dapat diselesaikan dengan mengikuti instruksi dari penerbitnya juga tidak terlalu sulit untuk menemukan bahan pengubah wajah.

Dia mengubah wajahnya menjadi selebriti seperti Guo Degang, Wu Jing, Lei Jiayin, dll, dan hanya menggunakan satu foto dari masing-masing selebriti tersebut. Ia mengatakan, selama Anda memberikan foto wajah depan, dahi tidak terhalang, cahaya alami, mendekati warna kulit Anda, dan proporsi yang tertera pada foto ID, satu foto akan berhasil, dan efek penggantian wajah akan menjadi. sangat alami.

Lebih dari satu praktisi percaya bahwa teknologi pengubah wajah AI yang digunakan di beberapa film dan drama televisi tidak hanya memiliki ambang batas yang tinggi dan biaya yang tinggi, tetapi juga efek perubahan wajah yang tidak cukup alami, dan deformasi serta distorsi sering terjadi selama proses tersebut. proses berbicara. “Apakah ini masalah terbesar dengan alat pengubah wajah AI?Deep-Live-Cam dapat mendukung efek gambar selama siaran langsung. Tidak ada jejak pemetaan yang jelas di tepi wajah, dan warna kulit tidak jauh berbeda dengan karakter aslinya Alat pengubah wajah AI., "Xiao Zihao menganalisis bahwa pengembangnya seharusnya mencapai terobosan dalam model rendering gambar yang tidak dimiliki oleh alat pengubah wajah AI sebelumnya.

Namun, masih ada beberapa bug di Deep-Live-Cam, seperti mendukung perubahan wajah tetapi tidak mendukung perubahan suara. Namun, Xiao Zihao mengatakan bahwa tidak sulit untuk mencapai hal ini, cukup sambungkan ke alat pengubah suara waktu nyata, dan siapa pun yang memiliki sedikit dasar pemrograman dapat menyelesaikannya.

AI mengubah wajah,

Penipuan dan pelanggaran yang tidak dapat dihindari

Alat seperti Deep-Live-Cam telah menurunkan ambang batas bagi pengguna, namun semua orang juga mulai khawatir bahwa penjahat hanya dapat menggunakan gambar untuk mengubah wajah dan menipu.

Ruilai Smart Data menunjukkan bahwa jumlah kasus penipuan AI dalam negeri meningkat dari 0,2 juta pada tahun 2020 menjadi 16,7 juta pada tahun 2023, dengan tingkat pertumbuhan tahunan gabungan sebesar 1928,8%. Pada paruh pertama tahun 2024, kasus penipuan AI melebihi 185 juta. "Laporan Keamanan Kecerdasan Buatan 2024" yang dirilis oleh Qi'anxin menunjukkan bahwa penipuan pemalsuan mendalam berbasis AI meningkat sebesar 3.000% pada tahun 2023.

Pengubahan suara AI, pengubahan wajah AI, dan pembuatan AI adalah tiga metode yang umum digunakan untuk penipuan AI. Diantaranya, konten yang dihasilkan AI memiliki waktu terbatas dan kelemahan yang jelas dalam kualitas gambar dan karakter -mengubah adalah metode yang paling umum digunakan oleh penjahat. Kebanyakan orang percaya bahwa "melihat berarti percaya", yang membuat perubahan wajah AI lebih menipu daripada perubahan suara AI.

Perubahan wajah AI tidak hanya menipu orang lanjut usia, tetapi juga banyak anak muda yang bekerja di bidang teknologi telah kehilangan jutaan dolar dalam semalam.

Menurut laporan media publik, tahun lalu CEO sebuah perusahaan teknologi menerima permintaan transfer dari seorang teman dan ditipu sebesar 4,3 juta yuan dalam waktu kurang dari 10 menit. Penipu tersebut terutama menggunakan teknologi AI yang mengubah wajah. Ada juga seorang karyawan sebuah perusahaan multinasional Hong Kong yang ditipu dalam konferensi video dengan eksekutif senior yang dirancang oleh penjahat dan mentransfer 200 juta dolar Hong Kong ke rekening pihak lain.

Para praktisi sepakat bahwa perubahan wajah AI telah mencapai titik di mana "dapat dikacaukan dengan aslinya".

Li Xu, ketua tim anti-penipuan, mengatakan ketertarikannya pada teknologi AI yang mengubah wajah berasal dari berbagai kasus penipuan. Dia mengatakan bahwa kasus penipuan AI yang mengubah wajah telah sering terjadi dalam dua tahun terakhir, dan ada sekitar tiga metode penipuan AI yang mengubah wajah yang sangat matang di pasaran.

Yang pertama adalah penggunaan AI untuk mengubah wajah dan memalsukan video porno untuk memeras korbannya.

Misalnya, geng kriminal akan mengumpulkan informasi gambar dan video korban dari berbagai saluran seperti Internet, dan kemudian melakukan proses sintesis seperti pelepasan pakaian sekali klik dan perubahan wajah AI, dan mengirimkan video tidak senonoh atau foto telanjang palsu kepada para korban. untuk pemerasan.

Tipe kedua adalah menggunakan AI untuk mengubah wajah dan berpura-pura menjadi kenalan untuk melakukan penipuan.

Misalnya, geng penipu akan menggunakan beberapa alat pengubah wajah di pasar untuk berpura-pura menjadi kerabat, teman, kolega, pemimpin korban, dll., Pertama-tama membuat alasan darurat, dan memanfaatkan urgensi target yang tertipu untuk melakukan penipuan. .Sangat mudah untuk lengah dan mentransfer uang keluar.

Sekarang dengan menggunakan Deep-Live-Cam, Anda hanya perlu mengumpulkan satu atau dua foto korban untuk membuat video palsu yang mendalam. Li Xu merasa bahwa tingkat penipuan AI yang mengubah wajah berada di luar kesadaran kebanyakan orang awam, dan itu juga secara langsung mengubah skenario penipuan telekomunikasi yang sulit dicegah dan semakin parah.

Ketiga, AI pengubah wajah digunakan untuk berpura-pura menjadi selebriti untuk melakukan siaran langsung dan menipu pengguna agar melakukan pemesanan.

Misalnya, pembawa acara menggunakan "perubahan wajah AI" untuk "mengubah" wajah selebriti di ruang siaran langsung, sehingga meningkatkan lalu lintas video langsung dan membantu siaran langsung tersebut menjual barang.

Selain itu, permasalahan pelanggaran seperti pembuatan video panjang dan pendek selebriti/orang biasa melalui AI yang mengubah wajah dan membuat emoticon tanpa izin orang lain juga sangat sering terjadi.

Kasus penipuan AI yang mengubah wajah sering terjadi dan dengan metode yang beragam, hal ini erat kaitannya dengan kematangan dan keluasan teknologi ini.

CEO Teknologi Hanhao Wu Jieqian mengatakan kepada "Dingjian",“Saat ini, teknologi pembuatan video AI, teknologi pengubah wajah manusia dan AI sudah matang, dan teknologi pengubah wajah AI adalah bidang yang paling awal dikembangkan.”

Munculnya teknologi Deepfake pada tahun 2014 menandai lahirnya AI pengubah wajah, namun penyebarannya masih dalam skala kecil. Baru pada tahun 2017, ketika beberapa pengguna menggunakan teknologi tersebut untuk memposting gambar pornografi palsu, barulah AI pengubah wajah muncul. Namun pada saat yang sama, teknologi ini menjadi kontroversial karena banyaknya konten palsu yang dibawanya.

Lebih dari satu praktisi mengatakan bahwa dalam beberapa tahun terakhir, meskipun diskusi publik mengenai perubahan wajah AI sebagian besar berfokus pada penyelamatan film dan drama TV, karena pengawasan yang buruk, penggunaan AI perubahan wajah untuk penipuan tidak pernah berhenti. Selain itu, teknologi pengubah wajah AI telah berulang kali, dan ada banyak pendatang baru. Saat ini, selain beberapa produsen besar yang terlibat dalam bisnis ini, banyak orang digital dalam negeri dan startup video yang menghasilkan AI telah mengembangkan bisnis pengubah wajah AI, dan teknologi relatif populer. Alat-alat seperti itu semakin banyak.

Teknologi ini sudah matang dan populer, dan pengawasannya juga sulit. Akibatnya, teknologi pengubah wajah AI telah disalahgunakan selama bertahun-tahun.

Bagaimana cara mengidentifikasi pertukaran wajah AI yang semakin realistis?

Dalam dua tahun terakhir, perubahan wajah AI telah menyebabkan banyak tindakan ilegal dan kriminal. Ketidakterkendalinya membuat sebagian orang merasa bahwa teknologi perubahan wajah AI harus diboikot.

Namun, banyak praktisi yang percaya bahwa teknologi itu sendiri bersifat netral, dan dampak baik atau buruknya terutama bergantung pada penggunanya. Kemunculan dan pengulangan teknologi AI yang mengubah wajah tidak boleh dihentikan.

Jesse Wu mengatakan bahwa saat ini, tidak ada pendekatan universal terhadap teknologi pengubah wajah AI di dalam dan luar negeri, dan hal ini lebih berkaitan dengan manajemen legislatif.

Misalnya, Amerika Serikat telah memperkenalkan undang-undang khusus mengenai pemalsuan mendalam, Uni Eropa telah memasukkan pemalsuan mendalam ke dalam kerangka hukum dan peraturan yang ada seperti Peraturan Perlindungan Data Umum, dan negara-negara seperti Jerman, Singapura, dan Inggris juga telah memasukkan kejahatan terkait pemalsuan mendalam ke dalam sistem hukum pidana mereka. Tiongkok juga telah memperjelas spesifikasi teknologi ini dalam "Peraturan tentang Sintesis Mendalam Layanan Informasi Internet".

Banyak praktisi percaya bahwa sangat penting untuk memberi label pada konten yang dibuat oleh AI dan metode pengelolaan lainnya, serta mengajari masyarakat beberapa metode untuk mencegah penipuan AI.

Misalnya, beberapa teknisi pernah mengusulkan agar selama panggilan video, pihak lain dapat diminta untuk meletakkan jari mereka di wajah dan mengamati dengan cermat apakah wajah tersebut cacat, atau meminta pihak lain untuk membuka mulut untuk melihat apakah gigi dan lidahnya jelas dan lengkap, sehingga dapat menentukan apakah gambar tersebut adalah orang sungguhan atau sintesis.

Metode ini relatif efektif pada tahun lalu, namun tahun ini, seiring dengan peningkatan teknologi AI yang mampu mengubah wajah, metode ini gagal.

Xiao Zihao mengatakan bahwa teknologi AI yang mengubah wajah saat ini dapat dicapaiWajah dan gerakan tidak berubah bentuk saat muncul rintangan, dan kualitas gambar sangat jernih.Li Xu juga menemukan,Kasus-kasus penipuan AI yang mengubah wajah baru-baru ini telah menggunakan cara-cara teknis yang sangat kuat, dan hampir mustahil untuk diidentifikasi hanya dengan pergerakannya.

Mengingat pesatnya perkembangan teknologi AI yang mengubah wajah, Li Xu percaya bahwa meningkatkan kewaspadaan adalah metode yang relatif efektif saat ini. Misalnya, saat menerima panggilan video dari seorang kenalan untuk meminjam uang, Anda dapat menanyakan beberapa pertanyaan pribadi kepada pihak lain yang hanya diketahui oleh pihak lain tersebut, dan menanyakan lebih banyak orang di sekitar Anda untuk verifikasi.

Beberapa praktisi merasa bahwa menggunakan AI untuk mengidentifikasi AI mungkin merupakan cara yang baik.

Misalnya, periksa dulu apakah ada elemen dalam gambar yang jelas-jelas bertentangan dengan akal sehat, fokuskan pada apakah ada kekurangan di bagian tepi wajah, lalu gunakan beberapa alat AI. Xiao Zihao percaya bahwa penggunaan AI untuk mendeteksi AI dapat mengidentifikasi sebagian besar penipuan. Saat ini, banyak perusahaan dan departemen pemerintah telah mendekati mereka untuk bekerja sama dengan sistem pertahanan AI yang mengubah wajah.

Namun langkah ini juga menimbulkan kontroversi di dalam dan luar negeri.

Pertama-tama, metode ini memiliki batasan penggunaan tertentu, dan pengguna perlu mengunduh aplikasi yang relevan di ponsel/komputer mereka. Kedua, pada dasarnya, terdapat kelambatan tertentu dalam jenis alat pertahanan ini, yang sebagian besar merespons alat pengubah wajah AI yang ada saat ini. Namun, teknologi dan metode sintesis pengubah wajah AI terus berubah.

Banyak orang menaruh harapan mereka pada perbaikan undang-undang dan peraturan terkait, seperti meningkatkan hukuman untuk aktivitas ilegal seperti penipuan pengubah wajah AI, penjualan video porno pengubah wajah AI, dan penjualan barang-barang selebriti yang mengubah wajah.

Tahun lalu, Pengadilan Rakyat Distrik Xiaoshan, Hangzhou memutuskan kasus penggunaan AI pengubah wajah untuk memproduksi video cabul. Terdakwa menyediakan layanan khusus pengubah wajah AI, memproduksi sejumlah besar video cabul melalui pengubah wajah AI, dan juga menggunakan metode AI yang mengubah wajah untuk menarik pemirsa agar membayar. Jin Qun, jumlah total yang terlibat dalam kasus ini lebih dari 60.000 yuan, dan dia akhirnya dijatuhi hukuman tujuh tahun tiga bulan penjara dan denda 60.000 yuan.

Namun, saya ingin mengingatkan semua orang akan hal ituTidak semua perubahan wajah AI akan melanggar hak potret.

Pada bulan Juni tahun ini, Pengadilan Internet Beijing mengumumkan dua kasus pelanggaran AI yang mengubah wajah. Dua model video pendek bergaya Tiongkok menemukan bahwa video mereka muncul di APP yang mengubah wajah di platform sosial, sehingga mereka menggugat perusahaan teknologi di belakang APP. Pengadilan memutuskan bahwa hal itu telah merusak haknya atas potret dan hak pribadi.

Putusan pengadilan adalah tergugat telah menggunakan video yang menampilkan penggugat, namun karena wajah penggugat dalam video tersebut telah diganti, maka tidak melanggar hak potret penggugat pelanggaran hak informasi pribadi penggugat.

Saat ini, teknologi AI pengubah wajah masih terus ditingkatkan dan belum dilarang. Alat AI pengubah wajah masih beredar di pasaran dalam jumlah besar.

"Dingjiao" baru-baru ini secara langsung menelusuri "AI pengubah wajah" di platform e-niaga dan tidak dapat menemukan informasi apa pun. Namun, selama kata kuncinya sedikit diubah, alat pengubah wajah terkait masih dapat ditemukan untuk dijual, dan jalannya lebih rahasia, akan melompat ke situs web bekas untuk bertransaksi. Di saat teknologi dan penipuan terus meningkat, yang bisa dilakukan setiap orang adalah lebih waspada agar tidak dirugikan oleh perubahan wajah AI.

*Gambar judul dan gambar penyerta dalam artikel berasal dari Pexels.