sejauh mana upaya ofensif dan defensif penggunaan ai melawan ai dan perubahan wajah untuk memerangi pemalsuan telah tercapai?
2024-09-14
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
apa yang anda lihat mungkin tidak benar! sebuah "foto potret" atau "video karakter" dapat menjadi sarana dan alat baru bagi penjahat untuk melakukan kejahatan. pada pekan publisitas keamanan siber nasional tahun 2024, topik pelanggaran privasi pribadi seperti perubahan wajah dan suara ai kembali menjadi fokus perhatian semua orang. bahkan, topik ini juga hangat dibicarakan pada konferensi bund yang digelar seminggu sebelum pekan keamanan siber.
dari konferensi bund di sungai huangpu hingga pekan keamanan siber nasional di sungai yangtze lingding, pada bulan september ini, masyarakat terus mengajukan pertanyaan tentang bagaimana ai dapat berbuat baik sedang berlangsung di dua kota tepi sungai shanghai dan guangzhou.
bagaimana teknologi ai yang dapat mengubah wajah memengaruhi keamanan identitas digital kita? alat ai efektif apa yang dapat mendeteksi dan mencegah risiko deepfake secara akurat? dari sudut pandang hukum dan etika, bagaimana kita menyeimbangkan penerapan inovatif teknologi ai yang dapat mengubah wajah dengan potensi risikonya? dengan pertanyaan-pertanyaan ini, wartawan nandu berupaya semaksimal mungkin, mulai dari simulasi tantangan ofensif dan defensif hingga skenario penerapan aktual, dari akademisi hingga industri, untuk menemukan jawaban atas proposisi ini.
keluar dari tempat pengujian: sekelompok anak muda memulai estafet ofensif dan defensif ai
pengubahan wajah ai adalah teknologi deepfake yang menggunakan komputer untuk mengubah gambar wajah dengan dukungan algoritma pembelajaran mendalam. dengan terus menerus menggunakan teknologi pengubah wajah ai, hal ini meningkatkan produksi hiburan, e-commerce, dan industri lainnya. selain efisiensi, hal ini juga membawa risiko yang tidak ada habisnya. pada awal september, kasus baru "kamar n" muncul di korea selatan berdasarkan teknologi "pemalsuan mendalam" yang membuat wanita korea selatan mengalami "kepanikan yang mengubah wajah ai" dan bahkan memposting di jejaring sosial tiongkok untuk meminta bantuan.
pada saat yang sama, di bund di shanghai, tantangan serangan dan pertahanan deepfake tentang perubahan wajah ai mengumpulkan sekelompok anak muda "anti-pemalsuan ai". selama konferensi bund, salah satu tim yang berpartisipasi dalam kompetisi inovasi ai ini, tantangan serangan dan pertahanan deepfake global (selanjutnya disebut sebagai "kompetisi serangan dan pertahanan deepfake") - visionrush dari institute of automation, chinese academy of sciences, open source model ai yang berpartisipasi sebagai respons terhadap kebutuhan wanita korea. selanjutnya, tim peserta lainnya juga "mengambil alih" dan memulai aksi "code relay" pembela deepfake. tim termasuk akademi ilmu pengetahuan tiongkok, universitas makau, dan universitas kelautan tiongkok mengumumkan model kompetisi sumber terbuka, dengan harapan hal ini akan terjadi. menurunkan ambang batas teknis, memperkuat pertukaran teknis, dan menahan penyalahgunaan teknologi deepfake.
selama kompetisi inovasi ai konferensi bund·tantangan serangan dan pertahanan deepfake global, tim yang berpartisipasi meluncurkan aksi "relai kode" pembela deepfake.
perlu disebutkan bahwa jtgroup, tim gabungan yang terdiri dari para sarjana dari hong kong dan makau, tampil baik dalam kompetisi tersebut dan memenangkan kejuaraan di deepfake offensive and defensive picture track. wu haiwei, rekan postdoctoral dari city university of hong kong, mengajak mahasiswa juniornya dari state key laboratory of smart city internet of things di university of macau untuk berpartisipasi dalam jalur gambar. chen yiming, peneliti di state key laboratory of smart city internet of things di universitas macau, adalah kapten tim kejuaraan ini. ketika berbicara tentang open source, dia berkata sambil tersenyum dalam sebuah wawancara dengan wartawan nandu, "kami penelitian dilakukan dengan berdiri di pundak 'raksasa'. para 'raksasa' ini sangat rela tanpa pamrih menyumbangkan kode programnya. mengapa kita tidak melakukan hal yang sama? tim kami sendiri menganut konsep teknologi untuk kebaikan dalam melakukan penelitian dan pengembangan, dan kami juga berharap dapat berpartisipasi dalam kompetisi tersebut untuk memanfaatkan teknologi. terapkan teknologi untuk beberapa hal baik yang dibutuhkan masyarakat.”
tim jtgroup mencapai tingkat pengenalan sebesar 97,038% untuk deepfake multi-tipe dan multi-skenario. perwakilan tim chen xiangyu mengatakan dalam sebuah wawancara dengan seorang reporter dari nandu, "permainan ofensif dan defensif ini mendekati skala data di dunia nyata. kami belajar banyak teknologi baru tentang pembuatan dan pengenalan deepfake dalam waktu singkat. waktu." , dan kami juga memperhatikan penyesuaian yang tepat waktu. detail model algoritme mungkin menjadi salah satu alasan mengapa kami bisa memenangkan kejuaraan.”
seorang reporter dari nandu mengetahui dari penyelenggara bahwa kompetisi serangan dan pertahanan deepfake dipimpin oleh ant digital zoloz dan dimensity labs sebagai pembuat pertanyaan kontes. kumpulan data peristiwa terdiri dari data publik dan data palsu. diantaranya, data gambar palsu mencakup lebih dari 50 metode pembuatan dalam adegan nyata, dan audio dan video palsu mencakup lebih dari 100 metode serangan kombinasi dibuka oleh panitia penyelenggara lebih dari 1 juta.
"kompetisi ini memberikan kesempatan kepada peneliti teknis untuk berlatih di lingkungan industri nyata yang sangat disimulasikan, yang membantu mengintegrasikan industri, akademisi dan penelitian, serta menumbuhkan bakat praktis yang bertanggung jawab." zhou tian, wakil direktur frontier artificial intelligence center badan sains, teknologi, dan penelitian singapura dan salah satu penyelenggara kompetisi teori berbeda. ini juga merupakan tujuan dari tim yang berpartisipasi untuk keluar dari tempat pengujian dan menerapkan pencapaian teknologi yang dikembangkan ke dalam skenario praktis. wu haiwei dari tim jtgroup mengatakan kepada wartawan nandu, “algoritme deteksi berbantuan ai telah diterapkan pada tahap peninjauan kualifikasi taobao, tmall, dll. untuk mencegah penjahat memalsukan izin usaha dan materi verifikasi identitas untuk mengajukan pembukaan toko dengan peninjauan yang murni manual, dapat mengurangi biaya pembukaan toko. hal ini akan meningkatkan efisiensi. di masa depan, hasil penelitian laboratorium kami juga diharapkan dapat diterapkan pada lebih banyak skenario di sisi perusahaan dan pemerintah, seperti di sisi pemerintah. app anti-penipuan nasional dan program lainnya, memberikan kontribusi pada anti-penipuan dan teknologi deepfake untuk kebaikan.
standar dan penerapan: bersama-sama membangun jaringan perlindungan terhadap risiko perubahan wajah ai
tentu saja, perjuangan melawan deepfake lebih dari sekedar kompetisi. industri telah merespons satu demi satu, mulai dari standar hingga aplikasi, untuk bersama-sama membangun jaringan perlindungan terhadap risiko perubahan wajah ai.
wartawan nandu menyaksikan peralatan interaktif deteksi deepfake dari laboratorium ant group tianji di pameran teknologi konferensi bund.
di shanghai, pada pameran teknologi konferensi bund, laboratorium ant group tianji mendemonstrasikan peralatan interaktif untuk deteksi deepfake. menurut pengalaman nandu reporter, setelah mengambil foto secara real-time, deepfake menghasilkan beberapa gambar "nandu reporter" yang berbeda (seperti yang ditunjukkan di atas), dan kemudian pendeteksi dari laboratorium ant group tianji memeriksa setiap gambar satu per satu menilai dan mengidentifikasi secara akurat bahwa hanya yang terakhir yang merupakan potret asli seorang reporter dari nandu, dan sisanya dihasilkan oleh palsu.
pada saat yang sama, standar "spesifikasi teknis aplikasi keuangan deteksi wajah digital palsu" juga secara resmi dirilis pada konferensi tersebut. standar tersebut menetapkan persyaratan fungsional, persyaratan teknis, persyaratan kinerja, dll. untuk layanan deteksi wajah digital palsu di bidang keuangan, dan mengusulkan metode pengujian dan evaluasi yang sesuai. dapat dipahami bahwa ini adalah standar deteksi "ai yang mengubah wajah" pertama untuk skenario keuangan di tiongkok. liu yong, sekretaris jenderal aliansi pengembangan industri fintech zhongguancun dan presiden institut penelitian keuangan internet zhongguancun, mengatakan dalam pidatonya: "dirilisnya standar ini memberikan dasar untuk deteksi keamanan dan penilaian wajah digital palsu dalam skenario keuangan , dan juga mengisi kekosongan ini.”
di nansha, guangzhou, pada "sub-forum perlindungan informasi pribadi" pekan publisitas keamanan siber nasional 2024, southern news media group, institut elektronik kelima kementerian perindustrian dan teknologi informasi, cabang nasional guangdong pusat darurat internet, laboratorium pengcheng, guangdong telecom, guangdong mobile, lima belas perusahaan dan institusi, termasuk tencent, huawei, ping an group, china guangfa bank, oppo, byd, sangfor, shenzhen saixi, dan jingyuan security, mengumumkan peluncuran resmi dari internet emergency center "asosiasi keamanan data jaringan guangdong dan perlindungan informasi pribadi" dan bersama-sama mengeluarkan inisiatif "mempromosikan keamanan data jaringan dan perlindungan informasi pribadi". dapat dipahami bahwa risiko perubahan wajah ai juga akan menjadi salah satu masalah yang menjadi perhatian asosiasi ini.
china mobile ai zona interaktif yang mengubah wajah dan pemalsuan secara real-time. (sumber: pekan kesadaran keamanan siber nasional 2024)
pada pameran keamanan siber tahun ini selama pekan keamanan siber, perusahaan keamanan besar juga memamerkan produk dan teknologi baru di bidang keamanan. di zona interaktif pemalsuan wajah real-time buatan china mobile, reporter nandu mengalami sistem simulasi ai pengubah wajah. selama pengalaman tersebut, video yang dihasilkan oleh deepfake dapat diidentifikasi secara akurat sebagai palsu dengan teknologi pemalsuan real-time. dan seluruh proses hanya memakan waktu sekitar 5 detik. wang xiaoqing, wakil manajer pusat operasi manajemen dan keamanan informasi china mobile, mengatakan bahwa sistem ini dapat mengatasi berbagai skenario seperti perubahan wajah ai, onomatopoeia ai, dan pemalsuan dokumen. mereka telah meluncurkan aplikasi percontohan dalam bisnis akses internet dengan nama asli. berdasarkan kemampuan anti-pemalsuan, aplikasi ini dapat mendeteksi wajah ai dalam proses verifikasi nama asli secara real time, dan secara proaktif mencegah risiko seperti "pengubahan wajah ai". pembukaan dan penggantian kartu online, dan akurasi pemalsuan tinggi mencapai lebih dari 90%.
memang benar, bagaimana memungkinkan masyarakat awam menikmati perlindungan yang diberikan oleh teknologi anti-pemalsuan deepfake merupakan proposisi penting dalam penelitian dan pengembangan teknologi saat ini. zhou wenbo, seorang profesor di sekolah keamanan dunia maya di universitas sains dan teknologi tiongkok, menekankan hal ini dalam sebuah wawancara dengan seorang reporter nandu tiongkok telah mengambil langkah baru. baru pada awal september, teknologi pendeteksi anti-penipuan pertama di dunia berdasarkan perubahan wajah ai pada sisi perangkat, yang dikembangkan oleh laboratorium bekerja sama dengan honor, telah diterapkan pada ponsel honor. setelah pengguna mengklik mulai deteksi, teknologi akan mendeteksi wajah dalam video dan memberikan kemungkinan pertukaran wajah oleh ai. jika kemungkinannya terlalu tinggi, pengguna akan diingatkan bahwa dugaan pertukaran wajah telah terdeteksi pertukaran wajah terdeteksi). diketahui bahwa laboratorium keamanan kognitif cerdas dari sekolah keamanan dunia maya di universitas sains dan teknologi tiongkok melakukan open source alat sintesis mendalam yang disebut deepfacelab (alat untuk mengubah wajah video menggunakan pembelajaran mendalam) pada awal tahun 2019; pada tahun 2020, tim berpartisipasi dalam "deep fake detection challenge (dfdc)" terbesar di dunia yang diselenggarakan oleh facebook, mit, dll. dan memenangkan runner-up.
masalah apa yang masih harus dipecahkan ketika menggunakan ai untuk mengalahkan ai?
dari permainan ofensif dan defensif hingga aplikasi industri, efisiensi dan kepraktisan penggunaan ai untuk "menghapus yang salah dan melestarikan yang benar" sudah terbukti dengan sendirinya. namun yang tidak dapat diabaikan adalah bahwa risikonya masih meningkat secara eksponensial, yao weibin, pengusul global deepfake offensive and defense challenge dan direktur teknis ant zoloz, mengatakan dalam sebuah wawancara dengan wartawan nandu bahwa jumlah pemalsuan yang dihasilkan aigc. serangan tahun ini meningkat sekitar 10 kali lipat dibandingkan tahun lalu. situasi serupa tidak hanya terjadi di tiongkok, tetapi juga di korea selatan, filipina, indonesia, dan negara-negara lainnya.
meskipun banyak teknologi pendeteksi bermunculan, kita tampaknya masih belum bisa sepenuhnya menghindari risiko yang ditimbulkan oleh deepfake. zhou wenbai mengatakan kepada wartawan nandu bahwa proses suatu teknologi mulai dari penelitian teoritis hingga penggunaan praktis bukanlah proses yang akan efektif dalam waktu singkat, namun akan menghadapi berbagai tantangan sebelum diimplementasikan. “sebenarnya menurut saya yang terpenting adalah jangan bicara seberapa lengkap teknologinya. karena kalau memang ingin menyelesaikan suatu masalah, hanya 5% saja yang perlu mengandalkan teknologi, dan 95% sisanya perlu mengandalkan teknologi. tentang undang-undang, peraturan dan standar implementasi. peningkatan." ia menunjukkan bahwa sangat penting bagi masyarakat untuk berpartisipasi dalam mempopulerkan ilmu pengetahuan populer seperti media dan platform penyebaran konten, dan masyarakat juga perlu memiliki kesadaran yang lebih kuat akan tindakan pencegahan keselamatan.
zhang bo, anggota komite profesional tata kelola keamanan kecerdasan buatan dari asosiasi keamanan dunia maya tiongkok, juga menyatakan dalam sebuah wawancara dengan media bahwa “perubahan wajah ai biasanya disertai dengan skenario penipuan transaksi, seperti panggilan video kontur wajah dan pencahayaan video pihak lain. detail seperti latar belakang untuk melihat apakah ada kelainan. jika perlu, anda dapat meminta orang lain untuk segera mengangkat kepalanya, mengangguk, dan menoleh untuk menentukan lebih lanjut apakah ada apakah ada detail abnormal dalam video untuk mengonfirmasi bahwa video tersebut asli.”
dari sudut pandang teknis, arah lain apa yang ada untuk meningkatkan akurasi deteksi deepfake? zhang bo percaya bahwa otentikasi identitas dan watermarking digital dapat digabungkan untuk mempersulit pemalsuan. zhou wenbai mengatakan kepada wartawan nandu bahwa hal ini dapat dipertimbangkan dari dua aspek. pertama, menyediakan lebih banyak jenis data deepfake berkualitas tinggi untuk model deteksi. sama seperti orang mempelajari pengetahuan, begitu pula model pembelajaran mendalam. semakin banyak data yang anda lihat dan semakin banyak pengetahuan yang anda pelajari, semakin kuat kemungkinan kemampuan pengenalan anda. “hal lainnya adalah kami dapat mencoba melakukan perlindungan aktif di sisi penerbitan data. misalnya, sebelum data kami dipublikasikan di platform sosial, platform tersebut harus ditandai dengan informasi identifikasi kuat yang dapat dilacak (seperti tanda air) di beberapa tempat. cara. informasi identifikasi ini dapat disertai dengan materi media yang disebarluaskan, dan dengan mendeteksi integritas, semantik, dan konten lain dari informasi identifikasi, ditentukan apakah materi saat ini telah rusak atau dipalsukan," kata zhou wenbo. perlu disebutkan bahwa banyak platform video seperti douyin kini memiliki label untuk video yang diduga dibuat oleh ai.
zhang bo juga menyarankan bahwa dari sudut pandang manajemen, perlu untuk mempercepat perumusan dan penerapan undang-undang, peraturan, dan langkah-langkah regulasi yang relevan untuk menstandardisasi metode penggunaan dan skenario penerapan aplikasi ai. dalam pandangan zhou wenbo, dikeluarkannya standar seperti "spesifikasi teknis untuk aplikasi finansial deteksi wajah digital palsu" dapat digunakan sebagai panduan untuk membakukan layanan yang diberikan oleh perusahaan dan institusi serta penerapan teknologi, dan harus dilakukan. sesuai dengan norma dan standar tertentu. menerapkan teknologinya untuk mencegah ancaman terhadap privasi, keamanan data, dan aspek lainnya selama penggunaan teknologi, yang mengakibatkan kerugian terhadap hak dan kepentingan pengguna, bahkan pelanggaran kepentingan nasional.
dari sisi pengembangan bakat di bidang terkait, kami juga menghadapi peluang dan tantangan. wang yaonan, akademisi dari chinese academy of engineering dan ketua chinese society of image and graphics, menunjukkan bahwa dalam beberapa tahun terakhir, ada banyak kasus penggunaan teknologi ini secara jahat untuk melakukan penipuan ai yang mengubah wajah di luar negeri, yang mengakibatkan kerugian ekonomi dan properti, kerusakan reputasi, dan insiden lainnya. mengingat tantangan teknis yang ada, sangatlah penting untuk mengembangkan talenta ai yang memiliki kemampuan praktis. wang wei, cto ant digital, mengusulkan sebuah solusi, dengan harapan dapat "mempromosikan inovasi melalui kompetisi", meningkatkan kemampuan kontestan dalam menggunakan teknologi untuk memecahkan masalah nyata dalam skenario penerapan praktis melalui pertanyaan kompetisi yang membumi, dan menumbuhkan bakat interdisipliner; melalui pengumpulan para elit teknologi ai global, berkomunikasi dan meningkatkan tingkat konfrontasi global dalam latihan tempur sebenarnya.
diwawancarai dan ditulis oleh: reporter nandu xiong runmiao
