berita

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Hal-hal cerdas (akun publik:zhidxcom）
menyusunvanila
suntingYunpeng

Bayangkan saja ketika seorang pengusaha papan atas menawarkan Anda sebuah ranting zaitun dan memberi tahu Anda “secara pribadi” bahwa ada cara bebas risiko untuk menjadi kaya dengan cepat.Cukup isi formulir dan Anda dapat menghasilkan $1 juta, apa yang akan kamu lakukan?

Jika orang ini adalah Musk dan BBC mendukungnya, beri tahu Anda bahwa ini adalah "Sebuah revolusi teknologi yang tidak diketahui publik"Kain wol?

//oss.zhidx.com/uploads/2024/08/66bdc7fb13150_66bdc7fb0efec_66bdc7fb0efca_musk-overlap-1-900w.mp4

▲ Video deepfake AI Musk

Masyarakat yang lebih waspada mungkin akan langsung mencium bau penipuan telekomunikasi, namun bagi masyarakat yang jarang terpapar internet, tidak mudah mengidentifikasi video palsu tersebut.

Menurut laporan New York Times pada 16 Agustus, pada akhir tahun lalu, Beauchamp, seorang pensiunan berusia 82 tahun, melihat Musk mempromosikan peluang investasi radikal dan menjanjikan keuntungan yang cepat dan bebas risiko. Dia menghubungi perusahaan melalui video dan menghabiskan tabungan pensiunnya dalam serangkaian transaksi selama beberapa minggu berikutnya,“Investasi” kumulatif melebihi US$690.000。

Hal berikutnya yang dapat Anda bayangkan, dana pensiun menghilang bersama dengan perusahaan.

Dengan namapalsu dalamTeknologi AI menjadi semakin matang, dan video serupa membanjiri Internet. Menurut perkiraan Deloitte, sebuah perusahaan konsultan terkenal, video deepfakeKerugian akibat penipuan puluhan miliar dolar setiap tahunnya。

Sensity, sebuah organisasi yang memantau video deepfake, baru-baru ini melakukan survei dan menganalisisLebih dari 2000 paragrafVideo deepfake, ditemukanMusktelah menjadi "juru bicara" paling umum dalam jenis video ini. Sejak akhir tahun lalu,Musk muncul di hampir 1/4 video penipuan deepfake, di antaranya tingkat kemunculannya dalam video yang menargetkan mata uang kripto sangat tinggi90%。

Sasaran umum pemalsuan lainnya adalah investor terkenalPrasmanan, pendiri AmazonBezosTunggu.

1. Puluhan miliar dolar ditipu setiap tahun, dan tingkat kemunculan Musk pun demikian1/4

Untuk membuat video ini, penipu pertama-tama akan menemukan video wawancara Musk dan lainnya yang sebenarnya. Misalnya, adegan di video pembuka awalnya berasal dari wawancara yang diberikan Musk kepada Wall Street Journal, yang topiknya adalah bagaimana menggunakan AI dan teknologi lainnya untuk mencapai manajemen perusahaan yang efisien.

//oss.zhidx.com/uploads/2024/08/66bdc80d0fb1d_66bdc80d0bb46_66bdc80d0bb23_musk-overlap-original-900w.mp4

▲ Video wawancara Musk asli

Penipu akan memanfaatkannyaTeknologi sinkronisasi bibir (Lip-synch), sesuaikan bentuk mulut karakter, lalu gunakanAlat kloning suaraTambahkan suara yang disalin AI.

▲ Sinkronisasi bibir (Sumber: "New York Times")

Terakhir, beberapa video juga menambahkan ikon palsu yang meniru organisasi berita profesional seperti BBC, yang mungkin lebih meyakinkan bagi pengguna Internet biasa.

▲Logo berita (Sumber: "New York Times")

Sulit untuk mengukur secara pasti berapa banyak video deepfake yang beredar secara online. Pencarian salinan promosi umum untuk penipuan ini di perpustakaan iklan Facebook akan menghasilkan ratusan ribu iklan, banyak di antaranya adalah video deepfake.

//oss.zhidx.com/uploads/2024/08/66bdc7d322ac8_66bdc7d31d43f_66bdc7d31d418_bezos-ai-900w.mp4

▲ Video deepfake AI Bezos

YouTube juga penuh dengan jenis video ini. Jika Anda menelusuri “Konferensi Elon Bitcoin” di YouTube, Anda akan mendapatkan lusinan video berlabel siaran langsung, namun sebenarnya ini adalah video deepfake yang telah direkam sebelumnya.

▲ Video deepfake YouTube (Sumber: YouTube)

Jumlah penonton "siaran langsung" ini dapat bervariasi dari waktu ke wakturatusan ribu, namun menurut konfirmasi YouTube, penipu dapat menggunakan “pasukan air” untuk menambah jumlah orang dan secara artifisial meningkatkan jumlah tersebut.

Pada bulan Mei tahun ini, Deloitte, sebuah organisasi konsultan ternama, merilis laporan tentang peningkatan risiko penipuan pemalsuan mendalam yang disebabkan oleh AI generatif, yang menyebutkan bahwa insiden pemalsuan mendalam di bidang teknologi keuangan akan terjadi pada tahun 2023.meningkat 700%, dan memperkirakan bahwa AI akan mendorong kerugian akibat penipuan di AS pada tahun 2027menjadi $40 miliar dari $12,3 miliar pada tahun 2023，Tingkat pertumbuhan tahunan gabungan adalah 32%。

▲Perkiraan pertumbuhan kerugian akibat penipuan yang disebabkan oleh AI generatif (Sumber: Deloitte)

Video deepfake semakin bertambah jumlah dan dampaknya. Menurut survei yang dilakukan Sensity, sebuah organisasi yang memantau video deepfake, di antara lebih dari 2.000 video deepfake,Musk telah menjadi "juru bicara" yang paling umum, muncul diHampir 1/4 video penipuan deepfakeDiantaranya, tingkat kemunculannya dalam video yang menargetkan cryptocurrency sangat tinggi90%。

Francesco Cavalli, salah satu pendiri Sensity, percaya,Ini mungkin merupakan penipuan deepfake terbesar yang pernah ada。

2. Biayanya tidak melebihi10Dolar AS, memalsukan banyak video dalam beberapa menit

Faktanya, biaya produksi video jenis ini tidak mahal;Hanya biayanya kurang dari $10, kamu bisadalam beberapa menitSejumlah besar video palsu diproduksi.

Video yang dihasilkan AI ini tidaklah sempurna. Musk terdengar seperti robot di beberapa video, dan gerakan mulutnya tidak selalu konsisten. Namun video-video ini mampu menipu banyak orang, dan teknologinya terus berkembang.

//oss.zhidx.com/uploads/2024/08/66bdc81a2f25c_66bdc81a2b4b0_66bdc81a2b48f_musk-ted-ai-320w.mp4

▲ Video deepfake AI Musk

Investigasi Sensity menunjukkan bahwa penipu jenis ini sebagian besar berasal dari negara-negara Asia dan Eropa Timur. Mereka menggunakan alat gratis dan murah untuk menerjemahkan video ke berbagai bahasa dan terus menyebarkan penipuan ke wilayah yang lebih luas.

Salah satu rutinitas yang umum adalahPromosikan perangkat lunak AI palsu. Penipu mendorong target untuk terlebih dahulu menyerahkan sejumlah kecil uang - biasanya sekitar $250 - dengan meminta "juru bicara" mengklaim bahwa perangkat lunak tersebut dapat menghasilkan laba atas investasi yang menakjubkan, dan kemudian perlahan-lahan memikat mereka dengan mengklaim bahwa nilai investasi awal semakin meningkat. . Investasikan lebih banyak.

Misalnya, dalam video rapat pemegang saham Tesla berikut ini, Musk “mendemonstrasikan” produk perdagangan otomatis yang didukung oleh AI.Dapat menggandakan investasi tertentu setiap hari, “Hanya dengan investasi R4,500, Anda dapat memperoleh keuntungan stabil sebesar R8,000 per hari.” (Catatan: Rand adalah satuan mata uang Afrika Selatan)

//oss.zhidx.com/uploads/2024/08/66bdc7f0238a4_66bdc7f01fb98_66bdc7f01fb73_elon-tesla-ai-900w.mp4

▲ Video deepfake AI Musk

Penipu AI ini biasanya menargetkanPengguna Internet Lama, mereka mungkin akrab dengan topik-topik seperti mata uang kripto dan AI, serta orang-orang seperti Musk dan Buffett, namun mereka tidak akrab dengan metode investasi yang aman.

“Orang lanjut usia adalah kelompok yang sangat kaya dan mudah tertipu,” kata Finn Brunton, profesor studi teknologi di Universitas California, Davis, dan pakar pasar mata uang kripto. “Bahkan tanpa platform media sosial, orang lanjut usia selalu menjadi sasarannya penipuan.”

Alasan Musk menjadi sasaran adalah karena Musk memiliki kelompok "penggemar" global yang unik. Para ahli yang mempelajari komunitas mata uang kripto mengatakan bahwa orang-orang ini sering kali merupakan kelompok konservatif, anti-kemapanan, dan penggemar kripto yang sering tertarik dengan cara-cara baru untuk menghasilkan uang — menjadikan mereka target sempurna untuk penipuan.

Peneliti komunitas Cryptocurrency Molly White mengatakan bahwa kelompok orang ini selalu percaya bahwa rahasia kekayaan tersembunyi dari mereka, dan begitu mereka "menemukan" rahasianya, mereka mengira itulah yang mereka butuhkan.

//oss.zhidx.com/uploads/2024/08/66bdc7f68765e_66bdc7f683a1d_66bdc7f6839f9_musk-bitcoin-ai-900w.mp4

▲ Video deepfake AI Musk

Beauchamp, pensiunan yang disebutkan di awal, adalah seorang perwakilan penjualan di sebuah perusahaan Kanada sebelum dia berusia 75 tahun. Dia mulai menggunakan Facebook tahun lalu dan melihat iklan Musk sedang diwawancarai di CNN.

Meskipun dia bersikeras bahwa dia juga telah melihat video tersebut di CNN, menurut juru bicara CNN,Musk sudah bertahun-tahun tidak diwawancarai oleh mereka。

Menurut pertukaran email antara Tuan Beauchamp dan perusahaan yang disebutkan dalam video, pada bulan Desember tahun lalu, dia mengirimkan $27,216 ke perusahaan bernama Magna-FX.

Magna-FX memperlihatkan bahwa nilai investasinya meningkat, bahkan mengizinkan agen penjualan menggunakan perangkat lunak untuk mengontrol komputer Beauchamp dari jarak jauh dan berpura-pura mentransfer dana untuk investasi.

Untuk menarik dana yang dihargai, Beauchamp diminta membayar biaya manajemen $3.500 dan komisi $3.500. Setelah dia mengirimkan uangnya, dia diberitahu bahwa dia perlu membayar $20.000 lagi untuk menarik sekitar $200.000 dari uang tersebut. Dia membayar uang itu lagi.

Akhirnya, Beauchamp menghabiskan tabungan pensiunnya, memaksimalkan kartu kreditnya, memaksimalkan batas kreditnya, dan meminjam uang dari saudara perempuannya untuk berinvestasi dan membayar pengeluaran. Namun para penipu terus memintanya membayar lebih. Beauchamp kemudian menghubungi polisi.

Sayangnya, belum ada kemajuan dalam kasus ini.

3. Pengawasan platform menghadapi tantangan. Menghapus video hanya mengatasi gejalanya, namun tidak mengatasi akar permasalahannya.

Maraknya iklan palsu juga tidak lepas dari kelalaian pengawasan platform.

Beberapa orang yang videonya dipalsukan mengambil tindakan hukum. Miliarder Australia Andrew Forrest telah mengajukan gugatan perdata terhadap perusahaan induk Facebook, Meta, dengan tuduhan kelalaian dalam operasi bisnis periklanannya. Video deepfake miliknya digunakan dalam iklan Facebook, yang diyakininya akan memikat "pengguna yang tidak bersalah untuk melakukan investasi buruk".

Meta menjawab bahwa perusahaan tersebut sedang melatih sistem deteksi otomatis untuk menangkap penipuan di platformnya, namun juga menyebutnya sebagai permainan "kucing dan tikus", dimana para penipu terus-menerus mengubah taktik mereka untuk menghindari deteksi.

YouTube juga mengambil beberapa tindakan untuk menangani video deepfake. Pada bulan Maret tahun ini, YouTube memperbarui kebijakannya yang mewajibkan pembuat konten untuk mengungkapkan apakah mereka menggunakan AI dalam kreasinya dan melarang penipuan serta perusakan video.

YouTube menyebutkan dalam pernyataannya bahwa antara Januari dan Maret tahun ini, perusahaan tersebut menghapus lebih dari 15,7 juta saluran dan lebih dari 8,2 juta video yang melanggar kebijakan konten. Namun, menghapus video saja masih merupakan indikator tetapi tidak menyelesaikan akar permasalahannya. Platform perlu memeriksa ulang sistem peninjauannya dan menyelesaikan masalah dari akarnya.

Kesimpulan: Video deepfake mencemari Internet

Sejarah penipuan digital sama tuanya dengan Internet. Namun, seiring dengan semakin matangnya teknologi AI dan biaya penggunaan alat AI yang semakin rendah, biaya waktu dan uang dalam menggunakan teknologi ini untuk melakukan penipuan juga telah berkurang secara signifikan. Gelombang baru video deepfake yang menampilkan selebriti seperti Musk mencemari internet.

Dengan perkembangan teknologi yang berkelanjutan, teknologi palsu mungkin menjadi lebih sulit untuk dibedakan, sehingga akan memberlakukan persyaratan baru pada platform, badan pengatur, dan undang-undang.

sumber:Waktu New York