Informasi kontak saya
Surat[email protected]
2024-08-17
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
Musk palsu yang dihasilkan oleh AI telah menjadi pembohong online terbesar.
Tautan asli: https://mp.weixin.qq.com/s/NKmwfvHunBbEhE091RwD-A
Sumber: Teknologi NetEase (ID: tech_163)
Judul asli: Musk Palsu yang dihasilkan oleh AI telah menjadi pembohong online terbesar
Menurut laporan media AS, pada tanggal 15 Agustus, teknologi deepfake kecerdasan buatan (Deepfake) telah banyak digunakan dalam penipuan online dalam beberapa tahun terakhir, terutama penggunaan video palsu Elon Musk untuk melakukan penipuan. Video tersebut menyesatkan investor dengan meniru suara dan gerakan Musk. Video deepfake tersebut berbiaya murah dan menyebar dengan cepat, sehingga memungkinkan para penipu dengan mudah memperluas cakupan aktivitas penipuan mereka, sehingga mengakibatkan banyak korban kehilangan sejumlah besar uang karena peluang investasi palsu. Ketika risiko deepfake semakin nyata, kerugian akibat penipuan diperkirakan mencapai miliaran dolar setiap tahunnya.
Berikut teks lengkap terjemahannya:
Steve Beauchamp, seorang pensiunan berusia 82 tahun, ingin menambah penghasilan bagi keluarganya, dan dia menaruh harapannya pada Elon Musk. Akhir tahun lalu, Beacham menemukan video di mana Musk tampaknya merekomendasikan rencana investasi agresif yang menjanjikan keuntungan cepat. Terinspirasi oleh hal ini, Beacham segera menghubungi perusahaan di balik video tersebut dan membuka rekening investasi sebesar $248. Namun, selama beberapa minggu berikutnya, dia secara bertahap meningkatkan investasinya, dan akhirnya menarik lebih dari $690.000 dari rekening pensiunnya.
Namun segera setelah itu, uang tersebut hilang dan jatuh ke tangan sekelompok penipu yang menggunakan kecerdasan buatan untuk melakukan penipuan digital jenis baru. Para penipu dengan cerdik mengubah wawancara nyata dengan Musk, menggunakan teknologi AI untuk menggantikan suaranya dan menyempurnakan bentuk mulutnya agar sesuai dengan naskah baru yang mereka tulis untuk manusia digital. Bagi pemirsa rata-rata, operasi ini hampir tidak terlihat.
Beacham mengingat video tersebut dan berkata dengan penuh emosi: "Dia memiliki gambaran yang berbeda dalam video tersebut dan sekilas dapat dikenali sebagai Musk. Mengenai apakah AI yang membuatnya mengucapkan kata-kata itu, saya tidak yakin sekarang. Tapi hanya "Sejauh videonya, jika seseorang meminta saya untuk mengidentifikasi dia di tengah kerumunan, saya pasti bisa menunjukkannya."
01
Musk sering mengunjungi deepfake
Dalam beberapa bulan terakhir, Internet telah dibanjiri dengan ribuan video bertenaga AI, yang dikenal sebagai "deepfakes", yang menggunakan gambar palsu Musk untuk menyesatkan calon investor. Deloitte memperkirakan bahwa jenis deepfake yang didukung AI ini dapat menyebabkan kerugian miliaran dolar akibat penipuan setiap tahunnya.
Video-video ini sangat murah untuk diproduksi, dapat diselesaikan dalam hitungan menit, dan dipromosikan melalui media sosial, termasuk iklan berbayar di Facebook, sehingga memperluas jangkauan mereka. Francesco Cavalli, salah satu pendiri dan direktur intelijen ancaman di Sensity, sebuah perusahaan yang memantau dan mendeteksi video deepfake, memperingatkan: "Ini mungkin penipuan deepfake terbesar yang pernah ada."
Video-video tersebut sering kali terlihat seperti aslinya, secara akurat menangkap intonasi berombak khas Musk dan aksen Afrika Selatan. Penipu biasanya memulai dengan video asli, seperti wawancara Wall Street Journal, dan suara reporter dipertahankan dalam video palsu tersebut, sehingga menambah keaslian video tersebut.
Dengan menggunakan teknologi sinkronisasi bibir yang canggih, para penipu menyesuaikan gerakan mulut Musk agar sesuai dengan garis palsu mereka. Mereka juga menambahkan suara AI menggunakan alat kloning suara, yang dapat menyalin suara apa pun dari klip sampel. Iklan terakhir mungkin juga menyertakan grafik palsu, meniru gaya organisasi berita, yang mungkin cukup meyakinkan bagi rata-rata pengguna Internet.
Menurut analisis Sensity, Musk adalah pembicara paling umum dalam video tersebut. Dia muncul di hampir seperempat penipuan deepfake dari hampir 2.000 sampel yang dianalisis, terutama sejak akhir tahun lalu. Di antara video bertema cryptocurrency, proporsinya bahkan mencapai hampir 90%. Iklan deepfake juga kerap memanfaatkan investor terkenal seperti Warren Buffett dan taipan bisnis seperti pendiri Amazon Jeff Bezos.
Meskipun sulit untuk menghitung secara akurat berapa banyak deepfake yang beredar online, penelusuran perpustakaan iklan Facebook untuk mencari bahasa umum terkait penipuan mengungkapkan ratusan ribu iklan, banyak di antaranya berisi video deepfake. Meskipun Facebook telah menghapus sebagian besar konten yang melanggar kebijakannya dan melarang akun yang terlibat, video lain tetap ada di jaringan, dan tampaknya lebih banyak lagi yang muncul setiap hari.
YouTube juga penuh dengan konten palsu, seringkali dengan label "live". Faktanya, ini adalah video deepfake yang telah direkam sebelumnya. Cari kata kunci seperti "Konferensi Elon Bitcoin" di YouTube, dan Anda dapat melihat lusinan video yang disamarkan sebagai siaran langsung. Musk palsu dalam video tersebut menjajakan penipuan mata uang kripto, yang sangat menyesatkan.
Setelah mantan Presiden AS Donald J. Trump berbicara di konferensi Bitcoin, lusinan video berlabel "Langsung" dengan cepat muncul di YouTube, menunjukkan video deepfake Musk yang telah direkam sebelumnya, mengklaim menggandakan mata uang kripto yang dikirim ke akunnya. Video-video tersebut menarik banyak sekali penonton, bahkan ada yang mencapai ratusan ribu penayangan. Namun YouTube mengatakan penipu mungkin menggunakan troll online untuk meningkatkan jumlah penayangan secara artifisial.
Menurut laporan oleh Better Business Bureau, sebuah kelompok advokasi konsumen nirlaba, seorang penduduk Texas kehilangan $36.000 pada Februari 2023 setelah melihat pesan penipuan yang mengaku sebagai Musk melalui apa yang disebut video "langsung" di YouTube tentang Bitcoin. “Saya mentransfer Bitcoin tetapi tidak menerima apa pun,” kata warga tersebut.
02
FB dan YouTube paling terkena dampaknya
YouTube mengatakan dalam sebuah pernyataan bahwa antara bulan Januari dan Maret tahun ini saja, platform tersebut menghapus lebih dari 15,7 juta saluran dan lebih dari 8,2 juta video, sebagian besar karena melanggar kebijakan anti-spam.
Mengingat maraknya iklan palsu, miliarder Australia Andrew Forrest telah mengajukan gugatan perdata terhadap perusahaan induk Facebook, Meta, dengan tuduhan kelalaian dalam bisnis periklanannya, dan mengklaim bahwa bisnis periklanan ini menyesatkan pengguna yang tidak bersalah sehingga melakukan investasi yang salah. Dilaporkan bahwa video Forrest sendiri juga digunakan untuk membuat iklan palsu yang mendalam.
Meta merespons dengan mengatakan bahwa pihaknya sedang melatih sistem deteksi otomatis untuk mengidentifikasi aktivitas penipuan di platform, namun mengakui bahwa ini adalah permainan kucing dan tikus yang rumit karena geng penipuan yang didanai dengan baik terus-menerus mengubah taktik mereka untuk menghindari deteksi. YouTube menegaskan kembali kebijakannya terhadap penipuan dan gangguan video, dan pada bulan Maret tahun ini mewajibkan semua pembuat konten untuk melakukan pengungkapan yang jelas saat menggunakan AI untuk membuat konten yang realistis.
Internet dipenuhi dengan laporan penipuan yang menyebabkan banyak orang kehilangan tabungan hidupnya. Komisi Sekuritas dan Berjangka Hong Kong mengeluarkan peringatan pada bulan Mei tentang aktivitas penipuan yang melibatkan Musk. Awal tahun ini, Komisi Perdagangan Federal dan FBI juga memperingatkan masyarakat Amerika tentang meningkatnya kejahatan dunia maya dan penipuan deepfake yang didorong oleh AI.
“Penjahat menggunakan AI sebagai penguat kekuatan untuk membuat serangan siber dan aktivitas kriminal lainnya menjadi lebih efektif dan sulit dideteksi,” tegas FBI dalam pernyataan emailnya.
Penipuan digital telah berkembang seiring dengan pertumbuhan internet. Namun gelombang deepfake baru yang ditandai oleh Musk muncul ketika alat AI canggih tersedia untuk umum tahun lalu. Alat tersebut memungkinkan orang biasa untuk mengkloning suara selebriti atau memanipulasi video secara tepat, sehingga menarik perhatian industri pornografi dan pembuat meme penipu dan semakin banyak geng penipuan.
“Segala sesuatunya berubah sekarang karena kelompok kejahatan terorganisir telah menemukan bahwa mereka dapat menghasilkan uang dengan cara ini,” kata Lou Steinberg, pendiri laboratorium penelitian keamanan siber CTM Insights. Dia memperkirakan bahwa kita akan melihat semakin banyak upaya pemalsuan tersebut, dengan satu-satunya tujuan untuk menipu uang. "
Meskipun video yang dihasilkan AI tidak sempurna, misalnya, suara Musk mungkin terdengar seperti robot di beberapa video, dan bentuk mulutnya tidak selalu tidak sesuai dengan garisnya. Namun para ahli memperingatkan bahwa video tersebut cukup meyakinkan untuk beberapa target penipuan dan bahwa teknologinya semakin membaik seiring berjalannya waktu.
Menurut Cavalli dari Sensity, biaya pembuatan video tersebut sangat murah, sekitar $10, dan sebagian besar penipu mengumpulkan video palsu dalam waktu kurang dari 10 menit menggunakan berbagai alat gratis atau murah. Mereka sebagian besar berlokasi di India, Rusia dan Eropa Timur.
"Berhasil," kata Cavalli. “Akibatnya, mereka akan terus memperluas aktivitas ini, melintasi batas negara, menerjemahkan ke berbagai bahasa, dan terus menyebarkan penipuan ke lebih banyak sasaran.”
03
Orang yang lebih tua membuat target yang sempurna
Jenis penipuan ini sering kali menggunakan perangkat lunak investasi kecerdasan buatan dengan keuntungan tinggi sebagai kedok untuk membujuk korbannya agar menginvestasikan sejumlah kecil uang - seperti $250. Selanjutnya, dengan melebih-lebihkan dampak nilai tambah dari investasi, mereka perlahan-lahan terdorong untuk meningkatkan jumlah investasi.
Video rapat pemegang saham Tesla juga dipalsukan, di mana Musk menjelaskan produk perdagangan otomatis yang didukung AI, mengklaim mampu menggandakan hasil investasi setiap hari.
Para ahli yang mempelajari komunitas mata uang kripto menunjukkan bahwa Musk memiliki kelompok penggemar global unik yang sebagian besar adalah kaum konservatif, tokoh anti kemapanan, dan penggemar mata uang kripto yang sering mencari cara non-tradisional untuk menghasilkan kekayaan, sehingga menjadikan mereka target ideal untuk penipuan. .
“Pasti ada sekelompok orang yang percaya bahwa rahasia kekayaan disembunyikan,” kata Molly White, peneliti yang mempelajari komunitas cryptocurrency. Ia menunjukkan bahwa sebagian orang selalu berfantasi untuk menguasai rahasia kekayaan, berpikir bahwa begitu mereka menemukannya, mereka akan menjadi kaya dalam semalam.
Penipu khususnya menyasar pengguna internet berusia lanjut yang, meskipun memiliki pengetahuan tentang mata uang kripto, kecerdasan buatan, atau Musk, namun tidak terbiasa dengan metode investasi yang aman.
“Orang lanjut usia selalu menjadi target para penipu, bahkan sebelum munculnya media sosial,” kata Finn Brunton, seorang profesor riset sains dan teknologi di Universitas California, Davis, pakar pasar kripto.
Beacham adalah seorang duda yang bekerja sebagai perwakilan penjualan di sebuah perusahaan di Ontario, Kanada, hingga pensiun pada usia 75 tahun. Tak lama setelah bergabung dengan Facebook pada tahun 2023, dia mengalami penipuan iklan. Meskipun dia ingat pernah melihat Musk di siaran langsung CNN, juru bicara CNN mengatakan Musk sudah bertahun-tahun tidak diwawancarai di stasiun tersebut.
Pada bulan Desember, Beacham mengirimkan $27,216 ke sebuah perusahaan bernama Magna-FX, yang membuatnya yakin bahwa nilai investasinya meningkat, menurut pertukaran email antara dia dan perusahaan tersebut. Selama periode ini, agen penjualan bahkan menggunakan perangkat lunak untuk mengontrol komputer Beacham dari jarak jauh dan mentransfer dana tanpa izin.
Ketika Beacham mencoba menarik dananya, dia diberitahu bahwa dia harus membayar biaya pengelolaan sebesar $3.500 dan komisi $3.500 lainnya. Dia membayar uang tersebut, namun kemudian diberitahu bahwa dia perlu membayar $20.000 untuk mengeluarkan sekitar $200.000 dana tersebut. Meskipun ia telah menghabiskan tabungan pensiunnya, telah memaksimalkan jumlah kartu kreditnya, memanfaatkan batas kreditnya dan meminjam uang dari saudara perempuannya untuk berinvestasi dan membayar pengeluaran, para penipu memintanya untuk membayar lebih. Saat ini, Beacham telah menyadari keseriusan masalah tersebut dan menghubungi polisi.
Sebagian besar jejak Magna-FX telah hilang dari web, termasuk situs web perusahaan, nomor telepon dan alamat email yang digunakan oleh agen yang berkomunikasi dengan Beacham. Perusahaan dengan nama dan layanan serupa tidak menanggapi permintaan komentar.
“Pada titik ini, saya bersedia menerima semua kritik dan cemoohan sebagai hukuman atas sifat mudah tertipu saya,” kata Beacham dalam laporannya kepada Better Business Bureau.
Dia mengatakan bahwa dia mengandalkan rekening pensiun dan dana pensiun yang lebih kecil yang tidak dia ungkapkan kepada para penipu untuk memenuhi kebutuhan hidup, dan bahwa dia berencana menggunakan tabungan tersebut untuk bepergian keliling dunia. Beacham telah melaporkan kejahatan tersebut ke polisi setempat, namun perkembangan kasusnya lambat.
“Kasus saya masuk antrian karena banyak sekali kasus penipuan,” ujarnya. “Saya tidak terlalu berharap.”
*Sumber gambar header: Visual China
Geek bertanya
platform media sosial
Dalam menghadapi penyebaran konten palsu yang mendalam,
Apa tanggung jawabnya?
Cai Chongxin: Pemimpin yang baik haruslah orang yang paling sadar diri.
Sukai dan ikutiAkun Video Geek Park,