berita

Dengan pengembangan dan pengulangan kecerdasan buatan (AI), AI generatif mengubah kehidupan sehari-hari dengan kecepatan yang belum pernah terjadi sebelumnya, namun penipuan baru dan rutinitas baru yang dihasilkannya juga menyegarkan pemahaman masyarakat tentang pencegahan risiko. Di balik hal ini bukan hanya keselamatan properti konsumen, tetapi juga risiko keselamatan pribadi dan bahaya tersembunyi.

Baru-baru ini, media asing mengungkap penipuan digital baru. Para penipu menggunakan alat AI yang kompleks untuk membuat video selebriti seperti CEO Tesla Musk, dan menggunakan "selebriti AI" ini untuk melakukan berbagai produk atau "investasi" palsu investasi.

Dalam satu kasus yang umum, sebuah perusahaan valuta asing yang didukung oleh "AI Musk" dengan mudah menipu seorang pensiunan berusia 82 tahun sebesar lebih dari $690.000 (sekitar 4,95 juta yuan) dari tabungan hidupnya.

Dalam penipuan jenis ini, penipu biasanya terlebih dahulu menemukan video asli Musk yang sedang diwawancarai, kemudian menggunakan alat AI untuk menggantikan suaranya, dan menggunakan teknologi sinkronisasi bibir untuk mengedit bentuk mulut Musk agar video tersebut terlihat lebih autentik. Bagi masyarakat awam, video palsu semacam ini mungkin sangat sulit dibedakan.

Selain Musk, "Stock God" Buffett dan pendiri Amazon Jeff Bezos juga merupakan selebriti yang kerap muncul dalam video penipuan tersebut.

"AI Musk" merajalela. Hanya perlu beberapa menit untuk menghasilkannya, tetapi seseorang ditipu hampir 5 juta yuan.

Dalam beberapa bulan terakhir, ribuan video bertenaga AI, yang dikenal sebagai “deepfakes”, telah membanjiri Internet.Menurut perkiraan Deloitte, video/iklan “deepfake” yang didukung AI diperkirakan akan menimbulkan kerugian akibat penipuan sebesar miliaran dolar setiap tahunnya.

Namun,Pembuatan video ini membutuhkan biaya beberapa dolar dan dapat diselesaikan dalam hitungan menit.Video semacam itu dipromosikan secara luas di media sosial, termasuk melalui iklan berbayar di Facebook, karena status selebritisnya, sehingga meningkatkan jangkauannya.

Penipu akan memulai dengan video nyata, seperti di bawah ini dari wawancara dengan Musk dari The Wall Street Journal, di mana penanya adalah Thorold Barker, editor di surat kabar tersebut yang suaranya juga muncul dalam klip video tersebut.

Sumber gambar: "Wall Street Journal"

Dalam video "deepfake", gerakan mulut Musk diedit menggunakan teknologi lip-sync yang menyesuaikan cara seseorang berbicara. Penipu juga menambahkan suara AI menggunakan alat kloning suara, yang dapat menyalin suara apa pun yang mereka inginkan dari sampel. Oleh karena itu, video yang dihasilkan mungkin cukup meyakinkan bagi rata-rata pengguna internet.

Beberapa orang telah tertipu dengan hal ini.Pensiunan Steve Beauchamp yang berusia 82 tahun adalah kasus yang khas. Menurut laporan media asing, pada akhir tahun lalu, pensiunan Beauchamp berusia 82 tahun menonton iklan video. Dalam video tersebut, Musk mendukung peluang investasi agresif yang menjanjikan keuntungan cepat, dan bentuk mulut serta suaranya sangat mirip.Ini juga menggabungkan aksen Afrika Selatan yang ikonik dari Musk.Ini terlihat sangat nyata. Jadi Beauchamp menghubungi perusahaan valuta asing di balik iklan bernama Magna-FX dan membuka akun seharga $248. Setelah serangkaian perdagangan selama beberapa minggu, Beauchamp menghabiskan rekening pensiunnya dan akhirnya berinvestasi lebih dari $690.000, yang kemudian terhapuskan.

Menurut yang lainSeorang pria Texas mengatakan dia kehilangan uang senilai $3,6 setelah melihat Musk berbicara dalam apa yang disebut video "langsung" YouTube pada Februari 2023, menurut laporan oleh kelompok advokasi konsumen nirlaba Better Business Bureau. Dia berkata, "Saya mengirim bitcoin dan tidak pernah menerima apa pun lagi."

Sensity, sebuah perusahaan yang bertanggung jawab untuk memantau dan mendeteksi "deepfake", menganalisis lebih dari 2.000 video deepfake dan menemukan bahwa sejauh ini,Musk adalah "gambar AI" yang paling umum dalam jenis video ini. Secara khusus, sejak akhir tahun lalu, "AI Musk" telah muncul di hampir 1/4 penipuan "palsu". Dalam video “deep fake” terkait cryptocurrency, frekuensi kemunculannya bahkan mencapai 90%.

Dalam hal ini, para ahli yang mempelajari komunitas mata uang kripto mengatakan bahwa Musk memiliki basis penggemar yang unik di seluruh dunia, termasuk kaum konservatif, faksi anti kemapanan, dan kelompok semacam itu sering kali tertarik dengan cara-cara alternatif untuk menghasilkan uang.Hal ini juga menjadikan mereka target sempurna bagi para penipu digital. Selain itu, di antara kelompok ini, pengguna internet berusia lanjut sering kali lebih cenderung menjadi sasaran para penipu. Kelompok ini sangat akrab dengan mata uang kripto, AI, dan Musk, namun seringkali kurang waspada.

Selain Musk, "Stock God" Buffett dan pendiri Amazon Jeff Bezos juga merupakan selebriti yang kerap muncul dalam video penipuan tersebut.

Teknologi AI telah menjadi alat penipuan, dan Facebook serta Youtube adalah wilayah yang paling terkena dampaknya

Menurut laporan media asing, saat ini sulit untuk mengukur berapa banyak video "palsu" yang beredar secara online, namun mencari kata kunci umum untuk penipuan ini di perpustakaan iklan Facebook dapat mengungkap ratusan ribu iklan, termasuk Banyak yang berisi video "deepfake" .

Meskipun Facebook telah menghapus banyak video yang melanggar kebijakannya dan menangguhkan beberapa akun, video lainnya masih beredar secara online, dan tampaknya lebih banyak lagi yang muncul setiap hari. Tidak hanya Facebook, YouTube juga penuh dengan video palsu tersebut, seringkali menggunakan tag "live". Namun faktanya, video-video ini adalah video "deepfake" yang telah direkam sebelumnya.

YouTube mengatakan dalam pernyataannya bahwa pada kuartal pertama tahun ini saja,Lebih dari 15,7 juta saluran dan lebih dari 8,2 juta video telah dihapus.Sebagian besar konten ini dihapus karena melanggar kebijakan anti-spam.

Maraknya iklan "deepfake" semacam itu juga menyebabkan miliarder Australia Andrew Forrest mengajukan gugatan perdata, menuduh perusahaan induk Facebook, Meta, lalai dalam operasi bisnis periklanannya. Ia percaya bahwa bisnis periklanan Facebook mendorong "pengguna yang tidak bersalah untuk melakukan investasi yang salah." Meta mengatakan pihaknya sedang melatih sistem deteksi otomatis untuk menangkap penipuan di platformnya, namun juga menyebutkan bahwa penipu yang memiliki dana besar akan terus mengubah strategi mereka untuk menghindari deteksi.YouTube mengatakan kebijakannya melarang video penipuan dan rekayasa, dan pada bulan Maret tahun ini pembuat konten diwajibkan untuk mengungkapkan kapan mereka menggunakan AI untuk membuat konten autentik.

Faktanya, penipuan digital bukanlah hal baru, tetapi sejak alat AI open source tahun lalu, gelombang baru video "palsu" telah meledak.

Awal tahun ini,Komisi Perdagangan Federal AS (FTC) dan FBI juga telah memperingatkan bahwa kejahatan dunia maya dan penipuan mendalam yang didorong oleh AI sedang meningkat.“Penjahat menggunakan AI untuk membuat serangan siber dan aktivitas kriminal lainnya menjadi lebih efektif dan lebih sulit dideteksi,” kata FBI.

Video "palsu" tidaklah sempurna, dan bahkan di beberapa video, bentuk mulut "AI Musk" tidak cocok, namun beberapa ahli mengatakan bahwa untuk kelompok sasaran beberapa penipu, video yang mereka hasilkan tampaknya cukup menarik, dan membaik setiap saat.

Selain itu, beberapa penipuan sering kali mempromosikan perangkat lunak kecerdasan buatan palsu, mengklaim bahwa perangkat lunak tersebut dapat menghasilkan laba atas investasi yang signifikan. Penipu menggunakan ini untuk mengelabui audiens target agar menginvestasikan sejumlah kecil uang (sekitar $250) pada awalnya. Orang-orang kemudian perlahan-lahan terpikat untuk menginvestasikan lebih banyak uang karena para penipu terus mengklaim bahwa investasi tersebut akan meningkat nilainya.

Menipu tabungan hidupnyaBeauchamp“Pada titik ini, saya bersedia menerima semua kritik dan cemoohan sebagai hukuman atas sifat mudah tertipu saya,” katanya dalam laporannya kepada Better Business Bureau.

Dia mengatakan bahwa dia mengandalkan rekening pensiun dan dana pensiun yang lebih kecil yang tidak dia ungkapkan kepada para penipu untuk memenuhi kebutuhan hidup, dan bahwa dia berencana menggunakan tabungan tersebut untuk bepergian keliling dunia.BeauchampLaporan telah dibuat ke polisi setempat, namun perkembangan kasusnya lambat. “Kasus saya masuk antrian karena banyaknya kasus penipuan,” ujarnya. “Saya tidak menaruh harapan besar.”

berita ekonomi harian