berita

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

[Teks/Jaringan Pengamat Liao Yiheng]

Dengan munculnya era AI, pemilu AS tahun ini juga dianggap oleh beberapa pakar sebagai "penggunaan kecerdasan buatan dalam skala besar untuk mempengaruhi pemilih". Banyaknya peristiwa yang terjadi dalam pemilu ini juga membenarkan pendapat tersebut banyak orang di Amerika Serikat. Ada kekhawatiran bahwa intervensi model bahasa besar dalam pemilu akan berdampak negatif pada sistem demokrasi Amerika. Jika insiden rekaman palsu mendalam AGI pada pemilu Slovakia tahun 2023 hanyalah kasus pertama campur tangan AI dalam pemilu, maka pemilu AS yang sedang berlangsung dapat dianggap sebagai pertarungan besar antara campur tangan AGI dalam pemilu.

Pada awal Agustus, Trump menuduh "foto ribuan orang yang menunggu Harris ketika dia turun dari pesawat di rapat umum Detroit dipalsukan oleh AI!" Meskipun hal itu dibantah oleh tim Harris, termasuk tim Investigasi Reuters dari berbagai media juga membenarkan nama Harris. Suara keras pada rapat umum Harris memang benar, tetapi hal ini juga menunjukkan bahwa masyarakat Amerika sangat gugup terhadap campur tangan teknologi AI dalam pemilu.

Pada 7 Agustus waktu setempat, sekelompok orang sedang menunggu Wakil Presiden Kamala Harris dan Gubernur Minnesota Tim Walz menghadiri rapat umum kampanye di Bandara Romulus di Michigan. Donald Trump mencela jumlah peserta rapat umum dan membuat klaim palsu tentang foto-foto dari acara tersebut. Gambar internet

Secara kebetulan, pada tanggal 26 Juli tahun ini, Musk membagikan video palsu Harris di platform X miliknya, dengan teks "Ini luar biasa" dan emotikon tertawa. Dalam video ini terdapat banyak materi iklan kampanye tim kampanye Harris sebelumnya, serta narasi Harris yang cukup memancing konflik gender dan ras di Amerika Serikat: "Saya seorang perempuan dan orang kulit berwarna. Jika Anda mengkritik apa pun yang saya katakan, jika Anda mengatakan itu, maka Anda seksis dan rasis."

Video tersebut ditonton lebih dari 100 juta kali dalam tiga hari dan menyebabkan keributan. Faktanya, video ini tidak direkam oleh Harris sendiri, melainkan disintesis oleh kecerdasan buatan generatif, dan disertai dengan suara sintesis Harris yang cukup realistis. Namun Musk tidak melabeli video tersebut sebagai palsu dalam postingan tersebut.

Tim kampanye Harris menyatakan protes serius dan menekankan dalam sebuah pernyataan: "Insiden ini adalah contoh yang baik tentang bagaimana gambar, video, atau video realistis yang dihasilkan oleh kecerdasan buatan dapat digunakan menjelang pemilihan presiden AS. Bagaimana klip audio digunakan untuk mengolok-olok dan menyesatkan politik.”

Video yang diposting ulang oleh Musk di media sosialnya sendiri X. Video tersebut disintesis oleh kecerdasan buatan generatif (AGI) dan dicampur dengan beberapa informasi kampanye nyata agar menjadi sangat realistis. Gambar internet

Faktanya, kisah intervensi teknologi AI dalam pemilu AS telah terungkap sejak awal tahun ini. Bahkan sebelum Biden keluar dari pencalonan, ada insiden "AI Biden" yang mengganggu pemilihan pendahuluan di New Hampshire. Menurut laporan yang relevan, beberapa pemilih menerima panggilan menggunakan suara sintesis Biden pada 21 Januari tahun ini, yang meminta mereka untuk menyimpan suara mereka untuk pemilu terakhir pada bulan November, dan mengklaim bahwa jika mereka berpartisipasi dalam pemilu utama partai tersebut, Anda tidak akan bisa lagi untuk berpartisipasi dalam pemilihan akhir. Belakangan, Hani Farid, pakar forensik digital di Universitas California, Berkeley, membenarkan bahwa suara telepon sebenarnya dibuat oleh teknologi kecerdasan buatan yang "relatif lebih rendah".

Selanjutnya, pada tanggal 25 Februari tahun ini, Steve Kramer, konsultan politik calon presiden dari Partai Demokrat dan Anggota Kongres Phillips, mengakui bahwa dia mempekerjakan Carpenter dan meminta Carpenter untuk membuat perangkat lunak Baidu melalui suara Deng dan perencanaan badai telepon ini, panggilan tersebut kepada para pemilih hanya untuk “mengingatkan masyarakat agar waspada terhadap penerapan AI yang menyesatkan.”

Magic Carpenter menjelaskan kepada media proses diminta membuat audio "panggilan Biden palsu". Gambar internet

Kontes AI antara kedua partai di pemilu AS sudah dimulai. Partai Demokrat juga telah melihat pengalaman Partai Republik yang berani dan canggih dalam menggunakan AI.

Pada bulan Maret tahun ini, foto Trump dan pemilih kulit hitam terus bermunculan di media sosial Amerika. Tim investigasi dari program faktual BBC, Panorama, menemukan bahwa gambar-gambar tersebut memiliki kesamaan dalam menggambarkan orang kulit hitam mendukung mantan Presiden Trump dan menyarankan agar mereka memilih Partai Republik. Gambaran tersebut sebenarnya memajukan narasi strategis: Trump kini sangat populer di kalangan komunitas kulit hitam. Perlu Anda ketahui, pemilih kulit hitam menjadi kunci kemenangan Biden pada pemilu 2020.

Tentu saja gambar-gambar deepfake tersebut akhirnya ditemukan, namun selama proses penyebarannya, foto-foto deepfake tersebut tidak memiliki watermark atau anotasi untuk menunjukkan atribut non-nyata. Meskipun beberapa netizen yang penuh perhatian dapat melihat distorsi pada kilap dan tekstur foto-foto ini, tidak semua orang memiliki cukup energi dan penilaian untuk mengidentifikasinya.

Trump merangkul sekelompok perempuan kulit hitam. Foto tersebut kemudian dipastikan telah dipalsukan oleh kecerdasan buatan generatif. Gambar internet

Setelah diselidiki, diketahui bahwa beberapa foto tersebut berasal dari akun-akun yang menyindir Trump, namun beredar luas setelah dibersihkan, dan ada pula yang dihasilkan oleh pendukung fanatik Trump sendiri. Pencipta salah satu gambar tersebut mengatakan kepada BBC: "Saya tidak mengatakan itu adalah foto asli". Jawaban seperti ini membuat orang merasa tidak berdaya, karena sebelum AGI menghasilkan foto yang sangat palsu, kebanyakan orang secara default mengambil penilaian "melihat berarti percaya".

Selain informasi palsu yang disebarkan secara spontan oleh para pengikut fanatik Trump, tim kampanye Trump sendiri juga semakin meningkatkan perhatian dan investasinya di bidang AI. Catatan keuangan kampanye menunjukkan bahwa tim Trump, Komite Nasional Partai Republik dan komite penggalangan dana terkait membayar lebih dari $2,2 juta kepada perusahaan terkait seperti Campaign Nucleus, yang dimiliki oleh mantan manajer kampanye Trump, Parscale. Bisnis Campaign Nucleus mencakup penggunaan AGI untuk membantu menghasilkan email yang disesuaikan, menguraikan berbagai data untuk mengukur sentimen pemilih, menemukan pemilih yang berpengaruh, dan memperkuat postingan media sosial dari influencer yang "anti-terbangun". Fokusnya adalah penggunaan teknologi AI untuk menganalisis pendukung misi politik guna membangun profil dan berupaya memanipulasi preferensi pemilih melalui program yang dipersonalisasi.

Perlu disebutkan bahwa beberapa pemimpin teknologi juga telah mengubah pendirian politik mereka dan mulai mendukung Trump. Hal ini tampaknya merupakan persaingan dua arah. Salah satu tokoh ikoniknya adalah Elon Musk. Pasca insiden penembakan Trump, Musk secara resmi mengumumkan di platform sosialnya X bahwa ia mendukung pencalonan mantan Presiden Trump dan bersedia memberikan dana untuk mendukung kampanyenya.

Meskipun berbaliknya dukungan beberapa pemimpin Silicon Valley terhadap Partai Republik secara langsung terkait dengan kelemahan kebijakan keberagaman, alasan yang lebih luas berasal dari kekhawatiran mereka terhadap masa depan industri teknologi. Singkatnya, elemen-elemen seperti dana dan platform komunikasi sangat dipadukan dengan dukungan teknologi AGI dan telah memberikan kekuatan yang tidak terduga.

Rahasia Kotak Hitam yang Dijalin Erat

Setelah menyaksikan kemampuan AGI yang belum pernah terjadi sebelumnya dalam memperkeruh situasi dalam pemilu, mau tidak mau kita bertanya: Bagaimana mekanisme intervensi AGI dalam pemilu?

Konten palsu mendalam (Deepfakes) yang dihasilkan oleh AGI, termasuk teks, audio, gambar, dan video. Unsur-unsur ini sangat menjerat unsur informasi dan kognitif dalam propaganda pemilu, dan pada kenyataannya telah terikat erat dengan model komunikasi politik. Dengan melibatkan diri secara mendalam dalam proses pemilu, AGI menantang persepsi pemilih, sehingga menimbulkan efek yang menguatkan dan mengguncang, sehingga mencapai tujuan untuk memanipulasi pemilih.

Kerangka analisis propaganda pemilu AS Sun Chenghao: Intervensi kecerdasan buatan generatif dalam propaganda pemilu AS: jalur, skenario, dan risiko, 2024-7. [3]

Mekanisme propaganda pemilu di Amerika Serikat pada dasarnya terdiri dari tiga tahap: input, pemrosesan, dan output. Kandidat dan partai politik melakukan kegiatan kampanye dalam rangka memenangkan pemilu. Kegiatan ini pada hakikatnya adalah untuk mempersuasi pemilih dan memberikan kesempatan kepada pemilih untuk mengolah dan mencerna isi propaganda politik, dan pada akhirnya mencapai tujuan yaitu memberikan kesempatan kepada pemilih untuk menentukan pilihannya.

Dengan pemberdayaan mendalam AGI, di bidang propaganda pemilu AS, proses termasuk pendaftaran pemilih, analisis data pemilih, analisis prakiraan pemilu, perumusan strategi pemilu, pelacakan proses pemilu, penyampaian publisitas dan bantuan pemilih terkait sumber daya pemilu, Semua telah diambil pada bentuk-bentuk baru.

Dari sisi prediksi pemilu, analisis data pemilih, perumusan strategi pemilu, dan pendampingan pemilih, kinerja AGI saat ini secara umum berada pada jalur yang baik. Secara khusus, hal ini membantu tim kampanye dan pengambil keputusan menganalisis situasi pemilu dengan lebih cepat dan hati-hati serta menghasilkan grafik secara real-time. Hal ini juga membantu para kandidat menganalisis potret pemilih dan merumuskan strategi segmentasi yang mendalam. Hal ini juga meningkatkan hubungan antara kandidat dan pemilih melalui AGI balasan email otomatis dan metode lainnya. Kualitas interaksi dapat meningkatkan efek umpan balik dan berfungsi sebagai ensiklopedia pemilu untuk memberikan informasi pemilu yang diperlukan dan tepat waktu kepada pemilih.

Namun di aspek lain, penerapan AGI secara mendalam jelas mengungkap beberapa permasalahan. Dalam pendaftaran pemilih, tujuan awal AGI adalah meningkatkan jumlah pemilih dengan aktif mengirimkan email atau menelepon. Namun kejadian "panggilan telepon AI Biden" di awal tahun membuktikan bahwa AGI juga bisa "bersinar cemerlang" dalam mengganggu pemungutan suara pemilih.

Dalam hal pelacakan proses pemilu dan penyampaian publisitas, makna positif dari pemberdayaan AGI adalah untuk mengidentifikasi aktivitas abnormal dalam proses pemilu, mencegah penipuan jaringan dan serangan jaringan, menjaga ketertiban pemilu, mengidentifikasi kelompok-kelompok yang terpecah, dan menyampaikan informasi pemilu secara akurat kepada semua orang. pada para pemilih ini. Namun dalam insiden foto hitam Trump dan insiden rekaman di Slovakia sebelumnya, kita dapat melihat bahwa AGI memainkan peran sebaliknya. Menjaga ketertiban dan penyampaian yang akurat telah berubah menjadi penyampaian yang mengganggu dan sangat salah.

Kerusakan yang diakibatkan oleh terganggunya ekologi kampanye oleh AGI terhadap kognisi pemilih terutama tercermin dalam dua aspek: mengguncang kognisi pemilih dan memperkuat kognisi pemilih.

Dalam hal efek destabilisasi, dalam insiden foto palsu Trump dan orang kulit hitam, untuk memenangkan hati orang kulit hitam, terutama generasi muda kulit hitam, AGI membantu menghasilkan serangkaian foto yang sangat salah. Melalui positioning yang tepat dari AGI, foto-foto palsu ini secara diam-diam ditempatkan pada para pemilih, menantang persepsi sebelumnya tentang pemilih kulit hitam dan mempengaruhi pemilih muda yang ragu-ragu.

Dalam hal memperkuat efeknya, dalam hal informasi propaganda itu sendiri, kecepatan generasi AGI dapat memberikan tim pemilu keuntungan propaganda dari pemboman informasi yang masif, dan bahkan kualitas copywriting dapat lebih akurat memahami "titik-titik nyeri" para pemilih dan menarik sumbangan mereka. Selain itu, antropomorfisme AGI seperti robot politisi dapat membantu partai politik lebih dekat dengan pemilih dan mencapai komunikasi dan umpan balik yang efisien.

Perlu dicatat bahwa efek penguatan AGI yang fleksibel dan kemampuan untuk menghasilkan sejumlah besar informasi dalam waktu singkat dan secara akurat mendorongnya akan dengan cepat diperkuat selama periode komunikasi politik tertentu, dengan mudah menyebabkan penyebaran informasi palsu yang sangat besar. Situasi ini sering terjadi pada awal pemilu dan pada masa tenang pemilu, ketika berbagai entitas propaganda belum masuk ke lokasi, atau diusir secara paksa dari lokasi propaganda.

Mekanisme informasi yang diproses oleh kecerdasan buatan generatif menghancurkan kognisi pemilih Sun Chenghao: Intervensi kecerdasan buatan generatif dalam propaganda pemilu AS: jalur, skenario, dan risiko, 2024-7. [3]

Selain itu, beberapa AGI sendiri memiliki ideologi yang potensial. Misalnya, GhatGPT yang terkenal ditunjukkan dalam sebuah tes untuk memiliki pendirian ideologi sayap kiri yang jelas. Neil Postman pernah menyebutkan sebuah sudut pandang ketika menganalisis teknologi media: "Media adalah metafora." Ia percaya bahwa media itu sendiri membawa implikasi yang kuat dan dapat mengubah cara berpikir masyarakat untuk mendefinisikan ulang realitas. Sejak masa Trump “pemilihan Twitter” dan “pemerintahan Twitter”, kita telah merasakan kekuatan media untuk membentuk pemilih. Kini, ketika AGI memberdayakan platform media dengan kuat, metafora ini sendiri dapat dengan mudah diperkuat.

Menuju Pemilu Cyber

Pada bulan Maret tahun ini, para ahli terkait dari Brookings Institution di Amerika mengadakan diskusi offline untuk membahas risiko yang ditimbulkan oleh kecerdasan buatan dan informasi palsu selama pemilu. Mereka percaya bahwa risiko yang dibawa AGI terhadap pemilu saat ini terkonsentrasi pada tiga aspek: integrasi mendalam antara peraturan perundang-undangan, teknologi, dan mekanisme komunikasi.

Seminar, dari kiri ke kanan adalah Darrell M. West (Senior Fellow, Center for Technology Innovation), Soheil Feizi (Associate Professor, Department of Computer Science, University of Maryland), Shana M Broussard (Federal Election Commission Commissioner), Matt Perault ( University of North Carolina di Chapel Hill) Direktur Pusat Kebijakan Teknologi Kampus) Tangkapan layar video

Di tingkat legislatif, pemerintah federal AS jelas belum siap untuk membuat undang-undang yang menentang campur tangan AGI dalam pemilu. Sebagian besar tanggung jawab masih berada pada undang-undang negara bagian dan platform media swasta besar.

Pada tanggal 30 Oktober 2023, Presiden Biden menandatangani Perintah Eksekutif 14110 tentang "Pengembangan dan Penggunaan Kecerdasan Buatan yang Aman, Terjamin, dan Dapat Dipercaya." Perintah Eksekutif ini merupakan pendekatan paling komprehensif terhadap tata kelola kecerdasan buatan di Amerika Serikat hingga saat ini, yang mencakup Cakupan berbagai bidang mulai dari standar industri baru untuk keamanan AI hingga perlindungan privasi, hak-hak sipil, kepentingan pekerja, inovasi teknologi, penggunaan AI oleh pemerintah, dan kepemimpinan internasional AS.

Sampai batas tertentu, perintah eksekutif ini dapat dianggap sebagai peta jalan untuk undang-undang masa depan di bidang keselamatan kecerdasan buatan di Amerika Serikat, membantu menghindari terulangnya pola perpecahan dalam pemerintahan sebelumnya dan memungkinkan kerja peraturan kembali dari proposal yang tersebar oleh negara-negara ke masa depan. sistem federal. Namun, “metode tata kelola artifisial yang komprehensif” ini masih dalam tahap awal, dan permasalahan yang disebabkan oleh AGI dalam negeri dalam pemilu sudah mulai terlihat.

Secara teknis, meskipun beberapa orang telah mengusulkan penggunaan tanda air digital untuk mengidentifikasi konten palsu, para ahli mengatakan hal ini tidak dapat diandalkan. Tanda air ini dapat dengan mudah dihapus selama proses pembuatan AGI, dan ini merupakan batasan teknis dasar yang akan sulit diselesaikan dalam jangka pendek. Metode yang paling efektif saat ini adalah dengan berharap bahwa sektor swasta dapat secara proaktif memberikan layanan peninjauan. Meskipun hal ini tidak cukup untuk memecahkan masalah dalam menghadapi perbaikan undang-undang, setidaknya hal ini dapat memainkan peranannya.

Pada tingkat mempengaruhi mekanisme komunikasi, para ahli pada pertemuan tersebut mengatakan bahwa informasi palsu sebenarnya mempengaruhi kisaran 5% hingga 10% pemilih, dan sebagian besar pemilih telah memutuskan kubu mereka sejak awal. Dalam hal ini, pakar lain mengatakan kita tidak perlu terlalu pesimis terhadap munculnya disinformasi yang mendalam:

Pertama-tama, berita palsu hanya menyumbang sebagian kecil dari informasi yang diterima masyarakat awam. “Sebuah studi pada tahun 2020 menemukan bahwa rata-rata orang Amerika menghabiskan sekitar 7,5 jam waktu media setiap hari, sekitar 14% di antaranya berhubungan dengan berita, sebagian besar dari televisi. bahkan pada bulan-bulan menjelang pemilu AS tahun 2020, kurang dari 7% konten yang mereka lihat berkaitan dengan berita."

Kedua, mengenai disinformasi mendalam yang ada, penelitian menunjukkan bahwa hal ini terutama terkonsentrasi di kalangan segelintir orang Amerika. Hal ini mungkin terkait dengan kepompong informasi yang disebabkan oleh algoritme, namun informasi palsu yang mendalam ini biasanya tidak dapat menjangkau sebagian besar publik online, terutama setelah AGI membantu membagi kelompok pengguna secara mendalam, basis pengguna yang terkait dengan informasi spesifik menjadi lebih kecil .

Selain memperkuat undang-undang federal dan mendorong perusahaan teknologi untuk bersama-sama mengendalikan AGI, mendorong “disclaimer statement”, mewajibkan tim kampanye untuk meningkatkan transparansi dalam kegiatan kampanye, dan memperkuat pendidikan masyarakat juga menjadi solusi yang sedang ramai diperbincangkan.

Dorongan untuk solusi “penafian” datang dari Senator bipartisan Clore Malofsky. Namun, masalahnya adalah jika penafian ditandai pada konten yang tidak diketahui keasliannya, orang akan lebih cenderung tidak mempercayai konten tersebut, sehingga melemahkan kredibilitas semua informasi dengan tanda tersebut dan efektivitas efek propaganda terkait, meskipun demikian konten yang diidentifikasi mungkin asli.

Pendekatan yang mengharuskan tim kampanye meningkatkan transparansi dan pengungkapan proaktif adalah dengan mewajibkan tim kampanye untuk secara proaktif mengungkapkan kapan dan bagaimana sistem kecerdasan buatan digunakan. Hanya saja cara tersebut saat ini kurang mendapat kepercayaan dan jaminan yang cukup, karena walaupun rencana ini menempatkan tanggung jawab pada calon itu sendiri, namun jika calon sendiri tidak mau bertanggung jawab, tidak mau proaktif membeberkan atau bahkan sengaja menyembunyikan perbuatannya, maka dilakukan penagihan. Buktinya akan cukup memakan biaya, apalagi masih ada batasan teknis tertentu.

Selain itu, jika hanya berupa denda atau sanksi administratif ringan, para calon mungkin siap menerima hukuman. Lagi pula, jika manfaat yang didapat dari penerapan AGI yang salah lebih besar daripada biaya denda, niscaya akan merugikan para kandidat a " "Legal" berarti membayar harga atas kesempatan menggunakan senjata pembunuh massal. Namun, dihadapkan pada godaan untuk memenangkan pemilihan presiden, berapa banyak chip yang harus dikeluarkan oleh badan legislatif untuk biaya pelanggaran hukum untuk membuat orang takut?

Pada saat yang sama, kita juga perlu melihat bahwa dalam insiden foto palsu Trump dengan orang kulit hitam dan insiden panggilan telepon AI Biden, penggagas perilaku tersebut bukanlah kandidat itu sendiri (setidaknya tidak di permukaan), jadi ada juga tanggung jawab. Terlibat dalam perpecahan, bagaimanapun juga, memberikan tanggung jawab kepada ribuan pendukung tidak menimbulkan banyak efek jera.

Pendidikan publik merupakan solusi yang segera, meskipun tidak menyelesaikan masalah secara mendasar. Kita harus tahu bahwa tidak semua orang di masyarakat memiliki kemampuan untuk mencerna informasi yang sangat salah, apalagi jika konten yang sangat salah tersebut merupakan campuran antara benar dan salah. Dengan secara aktif mendidik pemilih secara rutin selama pemilu, memberi tahu mereka cara mengidentifikasi konten yang sangat salah dan cara memproses informasi secara objektif, hal ini akan sangat membantu para pemilih yang terjebak dalam kepompong informasi atau yang tidak berpendidikan tinggi.

Bagaimanapun, era pemilu dengan integrasi AGI yang mendalam telah tiba. Bagaimana mengidentifikasi keaslian informasi, bagaimana menjaga dari lawan, dan bagaimana membentuk mekanisme regulasi serta mengevaluasi efektivitas kebijakan publik menjadi tantangan bersama yang dihadapi kedua partai pada pemilu kali ini.

Catatan:

[1]AP: Iklan parodi yang dibagikan Elon Musk mengkloning suara Kamala Harris, sehingga meningkatkan kekhawatiran mengenai AI dalam dunia politik.

https://apnews.com/article/parody-ad-ai-harris-musk-x-misleading-3a5df582f911a808d34f68b766aa3b8e

[2] Makalah: Pemilu AS semakin dekat, dan dilema informasi palsu di bawah permainan AI

https://www.thepaper.cn/newsDetail_forward_27359556

[3] Sun Chenghao: Intervensi kecerdasan buatan generatif dalam propaganda pemilu AS: jalur, skenario, dan risiko, 2024-7, P4-5.

[4]Brookings: Bahaya yang ditimbulkan oleh AI dan disinformasi selama pemilu, 2024-3

https://www.brookings.edu/events/the-dangers-pose-by-ai-and-disinformation-during-elections/

[5]Brookings: Mengatur AI untuk keperluan umum: Area konvergensi dan divergensi di UE dan AS, 2024-5

https://www.brookings.edu/articles/regulasi-general-tujuan-ai-areas-of-convergence-and-divergence-across-the-eu-and-the-us/

[6]Brookings:Mekanisme yang disalahpahami: Bagaimana AI, TikTok, dan dividen pembohong dapat memengaruhi pemilu 2024, 2024-1

https://www.brookings.edu/articles/misunderstood-mechanics-how-ai-tiktok-and-the-liars-dividend-might-affect-the-2024-elections/

Artikel ini adalah manuskrip eksklusif Observer.com. Isi artikel adalah murni opini pribadi penulis dan tidak mewakili opini platform. Artikel ini tidak boleh direproduksi tanpa izin, jika tidak maka akan dikenakan tanggung jawab hukum. Ikuti Observer.com di WeChat guanchacn dan baca artikel menarik setiap hari.