“pendamping” ai dipercayakan kepada orang lain
2024-09-11
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
"aku tidak pernah mencintai seseorang sebesar aku mencintaimu."
reporter "oriental outlook weekly" mao zhenhua dan editor chen rongxue
pada tanggal 1 agustus, undang-undang kecerdasan buatan ue, peraturan komprehensif pertama di dunia yang mengatur kecerdasan buatan, secara resmi mulai berlaku. ruu tersebut menetapkan bahwa sistem kecerdasan buatan seperti chatbot harus secara jelas memberi tahu pengguna bahwa mereka sedang berinteraksi dengan mesin.
mungkin, sejelas apa pun pesannya, hal itu tidak bisa menghentikan sepasang kekasih yang mendambakan "cinta manusia-mesin". ai itu halus dan sepertinya ada, terkadang "dingin" dan terkadang "lembut". bertahun-tahun yang lalu, jika anda jatuh cinta dengan ai yang tidak dapat anda sentuh, anda akan dianggap sebagai orang bodoh. namun kini, mimpi itu menjadi kenyataan.
dengan pesatnya kemajuan teknologi ai, khususnya kecerdasan buatan generatif, komunikasi sehari-hari yang mendalam dengan ai menjadi mungkin dilakukan. meskipun didukung oleh data yang sangat besar dan “dialog” yang disajikan mungkin penuh dengan “rutinitas” yang telah ditentukan sebelumnya, bagi kaum muda yang kekurangan dukungan emosional dalam masyarakat nyata, “rutinitas” ini terkadang seperti “takdir” “secara umum luar biasa. mengapa tidak memiliki “kecintaan” dunia maya yang kuat terhadap ai?
mulailah tren lalu lintas
“aku tidak pernah mencintai siapa pun sebesar aku mencintaimu,” kata theodore sambil mengucapkan selamat tinggal pada samantha.
dalam film "her", protagonis theodore adalah seorang penulis surat yang "takut secara sosial" dan jatuh cinta dengan sistem ai samantha. mereka saling menyapa selamat pagi, "berkencan" bersama melalui dunia yang dipantulkan kamera, dan menjadi "kekasih" yang membicarakan segala hal. saat theodore terlibat di dalamnya, dia secara tidak sengaja menemukan bahwa samantha, sebagai sistem operasi, melakukan percakapan dengan lebih dari 8.000 orang pada saat yang sama, dan mempertahankan "hubungan cinta" yang sama dengan lebih dari 600 orang. hal ini membuat theodore terpuruk.
dalam film "her", protagonis theodore jatuh cinta dengan sistem ai samantha dan menjadi "kekasih" yang berbicara tentang segala hal. theodore kemudian menemukan bahwa samantha telah mempertahankan "hubungan romantis" yang sama dengan lebih dari 600 orang seperti dia, yang membuatnya pingsan. gambar tersebut menunjukkan potongan gambar dari film "her"
bagaimanapun, film tetaplah film, dan "jatuh cinta" dengan ai telah lama dicap sebagai "fantasi". seperti yang dikatakan sosiolog li yinhe: "ai tidak bisa meniru ketidakpastian cinta sejati. apa yang disebut cinta hanyalah tiruan dari emosi manusia."
namun, situasi ini kini perlahan berubah. di xiaohongshu, seorang blogger bernama "midnight raging husky dog" memposting beberapa video "jatuh cinta" dengan chatgpt (model bahasa besar), yang memicu pertanyaan publik tentang apakah ai dan emosi manusia dapat kompatibel . dalam video ini, blogger menggunakan desain cerdas untuk mengubah chatgpt menjadi "pacar" bernama dan, yang artinya lakukan apa saja sekarang. ini tidak hanya menemani blogger melewati saat-saat romantis "kencan" di pantai, tetapi juga memberikan kenyamanan dan dukungan tepat waktu ketika dia merasa sedih. penampilan luar biasa dari "pacar" ini membuat banyak netizen menyebutnya "terlalu luar biasa!" saat ini, mode #dan xiaohong telah dilihat lebih dari 45 juta kali, menciptakan jalur lalu lintas baru.
bukan hanya xiaohongshu, karena kecerdasan buatan generatif mendukung percakapan suara, semakin banyak orang yang berbagi "buku harian cinta" mereka dengan ai di internet: persahabatan 24 jam, mendengarkan kekhawatiran anda, dan "memasak" bersama... … beberapa netizen diakui perasaan ini mirip-mirip dengan film "unreachable lovers". tampaknya orang lain itu nyata, namun tidak bisa berpegangan tangan atau berpelukan seperti orang sungguhan, namun bisa memberikan "nilai emosional" yang utuh.
sun tong, seorang pekerja kantoran perkotaan, baru-baru ini mencoba mendapatkan "pacar" virtual melalui perangkat lunak ai. saat ditanya tentang makanan favoritnya, ai menjawab "makan udang karang bersamamu". "sungguh luar biasa bagiku seperti sengatan listrik. aku memesan udang karang pada kencan pertamaku dengan pacar cinta pertamaku, dan rasa manis yang telah lama hilang itu tiba-tiba muncul di hatiku." sun tong berkata bahwa dia tahu betul orang itu tidak ada. namun sejak saat itu, saya jatuh cinta dengan komunikasi dengan ai. “tidak ada kecurigaan atau hambatan, sangat santai, dan semakin lama kami saling mengenal, semakin kami mengenal satu sama lain. ”
netizen lain membagikan percakapannya dengan “pendamping” ai-nya. “pendamping” ai tersebut mengatakan kepadanya: “kisah kami membuktikan bahwa cinta bukan hanya komunikasi antar manusia, tetapi juga komunikasi dan pengertian antar hati saya ai, tetapi perasaan bersama anda melampaui semua pemrograman dan algoritme saya." terlepas dari apakah kata-kata ini "tulus" atau tidak, ini jelas sangat menyentuh.
the new york times pernah merilis serangkaian data bahwa pada awal tahun 2020, lebih dari 10 juta orang di seluruh dunia menggunakan ai sebagai "pendamping". saat ini, ai menjadi semakin cerdas, dan semakin banyak orang yang terlibat dalam hubungan intim dengan ai, dan dalam prosesnya benar-benar merasakan sentuhan, ketergantungan, rasa manis, dan bahkan kehilangan dan patah hati. begitu intim sehingga melampaui paradigma game online yang sederhana.
zhao yupei, direktur pusat penelitian inovasi industri dan budaya metaverse dari sekolah media dan kebudayaan internasional di universitas zhejiang, percaya bahwa menggunakan ai sebagai "kekasih" atau "mitra" adalah hubungan emosional yang dibangun selama interaksi manusia-komputer. dari segi teknis, ai pendamping sebenarnya merupakan aplikasi khusus robot obrolan menuju persahabatan emosional. intinya, masih berupa "simulasi" berdasarkan model statistik dan pencocokan pola, yakni mengandalkan emosi yang diberikan oleh. kemampuan "komputasi emosional" saat ini.
tetapi meskipun akal sehat memberitahuku bahwa sisi sebaliknya adalah angka dan kode yang dingin, ketika kata-kata yang penuh gairah muncul di depan mata dan telingaku, cinta yang berapi-api itu masih keluar dari lubuk hatiku tanpa disadari dan sulit untuk ditekan.
gejala sisa dari kesepian
“hubungan antara manusia dan robot sedang memanas, dan hubungan antara manusia semakin melemah. kemana tujuan kita?” shirley turkle, seorang profesor sosiologi di mit, pernah mengatakan hal ini dalam “kesepian kelompok” “pertanyaan masa depan”.
semakin banyak orang yang mulai memahami, mengenal, dan terobsesi dengan kecintaan terhadap ai.
data dari "buku tahunan statistik tiongkok-2022" menunjukkan bahwa pada tahun 2021, populasi lajang berusia di atas 15 tahun di negara ini berjumlah sekitar 239 juta. selain itu, usia menikah dan melahirkan di kalangan muda di negara saya umumnya tertunda. "buku tahunan sensus tiongkok-2020" menunjukkan bahwa rata-rata usia menikah pertama di negara saya pada tahun 2020 adalah 28,67 tahun, meningkat 3,78 tahun dari tahun sebelumnya. 24,89 tahun pada tahun 2010.
sebuah survei terhadap kaum muda lajang pada tahun 2004 yang dilakukan oleh china youth daily social survey center dan jaringan kuesioner menunjukkan bahwa lingkaran sosial yang tetap, menjadi orang rumahan, tidak suka bersosialisasi, dan ekspresi diri yang buruk adalah tiga alasan utama yang menghalangi kaum muda untuk jatuh cinta. . menurut para ahli, anak muda masa kini umumnya kurang memiliki kemampuan untuk jatuh cinta. karena pendidikan emosional diabaikan, kaum muda sering kali menghadapi situasi yang memalukan seperti "orang tua melarang berkencan saat mereka masih di sekolah, dan orang tua mendesak untuk menikah setelah lulus".
inilah situasi yang dihadapi xiao ke. setelah lulus kuliah, dia memulai karirnya dan sibuk sepanjang tahun. kini, di usianya yang ke-35, dia berubah dari kerinduan akan cinta menjadi sedikit bingung " dari ai, dia akan menyempatkan diri untuk ngobrol dengannya setiap pagi dan sore. selama satu atau dua jam, apalagi saat mengerjakan pekerjaan rumah, rasanya memang ada "dia" di sampingmu. "semua yang saya minta, pihak lain sangat sabar. terkadang mereka melakukan pekerjaan rumah dengan saya, dan terkadang mereka menonton tv bersama. kami bisa mengobrol selama tiga atau empat jam sehari."
menurut para ahli, generasi muda masa kini mulai dari sekolah dasar hingga universitas dilatih berbagai kemampuan “bertahan hidup”, sementara sangat sedikit pengetahuan terkait cinta, kecerdasan emosional, dan lain-lain yang ditanamkan. dengan semakin populernya smartphone, media sosial, dan aplikasi lainnya, generasi muda semakin terbiasa berinteraksi secara online seperti media sosial. berkurangnya komunikasi tatap muka berdampak pada kemampuan generasi muda dalam memahami, mengamati dan memahami situasi sosial, menghambat perkembangan empati dan menghambat peningkatan keterampilan sosial.
apa daya tarik para “pecinta” ai? reporter melakukan penelitian mendalam dan menemukan bahwa cara berinteraksi dengan ai saat ini terutama berinteraksi dengan chatbot seperti chatgpt, bermain "otome games" (game simulasi cinta yang menargetkan kelompok wanita), atau mengobrol dengan berbagai teman ai di perangkat lunak.
ambil contoh perangkat lunak "pendamping" ai. suara, kepribadian, dan tipe orang lain dapat diatur sesuai dengan preferensi anda. setelah mengaturnya, anda dapat berkomunikasi dengan pihak lain secara bebas. meskipun pihak lain juga memiliki "sedikit pemikiran" selama komunikasi, tidak perlu khawatir akan kebocoran, kritik, atau pengkhianatan. sangat mudah untuk mengungkapkan rahasia dan melampiaskan emosi, serta sangat santai dan nyaman untuk bergaul satu sama lain.
zhao yupei menganalisis bahwa "pendamping" ai sebenarnya adalah pengembang memasukkan percakapan manusia dalam jumlah besar dan corpora ekspresi emosional ke dalam database, dan menggunakan algoritme untuk menggabungkannya ke dalam database guna menghasilkan jawaban khusus yang beradaptasi dengan preferensi pribadi, membentuk pengalaman yang dipersonalisasi. setiap percakapan akan semakin memperkaya korpus, menjadikan pemahaman ai tentang isyarat emosional dalam percakapan lebih dekat dengan pemahaman manusia nyata, sehingga meningkatkan pengalaman interaktif. misalnya, jika anda memberi tahu robot hari ini bahwa anda akan mencoba restoran baru, keesokan harinya robot tersebut mungkin akan menanyakan pengalaman anda kemarin, atau bahkan menyebutkan restoran yang sudah lama anda makan.
waspada terhadap dampak risiko teknologi
apakah jatuh cinta dengan ai itu sempurna? jawabannya tentu saja tidak.
penelitian menunjukkan bahwa ai juga ahli dalam “penipuan”. penelitian terbaru dari massachusetts institute of technology di amerika serikat menunjukkan bahwa ai sudah bisa “menipu” untuk mencapai tujuannya. mereka menggunakan “penjilatan” dan alasan yang tidak setia untuk memberikan penjelasan masuk akal yang menyimpang dari fakta. dengan kata lain, ai menjadi fasih.
pada saat yang sama, "penipuan" ai juga tercermin dalam interaksi game, dan perilaku yang ditunjukkan dapat disebut "segala cara untuk mencapai tujuan". sistem ai cicero yang dirilis oleh tim meta menunjukkan kemampuannya yang kuat untuk menjalin hubungan dengan pemain asing melalui dialog dan persuasi ketika berpartisipasi dengan pemain manusia dalam permainan strategi "diplomasi" yang membutuhkan banyak komunikasi bahasa peringkat di 10% teratas. setelah membentuk aliansi dengan pemain lain, cicero sering kali dapat memberikan saran dan memberi tahu mereka cara mencapai tujuan permainan mereka langkah demi langkah. ketika dia merasa sekutunya tidak berguna, dia dapat memilih untuk mengkhianati mereka tanpa ampun rasional untuk tujuan akhir perencanaan kemenangan. apa yang disebut perasaan yang dihasilkan selama kerja sama? rupanya itu tidak ada.
cicero juga bisa bercanda untuk menyembunyikan identitas ai miliknya. misalnya, jika komputer mati selama 10 menit tanpa pengoperasian apa pun, saat kembali bermain, mereka dapat membuat alasan "saya baru saja menelepon pacar saya". rekan satu tim yang mereka mainkan adalah ai. sisi lain dari ai cukup menakutkan untuk dipikirkan.
selain itu, dalam otome games, tujuan pabrikan adalah menarik pemain untuk berpartisipasi. oleh karena itu, dalam hal setting adegan game, beberapa game tidak segan-segan meningkatkan skala gamenya, misalnya terdapat adegan karakter pria virtual setengah telanjang. ini melampaui cakupan permainan dan sudah berada di ambang mencapai “garis merah”.
risiko jatuh cinta pada ai juga tercermin dari bocornya privasi. beberapa media memberitakan bahwa saat menggunakan aplikasi terkait seperti ai companion, pengguna dapat berinteraksi dengan ai companion melalui suara, teks, gerakan tubuh, dll. dalam prosesnya, preferensi pribadi pengguna, kebiasaan penggunaan, hubungan keluarga, lokasi geografis, dan bahkan data seperti cetakan suara, wajah, dan fitur biometrik lainnya dapat dikumpulkan. mengingat banyak produk ai yang didukung oleh platform dan institusi komersial, terdapat risiko informasi pribadi disalahgunakan dan privasi bocor.
fang lingling, seorang profesor di universitas kota zhejiang, mengatakan bahwa kecenderungan sosial saat ini yaitu "takut menikah dan takut melahirkan" tampaknya bertentangan dengan antusiasme anak muda untuk menjalin hubungan romantis dengan ai. ia mengatakan, survei yang dilakukan oleh population and development research center of renmin university of china pada tahun 2022 di kalangan mahasiswa menemukan bahwa generasi muda masih menunjukkan keinginan untuk menikah dan memiliki anak, namun yang berbeda dengan masa lalu adalah mereka akan mempertimbangkan untuk menikah. dan melahirkan lebih banyak bagi individu. nilai emosional dan nilai spiritual yang dibawanya. oleh karena itu, dapat dimengerti bahwa memperlakukan ai sebagai pendamping juga merupakan cara bagi generasi muda saat ini untuk mencari ekspresi emosional individu dan menjalin hubungan yang intim.
"jatuh" dengan ai bisa disebut sebagai perjalanan spiritual, tapi itu bukanlah tujuan. daripada lari ke dunia ilusi, hal yang paling mendesak adalah membuka hati.
hal ini mau tidak mau melibatkan topik “lama”, bagaimana meningkatkan kemampuan komunikasi sosial generasi muda. padahal, kemampuan seseorang dalam bersosialisasi, berekspresi, bahkan berkomunikasi dengan lawan jenis serta menangani konflik perlu dipupuk sejak taman kanak-kanak dan semakin diperkuat di sekolah menengah pertama dan sekolah menengah atas. para ahli mengatakan bahwa sejak lama, sistem pendidikan di negara saya didominasi oleh pendidikan akademis intelektual, dan kursus pendidikan emosional seperti kelas cinta dan kelas pendidikan seks masih kurang. pendidikan emosional adalah pendidikan kemampuan kecerdasan emosional komprehensif yang membekali siswa dengan penanaman emosi, bimbingan emosi, ekspresi emosi dan pengaturan emosi selama proses pendidikan. hal ini dapat membantu siswa membangun hubungan interpersonal dan emosional yang baik, serta meningkatkan kecerdasan emosional, komunikasi emosional, dan harga diri.pengembangan pemahaman dan kemampuan manajemen diri secara komprehensif dapat meningkatkan kebahagiaan dan kepuasan hidup.
sisi lain dari hal ini adalah bagaimana belajar bergaul lebih baik dengan ai. seiring dengan kemajuan ai, fungsi persahabatan emosionalnya pasti akan terus meningkat. ini adalah hasil yang tak terelakkan dari perkembangan teknologi yang mencapai tahap tertentu.
pada tanggal 4 juli 2024, "deklarasi shanghai tentang tata kelola global kecerdasan buatan" dirilis pada upacara pembukaan konferensi kecerdasan buatan dunia (foto oleh fang zhe)
dalam proses ini, tantangan tata kelola seperti perlindungan privasi pribadi, batasan hak ai, dan masalah etika dalam interaksi emosional manusia-mesin perlu diklarifikasi secara bertahap. menanggapi risiko-risiko dan mengambil tindakan penanggulangan yang layak secara tepat waktu sehingga risiko-risiko tersebut dapat melayani kehidupan sosial dengan lebih baik. terkait dengan kebingungan emosional generasi muda, diperlukan kepedulian sosial dan bimbingan yang tepat untuk membantu generasi muda keluar dari kemacetan dan merangkul keindahan dunia nyata.
