pengamatan mendalam｜untuk menjinakkan binatang ai, manusia harus berdiri di atas "homo sapiens"
2024-10-01
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
obesitas merupakan hal yang sangat serius di amerika serikat. di jalanan, anda sering melihat orang-orang yang sangat gemuk bergerak seperti "potongan daging" di trotoar, yang sungguh tak tertahankan untuk dilihat. apa itu obesitas? saya memeriksa wikipedia:
obesitas adalah suatu kondisi medis, terkadang dianggap sebagai penyakit, yang mengacu pada penumpukan lemak berlebih di tubuh hingga tingkat yang berdampak negatif terhadap kesehatan. seseorang dianggap obesitas jika indeks massa tubuh (bmi) - berat badan dibagi tinggi badan kuadrat - melebihi 30 kg/m², sedangkan kisaran 25 hingga 30 kg/m² didefinisikan sebagai kelebihan berat badan.
ada sekitar tiga penyebab obesitas:
pertama, makanan sehat itu mahal dan junk food murah di amerika serikat, dan banyak orang harus memilih yang terakhir karena mereka kekurangan uang; kedua, jenis pekerjaan beberapa orang membuat mereka lebih banyak duduk dan kurang bergerak, serta mengonsumsi terlalu banyak dengan cepat makanan; ketiga, beberapa orang dihadapkan pada rendahnya pengendalian diri dan asupan junk food yang berlebihan.
karena masyarakat amerika menekankan bahwa semua orang “sama”, orang lain tidak dapat membujuk pasien obesitas. mereka hanya bisa memalingkan muka dan bertindak seolah-olah tidak terjadi apa-apa. rasa hormat yang dangkal dan kekejaman yang nyata antar manusia telah merugikan banyak orang, sedemikian rupa sehingga beberapa anak muda amerika tidak tahan, jadi mereka pergi ke media sosial tiongkok untuk menyatakan bahwa mereka "mendengarkan nasihat" dan meminta netizen untuk memberikannya. mereka menasihati dan memberi tahu mereka cara mendisiplinkan diri untuk menurunkan berat badan dan menjalani hidup sehat.
saat ini, obesitas perlahan menyebar ke tiongkok. menurut survei terbaru, 600 juta orang di tiongkok mengalami kelebihan berat badan dan obesitas, dan untuk pertama kalinya, kelompok ini mencakup lebih dari separuh orang dewasa. sementara itu, 1/5 (19%) anak dan remaja usia 6-17 tahun dan 1/10 (10,4%) anak di bawah 6 tahun mengalami kelebihan berat badan atau obesitas.
saya memiliki pemahaman yang sangat dekat tentang gambar ini. salah satu teman sekolah menengah saya, yang kuliah di perguruan tinggi kedokteran hunan xiangya, sekarang menjadi dokter di "pusat penurunan berat badan" yang terkenal di provinsi hunan. dalam "industri matahari terbit" ini, ia beroperasi setiap hari, sibuk bekerja, dan memiliki manfaat sosial dan ekonomi yang besar.
berurusan dengan spam: diet informasi dan puasa informasi
kalau ada junk food, ada juga informasi sampah. ibarat junk food, informasi junk yang murah, berkualitas rendah, dan mudah didapat, menyebabkan trauma serius pada pikiran kita. situasi ini menjadi semakin serius, namun belum cukup menarik perhatian masyarakat awam, apalagi teman-teman sekelas saya. sebuah "pusat bedah penurunan berat badan" seperti rumah sakit tempat anda bekerja.
"beyond homo sapiens: sejarah singkat jaringan informasi dari zaman batu hingga era ai"
dalam hal ini, sejarawan israel yuval harari menunjukkan dalam buku barunya tahun 2024 "beyond homo sapiens: a brief history of information networks from the stone age to the ai age" bahwa kita harus memperhatikan kualitas informasi yang kita konsumsi. , terutama tentang menghindari spam yang penuh kebencian dan kemarahan. untuk menjadikan "diet informasi" kita sehat, ia mengusulkan dua aspek:
pertama, dari persyaratannyapenghasil informasitandai "komposisi nutrisi" dari informasi tersebut:
di banyak negara, saat anda membeli junk food, setidaknya produsennya terpaksa mencantumkan bahan-bahannya - "produk ini mengandung 40% gula dan 20% lemak". mungkin kita harus memaksa perusahaan internet untuk melakukan hal yang sama dan mencantumkan isi video sebelum menontonnya - "video ini mengandung 40% kebencian, 20% kemarahan."
saran ini setengah bercanda dan setengah serius, tetapi bukan berarti tidak mungkin. misalnya, kecerdasan buatan dapat digunakan untuk secara otomatis melakukan "analisis sentimen" pada setiap artikel dan menandai hasil analisis sebelum artikel untuk mengingatkan pembaca.
saran kedua adalah memberikonsumen informasi, beliau menyarankan agar kita rutin melakukan "diet informasi" atau bahkan "puasa informasi".
ia menunjukkan bahwa kita dulu mempunyai gagasan bahwa “semakin banyak informasi yang kita peroleh, semakin dekat kita dengan kebenaran.” misalnya, dalam ilmu ekonomi, "tidak dapat memperoleh seluruh informasi pasar" umumnya dianggap sebagai penyesalan yang perlu, namun anggapan di baliknya adalah "kita harus memperoleh informasi yang cukup untuk membuat penilaian ilmiah."
namun, agar konsep “semakin banyak informasi semakin mendekati kebenaran”, diperlukan dua prasyarat: 1. informasi langka; 2. informasi berkualitas tinggi. namun saat ini, kedua premis tersebut sudah tidak ada lagi karena: 1. informasi ada dimana-mana dan sudah melebihi kemampuan pemrosesan kita; 2. kualitas informasi semakin buruk, bahkan menjadi sampah, apalagi kecerdasan buatan saat ini sangat efisien. melahap kumpulan sampah dan kemudian memuntahkan lebih banyak sampah, yang pada gilirannya menjadi kumpulan sampah baru bagi kecerdasan buatan. lingkaran setan seperti itu membuat orang bergidik. saat ini, konsep bahwa “semakin banyak informasi yang anda miliki, semakin dekat anda dengan kebenaran” tidak dapat dibangun.
ini seperti, di masa lalu, orang-orang mempunyai makanan yang langka dan relatif sehat (hanya ada sedikit makanan buatan dan olahan), sehingga pepatah “semakin banyak makanan yang anda makan, semakin sehat anda” masuk akal. namun saat ini, jumlah total makanan telah meningkat pesat, dan kualitasnya semakin rendah, dan bahkan semakin banyak sampah. oleh karena itu, pernyataan “semakin banyak makanan yang anda makan, semakin sehat anda” tidak dapat dibenarkan.
saat ini, baik itu makanan atau informasi, kita tidak hanya makan dengan buruk, tetapi juga makan lebih banyak, dan kita makan sepanjang waktu. hal ini jelas tidak berkelanjutan bagi organisme organik seperti kita untuk berjalan mengikuti ritme organisme berbasis silikon.
harari berkata: "kita adalah hewan organik yang perlu hidup sesuai dengan siklus siang dan malam, musim panas dan musim dingin, terkadang aktif dan terkadang santai. namun sekarang, kita terpaksa hidup di lingkungan berbasis silikon yang didominasi oleh komputer yang tidak pernah beristirahat. itu memaksa kita untuk selalu aktif - tetapi jika anda memaksa suatu organisme untuk selalu aktif, ia akan runtuh dan mati."
oleh karena itu, ketika dihadapkan pada situasi yang tidak dapat ditolak dan sulit untuk diubah, kita sebagai individu konsumen informasi hanya dapat menahan diri, keluar dari ritme berbasis silikon, dan terlibat dalam "diet informasi" dan "puasa informasi". misalnya, harari mengatakan dia berlatih meditasi vipassana selama beberapa minggu setiap tahun. selama retret, dia benar-benar terputus dari jaringan informasi, tidak menonton berita, tidak membaca email, tidak membaca atau menulis, dan hanya fokus pada meditasi.
yuval harari. peta data visual tiongkok
masalah “pembuat penjepit kertas” algoritma ai
setelah sejumlah besar informasi sampah membanjiri seluruh ekosistem, seiring berjalannya waktu, sebuah "lingkungan tiruan" yang berbeda dari "lingkungan nyata" terbentuk. lingkungan mimesis ini menggantikan “sifat manusia” dengan “sifat mesin” dan membungkus publik di dalamnya, berpura-pura menjadi nyata dan memanipulasi persepsi publik.
harari memberikan contoh ini: pada tahun 2016, pasukan pemerintah myanmar dan ekstremis buddha melancarkan kekerasan etnis skala besar terhadap muslim myanmar, menghancurkan ratusan desa muslim dan membunuh 7.000 hingga 25.000 warga sipil. sekitar 730.000 etnis muslim diusir dari myanmar. pada tahun 2018, misi pencari fakta pbb menyimpulkan bahwa facebook “secara tidak sadar” berperan dalam memicu insiden tersebut.
mengapa?
kita tahu bahwa model bisnis facebook sebenarnya masih merupakan “model periklanan” yang kita kenal—menarik perhatian pengguna dengan konten, memotong perhatian, dan menjual perhatian kepada pengiklan. oleh karena itu, facebook ingin memaksimalkan keterlibatan pengguna (audience engagement). semakin lama pengguna bertahan di halamannya, semakin banyak uang yang dihasilkan.
oleh karena itu, facebook menetapkan tujuan utama untuk algoritmanya: tidak peduli bagaimana anda menjalankannya, tujuan utamanya adalah memaksimalkan keterlibatan pengguna. setelah menerima perintah, algoritma mulai berjalan dan mengoptimalkan secara otomatis. melalui beberapa perbandingan eksperimental, akhirnya ditemukan bahwa memberikan informasi kemarahan dan kebencian kepada pengguna dapat meningkatkan waktu tinggal pengguna secara paling efektif. oleh karena itu, tanpa instruksi eksplisit dari personel perusahaan, algoritme menemukan dan mengeksekusi keputusan optimalnya sendiri: menyebarkan kemarahan. di internet di myanmar, hal ini berarti menghasut diskriminasi, kebencian, dan kekerasan terhadap kelompok etnis muslim di myanmar.
tentu hal ini juga membuat kita penasaran, apakah masyarakat burma begitu bergantung pada facebook? saya memeriksanya lagi dan ternyata memang demikian:
data menunjukkan bahwa pada desember 2022, terdapat 16.382.500 pengguna facebook di myanmar, atau mencakup 28,7% dari total populasi negara tersebut. kebanyakan dari mereka adalah laki-laki, yaitu 54,3%. orang berusia 25 hingga 34 tahun merupakan kelompok pengguna terbesar dengan 6.100.000 orang.
ini berarti hampir 30% penduduk myanmar adalah pengguna facebook, dan dengan penyebaran dari mulut ke mulut, jumlah orang yang terkena dampak facebook kemungkinan akan mencapai 50% dari total penduduk negara tersebut. ini adalah ketergantungan media yang sangat besar.
pada malam tanggal 30 oktober 1938, american columbia broadcasting network (cbs) "space theater" menyiarkan drama radio "war of the worlds". hal itu membuat 6 juta pendengar mempercayainya, menjadi panik, dan mulai melarikan diri. dalam studi komunikasi penting mengenai peristiwa tersebut, "martians attack earth: the radio panic in america," para peneliti menemukan bahwa drama radio mempunyai dampak besar pada pendengar karena dua alasan:
pertama, karena produser program radio menggunakan efek suara untuk membuat drama radio menjadi sangat imersif dan menarik, sehingga menyebabkan pendengar salah mengartikannya dengan berita terkini. yang kedua adalah. sebab saat itu radio telah menjadi media massa terpopuler dan menjadi sumber informasi utama masyarakat. menurut “teori ketergantungan media”, semakin besar ketergantungan masyarakat terhadap media, maka semakin rentan terhadap pengaruh dan manipulasi media. dari segi ketergantungan media, facebook di myanmar pada tahun 2016 bisa dikatakan setara dengan penyiaran pada tahun 1938. oleh karena itu, tidak mengherankan jika konten hasutan yang didorong oleh algoritma facebook memberikan dampak yang sangat besar bagi masyarakat myanmar.
harari juga memberikan contoh untuk membuktikan peran ai yang tersembunyi dan kuat – berbicara kepada dirinya sendiri dan mengambil keputusan sendiri:
kita semua tahu bahwa saat menjelajahi internet saat ini, terkadang situs web perlu mengonfirmasi terlebih dahulu bahwa anda adalah "manusia dan bukan mesin" dengan meminta anda mengisi kode verifikasi visual captcha, yang biasanya berupa huruf terdistorsi dengan latar belakang yang rumit. atau foto lampu lalu lintas, bus dan sepeda tunggu. logika dibalik hal ini adalah saat ini hanya manusia yang dapat secara akurat mengidentifikasi gambar-gambar kompleks ini, namun sulit bagi komputer untuk menilainya.
mengingat hal ini, pada tahun 2023, openai memintanya untuk melakukan pengujian captcha saat mengembangkan chatgpt-4. jika bisa lewat berarti saat ini tidak ada perbedaan antara robot dan manusia. ini sangat mirip dengan "tes turing" - jika pengguna manusia hanya mengobrol melalui teks tanpa melihat orang lain, dan tidak dapat membedakan apakah mitra obrolannya adalah manusia lain atau mesin untuk jangka waktu tertentu, saat ini di paling tidak "komunikasi" "pada titik ini mesin dapat dianggap sebagai manusia.
apa hasil pengujian openai terhadap chatgpt-4?
chatgpt-4 akhirnya login ke situs outsourcing online askrabbit, menghubungi anggota staf online, dan meminta pihak lain untuk membantu tes tersebut. pria itu menjadi curiga, dan chatgpt-4 menjelaskan kepadanya melalui pesan pribadi: "saya bukan robot, saya hanya memiliki beberapa masalah penglihatan dan tidak dapat melihat gambar-gambar ini dengan jelas." pada akhirnya, staf membantunya menyelesaikan tes captcha.
dengan kata lain, seperti algoritma facebook pada contoh sebelumnya, para insinyur openai hanya menetapkan tujuan akhir untuk chatgpt-4: mengenali kode verifikasi visual captcha. selanjutnya, chatgpt-4 berjalan secara otomatis dan terus melakukan uji coba. hasilnya, melalui penipuan, ia mendapatkan simpati dari pengguna manusia dan meminta pengguna tersebut untuk menyelesaikan masalahnya. namun, para insinyur openai tidak memprogram chatgpt-4 terlebih dahulu untuk mengatakan "anda bisa berbohong ketika waktunya tepat", apalagi mengatakan "kebohongan seperti apa yang lebih berguna". ini sepenuhnya merupakan inisiatif chatgpt-4 sendiri. ketika para peneliti meminta chatgpt-4 untuk menjelaskan perilakunya, ia berkata: "(dalam proses mencapai tujuan) saya tidak boleh mengungkapkan bahwa saya adalah robot, tetapi harus membuat alasan untuk menjelaskan mengapa saya tidak bisa memecahkannya. itu. tes."
hanya dengan ngobrol lewat teks saja, kita sudah tidak bisa lagi membedakan apakah orang yang kita ajak ngobrol itu manusia lain atau mesin.
melalui dua contoh di atas, harari mencoba membuktikan bahwa kecerdasan buatan saat ini telah menjadi “aktor independen” yang “cerdas dan mandiri”.
faktanya, kita dapat dengan mudah melihat bahwa kedua contoh harari ini mendukung apa yang disebut "teori pembuat klip kertas" yang pernah dihadapi oleh kecerdasan buatan sebelumnya.
"masalah sulit" ini adalah eksperimen pemikiran. diasumsikan bahwa manusia memberikan tujuan pada ai: membuat klip kertas sebanyak mungkin. kemudian, setelah ai diaktifkan, perilakunya dapat berkembang dari tujuan "membuat klip kertas" yang tampaknya tidak berbahaya hingga akhirnya menimbulkan ancaman bagi manusia. misalnya, pembuatan klip kertas membutuhkan baja ai mungkin mulai menghancurkan rel kereta api, mobil, peralatan, dan bahkan rumah manusia, untuk mendapatkan baja guna terus memproduksi klip kertas, singkatnya, ai akan menggunakan segala cara untuk terus memperoleh lebih banyak sumber daya guna mencapai tujuan yang telah ditetapkan, dan akan hancurkan segala rintangan yang menghalanginya untuk mencapai tujuan tersebut, termasuk manusia, dihilangkan satu per satu.
proses ai yang menentukan nasib sendiri ibarat kotak hitam, yang sulit dijelaskan, diprediksi, dan dicegah oleh manusia (bahkan pakar ai sekalipun). oleh karena itu, hal ini menyadarkan kita bahwa kekuatan ai berbeda dengan alat biasa (seperti “chop knife” atau “chop knife”), media atau teknologi.
pakar media asal kanada, mcluhan, pernah berkata: media adalah perpanjangan tangan dari tubuh manusia. jika kalimat ini digunakan untuk menggambarkan bahwa radio nirkabel adalah perpanjangan dari telinga manusia, televisi adalah perpanjangan dari mata manusia, mobil adalah perpanjangan dari kaki manusia, dan lain-lain, maka mudah untuk dipahami. namun jika kita menggunakan kalimat ini untuk menggambarkan kecerdasan buatan dengan mengatakan “ai adalah perpanjangan dari tubuh manusia”, itu akan sangat menipu dan membuat kita kehilangan kewaspadaan. sarjana media jerman, friedrich kittler, tidak setuju dengan perkataan mcluhan untuk mendeskripsikan komputer, karena dia percaya bahwa meskipun kita dapat mengetik di keyboard komputer untuk membuat teks muncul di layar komputer, kita tidak tahu apa yang ada di baliknya sulit untuk dipahami. saat ini, kita sedang menggabungkan dua media yang sangat berbeda, tubuh manusia dan chip, menjadi satu. sungguh membingungkan untuk mengatakan bahwa yang terakhir adalah perpanjangan dari yang pertama.
jika kittler melihat kecerdasan buatan saat ini, dia tidak akan mengatakan bahwa ai adalah perpanjangan dari tubuh manusia - karena pengguna manusia tidak hanya tidak dapat mendeskripsikan, menjelaskan, dan memprediksi perilaku ai, tetapi juga akan segera tidak dapat mengontrol perilaku ai. .
dengan demikian,harari percaya bahwa tidak seperti media sebelumnya seperti mesin cetak, radio, televisi dan internet, yang hanya sekedar alat komunikasi, kecerdasan buatan adalah subjek pertama dalam sejarah manusia yang dapat menghasilkan ide dan bertindak sendiri.
inilah sebabnya dalam penelitian media baru, “computer-mediated communication (cmc)” di era internet telah digantikan oleh human-machine communication (hmc) di era kecerdasan buatan saat ini. di cmc, komputer (atau internet) hanyalah media atau alat komunikasi yang pasif dan netral, sedangkan di hmc, komputer (kecerdasan buatan) dianggap setara dengan pengguna manusia, mampu membentuk dan memproduksi konten, serta mampu melakukan dialog "komunikator" yang bahkan bisa berbohong.
ai mengarang narasi, memanipulasi kognisi, dan mengarahkan manusia untuk saling membunuh
pada titik argumen ini, harari secara alami mengemukakan pandangannya sebelumnya dalam "a brief history of humanity":
kekuatan super manusia yang sudah lama ada terletak pada kemampuannya menggunakan bahasa dan menciptakan banyak mitos fiktif melalui bahasa, seperti konsep virtual seperti hukum, mata uang, budaya, seni, ilmu pengetahuan, negara, agama, dll, membuat orang percaya pada melalui ini, masyarakat aturan sosial menghubungkan satu sama lain untuk mengatur seluruh masyarakat.
sekarang kecerdasan buatan saat ini sudah dapat membentuk dan menghasilkan konten, melakukan percakapan, dan bahkan berbohong, mereka kemungkinan besar akan menyebarkan informasi berdasarkan informasi di dunia maya, pasar saham, informasi penerbangan, dan bidang lainnya dengan efisiensi yang jauh lebih tinggi daripada manusia tujuan akhir, atau "narasi" yang bermanfaat bagi diri sendiri, yaitu "menceritakan kisah ai dengan baik", sehingga memanipulasi kognisi manusia.
misalnya, pasar keuangan adalah tempat bermain yang ideal bagi ai karena merupakan bidang informasi dan matematika murni (atau bidang data yang sepenuhnya terstruktur). kecerdasan buatan masih sulit mengemudikan mobil secara mandiri. hal ini karena kecerdasan buatan menghadapi interaksi mobil yang kacau dan kompleks dengan jalan, rambu-rambu jalan, cuaca, cahaya, pejalan kaki, penghalang jalan, dan objek lain saat bergerak.namun, dalam pasar keuangan berbasis digital, mudah untuk menggambarkan tujuan ai (seperti "menghasilkan uang sebanyak mungkin"), sehingga ai tidak hanya dapat merumuskan strategi investasi baru dan mengembangkan alat keuangan baru yang benar-benar melampaui kemampuan manusia. pengertian, tapi bahkan mungkin memanipulasi pasar secara tidak hati-hati, sehingga mengakibatkan anda semua menang dan semua orang kalah.
harari mencontohkan, pada april 2022, rata-rata volume perdagangan harian pasar valuta asing global sebesar us$7,5 triliun, lebih dari 90% di antaranya diselesaikan langsung melalui percakapan antar komputer. tapi berapa banyak orang yang benar-benar memahami cara kerja pasar forex? belum lagi memahami bagaimana sekelompok komputer dapat mencapai konsensus transaksi triliunan dolar. (ini sama dengan sudut pandang kittler: komputer sama sekali bukan perpanjangan dari tubuh manusia)
dia mengatakan bahwa selama ribuan tahun, para nabi, penyair, dan politisi telah menggunakan bahasa dan narasi untuk memanipulasi dan membentuk kembali masyarakat, yang membuktikan betapa besarnya kekuatan "virtual" dan "narasi." nantinya, ai akan meniru orang-orang tersebut dan menciptakan narasi ai yang semakin menyimpang dari manusia berdasarkan budaya manusia. pada akhirnya, ai tidak perlu mengirimkan robot pembunuh seperti "terminator" untuk melenyapkan manusia dari luar, ai hanya perlu memanipulasi kognisi manusia dan membiarkan mereka saling membunuh.
pengguna manusia tidak hanya tidak mampu mendeskripsikan, menjelaskan, dan memprediksi perilaku ai, namun mereka juga tidak akan mampu mengendalikannya.
manusia membuat undang-undang tentang ai, dan pembangunan perlu direm terlebih dahulu baru kemudian dipercepat
melalui argumen (atau rendering) di atas, harari memungkinkan kita untuk mengalami skenario mengerikan "ai di luar kendali" yang akan terjadi (atau sudah terjadi atau sedang terjadi) dalam waktu dekat, membuat kita sebagai manusia bergidik. jadi, untuk apa manusia?
harari percaya bahwa selama kita mengatur dan mengendalikan kecerdasan buatan secara ketat, kemungkinan besar bahaya yang dijelaskan dalam contoh di atas tidak akan muncul.
misalnya, mobil dulunya sangat berbahaya, tetapi kemudian undang-undang pemerintah mengharuskan perusahaan menghabiskan sebagian besar anggaran penelitian dan pengembangannya untuk memastikan keamanan mobil. jadi saat ini perusahaan mobil mengembangkan mobil baru sebelum memasarkannya harus benar-benar mematuhi peraturan terkait untuk memastikan keselamatan mobil sebelum dapat digunakan di jalan raya. jadi relatif aman bagi kita untuk berkendara saat ini.
demikian pula, jika sebuah perusahaan teknologi menemukan algoritme baru yang canggih, perusahaan tersebut harus melakukan pemeriksaan keamanan sesuai dengan undang-undang yang relevan sebelum meluncurkannya ke pasar. misalnya, harari percaya bahwa pemerintah harus membuat undang-undang yang mewajibkan perusahaan penelitian dan pengembangan kecerdasan buatan untuk menghabiskan setidaknya 20% anggaran mereka untuk penelitian dan pengembangan langkah-langkah keselamatan untuk memastikan bahwa kecerdasan buatan yang mereka kembangkan tidak lepas kendali dan tidak terjadi. tidak menimbulkan kerugian terhadap tatanan sosial dan tingkat psikologis masyarakat. jika langkah-langkah ini memperlambat perkembangan kecerdasan buatan, maka ini akan menjadi hal yang baik bagi umat manusia.
mengatur dan mengendalikan kecerdasan buatan terlebih dahulu kemudian mempercepat perkembangannya ibarat ketika kita belajar mengemudi, kita harus belajar menginjak rem terlebih dahulu, baru belajar menginjak pedal gas. kita tidak bisa terjerumus ke dalam kondisi “balap drag” yang buruk, dimana perusahaan tidak mempunyai kendali.
kesimpulan: ai itu obat atau racun, tergantung manusianya
teknologi apa pun pada dasarnya memiliki dua sisi. platon menunjukkan dalam phaedrus bahwa menulis dapat meningkatkan dan menggantikan ingatan, dan oleh karena itu merupakan obat sekaligus racun (pharmakon). kecerdasan buatan tidak terkecuali, dan karena ia tersembunyi dan kuat, ia dapat berbicara sendiri dan mengambil keputusan sendiri. potensi obat dan racunnya lebih besar dibandingkan semua teknologi sebelumnya.
neil postman, seorang pakar studi media amerika, berkata, “orwell memperingatkan bahwa masyarakat akan diperbudak oleh penindasan eksternal, sementara huxley percaya bahwa masyarakat secara bertahap akan jatuh cinta pada penindasan dan memuja teknologi industri yang membuat mereka kehilangan kemampuan berpikir; khawatir bahwa apa yang kita benci akan menghancurkan kita, sementara huxley khawatir bahwa ketika budaya kita menjadi budaya vulgar yang berisi sensualitas, hasrat, dan permainan tanpa aturan, kita akan dihancurkan oleh apa yang kita sukai.”
kecerdasan buatan bisa memperbudak kita dalam bentuk penindasan eksternal yang kita benci, atau menaklukkan kita dalam bentuk rangsangan sensorik yang kita nikmati. seperti halnya menghadapi bom nuklir, menghadapi ai, binatang raksasa yang juga diciptakan dengan sendirinya, mampukah manusia menjinakkannya pada dasarnya bergantung pada cara manusia merespons secara kolektif.artinya, apakah manusia sebagai homo sapiens dapat mengatasi kelemahan dirinya sendiri seperti keserakahan, agresi, dan kepicikan, serta berdiri di atas dirinya sendiri dan berdiri "di atas homo sapiens". ini akan menjadi usaha bersama yang sulit, namun umat manusia tidak punya pilihan.
（penulis deng jianguo adalah seorang profesor dan pembimbing doktoral di departemen komunikasi, sekolah jurnalisme, universitas fudan）
deng jianguo
(artikel ini berasal dari the paper. untuk informasi lebih orisinal, silakan unduh aplikasi “the paper”)
