berita

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Liu Cheng/SMS Baru-baru ini, industri-industri seperti layanan pemesanan kendaraan online tanpa pengemudi, kendaraan pengiriman tanpa pengemudi, kapal pesiar tanpa pengemudi, dan drone telah meningkat pesat di Beijing, Wuhan, dan tempat-tempat lain, sehingga mendapatkan keuntungan sebagai penggerak pertama di seluruh negeri dan bahkan dunia. Namun permasalahan tata kelola sosial yang diangkat, khususnya permasalahan atribusi tanggung jawab, masih belum terselesaikan.

Perkembangan industri yang inovatif tidak dapat dibatasi karena kurangnya aturan sosial, namun teknologi terkait tidak dapat dibiarkan beroperasi dalam keadaan “anarki”. Oleh karena itu, semua sektor masyarakat perlu memperkuat pemikiran teoritis dan diskusi praktis untuk mencapai tujuan tersebut standar tertentu tentang aturan kelembagaan.

Mengemudi tanpa pengemudi bukan berarti tidak ada orang yang bertanggung jawab

Sebagian besar subjek yang mengikat undang-undang dan peraturan yang ada saat ini adalah manusia (perseorangan atau badan hukum), terutama jika menyangkut mekanisme akuntabilitas utama seperti pertanggungjawaban pidana, yang sering kali perlu diarahkan untuk membersihkan individu perorangan.

Dengan kata lain, pengawasan terhadap keselamatan seperti kecelakaan besar dan kejahatan yang disengaja (meskipun tingkat kejadiannya tidak tinggi dibandingkan dengan kecelakaan keselamatan umum) merupakan kondisi yang diperlukan untuk menjaga lalu lintas dan ketertiban sosial, dan sangat bergantung pada hukum pidana. Diantaranya, sebagian besar kejahatan lalu lintas jalan menyasar pengemudi kendaraan bermotor.

Oleh karena itu, penentuan pihak yang bertanggung jawab menjadi isu utama dalam regulasi mengemudi otonom (dan produk serupa lainnya dengan kecerdasan buatan). Berbeda dengan mengemudi kendaraan pada umumnya, mengemudi otonom tidak memiliki pengemudi langsung, sehingga mengakibatkan kurangnya subjek yang bertanggung jawab langsung. Hal ini tampaknya telah menjadi "misteri tanpa kepala" dalam kenyataan atau paradoks teoretis.

Melihat esensi dari fenomena tersebut, kita masih dapat menemukan beberapa entitas yang bertanggung jawab yang mungkin menjadi pengemudi otonom, antara lain: pengguna kendaraan otonom, teknisi atau petugas keselamatan di belakang pemilik dan operator atau penerima manfaat kendaraan otonom; Tentu saja, ini sebagian besar hanyalah spekulasi teoretis, dan juga didukung oleh sejumlah kecil kasus di luar negeri. Namun terkait siapa yang bertanggung jawab melakukan pengawasan, persoalan ini masih memerlukan kajian dan pembuktian mendalam oleh akademisi, pemerintah, dan legislatif.

Tidak dapat dipungkiri bahwa kendaraan otonom (atau alat transportasi lain seperti kapal laut dan pesawat terbang) tidak memiliki pengemudi, tetapi memiliki pengguna yang jelas. Mirip dengan usulan Komisi Hukum Inggris "pengguna yang bertanggung jawab atas penggunaan"; di negara bagian Georgia, AS, ini berarti "orang yang menyebabkan kendaraan bergerak".

Jika pengguna memilih untuk menggunakan atau mengaktifkan kendaraan tak berawak padahal mengetahui bahwa kendaraan tersebut tidak berawak, maka hal tersebut tidak sesuai dengan kesediaannya untuk menanggung konsekuensi potensial. Tentu saja sebagian orang mungkin menganggap pengguna hanyalah objek layanan, konsumen. Teori umumnya adalah selama tidak ada penggunaan yang tidak tepat, konsumen tidak bertanggung jawab atas akibat buruk dari proses konsumsi. Oleh karena itu, terdapat kontroversi besar di negara-negara di seluruh dunia bahwa pengguna memikul tanggung jawab utama untuk mengemudi secara otonom.

Komprominya adalah pengguna kendaraan otonom tetap harus berperan sebagai pengemudi. Karena posisi kunci pengemudi, beberapa negara bagian di Amerika Serikat yang mengizinkan kendaraan otonom untuk berkendara di jalan raya mengharuskan pengemudi manusia harus duduk di kursi pengemudi dan tetap waspada, namun pada kenyataannya tetap memiliki pengemudi cadangan. Konsekuensinya, kendaraan tanpa pengemudi mengharuskan pengemudi untuk memikul tanggung jawab, dan pengguna menjadi pengemudi. Mengemudi tanpa pengemudi hanya sekedar nama, sehingga membatasi perkembangan industri.

Kategori kedua dari orang-orang yang mungkin bertanggung jawab adalah operator jarak jauh. Operator jarak jauh, teknisi, dan petugas keselamatan dapat digambarkan sebagai “penggerak” teknologi mengemudi otonom. Dalam keadaan normal, masyarakat tidak merasakan kehadirannya, namun dalam keadaan darurat, mereka akan segera muncul dan memberikan bantuan keselamatan.

Negara bagian California di Amerika Serikat mengizinkan permohonan izin tes mengemudi otonom, tetapi mengharuskan operator jarak jauh dengan surat izin mengemudi yang sesuai "terus mengawasi pelaksanaan tugas mengemudi dinamis kendaraan" ketika tidak ada pengemudi cadangan manusia. Negara bagian Arizona di AS menetapkan bahwa hukuman yang timbul dari pelanggaran lalu lintas atau kendaraan akan diberikan kepada orang yang "menguji atau mengoperasikan kendaraan yang sepenuhnya otonom".

Dengan kata lain, pendekatan ini memperluas konsep pengemudi menjadi operator jarak jauh yang dianggap bertanggung jawab atas kendaraannya, meskipun mereka tidak sedang duduk di dalam kendaraan.

Jenis subjek tanggung jawab yang ketiga keluar dari kerangka logis pengemudi dan mencari pemilik kendaraan, operator atau penerima manfaat untuk mengambil tanggung jawab dari sudut pandang kepentingan.

Dua jenis pengguna subjek pertama dan operator jarak jauh masing-masing membuat kendaraan bergerak dan mengendalikan kendaraan dari jarak jauh. Ide peraturannya adalah memberi mereka identitas bayangan pengemudi, dan kemudian meminta pertanggungjawaban mereka sebagai pengemudi berdasarkan kerangka hukum saat ini. Jika pengemudi kendaraan self-driving ditemukan, peraturan yang ada akan tetap berlaku, dan semua tantangan regulasi untuk self-driving akan teratasi.

Namun, sebagaimana disebutkan di atas, dua jenis subjek pertama bukanlah pendorong sebenarnya, dan identifikasi identitas yang sewenang-wenang seperti itu menimbulkan kontroversi sosial yang besar. Oleh karena itu, muncullah tipe subjek tanggung jawab ketiga.

Jika pengguna dan operator jarak jauh tidak bisa dijadikan kambing hitam, siapa lagi yang bisa bertanggung jawab atas potensi kecelakaan? Seruan paling keras di masyarakat adalah agar pemilik kendaraan bertanggung jawab.

Saat ini, pemilik kendaraan, operator, dan penerima manfaat semuanya merupakan entitas yang sama—perusahaan platform. Mereka meluncurkan bisnis baru ini, menyediakan layanan dan memperoleh keuntungan, dan mereka harus bertanggung jawab atas hal ini, seperti halnya restoran bertanggung jawab atas makanan mereka.

Namun kesulitan sebenarnya adalah platform tersebut adalah perusahaan, bukan perorangan, dan sulit untuk memikul tanggung jawab pidana. Beberapa orang telah mengusulkan agar badan hukum perusahaan harus bertanggung jawab, namun hal ini melampaui cakupan normal tanggung jawab kualitas produk atau kualitas layanan. Secara umum, ketika konsumen menggunakan produk atau jasa, pemasok produk atau jasa bertanggung jawab atas kualitas produk, namun ada ruang lingkup yang jelas dan tanggung jawab tersebut tidak boleh berlebihan.

Kesulitan yang lebih besar adalah ketika pemilik kendaraan, operator, dan penerima manfaat dipisahkan, hampir tidak ada solusi mengenai atribusi dan pembagian tanggung jawab. Misalnya, jika seseorang diperbolehkan menyewa kendaraan tanpa pengemudi dan mengoperasikannya oleh pihak ketiga di masa depan, maka akan terdapat banyak entitas termasuk pemilik kendaraan, penyewa, operator, dan penerima manfaat.

Perlu dicatat bahwa analisis di atas hanya berfokus pada potensi tanggung jawab kecelakaan yang mungkin terjadi selama penggunaan normal kendaraan tanpa pengemudi. Untuk tindakan ilegal yang disengaja selama penggunaan, orang yang bertanggung jawab tertentu perlu diidentifikasi berdasarkan kasus per kasus. Misalnya, jika penggunaan yang tidak semestinya oleh pengguna menyebabkan tabrakan yang berbahaya, pengguna tersebut harus menjadi orang yang bertanggung jawab utama.

Apakah mesin cerdas mempunyai kepribadian, dan bagaimana mereka dapat dimintai pertanggungjawaban?

Kendaraan tanpa pengemudi, kapal laut, pesawat terbang, dan mesin dengan kecerdasan buatan lainnya tidak memiliki jiwa dan pikiran;

Namun jika mesin tersebut memiliki karakteristik kepribadian, maka mesin tersebut akan memiliki kepribadian hukum yang independen dan dapat bertanggung jawab atas tindakan “sendiri”. Ini terdengar seperti fiksi ilmiah, tetapi sudah ada dalam teori dan kenyataan.

Apakah mesin, termasuk kendaraan tanpa pengemudi, mempunyai kepribadian? Ada dua pandangan yang berlawanan mengenai hal ini.

Salah satu pandangan adalah bahwa mesin tidak memiliki kepribadian dan tidak perlu bertanggung jawab atas tindakannya, sehingga tanggung jawab utama harus dijalankan oleh orang-orang di belakang mesin.

Beberapa ahli percaya bahwa meskipun "otonomi" mesin cerdas biasanya digunakan untuk menggambarkan kemampuan mereka dalam mengambil keputusan secara mandiri, mereka tidak memiliki keinginan atau nilai. Saat mendeskripsikan sistem AI sebagai sistem yang otonom, biasanya kita tidak bermaksud mengatakan bahwa sistem tersebut membuat keputusan “sendiri”. Dipahami dari perspektif ini, isu otonomi bukanlah suatu kualitas misterius yang melekat dalam sistem kecerdasan buatan.

Sekalipun mesin tersebut memiliki kemampuan pengambilan keputusan secara otonom, ia hanyalah tindakan “sadar” di bawah komando program manusia. Mesin tersebut pada dasarnya melaksanakan pengambilan keputusan oleh manusia. Oleh karena itu, manusia harus bertanggung jawab atas perilaku otonom mesin.

Tentu saja, proses pemberdayaan manusia terhadap mesin untuk membuat keputusan otomatis harus transparan, dan manusia tidak dapat bertanggung jawab atas tindakan mesin yang salah tanpa sepengetahuan mereka. Dengan kata lain, orang yang mengendalikan mesin bertanggung jawab atas mesin tersebut, dan orang biasa berhak mengetahui bagaimana mesin mengambil keputusan, sehingga melindungi hak mereka untuk mengetahui. Dengan cara yang sama, perusahaan besar seperti platform bertanggung jawab atas mesin pintar dan perlu memberi tahu pengguna tentang algoritme mesin pintar dan prinsip pengambilan keputusan otomatis.

Menurut Peraturan Perlindungan Data Umum (GDPR) Uni Eropa, pengguna berhak meminta penjelasan apakah terdapat mekanisme pengambilan keputusan otomatis, serta penjelasan yang masuk akal tentang "prinsip logis yang terlibat dalam pengambilan keputusan otomatis, pentingnya bagi pengguna dan konsekuensi yang diharapkan" dan informasi lainnya. Sesuai dengan skenario mengemudi tanpa pengemudi, platform harus bertanggung jawab atas kendaraan dan memberi tahu pengguna informasi dasar tentang pengoperasian kendaraan, seperti kecepatan kendaraan, penghindaran pejalan kaki, dan informasi lainnya.

Pandangan lain adalah bahwa mesin, termasuk kendaraan tanpa pengemudi, dan sistem kecerdasan buatannya memiliki "kesadaran otonom robot" dan pada akhirnya akan memiliki kepribadian hukum penuh.

Beberapa sarjana percaya bahwa mesin memiliki kesadaran otonom dan dapat bertanggung jawab atas tindakannya sendiri. Fungsi undang-undang lalu lintas jalan dan tujuan menghukum tindakan ilegal adalah untuk meningkatkan keselamatan jalan dan menjaga ketertiban jalan. Denda, hukuman penjara dan rehabilitasi pribadi pengemudi adalah untuk memaksa perilaku manusia agar mematuhi standar keselamatan.

Sebagai analogi, manusia dapat secara langsung menerapkan batasan aturan pada kendaraan tak berawak dan sistem cerdasnya, dan menganggap penegakan hukum sebagai penghubung umpan balik bagi sistem pelatihan untuk lebih memodifikasi algoritme dan desain arsitekturnya.

Dalam kasus yang lebih serius, mencabut izin kendaraan otonom tertentu untuk beroperasi di jalan raya, sehingga menyebabkan kendaraan tersebut dihapus dari daftar atau punah, sama saja dengan menjatuhkan hukuman mati kepada seseorang. Singkatnya, jika mesin memiliki kepribadian, maka dapat dihukum melalui transformasi atau penghancuran.

Visi utopisnya adalah kendaraan tanpa pengemudi bisa lebih unggul dari pengemudi manusia dalam teknologi mengemudinya sehingga tidak perlu mempertimbangkan pertanggungjawaban pidana sama sekali, dan hanya perlu menjaga etika teknologi dan ketertiban persaingan pasar. Hal ini mengubah persoalan pengawasan sosial terhadap masyarakat menjadi persoalan pengawasan ekonomi terhadap pasar.

Aturan-aturan sosial sangat membutuhkan perubahan besar

Sistem kecerdasan buatan yang diwakili oleh mengemudi otonom bersifat kompleks dan efisien. Sistem tersebut dapat mendorong evolusi peradaban secara keseluruhan, memengaruhi mekanisme sosial, membawa perubahan dalam pembagian kerja sosial, pasar kerja dan pola peluang, memengaruhi praktik budaya dan interaksi sosial, serta mengubah manusia. produksi, kehidupan dan cara bertahan hidup, yang dapat membentuk kembali norma-norma sosial.

Teknologi material yang berubah dengan cepat selalu memerlukan sistem, konsep, dan adaptasi budaya lainnya yang sesuai untuk mendorong perkembangan dan inovasi seluruh masyarakat. Namun saat ini, umat manusia secara inheren cenderung memiliki budaya tertinggal dan jelas tidak mampu beradaptasi dengan teknologi baru. Terutama ketika sistem tata kelola dan konsep etika tidak dapat beradaptasi dengan cepat, apakah akan timbul dilema ketertinggalan budaya yang menghambat perubahan teknologi? Isu-isu ini sangat membutuhkan penelitian teoritis dan diskusi praktis di dunia akademis dan industri.

Menurut penulis, mengemudi tanpa pengemudi tidak berarti tidak ada orang yang bertanggung jawab. Ada dua gagasan di baliknya: yang pertama adalah menentukan subjek yang bertanggung jawab dan menemukan seseorang yang bukan pengemudi tetapi dapat memikul tanggung jawab pengemudi; mempersonifikasikan robot dan menjadikannya pengemudi.

(Penulis adalah peneliti asosiasi di Institut Strategi Keuangan, Akademi Ilmu Sosial Tiongkok)

Pernyataan Hak Cipta: Konten di atas adalah karya asli "Pengamat Ekonomi", dan hak cipta adalah milik "Pengamat Ekonomi". Dilarang keras mencetak ulang atau mirroring tanpa izin Pengamat Ekonomi, jika tidak maka pelaku terkait akan bertanggung jawab secara hukum. Untuk kerjasama hak cipta silahkan menghubungi : [010-60910566-1260].