berita

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Kalah dari AI, aku merasa seluruh duniaku hancur.

Lee Sedol berkata dalam wawancara baru-baru ini dengan New York Times.

Pada tahun 2016, pecatur Korea yang merupakan juara dunia 14 kali mewakili manusia dalam pertandingan melawan Google AlphaGo, dan akhirnya kalah 1:4.

Ketika dia menerima undangan tersebut, dia pikir itu akan menjadi pengalaman yang "menyenangkan":

Premis kesenangannya adalah saya pikir saya akan menang. Saya tidak pernah berpikir saya akan kalah.

Itu mungkin salah satu hal terpenting sebelum teknologi AI debut di ChatGPT.

Kini, kurang dari dua tahun telah berlalu sejak peluncuran ChatGPT. Kami telah melihat banyak bidang yang terkena dampak AI, dan semakin banyak aspek kehidupan yang tampaknya telah diramalkan akan adanya perubahan. Mau tidak mau, kami ingin berspekulasi dan membayangkan masa depan. AI.

Dalam konteks ini, dunia Go, yang terkena dampak AI lebih awal dibandingkan industri dan bidang lainnya, dapat membantu kita melihat kemungkinan yang sudah terjadi.

Setelah mengalahkan manusia, AI yang lebih kuat semakin tidak manusiawi

Saya tidak bisa menikmati Go lagi, jadi saya pensiun.

Tiga tahun setelah bermain melawan AlphaGo, Lee Sedol resmi mengumumkan pengunduran dirinya.

Bagi Lee Sedol, yang mulai mempelajari Go pada usia 5 tahun, Go bukan hanya sebuah kompetisi, melainkan sebuah seni, perpanjangan dari kepribadian dan gaya pemain permainan efisiensi algoritmik.

Selama tiga tahun ini, hal lain sebenarnya terjadi.

Pada tahun 2017, DeepMind mengumumkan versi baru AlphaGo - AlphaGo Zero.

AlphaGo lahir dari pembelajaran jaringan saraf dan praktik mandiri lebih dari 30 juta gerakan oleh master manusia, tetapi AlphaGo Zero dipisahkan dari "sentuhan manusia" sejak awal, selama periode pelatihan, ia tidak bersentuhan dengan apapun catatan catur manusia dan hanya mengandalkan dirinya sendiri dan pelatihan caturnya sendiri.

Hanya dalam tiga hari, AlphaGo Zero sudah menang 100:0 melawan AlphaGo.

Atlantik menyebutnya “AI yang tidak perlu belajar apa pun dari manusia.”

Di Go, ada teknik yang kelihatannya sederhana atau tidak penting, namun bisa menimbulkan ancaman yang fatal dalam jangka panjang. Beberapa orang akan mengatakan bahwa itu seperti "hantu".

Catatan permainan AlphaGo dan AlphaGo Zero sangat sulit untuk dipahami sehingga secara langsung dianggap sebagai "panduan misterius yang dijatuhkan oleh peradaban alien".

Pemain catur profesional Amerika Michael Redmond mengatakan pada tahun 2017 bahwa salah satu cara penting bagi manusia untuk mempelajari Go adalah dengan membangun sebuah cerita: "Begitulah cara kita berkomunikasi. Itu adalah hal yang sangat manusiawi."

Hal ini mungkin juga menggemakan pendapat Lee Sedol bahwa ketika bermain catur, pecatur juga menunjukkan sebagian dirinya sebagai manusia.

Redmond menambahkan bahwa berdasarkan pengamatannya sendiri, pemain catur manusia cenderung "mengangkat tangan dan menyerah" ketika mereka pertama kali melihat catur "bercita rasa AI":

Cara bermain catur AlphaGo selalu terasa sangat "tidak manusiawi". Menghadapi permainan catur seperti itu, bahkan kita sulit untuk terlibat.

Sebagai salah satu master Go pertama yang terkena dampaknya, Lee Sedol tidak bisa melepaskannya untuk waktu yang lama.

Dia menjadi terobsesi dengan AI.

Setelah pensiun, selain membuka akademi Go sendiri, menerbitkan buku dan meluncurkan permainan papan berbasis Go, Lee Sedol juga mulai memberikan ceramah tentang AI:

Saya mulai menghadapi masalah AI sejak dini, dan orang lain juga akan mengalaminya. Itu mungkin tidak membawa akhir yang bahagia.

Baginya, aspek yang paling mengkhawatirkan dari AI adalah bahwa hal itu dapat mengubah nilai-nilai kemanusiaan:

Di masa lalu, orang-orang akan kagum pada kreativitas, orisinalitas, dan inovasi, namun sejak munculnya AI, sebagian besar hal tersebut telah hilang.

Tidak semua orang setuju dengan pernyataan ini.

Era kreasi bersama manusia-mesin

AI menghancurkan semua tatanan yang ada di dunia Go dan kemudian mulai membangunnya kembali.

kata Jiuheng He, seorang penggila Go yang mempelajari kecerdasan buatan di Cornell University.

Di banyak akademi Go, menggunakan AI untuk mempelajari Go adalah proses yang harus dilalui oleh hampir semua pemain.

Di akademi Go di Hong Kong, Ng Chee Man membekali siswanya dengan iPad untuk belajar Go menggunakan AI.

Setiap kali seorang siswa bermain catur, AI akan menampilkan saran “langkah terbaik” di saat yang sama, sistem juga akan mencatat gerakan mana yang dilakukan siswa dengan baik dan gerakan mana yang kurang baik.

Tahun lalu, sebuah penelitian yang diterbitkan dalam Proceedings of the National Academy of Sciences menunjukkan bahwa sejak AI memasuki lingkaran Go, kemampuan penilaian pemain manusia telah meningkat.

Pada awal tahun 2016, sebelum AlphaGo mengalahkan Lee Sedol, Fan Hui, yang pernah bermain melawan AlphaGo dalam tes pribadi, memiliki pengalaman serupa.

Meskipun dia kalah, Fan Hui mengatakan bahwa AlphaGo memungkinkan dia untuk melihat Go dengan cara baru, meningkatkan keterampilannya, dan memungkinkan dia untuk dengan cepat naik peringkat dunia.

Studi tahun 2023 didasarkan pada catatan catur yang dikumpulkan dari tahun 1950 hingga 2021, termasuk data 5,8 juta tangan.

Para peneliti menemukan bahwa sebelum AlphaGo mengalahkan Lee Sedol, kualitas penilaian pemain catur manusia tetap stabil dan pada dasarnya tidak berubah selama 66 tahun. Namun, selama tahun 2016 dan 2017, kualitas penilaian pemain catur mulai meningkat.

Dengan kata lain, meskipun pecatur manusia mungkin tidak bisa mengalahkan pecatur AI, namun kemampuan penilaiannya memang meningkat.

Sangat menginspirasi melihat seberapa cepat pemain catur manusia dapat beradaptasi dan menggabungkan gerakan-gerakan baru ini ke dalam metode mereka sendiri. Hasil ini menunjukkan bahwa manusia akan beradaptasi dengan penemuan ini dan memanfaatkannya untuk meningkatkan potensi kita.

David Silver, kepala ilmuwan riset di DeepMind dan pemimpin proyek AlphaGo, mengomentari penelitian ini.

Ke Jie, yang dikalahkan oleh AlphaGo pada tahun 2017, juga mengatakan pada tahun 2023 bahwa ia jarang berlatih dengan orang sungguhan kecuali untuk kompetisi, dan percaya bahwa AI bahkan telah menjadi sumber kreativitas di Go:

Kreativitas bukan sekedar melakukan sesuatu yang berbeda. Kreativitas harus benar-benar diperjuangkan dan diuji. Sekarang sebagian besar inovasi di Go dilakukan oleh AI. Jika kita ingin memainkan beberapa game yang berbeda dari sebelumnya, ada kemungkinan besar hal tersebut kita akan kalah karena AI melewati banyak pertarungan sebenarnya, dan muncul dengan pemikiran yang berbeda dari sebelumnya, inilah kreativitas.

Selain itu, penampilan pecatur profesional lainnya juga sangat menarik.

Pecatur Korea Shin Jin-jin adalah pecatur pertama pasca tahun 2000 yang memenangkan kejuaraan dunia. Ia sering disebut "Shen Gong Intelligence" oleh para penggemar catur karena ia terkenal dengan pelatihan dan penelitian AI jangka panjangnya.

Pada bulan Februari tahun ini, Shin Jin-seok mengalahkan kapten Tiongkok Gu Zihao di Piala Nongshim ke-25, meraih enam kemenangan berturut-turut dalam satu musim dan 16 kemenangan berturut-turut sepanjang musim, melampaui pendahulunya Lee Chang-ho. Pada bulan Maret tahun ini, dia berbicara tentang hubungannya dengan AI:

Saya merasa seperti AI dan saya berteman sekarang. Saya belajar dengan AI yang lebih baik dari saya. AI dan pemikiran manusia sangatlah berbeda. AI memecahkan masalah melalui algoritma matematika. Saya mendapat banyak manfaat dari pembelajaran dari pemikiran AI.

Kini, pemain profesional di Tiongkok, Korea Selatan, dan Jepang akan menggunakan AI untuk berlatih.

Kiamat "Rasa AI".

Seperti halnya di era AI generatif, beberapa desainer dan penulis perlu melakukan sertifikasi mandiri yang rumit karena apa yang disebut "rasa AI" yang terkandung dalam karya mereka, yang telah lama terintegrasi dengan AI. juga telah menghadapi berbagai masalah munculnya "rasa AI".

Dalam game Go saat ini, AI sering digunakan untuk memprediksi tingkat kemenangan dan AI merekomendasikan langkah terbaik. Oleh karena itu, penonton dapat memperoleh semacam "inisiatif" dalam proses menonton pertandingan dan memiliki berbagai sudut pandang.

Pada tahun 2022, saat pertandingan melawan Shen Zhenzhen, pecatur Tiongkok Li Xuanhao membuat banyak keputusan yang sejalan dengan tiga besar yang diprediksi oleh penilaian optimal AI. Oleh karena itu, rekan setimnya Yang Dingxin mempertanyakan kecurigaannya melakukan kecurangan dengan AI.

Li Xuanhao, yang lahir pada tahun 1995, "bekerja dari jam sembilan sampai jam sembilan, sepanjang tahun, dan benar-benar bekerja keras" dalam pelatihan AI. Oleh karena itu, permainan catur terkadang dianggap memiliki apa yang disebut "rasa mesin".

Mengenai keraguan tersebut, Asosiasi Go Tiongkok melakukan penyelidikan dan akhirnya memutuskan bahwa tidak ada bukti atas tuduhan tersebut, dan Yang Dingxin menjatuhkan hukuman.

Namun kasus kecurangan dengan AI memang ada.

Pada tahun 2020, pemain catur profesional Korea Selatan berusia 13 tahun Kim Eun-chi ditemukan memiliki 92% tumpang tindih antara gerakannya dalam pertandingan online dan rekomendasi AI. Setelah dilakukan penyelidikan, akhirnya diputuskan bahwa dia telah berbuat curang (dan dia mengakuinya) dan didenda serta skorsing selama satu tahun.

Pada tahun 2022, pecatur Tiongkok Liu Ruizhi dihukum karena kecurangan AI dan merupakan pecatur profesional pertama di Tiongkok yang secara resmi dihukum karena kecurangan AI. Dibandingkan dengan Kim Eun-chi, Liu Ruizhi telah belajar menghindari "rasa AI" dan hanya menggunakan AI pada beberapa poin penting.

Sebagai tanggapannya, kompetisi di berbagai negara terus meningkatkan mekanisme kecurangan anti-AI.

Pada saat yang sama, beberapa orang telah menggunakan "rasa AI" untuk mengalahkan AI.

Pada tahun 2023, pemain catur amatir Amerika Kellin Pelrine mengalahkan Go AI KataGo.

KataGo adalah salah satu Go AI open source terkuat yang ada, dan Korea Selatan juga akan menggunakannya untuk melatih pemain Go.

Pelrine menggunakan program bernama FAR AI untuk bermain melawan KataGo selama lebih dari 1 juta permainan. Akhirnya, FAR AI menemukan kelemahan KataGo, mempraktikkannya dalam duel manusia-mesin, dan memenangkan:

Strategi tersebut tidak terlalu kekanak-kanakan, namun juga tidak terlalu sulit untuk dipelajari.

Kemudian, dia juga menggunakan metode yang sama untuk mengalahkan Leela Zero, Go AI lain yang relatif kuat.

Kunci dari strategi ini adalah membuat "lingkaran" besar untuk mengelilingi kelompok bidak catur lawan, lalu tiba-tiba memindahkan bidak tersebut ke sudut lain yang tidak berhubungan untuk mengganggu AI.

Pelrine mengatakan jika itu adalah pemain catur manusia, dia pasti akan mengetahui ada yang tidak beres ketika melihat lingkaran tersebut, tetapi AI tidak akan menyadarinya.

Kelemahan ini sepertinya agak "rumit". Apakah bisa ditambal dengan membiarkan AI melakukan pelatihan yang ditargetkan?

Sebuah laporan di Nature minggu lalu mengutip makalah pracetak tahun ini dan menunjukkan bahwa dalam menghadapi program yang secara khusus mencari kelemahan AI, kerentanan model tidak semudah yang dibayangkan.

Kali ini KataGo yang “ditargetkan”. Para peneliti menggunakan tiga strategi berbeda untuk membuat KataGo lebih mampu melakukan serangan balik:

• Biarkan KataGo belajar bagaimana merespons serangan melalui permainan mandiri;
• Pelatihan berulang, gunakan program serangan untuk menyerang KataGo, berikan kembali kerentanan ke KataGo, biarkan ia belajar menghadapinya melalui permainan mandiri atau metode lain, lalu gunakan program serangan untuk menyerang KataGo, ulangi siklusnya;
• Latih sistem Go AI baru dari awal, menggunakan model jaringan neural yang berbeda.

Meskipun pelatihan ini telah membantu KataGo meningkatkan kemampuan pertahanannya sampai batas tertentu, program serangan masih dapat menemukan celah dan mengalahkan KataGo dengan tingkat kemenangan masing-masing sebesar 91%, 81% dan 78%.

Program serangan ini sendiri bukanlah Go AI yang bagus dan dapat dengan mudah dikalahkan oleh manusia.

Tentu saja, kuncinya di sini bukanlah bersaing apakah manusia atau AI lebih baik.

Intinya adalah untuk Go, bidang yang telah "ditumbangkan" oleh AI, dan setelah bertahun-tahun diterapkan dan ditingkatkan, AI-nya masih memiliki banyak masalah. Adam Gleave, penulis makalah tersebut, berkata:

Jika kami tidak dapat menyelesaikan masalah ini dalam satu domain seperti Go, maka dalam jangka pendek, kemungkinan untuk memperbaiki jailbreak pada model seperti ChatGPT tampaknya kecil.