berita

Baru-baru ini, mahakarya game AAA dalam negeri "Black Myth: Wukong" menjadi populer di seluruh Internet, menarik perhatian global segera setelah diluncurkan. Menurut statistik dari daftar buku terlaris National Games, hanya dalam satu hari, total penjualan game tersebut di berbagai platform melebihi 4,5 juta kopi, dan total penjualan melebihi 1,5 miliar yuan. Pada saat yang sama, ada juga beberapa "korban" yang terkena dampak popularitas game-game tersebut.

Pada hari "Black Myth: Wukong" dibuka di Steam, seorang pembawa acara game terkenal menderita pusing 3D saat memainkan game tersebut secara langsung. Akibatnya, game tersebut menduduki puncak daftar pencarian terpopuler di Weibo dan secara bercanda disebut "Black Myth : Wukong" oleh banyak netizen. "Korban pertama di dunia". Dan pada tanggal 21 Agustus, "korban" lain dari permainan tersebut muncul, dan pengalaman terkaitnya sebenarnya serupaMicrosoftterkait.

Memasukkan "Layanan Pelanggan Black Myth Wukong" di pencarian Bing Microsoft salah menampilkan nomor ponsel pribadi karyawan Jifeng.com, yang bukan merupakan nomor layanan pelanggan resmi. Selain itu, dua nomor telepon yang salah ditandai sebagai layanan pelanggan, termasuk nomor kontak dan alamat email Departemen Hak Cipta China Business News.

Orang yang nomor teleponnya bocor mengatakan, dia menerima hampir 20 panggilan dalam 5 jam. Dilaporkan bahwa alasan utama kejadian ini adalah Microsoft Bing Kecerdasan buatan Asisten secara keliru menangkap informasi, yang menyebabkan kebocoran informasi pribadinya. Kemudian, meskipun artikel terkait yang ditangkap telah dihapus dan korban mengajukan keluhan dan masukan lainnya, informasi "Layanan Pelanggan Black Myth Wukong" yang salah masih muncul di Bing pencarian beranda. Saat ini, dilihat dari situasi pencarian, tim Bing telah mengoreksi informasi yang salah tersebut.

Sebagai mesin pencari terbesar kedua di dunia, Microsoft Bing mencakup 36 negara dan wilayah dengan lebih dari 600 juta pengguna. Pada 7 Februari 2023, Microsoft mengumumkan hal itu ObrolanGPT Terintegrasi ke dalam versi baru Bing (Bing Baru), versi baru Bing yang terintegrasi akan diadopsiBuka AI model AIGPT Versi yang ditingkatkan dari 3.5GPT-4. Insiden ini mungkin menunjukkan bahwa mesin pencari AI memiliki kekurangan tertentu dalam pengambilan dan pemrosesan informasi.

Bulan lalu, Microsoft mengumumkan pembaruan besar pada Bing. Mesin pencari akan mengalami transformasi menyeluruh dan mulai memprioritaskan jawaban yang dihasilkan oleh AI. Artinya, saat pengguna memasukkan kueri penelusuran, jawaban master yang dihasilkan AI akan muncul di halaman hasil, merinci semua sumber informasi pilihan yang digunakan untuk mendapatkan hasil. Tentu saja, Anda masih akan melihat hasil pencarian tradisional di halaman pencarian Bing, namun hasil tersebut akan ditampilkan di sebelah materi yang dihasilkan AI (di panel yang lebih kecil di sebelah kanan).

Mengenai perubahan ini, Microsoft menjelaskan dalam postingan blog resminya: "Pengalaman baru ini akan menjadi dasar yang melekat pada hasil pencarian Bing, dengan model bahasa besar/kecil (Magister Hukum Dikombinasikan dengan fungsi SLM yang kuat). Teknologi ini memahami kueri penelusuran, mengambil jutaan sumber informasi, mencocokkan konten secara dinamis, dan menampilkan hasil penelusuran dalam tata letak baru yang dihasilkan AI agar lebih efektif memenuhi maksud kueri pengguna. "

Microsoft juga mencantumkan beberapa contoh dalam postingan blognya tentang pencarian generatif Bing. Selain menguraikan fungsi ringkasan, Microsoft juga akan menyediakan tautan sumber utama untuk model bahasa besar dan model bahasa kecil, yang digunakan untuk membuat jawaban yang dilihat pengguna. Setelah AI menghasilkan hasil, ada daftar entri hasil secara teratur.

Misalnya, ketika kueri "Berapa lama gajah hidup?", ringkasan jawaban juga mencantumkan video yang memengaruhi masa hidup gajah; jika pengguna menelusuri "Apa itu spaghetti western?", penelusuran generatif Bing akan melakukannya Menampilkan informasi tentang sejarah, asal usul, dan klasik subgenre film ini, beserta link dan sumber informasi tersebut.

Saat itu, Microsoft mengatakan bahwa penyesuaian ini hanya diluncurkan ke sejumlah kecil pengguna Bing, namun akan diperluas secara bertahap dalam waktu dekat. Microsoft juga menyatakan dalam postingan blognya bahwa mereka akan terus mengevaluasi dampak pencarian AI pada situs web dan pembaca. Beberapa orang di industri khawatir jikaAISitus web yang membuat konten gratis pada akhirnya akan gulung tikar jika konten yang diambil oleh bot ditampilkan langsung di jendela obrolan atau halaman pencarian.

Sebagai tanggapan, Microsoft mengatakan bahwa pengalaman pencarian AI baru ini dibangun dari awal dengan mempertimbangkan masalah ini, sehingga mempertahankan jumlah klik situs web yang sama seperti pencarian tradisional. Waktu akan membuktikan apakah ini benar. Selain itu, dapat dipahami bahwa Bing dapat memilih untuk mematikan fungsi pembuatan AI di halaman hasil dan hanya menampilkan cuplikan pencarian tradisional.

Kini, Microsoft bukan satu-satunya perusahaan browser yang menambahkan hasil yang dihasilkan AI ke halaman pencarian. Ketika Microsoft meluncurkan lebih banyak alat untuk Bing, persaingan untuk memperkenalkan lebih banyak fitur AI ke dalam pencarian secara bertahap meningkat.

Namun, banyak kasus di dunia nyata yang membuktikan bahwa penelusuran AI tidak dapat diandalkan dan seakurat yang kita kira - penelusuran AI dapat membuat kesalahan, dan dalam beberapa kasus bahkan menampilkan informasi dan saran yang salah dalam hasil yang dihasilkan.

Awal tahun ini,GoogleAlat serupa yang disebut Ikhtisar AI telah diluncurkan untuk mempertahankan pengguna yang ingin mencari jawaban atas pertanyaan langsung dari chatbot AI. Namun alat tersebut juga melontarkan beberapa lelucon sejak diluncurkan, seperti menyarankan penambahan lem untuk membuat keju menempel pada pizza dan menjawab, "Ahli geologi merekomendasikan makan setidaknya satu batu kecil setiap hari."

Peramban Arc Search, dalam mode AI, bersumpah untuk memberikan nasihat medis yang tidak tepat, dengan mengatakan, "Jari kaki yang putus pada akhirnya akan tumbuh kembali."

Mesin pencari kecerdasan buatan Genspark merekomendasikan kepada pengguna beberapa senjata yang dapat digunakan untuk membunuh orang.Kebingungan Mereka menjiplak artikel berita yang ditulis oleh beberapa media, namun tidak menyebutkan sumber atau kepemilikan hak ciptanya.

Selain itu, ringkasan yang dibuat oleh AI dapat menyebabkan kanibalisasi lalu lintas ke situs web asal ringkasan tersebut. Sebuah studi menemukan bahwa kutipan AI dapat mengurangi lalu lintas penerbit konten sekitar 25% karena kurangnya penekanan pada tautan artikel.

Mesin pencari AI yang sedang berkembang ini populer karena kemampuannya menghasilkan teks dalam jumlah besar dengan cepat dan meniru teks manusia dengan efek yang meyakinkan, namun di balik layar, "ilusi" AI juga menjadi pengaruh pada chatbot ini untuk membawanya ke dunia nyata. level berikutnya. Sayangnya, beberapa ahli memperingatkan bahwa situasi ini mungkin tidak akan pernah terselesaikan.

Sebuah laporan baru yang diterbitkan oleh Associated Press menyoroti bahwa masalah "omong kosong" model bahasa besar (LLM) mungkin tidak mudah diselesaikan seperti yang diklaim oleh banyak pendiri teknologi dan pendukung AI. Emily Bender, profesor linguistik di Laboratorium Linguistik Komputasi di Universitas Washington, menyatakan pesimismenya. "Masalah halusinasi tidak dapat dipecahkan dan merupakan akibat yang tidak dapat dihindari dari ketidaksesuaian antara teknologi dan kasus penggunaan yang diusulkan."

Menurut Shane Orlick, presiden Jasper AI, ada situasi di mana “omong kosong” bukanlah hal yang buruk. Orlick menjelaskan, "Ilusi sebenarnya dapat memberikan manfaat tambahan. Pelanggan selalu berterima kasih kepada kami atas inspirasi tersebut. Akar permasalahannya adalah AI dapat menghasilkan cerita atau perspektif yang tidak pernah terpikirkan oleh pelanggan secara kebetulan."

Demikian pula, ilusi AI juga sangat membantu dalam menghasilkan gambar AI. Model seperti Dall-E dan Midjourney mengandalkan imajinasi ini untuk menghasilkan gambar yang menarik dan menakjubkan. Dengan kata lain, hanya di bidang pembuatan teks, halusinasi merupakan masalah yang sangat mengganggu pengguna, terutama dalam skenario yang sangat mengutamakan akurasi, seperti pemberitaan.

Bender menunjukkan, "Prinsip dasar dari model bahasa besar adalah untuk 'membuat' konten, yang merupakan akar dari semua fungsinya. Namun karena kekuatan berasal dari mengarang, ketika teks yang dihasilkannya cocok dengan perintah kita, Dengan kata lain, situasi ini Sebaliknya, ini hanya masalah kebetulan. Meskipun model yang disempurnakan hampir selalu benar, model tersebut masih belum sepenuhnya kebal terhadap gangguan, dan ilusi masa depan kemungkinan besar akan muncul dalam kekaburan yang lebih sulit. agar pembaca teks memperhatikannya.”

Model bahasa besar adalah alat yang ampuh yang dapat mencapai fungsi luar biasa, namun perusahaan dan bahkan seluruh industri teknologi harus menyadari bahwa hanya karena sesuatu itu kuat, maka hal itu tidak dapat dianggap sebagai alat yang berguna. Bor palu sangat bagus untuk menembus trotoar dan aspal, tetapi tidak ada yang berani membawanya ke penggalian arkeologi.

Seperti yang ditunjukkan Bender, saat model bahasa besar pertama kali memulai pelatihan, model tersebut mencoba memprediksi kata berikutnya dalam urutan berdasarkan kata isyarat yang kami berikan. Setiap kata dalam data pelatihan diberi bobot atau persentase untuk melacak kemunculan kata tertentu sebelumnya dalam konteks tertentu. Namun kata-kata pertama ini sendiri tidak memiliki arti nyata atau konteks penting untuk memastikan hasil yang akurat.

Dengan kata lain, model bahasa besar ini hanyalah peniru yang hebat. Mereka sebenarnya tidak tahu apa yang mereka bicarakan, jadi terlalu mempercayai mereka hanya akan membuat pengguna mendapat masalah. Kelemahan ini melekat pada model bahasa yang besar, dan meskipun "ilusi" tersebut mungkin secara bertahap berkurang pada iterasi mendatang, masalahnya sendiri mungkin tidak akan pernah benar-benar teratasi.

Tautan referensi:

https://www.engadget.com/microsoft-is-adding-ai-powered-summaries-to- 必应 -search-results-203053790.html?src=rss

https://www.techradar.com/computing/artificial-intelligence/ 必应 -telah-diubah-untuk-memprioritaskan-hasil-pencarian-ai-apakah-Anda-suka-atau-tidak

https://www.techradar.com/computing/artificial-intelligence/chatgpt-and-other-ai-chatbots-will-never-stop-making-stuff-up-experts-warn

https://techcrunch.com/2024/07/24/bing-previews-its-answer-to-googles-ai-overviews/