Periksa apakah konten tersebut digunakanObrolanGPT, akurasinya setinggi99.9%！

Alat ini berasal dariBuka AI。

Ini dapat digunakan secara khusus untuk mendeteksi apakah makalah/tugas telah disusupi menggunakan ChatGPT. Ide telah muncul sejak November 2022 (bulan yang sama dengan peluncuran ChatGPT).

Tetapi!

Hal yang sangat berguna, tapi itu bersifat internalTersembunyi di salju selama 2 tahun, itu belum dipublikasikan.

Mengapa?

OpenAI melakukan survei di antara pengguna setia dan menemukan hal ituhampir sepertiga banyak orang mengatakan mereka akan meninggalkan ChatGPT jika alat anti-cheat digunakan. Dan hal ini mungkin juga berdampak lebih besar pada pengguna yang bukan penutur asli bahasa Inggris.

Namun, beberapa orang di dalam perusahaan juga menyarankan bahwa penggunaan metode anti-cheat bermanfaat bagi ekosistem OpenAI.

Kedua belah pihak telah berdebat, dan alat pendeteksi tanda air belum dirilis.

Selain OpenAI, Google dan Apple juga telah menyiapkan alat serupa, dan beberapa sudah memulai pengujian internal, namun belum ada yang diluncurkan secara resmi.

Diskusi dimulai sebelum ChatGPT dirilis

Setelah ChatGPT menjadi populer, banyak siswa sekolah menengah dan mahasiswa yang menggunakannya untuk mengerjakan pekerjaan rumah, sehingga cara mengidentifikasi konten yang dihasilkan AI telah menjadi topik hangat di kalangan.

Dilihat dari informasi terbaru yang terungkap, OpenAI telah mempertimbangkan masalah ini jauh sebelum rilis ChatGPT.

Orang yang mengembangkan teknologi ini pada saat itu adalahScott Aaronson, yang bekerja di bidang keamanan di OpenAI dan merupakan profesor ilmu komputer di Universitas Texas.

Pada awal tahun 2023, salah satu pendiri OpenAIJohn Schulman, menguraikan kelebihan dan kekurangan alat ini dalam dokumen Google.

Para eksekutif perusahaan kemudian memutuskan bahwa mereka akan meminta masukan dari berbagai pihak sebelum mengambil tindakan lebih lanjut.

Pada bulan April 2023, survei yang dilakukan oleh OpenAI menunjukkan bahwa hanya ada1/4orang mendukung penambahan alat deteksi.

Di bulan yang sama, OpenAI mengumumkan lainnyaPengguna ChatGPTKami melakukan survei.

Hasilnya menunjukkan bahwa adahampir 30%pengguna mengatakan mereka akan menggunakan ChatGPT lebih sedikit jika menggunakan tanda air.

Sejak itu, kontroversi terus berlanjut mengenai kematangan teknis alat tersebut dan preferensi pengguna.

Pada awal Juni tahun ini, OpenAI mengumpulkan staf senior dan peneliti untuk membahas kembali proyek tersebut.

Konon pada akhirnya semua sepakat bahwa meski teknologinya sudah matang, hasil survei pengguna ChatGPT tahun lalu tidak bisa diabaikan begitu saja.

Dokumen internal menunjukkan bahwa OpenAI yakin bahwa mereka perlu melakukan hal tersebutsebelum musim gugur iniKembangkan rencana untuk mempengaruhi persepsi publik tentang transparansi AI.

Namun, hingga berita ini keluar, OpenAI belum mengungkapkan tindakan penanggulangan yang relevan.

Mengapa tidak mempublikasikannya?

Untuk meringkas alasan mengapa OpenAI sudah lama tidak mengungkapkan teknologi ini,Terutama ada dua aspek: Salah satunya adalah teknologi, dan yang lainnya adalah preferensi pengguna.

Mari kita bicara tentang teknologi terlebih dahulu. Pada awal Januari 2023, OpenAI mengembangkan teknologi untuk menyaring teks dari berbagai model AI (termasuk ChatGPT).

Teknologi ini menggunakan pendekatan seperti "tanda air" untuk menyematkan penanda yang tidak terlihat ke dalam teks.

Dengan cara ini, ketika seseorang menganalisis teks dengan alat pendeteksi, pendeteksi dapat memberikan skor yang menunjukkan seberapa besar kemungkinan teks tersebut dihasilkan oleh ChatGPT.

Namun, tingkat keberhasilannya hanya 26% pada saat itu, dan OpenAI menariknya hanya dalam waktu 7 bulan.

Kemudian, OpenAI secara bertahap meningkatkan tingkat keberhasilan teknologinya menjadi 99,9%. Secara teknis, proyek tersebut siap dirilis sekitar setahun yang lalu.

Namun kontroversi lain seputar teknologi ini adalah karyawan internal percaya bahwa teknologi tersebut dapat membahayakanKualitas penulisan ChatGPT。

Pada saat yang sama, para karyawan juga menyampaikan beberapa kekhawatirannya"Orang mungkin menghindari tanda air"potensi risiko.

Misalnya, “teknik penerjemahan” yang dilakukan oleh mahasiswa adalah menerjemahkan teks ke bahasa lain lalu menerjemahkannya kembali melalui metode yang mirip dengan Google Translate, yang mungkin akan terhapus.

Contoh lainnya adalah seseorang telah menerapkan "kebijakan dari atas dan tindakan pencegahan dari bawah". Begitu semakin banyak orang menggunakan alat tanda air tersebut secara publik, netizen akan menentukan versi yang telah di-crack dalam hitungan menit.

Selain teknologi, kendala utama lainnya adalah pengguna. Berbagai survei yang dilakukan OpenAI menunjukkan bahwa pengguna tampaknya tidak optimis terhadap teknologi ini.

Ini juga harus diperhatikan oleh pengguna.Apa yang Anda lakukan dengan ChatGPT?？

Pertanyaan ini dapat dirujuk ke survei oleh Washington Post. Mereka mengamati hampir 200.000 catatan obrolan bahasa Inggris dari kumpulan data WildChat. Percakapan ini dihasilkan oleh manusia dan dua bot yang dibangun di ChatGPT.

Seperti yang dapat dilihat, sebagian besar orang menggunakan ChatGPT untukMenulis (21%)sebaikBantuan mengerjakan pekerjaan rumah (18%)。

Tampaknya tidak sulit untuk memahami mengapa masyarakat menentang teknologi pendeteksian ini.

Jadi, apakah Anda setuju untuk menambahkan watermark saat menggunakan alat seperti ChatGPT?