berita

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

IT House News pada 27 Agustus, media teknologi Techcrunch melaporkan kemarin (26 Agustus),Anthropic telah mengungkapkan "perintah sistem" dari model ClaudeAI.

Perintah sistem

Untuk memungkinkan model AI memahami instruksi manusia dengan lebih baik, proyek prompt sebenarnya berisi dua lapisan konten inti, perintah pengguna dan perintah sistem:

• Kata-kata perintah pengguna: kata-kata perintah yang dimasukkan oleh pengguna, dan kemudian model AI menghasilkan jawaban berdasarkan kata-kata perintah pengguna.

• Kata-kata perintah sistem: Ini adalah perintah yang dihasilkan sistem yang biasanya digunakan untuk mengatur konteks percakapan, memberikan panduan, atau mendiktekan aturan.

Catatan dari Beranda TI: Biasanya, kata-kata perintah sistem akan membuat model memahami kualitas dasarnya, serta apa yang harus dan tidak boleh dilakukan.

Praktik umum di industri

Setiap vendor AI generatif mulai dari OpenAI hingga Anthropic menggunakan perintah sistem untuk mencegah (atau setidaknya mencoba mencegah) model agar tidak berperilaku buruk dan untuk memandu keseluruhan nada dan sentimen respons model.

Misalnya, kata perintah sistem mungkin memberi tahu model bahwa ia harus sopan tetapi tidak pernah meminta maaf, atau dengan jujur ​​​​mengakui bahwa ia tidak bisa mengetahui segalanya.

Namun, produsen mungkin merahasiakan kata-kata perintah sistem ini karena alasan seperti persaingan dan untuk mencegah pengguna jahat melewati perlindungan keamanan setelah mempelajari informasi ini.

Anthropic memilih untuk mengungkapkan kata-kata perintah sistem

Namun, Anthropic telah bekerja keras untuk menampilkan dirinya sebagai pemasok AI yang lebih etis dan transparan, dan telah meluncurkan sistem untuk model terbarunya (Claude 3.5 Opus, Sonnet, dan Haiku) di aplikasi Claude iOS dan Android serta petunjuk di web. .

Alex Albert, kepala hubungan pengembang Anthropic, mengatakan dalam sebuah posting di X bahwa Anthropic berencana untuk mempublikasikan informasi ini secara teratur seiring dengan pembaruan dan penyempurnaan sistem.