私の連絡先情報
郵便管理者@information.bz
2024-08-27
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
8月27日のIT House News、テクノロジーメディアTechcrunchが昨日(8月26日)報じた。Anthropic は、ClaudeAI モデルの「システム プロンプト」を公開しました。
システムプロンプト
AI モデルが人間の指示をよりよく理解できるようにするために、プロンプト プロジェクトには実際には、ユーザー プロンプトとシステム プロンプトという 2 つのコア コンテンツ層が含まれています。
ユーザープロンプトワード: ユーザーがプロンプトワードを入力すると、AI モデルがユーザープロンプトワードに基づいて回答を生成します。
システム プロンプト ワード: これらは、通常、会話のコンテキストを設定したり、ガイダンスを提供したり、ルールを指示したりするために使用される、システムによって生成されたプロンプトです。
IT ホームからのメモ: 通常、システム プロンプトの言葉によって、モデルはその基本的な性質と、何をすべきか、何をすべきではないかを理解できるようになります。
業界の一般的な慣行
OpenAI から Anthropic までのすべての生成 AI ベンダーは、システム プロンプトを使用して、モデルの誤動作を防止 (または少なくとも防止しようと試み) し、モデルの応答の全体的なトーンと感情をガイドします。
たとえば、システム プロンプト ワードは、モデルに対して、礼儀正しくすべきだが決して謝ってはいけない、またはすべてを知ることはできないことを正直に認めるように指示する場合があります。
ただし、メーカーは、競争などの理由や、悪意のあるユーザーがこの情報を知った後にセキュリティ保護を回避することを防ぐために、これらのシステム プロンプト ワードを秘密にしておく場合があります。
Anthropic はシステム プロンプト ワードの公開を選択
しかし、Anthropic は自社をより倫理的で透明性の高い AI サプライヤーとして描写するために懸命に努力しており、最新モデル (Claude 3.5 Opus、Sonnet、Haiku) のシステムを Claude iOS および Android アプリと Web ヒントで公開しました。 。
Anthropic の開発者関係責任者である Alex Albert 氏は、X への投稿の中で、Anthropic はシステム プロンプトの更新と微調整を行う際に、この情報を定期的に公開する予定であると述べました。